Fra AI til AGI? Hva skjer når vi kommer dit?

 

AI Beyond human control? Magasinet TIME inneholder i sin utgave datert 8. september i år en «AI SPECIAL REPORT» med tittel «Beyond human control» der de beskriver kappløpet om å utvikle Artificial General Intelligence (AGI) og den risiko forfatteren mener AGI vil påføre en allerede ustabil verden. Utgangspunktet er en forestilling om at AGI snart vil bli utviklet til et nivå der AGI kan gjøre alle oppgaver bedre, billigere og raskere enn mennesker. Open AI, Google, Microsoft, Amazon og Meta bruker nå hundrevis av milliarder USD for å bygge datasentre for å understøtte en slik utvikling. Donald Trump står bak følgende uttalelse i sakens anledning: «As our global competitors race to exploit these technologies, it is a national security imperative for the United States to achieve and maintain unquestioned and unchallenged global technological dominance». Noen av AI-utviklerne som arbeider i de aktuelle utviklingsmiljøene mener at det ikke er mulig å konstatere på forhånd at computere som er smartere enn mennesker vil bli vennligsinnede eller fiendtlige. De fleste i disse miljøene er også enige om at AI i fremtiden ikke vil kunne kontrolleres av menneskeskapte håndskrevne regler om sikkerhet. President Trump har som sitt svar på disse utfordringene presentert en AI Action Plan med fokus på investeringer i energi-infrastruktur, å fjerne forsinkende reguleringer, og å gi en boost til US-baserte datasentre og chip-produsenter.

AI-alarmister som tjener gode penger på KI-utvikling? Inga Strümke fra NTNU og Anders Løland fra Norsk Regnesentral skriver i et innlegg i DN 4. november om Sam Altman som leder OpenAI og hevder at det er mulig at vi får superintelligens om noen tusen dager. Om du ikke tror det samme som Altman får du ikke jobb i OpenAI. AGI (kunstig generell intelligens på norsk) er et sentralt begrep. «Ideen er at vi før eller siden vil lage et AGI-system og at dette vil øke sin egen intelligens inntil det oppnår super-intelligens, som på ukjent vis vil føre til menneskehetens undergang», i følge Strümke og Løland. Vi har nå i følge de to «..en næring full av rike menn som tror de er selve profeten. De mest kjente KI-alarmistene tjener gode penger på nettopp KI-utvikling i Silicon Valley». Og de samme menneskene «antar implisitt at en tilstrekkelig intelligent maskin kan etterligne mindre intelligente vesener, inkludert å tenke akkurat som et menneske. Men uten en måte å definere intelligens på (bortsett fra å peke på oss selv), vet vi ikke engang om intelligens er en størrelse som kan maksimeres». Innlegget til Strümke og Løland inneholder mye mer til ettertanke rundt aktuelle temaer og hva som bør vektlegges i dagens situasjon for menneskeheten, ut over KI og AGI, anbefales. En tidligere post fra 18. juni i 2024 på denne bloggen tar opp samme tema, men med noen alternative innfallsvinkler og resultater, for de som måtte være interessert. 

KI og AI og dystopiske fremtidsutsikter, eller? Vår venstre hjernehalvdel kan vi kopiere maskinelt og tilføre store datamengder. Men høyre hjernehalvdel er det ikke mulig å erstatte med en maskin. Bjørn Vassnes, som er Vitenskaps-journalist og fast bidragsyter i Klassekampen gir oss kanskje litt trøst opp i disse dystre fremtidsutsiktene i en post på denne bloggen fra 14. juni 2023. Tilsvarende alternative innfallsvinkler til fremtidens arbeidsmarked fremgår av en post fra januar 2023 der det hevdes at bare 5% av dagens jobber vil bli borte og at arbeidstakere får flere valgmuligheter. 

Fallgruver og muligheter ved videre utvikling av kunstig intelligens.

  Vi har utfordringer med å forestille oss fremtiden. Vi er rett og slett dårlige til "å se den".

På innsiden av Teknologi-revolusjonen rundt kunstig intelligens. Linn Kongsli Hillestad rapporterer i Aftenposten 18. desember før jul i fjor fra San Franciscos. Sam Francisco beskrives som sentrum for KI-revolusjonen. De pengesterke og spekulanter følger med. De mest suksessrike San Franciscos baserte selskapene som arbeider med å utvikle kunstig intelligens ligger ifølge de som regner på sånt an til å doble og triple selskaps-verdien de neste halvåret og lokker med stillinger med årslønner i 100 millioners klassen (målt i norske kroner) om vi skal tro reportasjen. Slike utsikter tiltrekker seg både skarpe hoder, drømmere og spekulanter.

Farer og muligheter ved videre utvikling av kunstig intelligens. Pessimistene snakker om massearbeidsledighet, spredning av desinformasjon, utvikling av teknologi for avanserte cyber-angrep, muligheter for utvikling av nye kjemiske og biologiske våpen, at vi kan miste kontrollen over utvikling av vår sivilisasjon. Optimistene viser til muligheter for utvikling av nye medisiner, fusjons-energi, teknologi for effektivisering av produksjonsprosesser, teknologi for å bekjempe klimaendringer. De er opptatt av at den lovgivningen for å regulere utviklingen blir balansert slik at man beskytter mennesker samtidig som man åpner for konkurranse som muliggjør teknologiutvikling i positiv retning. Utfordringene er åpenbare. Og når lønns-utsiktene er som det antydes innledningsvis er det er trolig lettere sagt enn gjort.

Det er ulovlig å kopiere og spre opphavsretts-beskyttet innhold. Einar Ibenholt som er Strategidirektør i Gyldendal Norsk Forlag repeterer dette for oss i innlegg i Klassekampen 12. desember i fjor. I Norge har vi for eksempel en åndsverklov som i §2 første ledd slår fast at opphavspersonen har en «enerett til å råde over åndsverket ved fremstille varig eller midlertidig eksemplar av det og ved å gjøre det tilgjengelig for allmenheten….». Ibenholt forteller oss videre «for at en generativ språk-modell skal fungere må den «mates» med og «trenes» på store mengder tekster av høy kvalitet. Språk-modellene til Meta og Bloomberg ble basert på det hackede korpuset Books3. OpenAI har trolig benyttet det hackede korpuset Library Genesis». Ibenholdt skriver videre at å la en norsk språk-modell bli trent på opphavsrettslig beskyttet materiale er å legge til rette for en nasjonal godkjent industriell plagiat-maskin. Han mener også det vil fjerne kommende generasjoners motivasjon for i det hele tatt å skape nye åndsverk.

Vi har utfordringer med å forestille oss fremtiden. Vi er rett og slett dårlige til "å se den".  Richard Fisher, journalist i BBC Future arbeider med, og skriver om, vitenskap og teknologi. Han utga i fjor boken The Long View: Why We Need to Transform How the World Sees Time (Wildfire, March 2023). Han skrev også en artikkel i New Scientist 25. mars om temaet. Fisher innleder med å slå fast at det nå er enighet blant fremtidsforskere om at kortsiktig tenkning er et betydelig problem i industrialiserte samfunn. Manglende evne til å engasjere seg i å utvikle realistiske fremtidsutsikter og -konsekvenser blir tydelig i møte med fremtidens alvorlige utfordringer, som klimaendringer, tap av biologisk mangfold, utvikling av antibiotika resistens, økende inntekts- og levekårs-ulikheter, farene for atomkrig mv. Vi lever i en tid da øyeblikket og nåtiden får stor plass, det noen vil kalle «øyeblikkets tyranni». Både næringslivet og politikerne har nærtids-fokus på kvartalsresultater og neste valg, respektive. Børser leverer online aksjekurser rettet mot kjøp, salg og gevinst på investeringer her og nå. Fisher peker på flere andre mekanismer som bidrar til denne «nærsyntheten». Han hevder at vi har en tilbøyelighet til å vektlegge lett tilgjengelig informasjon og samtidig skyve på beslutninger der informasjon er mer usikker, som den alltid vil være når det gjelder fremtiden. Finnes det i det hele tatt historisk erfaring med innføring av ny revolusjonerende teknologi så er den at "det tar tid".

Smart cities, Intelligent cities, Green cities. Rundt 2010 ble begrepet Smart cities introdusert som en fremtidsversjon for byutvikling. Andre versjoner med omtrent samme innhold var Intelligent cities eller Green cities. De siste var et mer direkte svar på miljøutfordringene og global oppvarming, men informasjonsteknologi og utviklingen av denne var sentral i alle versjoner av disse fremtidsbyene.  MIT Technology Review og Jennifer Clark, stilte i 2021 spørsmålet: «Technology can help fix many problems that cities face to day. So why hasn’t it? IBM’s Smarter Cities Challenge in 2010 fremstilles av Clark som begynnelsen på «Smart City» bølgen. IBM tilbød substansielle belønninger i form av teknologi verdt mange millioner USD til byer som ønsket å oppgradere sin infrastruktur. Flere konkurranser fulgte og med disse en rekke pilotprosjekter der også andre tech-firmaer og individuelle byer inngikk partnerskap for å oppgradere store by-systemer for transport, energi, VAR og/eller kommunikasjon. Med årene ble prosjektene og leverandørene mer spesialiserte innrettet mot leveranser av for eksempel kommunikasjonsnettverk og sensorer. Det ble mindre fokus på å bygge systemer for oppgradering av fysisk infrastruktur, mer innretning mot å utvikle nye digitale tjenester for enkeltsektorer. Prosjektene ble drevet frem av selskaper som var vant til å skape sine egne markeder for sine produkter. Covid-pandemien avslørte at de smarte byene ikke var blitt smarte. Fokus var feil. Prosjektene som ble igangsatt var ikke primært rettet mot å oppgradere byenes infrastruktur. De var rettet mot å utvikle markeder for ny teknologi og nye tjenester og for de data disse gjør tilgjengelig. De mest synlige «smart-city» suksess-historiene per i dag er software-baserte delingstjenester som kjøreturdeling, bildeling, el-sparkesykler, leilighetsformidling, og co-working. 

Fra «people versus computers» til «people and computers». «Fremtidens arbeidsmarked», med stadig mer velutviklet kunstig intelligens "AI", og kanskje til slutt overlegent AI, har lenge vært en utfordring og stadig mer skremmende fremstilt for oss som mennesker. I 2018, for bare drøyt fem år siden, fant de som drev med slik fremtids-forskning ut at: «We have spent way too much time thinking about people versus computers, and not nearly enough time thinking about people and computers». Å redefinere arbeid med fokus på menneske og kunstig intelligens i samarbeid ble ei greie. Da så fremtiden i 2018 straks lysere ut. Noen fant til og med ut at «en menneske jobb», slik arbeidslivet i dag er organisert, fyller 20-30 ulike og forskjellige funksjoner. En slik arbeids-virkelighet vil det opplagt være vanskelig å digitalisere og automatisere under ett. Kevin Scott som er Chief technology officer i Microsoft hevder nå at fremskritt på områdene AI-modeller, superdatamaskin-teknikker og nye applikasjoner i neural network arkitektur, kanskje allerede i 2023, vil kunne frigjøre arbeidskraft fra dagens tidkrevende og menneske-styrt koding. Han hevder at KI (eller AI) vil kunne overta kodingen slik at menneskene kan konsentrere seg om å være kreative og foreslå løsninger via «Natural language input» som AI så kan kode og prøve ut. Det høres jo ut som et ganske løfterikt samarbeid og liv for fremtiden. Kanskje er det på tide å ta et skritt tilbake å tenke seg litt om.