Fra AI til AGI? Hva skjer når vi kommer dit?

 

AI Beyond human control? Magasinet TIME inneholder i sin utgave datert 8. september i år en «AI SPECIAL REPORT» med tittel «Beyond human control» der de beskriver kappløpet om å utvikle Artificial General Intelligence (AGI) og den risiko forfatteren mener AGI vil påføre en allerede ustabil verden. Utgangspunktet er en forestilling om at AGI snart vil bli utviklet til et nivå der AGI kan gjøre alle oppgaver bedre, billigere og raskere enn mennesker. Open AI, Google, Microsoft, Amazon og Meta bruker nå hundrevis av milliarder USD for å bygge datasentre for å understøtte en slik utvikling. Donald Trump står bak følgende uttalelse i sakens anledning: «As our global competitors race to exploit these technologies, it is a national security imperative for the United States to achieve and maintain unquestioned and unchallenged global technological dominance». Noen av AI-utviklerne som arbeider i de aktuelle utviklingsmiljøene mener at det ikke er mulig å konstatere på forhånd at computere som er smartere enn mennesker vil bli vennligsinnede eller fiendtlige. De fleste i disse miljøene er også enige om at AI i fremtiden ikke vil kunne kontrolleres av menneskeskapte håndskrevne regler om sikkerhet. President Trump har som sitt svar på disse utfordringene presentert en AI Action Plan med fokus på investeringer i energi-infrastruktur, å fjerne forsinkende reguleringer, og å gi en boost til US-baserte datasentre og chip-produsenter.

AI-alarmister som tjener gode penger på KI-utvikling? Inga Strümke fra NTNU og Anders Løland fra Norsk Regnesentral skriver i et innlegg i DN 4. november om Sam Altman som leder OpenAI og hevder at det er mulig at vi får superintelligens om noen tusen dager. Om du ikke tror det samme som Altman får du ikke jobb i OpenAI. AGI (kunstig generell intelligens på norsk) er et sentralt begrep. «Ideen er at vi før eller siden vil lage et AGI-system og at dette vil øke sin egen intelligens inntil det oppnår super-intelligens, som på ukjent vis vil føre til menneskehetens undergang», i følge Strümke og Løland. Vi har nå i følge de to «..en næring full av rike menn som tror de er selve profeten. De mest kjente KI-alarmistene tjener gode penger på nettopp KI-utvikling i Silicon Valley». Og de samme menneskene «antar implisitt at en tilstrekkelig intelligent maskin kan etterligne mindre intelligente vesener, inkludert å tenke akkurat som et menneske. Men uten en måte å definere intelligens på (bortsett fra å peke på oss selv), vet vi ikke engang om intelligens er en størrelse som kan maksimeres». Innlegget til Strümke og Løland inneholder mye mer til ettertanke rundt aktuelle temaer og hva som bør vektlegges i dagens situasjon for menneskeheten, ut over KI og AGI, anbefales. En tidligere post fra 18. juni i 2024 på denne bloggen tar opp samme tema, men med noen alternative innfallsvinkler og resultater, for de som måtte være interessert. 

KI og AI og dystopiske fremtidsutsikter, eller? Vår venstre hjernehalvdel kan vi kopiere maskinelt og tilføre store datamengder. Men høyre hjernehalvdel er det ikke mulig å erstatte med en maskin. Bjørn Vassnes, som er Vitenskaps-journalist og fast bidragsyter i Klassekampen gir oss kanskje litt trøst opp i disse dystre fremtidsutsiktene i en post på denne bloggen fra 14. juni 2023. Tilsvarende alternative innfallsvinkler til fremtidens arbeidsmarked fremgår av en post fra januar 2023 der det hevdes at bare 5% av dagens jobber vil bli borte og at arbeidstakere får flere valgmuligheter.