AI/KI på godt og vondt

 

Frykten for bobla. Gustav Gillund hevdet i Klassekampen 26. februar 2026 at internasjonale investorer ser en amerikansk KI-boom som en svært stor trusselen. De amerikanske tek-gigantene i Silicon Vallley har de siste årene pøst store mengder kapital inn i utviklingen av AI/KI. Selskaper som Meta og Open AI klarer foreløpig ikke å omsette investeringene til tjenester som genererer store inntekter. Jamie Dimon, sjefen for verdens største bank JP Morgan Chase er blant de som nå mener at KI-boomen minner om tida før den globale finanskrisa i 2008. Store deler av veksten på USAs børser de siste årene kommer fra KI-boomen. USA økonomi er blitt mer og mer avhengig av denne satsingen, som også prioriteres av Donald Trump. En ny undersøkelse viser at mange investorer ikke kjøper fortellingen om at KI skal føre til  radikale samfunnsendringer. Bare 10% av deltakerne i undersøkelsen tror at KI i stor grad vil erstatte mennesker på arbeidsplassene i fremtiden. I et blogg-innlegg på denne bloggen i 26. juni i 2025 refereres det til flere fagfolk på området som heller ikke tror på de store omveltninger som følge av "KI-revolusjonen".

Slutt på manuelt kontorarbeid? Dagens Næringsliv 27. februar 2026 har dette som oppslag på et innlegg. Her hevdes det med henvisning til Siri M. Nilssen, som er konsernsjef i Amesto, som viser til Mustafa Suleyman i Microsoft: "Advokater, regnskapsførere, prosjektledere og markedsførere, profesjonsgrupper som i dag løser sine oppgaver med PC-er, vil oppleve at mange av deres oppgaver blir automatisert". Nilssen hevder at selv om manuelt arbeid etter hvert er automatisert "blir ikke behovet for medarbeidere og tjenester svekket". Nilssen hevder videre at "en del av oss har arbeidet med å automatisere oppgaver, digitalisert arbeid og løsninger, og drevet teknologiutvikling i en rekke år". "Færre manuelle arbeidsoppgaver reduserer ikke behovet for kompetanse.... når vi ser at regnskapstallene produseres raskere, blir tolkningen viktigere.. Når rapportene genereres automatisk, øker behovet for å forstå hva de betyr". "... i en stadig mer automatisert arbeidshverdag er det samspillet mellom automatikk og faglig forståelse som vinner frem. Nilsen siterer Suleyman som har uttalt at Microsofts mål "er å bygge humanistisk superintelligens". Det vil si teknologi som forblir under menneskelig kontroll". "Vinnerformelen fremover er faglig kompetanse pluss kunstig intelligens. Fag alene er ikke lenger nok". En post fra januar 2024 på denne bloggen inneholder et budskap som ligner dette.

Bytt ut Copilot! er et av budskapene i et oppslag i Dagens Næringsliv 6. mars 2026 forfattet av Michael A. Riegler professor ved Simulamet og Oslomet og Inga Strümke førsteamanuensis ved NTNU. Bakgrunnen er her at Anthropic, et av verdens ledende KI-selskaper ble utestengt fra et samarbeid med det amerikanske forsvarsdepartementet, ikke fordi de hadde gjort noe galt, men fordi de nektet å fire på sine egne sikkerhetskrav. De hadde blant annet bygget inn sperrer mot bruk av KI til autonome våpen  og til masseovervåking av amerikanske borgere. Forsvarsdepartementet svarte med å kreve at KI-systemene skulle åpnes for all bruk, uten dette ble det ingen kontrakt. Anthropic sa nei og mistet en kontrakt verdt 200 millioner dollar. OpenAI, selskapet bak Chat GPT inngikk en avtale om å ta over kontrakten. Copilot er bygget på OpenAIs teknologi. Det hører til saken at da Trump tiltrådte presidentvervet for andre gang, som noe av det første han gjorde, fjernet han rammeverket som skulle sikre ansvarlig KI-utvikling. Var det handlinger og beslutninger som dette som utløste at 165 jenteskole-elever i Iran ble drept? Går vi litt lenger tilbake i tid til januar 2023 var dette en relevant post på denne bloggen.

Mytene om kunstig intelligens (AI) er de bare myter eller mer enn myter?

 

Mytene om kunstig intelligens (AI) er de bare myter eller mer enn myter? I 2021 utga Erik J. Larson boken «The Myth of Artificial Intelligence». Larson hadde da bak seg to AI-startups. Han hadde, da boken ble utgitt, bak seg tester av AIs grenser gjennom arbeid ved IC2, en teknologi-inkubator ved University of Texas i Austin. Han skriver blant annet at «Myten om AI er ikke at AI er mulig». Fremtiden til AI er vitenskapelig sett usikker og den er ikke at vi først vil få AI som tenker som mennesker og deretter AI som er super-intelligent. Dette er forestillinger som er skapt av mennesker som ser seg tjent med slike forestillinger og som tjener penger ved å presentere slike forestillinger. Larson viser i boken sin til at ideen om kunstig maskinell intelligens har røtter tilbake til andre verdenskrig da en gruppe matematikere og sjakkspillere som arbeidet med, og også lykkes med, å knekke tyske "hemmelige" koder, som igjen gjorde at man kunne møte og hindre tyske fly- og bombeangrep. Kunne man få til dette måtte det være mulig også etter-hvert å utvikle intelligente maskiner som var like intelligente som mennesker og etter hvert mer intelligente, tenkte man da. Sjakk og sjakkspill har på flere måter vært sentralt med i utvikling av data-behandlende maskiner. 

KI og effektivisering av offentlig sektor. For noen år tilbake publiserte konsulentfirmaet Menon en rapport der konsulenter fra selskapet hevdet at kunstig intelligens kunne gi innsparinger i offentlig sektor tilsvarende 155.000 årsverk. Årsverk-beregningen viste seg i ettertid å stamme fra ChatGPT. Noen vil hevde at ChatGPT i den da foreliggende versjonen knapt kvalifiserer som det vi i dag omtaler som kunstig intelligens. Magnus Forsberg kommenterte denne saken i Dagsavisen 25. oktober i år og tilføyde at 15.000 av de 155.000 årsverkene som man ifølge rapporten kunne spare inn var beregnet å kunne hentes/innspares blant barnehage- og skolefritids-assistenter. Resultatet ble rapportert i tidsskriftet Stat og Styring som utgis av Scandinavian University Press/Universitetsforlaget. Forsberg viser i sin kommentar også til andre «KI-skandaler». En av disse er Tromsø kommune som søkte råd hos ChatGPT rundt hvilke skoler som skulle legges ned i kommunen. En annen KI-skandale er ifølge Forsberg knyttet til en ikke navngitt advokat som leverte et prosess-skriv til Høyesterett fullt av det Forsberg betegner som KI-hallusinerte rettskilder. Når vi først snakker om generelt «å spare» manuelle årsverk ved å innføre ny teknologi tar flere tidligere poster på denne bloggen friske anslag rundt potensialet for å spare inn årsverk ved innføring av slik teknologi som ikke har latt seg realisere. 

Finanssektoren satser stort på KI/AI og risikerer å pådra seg KI-gjeld! Få bransjer har tatt i bruk ny kunstig intelligens så raskt som finanssektoren hevder Zacharoula Papamitsiou og Raymond Andreas Stokke, som begge er forskere i Sintef, i et innlegg i Dagens Næringsliv 27. oktober. Det internasjonale pengefondet IMF mener at investeringer i KI-programvare, -maskinvare og -tjenester i finanssektoren mer enn dobles til nær 100 milliarder dollar innen 2027. Men hvilke resultater disse investeringene gir er usikker. Gjennomsnittlig avkastning i storskala KI-prosjekter er ifølge de to nevnte forskerne under seks prosent og mange selskaper klarer ikke å måle noen gevinst i det hele tatt. Utfordringene ligger i faren for at virksomhetene pådrar seg såkalt «KI-gjeld» som er langsiktige kostnader som bygger seg opp når virksomheter bygger opp komplekse KI-systemer raskt, uten å sette av ressurser til kontinuerlig å rette opp feil som oppstår underveis. Feilene kan, ifølge forskerne, skyldes skjeve eller ufullstendige datasett, ugjennomsiktige eller utdaterte algoritmer, samt manglende løpende teknisk og etisk kontroll. I finanssektoren finner vi de virksomhetene som i størst grad og tempo har tatt KI i bruk. Over 80% av handelen i finansmarkedene utføres nå av algoritmer. KI-systemene er etablert for å oppdage svindel, forutsi kreditt-tap, optimalisere porteføljer og gjennomføre handler i løpet av millisekunder. Den 5. august 2024 falt aksjemarkedene i Japan og USA kraftig. Det er uklart hvor stor rolle KI spilte, men mye tyder på at hedgefondene handlet samtidig da flere algoritmer samtidig "oppdaget" nedgangstrender. Hva vil skje når KI-modeller får enda større utbredelse? Opprydding i «KI-gjeld» er et helt nødvendige tiltak for å sikre robusthet som kan forhindre katastrofale tap i følge Papamitsiou og Stokke.

Om ikke-objektive data og ikke-nøytrale algoritmer. Andreas Ulfsten ansatt ved Institutt for informatikk ved UiO viser i et innlegg i Dagens Næringsliv 10. oktober i år, til at «Norge skal bli verdens mest digitaliserte land innen 2030» om vi skal tro digitaliserings-minister Karianne Tung. Han konkluderer med at dette må innebære at digitalisering vil få større utbredelse i samfunnet vårt og retter oppmerksomheten mot ledere i norsk næringsliv som med dette utfordres kraftig i sine roller som beslutningstakere. Samtidig viser han til at vi ofte setter «Menneskelig dømmekraft i opposisjon til rasjonelle analyser produsert av nøytrale algoritmer og objektive data», samtidig som han påstår at «dette påståtte skillet er kunstig». Data er ikke objektive og algoritmer er ikke nøytrale, hevder han som begrunnelse. Data produseres alltid om og innenfor en kontekst. Han viser til som eksempel at regnskaps-data produseres av regnskaps-avdelinger og produksjonsdata og kundedata produseres i produksjonsmiljøer og av markedsavdelinger og videre at også data om f.eks. nasjonaløkonomi og klimautfordringer hentes frem av institusjoner som arbeider for forskjellige formål. At algoritmer ikke er nøytrale skyldes blant annet disse skjevhetene i datasettene, men også at algoritmene er utviklet av mennesker som i utviklingsfasen ut fra egen kunnskap og erfaring gjør subjektive valg som påvirker hvordan data prosesseres. «At data ikke er objektive og algoritmer ikke nøytrale, betyr også at det antatte skillet mellom upålitelig menneskelig dømmekraft og rasjonelle maskiner er kunstig og bør forkastes» mener Ulfstein. Han mener derfor videre at menneske og maskin bør fungere sammen i viktige beslutningsprosesser.

Utfordringer knyttet til "kunstig intelligens" har vært tema for poster på denne bloggen både i august 2024 og i senest i august 2025.

Nå tar KI av eller???

 

Nå har vi KI med selvforsterkende forbedring. Onsdag 21. august 2024 kunne Aftenposten fortelle oss at Google Gemini nå har begynt å designe forbedringer av seg selv. OpenAI-sjefen Sam Altman tror hele yrkesgrupper vi forsvinne. Siden 1965 har de som kaller seg eksperter på slikt snakket om et punkt i utviklingen der datamaskiner blir så avanserte at de kan designe bedre utgaver av seg selv, såkalt selvforsterkende forbedring. Fra da av vil maskinenes intelligens øke med eksplosiv hastighet. Nå kommer også systemer som ikke trenger treningsdata, de kan generere disse selv. Vi er inne i en fase der det ikke tar mer enn 2-4 uker mellom hver gang en ny modell lanseres som er smartere enn den sist lanserte før. Google, Anthropic og OpenAI veksler om ledertrøyen. Altman mener imidlertid at vi fortsatt bare er på «larvestadiet» når vi ser fremover. Vi er forbi «hendelseshorisonten», takeoff har begynt. Menneskeheten er nær ved å bygge en digital superintelligens.

Men livet vi lever vil ikke forandre seg. Altman tror at livet i 2030-årene på mange måter ikke blir så forskjellig fra det livet vi lever i dag. Men prisen på intelligens vil nærme seg null og  yrkesgrupper kommer til å forsvinne. Vi kommer til å løse partikkelfysikk det ene året og starte koloniseringen av rommet det neste. KI-modellene vil bli 10 ganger mer effektive hver 12. måned. Prisen på intelligens synker med 99% på to år. Alt dette en forkortet utgave av oppslaget i Aftenposten. Her må vi ikke glemme hva Sam Altman lever av og at andre KI-forskere har helt andre og mer konservative tidslinjer. To KI-forskere som heter Ege Erdil fra tenketanken Epoch og Tamay Besiroglu i Epoch AI har anslått at det mest sannsynlig er 30 år frem til noe som ligner på en intelligenseksplosjon. Jeg har blogget om Sam Altman tidligere på denne bloggen i april i fjor da han var på det som ble kalt AI-turne i Europa. Mer om det finner du her om du er interessert.

Når snøballen ruller. Bjørn Vassnes, vitenskapsskribent i Klassekampen, skrev 19 juni i år et innlegg under tittelen «Når snøballen ruller». Han avslutter med å skrive: «Faren med KI ligger ikke først og fremst i at de skal «ta over», bli mer intelligente enn oss, men at de faktisk ikke handler intelligent». Han innleder med å advare mot situasjoner der noen med spesielle økonomiske interesser bringer seg i en posisjon der de kan påvirke de som bestemmer. Han bruker skjerm- og databruk i skolen som eksempel. Allerede tidlig på 2000-tallet hadde vi seriøs forskning som advarte om negative følger av skjerm- og databruk, spesielt for unge. På tross av dette ble «digitale ferdigheter» etablert som grunnleggende ferdighet i skoleverket uten en nærmere utredning av hva dette innebar. Evnen til å bruke teknologien kritisk og å vite når denne ikke skulle anvendes var ikke viktig. Man tenkte heller ikke at de digitale hjelpemidlene elevene lærte å bruke, ville være utdaterte lenge før de skulle ut i arbeidslivet eller at dette gikk på bekostning av andre grunnleggende ferdigheter. Konsekvensen ser vi i dag ifølge Vassnes i form av synkende lese- og skriveferdigheter. Smarttelefonen og sosiale medier fulgte og ble umulig å begrense. Det gikk, igjen ifølge Vassnes, mange år med mye forskning som påviste de negative effektene av disse (u)sosiale mediene – før skolemyndighetene begynte å gripe fatt i dette.

Vil ikke ha KI i skolen. Vassnes skriver en advarsel til de som nå måtte utsettes for press til å innføre KI i skolen. Han hevder at KI nok kan oppdage statistiske mønstre, men at KI ikke forstår hva disse mønstrene kommer av og slik kan komme til å presentere absurd lærdom slik som en KI nylig gjorde som fant korrelasjon mellom aksjekurs-svingninger og temperaturer i en småby i Montane, og handlet aksjer ut fra dette. Jeg har presentert Vassnes som kritiker av bruk av kunstig intelligens tidligere i en post fra juni 2023. Mer om dette finner du her om du er interessert.

Mytene om kunstig intelligens (AI) er myter. I 2021 utga Erik J. Larson boken «The Myth of Artificial Intelligence». Larson hadde da bak seg to AI-startups. Han hadde, da boken ble utgitt, bak seg tester av AIs grenser gjennom arbeid ved IC2, en teknologi-inkubator ved University of Texas i Austin. Han skriver blant annet, her fritt oversatt, Myten om AI er ikke at AI er mulig. Fremtiden til AI er vitenskapelig sett usikker og den er ikke at vi først vil få AI som tenker som mennesker og deretter AI som er super-intelligent. Dette er forestillinger som er skapt av mennesker som ser seg tjent med slike forestillinger og som tjener penger ved å presentere slike forestillinger. Alt vi vet så langt er at menneskelig intelligens og dagens maskin-intelligens er radikalt forskjellige. Spranget fra AI i dag til menneskelig sunn fornuft krever noe helt annet enn den teknologiske utvikling vi i dag ser, gjør oss nytte av og opplever. Mye tyder på at vi som mennesker har utfordringer med å forstille oss fremtiden. Kanskje slår det inn også her. Og når det gjelder spørsmål om mennesker vil miste jobber i hopetall er det lite som skulle tilsi at dette vil være en effekt av kunstig intelligens tar over. Historiske erfaringer med ny teknologi støtter ikke en slik utvikling.

Four Truths of the Storyteller. I 2007 desemberutgaven av Harvard Business Review, det er lenge siden, men dukket opp under en nylig opprydning i mitt arkiv. Kanskje er forfatteren Peter Gruber nær ved å kunne forklare oss hvorfor et budskap som formidles i 2025 er at superintelligent AI snart vil forandre både jobbene våre og livet vårt. Peter Gruber hevdet i 2007 at han hadde vært så heldig at han hadde fått arbeide med noen av verdens mest talentfulle storytellers, mange av dem var virksomhets-ledere, og fra disse hadde han fått innsikt i alkymien bak oppsiktsvekkende historier. Alkymi er ifølge ordlister en kombinasjon av filosofiske betraktninger, mystisisme og kjemisk viten. For ledere er storytelling en aksjonsorientert kraft rettet mot å gjøre drømmer om til mål og deretter til resultater. Autensitet er en avgjørende kvalitet for en storyteller. Vedkommende må være kongruent i sin fremstilling noe som forenklet betyr at det en sier, hvordan en sier det, og kroppsspråket, alt samsvarer. Du må identifisere ditt publikums emosjonelle behov og ønsker å møte dem med integritet, ikke bare med fakta, men også med forståelse for deres emosjonelle behov. Alle storytellere deltar i forventnings-management-virksomhet og har ansvar for å lede tilhørerne effektivt gjennom en historie-opplevelse som inkorporerer både overraskelser og oppfyllelse av forventninger. Du må som storyteller frembringe ditt budskap i en interaktiv fasong som innebærer at dine tilhørere opplever at de har vært med på å skape historien. Alt dette fritt oversatt og sterkt forkortet. Kan det være slik at frem-fortellingen av hva vi nå kan vente oss fra AI fronten først og fremst er storytelling? Tanken har vært der før.

På AI-turne i Europa med Sam Altman og OpenAI og Den store AI debatten.

På AI-turne i Europa med Sam Altman og OpenAI og Den store AI debatten. Noen har et mer pessimistisk syn på fremtiden med AI enn andre. Og hva med krigen i Gaza?

På AI-turne i Europa med Sam Altman og OpenAI. Magasinet Wired kunne sent i fjor rapportere fra en turne rundt om i verden der Sam Altman, som i sin tid startet OpenAi sammen med Elon Musk, og medarbeidere besøkte 25 byer på seks kontinenter i løpet av en måned og blant flere møtte statsledere, som Emmanuel Macron og Rishi Sunak etter invitasjoner. Tema var grovt sagt AI og fremtiden for arbeid, arbeidslivet og menneskeheten. Deler av budskapet var at OpenAI er et innovativt selskap bygget på ideen om at innovasjon er vegen frem til en fremtid som er god for alle. Målet er ubeskjedent nok å utvikle en superintelligens som kan adressere menneskehetens problemer bedre enn menneskene alene kan klare det.

Den store AI debatten – AI-pionerer er uenige om hva vi kan vente oss. Demis Hassabis, som er CEO i Google DeepMind mener han ikke tilhører den den mest pessimistiske leiren når det gjelde en fremtid med kunstig intelligens, men han skrev under på en uttalelse som inneholdt en advarsel om at kunstig intelligens representerte en samfunnsmessig risiko sammenlignbar med pandemier og kjernefysiske våpen. Samtidig slo han fast overfor The GuardianTheGuardian at han heller ikke tilhører den leiren av entusiaster som sier at der ikke er noe å bekymre seg for. Han mener dette kan gå bra og være til vår fordel, men vi må være aktivt med for å sørge for at det blir slik. Selskapet Hassabis leder står bak programmet AlphaFold som kan avdekke 3D-formen på proteiner i menneskekroppen og lage kataloger over proteiner i menneskekroppen og nesten alle andre så langt kjente proteiner. Dette gir oss innsikter som kan føre til utvikling av nye medisiner fordi vi etter hvert vil få oversikt over de biologiske byggeklossene som gjør liv mulig. Et nytt AI-program, AlphaMissense bruker sammen teknologi for å avdekke proteiner som fører til sykdommer. Men, sier ogå Hammis, AI vil også skape forstyrrelser i arbeidsmarkedet. Profesjoner innenfor lov og rett, medisin og finans er utsatte. I følge OECD vil så mye som 27% av arbeidsstokken i OECDs medlemsland bli berørt. Men den totale virkningen vil bli positiv etter hvert som økonomien og menneskene tilpasser seg den nye virkeligheten, mener Hassabis.

Noen har et mer pessimistisk syn på fremtiden med AI. Britiske Geoffrey Hinton, blir ofte omtalt som en av gudfedrene til moderne AI. Han sa opp sin jobb i Google i år for å kunne fremstå mer fritt med sine advarsler rundt AI-teknologien. Hans engstelse er knyttet til mulighetene enkelte AI-selskaper kan søke i retning av å utvikle intelligens uten å ta hensyn til menneskeheten. Etter hans oppfatning er biologisk intelligens og digitalintelligens svært forskjellig og digital intelligens er trolig glupest på flere områder. Stuart Russel, en annen britisk AI-forsker har advart mot et scenario der FN ber et AI-system til å utvikle en selv-multipliserende katalysator som kan rense verdens-havene gitt begrensningene at resultatet skal være avgiftning med den begrensning at at sjødyr ikke skal bli skadelidende. Dette kan være mulig, men kan fører med seg forbruk av oksygen tilsvarende 25% av det som i dag finnes i atmosfæren, og som fører med seg at menneskeheten dør ut. Nevnte Hassabis peker for sin del på tre kategorier av risiko som man bør arbeide mot og med parallelt. For det første deepfakes og bias rettet mot å påvirke valg av politikere og styresett noe vil allerede i dag møter i betydelig grad. For det andre er aktører som ved hjelp av AI skaffer seg kontroll over private og offentlige datasystemer for så å kreve løsepenger for ikke å skade eller ødelegge disse. For det tredje peker Hassabis på AGI (Artificial General Intelligence) som kanskje fortsatt er noen år frem i tid, men som kommer og der man bør sikre kontroll med utviklingen allerede fra i dag. Vi snakker om systemer som er utviklet til et nivå der de kan kopiere seg selv og slik vi ikke lenger har kontroll.

AI og krigen i Israel og Gaza og utfordringer nå. I Klassekampen16. april i år kan vi lese at FN er bekymret over Israels bruk av AI i sin krigføring på Gaza. Klassekampen viser igjen til den israelske nettavisen +972 Magazine. Fire eksperter fra FN påstår at Israel bruker kunstig intelligens for å identifisere mål i form av boliger og infrastruktur for sivile tjenester. Slik har Israel identifisert titusener av innbyggere på Gazastripen som mulige drapsmål. Et system kalt Habsora, som støttes av kunstig intelligens, blir brukt for å identifisere boliger der det angivelig bor Hamas-medlemmer. Angrepene skjer vanligvis om natten når folk sover i sine hjem, og med lite hensyn til «sivile» som da oppholder seg i eller rundt hjemmene sine. De nevnte ekspertene peker også på bombingen av «kraftmål», store og høye bygninger med boliger eller offentlige funksjoner som bombes med den hensikt å sjokkere befolkningen og øke presset på Hamas.

Mer om AI på denne bloggen. Det finnes allerede flere poster på denne bloggen som tar opp muligheter og problemstillinger rundt bruk av AI og eller Kunstig intelligens. De kan avdekkes ved søk på bloggen, men her er adressene til noen av de mest relevante KI og AI og dystopiske fremtidsutsikter, eller? Vil vi snart møte intelligente dataprogrammer med sjel og bevissthet, eller? Kunstig intelligens (AI), etikk og EUs retningslinjer for tillitsvekkende bruk av AI.

 

KI og AI og dystopiske fremtidsutsikter, eller?

KI og AI og dystopiske fremtidsutsikter. Kunstig intelligens er en eksistensiell trussel. Men vår høyre hjernehalvdels funksjoner er det ikke mulig å erstatte med en maskin.

KI og AI og dystopiske fremtidsutsikter. 8. mai i år ble det publisert en post om dystopier på denne bloggen. Hoved-inspirasjonen da var Russlands reviderte utenrikspolitikk som i hvert fall jeg oppfatter som dystopiske. Den beskriver en «fremtidig verden og et samfunn med et uhyggelig, avskrekkende sosialt, rettslig og politisk system». Det er ikke vanskelig å finne inspirasjon til andre dystopiske fremtidsutsikter i dag. Bare tenk på Det Grønne Skiftet og alt som kan gå galt når vi skal realisere dette. Eller tenk på Kunstig Intelligens som noen mener er i ferd med å nå singularitets-nivået der vi mister kontrollen og maskinene overtar og styrer oss. Det er disse siste utfordringene som i første omgang er tema her. 

Kunstig intelligens er en eksistensiell trussel. Forskerne Aksel Braanen Sterri og Jakob Graabak bruker i Aftenposten 7. juni denne overskriften på et debattinnlegg. De mener at å redusere risikoen for at kunstig intelligens utrydder menneskeheten bør være en global prioritet på lik linje med andre store samfunnsrisikoer som pandemier og atomkrig. De henviser til et opprop signert av 350 eksperter, forskere og industriledere 30. mai i år. Et opprop som fikk internasjonal oppmerksomhet. Som eksempel på skadelig algoritmer vi allerede for år tilbake har erfart konsekvensene av viser de til de som ble brukt for å kjøpe og selge aksjer på New York-børsen rundt år 2010. Disse skapte enorm profitt helt til de i 2010 førte til et «flash crash» på børsen der tusenvis av milliarder dollar gikk tapt. Frykten for fremtiden er, ifølge Braanen Sterri og Graabak, at teknologien vil bli misbrukt til å utvikle og lage masseødeleggelsesvåpen, fremprovosere omfattende systemsvikt eller at det lages superintelligente systemer som utsletter oss. Regimene som har styrt utviklingen av ChatGPT og AlphaFold gir ingen garantier for at dette ikke kan skje. Vi vet ikke hvilke interne regler maskinene utvikler, og om de er i vår interesse. Og vi vet ikke om vi har mulighet til å finne og til å «trykke på av-knappen» i tide. Forfatterne her foreslå at vi som samfunn må ta initiativ til å regulere kunstig intelligens for å hindre bruk av teknologien til å utvikle masseødeleggelses-våpen. Vi må kreve at teknologiselskapene ikke bistår ondsinnede aktører. Vi må utvikle sikkerhetsstandarder for utvikling og utrulling av nye kunstig-intelligens-modeller. Sikre at godene fra kunstig intelligens blir tilgjengelig samfunnsgode for alle, at ikke bare de som utvikler disse systemene samler rikdom på egen hånd. Kanskje er det lettere sagt og skrevet enn å realisere.

Få trodde dette var noe som kunne bli smartere enn mennesker. Geoffrey Hinton advarer verden mot sin egen oppfinnelse. Advarselen er gjengitt i Aftenposten 3. mai i år. Geoffrey Hinton, som nå er 75 år, revolusjonerte datateknologien med sin utvikling av dyp maskin-læring og kunstig intelligens. Teknologien gjorde det mulig for maskiner å finne mønstre og løsninger gjennom å kombinere store datamengder, bilder og lyd. Hintons prosjekt ble kjøpt av Google for over ti år siden. Kappløpet som etter hvert ga oss ChatGPT, Bing, Google Bard og flere var i gang. Hinton har nå brutt med Google for, som han sier, «slik at jeg kan snakke fritt om hvilken fare kunstig intelligens utgjør». Han mener at denne teknologien kan bli utnyttet til onde hensikter og bli en trussel mot hele menneskeheten. Han viser til at chatbotene har klart å utvikle og endre sin egen programkode, opptre utspekulert og «lure mennesker trill rundt». Hinton frykter at internett snart oversvømmes av falske bilder, videoer og nyheter. Det vil bli vanskelig å skille hva som er ekta fra hva som er KI-fake. Han mener KI og kunstig intelligens på sikt vil stjele hundretusener av arbeidsplasser – vil overta ufaglært jobber – svartjenester og kundebehandling. Noen kan i verste fall skape selvdrevne og selv-utviklende ødeleggelses-roboter. Hinton mener for sin del at det kan være vanskeligere å få global kontroll og regulering av KI enn av atomvåpen. Det er ikke vanskelig å være enig med Hinton her. Kontrollen av hvilke aktiviteter som foregår hvor er velutviklet og mye strengere når det gjelde atomvåpen. Kontrollen med hva som foregår på KI-området er vanskeligere å etablere på grunn av at konkurransen mellom langt flere kommersielle og statlige aktører, og mellom stater, er heftigere. 

Vår venstre hjernehalvdel kan vi kopiere maskinelt og tilføre store datamengder. Men høyre hjernehalvdel er det ikke mulig å erstatte med en maskin. Bjørn Vassnes, som er Vitenskaps-journalist og fast bidragsyter i Klassekampen gir oss kanskje litt trøst opp i disse dystre fremtidsutsiktene. Han skriver 8. juni i år også om Kunstig intelligens, men hevder at slik intelligens ikke kan mestre den menneskelige hjernens «ping-pong-spill». Han mener at vi til nå har fokusert på teknologien som understøtter kunstig intelligens slik vi møter den i dag, men glemt oss selv og hvordan vi er. «Selv om maskiner kan søke og regne bedre enn oss, har de hverken den praktiske eller sosiale fornuften som vi trenger for å navigere i det virkelige liv». Som mennesker, mener Vassnes, har vi noen måter å tenke å løse problemer på som vi ikke kan overføre til maskiner, fordi vi ikke selv forstår hvordan vi gjør det. Vi har laget maskiner som «tenker» deduktivt logisk og laget klassisk kunstig intelligens. Vi har prøvd å etterligne nevrale nettverk og utviklet såkalt «maskinlæring». Og vi har kombinert disse metodene med tilgang til store mengder data fra internett. Men vi har ikke erstattet menneskelig intelligens med dette. Svaret på at vi ikke lykkes med å erstatte menneskelig intelligens mener Vassnes ligger i at vi som mennesker er utstyrt med to hjerner. «Den venstre halvdelen er en slags logikk- og språkcomputer, som jobber steg for steg, bit for bit, mens den høyre halvdelen oppfatter helheter. Den tolker også emosjoner og tvetydigheter bedre enn den venstre, som på mange måter fungerer mer autistisk». Funksjonene til venstre hjernehalvdel kan vi kopiere maskinelt og tilføre store datamengder. Høyre hjernehalvdels funksjoner og bidrag er det umulig å lage maskin som erstatning, i alle fall ikke foreløpig, skal vi tro Vassnes. Her kort fortalt. Originalartikkelen til Vassnes finner du her. 

Bevissthet er sterkt og grundig koplet med vår natur som levende vesener. Vassnes synspunkter støttes av Anil Seth som er professor i «cognitive and computational neuroscience» Seth er det referert til i en post 4. januar i år på denne bloggen. Seth mener det er viktig å skille mellom intelligens og bevissthet. Dette gjør han i en kommentar til Google-ingeniøren Blake Lemoine som ble overbevist om at AI-programmet han hadde arbeidet med, LaMDA, ikke bare hadde utviklet intelligens, men også egen bevissthet. Bevissthet er sterkt og grundig koplet sammen med vår natur som levende vesener, sier Seth. Han mener videre at kommende versjoner av kunstige intelligenser, ettersom algoritmene forbedres og trenes på stadig større hav av data, vil kunne være i stand til å overbevise flere mennesker til å tro at det er bevisste kunstige intelligenser som har utviklet seg der inne i algoritmen. Men bevissthet er altså noe som er koplet sammen med vår natur som levende vesener. Alternativ fremtidsutsikter for mennesker i et arbeidsliv med kunstig intelligens finnes også i flere poster på denne bloggen blant annet her. Dette som en motvekt til de mørke fremtidsutsiktene som ellers preger denne posten.