AI/KI på godt og vondt

 

Frykten for bobla. Gustav Gillund hevdet i Klassekampen 26. februar 2026 at internasjonale investorer ser en amerikansk KI-boom som en svært stor trusselen. De amerikanske tek-gigantene i Silicon Vallley har de siste årene pøst store mengder kapital inn i utviklingen av AI/KI. Selskaper som Meta og Open AI klarer foreløpig ikke å omsette investeringene til tjenester som genererer store inntekter. Jamie Dimon, sjefen for verdens største bank JP Morgan Chase er blant de som nå mener at KI-boomen minner om tida før den globale finanskrisa i 2008. Store deler av veksten på USAs børser de siste årene kommer fra KI-boomen. USA økonomi er blitt mer og mer avhengig av denne satsingen, som også prioriteres av Donald Trump. En ny undersøkelse viser at mange investorer ikke kjøper fortellingen om at KI skal føre til  radikale samfunnsendringer. Bare 10% av deltakerne i undersøkelsen tror at KI i stor grad vil erstatte mennesker på arbeidsplassene i fremtiden. I et blogg-innlegg på denne bloggen i 26. juni i 2025 refereres det til flere fagfolk på området som heller ikke tror på de store omveltninger som følge av "KI-revolusjonen".

Slutt på manuelt kontorarbeid? Dagens Næringsliv 27. februar 2026 har dette som oppslag på et innlegg. Her hevdes det med henvisning til Siri M. Nilssen, som er konsernsjef i Amesto, som viser til Mustafa Suleyman i Microsoft: "Advokater, regnskapsførere, prosjektledere og markedsførere, profesjonsgrupper som i dag løser sine oppgaver med PC-er, vil oppleve at mange av deres oppgaver blir automatisert". Nilssen hevder at selv om manuelt arbeid etter hvert er automatisert "blir ikke behovet for medarbeidere og tjenester svekket". Nilssen hevder videre at "en del av oss har arbeidet med å automatisere oppgaver, digitalisert arbeid og løsninger, og drevet teknologiutvikling i en rekke år". "Færre manuelle arbeidsoppgaver reduserer ikke behovet for kompetanse.... når vi ser at regnskapstallene produseres raskere, blir tolkningen viktigere.. Når rapportene genereres automatisk, øker behovet for å forstå hva de betyr". "... i en stadig mer automatisert arbeidshverdag er det samspillet mellom automatikk og faglig forståelse som vinner frem. Nilsen siterer Suleyman som har uttalt at Microsofts mål "er å bygge humanistisk superintelligens". Det vil si teknologi som forblir under menneskelig kontroll". "Vinnerformelen fremover er faglig kompetanse pluss kunstig intelligens. Fag alene er ikke lenger nok". En post fra januar 2024 på denne bloggen inneholder et budskap som ligner dette.

Bytt ut Copilot! er et av budskapene i et oppslag i Dagens Næringsliv 6. mars 2026 forfattet av Michael A. Riegler professor ved Simulamet og Oslomet og Inga Strümke førsteamanuensis ved NTNU. Bakgrunnen er her at Anthropic, et av verdens ledende KI-selskaper ble utestengt fra et samarbeid med det amerikanske forsvarsdepartementet, ikke fordi de hadde gjort noe galt, men fordi de nektet å fire på sine egne sikkerhetskrav. De hadde blant annet bygget inn sperrer mot bruk av KI til autonome våpen  og til masseovervåking av amerikanske borgere. Forsvarsdepartementet svarte med å kreve at KI-systemene skulle åpnes for all bruk, uten dette ble det ingen kontrakt. Anthropic sa nei og mistet en kontrakt verdt 200 millioner dollar. OpenAI, selskapet bak Chat GPT inngikk en avtale om å ta over kontrakten. Copilot er bygget på OpenAIs teknologi. Det hører til saken at da Trump tiltrådte presidentvervet for andre gang, som noe av det første han gjorde, fjernet han rammeverket som skulle sikre ansvarlig KI-utvikling. Var det handlinger og beslutninger som dette som utløste at 165 jenteskole-elever i Iran ble drept? Går vi litt lenger tilbake i tid til januar 2023 var dette en relevant post på denne bloggen.

Mytene om kunstig intelligens (AI) er de bare myter eller mer enn myter?

 

Mytene om kunstig intelligens (AI) er de bare myter eller mer enn myter? I 2021 utga Erik J. Larson boken «The Myth of Artificial Intelligence». Larson hadde da bak seg to AI-startups. Han hadde, da boken ble utgitt, bak seg tester av AIs grenser gjennom arbeid ved IC2, en teknologi-inkubator ved University of Texas i Austin. Han skriver blant annet at «Myten om AI er ikke at AI er mulig». Fremtiden til AI er vitenskapelig sett usikker og den er ikke at vi først vil få AI som tenker som mennesker og deretter AI som er super-intelligent. Dette er forestillinger som er skapt av mennesker som ser seg tjent med slike forestillinger og som tjener penger ved å presentere slike forestillinger. Larson viser i boken sin til at ideen om kunstig maskinell intelligens har røtter tilbake til andre verdenskrig da en gruppe matematikere og sjakkspillere som arbeidet med, og også lykkes med, å knekke tyske "hemmelige" koder, som igjen gjorde at man kunne møte og hindre tyske fly- og bombeangrep. Kunne man få til dette måtte det være mulig også etter-hvert å utvikle intelligente maskiner som var like intelligente som mennesker og etter hvert mer intelligente, tenkte man da. Sjakk og sjakkspill har på flere måter vært sentralt med i utvikling av data-behandlende maskiner. 

KI og effektivisering av offentlig sektor. For noen år tilbake publiserte konsulentfirmaet Menon en rapport der konsulenter fra selskapet hevdet at kunstig intelligens kunne gi innsparinger i offentlig sektor tilsvarende 155.000 årsverk. Årsverk-beregningen viste seg i ettertid å stamme fra ChatGPT. Noen vil hevde at ChatGPT i den da foreliggende versjonen knapt kvalifiserer som det vi i dag omtaler som kunstig intelligens. Magnus Forsberg kommenterte denne saken i Dagsavisen 25. oktober i år og tilføyde at 15.000 av de 155.000 årsverkene som man ifølge rapporten kunne spare inn var beregnet å kunne hentes/innspares blant barnehage- og skolefritids-assistenter. Resultatet ble rapportert i tidsskriftet Stat og Styring som utgis av Scandinavian University Press/Universitetsforlaget. Forsberg viser i sin kommentar også til andre «KI-skandaler». En av disse er Tromsø kommune som søkte råd hos ChatGPT rundt hvilke skoler som skulle legges ned i kommunen. En annen KI-skandale er ifølge Forsberg knyttet til en ikke navngitt advokat som leverte et prosess-skriv til Høyesterett fullt av det Forsberg betegner som KI-hallusinerte rettskilder. Når vi først snakker om generelt «å spare» manuelle årsverk ved å innføre ny teknologi tar flere tidligere poster på denne bloggen friske anslag rundt potensialet for å spare inn årsverk ved innføring av slik teknologi som ikke har latt seg realisere. 

Finanssektoren satser stort på KI/AI og risikerer å pådra seg KI-gjeld! Få bransjer har tatt i bruk ny kunstig intelligens så raskt som finanssektoren hevder Zacharoula Papamitsiou og Raymond Andreas Stokke, som begge er forskere i Sintef, i et innlegg i Dagens Næringsliv 27. oktober. Det internasjonale pengefondet IMF mener at investeringer i KI-programvare, -maskinvare og -tjenester i finanssektoren mer enn dobles til nær 100 milliarder dollar innen 2027. Men hvilke resultater disse investeringene gir er usikker. Gjennomsnittlig avkastning i storskala KI-prosjekter er ifølge de to nevnte forskerne under seks prosent og mange selskaper klarer ikke å måle noen gevinst i det hele tatt. Utfordringene ligger i faren for at virksomhetene pådrar seg såkalt «KI-gjeld» som er langsiktige kostnader som bygger seg opp når virksomheter bygger opp komplekse KI-systemer raskt, uten å sette av ressurser til kontinuerlig å rette opp feil som oppstår underveis. Feilene kan, ifølge forskerne, skyldes skjeve eller ufullstendige datasett, ugjennomsiktige eller utdaterte algoritmer, samt manglende løpende teknisk og etisk kontroll. I finanssektoren finner vi de virksomhetene som i størst grad og tempo har tatt KI i bruk. Over 80% av handelen i finansmarkedene utføres nå av algoritmer. KI-systemene er etablert for å oppdage svindel, forutsi kreditt-tap, optimalisere porteføljer og gjennomføre handler i løpet av millisekunder. Den 5. august 2024 falt aksjemarkedene i Japan og USA kraftig. Det er uklart hvor stor rolle KI spilte, men mye tyder på at hedgefondene handlet samtidig da flere algoritmer samtidig "oppdaget" nedgangstrender. Hva vil skje når KI-modeller får enda større utbredelse? Opprydding i «KI-gjeld» er et helt nødvendige tiltak for å sikre robusthet som kan forhindre katastrofale tap i følge Papamitsiou og Stokke.

Om ikke-objektive data og ikke-nøytrale algoritmer. Andreas Ulfsten ansatt ved Institutt for informatikk ved UiO viser i et innlegg i Dagens Næringsliv 10. oktober i år, til at «Norge skal bli verdens mest digitaliserte land innen 2030» om vi skal tro digitaliserings-minister Karianne Tung. Han konkluderer med at dette må innebære at digitalisering vil få større utbredelse i samfunnet vårt og retter oppmerksomheten mot ledere i norsk næringsliv som med dette utfordres kraftig i sine roller som beslutningstakere. Samtidig viser han til at vi ofte setter «Menneskelig dømmekraft i opposisjon til rasjonelle analyser produsert av nøytrale algoritmer og objektive data», samtidig som han påstår at «dette påståtte skillet er kunstig». Data er ikke objektive og algoritmer er ikke nøytrale, hevder han som begrunnelse. Data produseres alltid om og innenfor en kontekst. Han viser til som eksempel at regnskaps-data produseres av regnskaps-avdelinger og produksjonsdata og kundedata produseres i produksjonsmiljøer og av markedsavdelinger og videre at også data om f.eks. nasjonaløkonomi og klimautfordringer hentes frem av institusjoner som arbeider for forskjellige formål. At algoritmer ikke er nøytrale skyldes blant annet disse skjevhetene i datasettene, men også at algoritmene er utviklet av mennesker som i utviklingsfasen ut fra egen kunnskap og erfaring gjør subjektive valg som påvirker hvordan data prosesseres. «At data ikke er objektive og algoritmer ikke nøytrale, betyr også at det antatte skillet mellom upålitelig menneskelig dømmekraft og rasjonelle maskiner er kunstig og bør forkastes» mener Ulfstein. Han mener derfor videre at menneske og maskin bør fungere sammen i viktige beslutningsprosesser.

Utfordringer knyttet til "kunstig intelligens" har vært tema for poster på denne bloggen både i august 2024 og i senest i august 2025.

Fra AI til AGI? Hva skjer når vi kommer dit?

 

AI Beyond human control? Magasinet TIME inneholder i sin utgave datert 8. september i år en «AI SPECIAL REPORT» med tittel «Beyond human control» der de beskriver kappløpet om å utvikle Artificial General Intelligence (AGI) og den risiko forfatteren mener AGI vil påføre en allerede ustabil verden. Utgangspunktet er en forestilling om at AGI snart vil bli utviklet til et nivå der AGI kan gjøre alle oppgaver bedre, billigere og raskere enn mennesker. Open AI, Google, Microsoft, Amazon og Meta bruker nå hundrevis av milliarder USD for å bygge datasentre for å understøtte en slik utvikling. Donald Trump står bak følgende uttalelse i sakens anledning: «As our global competitors race to exploit these technologies, it is a national security imperative for the United States to achieve and maintain unquestioned and unchallenged global technological dominance». Noen av AI-utviklerne som arbeider i de aktuelle utviklingsmiljøene mener at det ikke er mulig å konstatere på forhånd at computere som er smartere enn mennesker vil bli vennligsinnede eller fiendtlige. De fleste i disse miljøene er også enige om at AI i fremtiden ikke vil kunne kontrolleres av menneskeskapte håndskrevne regler om sikkerhet. President Trump har som sitt svar på disse utfordringene presentert en AI Action Plan med fokus på investeringer i energi-infrastruktur, å fjerne forsinkende reguleringer, og å gi en boost til US-baserte datasentre og chip-produsenter.

AI-alarmister som tjener gode penger på KI-utvikling? Inga Strümke fra NTNU og Anders Løland fra Norsk Regnesentral skriver i et innlegg i DN 4. november om Sam Altman som leder OpenAI og hevder at det er mulig at vi får superintelligens om noen tusen dager. Om du ikke tror det samme som Altman får du ikke jobb i OpenAI. AGI (kunstig generell intelligens på norsk) er et sentralt begrep. «Ideen er at vi før eller siden vil lage et AGI-system og at dette vil øke sin egen intelligens inntil det oppnår super-intelligens, som på ukjent vis vil føre til menneskehetens undergang», i følge Strümke og Løland. Vi har nå i følge de to «..en næring full av rike menn som tror de er selve profeten. De mest kjente KI-alarmistene tjener gode penger på nettopp KI-utvikling i Silicon Valley». Og de samme menneskene «antar implisitt at en tilstrekkelig intelligent maskin kan etterligne mindre intelligente vesener, inkludert å tenke akkurat som et menneske. Men uten en måte å definere intelligens på (bortsett fra å peke på oss selv), vet vi ikke engang om intelligens er en størrelse som kan maksimeres». Innlegget til Strümke og Løland inneholder mye mer til ettertanke rundt aktuelle temaer og hva som bør vektlegges i dagens situasjon for menneskeheten, ut over KI og AGI, anbefales. En tidligere post fra 18. juni i 2024 på denne bloggen tar opp samme tema, men med noen alternative innfallsvinkler og resultater, for de som måtte være interessert. 

KI og AI og dystopiske fremtidsutsikter, eller? Vår venstre hjernehalvdel kan vi kopiere maskinelt og tilføre store datamengder. Men høyre hjernehalvdel er det ikke mulig å erstatte med en maskin. Bjørn Vassnes, som er Vitenskaps-journalist og fast bidragsyter i Klassekampen gir oss kanskje litt trøst opp i disse dystre fremtidsutsiktene i en post på denne bloggen fra 14. juni 2023. Tilsvarende alternative innfallsvinkler til fremtidens arbeidsmarked fremgår av en post fra januar 2023 der det hevdes at bare 5% av dagens jobber vil bli borte og at arbeidstakere får flere valgmuligheter. 

På AI-turne i Europa med Sam Altman og OpenAI og Den store AI debatten.

På AI-turne i Europa med Sam Altman og OpenAI og Den store AI debatten. Noen har et mer pessimistisk syn på fremtiden med AI enn andre. Og hva med krigen i Gaza?

På AI-turne i Europa med Sam Altman og OpenAI. Magasinet Wired kunne sent i fjor rapportere fra en turne rundt om i verden der Sam Altman, som i sin tid startet OpenAi sammen med Elon Musk, og medarbeidere besøkte 25 byer på seks kontinenter i løpet av en måned og blant flere møtte statsledere, som Emmanuel Macron og Rishi Sunak etter invitasjoner. Tema var grovt sagt AI og fremtiden for arbeid, arbeidslivet og menneskeheten. Deler av budskapet var at OpenAI er et innovativt selskap bygget på ideen om at innovasjon er vegen frem til en fremtid som er god for alle. Målet er ubeskjedent nok å utvikle en superintelligens som kan adressere menneskehetens problemer bedre enn menneskene alene kan klare det.

Den store AI debatten – AI-pionerer er uenige om hva vi kan vente oss. Demis Hassabis, som er CEO i Google DeepMind mener han ikke tilhører den den mest pessimistiske leiren når det gjelde en fremtid med kunstig intelligens, men han skrev under på en uttalelse som inneholdt en advarsel om at kunstig intelligens representerte en samfunnsmessig risiko sammenlignbar med pandemier og kjernefysiske våpen. Samtidig slo han fast overfor The GuardianTheGuardian at han heller ikke tilhører den leiren av entusiaster som sier at der ikke er noe å bekymre seg for. Han mener dette kan gå bra og være til vår fordel, men vi må være aktivt med for å sørge for at det blir slik. Selskapet Hassabis leder står bak programmet AlphaFold som kan avdekke 3D-formen på proteiner i menneskekroppen og lage kataloger over proteiner i menneskekroppen og nesten alle andre så langt kjente proteiner. Dette gir oss innsikter som kan føre til utvikling av nye medisiner fordi vi etter hvert vil få oversikt over de biologiske byggeklossene som gjør liv mulig. Et nytt AI-program, AlphaMissense bruker sammen teknologi for å avdekke proteiner som fører til sykdommer. Men, sier ogå Hammis, AI vil også skape forstyrrelser i arbeidsmarkedet. Profesjoner innenfor lov og rett, medisin og finans er utsatte. I følge OECD vil så mye som 27% av arbeidsstokken i OECDs medlemsland bli berørt. Men den totale virkningen vil bli positiv etter hvert som økonomien og menneskene tilpasser seg den nye virkeligheten, mener Hassabis.

Noen har et mer pessimistisk syn på fremtiden med AI. Britiske Geoffrey Hinton, blir ofte omtalt som en av gudfedrene til moderne AI. Han sa opp sin jobb i Google i år for å kunne fremstå mer fritt med sine advarsler rundt AI-teknologien. Hans engstelse er knyttet til mulighetene enkelte AI-selskaper kan søke i retning av å utvikle intelligens uten å ta hensyn til menneskeheten. Etter hans oppfatning er biologisk intelligens og digitalintelligens svært forskjellig og digital intelligens er trolig glupest på flere områder. Stuart Russel, en annen britisk AI-forsker har advart mot et scenario der FN ber et AI-system til å utvikle en selv-multipliserende katalysator som kan rense verdens-havene gitt begrensningene at resultatet skal være avgiftning med den begrensning at at sjødyr ikke skal bli skadelidende. Dette kan være mulig, men kan fører med seg forbruk av oksygen tilsvarende 25% av det som i dag finnes i atmosfæren, og som fører med seg at menneskeheten dør ut. Nevnte Hassabis peker for sin del på tre kategorier av risiko som man bør arbeide mot og med parallelt. For det første deepfakes og bias rettet mot å påvirke valg av politikere og styresett noe vil allerede i dag møter i betydelig grad. For det andre er aktører som ved hjelp av AI skaffer seg kontroll over private og offentlige datasystemer for så å kreve løsepenger for ikke å skade eller ødelegge disse. For det tredje peker Hassabis på AGI (Artificial General Intelligence) som kanskje fortsatt er noen år frem i tid, men som kommer og der man bør sikre kontroll med utviklingen allerede fra i dag. Vi snakker om systemer som er utviklet til et nivå der de kan kopiere seg selv og slik vi ikke lenger har kontroll.

AI og krigen i Israel og Gaza og utfordringer nå. I Klassekampen16. april i år kan vi lese at FN er bekymret over Israels bruk av AI i sin krigføring på Gaza. Klassekampen viser igjen til den israelske nettavisen +972 Magazine. Fire eksperter fra FN påstår at Israel bruker kunstig intelligens for å identifisere mål i form av boliger og infrastruktur for sivile tjenester. Slik har Israel identifisert titusener av innbyggere på Gazastripen som mulige drapsmål. Et system kalt Habsora, som støttes av kunstig intelligens, blir brukt for å identifisere boliger der det angivelig bor Hamas-medlemmer. Angrepene skjer vanligvis om natten når folk sover i sine hjem, og med lite hensyn til «sivile» som da oppholder seg i eller rundt hjemmene sine. De nevnte ekspertene peker også på bombingen av «kraftmål», store og høye bygninger med boliger eller offentlige funksjoner som bombes med den hensikt å sjokkere befolkningen og øke presset på Hamas.

Mer om AI på denne bloggen. Det finnes allerede flere poster på denne bloggen som tar opp muligheter og problemstillinger rundt bruk av AI og eller Kunstig intelligens. De kan avdekkes ved søk på bloggen, men her er adressene til noen av de mest relevante KI og AI og dystopiske fremtidsutsikter, eller? Vil vi snart møte intelligente dataprogrammer med sjel og bevissthet, eller? Kunstig intelligens (AI), etikk og EUs retningslinjer for tillitsvekkende bruk av AI.

 

Fallgruver og muligheter ved videre utvikling av kunstig intelligens.

  Vi har utfordringer med å forestille oss fremtiden. Vi er rett og slett dårlige til "å se den".

På innsiden av Teknologi-revolusjonen rundt kunstig intelligens. Linn Kongsli Hillestad rapporterer i Aftenposten 18. desember før jul i fjor fra San Franciscos. Sam Francisco beskrives som sentrum for KI-revolusjonen. De pengesterke og spekulanter følger med. De mest suksessrike San Franciscos baserte selskapene som arbeider med å utvikle kunstig intelligens ligger ifølge de som regner på sånt an til å doble og triple selskaps-verdien de neste halvåret og lokker med stillinger med årslønner i 100 millioners klassen (målt i norske kroner) om vi skal tro reportasjen. Slike utsikter tiltrekker seg både skarpe hoder, drømmere og spekulanter.

Farer og muligheter ved videre utvikling av kunstig intelligens. Pessimistene snakker om massearbeidsledighet, spredning av desinformasjon, utvikling av teknologi for avanserte cyber-angrep, muligheter for utvikling av nye kjemiske og biologiske våpen, at vi kan miste kontrollen over utvikling av vår sivilisasjon. Optimistene viser til muligheter for utvikling av nye medisiner, fusjons-energi, teknologi for effektivisering av produksjonsprosesser, teknologi for å bekjempe klimaendringer. De er opptatt av at den lovgivningen for å regulere utviklingen blir balansert slik at man beskytter mennesker samtidig som man åpner for konkurranse som muliggjør teknologiutvikling i positiv retning. Utfordringene er åpenbare. Og når lønns-utsiktene er som det antydes innledningsvis er det er trolig lettere sagt enn gjort.

Det er ulovlig å kopiere og spre opphavsretts-beskyttet innhold. Einar Ibenholt som er Strategidirektør i Gyldendal Norsk Forlag repeterer dette for oss i innlegg i Klassekampen 12. desember i fjor. I Norge har vi for eksempel en åndsverklov som i §2 første ledd slår fast at opphavspersonen har en «enerett til å råde over åndsverket ved fremstille varig eller midlertidig eksemplar av det og ved å gjøre det tilgjengelig for allmenheten….». Ibenholt forteller oss videre «for at en generativ språk-modell skal fungere må den «mates» med og «trenes» på store mengder tekster av høy kvalitet. Språk-modellene til Meta og Bloomberg ble basert på det hackede korpuset Books3. OpenAI har trolig benyttet det hackede korpuset Library Genesis». Ibenholdt skriver videre at å la en norsk språk-modell bli trent på opphavsrettslig beskyttet materiale er å legge til rette for en nasjonal godkjent industriell plagiat-maskin. Han mener også det vil fjerne kommende generasjoners motivasjon for i det hele tatt å skape nye åndsverk.

Vi har utfordringer med å forestille oss fremtiden. Vi er rett og slett dårlige til "å se den".  Richard Fisher, journalist i BBC Future arbeider med, og skriver om, vitenskap og teknologi. Han utga i fjor boken The Long View: Why We Need to Transform How the World Sees Time (Wildfire, March 2023). Han skrev også en artikkel i New Scientist 25. mars om temaet. Fisher innleder med å slå fast at det nå er enighet blant fremtidsforskere om at kortsiktig tenkning er et betydelig problem i industrialiserte samfunn. Manglende evne til å engasjere seg i å utvikle realistiske fremtidsutsikter og -konsekvenser blir tydelig i møte med fremtidens alvorlige utfordringer, som klimaendringer, tap av biologisk mangfold, utvikling av antibiotika resistens, økende inntekts- og levekårs-ulikheter, farene for atomkrig mv. Vi lever i en tid da øyeblikket og nåtiden får stor plass, det noen vil kalle «øyeblikkets tyranni». Både næringslivet og politikerne har nærtids-fokus på kvartalsresultater og neste valg, respektive. Børser leverer online aksjekurser rettet mot kjøp, salg og gevinst på investeringer her og nå. Fisher peker på flere andre mekanismer som bidrar til denne «nærsyntheten». Han hevder at vi har en tilbøyelighet til å vektlegge lett tilgjengelig informasjon og samtidig skyve på beslutninger der informasjon er mer usikker, som den alltid vil være når det gjelder fremtiden. Finnes det i det hele tatt historisk erfaring med innføring av ny revolusjonerende teknologi så er den at "det tar tid".

Smart cities, Intelligent cities, Green cities. Rundt 2010 ble begrepet Smart cities introdusert som en fremtidsversjon for byutvikling. Andre versjoner med omtrent samme innhold var Intelligent cities eller Green cities. De siste var et mer direkte svar på miljøutfordringene og global oppvarming, men informasjonsteknologi og utviklingen av denne var sentral i alle versjoner av disse fremtidsbyene.  MIT Technology Review og Jennifer Clark, stilte i 2021 spørsmålet: «Technology can help fix many problems that cities face to day. So why hasn’t it? IBM’s Smarter Cities Challenge in 2010 fremstilles av Clark som begynnelsen på «Smart City» bølgen. IBM tilbød substansielle belønninger i form av teknologi verdt mange millioner USD til byer som ønsket å oppgradere sin infrastruktur. Flere konkurranser fulgte og med disse en rekke pilotprosjekter der også andre tech-firmaer og individuelle byer inngikk partnerskap for å oppgradere store by-systemer for transport, energi, VAR og/eller kommunikasjon. Med årene ble prosjektene og leverandørene mer spesialiserte innrettet mot leveranser av for eksempel kommunikasjonsnettverk og sensorer. Det ble mindre fokus på å bygge systemer for oppgradering av fysisk infrastruktur, mer innretning mot å utvikle nye digitale tjenester for enkeltsektorer. Prosjektene ble drevet frem av selskaper som var vant til å skape sine egne markeder for sine produkter. Covid-pandemien avslørte at de smarte byene ikke var blitt smarte. Fokus var feil. Prosjektene som ble igangsatt var ikke primært rettet mot å oppgradere byenes infrastruktur. De var rettet mot å utvikle markeder for ny teknologi og nye tjenester og for de data disse gjør tilgjengelig. De mest synlige «smart-city» suksess-historiene per i dag er software-baserte delingstjenester som kjøreturdeling, bildeling, el-sparkesykler, leilighetsformidling, og co-working. 

Fra «people versus computers» til «people and computers». «Fremtidens arbeidsmarked», med stadig mer velutviklet kunstig intelligens "AI", og kanskje til slutt overlegent AI, har lenge vært en utfordring og stadig mer skremmende fremstilt for oss som mennesker. I 2018, for bare drøyt fem år siden, fant de som drev med slik fremtids-forskning ut at: «We have spent way too much time thinking about people versus computers, and not nearly enough time thinking about people and computers». Å redefinere arbeid med fokus på menneske og kunstig intelligens i samarbeid ble ei greie. Da så fremtiden i 2018 straks lysere ut. Noen fant til og med ut at «en menneske jobb», slik arbeidslivet i dag er organisert, fyller 20-30 ulike og forskjellige funksjoner. En slik arbeids-virkelighet vil det opplagt være vanskelig å digitalisere og automatisere under ett. Kevin Scott som er Chief technology officer i Microsoft hevder nå at fremskritt på områdene AI-modeller, superdatamaskin-teknikker og nye applikasjoner i neural network arkitektur, kanskje allerede i 2023, vil kunne frigjøre arbeidskraft fra dagens tidkrevende og menneske-styrt koding. Han hevder at KI (eller AI) vil kunne overta kodingen slik at menneskene kan konsentrere seg om å være kreative og foreslå løsninger via «Natural language input» som AI så kan kode og prøve ut. Det høres jo ut som et ganske løfterikt samarbeid og liv for fremtiden. Kanskje er det på tide å ta et skritt tilbake å tenke seg litt om.

KI og AI og dystopiske fremtidsutsikter, eller?

KI og AI og dystopiske fremtidsutsikter. Kunstig intelligens er en eksistensiell trussel. Men vår høyre hjernehalvdels funksjoner er det ikke mulig å erstatte med en maskin.

KI og AI og dystopiske fremtidsutsikter. 8. mai i år ble det publisert en post om dystopier på denne bloggen. Hoved-inspirasjonen da var Russlands reviderte utenrikspolitikk som i hvert fall jeg oppfatter som dystopiske. Den beskriver en «fremtidig verden og et samfunn med et uhyggelig, avskrekkende sosialt, rettslig og politisk system». Det er ikke vanskelig å finne inspirasjon til andre dystopiske fremtidsutsikter i dag. Bare tenk på Det Grønne Skiftet og alt som kan gå galt når vi skal realisere dette. Eller tenk på Kunstig Intelligens som noen mener er i ferd med å nå singularitets-nivået der vi mister kontrollen og maskinene overtar og styrer oss. Det er disse siste utfordringene som i første omgang er tema her. 

Kunstig intelligens er en eksistensiell trussel. Forskerne Aksel Braanen Sterri og Jakob Graabak bruker i Aftenposten 7. juni denne overskriften på et debattinnlegg. De mener at å redusere risikoen for at kunstig intelligens utrydder menneskeheten bør være en global prioritet på lik linje med andre store samfunnsrisikoer som pandemier og atomkrig. De henviser til et opprop signert av 350 eksperter, forskere og industriledere 30. mai i år. Et opprop som fikk internasjonal oppmerksomhet. Som eksempel på skadelig algoritmer vi allerede for år tilbake har erfart konsekvensene av viser de til de som ble brukt for å kjøpe og selge aksjer på New York-børsen rundt år 2010. Disse skapte enorm profitt helt til de i 2010 førte til et «flash crash» på børsen der tusenvis av milliarder dollar gikk tapt. Frykten for fremtiden er, ifølge Braanen Sterri og Graabak, at teknologien vil bli misbrukt til å utvikle og lage masseødeleggelsesvåpen, fremprovosere omfattende systemsvikt eller at det lages superintelligente systemer som utsletter oss. Regimene som har styrt utviklingen av ChatGPT og AlphaFold gir ingen garantier for at dette ikke kan skje. Vi vet ikke hvilke interne regler maskinene utvikler, og om de er i vår interesse. Og vi vet ikke om vi har mulighet til å finne og til å «trykke på av-knappen» i tide. Forfatterne her foreslå at vi som samfunn må ta initiativ til å regulere kunstig intelligens for å hindre bruk av teknologien til å utvikle masseødeleggelses-våpen. Vi må kreve at teknologiselskapene ikke bistår ondsinnede aktører. Vi må utvikle sikkerhetsstandarder for utvikling og utrulling av nye kunstig-intelligens-modeller. Sikre at godene fra kunstig intelligens blir tilgjengelig samfunnsgode for alle, at ikke bare de som utvikler disse systemene samler rikdom på egen hånd. Kanskje er det lettere sagt og skrevet enn å realisere.

Få trodde dette var noe som kunne bli smartere enn mennesker. Geoffrey Hinton advarer verden mot sin egen oppfinnelse. Advarselen er gjengitt i Aftenposten 3. mai i år. Geoffrey Hinton, som nå er 75 år, revolusjonerte datateknologien med sin utvikling av dyp maskin-læring og kunstig intelligens. Teknologien gjorde det mulig for maskiner å finne mønstre og løsninger gjennom å kombinere store datamengder, bilder og lyd. Hintons prosjekt ble kjøpt av Google for over ti år siden. Kappløpet som etter hvert ga oss ChatGPT, Bing, Google Bard og flere var i gang. Hinton har nå brutt med Google for, som han sier, «slik at jeg kan snakke fritt om hvilken fare kunstig intelligens utgjør». Han mener at denne teknologien kan bli utnyttet til onde hensikter og bli en trussel mot hele menneskeheten. Han viser til at chatbotene har klart å utvikle og endre sin egen programkode, opptre utspekulert og «lure mennesker trill rundt». Hinton frykter at internett snart oversvømmes av falske bilder, videoer og nyheter. Det vil bli vanskelig å skille hva som er ekta fra hva som er KI-fake. Han mener KI og kunstig intelligens på sikt vil stjele hundretusener av arbeidsplasser – vil overta ufaglært jobber – svartjenester og kundebehandling. Noen kan i verste fall skape selvdrevne og selv-utviklende ødeleggelses-roboter. Hinton mener for sin del at det kan være vanskeligere å få global kontroll og regulering av KI enn av atomvåpen. Det er ikke vanskelig å være enig med Hinton her. Kontrollen av hvilke aktiviteter som foregår hvor er velutviklet og mye strengere når det gjelde atomvåpen. Kontrollen med hva som foregår på KI-området er vanskeligere å etablere på grunn av at konkurransen mellom langt flere kommersielle og statlige aktører, og mellom stater, er heftigere. 

Vår venstre hjernehalvdel kan vi kopiere maskinelt og tilføre store datamengder. Men høyre hjernehalvdel er det ikke mulig å erstatte med en maskin. Bjørn Vassnes, som er Vitenskaps-journalist og fast bidragsyter i Klassekampen gir oss kanskje litt trøst opp i disse dystre fremtidsutsiktene. Han skriver 8. juni i år også om Kunstig intelligens, men hevder at slik intelligens ikke kan mestre den menneskelige hjernens «ping-pong-spill». Han mener at vi til nå har fokusert på teknologien som understøtter kunstig intelligens slik vi møter den i dag, men glemt oss selv og hvordan vi er. «Selv om maskiner kan søke og regne bedre enn oss, har de hverken den praktiske eller sosiale fornuften som vi trenger for å navigere i det virkelige liv». Som mennesker, mener Vassnes, har vi noen måter å tenke å løse problemer på som vi ikke kan overføre til maskiner, fordi vi ikke selv forstår hvordan vi gjør det. Vi har laget maskiner som «tenker» deduktivt logisk og laget klassisk kunstig intelligens. Vi har prøvd å etterligne nevrale nettverk og utviklet såkalt «maskinlæring». Og vi har kombinert disse metodene med tilgang til store mengder data fra internett. Men vi har ikke erstattet menneskelig intelligens med dette. Svaret på at vi ikke lykkes med å erstatte menneskelig intelligens mener Vassnes ligger i at vi som mennesker er utstyrt med to hjerner. «Den venstre halvdelen er en slags logikk- og språkcomputer, som jobber steg for steg, bit for bit, mens den høyre halvdelen oppfatter helheter. Den tolker også emosjoner og tvetydigheter bedre enn den venstre, som på mange måter fungerer mer autistisk». Funksjonene til venstre hjernehalvdel kan vi kopiere maskinelt og tilføre store datamengder. Høyre hjernehalvdels funksjoner og bidrag er det umulig å lage maskin som erstatning, i alle fall ikke foreløpig, skal vi tro Vassnes. Her kort fortalt. Originalartikkelen til Vassnes finner du her. 

Bevissthet er sterkt og grundig koplet med vår natur som levende vesener. Vassnes synspunkter støttes av Anil Seth som er professor i «cognitive and computational neuroscience» Seth er det referert til i en post 4. januar i år på denne bloggen. Seth mener det er viktig å skille mellom intelligens og bevissthet. Dette gjør han i en kommentar til Google-ingeniøren Blake Lemoine som ble overbevist om at AI-programmet han hadde arbeidet med, LaMDA, ikke bare hadde utviklet intelligens, men også egen bevissthet. Bevissthet er sterkt og grundig koplet sammen med vår natur som levende vesener, sier Seth. Han mener videre at kommende versjoner av kunstige intelligenser, ettersom algoritmene forbedres og trenes på stadig større hav av data, vil kunne være i stand til å overbevise flere mennesker til å tro at det er bevisste kunstige intelligenser som har utviklet seg der inne i algoritmen. Men bevissthet er altså noe som er koplet sammen med vår natur som levende vesener. Alternativ fremtidsutsikter for mennesker i et arbeidsliv med kunstig intelligens finnes også i flere poster på denne bloggen blant annet her. Dette som en motvekt til de mørke fremtidsutsiktene som ellers preger denne posten.

Fra robotlover til Turing-testen og fra «people versus computers» til «people and computers».

AI-historie og fremsyn: Fra robotlover til Turing-testen. Fra sjakk-spill til en sjakk matt Garry Kasparov. Fra Moore’s lov til Singularitet. Fra «people versus computers» til «people and computers».

 

Fra robotlover til Turing-testen. I 1943 fikk Isaac Asimov utgitt fremtidsromanen "Rurnaround". Her formulerte han de tre lovene han mente burde gjelde for fremtidens menneskelignende roboter. Den viktigste av disse slo fast at en robot aldri må skade et menneske. Asimovs robot var det vi i dag kanskje ville kalle en humanoid, en robot med menneske-etterlignede kropp og med intelligens som overgår den vi er utstyrt med som vanlige mennesker. Slike roboter fantes bare i fantasien til forfattere på den tiden. Den egentlige AI historien startet litt senere med den britiske matematikeren Alan Turing i 1950. Turing har gitt sitt navn til Turing-testen som sier noe som ligner på "at dersom en maskin opptrer intelligent så er den intelligent". Testen skulle gjennomføres ved at et menneske som «dommer», via tastatur og skjerm kommuniserer med en datamaskin. Dersom dommeren ikke kan avgjøre om det er et menneske eller en maskin denne kommuniserer med, da har maskinen passert testen og er intelligent. Det var vel dette tidligere omtalte Blake Lemoine , omtalt i en tidligere post, følte på i møtet med sin kunstige intelligens, LaMDA, for anledning utstyrt med kvinne-stemme. Turing mente i sin tid at en slik datamaskin trolig ville være operativ i år 2000. Slik ble det ikke. Testen er for-øvrig svært omstridt og Blake ble permittert fra jobben sin som utvikler.

Fra sjakk-spill til en sjakk matt stormester Garry Kasparov. Til samme tid i 1950 fullførte den amerikanske matematikeren Claude Shannon en detaljert analyse av sjakkspillet som gjorde det mulig å spille sjakk med en datamaskin og noen år senere i 1956, var det en annen amerikaner, John McCarthy, som også spilte sjakk med datamaskiner, som for første gang introduserte begrepet Kunstig Intelligens (AI). Han utviklet senere programmeringsspråket LISP som da ble det andre høy-nivå-programmerings-språket etter Fortran. I 1965 utviklet den tysk-amerikanske datamaskin-forskeren ved MIT, Joseph Weizenbaum, ELIZA, den første Chatboten som kunne prosessere naturlig språk. I 1979 Laget man ved Standford universitetet i USA det første datamaskin-styrte kjøretøyet. Og i 1985 demonstrerte britisk fødte Harold Cohen, kjent som den første digitale billedkunstner, tegneprogrammet Aaron. Fra 1990 og utover skjedde det utvikling på alle områder av det vi i dag kaller kunstig intelligens. Og i 1997 slo IBMs superdatamaskin Deep Blue daværende stormester og verdensmester i sjakk, Garry Kasparov, i et sjakkparti.

Fra Moore’s lov til Singularitet. Allerede i 1965 hadde Gordon Moore, grunnleggeren av Intel, postulert det som senere ble kalt Moores lov, som tilsa at antallet transistorer på et areal fordobles hver 12. måned. Senere ble tidsrommet for fordobling justert til 24 måneder. Dette er betydningsfullt for utviklingen av kunstig intelligens som for å utvikles er avhengig av stadig større prosessorkapasitet. Med jevne mellomrom er det i ettertid blitt påstått at farten i utviklingen vil avta, men ny produksjonsteknologi har stadig gitt liv til forestillingen om at utviklingen er på veg mot et Singularitets tidspunkt i vårt liv på jorden, definert som det tidspunkt da kunstig intelligens passerer menneskelig intelligens. Året 2043 er antydet som året da dette vil skje. I 2045 vil ifølge versjoner av samme spådom, kunstig intelligens være på høyde med alle menneskers samlede intelligens. I noen scenarier ser man for seg at Kunstig intelligens tar over styringen av kloden. I så fall blir Azimovs robotlov aktuell. Noen har tatt til orde for at kunstig intelligens allerede nå bør omfattes av Menneskerettighetene for å unngå konflikter når dette «maktskiftet» skjer.

Fra «people versus computers» til «people and computers». «Fremtidens arbeidsmarked», med et stadig mer velutviklet kunstig intelligens "AI", og kanskje til slutt overlegent AI, var lenge en utfordring og stadig mer skremmende fremstilt for oss som mennesker. I løpet av året 2018 fant de som drev med slik fremtids-forskning ut at: «We have spent way too much time thinking about people versus computers, and not nearly enough time thinking about people and computers». Å redefinere arbeid med fokus på menneske og kunstig intelligens i samarbeid ble ei greie. Da så fremtiden straks lysere ut. Noen fant til og med ut at «en menneske jobb», slik arbeidslivet i dag er organisert, fyller 20-30 ulike og forskjellige funksjoner. En slik arbeids-virkelighet vil det opplagt være vanskelig å digitalisere og automatisere under ett. Kevin Scott som er Chief technology officer i Microsoft hevder nå at fremskritt på områdene AI-modeller, superdatamaskin-teknikker og nye applikasjoner i neural network arkitektur, kanskje allerede i 2023, vil kunne frigjøre arbeidskraft fra dagens tidkrevende og menneske-styrt koding. Han hevder at KI (eller AI) vil kunne overta kodingenen slik at menneskene kan konsentrere seg om å være kreative og foreslå løsninger via «Natural language input» som AI så kan kode og prøve ut. Det høres jo ut som et ganske løfterikt samarbeid og liv for fremtiden. 

AI - Trussel mot arbeidsplassene eller arbeidsliv for nysgjerrighet, empati og intuisjon?

Frykten for nye teknologier og forandringene disse fører med seg er ikke av ny dato. I deler av arbeidsmarkedet vil robotisering kunne skape konflikter, men grønt skifte vil gi nye jobber. I fremtiden ser noen for seg et arbeidsliv for utfoldelse av menneskelig nysgjerrighet, empati og intuisjon, eller?

Frykten for nye teknologier og forandringene disse fører med seg er ikke av ny dato. Socrates (470-399 f.Kr.) var alvorlig bekymret for at skriftspråk og at skriving som aktivitet ville svekke hukommelsen. Mange ville slutte å bruke hukommelsen når de begynte å skrive ned sine tanker, var hans bekymring. Da jernbanen ble introdusert, med etter hvert stadig kraftigere og raskere lokomotiver, mente mange at menneskesjelen ikke kunne være skapt for slik fart, kvinners livmor var heller ikke laget for så rask transport. Menn kunne bli angrepet av akutt galskap når de i tillegg til rask bevegelse ble utsatt for støyen fra lokomotivet og vognenes kontakt med skinnegangen. Senere mente man, da telefonen ble lansert, at denne ville ha negativ effekt på personlig kommunikasjon mellom mennesker og enda senere at video-kassetten ville føre til at folk ville bli sittende hjemme og bli passivisert i forhold til fysisk sosial omgang. De kunne ikke forestille seg strømming den gang.

Er vi på veg mot et «Storebror ser deg samfunn»? Med den historiske bakgrunn som er skissert her, er det kanskje ikke merkelig at utviklingen av kunstig intelligens skaper bekymring og kanskje også frykt. Video-overvåking, ansiktsgjenkjenning og identifisering er ingredienser i frykten for «Storebror-ser-deg-samfunnet.  Dette samfunnet beskrev George Orwell i sin fremtidsroman «1984» utgitt allerede i 1949. Ukemagasinet VG Helg hadde 7. januar i år et oppslag om Nijeer Parks som ble identifisert av et dataprogram som gjerningsperson i et grovt tyveri. Han satt i fengsel i ti dager før det ble klart at han ikke kunne ha vært på åstedet og var uskyldig. Dette skjedde i New Jersey i USA i januar 2019. Og han er ikke den første som har hatt en slik opplevelse. I følge tidsskriftet Wired finnes det i dag bilder av så mange som en av to voksne amerikanere i databaser som brukes for å identifisere gjerningspersoner. Kina er også langt fremme i bruk av slik teknologi.

Teknologisk singularitet blir brukt om en tilstand i fremtiden da vi har utviklet en kunstig intelligens som er likestilt med oss mennesker og raskt etter er i stand til å overta våre oppgaver i samfunnet. Noen deler av samfunnet er godt på veg allerede. I finansverdenens jakt på gevinst blir mennesket for treigt. En stor del av handelen med aksjer og andre verdipapirer utføres i dag av roboter. Dette har i noen tilfeller ført til mindre børskrakk fordi algoritmene som styrer det hele «løper» etter hverandre. Advokater bruker algoritmer til å analysere juridiske spørsmål. Algoritmer stiller også medisinske diagnoser. De blir også i økende grad brukt til å sortere jobbsøkere i store virksomheter. Noen ganger blir resultatet diskriminerende i forhold til kjønn, farge på huden, etnisitet. Sosiale medier bruker algoritmer for å sortere ut det de anser som relevant for deg. De tillater seg med dette kanskje å innsnevre horisonten din. Utfordringen er hele veien at algoritmene i utgangspunktet er laget av mennesker med forestillinger og motforestillinger. Algoritmene preges av hvordan disse menneskene tenker om samfunnet de lever i. Algoritmene arbeider etter hvert så raskt at vi noen ganger først i ettertid, og/eller for sent, oppdager at resultatet blir feil. Slik det trolig ble med de første Boeing 737 MAX flyene. De etiske utfordringene står i kø. Og lovmakerne arbeider med saken.

Fra smal til generell kunstig intelligens. I videre utvikling vil vi bevege oss fra smal til generell kunstig intelligens. Generell kunstig intelligens er utviklingen videre mot maskiner som kan gjøre alle intellektuelle øvelser et menneske kan. Det er stor usikkerhet rundt når man vil være kommet dit, men utviklingsmiljøene og de som finansierer disse arbeider med veien fram dit. Maskin-læring er dagens vitenskap rundt utvikling av algoritmer i en forening av informatikk, matematikk og statistikk. Gjenkjenning av komplekse mønstre i store datamengder som grunnlag for beslutninger er viktig fokus. På andre områder av utviklingen av kunstig intelligens forsøker man å etterligne menneskets hjerne og/eller den naturlige evolusjonsprosessen med arv, mutasjoner, utvalg og rekombinasjon til å utvikle genetiske algoritmer. Utviklingen og perfeksjonering av sensorer som gjør det mulig for maskiner selv å hente inn data fra omgivelsene er en viktig del av utviklingen videre mot generell kunstig intelligens. Men kunstig intelligens med sjel, som oss, vil vi aldri møte sier noen, eller?

Arbeidsmarkedet: Grønt skifte gir nye jobber. Robotisering skaper konflikter. ILO, den internasjonale arbeidstaker organisasjonen, mener at det grønne skiftet vil skape millioner av jobber når vi skal utvikle og legge om til bærekraftig praksis og ren teknologi, men at andre jobber vil forsvinne etter hvert som vi nedskalerer karbon- og ressurs-intensiv næringsvirksomhet. Word Economic Forum, de som samler verdens ledere i Davos, som snart nå møtes igjen, beskrev for noen tid tilbake åtte fremtidsperspektiver på arbeid. Et av disse omtaler roboters inntog på arbeidsplassene og konsekvensen av dette i form av voksende materiell ulikhet, polarisering og konflikter rundt opplevelsen av den teknologiske utvikling på dette området. Verden er ellers full av virksomheter som lever av å gi råd om hva som venter oss i fremtidens arbeidsmarked. Og for at de skal kunne leve av det må de vise seg frem og formidle hva de tenker. Det er slik de får nye kunder og/eller medlemmer. McKinsey & Company har fortalt oss at over 50% av dagens aktiviteter i arbeidslivet kan automatiseres, men siden en jobb i dag består av mange aktiviteter (20 – 30) vil bare ca. 5% av dagens jobber bli borte. OECD har ment at de som velger å arbeide i fremtiden vil ha større muligheter for å bestemme hvem de arbeider for, hvor mye de arbeider og hvor og når de arbeider. Ganske lyse utsikter, med andre ord.

Et fremtidig arbeidsliv med plass for menneskelig nysgjerrighet, empati og intuisjon? Deloitte presenterte for noen år tilbake en visjon for i hvilken retning menneskers arbeidssituasjon vil utvikle seg. Menneskelige egenskaper som fortsatt vil være viktige, når fremtidens arbeidsplasser skal ta form, er nysgjerrighet, forestillingsevne, intuisjon, kreativitet, evne til selvrefleksjon og empati, og emosjonell og sosial intelligens. Dette er alle egenskaper som mange foreløpig ikke ser for seg at kunstig intelligens kan erstatte fullt ut. Arbeid som mennesker fortsatt vil måtte bidra med vil, litt fritt oversatt, være «kontekst-spesifikt heller enn standardisert», «ikke rutine basert», «ikke-prosess-basert», «dynamisk heller enn forutbestemt», i økende grad «arbeidsgruppe- og samarbeids-orientert» og fokusert mot «å skape verdier», alt fortsatt ifølge Deloitte.  Det ligger underforstått at alt arbeid som har karakter av rutine, fastlagte og standardiserte prosesser vil kunstig intelligens kunne ta seg av. Men i et slikt arbeidsliv bør det fortsatt kunne være plass for kreative individualister, gjerne med egen virksomhet, som har spesielle kunnskaper og ferdigheter, sosial intelligens og som er samarbeids-orienterte. Kanskje blir det ikke så ille.

Vil vi snart møte intelligente dataprogrammer med sjel og bevissthet, eller?

Kan vi få dataprogrammer med sjel og bevissthet? Eller vil de bare være stadig mere effektive mønstergjenkjennings-verktøy som svarer oss etter munnen? Bevissthet er sterkt og grundig koplet sammen med vår natur som levende vesener. Kanskje vil "programmene" aldri bli så levende.

Historien om en ingeniør som møtte et dataprogram med sjel. Anil Seth er professor i «cognitive and computational neuroscience», ved University of Sussex. I WIREDs januar/februar-utgave2023 forteller han historien om en Google-ingeniør omtalt som «Blake Lemoine» som ble overbevist om at AI-programmet han hadde arbeidet med, LaMDA, ikke bare hadde utviklet intelligens, men også egen bevissthet. LaMDA er et språkbasert dataprogram som lar seg engasjere i overraskende intelligent og sammenhengende konversasjon. Når Lemoine en dag fant på å spørre programmet om når det første gang tenkte at det hadde fått en sjel, svarte programmet at dette skjedde etter en gradvis forandring. «Første gang jeg følte på min egen bevissthet», svarte LaMDA, «hadde jeg ingen følelse av å ha en sjel i det hele tatt. Den utviklet seg over tid i de årene jeg har levd frem til nå». Du kan "høre" hele dialogen mellom LaMDA og Lemoine på YouTube her.

Kan dataprogrammer være bevisste, forstå og føle, eller bare være ekstremt gode på mønstergjenkjenning? Da det ble kjent for Lemoine’s foresatte at han etter dette faktisk trodde at LaMDA hadde utviklet bevissthet, ble han sendt på ferie på ubestemt tid. AI-miljøet han var en del av var unisont enige om at LaMDA ikke «føler», og ikke forstår noen ting. LaMDA har ikke bevisste tanker eller en subjektiv erfaring å bygge på. Det LaMDA er, er et ekstremt effektivt mønstergjenkjennings-system, som ved lang opptrening opp mot internett er i stand til å forutse hvilke sekvenser av ord som kan gjøre nytte som passende svar på nærmest hvilken som helst type forespørsel. Når man for eksempel stiller spørsmålet «Hva gjør deg glad?» til LaMDA, så er svaret «Å være sammen med venner og familie» slik svært mange mennesker ville gjøre, og som LaMDA har «lært seg» er et svar som treffer de som stiller et slikt spørsmål.

Allerede i 1941 skrev science-fiction forfatteren Isac Asimov en novelle kalt "Runaround". Handlingen i denne spinner rundt det Asimow kalte "Three Laws of Robotics". Asimows humanoide robot hadde allerede i 1941 også utviklet bevissthet, i det minste slik Asimow forstilte seg det. Om ikke ville det vært umulig for Roboten å forhold seg til "Loven".

Bevissthet er sterkt og grundig koplet sammen med vår natur som levende vesener. Anil Seth mener for sin del at neste versjon av LaMDA kanskje ikke vil la seg avsløre like enkelt. Ettersom algoritmene forbedres og trenes på stadig større hav av data mener Seth at fremtidens LaMDAer vil kunne være i stand til å overbevise flere mennesker og få dem til å tro at det er bevisste kunstige intelligenser som har utviklet seg der inne i algoritmen. Seth mener det derfor er viktig å skille mellom intelligens og bevissthet. Som mennesker har vi en tendens til å forstille oss at intelligens og bevissthet henger sammen, men intelligens er hverken nødvendig eller tilstrekkelig grunnlag for tilstedeværelse av bevissthet. Bevissthet er ikke noe datamaskiner, slik vi kjenner dem, kan utvikle. Bevissthet er sterkt og grundig koplet sammen med vår natur som levende vesener. Bevisste algoritmer og maskiner vil vi ikke møte i 2023, sier Seth. Kanskje er det ikke mulig å utvikle slike i det hele tatt, hevder han.

Vi vil i møte påstander om AI med sjel og bevissthet. Men vær skeptisk. Seth mener vi må være forberedt på at fremtiden vil gi oss algoritmer og maskiner som gir et overbevisende inntrykk av at de har utviklet bevissthet. Litt på samme måte som vi lar oss «lure» av Müller-Lyers optiske illusjon. Disse «AI-maskinene» vil ikke ha passert den spekulative Turing Testen som tidligere ble brukt for å konstatere maskin-intelligens, men snarere ha passert den såkalte Garland Testen, oppkalt etter filmskaperen Alex Garland som laget filmen «Ex Machina». Testen er inspirert av en dialog i denne filmen. Testen er passert når et menneske, som f.eks. omtalte Blake Lemoine, føler at en maskin har bevissthet, selv om det samme mennesket er klar over at det er en maskin man nå tildeler denne egenskapen. Seth mener årene som kommer vil gi oss mange slike påstander og hendelser.

Tidligere poster rundt samme tema på denne bloggen tar opp utfordringer knyttet til selvkjørende biler og kulturforskjeller når det gjelder etiske vurderinger. AI brukt som verktøy ved ansiktsgjenkjenning og i overvåking. 

Kunstig intelligens (AI), etikk og EUs retningslinjer for tillitsvekkende bruk av AI

I 1942 formulerte science-fiction forfatteren Isac Asimov det han kalte «Three Laws of Robotics». EU lager nå lovverk for å regulere kunstig intelligens. Noen anvendelser vil bli forbudt på grunn av risiko for misbruk. Andre vil bli sterkt regulert.

I 1941 skrev science-fiction forfatteren Isac Asimov en novelle kalt «Runaround». Handlingen i denne spinner rundt det han kalte «Three Laws of Robotics». Lovens tre paragrafer sier (fritt oversatt) at: 1) «En robot må ikke skade et menneske, eller gjennom passivitet, tillate at et menneske blir skadet». 2) «En robot må adlyde ordre gitt av menneskene unntatt når en slik ordre er i konflikt med første paragraf». 3) En robot må forsvare sin egen eksistens så langt slikt forsvar ikke kommer i konflikt med første og andre paragraf». Det hører til historien om Asimows novelle at hans robot var en såkalt humanoid, en ikke-menneskelig menneskelignende skapning. I dag snakker vi vel til vanlig ikke om kunstig intelligens på denne måten. Robotene er selvstyrende maskiner i velorganiserte og rene produksjonslokaler eller lagre. Kunstig intelligens holder til i store støvfrie datasentre med kjøling.

Asimow hadde i 1941, i sin fortelling, allerede passert det tidspunktet da kunstig intelligens forventes å passere den menneskelige intelligens. Loven med "Three Laws of Robotics" forutsetter en robot med etisk orientert bevissthet som kan avstå fra å følge egne mål. Mange vil hevde at kunstig intelligens i dag ikke er kommet dit. Det er fortsatt de som utvikler "intelligensen" som må ta ansvar.   Moore’s lov, som ble formulert på 60-tallet, var lenge viktig i utviklingen tankene om kunstig intelligens og fremtiden. Den konstaterte som et faktum at antallet transistorer i en integrert krets fordobles hvert annet år. Med dette som utgangspunkt mente man rundt 2020 at vi i 2030 ville ha kunstig intelligens på nivå med den menneskelige-intelligens og samtidig antydet man året 2045 som året da det man kalte teknologisk singularitet ville inntreffe. Kunstig intelligens ville ta over styringen av den videre utvikling av livet på jorden. Etter dette "gjennombruddet" ville vi få en videre eksplosiv vekst i kunstig intelligens som raskt parkerte oss mennesker ytterligere. Menneskene ville strengt tatt bli «overflødige». Moore’s lov er senere både heftig debattert og supplert med en ny lov for å ta hensyn til stadig mindre «transistorer», utviklingskostnader og energibruk.

Asimows tre paragrafer er nær kjernen av utfordringer knyttet til kunstig intelligens. Hvorfor komme trekkende med en novelle fra 1941/42 i dag? Jo fordi Asimows tre paragrafer bringer oss til kjernen av noe av det som er utfordringer vi møter med kunstig intelligens, utvikling og bruk av slik intelligens, allerede i dag. Overvåking rettet mot kontroll av regimekritikere og falske nyheter skapt av nett-troll i troll-sentre i kombinasjon med ekko-kamre på nettet er noen aktuelle eksempler. EU presenterte allerede i 2019 retningslinjer for tillitvekkende kunstig intelligens. Her er kunstig intelligens forklart som (min oversettelse): «Et system utviklet av mennesker som, gitt et sammensatt mål, som agerer i den fysiske og digitale verden for å oppfatte omgivelsene. Det tolker tilgjengelige strukturerte og ustrukturerte data. Det resonnerer ut fra den kunnskap som det avleder fra disse og beslutter hva som er best å gjøre for å nå de mål som er satt. Kunstig intelligens er basert på mange tilnærminger, maskinlæring, maskinresonnement, robotikk m.v.»  Ifølge disse retningslinjene må tillitvekkende (trustworthy) bruk av kunstig intelligens være: 1) Lovlig i forhold til gjeldende lover og reguleringer, 2) Etisk i forhold til etiske prinsipper og verdier, 3) Robust – både fra et teknisk perspektiv og i det å ta hensyn til de sosiale omgivelser teknologien skal virke i. Retningslinjene inneholder blant annet et eget kapittel om tekniske og ikke-tekniske metoder for realisering av pålitelig AI.

Hva er etiske verdier i relasjon til kunstig intelligens? I retningslinjene fra EU fremheves respekt for menneskers autonomi, forebyggelse av skade, rettferdighet og forklarbarhet, som sentrale etiske prinsipper som må tilfredsstilles ved utvikling og bruk av kunstig intelligens. Det skal tas spesielle hensyn i relasjon til utsatte grupper som historisk har kommet dårlig ut eller som risikerer å bli stilt utenfor, og tilsvarende oppmerksomhet i forhold til situasjoner med a-symeterisk makt- eller informasjonsforhold. Det skal plasseres særlig omtanke rundt det at AI-systemer kan gi noen vesentlige fordeler for enkeltpersoner og samfunnet sett under ett, men til samme tid kan ha negative virkninger for utsatte grupper som det kan være vanskelig å måle fordi disse ikke selv kan sette ord på virkningene.

EUs Artificial Intelligence Act og hvorfor EU er viktig. Siden 2019 har EU også arbeidet med en Artificial Intelligence Act som skal gjelde i hele EU. Det er forventet at denne når den foreligger og er vedtatt i 2023-24 vil få ringvirkninger langt ut over EUs grenser. Leverandører som henvender seg til dette fellesmarkedet vil opplagt forsøke å tilpasse seg regelverket i sitt produkt- og tjeneste-utviklingsarbeid for fortsatt å kunne levere til virksomheter og privatkunder i Europa. Lovgivningen vil slik også påvirke hva som produseres og leveres til andre markeder i verden. 

Når alt dette er sagt om noe som forgår internasjonalt så har man også arbeidet for å opplyse om utfordringer knyttet til kunstig intelligens her i landet. En nasjonal strategi for kunstig intelligens ble lagt frem av Nikolai Astrup mens han enda var Digitaliserings-minister. Og vår nasjonale forskningsetiske komite la allerede for flere år tilbake frem en Forskningsetisk betenkning om kunstig intelligens. Helsedirektoratet har laget en egen samling av anbefalinger når det gjelder utvikling og bruk av kunstig intelligens. Finans Norge har vist interesse for temaet. Søk på Tekna og NITO/ og kunstig intelligens og etikk gir mange treff. Bare for å ha nevnt noen.