KI og AI og dystopiske fremtidsutsikter, eller?

KI og AI og dystopiske fremtidsutsikter. Kunstig intelligens er en eksistensiell trussel. Men vår høyre hjernehalvdels funksjoner er det ikke mulig å erstatte med en maskin.

KI og AI og dystopiske fremtidsutsikter. 8. mai i år ble det publisert en post om dystopier på denne bloggen. Hoved-inspirasjonen da var Russlands reviderte utenrikspolitikk som i hvert fall jeg oppfatter som dystopiske. Den beskriver en «fremtidig verden og et samfunn med et uhyggelig, avskrekkende sosialt, rettslig og politisk system». Det er ikke vanskelig å finne inspirasjon til andre dystopiske fremtidsutsikter i dag. Bare tenk på Det Grønne Skiftet og alt som kan gå galt når vi skal realisere dette. Eller tenk på Kunstig Intelligens som noen mener er i ferd med å nå singularitets-nivået der vi mister kontrollen og maskinene overtar og styrer oss. Det er disse siste utfordringene som i første omgang er tema her. 

Kunstig intelligens er en eksistensiell trussel. Forskerne Aksel Braanen Sterri og Jakob Graabak bruker i Aftenposten 7. juni denne overskriften på et debattinnlegg. De mener at å redusere risikoen for at kunstig intelligens utrydder menneskeheten bør være en global prioritet på lik linje med andre store samfunnsrisikoer som pandemier og atomkrig. De henviser til et opprop signert av 350 eksperter, forskere og industriledere 30. mai i år. Et opprop som fikk internasjonal oppmerksomhet. Som eksempel på skadelig algoritmer vi allerede for år tilbake har erfart konsekvensene av viser de til de som ble brukt for å kjøpe og selge aksjer på New York-børsen rundt år 2010. Disse skapte enorm profitt helt til de i 2010 førte til et «flash crash» på børsen der tusenvis av milliarder dollar gikk tapt. Frykten for fremtiden er, ifølge Braanen Sterri og Graabak, at teknologien vil bli misbrukt til å utvikle og lage masseødeleggelsesvåpen, fremprovosere omfattende systemsvikt eller at det lages superintelligente systemer som utsletter oss. Regimene som har styrt utviklingen av ChatGPT og AlphaFold gir ingen garantier for at dette ikke kan skje. Vi vet ikke hvilke interne regler maskinene utvikler, og om de er i vår interesse. Og vi vet ikke om vi har mulighet til å finne og til å «trykke på av-knappen» i tide. Forfatterne her foreslå at vi som samfunn må ta initiativ til å regulere kunstig intelligens for å hindre bruk av teknologien til å utvikle masseødeleggelses-våpen. Vi må kreve at teknologiselskapene ikke bistår ondsinnede aktører. Vi må utvikle sikkerhetsstandarder for utvikling og utrulling av nye kunstig-intelligens-modeller. Sikre at godene fra kunstig intelligens blir tilgjengelig samfunnsgode for alle, at ikke bare de som utvikler disse systemene samler rikdom på egen hånd. Kanskje er det lettere sagt og skrevet enn å realisere.

Få trodde dette var noe som kunne bli smartere enn mennesker. Geoffrey Hinton advarer verden mot sin egen oppfinnelse. Advarselen er gjengitt i Aftenposten 3. mai i år. Geoffrey Hinton, som nå er 75 år, revolusjonerte datateknologien med sin utvikling av dyp maskin-læring og kunstig intelligens. Teknologien gjorde det mulig for maskiner å finne mønstre og løsninger gjennom å kombinere store datamengder, bilder og lyd. Hintons prosjekt ble kjøpt av Google for over ti år siden. Kappløpet som etter hvert ga oss ChatGPT, Bing, Google Bard og flere var i gang. Hinton har nå brutt med Google for, som han sier, «slik at jeg kan snakke fritt om hvilken fare kunstig intelligens utgjør». Han mener at denne teknologien kan bli utnyttet til onde hensikter og bli en trussel mot hele menneskeheten. Han viser til at chatbotene har klart å utvikle og endre sin egen programkode, opptre utspekulert og «lure mennesker trill rundt». Hinton frykter at internett snart oversvømmes av falske bilder, videoer og nyheter. Det vil bli vanskelig å skille hva som er ekta fra hva som er KI-fake. Han mener KI og kunstig intelligens på sikt vil stjele hundretusener av arbeidsplasser – vil overta ufaglært jobber – svartjenester og kundebehandling. Noen kan i verste fall skape selvdrevne og selv-utviklende ødeleggelses-roboter. Hinton mener for sin del at det kan være vanskeligere å få global kontroll og regulering av KI enn av atomvåpen. Det er ikke vanskelig å være enig med Hinton her. Kontrollen av hvilke aktiviteter som foregår hvor er velutviklet og mye strengere når det gjelde atomvåpen. Kontrollen med hva som foregår på KI-området er vanskeligere å etablere på grunn av at konkurransen mellom langt flere kommersielle og statlige aktører, og mellom stater, er heftigere. 

Vår venstre hjernehalvdel kan vi kopiere maskinelt og tilføre store datamengder. Men høyre hjernehalvdel er det ikke mulig å erstatte med en maskin. Bjørn Vassnes, som er Vitenskaps-journalist og fast bidragsyter i Klassekampen gir oss kanskje litt trøst opp i disse dystre fremtidsutsiktene. Han skriver 8. juni i år også om Kunstig intelligens, men hevder at slik intelligens ikke kan mestre den menneskelige hjernens «ping-pong-spill». Han mener at vi til nå har fokusert på teknologien som understøtter kunstig intelligens slik vi møter den i dag, men glemt oss selv og hvordan vi er. «Selv om maskiner kan søke og regne bedre enn oss, har de hverken den praktiske eller sosiale fornuften som vi trenger for å navigere i det virkelige liv». Som mennesker, mener Vassnes, har vi noen måter å tenke å løse problemer på som vi ikke kan overføre til maskiner, fordi vi ikke selv forstår hvordan vi gjør det. Vi har laget maskiner som «tenker» deduktivt logisk og laget klassisk kunstig intelligens. Vi har prøvd å etterligne nevrale nettverk og utviklet såkalt «maskinlæring». Og vi har kombinert disse metodene med tilgang til store mengder data fra internett. Men vi har ikke erstattet menneskelig intelligens med dette. Svaret på at vi ikke lykkes med å erstatte menneskelig intelligens mener Vassnes ligger i at vi som mennesker er utstyrt med to hjerner. «Den venstre halvdelen er en slags logikk- og språkcomputer, som jobber steg for steg, bit for bit, mens den høyre halvdelen oppfatter helheter. Den tolker også emosjoner og tvetydigheter bedre enn den venstre, som på mange måter fungerer mer autistisk». Funksjonene til venstre hjernehalvdel kan vi kopiere maskinelt og tilføre store datamengder. Høyre hjernehalvdels funksjoner og bidrag er det umulig å lage maskin som erstatning, i alle fall ikke foreløpig, skal vi tro Vassnes. Her kort fortalt. Originalartikkelen til Vassnes finner du her. 

Bevissthet er sterkt og grundig koplet med vår natur som levende vesener. Vassnes synspunkter støttes av Anil Seth som er professor i «cognitive and computational neuroscience» Seth er det referert til i en post 4. januar i år på denne bloggen. Seth mener det er viktig å skille mellom intelligens og bevissthet. Dette gjør han i en kommentar til Google-ingeniøren Blake Lemoine som ble overbevist om at AI-programmet han hadde arbeidet med, LaMDA, ikke bare hadde utviklet intelligens, men også egen bevissthet. Bevissthet er sterkt og grundig koplet sammen med vår natur som levende vesener, sier Seth. Han mener videre at kommende versjoner av kunstige intelligenser, ettersom algoritmene forbedres og trenes på stadig større hav av data, vil kunne være i stand til å overbevise flere mennesker til å tro at det er bevisste kunstige intelligenser som har utviklet seg der inne i algoritmen. Men bevissthet er altså noe som er koplet sammen med vår natur som levende vesener. Alternativ fremtidsutsikter for mennesker i et arbeidsliv med kunstig intelligens finnes også i flere poster på denne bloggen blant annet her. Dette som en motvekt til de mørke fremtidsutsiktene som ellers preger denne posten.

Vi har utfordringer med å forestille oss fremtiden. Hvorfor er vi dårlige til «å se den»?

Hvorfor har vi ikke 15 timers arbeidsuke i dag? Jo fordi vi er mer opptatt av nåtiden og har utfordringer med å forestille oss fremtiden. 

Hva kan vi lære av The Jetsons? Michael Lind er amerikansk forfatter og professor ved Lyndon B. Johnson School of Public Affairs ved University of Texas i Austin. I mai utgaven av The Critic reflekterer han rundt hva vi i dag kan lære av den amerikanske TV-serien The Jetsons, som var populær i USA på 1960-tallet og senere også på 80-tallet. Hans konklusjon er at den fremtidsvisjonen serien presenterer knapt kunne være lengre unna den virkeligheten vi lever i i dag selv om den i 1960 kanskje fremsto som sannsynlig. Jetson-familien lever i Orbit City. George Jetson lever med familien sin i Skypad Apartments. Ingen bor på bakkeplan her. Han har hjemmeværende kone, Jane, en datter Judy som går på Orbit High School og en sønn, Elroy, som går på skolen Little Dipper. Husarbeidet utføres av roboten Rosie som blant annet betjener et helautomatisk kjøkken. Familien har hunden, Astro, som kan snakke ved hjelp av en innretning som starter alle ord med en knurrelyd. George Jetsons arbeidsuke består av en times arbeid to dager i uken som er vanlig i dette remtids-samfunnet. Jetson "flyr" til jobben i en aerocar med gjennomsiktig glassboble som tak. Daglig liv er først og fremst fritid assistert av et stort antall arbeidsbesparende verktøy. Innbyggerne klager imidlertid hele tiden over hvor utmattende hardt det er å arbeide. Hvorfor er det ikke slik vi lever i dag? Lind peker på flere forhold blant annet at økonomisk vekst siden 1960 først og fremst har skjedd ved at arbeidsstyrken har vokst, snarere enn som en følge av teknologiske innovasjoner. I 1960 var barn født av ugifte mødre i USA en sjeldenhet. I dag er 4 av 10 barn født av ugifte mødre, mange av disse er i arbeid og har sine barn i day-care-sentre. Dette gir arbeid til enda flere mennesker. Andelen kvinner i arbeidsstyrken i USA var 40% i 1960 og 56.8% i 2022. Prosentandelen av amerikanere som er gift har sunket fra 80% i 1960 til 33,2 % i 2019. Kutt i pensjonsordninger har ført til at yrkesaktive står lengre i arbeid. Masseinnvandring har også gitt betydelige bidrag til en større arbeidsstyrke. Noen industrier er til og med «av-teknologiserte». Lind viser her til bilvask. I USA er nå håndvasking av biler en næring i vekst.

Spådom i 1930: Femten-timers arbeidsuke i 2000. Men det er ikke bare Jetsons vi kan trekke lærdom av når vi forsøker å spå fremtiden. I 1930 mente den svært anerkjente økonomen John Maynard Keynes, som hadde sett på produktivitets-utviklingen årene etter første verdenskrig, at normalarbeidstiden ville være 15 timer i uken i år 2000. Denne påstanden om fremtiden ble for noen år tilbake inspirasjon til en studie gjennomført av den amerikanske antropologen David Graeber. Han skrev etter denne studien boken om bullshit-jobber, utgitt i 2018. Hans konklusjon var at når vi i 2018 arbeidet så mye som vi også gjør i dag, skyldtes dette ikke at Keynes tok feil. Årsaken var fremveksten av jobber som egentlig er unødvendige og uten mening. Han antydet flere forskjellige typer av slike jobber som alle har stor utbredelse i dagens arbeidsmarked. For å forklare hva bullshitjobber er, introduserte Graeber bl.a. det han kalte «Goons». Dette er ansatte som har jobber fordi andre virksomheter virksomheter sammenligner seg med, har tilsvarende stillinger. PR-folk, ansatte engasjerte i samfunnskontakt og såkalte lobbyister er med i denne gruppen. De er selvsagt svært aktive på de fleste digitale sosiale medier. Andre slike ansatte kalte han «Boxtickers». Disse arbeider med å etablere «tellekanter» eller KPIer i alle typer virksomheter, de etablerer IT-baserte rapporteringsrutiner og kontrollerer rapporter. New Public Management, NPM, har gitt oss mange slike jobber også i offentlig sektor.  «Taskmasters» kjenner de av oss igjen som leser tegneserien «Lunch». Dette er kreative ansatte som stadig bidrar med «ny-ord» og «nye metoder» for å fornye og «forstyrre arbeidet» i virksomhetene de arbeider i. Ofte henter de inn konsulenter, også IT-konsulenter, som ikke kjenner virksomheten og det den driver med. Slik skapes ytterligere forvirring. Alle disse «profesjonene» var ifølge Graeber i kraftig vekst i 2018, og slik er det opplagt fortsatt. Dette var det selvfølgelig helt umulig for Keynes å forutse i 1930. Graeber peker altså også på at flere mennesker arbeider mer slik Lind gjør,  men forklaringen er altså en annen. Mer om det her.

Vi har utfordringer med å forestille oss fremtiden. Hvorfor er vi så dårlige til "å se den". Vi begynte med to "fremtids-spådommer" som ikke slo til. Richard Fisher, journalist i BBC Future arbeider med, og skriver om, vitenskap og teknologi. Han har nylig utgitt boken The Long View: Why We Need to Transform How the World Sees Time (Wildfire, March 2023). Han har også skrevet en artikkel i New Scientist 25. mars om temaet. Fisher innleder med å slå fast at det nå er enighet blant fremtidsforskere om at kortsiktig tenkning er et betydelig problem i industrialiserte samfunn. Manglende evne til å engasjere seg i å utvikle realistiske fremtidsutsikter og -konsekvenser blir tydelig i møte med fremtidens alvorlige utfordringer, som klimaendringer, tap av biologisk mangfold, utvikling av antibiotika resistens, økende inntekts- og levekårs-ulikheter, farene for atomkrig mv. Vi lever i en tid da øyeblikket og nåtiden får stor plass, det noen vil kalle «øyeblikkets tyranni». Både næringslivet og politikerne har nærtids-fokus på kvartalsresultater og neste valg, respektive. Børser leverer online aksjekurser rettet mot kjøp, salg og gevinst på investeringer her og nå. Fisher peker på flere andre mekanismer som bidrar til denne «nærsyntheten». Han viser til tidsbestemte vaner og mener vi har en tilbøyelighet til å vektlegge lett tilgjengelig informasjon og samtidig skyve på beslutninger der informasjon er mer usikker, som den alltid vil være når det gjelder fremtiden. Fryser vi om vinteren er det lett å skyve faren for global oppvarming til side. Han skriver om tilbøyelighet til å tillegge det umiddelbart iøynefallende større vekt, f.eks. at Elon Musk får større oppmerksomhet om sine fantastiske ideer, enn forskere, du ikke kjenner, som snakker om tap av biologisk mangfold. Han skriver om at vi som mennesker har vanskelig for å oppfatte langsomme forandringer i våre omgivelser, som f.eks. klimaendringer, og at dette fører til at hver generasjon av oss opplever nåtiden som normal. Ordene vi bruker om å beskrive fortid og fremtid er også av betydning. Fremtiden beskrives ofte som noe som er fjernt, langt borte og ofte ukjent. Dette bidrar til å skape psykologisk distanse til det som måtte komme.

Hvordan kan vi bedre forestille oss fremtiden? Fisher har også samlet råd for dette. Vi bør som mennesker utvikle en måte å tenke på som omfatter vår situasjon i fortid, nåtid og fremtid, alt i et, og slik plassere oss som mennesker i en tidslinje som begynner før og slutter etter nå-tid. Dette er enklere om du lever i et samfunn med kollektivistisk kultur og tradisjon som Japan og Kina, enn om du lever i et individualist-samfunn som USA der man først og fremst er opptatt av frihet og rettferdighet for alle nå. Forskere på saken har konstatert at noen mennesker er orientert mot fortiden, noen mot nåtiden og andre igjen mot fremtiden. Du kan selv kartlegge deg selv på https://www.thetimeparadox.com/. Det å velge eget perspektiv (fortid, nåtid eller fremtid) er en måte å utvikle seg selv på og nå frem til en opplevelse av at verden ble til, er og blir til over tid. Skal vi unngå å snuble inn i fremtiden må vi utvikle et større tidsperspektiv som dekker både før, nå og fremtiden, skriver Fisher.

Ansvar og frykt for fremtiden. Fremtids-studier og fremsyn har vært tema i mer enn en post på denne bloggen. Lørdag 13. april i 2021 ga Unge Venstres leder, Sondre Hansmark, i Dagnes Næringsliv, uttrykk for sitt daværende fremtidsperspektiv på denne måten: «Jeg er bekymret for min generasjons velferd. Vi kan ende opp med å bli generasjon null pensjon fordi foreldregenerasjonen forsyner seg sjenerøst fra Oljefondet». Altså et fremsyn som ikke har spesielt lystige utsikter for hans generasjon. Er han styrt av ønsket om å vise solidaritet med sin egen generasjon, av å sanke stemmer? Foranledningen var selvsagt presentasjonen av «Perspektiv-meldingen», et svært så offisielt fremsyn, dagen før.

Vanskelig å forestille seg naturkatastrofer når man ikke har erfaring med dem. Fortsatte utslipp av klimagasser vil gi global oppvarming og villere vær uttalte man tidlig fra FNs talerstol. Under flommen i Ahr dalen i Tyskland natten mellom 14. og 15. juli i 2022 omkom 134 mennesker. Forutsetningene for, og skadeomfang av flommen, var påvist og varslet, men ikke forstått. Et bevis på at vi mangler evnen til å forestille oss «det verste» selv i en umiddelbart nær fremtid?

 

Å utvikle fremtids-ferdigheter innebærer å gjøre seg bevisst stammespråkene, virkelighets-forståelsene, verdiene og selvfølgelighetene som får oss til å danne oss noen forventninger om fremtiden og ikke andre, slik Fisher beskriver det. Våre forventninger er knyttet til nedarvede forestillinger skapt i en annen tid enn den fremtiden vi vil møte. Våre tankemønstre er bundet til institusjonelle strukturer, ideologier og stereotype forestillinger om fremtiden. UNESCO har utviklet en Fremtidsferdighetsmetode for å ta oss ut av disse «tvangstrøyene». Den anbefales.

Tema: Dumme økonomer og bitcoin

Bitcoin og andre kryptovalutaer åpner for å stille spørsmål om «Kvifor er økonomar så dumme?» Eller om hva som er feil med bitcoin som valuta, del av svart økonomi, eller som «klimasynder».

Bitcoin og andre kryptovalutaer har vært tema i poster på denne bloggen flere ganger. Første gang når nyheten kom om at Elon Musk og Kjell Inge Røkke hadde investert i Bitcoin og at Musk ville akseptere Bitcoin som valuta ved kjøp av el-bilen Tesla. Deretter når Musk annonserte at han trakk dette tilbudet, kanskje fordi han innså at utvinning av cryptovaluta ikke passet perfekt med konseptet utslippsfrie biler. Strømforbruk knyttet til blokk-kjeder, cryptovaluta og cryptokunst har vært et hovedtema i den hittil seneste posten. De seneste dagene har cryptovaluta engasjert flere til å dele meninger i Dagens Næringsliv. Her følger en kort oppdatering.

Kvifor er økonomar så dumme? Svein Ølnes, som er seniorforsker ved Vestlandsforskning og er ansvarlig for Bitcoin-kurs ved Høgskolen på Vestlandet skrev 25. august et leserinnlegg i DN med denne overskriften, der vinklingen var at «dumme økonomer» ikke ville «studera eit ope og radikalt pengesystem» som bitcoin. Med henvisning til Thomas Kuhn skrev han videre at «…alle forskningsdisiplinar heldt seg innanfor eit definert paradigme, eit sett vedtekne sanningar, og at det er veldig vanskeleg å bryta dette paradigmet.» Og, skrev han, «Tankar som utfordrar det etablerte miljøet, ofte kalla ortodokse økonomar, har vanskar med å nå fram i dei dominerande tidsskrifta og innan utdanningane ved universiteta». Han mente økonomer som til nå har avvist bitcoin bør vise nysgjerrighet og ta fenomenet på alvor.

Feiler som valuta, fremmer svart økonomi, er en klimasynder, var overskriften på svaret Ølnes fikk to dager etter frasjeføkonom i Econa Tore Vamraak. Vamraak mener at teknologien har ulemper blant annet knyttet til at det kreves uhorvelige mengder energi til å holde ved like et system som forutsetter stadig mer avanserte krypteringer. Energiforbruket er per i dag tilsvarende Norges samlede strømforbruk. Vamraak innrømmer at Bitcoin har en konkurransefordel som betalingssystem knyttet til at myndighetene har små muligheter til å ettergå transaksjoner. Dette gjør imidlertid kryptovaluta populær blant enkelte kriminelle. Og hevder Vamraak, «.. bitcoin fremmer svart økonomi. Sist, men ikke minst er bitcoin et spekulasjonsobjekt».

Bekrefter økonomane sin dumskap er overskriften på Ølnes sitt tilsvar til Vamraak allerede lørdag 28. Ølnes viser til tidligere CIA-direktør Michael Morell som har uttalt at bare 0,5% av bitcoin-transaksjonene i 2020 kunne kategoriseres som illegale. Han viser til at energibruken er dynamisk og at den ble halvert i løpet av sommeren på grunn av innstramninger i Kina og at siden Kina stort sett bruker kull til å produsere elektrisitet så har dette ført med seg at «fornybar-delen av energibruken har gått markant opp». Han henviser Vamraak til å bruke helgen på "å lese seg opp på" en introduksjonsartikkel om bitcoin og blokkkjeder i Econas tidsskrift Magma fra høsten 2019 skrevet av Torbjørn Bull Jensen.

Skjerpings om bitcoin, og økonomer som er like dumme som bitcoin. I dag, mandag 30. august, tok det av i DN med to nye debattinnlegg om bitcoin. Først ut var direktør for politikk i IKT-Norge, Liv Freihow. Som mener Vamraaks svar til Ølnes «var oppsiktsvekkende tynt». «Kryptovalutaer, med bitcoin i spissen, er uten tvil det største og mest radikale økonomiske fenomenet som er blitt lansert i nyere tid. Anslagsvis 100 millioner mennesker eier i dag bitcoin», ifølge Freihow. Are Oust og Jon Olaf Olaussen, henholdsvis førsteamanuensis og professor ved NTNU Handelshøyskolen har også meldt seg på denne mandagen. De hevder at «Bitcoin har fått et rykte om at en trenger dyp teknisk innsikt for å forstå den. Og at en trenger å forstå hele infrastrukturen. Det er noe vi kjenner igjen fra bobler». De mener at det både forskes og undervises i bitcoin, men ofte da under tittelen «fintech». De mener at «vi har allerede i dag pengesystemer/valutaer som fungerer bedre enn bitcoin har potensial for. Derfor bør ikke bitcoin bli en stor og sentral valuta». Men de mener allikevel at bitcoin kan være og vil forbi et investeringsobjekt i tiden fremover. «Det finnes tross alt mye rart i investeringsuniverset».

Caitlin Long Wyomings Blockchain Pioneer. I mitt eget søk etter å forstå mer av kryptovaluta-greia har jeg kommet over et oppslag om Caitlin Long i Fortunes august/september utgave. Hun forsøker å gjøre den amerikanske delstaten Wyoming til et etableringsparadis for kryptoindustrien. Wyoming er en stor stat målt i areal, med lite folk og ganske svakt næringsgrunnlag så Caitlin Long er blitt tatt imot med åpne armer og har etablert seg som CEO i Avanti Financial Group som har hjulpet myndighetene i Wyoming med lovverk som er ferd med å gi denne staten et rykte som kryptovalutaenes Forjettede Land, eller Ville Vesten, avhengig av hvem man spør. Ikke alle er like begeistret. Det Wyoming nå gjør kan føre til økonomisk ustabilitet lenger frem i tid hevder Lee Reiners, direktør ved Global Financial Market Center ved Duke-University Law School. Han frykter vi kan få en krise tilsvarende den vi fikk i 2008 som en følge av at investorer drev veddemål i stor stil med lån uten sikkerhet.