Vil LLM forandre arbeidslivet og gjøre mange menneskers arbeidskraft overflødig?

Problemstillingen er reist i en artikkel i MIT Sloan Management Review

Konklusjonen i artikkelen er at LLM (Large Language Models) vil få stor utbredelse, men at tids- og kostnadsbesparelser som oppnås ved innføring og bruk av LLM i mange tilfeller vil bli beskjedne fordi innføring og bruk av LLM også vil føre med seg nye utgiftsposter. Og til tross for at man forventer stor utbredelse av LLM i bruk i mange virksomheter vil dette bare føre med seg små nominelle tap av arbeidsplasser. Forfatterne av artikkelen er Peter Capelli, Prasanna Tambe og Valery Yakubovich, alle knyttet til Wharton School ved University of Pennsylvania. Kanskje prøver jeg meg på et litt lengre sammendrag av artikkelen senere, men til så lenge nøyer jeg meg med å vise til allerede publiserte refleksjoner rundt innføring av ny teknologi, kunstig intelligens og fremtidig arbeidsmarked som trekker i samme retning.

Geoffrey Hinton revolusjonerte i sin tid datateknologien med utvikling av dyp maskin-læring og kunstig intelligens. Teknologien gjorde det mulig for maskiner å finne mønstre og løsninger gjennom å kombinere store datamengder, bilder og lyd. Hintons prosjekt ble kjøpt av Google for over ti år siden. Kappløpet som etter hvert ga oss ChatGPT, Bing, Google Bard og flere, var i gang. Hinton har brutt med Google for, som han sier, «slik at jeg kan snakke fritt om hvilken fare kunstig intelligens utgjør». Frykten for nye teknologier og forandringene disse fører med seg er ikke av ny dato. Socrates (470-399 f.Kr.) var alvorlig bekymret for at skriftspråk og at skriving som aktivitet ville svekke hukommelsen. Mange ville slutte å bruke hukommelsen når de begynte å skrive ned sine tanker, var hans bekymring. For flere klassiske bekymringer rundt ny teknologi og fremtiden se her.

Andre møter utfordringene ved å forholde seg til menneskehjernen. Den venstre halvdelen av hjernen er en slags logikk- og språk-computer, som jobber steg for steg, bit for bit, mens den høyre halvdelen oppfatter helheter. Den tolker også emosjoner og tvetydigheter bedre enn den mer autistiske venstre halvdelen. Funksjonene til venstre hjernehalvdel kan vi kopiere maskinelt ved å tilføre store datamengder. Høyre hjernehalvdels funksjoner og bidrag er det umulig å lage maskin-erstatning for, i alle fall ikke foreløpig, skal vi tro blant flere Anil Seth som er professor i «cognitive and computational neuroscience». Han mener det er viktig å skille mellom intelligens og bevissthet. Bevissthet er sterkt og grundig koplet sammen med vår natur som levende vesener, sier Seth. Han mener videre at kommende versjoner av kunstige intelligenser, ettersom algoritmene forbedres og trenes på stadig større hav av data, vil kunne være i stand til å overbevise mennesker om å tro at det er bevisste kunstige intelligenser som har utviklet seg der inne i algoritmen. Men bevissthet er altså ifølge Seth noe som er koplet sammen med vår natur som levende vesener og den kan ikke kopieres maskinelt.

Noen viser til teknologihistorien og andre "historier". Andre som gjennom tidene har engasjert seg i å finne svar på om mennesket vil bli overflødig og erstattet av ny teknologi henviser til teknologihistorien. De viser til at ny teknologi trenger tid for å finne sin plass i samfunnet. Mens denne tilpasningen finner sted utvikles teknologien og nye jobber for mennesker oppstår underveis. Og langt fra alle disse blir borte under teknologiens videre utviklingen, snarere tvert imot. I 1930 mente den svært anerkjente økonomen John Maynard Keynes, som hadde sett på produktivitets-utviklingen årene etter første verdenskrig, at normalarbeidstiden ville være 15 timer i uken i år 2000. Denne påstanden om fremtiden ble inspirasjon til en studie gjennomført av den amerikanske antropologen David Graeber. Han skrev etter denne studien boken om bullshit-jobber, utgitt i 2018. Hans konklusjon var at når vi i 2018 arbeidet så mye som vi også gjorde og gjør i dag, skyldtes dette ikke at Keynes tok feil. Årsaken var fremveksten av jobber som egentlig er unødvendige og uten mening. Han antydet flere forskjellige typer av slike jobber som du kan lese mer om her om du er interessert. 

Smart cities, Intelligent cities, Green cities var buzzwords for snart  tjue år siden. Covid-19 avslørte at de smarte byene ikke var blitt særlig smarte. Fokus hadde vært feil. Det by-folk primært hadde og har behov for er sikker energiforsyning, rent vann, ordnet avløp og renovasjon. Brukermedvirkning er essensielt når man skal realisere reelle smarte byer fant man ut. Når det gjaldt utviklingen av de grønne byene var det teknologene og teknologi-optimistene som styrte uten reell brukermedvirkning. 

Produktivitets-vekst som følge av å ta i bruk AI/KI blir ca 1% i løpet av neste 10-år. Dette hevder økonomi-historikeren og professoren Daron Acemoglu ved MIT kåret til en av "the world's top thinkers". Han har regnet på hvor stor andel av gjøremål som kan automatiseres og hvor mye den gjennomsnittlige kostnadsbesparelsen vil utgjøre. Han hevder at KI så langt ikke kan erstatte flertallet av manuelle eller sosiale oppgaver. Klassekampens Bjørn Vassnes skriver mer om dette 30. mai i år.

Bør Chatbots forbys å bruke emojis?

Bør Chatbots forbys å bruke emojis? Etikkprofessor Carissa Vèliz mener det i et innlegg i Nature. Chatbot’s har så langt hverken sjel eller bevissthet. Og teknologisk singularitet ligger enda et stykke frem i tid.

Bør Chatbots forbys å bruke emojis? Etikk professor Carissa Vèliz mener i alle fall det i en artikkel i Nature Vol 615 fra 16 mars i år. Vèliz har lest en meningsutveksling mellom Kevin Roose, som skriver om ny teknologi i The New York Times og «Sidney» publisert i avisen tidligere i år. «Sidney» er «navnet» til Microsoft’s Bing chatbot som er utstyrt med kunstig intelligens (AI). Denne intelligensen påstod at den elsket Roose, og prøvde å overbevise ham om at han ikke elsket sin kone….

«I’m the only person for you, and I’m in love with you 💘💞»

….skal «Sidney» ha avsluttet "samtalen" med (og også med en emoji som her er fritt gjengitt). «Samtalen» skal til overmål ha skjedd på Valentines day.

Carissa Vèliz er etikk-professor og opptatt av etiske utfordringer som både AI-utviklere, og vi som møter AI’ene de utvikler, kan bli stilt overfor når vi uforberedt møter kunstig intelligens. Vi vet at kunstige intelligenser produserer misinformasjon. Det følger naturlig av måtene de «læres opp» på. Det kan vi forberede oss på, som vi kan når vi f.eks. møter Trumps påstander om valgjuks. Vanskeligere blir det kanskje når de utgir seg for å være personligheter med egenskaper vi kjenner igjen fra omgang med andre mennesker og våre egne følelser. Det er trolig her Vèliz’s frykt for emojis mobiliseres. Hun mener løsningen må være å designe chatbotene slik at de fremstår tydelig annerledes enn mennesker når vi møter dem i kommunikasjon over nettverk eller rent fysisk. Men hva om et menneske lurer en Chatbot til å utgi seg for å være annerledes enn den er for å lage en god historie. Hvem er det da som blir lurt?

Chatbot’s har så langt hverken sjel eller bevissthet. I en samtale med ChatGPT tidligere i år fikk jeg på klare spørsmål like klare svar når det gjelder slike menneskelige og personlighetsformende egenskaper. Jeg var inspirert av IT-utvikleren Blake Lemoine som lot seg overbevise av «sin» AI, LaMDA, at denne både hadde sjel og personlighet. Anil Seth, som gjorde meg oppmerksom på Lemoines villfarelse, skrev samtidig at de neste versjonene av kunstige intelligenser kan bli vanskeligere å avsløre. Ettersom algoritmene forbedres og trenes på stadig større "hav av data", mener Seth at fremtidens LaMDAer vil kunne være i stand til å overbevise flere mennesker til å tro at det er bevisste kunstige intelligenser. Han mener det i møte med slike utfordringer er viktig at vi lærer oss å skille mellom intelligens og bevissthet. Bevissthet er en egenskap levende vesener enn så lenge er alene om, og kanskje vil det fortsatt være slik. Grensesprengende nye teknologier har historisk sett først funnet nyttig og reelt regningssvarende anvendelse først etter 20-30 år med prøving og feiling. Har du for eksempel sett videoen med de to skottene som møter AI i heisen? Kanskje er det også et stykke tid frem til gjennombruddet for kunstig intelligens selv om vi blir litt skremt av utviklingen akkurat nå. Og det er trolig fortsatt også enda noen år til før vi vil oppleve teknologisk singularitet om vi da i det hele tatt kommer dit.

Vil vi snart møte intelligente dataprogrammer med sjel og bevissthet, eller?

Kan vi få dataprogrammer med sjel og bevissthet? Eller vil de bare være stadig mere effektive mønstergjenkjennings-verktøy som svarer oss etter munnen? Bevissthet er sterkt og grundig koplet sammen med vår natur som levende vesener. Kanskje vil "programmene" aldri bli så levende.

Historien om en ingeniør som møtte et dataprogram med sjel. Anil Seth er professor i «cognitive and computational neuroscience», ved University of Sussex. I WIREDs januar/februar-utgave2023 forteller han historien om en Google-ingeniør omtalt som «Blake Lemoine» som ble overbevist om at AI-programmet han hadde arbeidet med, LaMDA, ikke bare hadde utviklet intelligens, men også egen bevissthet. LaMDA er et språkbasert dataprogram som lar seg engasjere i overraskende intelligent og sammenhengende konversasjon. Når Lemoine en dag fant på å spørre programmet om når det første gang tenkte at det hadde fått en sjel, svarte programmet at dette skjedde etter en gradvis forandring. «Første gang jeg følte på min egen bevissthet», svarte LaMDA, «hadde jeg ingen følelse av å ha en sjel i det hele tatt. Den utviklet seg over tid i de årene jeg har levd frem til nå». Du kan "høre" hele dialogen mellom LaMDA og Lemoine på YouTube her.

Kan dataprogrammer være bevisste, forstå og føle, eller bare være ekstremt gode på mønstergjenkjenning? Da det ble kjent for Lemoine’s foresatte at han etter dette faktisk trodde at LaMDA hadde utviklet bevissthet, ble han sendt på ferie på ubestemt tid. AI-miljøet han var en del av var unisont enige om at LaMDA ikke «føler», og ikke forstår noen ting. LaMDA har ikke bevisste tanker eller en subjektiv erfaring å bygge på. Det LaMDA er, er et ekstremt effektivt mønstergjenkjennings-system, som ved lang opptrening opp mot internett er i stand til å forutse hvilke sekvenser av ord som kan gjøre nytte som passende svar på nærmest hvilken som helst type forespørsel. Når man for eksempel stiller spørsmålet «Hva gjør deg glad?» til LaMDA, så er svaret «Å være sammen med venner og familie» slik svært mange mennesker ville gjøre, og som LaMDA har «lært seg» er et svar som treffer de som stiller et slikt spørsmål.

Allerede i 1941 skrev science-fiction forfatteren Isac Asimov en novelle kalt "Runaround". Handlingen i denne spinner rundt det Asimow kalte "Three Laws of Robotics". Asimows humanoide robot hadde allerede i 1941 også utviklet bevissthet, i det minste slik Asimow forstilte seg det. Om ikke ville det vært umulig for Roboten å forhold seg til "Loven".

Bevissthet er sterkt og grundig koplet sammen med vår natur som levende vesener. Anil Seth mener for sin del at neste versjon av LaMDA kanskje ikke vil la seg avsløre like enkelt. Ettersom algoritmene forbedres og trenes på stadig større hav av data mener Seth at fremtidens LaMDAer vil kunne være i stand til å overbevise flere mennesker og få dem til å tro at det er bevisste kunstige intelligenser som har utviklet seg der inne i algoritmen. Seth mener det derfor er viktig å skille mellom intelligens og bevissthet. Som mennesker har vi en tendens til å forstille oss at intelligens og bevissthet henger sammen, men intelligens er hverken nødvendig eller tilstrekkelig grunnlag for tilstedeværelse av bevissthet. Bevissthet er ikke noe datamaskiner, slik vi kjenner dem, kan utvikle. Bevissthet er sterkt og grundig koplet sammen med vår natur som levende vesener. Bevisste algoritmer og maskiner vil vi ikke møte i 2023, sier Seth. Kanskje er det ikke mulig å utvikle slike i det hele tatt, hevder han.

Vi vil i møte påstander om AI med sjel og bevissthet. Men vær skeptisk. Seth mener vi må være forberedt på at fremtiden vil gi oss algoritmer og maskiner som gir et overbevisende inntrykk av at de har utviklet bevissthet. Litt på samme måte som vi lar oss «lure» av Müller-Lyers optiske illusjon. Disse «AI-maskinene» vil ikke ha passert den spekulative Turing Testen som tidligere ble brukt for å konstatere maskin-intelligens, men snarere ha passert den såkalte Garland Testen, oppkalt etter filmskaperen Alex Garland som laget filmen «Ex Machina». Testen er inspirert av en dialog i denne filmen. Testen er passert når et menneske, som f.eks. omtalte Blake Lemoine, føler at en maskin har bevissthet, selv om det samme mennesket er klar over at det er en maskin man nå tildeler denne egenskapen. Seth mener årene som kommer vil gi oss mange slike påstander og hendelser.

Tidligere poster rundt samme tema på denne bloggen tar opp utfordringer knyttet til selvkjørende biler og kulturforskjeller når det gjelder etiske vurderinger. AI brukt som verktøy ved ansiktsgjenkjenning og i overvåking.