Mytene om kunstig intelligens (AI) er de bare myter eller mer enn myter?

 

Mytene om kunstig intelligens (AI) er de bare myter eller mer enn myter? I 2021 utga Erik J. Larson boken «The Myth of Artificial Intelligence». Larson hadde da bak seg to AI-startups. Han hadde, da boken ble utgitt, bak seg tester av AIs grenser gjennom arbeid ved IC2, en teknologi-inkubator ved University of Texas i Austin. Han skriver blant annet at «Myten om AI er ikke at AI er mulig». Fremtiden til AI er vitenskapelig sett usikker og den er ikke at vi først vil få AI som tenker som mennesker og deretter AI som er super-intelligent. Dette er forestillinger som er skapt av mennesker som ser seg tjent med slike forestillinger og som tjener penger ved å presentere slike forestillinger. Larson viser i boken sin til at ideen om kunstig maskinell intelligens har røtter tilbake til andre verdenskrig da en gruppe matematikere og sjakkspillere som arbeidet med, og også lykkes med, å knekke tyske "hemmelige" koder, som igjen gjorde at man kunne møte og hindre tyske fly- og bombeangrep. Kunne man få til dette måtte det være mulig også etter-hvert å utvikle intelligente maskiner som var like intelligente som mennesker og etter hvert mer intelligente, tenkte man da. Sjakk og sjakkspill har på flere måter vært sentralt med i utvikling av data-behandlende maskiner. 

KI og effektivisering av offentlig sektor. For noen år tilbake publiserte konsulentfirmaet Menon en rapport der konsulenter fra selskapet hevdet at kunstig intelligens kunne gi innsparinger i offentlig sektor tilsvarende 155.000 årsverk. Årsverk-beregningen viste seg i ettertid å stamme fra ChatGPT. Noen vil hevde at ChatGPT i den da foreliggende versjonen knapt kvalifiserer som det vi i dag omtaler som kunstig intelligens. Magnus Forsberg kommenterte denne saken i Dagsavisen 25. oktober i år og tilføyde at 15.000 av de 155.000 årsverkene som man ifølge rapporten kunne spare inn var beregnet å kunne hentes/innspares blant barnehage- og skolefritids-assistenter. Resultatet ble rapportert i tidsskriftet Stat og Styring som utgis av Scandinavian University Press/Universitetsforlaget. Forsberg viser i sin kommentar også til andre «KI-skandaler». En av disse er Tromsø kommune som søkte råd hos ChatGPT rundt hvilke skoler som skulle legges ned i kommunen. En annen KI-skandale er ifølge Forsberg knyttet til en ikke navngitt advokat som leverte et prosess-skriv til Høyesterett fullt av det Forsberg betegner som KI-hallusinerte rettskilder. Når vi først snakker om generelt «å spare» manuelle årsverk ved å innføre ny teknologi tar flere tidligere poster på denne bloggen friske anslag rundt potensialet for å spare inn årsverk ved innføring av slik teknologi som ikke har latt seg realisere. 

Finanssektoren satser stort på KI/AI og risikerer å pådra seg KI-gjeld! Få bransjer har tatt i bruk ny kunstig intelligens så raskt som finanssektoren hevder Zacharoula Papamitsiou og Raymond Andreas Stokke, som begge er forskere i Sintef, i et innlegg i Dagens Næringsliv 27. oktober. Det internasjonale pengefondet IMF mener at investeringer i KI-programvare, -maskinvare og -tjenester i finanssektoren mer enn dobles til nær 100 milliarder dollar innen 2027. Men hvilke resultater disse investeringene gir er usikker. Gjennomsnittlig avkastning i storskala KI-prosjekter er ifølge de to nevnte forskerne under seks prosent og mange selskaper klarer ikke å måle noen gevinst i det hele tatt. Utfordringene ligger i faren for at virksomhetene pådrar seg såkalt «KI-gjeld» som er langsiktige kostnader som bygger seg opp når virksomheter bygger opp komplekse KI-systemer raskt, uten å sette av ressurser til kontinuerlig å rette opp feil som oppstår underveis. Feilene kan, ifølge forskerne, skyldes skjeve eller ufullstendige datasett, ugjennomsiktige eller utdaterte algoritmer, samt manglende løpende teknisk og etisk kontroll. I finanssektoren finner vi de virksomhetene som i størst grad og tempo har tatt KI i bruk. Over 80% av handelen i finansmarkedene utføres nå av algoritmer. KI-systemene er etablert for å oppdage svindel, forutsi kreditt-tap, optimalisere porteføljer og gjennomføre handler i løpet av millisekunder. Den 5. august 2024 falt aksjemarkedene i Japan og USA kraftig. Det er uklart hvor stor rolle KI spilte, men mye tyder på at hedgefondene handlet samtidig da flere algoritmer samtidig "oppdaget" nedgangstrender. Hva vil skje når KI-modeller får enda større utbredelse? Opprydding i «KI-gjeld» er et helt nødvendige tiltak for å sikre robusthet som kan forhindre katastrofale tap i følge Papamitsiou og Stokke.

Om ikke-objektive data og ikke-nøytrale algoritmer. Andreas Ulfsten ansatt ved Institutt for informatikk ved UiO viser i et innlegg i Dagens Næringsliv 10. oktober i år, til at «Norge skal bli verdens mest digitaliserte land innen 2030» om vi skal tro digitaliserings-minister Karianne Tung. Han konkluderer med at dette må innebære at digitalisering vil få større utbredelse i samfunnet vårt og retter oppmerksomheten mot ledere i norsk næringsliv som med dette utfordres kraftig i sine roller som beslutningstakere. Samtidig viser han til at vi ofte setter «Menneskelig dømmekraft i opposisjon til rasjonelle analyser produsert av nøytrale algoritmer og objektive data», samtidig som han påstår at «dette påståtte skillet er kunstig». Data er ikke objektive og algoritmer er ikke nøytrale, hevder han som begrunnelse. Data produseres alltid om og innenfor en kontekst. Han viser til som eksempel at regnskaps-data produseres av regnskaps-avdelinger og produksjonsdata og kundedata produseres i produksjonsmiljøer og av markedsavdelinger og videre at også data om f.eks. nasjonaløkonomi og klimautfordringer hentes frem av institusjoner som arbeider for forskjellige formål. At algoritmer ikke er nøytrale skyldes blant annet disse skjevhetene i datasettene, men også at algoritmene er utviklet av mennesker som i utviklingsfasen ut fra egen kunnskap og erfaring gjør subjektive valg som påvirker hvordan data prosesseres. «At data ikke er objektive og algoritmer ikke nøytrale, betyr også at det antatte skillet mellom upålitelig menneskelig dømmekraft og rasjonelle maskiner er kunstig og bør forkastes» mener Ulfstein. Han mener derfor videre at menneske og maskin bør fungere sammen i viktige beslutningsprosesser.

Utfordringer knyttet til "kunstig intelligens" har vært tema for poster på denne bloggen både i august 2024 og i senest i august 2025.