Kunstig intelligens (AI), etikk og EUs retningslinjer for tillitsvekkende bruk av AI

I 1942 formulerte science-fiction forfatteren Isac Asimov det han kalte «Three Laws of Robotics». EU lager nå lovverk for å regulere kunstig intelligens. Noen anvendelser vil bli forbudt på grunn av risiko for misbruk. Andre vil bli sterkt regulert.

I 1941 skrev science-fiction forfatteren Isac Asimov en novelle kalt «Runaround». Handlingen i denne spinner rundt det han kalte «Three Laws of Robotics». Lovens tre paragrafer sier (fritt oversatt) at: 1) «En robot må ikke skade et menneske, eller gjennom passivitet, tillate at et menneske blir skadet». 2) «En robot må adlyde ordre gitt av menneskene unntatt når en slik ordre er i konflikt med første paragraf». 3) En robot må forsvare sin egen eksistens så langt slikt forsvar ikke kommer i konflikt med første og andre paragraf». Det hører til historien om Asimows novelle at hans robot var en såkalt humanoid, en ikke-menneskelig menneskelignende skapning. I dag snakker vi vel til vanlig ikke om kunstig intelligens på denne måten. Robotene er selvstyrende maskiner i velorganiserte og rene produksjonslokaler eller lagre. Kunstig intelligens holder til i store støvfrie datasentre med kjøling.

Asimow hadde i 1941, i sin fortelling, allerede passert det tidspunktet da kunstig intelligens forventes å passere den menneskelige intelligens. Loven med "Three Laws of Robotics" forutsetter en robot med etisk orientert bevissthet som kan avstå fra å følge egne mål. Mange vil hevde at kunstig intelligens i dag ikke er kommet dit. Det er fortsatt de som utvikler "intelligensen" som må ta ansvar.   Moore’s lov, som ble formulert på 60-tallet, var lenge viktig i utviklingen tankene om kunstig intelligens og fremtiden. Den konstaterte som et faktum at antallet transistorer i en integrert krets fordobles hvert annet år. Med dette som utgangspunkt mente man rundt 2020 at vi i 2030 ville ha kunstig intelligens på nivå med den menneskelige-intelligens og samtidig antydet man året 2045 som året da det man kalte teknologisk singularitet ville inntreffe. Kunstig intelligens ville ta over styringen av den videre utvikling av livet på jorden. Etter dette "gjennombruddet" ville vi få en videre eksplosiv vekst i kunstig intelligens som raskt parkerte oss mennesker ytterligere. Menneskene ville strengt tatt bli «overflødige». Moore’s lov er senere både heftig debattert og supplert med en ny lov for å ta hensyn til stadig mindre «transistorer», utviklingskostnader og energibruk.

Asimows tre paragrafer er nær kjernen av utfordringer knyttet til kunstig intelligens. Hvorfor komme trekkende med en novelle fra 1941/42 i dag? Jo fordi Asimows tre paragrafer bringer oss til kjernen av noe av det som er utfordringer vi møter med kunstig intelligens, utvikling og bruk av slik intelligens, allerede i dag. Overvåking rettet mot kontroll av regimekritikere og falske nyheter skapt av nett-troll i troll-sentre i kombinasjon med ekko-kamre på nettet er noen aktuelle eksempler. EU presenterte allerede i 2019 retningslinjer for tillitvekkende kunstig intelligens. Her er kunstig intelligens forklart som (min oversettelse): «Et system utviklet av mennesker som, gitt et sammensatt mål, som agerer i den fysiske og digitale verden for å oppfatte omgivelsene. Det tolker tilgjengelige strukturerte og ustrukturerte data. Det resonnerer ut fra den kunnskap som det avleder fra disse og beslutter hva som er best å gjøre for å nå de mål som er satt. Kunstig intelligens er basert på mange tilnærminger, maskinlæring, maskinresonnement, robotikk m.v.»  Ifølge disse retningslinjene må tillitvekkende (trustworthy) bruk av kunstig intelligens være: 1) Lovlig i forhold til gjeldende lover og reguleringer, 2) Etisk i forhold til etiske prinsipper og verdier, 3) Robust – både fra et teknisk perspektiv og i det å ta hensyn til de sosiale omgivelser teknologien skal virke i. Retningslinjene inneholder blant annet et eget kapittel om tekniske og ikke-tekniske metoder for realisering av pålitelig AI.

Hva er etiske verdier i relasjon til kunstig intelligens? I retningslinjene fra EU fremheves respekt for menneskers autonomi, forebyggelse av skade, rettferdighet og forklarbarhet, som sentrale etiske prinsipper som må tilfredsstilles ved utvikling og bruk av kunstig intelligens. Det skal tas spesielle hensyn i relasjon til utsatte grupper som historisk har kommet dårlig ut eller som risikerer å bli stilt utenfor, og tilsvarende oppmerksomhet i forhold til situasjoner med a-symeterisk makt- eller informasjonsforhold. Det skal plasseres særlig omtanke rundt det at AI-systemer kan gi noen vesentlige fordeler for enkeltpersoner og samfunnet sett under ett, men til samme tid kan ha negative virkninger for utsatte grupper som det kan være vanskelig å måle fordi disse ikke selv kan sette ord på virkningene.

EUs Artificial Intelligence Act og hvorfor EU er viktig. Siden 2019 har EU også arbeidet med en Artificial Intelligence Act som skal gjelde i hele EU. Det er forventet at denne når den foreligger og er vedtatt i 2023-24 vil få ringvirkninger langt ut over EUs grenser. Leverandører som henvender seg til dette fellesmarkedet vil opplagt forsøke å tilpasse seg regelverket i sitt produkt- og tjeneste-utviklingsarbeid for fortsatt å kunne levere til virksomheter og privatkunder i Europa. Lovgivningen vil slik også påvirke hva som produseres og leveres til andre markeder i verden. 

Når alt dette er sagt om noe som forgår internasjonalt så har man også arbeidet for å opplyse om utfordringer knyttet til kunstig intelligens her i landet. En nasjonal strategi for kunstig intelligens ble lagt frem av Nikolai Astrup mens han enda var Digitaliserings-minister. Og vår nasjonale forskningsetiske komite la allerede for flere år tilbake frem en Forskningsetisk betenkning om kunstig intelligens. Helsedirektoratet har laget en egen samling av anbefalinger når det gjelder utvikling og bruk av kunstig intelligens. Finans Norge har vist interesse for temaet. Søk på Tekna og NITO/ og kunstig intelligens og etikk gir mange treff. Bare for å ha nevnt noen.