Kina: «Work to build a community with a shared future for mankind».

«Work to build a community with a shared future for mankind». Mener de kinesiske lederne det de sier og vil de gjøre som de sier?

«Work to build a community with a shared future for mankind». Dette ble hoved-overskriften for kinesisk utenrikspolitikk i 2017, da Xi Jinping innledet sin andre femårsperiode som president i Kina. «Overskriften» for utenrikspolitikken ble tatt inn i partikonstitusjonen under den nittende partikongressen i oktober dette året. Kinas daværende utenriksminister Wang Yi fremholdt at dette skulle være hovedmål for Kinas utenrikspolitikk i årene som kommer. Men hva innebærer det?

Fra BRI-entusiasme til gjeldskrise. Kina er i dag verdens nest største økonomi, kanskje på veg mot å passere USA. Belt and Road Initiativet (BRI) har frem til nå bidratt til å styrke Kinas innflytelse i 149 land i Asia, Afrika, Latin-Amerika og Europa. Samtidig har Kina økt kapasiteten til sin militære marine til nivå lik USAs. Er Kina virkelig innstilt på å bygge et verdens-samfunn med felles fremtid for alle. Eller er målet å øke egen påvirkning og innflytelse. BRI-initiativet sies å være i krise. Byggeprosesser har stoppet opp og land som alt har fått store lån, for å delta, «drukner i gjeld» skal vi tro Foreign Policy som peker mot COVID 19-pandemien og Kinas ned-stengning som en av årsakene. Kina har imidlertid opprettet et globalt system for kriselån til land i gjeldskrise. Et samlet dollarbeløp tilsvarende 2500 milliarder kroner er utbetalt som lån siden år 2000. Krise til tross, BRI-initiativet har så langt skapt 420.000 arbeidsplasser for landene langs handelsrutene og løftet nesten 40 millioner mennesker ut av fattigdom, ifølge kinesiske kilder.

Verdiformidling som politisk virkemiddel. I en artikkel i Journal of Contemporary China fra mai 2021 tar forfatterne Andrew J. Nathan og Boshu Zhang for seg Retorikk og Realitet i kinesisk utenrikspolitikk under Xi Jinping. De tar utgangspunkt i den bredt annonserte intensjonen for fremtidig kinesisk utenrikspolitikk: «Work to build a community with a shared future for mankind» og sammenholder denne med verdi-debatten som ellers foregår der kinesisk utenrikspolitikk og/eller der utenrikspolitisk innflytelse kommer til utrykk eller praktiseres. De mener kort fortalt at Kinas utenrikspolitiske diskurs formidler verdier som logisk sett er uforenelige. Som eksempler nevnes at det snakkes om likhet og til samme tid hierarki i det internasjonale samfunn. Og Kinas klart erklærte kulturelle superioritet i forhold til andre land, gjør Kinas erklærte respekt for andre land lite troverdig.

Han Dynastiet, Konfusianisme og altruistisk maktbruk. Kina i dag har en etnisk majoritet, etterkommere etter Han-folket, som utgjør 92% av befolkningen. I tillegg har landet 55 minoriteter hvorav 18 har folketall over 1 million mennesker. Uigurene er en av disse, men også andre grupper blant kineserne møter lite respekt fra myndighetene. Han-folket brakte med seg Konfucianismen som kineserne oppfattet og oppfatter som det mest avanserte av etiske systemer. Oppfatningen i Kina var historisk at utlendinger kunne bli siviliserte ved å tilegne seg disse kinesiske verdiene. Kinesiske diplomater hevder at altruistisk bruk av makt har sine røtter i Kinas kultur. Den klassiske Konfusianismen var imidlertid hierarkisk underordnende. Konfusius hevdet lojalitet fra de styrte til den styrende, fra sønn til far, fra kone til husbond, fra yngre bror til eldre bror. Den eneste likestillende relasjon var «venn til venn». Xi hevder at Kinas posisjon er at «Alle menneskeskapte sivilisasjoner er like når det gjelder verdier». Og at «Ingen sivilisasjon kan vurderes som overlegen en annen». Kinas spredning av Konfusianismen gjennom etablering av Confucius Institutes rundt om i verden, flere hundre er etablert, gjør at mange stiller spørsmål ved utsagnet om «likestilte sivilisasjoner». 

Moralsk moralisme og human autoritet. Yan Xuetong er professor i Internasjonale relasjoner ved Tsinghua University i Kina og en prominent bidragsyter til kinesisk teori rundt slike relasjoner. Han mener Kina bør legge «Moral-realisme» til grunn for sin utenrikspolitikk. «Moral-realisme» stammer fra klassisk kinesisk filosofi (wangdao) rundt temaet «human autoritet». Ved å la rettferdighet, rimelighet og forekommenhet være ledende prinsipper i sin utenrikspolitikk kan Kina forbedre sitt internasjonale omdømme og etablere en ny internasjonal orden med rettigheter og ansvar som er tilpasset Kinas rettmessige posisjon i verden. Yan mener fra et politisk-etisk perspektiv at rettferdighet, rimelighet og forekommenhet er overordnet likhet, demokrati og frihet som Vesten hevder som sine verdier. Yan har også gjort seg til talsperson for bruk av straff i forhold til fiender i internasjonale relasjoner. Bare ved å straffe fiender kan man vise frem sin moral og sine dyder ifølge Yan. En annen innflytelsesrik kinesisk professor Yao Zhongqiu mener at Konfusianske verdier har universell appell og må fremmes som del av Kinas historiske tid. Han hevder at vi lever i en tid med dårlig etikette og sosial uorden samtidig som vi er på vei inn i en tid for rituell fornyelse. Slik fornyelse vil bli hoved-agendaen i de neste to til tre generasjoner, hevder han. Bare grunnleggende fullstendig rituell rekonstruksjon vil kunne sikre stabilisering av den sosiale orden og først da vil man kunne snakke om en renessanse for Den Kinesiske Sivilisasjon, ifølge professor Yao. Også flere andre fremstående kinesiske intellektuelle har engasjert seg i debatten rundt hvilken rolle og plass Kina bør ta i en ny verdensorden og hvilke verdier som bør legges til grunn for utforming av denne rollen. Om tanker som dette vil føre oss til et samfunn med en delt fremtid for menneskeheten gjenstår å se. 

Mer om Kina? Kinafra Mao til Xi. Om Kina og Taiwan. Om samarbeidet mellom Kina og Russland. Et demokratisk Kina?

Kunstig intelligens (AI), etikk og EUs retningslinjer for tillitsvekkende bruk av AI

I 1942 formulerte science-fiction forfatteren Isac Asimov det han kalte «Three Laws of Robotics». EU lager nå lovverk for å regulere kunstig intelligens. Noen anvendelser vil bli forbudt på grunn av risiko for misbruk. Andre vil bli sterkt regulert.

I 1941 skrev science-fiction forfatteren Isac Asimov en novelle kalt «Runaround». Handlingen i denne spinner rundt det han kalte «Three Laws of Robotics». Lovens tre paragrafer sier (fritt oversatt) at: 1) «En robot må ikke skade et menneske, eller gjennom passivitet, tillate at et menneske blir skadet». 2) «En robot må adlyde ordre gitt av menneskene unntatt når en slik ordre er i konflikt med første paragraf». 3) En robot må forsvare sin egen eksistens så langt slikt forsvar ikke kommer i konflikt med første og andre paragraf». Det hører til historien om Asimows novelle at hans robot var en såkalt humanoid, en ikke-menneskelig menneskelignende skapning. I dag snakker vi vel til vanlig ikke om kunstig intelligens på denne måten. Robotene er selvstyrende maskiner i velorganiserte og rene produksjonslokaler eller lagre. Kunstig intelligens holder til i store støvfrie datasentre med kjøling.

Asimow hadde i 1941, i sin fortelling, allerede passert det tidspunktet da kunstig intelligens forventes å passere den menneskelige intelligens. Loven med "Three Laws of Robotics" forutsetter en robot med etisk orientert bevissthet som kan avstå fra å følge egne mål. Mange vil hevde at kunstig intelligens i dag ikke er kommet dit. Det er fortsatt de som utvikler "intelligensen" som må ta ansvar.   Moore’s lov, som ble formulert på 60-tallet, var lenge viktig i utviklingen tankene om kunstig intelligens og fremtiden. Den konstaterte som et faktum at antallet transistorer i en integrert krets fordobles hvert annet år. Med dette som utgangspunkt mente man rundt 2020 at vi i 2030 ville ha kunstig intelligens på nivå med den menneskelige-intelligens og samtidig antydet man året 2045 som året da det man kalte teknologisk singularitet ville inntreffe. Kunstig intelligens ville ta over styringen av den videre utvikling av livet på jorden. Etter dette "gjennombruddet" ville vi få en videre eksplosiv vekst i kunstig intelligens som raskt parkerte oss mennesker ytterligere. Menneskene ville strengt tatt bli «overflødige». Moore’s lov er senere både heftig debattert og supplert med en ny lov for å ta hensyn til stadig mindre «transistorer», utviklingskostnader og energibruk.

Asimows tre paragrafer er nær kjernen av utfordringer knyttet til kunstig intelligens. Hvorfor komme trekkende med en novelle fra 1941/42 i dag? Jo fordi Asimows tre paragrafer bringer oss til kjernen av noe av det som er utfordringer vi møter med kunstig intelligens, utvikling og bruk av slik intelligens, allerede i dag. Overvåking rettet mot kontroll av regimekritikere og falske nyheter skapt av nett-troll i troll-sentre i kombinasjon med ekko-kamre på nettet er noen aktuelle eksempler. EU presenterte allerede i 2019 retningslinjer for tillitvekkende kunstig intelligens. Her er kunstig intelligens forklart som (min oversettelse): «Et system utviklet av mennesker som, gitt et sammensatt mål, som agerer i den fysiske og digitale verden for å oppfatte omgivelsene. Det tolker tilgjengelige strukturerte og ustrukturerte data. Det resonnerer ut fra den kunnskap som det avleder fra disse og beslutter hva som er best å gjøre for å nå de mål som er satt. Kunstig intelligens er basert på mange tilnærminger, maskinlæring, maskinresonnement, robotikk m.v.»  Ifølge disse retningslinjene må tillitvekkende (trustworthy) bruk av kunstig intelligens være: 1) Lovlig i forhold til gjeldende lover og reguleringer, 2) Etisk i forhold til etiske prinsipper og verdier, 3) Robust – både fra et teknisk perspektiv og i det å ta hensyn til de sosiale omgivelser teknologien skal virke i. Retningslinjene inneholder blant annet et eget kapittel om tekniske og ikke-tekniske metoder for realisering av pålitelig AI.

Hva er etiske verdier i relasjon til kunstig intelligens? I retningslinjene fra EU fremheves respekt for menneskers autonomi, forebyggelse av skade, rettferdighet og forklarbarhet, som sentrale etiske prinsipper som må tilfredsstilles ved utvikling og bruk av kunstig intelligens. Det skal tas spesielle hensyn i relasjon til utsatte grupper som historisk har kommet dårlig ut eller som risikerer å bli stilt utenfor, og tilsvarende oppmerksomhet i forhold til situasjoner med a-symeterisk makt- eller informasjonsforhold. Det skal plasseres særlig omtanke rundt det at AI-systemer kan gi noen vesentlige fordeler for enkeltpersoner og samfunnet sett under ett, men til samme tid kan ha negative virkninger for utsatte grupper som det kan være vanskelig å måle fordi disse ikke selv kan sette ord på virkningene.

EUs Artificial Intelligence Act og hvorfor EU er viktig. Siden 2019 har EU også arbeidet med en Artificial Intelligence Act som skal gjelde i hele EU. Det er forventet at denne når den foreligger og er vedtatt i 2023-24 vil få ringvirkninger langt ut over EUs grenser. Leverandører som henvender seg til dette fellesmarkedet vil opplagt forsøke å tilpasse seg regelverket i sitt produkt- og tjeneste-utviklingsarbeid for fortsatt å kunne levere til virksomheter og privatkunder i Europa. Lovgivningen vil slik også påvirke hva som produseres og leveres til andre markeder i verden. 

Når alt dette er sagt om noe som forgår internasjonalt så har man også arbeidet for å opplyse om utfordringer knyttet til kunstig intelligens her i landet. En nasjonal strategi for kunstig intelligens ble lagt frem av Nikolai Astrup mens han enda var Digitaliserings-minister. Og vår nasjonale forskningsetiske komite la allerede for flere år tilbake frem en Forskningsetisk betenkning om kunstig intelligens. Helsedirektoratet har laget en egen samling av anbefalinger når det gjelder utvikling og bruk av kunstig intelligens. Finans Norge har vist interesse for temaet. Søk på Tekna og NITO/ og kunstig intelligens og etikk gir mange treff. Bare for å ha nevnt noen.

Elektriske biler og grønt skifte 2035 er ingen rett frem landevei

Vi vil fortsatt ha mange bensin- og dieselbiler i 2035 selv om det ikke blir solgt slike i Norge etter 2025 fordi vi skal realisere det grønne skiftet. Elektriske biler krever batterier. Batteriproduksjonen er ikke grønn i dag og vi møter også etiske utfordringer i gruvene der batterimineralene utvinnes. 

Fortsatt mange bensin- og dieselbiler i 2035. EU vil ha slutt på salget av bensin- og dieselbiler i 2035. Dette er del av EUs plan for å kutte CO₂-utslippene med 55% innen år 2030. Stortinget her hos oss har vedtatt slutt på omsetningen av nye slike biler allerede i 2025. FrP har varslet omkamp på vedtaket. Klima- og miljøministeren sier at regjeringen ikke har tenkt å forby bensin- og dieselbiler fra 2025, men at man har som mål at alle biler solgt fra 2025 skal være null-utslippsbiler. Det er fortsatt debatt om hva dette vedtaket innebærer og hvordan det vil bli gjennomført. Det selges og kjøpes jo fortsatt nye bensin- og dieselbiler. Gjennomsnittsalderen på den norske bilparken er over 10 år. Det innebærer at mange biler som triller rundt på norske veier er 20 år eller mer. I 2020 ble det solgt nesten 520.000 bruktbiler i Norge. Mest solgte merker var Volkswagen, Toyota, BMW og Volvo. I 2020 ble det til sammenligning solgt vel 140.000 nye biler, 54,3 % av disse var elbiler. Mange bilprodusenter har varslet planer om at 2025 er siste år de vil produsere bensin- og dieseldrevne biler. Vi er altså på veg mot stadig flere elbiler på veiene, men bensin og dieselbiler vil fortsatt trille rundt på norske veier i 2025 og også i 2035. Men det kan bli dyrt å trille rundt i slike biler.

Flere elektriske biler krever flere batterier. Nytt industrieventyr på gang? Når alle biler som produseres og selges skal ha batterier fra 2025 og senere 2035 må det produseres langt flere batterier til disse enn det antall som produseres i dag. Også andre deler av den grønne omstillingen vil kreve batterier. Sol- og vindenergi leverer ikke strøm til nettet 24 timer i døgnet. Og det vil være behov for betydelig batterikapasitet for å kompensere for dette. Også bolighus og bygninger med solceller på takene vil kreve batterier. Det er derfor det nå snakkes om at batteriproduksjon kan bli et nytt norsk energieventyr. At havna i Arendal må utvides for å dekke behovet til den nye fabrikken til Morrows Batteries som samtidig vil gi arbeid til 2500. Også i Narvik og Mo i Rana planlegges det storstilt batteriproduksjon. Moskog Næringspark utenfor Førde har ambisjoner om batteriproduksjon. Alle steder er tilgangen på ren og «billig» norsk vannkraft en drivkraft. Strømforbruket til den type fabrikker som er under planlegging vil være tilsvarende og kanskje større enn forbruket i en by som Drammen. Strømprisene til husholdninger vil klart gå opp om alle prosjektene realiseres. Også i Sverige satser man på batteri-produksjon og da med større statlige bidrag enn man hittil har fått på bordet i Norge. Her blir det konkurranse.

Grønt skifte og ikke-grønn batteriproduksjon? Dagens batterier er lithium-ion-ladbare-batterier som også brukes i laptops og mobiltelefoner. Markedet for slike batterier er forventet å vokse fra USD 30 milliarder til USD 100 milliarder i 2025. Etterspørselen etter lithium og kobolt som er hovedingredienser i slike batterier vil øke tilsvarende. Utvinning av disse mineralene krever store mengder energi. Og også vann i store mengder, avhengig av hvilken teknologi som benyttes for å fremstille lithium av den kvalitet som kreves.  En tre-del av verdens lithium finnes i Argentina i saltsletter med begrensede vannkilder. I Australia og Kina foredles lithium til batterikvalitet ved oppvarming til svært høye temperaturer. Dette krever tilførsel av store mengder energi. Kobolt som altså er en annen viktig ingrediens i disse batteriene hentes i dag ut fra gruver først og fremst i Den demokratiske republikken Kongo der de største forekomstene finnes i det som kalle Kobberbeltet. Kobbermalmen inneholder koboltholdige materialer. Malmen vaskes i lokale vannforekomster for å sortere ut koboltrike malmklumper som i hovedsak ender i Kina for videreforedling til batterikvalitet. 

Batterienes livshistorie videre er så langt heller ikke grønn. I dag dumpes store mengder batterier av alle slag i fyllinger verden rundt fordi gjenvinning er krevende. Lithium-ion-batterier i biler representerer en særlig utfordring siden disse er bygget inn i de enhetene de leverer strøm til på en måte som gjør det ekstra vanskelig å resirkulere dem. De landene som er fremst på å resirkulere materialer fra slike batterier er Kina og Sør-Korea. Men å frakte all verdens bilbatterier til disse landene vil gi betydelige CO₂-utslipp fra transport til og fra de andre landene der batterier og biler blir produsert. Her ligger det store fremtidige og spennende utfordringer for designere og eksperter på sirkulærøkonomi, ikke bare i bilbransjen.

Batteriproduksjon og etiske utfordringer. Den demokratiske republikken Kongo er ikke et land med arbeidsmiljølovgivning og fagforeninger slik vi kjenner det fra vårt land. Gruveindustrien der er ikke noe unntak. Amnesty hevder at barn i syvårsalder jobber i gruver som graves ut for hånd. Små mennesker har fysiske fortrinn for slikt arbeid og ble derfor også en sentral del av arbeidsstyrken i f.eks. engelske gruver på første halvdel av 1800-tallet. Allerede i 1919 erklærte imidlertid ILO forbud mot at barn under 14 år skulle utføre arbeid i industrien. Men i Kongo er vi ikke der enda. Noen har foreslått at vi kanskje bør gjenåpne gruvene ved Blaafarveværket som ble nedlagt i 1898 og som har vært gruvemuseum siden 1968. I gruvene her utvant man i sin tid kobolt. Norsk lovgivning vil sikre arbeidsvilkårene for de som arbeider i gruvene.  Enda nærmere og mer realistisk er det kanskje at Nussir ASA starter opp sin gruvedrift vedRepparfjorden i Finnmark der det er avdekket rike kobber-forekomster, som også er viktig for elektronikkindustrien. Men er det også motstandere av gruvedrift som mener vi heller trenger levende fjorder og urørt natur. 

Denne posten er inspirert av en artikkel i Nature fra 1. juli i år. Andre poster på denne bloggen som tar opp beslektede temaer er "grøntskifteparadokset som skapes når el-biler erstattes av SUVer" og "
Det grønne skiftet er ikke bare grønt".

Etisk refleksjon rundt etiske dilemmaer. Start med å diskutere med deg selv!

Einar Øverenget utga i 2014 en liten og kortfattet bok, om å lære å håndtere etiske dilemmaer. Etisk refleksjon er en forutsetning for å bygge gode fellesskap, mener han. Hans råd innledningsvis er: Diskuter med deg selv! Et godt utgangspunkt for egenutvikling.

Boken er «en oppskrift i hvordan tvil og usikkerhet kan brukes som verktøy for å opplyse seg selv tilstrekkelig når man står overfor valg». Diskuter med deg selv, anbefaler Øverenget. Hva tenker du umiddelbart og hva tenker du når du har tenkt deg om? Noe annet? Diskuter mulighetene du ser med deg selv. Dette gjelder både når du selv skal bestemme deg for hva du vil gjøre og når du skal gjøre noe i forhold til andre. Våre handlinger og tanker er ikke styrt utenfra. Vi kan overstyre dem. Vi kan velge.

Frihet og grenser og etikk er ikke regelfølging. Som mennesker styres vi av lover, regler og sanksjoner og vi styres innenfra. Når vi beveger oss «ut i en åpen fremtid» kan vi velge. «det er et særtrekk ved mennesket at vi som oftest står i valgsituasjoner, at vi like ofte kunne gjort noe annet enn det vi endte opp med å gjøre. Mennesket er ikke bare fritt, men dømt til frihet slik den franske filosofen Jean-Paul Sartre skal ha sag det. «Etikk er ikke først og fremst regelfølging – det er å utøve et godt skjønn der det kanskje ikke er noen klare regler, eller der regler må fortolkes eller kanskje står mot hverandre», skriver Øverenget i «Helstøpt». «Etikken krever at vi styrer oss selv». Man kan ha lyst til å gjøre noe, ønske det, ville det, men man bør allikevel stille seg spørsmålet: «Bør jeg gjøre det?». Diskutere med deg selv.

Øverenget introduserer fire «Røde flagg». Dette er begrunnelser for våre handlinger vi skal være på vakt mot å bruke. Det første flagget heter: «Det er lov». Det er mye som er lov som man ikke bør gjøre. «Det føles rett», er flagg nr. 2. Følelser kan være dårlige som kompass for handlinger. Vær på vakt! «Vi har alltid gjort det slik», er flagg nr. 3. Rutiner gir trygghet, men kan også gjøre oss blinde. «Alle andre gjør det» er flagg nr. 4. Det «å gjøre som alle andre» gir oss tilhørighet i fellesskap, men det er ikke alltid en god grunn til å gjøre nettopp det.

Fem etiske prinsipper og perspektiver. «Etikk er en aktivitet som går ut på å utfordre egne handlingsimpulser». Ønske å gjøre, bør gjøre, følelser, rutiner, konformitet og lydighet må utfordres. De kan utfordres med etiske perspektiver. Øverenget viser til fem slike «gode perspektiver»: Likhetsprinsippet, offentlighetsprinsippet, respekt for menneskeverdet, konsekvensvurdering og å velge den gyldne middelvei. Like tilfeller bør behandles likt? Er det greit at det jeg nå gjør blir offentlig kjent? Alle mennesker er like mye verdt! Vurder konsekvenser for alle involvert og velg den gyldne middelvei der du kan finne en slik.

Integritet og krysspress. «Å være et helstøpt menneske er ingen garanti for alltid å ha rett eller aldri gjøre feil». Er du helstøpt med integritet er du en man kan stole på. En som kan stå i krysspress mellom egne ønsker og behov og andres forventninger uten å underordne seg, men styrer seg selv. Det krever refleksjon å skape rom for gode valg under slikt krysspress. Du må klare å sette krav til seg selv som også fremstår som rimelig for andre berørte.

Et helstøpt menneske er alltid i støpeskjeen for å bli helstøpt i fire forhold. Boken avsluttes med fire forhold som er avgjørende for å kunne fremstå helstøpt. Du ser på deg selv som ansvarlig. Du utfordrer dine beveggrunner. Du unngår de røde flaggene og Du begrunner dine handlinger med utgangspunkt i etiske prinsipper. Kort fortalt fra en kort bok som inneholder mer som du kan lese selv. 

        

Førerløse biler, kunstig intelligens og kulturforskjeller

Ratt og automatgir på museum. Ved slutten av det 21-århundre vil museer ha utstillinger med biler fra århundreskiftet vi la bak oss for 20 år siden, hevdet Lipson og Kursman i boken «Driverless. Intelligent Cars and the Road Ahead». Kanskje skjer det til og med før. En besøkende på et slikt museum vil sette seg inn i førersetet, oppdage GPS-displayet, svinge på rattet, tråkke på bremsen og forundre seg over at man bare for noen generasjoner siden kjørte rundt i noe så ukomfortabelt og farlig. Selvkjørende kjøretøy med og uten fører vil kunne gi gevinster i form av bedre fremkommelighet, bedre utnyttelse av kapasiteten på vegnettet både for person- og varetransport, og ikke minst bedre trafikksikkerhet med færre ulykker. Over en million mennesker dør i trafikken hvert år world wide. Dette kan reduseres betraktelig etter hvert som ny kjøretøyteknologi tas i bruk. Teknologien vil også gi miljøgevinster knyttet til mer effektiv energibruk og bidra til økt mobilitet for grupper som i dag er avhengig av bistand for å komme seg hjemmefra til dagligdagse gjøremål og opplevelser. Teknologien utvikler seg raskt. 

Glidende overgang eller utvikling i sprang? Nye biler i dag har førerstøttesystemer for parkering, hastighetskontroll og nedbremsing. Man kan tenke seg en utvikling mot selvkjørende biler der det legges til stadig nye funksjoner slik at bilen til slutt kjører selvstendig. Klassifiseringer som SAEs, der automatiserte kjøretøy deles inn i fem klasser fra kjøretøy med førerassistanse til fullt automatiserte kjøretøy gjør det enkelt å tenke slik. Alternativt vil utviklingen skje i et sprang der helautomatiserte biler presenteres som et helt nytt transportkonsept. Argumentene for dette er sikkerhet. En gradvis overgang til stadig større grad av automatisering vil kunne bli vanskelig å takle i overgangsfasen. Når skal man stole på bilen og når skal man ikke? Og hva med trafikk der noen biler er selvstendige og andre kjøres av sjåfører som i dag? Men selvkjørende biler krever ikke omfattende utbygging av infrastruktur. De mest lovende konseptene for utvikling av slike biler plasserer alt av det nødvendige i bilen. Blandet trafikk bør være mulig.

Biler som tenker selv. De fleste roboter er i dag fortsatt styrt av programmer laget av mennesker laget for å gjøre spesielle oppgaver. Vi har langt på veg full kontroll over disse. Kunstig intelligens (AI) tar oss flere skritt videre. Kunstig intelligens forutsettes å kunne lære selv hva den skal gjøre. Vi har ikke tidligere bygget maskiner som konstruktørene ikke helt ut behersker eller forstår. Selvkjørende biler av dette slaget er imidlertid alt under utprøving. De kjører på impulser fra algoritmer de har lært seg selv ut fra observasjoner av hvordan mennesker kjører bil, såkalt deep learning. Slik teknologi har vist seg svært effektiv i arbeid med billedtolkning, stemmegjenkjenning, oversettelser av språk, det å stille diagnoser ved alvorlig sykdom ut fra tolkning av svære mengder pasientdata og i å gi råd ved finansielle operasjoner. Men teknologien gir løfter langt ut over dette som f.eks. når det gjelder realisering selvkjørende biler i stor skala.

AI-etikk og etiske dilemmaer. Noen kaller deep learning for den kunstige intelligensens sorte boks for å markere at vi ikke har full oversikt over innholdet. Og det er her vi møter utfordringer. Hvordan kan vi sikre oss at den tenker og handler riktig i nye og uvante situasjoner? Kan den læres opp til etisk refleksjon for å gjøre fornuftige valg i situasjoner som fremstår som dilemmaer der det uansett blir galt hva man enn gjør? Skal man ta mer hensyn til menneskene i bilen enn de som er utenfor når man ikke kan unngå å skade noen. Noen vil hevde at det ikke er mulig å gjenskape menneskets resonnementer og avveininger i en kunstig intelligens. Andre hevder at mennesker tar beslutninger daglig når de kjører sine biler i trafikken og at resultatet samlet sett er katastrofalt og at det derfor vil være mye å vinne ved å kople menneskene fra. 

AI-utvikling langs flere spor. Flere konsepter har vært under utprøving for å «dyrke frem» kunstig intelligens. Man har arbeidet med virtuell opplæring, simulering av skyldfølelse, læring gjennom «fortelling», men selvstyrende biler krever egne og mer sofistikerte tilnærminger. AI-biler opplæres via signaler fra sensorer og inntrykk fra bilder fra kameraer og testkjøringer over lange avstander langs bestemte ruter innenfor avgrensede områder eller ruter. Det utvikles teknologi for å kommunisere med andre kjøretøy og fotgjengere. Waymo, en avlegger fra Googles, har under utvikling en 360% persepsjonsteknologi som kan fange opp fotgjengere, andre kjøretøy, syklister, veiarbeider og andre objekter i en omkrets av minst 200 meter rundt bilen. Mens mange utviklingsmiljøer arbeider med og modifisere eksisterende bilmodeller lager ZOOK egne biler fra bunnen av. Deres bilkonsept skal kunne bestilles via en app tilsvarende det som i dag tilbys av Uber og Lyft.  

Nye utfordringer: Hvilken etikk skal gjelde? Januar-utgaven av WIRED (UK) trekker frem en ny utfordring for denne teknologien og AI i sin alminnelighet. Den 25. juni i fjor annonserte Facebook vinnerne av sitt Ethics in AI Research initiative Asia Pacific innrettet mot å støtte integreringen av tradisjonell kunnskap fra hele verden i utviklingen av kunstig intelligens (AI). Prisvinnerne Junaaid Qadir og Amana Raquib fra Pakistan hadde lagt frem en studie av hvordan Islamske etiske og legale prinsipper kan brukes for å regulere AI i Muslimske land. Etiske tradisjoner i Muslimske land har mer enn 1400 års historie og omfatter en til to milliarder av verdens befolkning. Innenfor Islamsk tradisjon er det ifølge prisvinnerne vanskelig å se for seg dilemmaet der den førerløse bilen gjør et valg i en situasjon der alternativene er å ta livet av en fotgjenger på gaten eller mennesket i den førerløse bilen. Dette er en relativt vanlig illustrasjon til utfordringer man møter med selvkjørende biler. AI i Muslimske land må etableres slik at den ikke gjør skade på mennesker, hevder de to, om man skal følge Falah. AI møter her også andre utfordringer vi i "vår verden" ikke ser på samme måte. 

Er dette interessant for deg er kanskje også posten om overvåking og ansiktsgjenkjenning interessant. Be my guest.

Ansiktsgjenkjenning med AI og etiske utfordringer

Erik Solheim har vært i Kina. På Beijings nye flyplass bruker man ansiktsgjenkjennelse som adgangsbillett og vil også snart kunne ta betaling for billetten med slik teknologi. Ansiktsgjenkjenning ved hjelp av kunstig intelligens er hett tema for tiden.  Bruken av denne teknologien gir oss mange etiske utfordringer. Nature ga disse bred oppmerksomhet i november 2020.

Sletter bilder hentet fra nettet. Det har vært vanlig praksis i utviklingsmiljøer som arbeider med facial-recognition, her kalt ansiktsgjenkjenning, å hente bilder og bygge opp billedarkiver med portretter av personer hentet fra nettet. Billedarkivene har vært benyttet i utvikling av kunstig intelligens for ansiktsgjenkjenning. Billedbruken er ikke godkjent av de som er avbildet. Flere utviklingsmiljøer sletter nå slike billedarkiv og viser til mangel på samtykke. Dette har igjen ført til nytenking når det gjelder etiske utfordringer knyttet til bruk av denne teknologien. Noen typer studier bør ikke utføres mener man. Studier av utsatte grupper, som f.eks. Uyghur-befolkningen i Kina er blitt kritisert. Det vises til at Uyghurene overvåkes i stor skala av kinesiske myndigheter.

Etiske retningslinjer for utvikling av kunstig intelligens finnes, men gir ikke god nok veiledning for utvikling av teknologien på dette området. De samfunnsmessige konsekvensene av forskning og utvikling av denne teknologien bør få større oppmerksomhet. Det finnes flere utfordringer. En av disse er knyttet til at man i forskjellige kulturer verden rundt har ganske forskjellige oppfatninger av hva rettferdighet og respekt for individet betyr i praksis. En annen utfordring ligger i at virksomhetene som utvikler teknologien finansierer utviklingsarbeidet ut fra en forventning  om å selge produkter og gjøre god butikk på dette. Automatisert sikker identifikasjon og adgangskontroll kan trolig gi store innsparinger og betalingsviljen for gode løsninger vil være deretter. Dette vil stimulere utviklingsarbeidet, og verdien av å være "først til markedet" vil kunne, her som i andre tilfeller, kunne trumfe etisk refleksjon og samfunnsansvar.

Utviklingen av teknologien går raskt, men hva den kan og bør brukes til fremstår som en særlig utfordring. Og teknologien er enda ikke fullkommen. Scotland Yard gjennomførte i perioden 2016 til 2019 en studie i samarbeid med forskere fra University of Essex. I en studie identifiserte systemet som ble utprøvd 42 personer som mistenkte, 16 av disse ble avvist av politifolkene, mens man rykket ut for å hente inn de 26 andre, hvorav 4 kom seg unna. Av de 22 viste 8 å være ettersøkte personer. Forskerne mente systemet var for upresist, at det var etisk betenkelig å ta det i bruk. Politifolkene var derimot av en annen oppfatning. De menet at antallet falske positive (14) var lite når man tok hensyn til at man hadde scannet flere tusen forbipasserende.

Flere innfallsvinkler. Oppslaget i Nature omfatter flere artikler og temaer som kanskje kan være av interesse for spesielt interesserte. Et av disse går dypere inn i de etiske spørsmålene som utfordrer denne teknologien. Et annet viser hvordan forskere som arbeider med utvikling av teknologien vurderer de forskningsetiske utfordringene de står overfor. En tredje tar for seg motstand mot overvåking basert på ansiktsgjenkjenning og de spede forsøkene på å regulere slik virksomhet. En fjerde artikkel tar for seg Etisk kunstig intelligens med henvisning til en av verdens største maskinlærings-konferanser litt tilbake i tid i 2018.