Tekst: Adam Njå, Honours-bachelorgrad og Ida Ramona Ytterdahl Skaslien, Honours-bachelorgrad
Hvem har ansvaret når robotlegen tar livet av en pasient?
«Jeg har enorm tillitt til det norske offentlig helsevesenet. Jeg vet at det finnes utrolig mange reflekterte og dyktige fagpersoner som gjør sitt beste i valgene de tar. Derfor velger jeg å la meg behandle hvis jeg er syk». Dette er en typisk uttalelse mange kjenner seg igjen i.
I 2017 ble IBMs «robotlege» Watson, testet på rikshospitalet i København. Resultatet var for det meste svært lovende, men den foreslo også behandlinger som kunne tatt livet av pasienten (Djursing, 2017).
Det verste er ikke at den foreslo potensielt livstruende behandlinger, men at ingen egentlig vet hvorfor.
Vi bør ha en kritisk diskusjon om kunstig intelligens
Kunstig intelligens (KI) ligger ikke lenger i fremtiden. Det kommer ikke til å være en bryter som skrur på «skynet» slik som i terminator. I stedet kommer kunstig intelligens gradvis mer og mer inn i samfunnet.
KI er allerede i bruk innen områder som helse og medisin, transport, infrastruktur, bank og økonomi, handel og kundeservice for å nevne noen. Imidlertid er ikke KIs rolle alltid like lett å identifisere da bruksområdene er mange og varierende. Mange har en viss kjennskap til roboter – både fysiske så vel som digitale ‘chatbots’, og flere har også vært borti såkalte smarthøytalere, selvkjørende biler, mobiltelefoner – og ikke minst en myriade av apper og mobiltjenester hvor KI utvilsomt spiller en viktig rolle. KI brukes ikke bare til å utvikle helt nye systemer, men også til å forbedre eksisterende systemer og effektivisere en rekke administrative oppgaver, slik vi har sett eksempler på i bank og finans de siste årene.
Mange av disse systemene vil i økende grad operere autonomt uten å være avhengig av menneskelig veiledning. I Norge har foreløpig de fleste KI-baserte system liten grad av autonomi med minimal makt og innflytelse, der KI i praksis fungerer mer som en hjelpende hånd. Likevel er allerede KI i ferd med å gjøre sitt inntog i oppdrettsfiske, jordbruk, institusjoner som NAV og til og med i forsvaret. Derimot er dette bare starten; mulighetene knyttet til KI er i teorien uendelige. Teknologien kan føre til at pandemier, som covid-19, ikke bare bli oppdaget langt tidligere, men også predikert grunnet KIs analytiske overlegenhet og mønstergjenkjenning, samt bidra til vaksineutvikling og spesialtilpasset behandling (Befring & Sand, 2020; European Commission, 2020). Videre vil KI spille en betydelig rolle i energiomstillingen og det grønne skiftet.
«Ny teknologi» er imidlertid ikke et nytt fenomen; samfunnet har tidligere vært gjennom teknologiske endringer. Det som er nytt nå, er at vi får avanserte KI-baserte systemer som kan gjøre behovet for arbeidskraft atskillig mindre, og i noen sektorer til og med fjerne behovet for arbeidskraft i sin helhet. For snart 100 år siden spådde økonomen Keynes såkalte «femtentimersuker» i 2030, der folk flest ikke ville ha en arbeidsuke på mer enn 15 timer takket være den teknologiske utviklingen med sine nyvinninger. Per i dag eksisterer en felles enighet blant både økonomer og historikere at KI vil skape flere arbeidsplasser enn det som forsvinner (The Economist, 2016). Likevel utelukkes ikke muligheten for økt fragmentering i arbeidslivet der deltidsjobber vil oppstå mer frekvent i takt med at flere arbeidsoppgaver overlates til selvdrevne systemer. Direktør i Teknologirådet spådde i 2018 at «Hver tredje nordmann vil få jobben kraftig endret av kunstig intelligens innen ti år» (Aftenposten, 2018).
KI kommer uten tvil til å spille en stadig større rolle i samfunnet. Vi står ovenfor en digital revolusjon på lik linje med den industrielle – en revolusjon som over de neste tiårene kommer til å endre samfunnet radikalt.
Spørsmålet vi må stille oss er; «hvordan ønsker vi at dette samfunnet skal se ut?»
Vil det være et åpent samfunn med strengt personvern, et samfunn hvor alle har like rettigheter og teknologien brukes til alles beste? Eller vil det være et samfunn hvor teknologien formes av markedskrefter med lite hensyn til individene – et samfunn hvor teknologien brukes til diskriminering og kontrollering, fremfor vekst og demokratisering?
Hva er egentlig kunstig intelligens?
Se for deg at du er blind og skal lære deg å kaste dart. Til å begynne med kaster du helt tilfeldig i den generelle retningen mot dartbrettet. Når darten treffer forteller noen deg hvor mange poeng du fikk.
Over tid vil du begynne å gjenta den type kast som gir poeng. Dersom du kun gjør dette hundre ganger så vil det trolig kun være en lett forbedring. Men se for deg at du kunne gjøre dette en million ganger. Da ville du trolig blitt mye bedre enn i utgangspunktet.
Dette er i all hovedsak det KI gjør.
En ulikhet er derimot at KI mangler forståelse av hva det er å være et dartbrett, et spill, et kast og et rom. For en KI eksisterer kun forskjellig typer kast og resultat. Med disse to tingene vil den tygge gjennom alle mulige kast, og velge den type kast som gir gode resultater.
Forskjellige typer KI kan ha flere ting den tar hensyn til, og flere typer «dartbrett». En medisinsk KI vil for eksempel ta hensyn til flere informasjonsvariabler innen helse, og «dartbrettet» vil være anbefalt behandling.
For den medisinske KI vil vi også kunne observere hvor mange «poeng» den får, hvor god den er til å «treffe» riktig behandling. Det vi ikke kan observere er hvorfor den treffer.
Foto: Pexels
Ingen vet egentlig hvorfor en KI «treffer» eller ikke
Hvis legen din forteller deg at du har en svulst i hjernen, så vil du sannsynligvis ha en forklaring på hvorfor legen tenker det. Dette kan legen for eksempel gjøre ved å vise til noe uvanlig på bildene av hjernen.
Dersom legen er en KI, så kan man ikke få en slik forklaring. Den kan kun fortelle om det er en svulst der eller ikke, men den kan ikke fortelle hvorfor den vurderer at personen har en svulst. Hva er det med personen, som gjør at systemet vurderer at personen har en svulst?
«Hvorfor» er også viktig i juridisk sammenheng. For eksempel dersom en bilist kjører på en fotgjenger, vil vi ønske å vite hvorfor. Denne hendelsen kan ha flere grunner; bilisten kan for eksempel ha besvimt, vært beruset, fått sol i øynene, svingt raskt for å unngå å treffe enda flere. Samtidig kan det også hende at fotgjengeren hoppet ut i veien og bilisten hadde dermed ikke noe ansvar.
Dersom samfunnet fylles av selvkjørende bilder, kan vi ikke lenger få en forklaring på bilistens vurdering. Vi kan observere hva den gjør, men aner ikke hvorfor den gjør det den gjør.
Det er et spørsmål om hvor viktig beslutningen er
Kanskje du kan leve med at små beslutninger rundt livet ditt blir gjort av uforklarlige KI systemer. At for eksempel oversettelsesprogrammer bruker KI for å gi bedre oversettelser. At KI systemer kan brukes til å transkribere, som spamfilter, gi musikkanbefalinger eller som støtte i design av dataspill.
Dersom KI systemer derimot brukes til å gjøre vurderinger som har stor betydning i folks liv, vil mange trolig oppleve det som dypt urovekkende å ikke vite hvorfor. Hvis det er en KI som bestemmer om man skal komme inn på universitetet, om man skal få boliglån, hvilken behandling man skal få og om man skal innkalles på jobbintervju, så har man rett på en forklaring.
Du har rett til å vite hvorfor du ikke kommer inn på universitetet, hvorfor du ikke får lån, hvorfor du trenger den typen behandling – dette kan ikke dagens KI gi.
Med stor makt kommer stort ansvar
Kunstig intelligente systemer har enormt potensiale til å forbedre samfunnet og menneskers liv. Der hvor mennesker tidlig møter begrensninger, overgår KI disse på kapasitet og prosessering ved å konsumere enorme mengder data. Dette kan gi oss svar basert på mer kompliserte vurderinger.
Det betyr at KI systemer kan gjøre det billigere å drive en velferdsstat, en organisasjon og en bedrift. De kan spare tid og energi i enkeltmenneskers liv. Dette overskuddet i ressurser kan dermed brukes på flere goder, slik at flere får det bedre.
At flere får det bedre er utvilsomt et gode, men med samme mynt kan KI systemer brukes til å krenke individers rettigheter. KI systemer kan gjøre det billigere å diskriminere gjennom identifisering og kontrollering. De kan gjøre det billigere å overvåke, vurdere og manipulere befolkninger. KI systemer muliggjør skremmende nye nivåer av propaganda, forfølgelse og brudd på menneskerettigheter.
KI systemer kan på denne måten være midler til en helt ny type autoritær kontroll. Ikke lenger gjennom et enormt hemmelig politi og individuelle despotiske beslutninger, men subtil, dyptgående diskriminering. Denne typen kontroll trenger ikke komme gjennom autoritære statsmakter, men kan også komme gjennom gigantiske digitale markedsaktører. Plattformer, som f.eks. Facebook, kan samle opp digitale fotspor som kan analyseres med KI og brukes til å gi manipulerende reklame og nyheter.
KI systemer kan derfor brukes til både gode og dårlige formål, eksempelvis som et redskap til å frigjøre og kontrollere individer. Dette er fordi KI i seg selv ikke har en moralsk verdi, ettersom de i all hovedsak er til for å gjøre en prosess mer effektiv.
Vi trenger lover, regler og normer før KI implementeres
I dag er KI systemer i sin spede begynnelse. De fleste KI systemer i dag er svært begrensede og yter dårligere enn mennesker i de fleste virkelige situasjoner. Dette er fordi virkelige situasjoner er ekstremt kompliserte og krever hensyn til flere nivåer av tolkning og kontekst. Nåværende KI systemer klarer altså ikke vurdere nok variabler; datasystemene er ikke kraftige nok enda.
Dette er kun midlertidig.
Moderne datamaskiner blir stadig kraftigere, og nye metoder blir stadig utviklet for å effektivisere systemene. KI systemer er derfor ikke lenger en fjern science-fiction verden – det er en nåværende realitet som stadig blir mer aktuell.
At KI-systemer kommer til å drastisk endre samfunnet, er derfor en realitet vi må forholde oss til nå. Ettersom disse systemene har muligheten til å gi enorme både positive og negative konsekvenser, må vi definere rammene før de transformerer samfunnet. Vi må ha en demokratisk prosess, som sikrer at disse systemene utformes og iverksettes til det beste for alle i samfunnet.
Vi trenger en demokratisk plan for kunstig intelligens
Vi må definere hvilken rolle disse systemene skal ha i samfunnet, hva de kan gjøre og hva de ikke kan gjøre. Hvilke krav vi skal stille til utviklingen av disse systemene og hvordan vi skal verne om individers rettigheter. Vi må finne ut av hvem som har ansvar for handlingene til disse systemene, hvilke aktører som lov til å eie og bruke de, og hvem som har ansvar for å kvalitetssikre systemene.
Utover dette må vi tenke over hvor mye vi kan akseptere å ikke forstå, slik at vi kan ivareta vårt demokrati. Til dette formål må vi også drive folkeopplysning på en bred skala, slik at alle har forståelsen som kreves for å begripe det samfunnet vi kommer til å leve i.
I 2020 la Regjeringen frem en nasjonal strategi for kunstig intelligens, og i disse dager utarbeider EU-kommisjonen et juridisk rammeverk (NOU 2020 ; European Commission 2021). Likevel kan man peke på visse hull i disse strategiene, deriblant mangelen på vektleggingen av KIs manglende beslutningsdyktighet samt konkretisering av ansvarsområdene. Videre vil man kunne fastslå at lovgivningen kommer for sent og ikke holder tritt med den raske utviklingen. Det er også verdt å nevne at den nåværende nasjonale strategien mangler tiltak som omfavner stor nok andel av befolkningen. I dag har vi ikke engang en nevneverdig samfunnsdebatt som kunne opplyst befolkningen om temaet.
En prosess for folket?
Vi må ha en kritisk samtale om kunstig intelligens – og vi må ha den nå. Som med alle teknologier og alle samfunnsspørsmål, er det viktig å reflektere over problemstillingen om hvilket samfunn vi ønsker å leve i.
Ulikt andre samfunnsspørsmål, har vi ingen erfaring med de nyanserte problemstillinger som kunstig intelligens presenterer. Våre samfunnsstrukturer har blitt utviklet gjennom vår gradvise felleshistorie. Vi har gradvis sett hva som funker og hva som ikke funker – det har vi ikke tid til nå.
Kunstig intelligens har hatt en eksplosiv vekst, og kommer snart til å endre samfunnet drastisk. Systemene er en metode for å effektivisere prosesser. Metoden går ut på å automatisk prøve ekstremt mange alternativer til det blir en effektiv prosess. Denne effektive prosessen kan være hva som helst, så metoden i seg selv har verken positiv eller negativ verdi.
Det viktigste spørsmålet er hvilken prosess ønsker vi å effektivisere. Vil det være en prosess som styrker og informerer individer, eller vil det være en hvor vi alle blir uforklarlig dømt