Dataingeniøren Melanie Mitchell har vært i sentrum av den amerikanske AI forskningen siden 1984. I mange områder har utviklingen oversteget forventningene, men kunstig fornuft viste seg å være den vanskeligste nøtten å knekke.

Melanie Mitchell, professor i datavitenskap, er aktuell med boken "Artificial Intelligence, A guide for thinking humans”.Melanie Mitchell er professor i datavitenskap ved Portland State University, og er en flittig sitert forfatter innen Kunstig Intelligens (AI). Veien dit startet med en PhD-stilling hos en av AI-forskningens hovedpersoner, Douglas Hofstadter, i starten av 1980-tallet. Som nyutdannet matematiker hadde hun ingen erfaring med dataprogrammering, men etter å ha lest Hoftstaders bok "GEB", som nå ansees å være en klassiker innen faget, ble hun sikker på at det var dette hun ville jobbe med.

Fra å ha vært et smalt forskningsområdet på universiteter og høyskoler, og som få trodde skulle få noen gjennomslagskraft, ble alt forandret i 1997 da IBM sin sjakkdata, Deep Blue, beseiret den daværende verdensmesteren i sjakk, Garry Kasparov. I 2001 gjorde IBMs Watson det samme i Jeopardy og AlphaGo vant med resultatet 4-5 over en av de ledende Go-spillerne. Siden den tid har AI-programmer som Google Translate og Apples stemmeassistent Siri blitt en del av vår hverdag.

Smartere enn et menneske

Forventningene er høye, men også fryktet. Hva skjer når AIs kapasitet overstiger vår egen?

Generelt kan man si at AI er bra på smale oppgaver, som å spille sjakk eller å gjenkjenne ansikt, men ikke på områder som krever allmenn kunnskap og erfaring.

Boken "The singularity is near", som ble skrevet av Googles utviklingssjef Ray Kurzweils i 2005, beskriver et fremtidsscenario der AI blir utviklet forbi vår egen kontroll, og med skjebnesvangre konsekvenser for menneskeligheten. Et handlingsforløp som blir forbundet med mange Sciences-fiction filmer.

For å avgjøre hvor langt unna et slikt scenario er, må man først definere hva som menes med intelligens.

– Synet på intelligens som noe som kan måles, har villedet mange. Det er et spektrum og kan brukes på mange forskjellige måter. John McCarthy, som satt begrepet Artificial Intelligence i 1956, ønsket noen ganger at han hadde kalt det for noe annet - som ikke var like ladet, sier Melanie Mitchell.

AI-forskningen har mye å lære av naturlig intelligens og hvordan vi mennesker tilegner oss og bruker kunnskap i hverdagen vår.

Akkurat nå er hun i permisjon fra sin professorstilling, og sitter nå i sitt arbeidsrom på Santa Fe-instituttet i New Mexico, USA.

Komplisert å definere intelligens

– Generelt kan man si at AI er bra på smale oppgaver, som å spille sjakk eller å gjenkjenne ansikter, men ikke på områder som krever allmenn kunnskap og erfaring.

For AI er vanskelige saker enkle, og enkle saker vanskelige, som å dra generelle konklusjoner ut ifra de objekter vi har rundt oss. Med nok mengde øvingsmateriale kan vi lære AI å kjenne igjen katter i en video på YouTube, men det igjen krever at et menneske gir både dataen og oppgaven. For mennesker kan allerede et lite barn se forskjell på en hund og en katt, som begge har fire ben og en hale.

Folk flest mener at det er mennesket som alltid skal ha det siste ordet når det er snakk om menneskeliv som står på spill.

En ting som Melanie Mitchell har forstått etter hun begynte å forske på AI, er hvor lite vi egentlig vet om den menneskelige hjernen.

– Utviklingen av datamaskiner har vært eksponentiell. De har blitt mindre og raskere. Men mykvaren (hjernen)  har ikke gjennomgått samme utvikling.

Briljerer på avgrensede områder

Datamaskiner i dag kan ikke bruke intelligens utenfor de områdene de er trent på. Hverken Deep Blue eller AlphaGo klarer å spille et parti Ludo. Å overføre kunnskap fra ett området til et annet ligger langt borte. Men det kan være mulig å finne nøkkelen ved å studere kognitiv- og psykologiforskning for å forstå hvordan den naturlige intelligensen fungerer.

Melanie Mitchell forteller at det finnes to grupper innen AI-forskningen: de som mener at de kan løse utfordringen ved å tilføre mer data, og de som mener at man må forstå intelligens på et generelt nivå for å kunne komme videre. Mitchell tilhører selv den siste gruppen.

Bilkjøring krever raske avgjørelser

Det vi kaller for sunn fornuft er ofte egenskapen til å lære fra erfaringer og bruke den kunnskapen vi har i nye situasjoner.

– AI presterer bra innen områder som sjakk og Go, der reglene er fastsatte. Men i det virkelige livet finnes det ingen tydelige regler for hvordan vi skal være og oppføre oss.

Det forklarer også hvorfor vi ikke har kommet lengre med selvkjørende biler, til tross for at testingen har pågått siden 1980-tallet.

Bortsett fra medtrafikanter, må selvkjørende biler lære seg å identifisere veimerking, trafikksignaler, skilt og instruksjoner – i all slags vær – for å ferdes sikkert i trafikken.

– Utfordringen med bilkjøring er at vi hele tiden havner i nye situasjoner; Når det er fornuftig å stoppe for ett hinder på veien, når vi møter en flyvende plastposer eller når det ligger glassbiter på veien.

Som mennesker vet vi at konsekvensene av å kjøre over glassbiter er verre enn å kjøre på en flyvende plastpose, men å programmere algoritmer som gjør den distinksjonen er vanskeligere.

Et spørsmål om liv og helse

Det finnes også etiske dilemmaer man må ta stilling til når man overlater avgjørelsen til en algoritme. For eksempel om den selvkjørende bilen havner i en situasjon der den må velge mellom å ofre livet til bilens passasjer eller å kjøre på fire fotgjengere. Hvordan skal den da velge? De fleste er enige om at bilen da skal ofre passasjeren, ettersom det innebærer at færrest blir skadet. Men om man spør om folk kan tenke seg å kjøpe en slik bil, er svaret nei.

– Folk flest mener at det er mennesket som alltid skal ha det siste ordet når det er snakk om menneskeliv som står på spill.

Skulle man kunne lære AI om moral?

– Det er vanskelig, ettersom man først må bygge en AI som forstår selve konseptet.

Robotikkens tre regler

I science-fiction romaner snakker man iblant om robotikkens tre regler, som går ut på at en robot aldri får skade et menneske. Men Melanie Mitchell mener at «skade» er et diffust begrep. På lik linje som at det er vanskelig å definere hva som er «grei» oppførsel. Det skifter fra situasjon til situasjon, og det er heller ikke likt i ulike samfunn.

Det finnes en teori om at avgjørelser som blir tatt ved hjelp av AI er helt fordomsfrie og rasjonelle. Men det er en teori som Melanie Mitchell vender seg imot.

– AI er avhengig av dataene og programmeringen den har tilgang til. Resultatet trenger deretter å bli tolket av et menneske.

Når er det greit å bruke ansiktsgjenkjenning for å identifisere personer på offentlige steder?

Ut ifra det øvingsmateriale som har blitt brukt til å utvikle ansiktsgjenkjenning, fungerer tjenesten bedre for hvite menn enn for mørkhudete og kvinner. Og hvordan er det egentlig med AI ved rekruttering?

– AI kan fange opp statiske mønstre om saker vi ikke har planlagt. Som hvilke etternavn tidligere ansatte i bedriften har. Et menneske forstår at den informasjonen er irrelevant, men AI vil ikke alltid forstå det.

Transparent AI

I EU finnes det i dag personvernforordningen GDPR, som regulerer retten til at man på et transparent og tilgjengelig sett kan få vite hvordan et IT-system har gjort en vurdering av ens person, en såkalt algoritmebasert avgjørelse. I praksis kan det være vanskelig å vite akkurat hvordan et system for kredittvurdering eller markedsføring fungerer og hvilken data den har tilgang til.

Selv slettet Melanie Mitchell sin Facebook-konto, som en reaksjon på bedriftens handling under Cambrdige Analytica-skandalen, da det ble avslørt at data fra 50 millioner brukere hadde blitt innsamlet uten deres tillatelse.

– Facebook forstyrret meg. Og jeg savner faktisk ikke å være der, jeg er på Twitter, sier hun.

Ansiktsgjenkjenning og deep fakes

Når AI brukes innen flere og flere områder, øker behovet for lovgivning som kan holde takten med utviklingen i samfunnet og gjøre at mennesker kan føle seg trygge med teknikken.

Når er det for eksempel greit å bruke ansiktsgjenkjenning for å identifisere personer på offentlige steder? Og hvordan skal man beskytte seg mot manipulasjon med deep fakes–videoer som manipuleres ved hjelp av AI, slik at brukeren tror på en hendelse eller utsagn som aldri har funnet sted, er sann?

Til tross for at fremtiden besitter mange utfordringer, tror Melanie Mitchell at AI kommer til å by på fantastiske muligheter for mennesker. Ikke minst innom helsesektoren, der den allerede kan bli brukt til å diagnostisere og finne nye behandlingsmetoder.

At vi i nær fremtid skal få se en ondskapsfull superdata som HAL i Stanley Kubrick klassiske film 2001: "A space Odyssé", er svært usannsynlig. Men når det gjelder kunstig fornuft og menneskers bruk av AI, så gjelder det å være observant og sette sikkerheten først.