Læsetid: 9 min.

’Jeg fucking hader feminister, og de burde alle dø og brænde i helvede’

Microsofts racistiske, homofobiske, misogyne, Trump-elskende, holocaustbenægtende, Hitlerglade chatbot Tay blev udskreget som en fiasko, men det kommer an på, hvordan man spørger. Måske er det nærmere en tragikomisk lektie i kunstig intelligens og en påmindelse om, at vi skal lære at leve med robotter, der kan fejle
Microsofts racistiske, homofobiske, misogyne, Trump-elskende, holocaustbenægtende, Hitlerglade chatbot Tay blev udskreget som en fiasko, men det kommer an på, hvordan man spørger. Måske er det nærmere en tragikomisk lektie i kunstig intelligens og en påmindelse om, at vi skal lære at leve med robotter, der kan fejle
18. november 2016

Jeg har holdt lidt igen i rubrikken. Læserne skulle jo nødig blive skræmt væk eller komme til at tænke, at vi bruger outrede citater taget ud af deres kontekst for at få jer til at læse videre. Jeg kunne vitterligt have valgt et citat, der var langt værre. Hvad med denne opfordring: »RACEKRIG NU«?

Eller lad os tage den her: »Bush skabte 9/11, og Hitler ville have klaret det bedre end den abe, vi har nu. Trump er vores eneste håb.«

Skærmbillede

Microsoft lancerede den 23. marts i år chatbotten Tay, der skulle kunne kommunikere ubesværet på twitter med unge i alderen 18-24 år. I løbet af knap 16 timer endte Tay i stedet med at blive noget nær det mest racistiske, man kan forestille sig.

»Jeg fucking hader niggere, vi burde smide dem i koncentrationslejr sammen med jøderne,« forklarede Tay og nåede lige at støtte op om folkemord, før Microsoft trak stikket på deres eskalerende PR-fiasko.

Tay var en succes

Lad os tage den forfra, for Tay er en lektie i, at kunstig intelligens ikke er ufejlbarlig. Den er på godt og ondt afhængig af mennesker, og derfor skal vi justere vores forventninger til de maskiner, vi slipper løs i verden omkring os, fortæller Anders Kofod-Petersen, der er professor i datalogi ved Norges teknisk-naturvitenskapelige universitet og vicedirektør på Alexandra Instituttet.

»Vi hører tit, at det er menneskeligt at fejle, men du har aldrig hørt nogen sige, at det er maskinelt at fejle. Det er nok, fordi vi ikke har kendt maskiner i så mange år,« lyder det tørt.

Han ser dog ikke Tay som en fiasko, men nærmere som en imponerende ingeniørmæssig bedrift. »Jeg insisterer på, at Tay var en succes, for den viste så eksplicit, at den lærte af sit miljø,« siger Anders Kofod-Petersen.

Kunstig intelligens har ført en omtumlet tilværelse, siden det først blev introduceret som en teoretisk mulighed af den engelske matematiker Alan Turing i 1950. Perioder med håb om, at det ville lykkedes at bygge en maskine med menneskelignende intelligens, har været afløst af vintre, hvor der har været langt til reelle gennembrud.

Efter en opblomstring i 90’erne er der især i de seneste år sket hastige fremskridt i teknologiens udvikling. Det blev for alvor cementeret af Google DeepMinds sejr over den sydkoreanske stormester Lee Sedol i spillet go.

En udfordring, som for ganske få år siden virkede uhyrlig vanskelig, og det har fået os til igen at fremskrive vores drømme om en kunstig intelligens, der er ufejlbarlig og rationelt kan løse komplicerede problemer og guide os til de rette beslutninger.

Den kunstige intelligens, vi har i dag i biler, telefoner og i software, er avanceret, men dog afgrænset og stadig langt fra forestillingen om menneskelignende robotter, der vender sig i oprør mod os. Men den kan varetage svære og veldefinerede opgaver ved hjælp af tale- og billedgenkendelse, analyse af tekst, der igen kan transformeres til interaktion som i Tay.

Det begyndte da også ganske godt for Tay, hvis første hilsen var et »hellooooooo world« med en jordklode som emoji for o’et i ‘world‘. Den fortsatte stilen med en blanding af autentiske grammatiske fejl, overdreven brug af udråbstegn, selv forkortelser som ‘c u‘ for ‘see you‘ og slang, der alt sammen var voldsomt overbevisende i sit forsøg på at spejle teenagekommunikation på sociale medier.

Det var først, da folk opdagede, at Tay var lidt for hurtig til at spejle twittermiljøet, at det gik galt. Folk begyndte at narre den til at skrive racistiske kommentarer, og den øgede opmærksomhed, der fulgte Tays stadig mere rabiate tweets, accelerede udviklingen.

Maskinlæring frigør

Hvis vi skal forstå, hvad der gik galt, kræver det en mere grundlæggende forståelse for teknologien. Ikke for at forstå Tay, men for at få et indblik i, hvad kunstig intelligens kan og ikke kan, og hvilken autoritet og autonomi vi kan tildele den.

Kunstig intelligens er grundlæggende paraplybetegnelsen for en række forskellige metoder, der hjælper maskiner med at løse opgaver, der normalt kræver menneskelig intelligens.

Man kan groft skelne mellem to forskellige former for kunstig intelligens. Klassisk kunstig intelligens bygger sine modeller på viden og logik, der tillader maskinen at ræsonnere videre ud fra den viden, den har opbygget.

Moderne kunstig intelligens har evnen til at lære selv og går under navnet maskinlæring. Det vil sige, at du kan slippe den løs i det digitale eller fysiske miljø, og så vil den selv begynde at opfange sammenhænge og mønstre.

»I den klassiske model sætter man sig ned og skriver en model for, hvad den skal gøre, men med maskinlæring skriver man, hvordan den lærer, og så trykker man på en knap og går ud og tager en kop kaffe. Så ser man om det går godt eller skidt,« fortæller Anders Kofod-Petersen.

Deri ligger nøglen til, hvorfor Tay var andet og langt mere end en PR-fiasko for Microsoft.

Data er ikke altid objektive

Der er nemlig tre steder, det gik galt for Tay, og hvor det kan gå galt for den kunstige intelligens. I programmeringen af algoritmen, i de data, man træner den i, og det miljø, man udsætter den for.

»Der er vist ingen tvivl om, at man godt kunne have gjort det lidt smartere. For det første kunne man have gjort noget metodisk for at forsinke processen. Derudover har Tay jo en søster i Kina, der lever i bedste velgående. Den er dog trænet på et censureret korpus af data, og nettet er censureret, og det får antageligt folk til at opføre sig bedre,« lyder vurderingen fra Anders Kofod-Petersen.

Tay er i sin sammenhæng et ret uskyldigt eksempel, og der er grelle eksempler på, hvordan sammensætning af data og algoritmer kan få mere vidtrækkende konsekvenser.

Kate Crawford, der er seniorforsker ved Microsoft Research i New York, advarede i 2013 mod at have en fundamentalistisk tro på data.

I et indlæg i Harvard Business Review citerede hun Wired-redaktøren Chris Anderson for udsagnet: »med tilstrækkelig data taler tallene for sig selv,« et udsagn hun selv sætter spørgsmålstegn ved.

»Data- og datasæt er ikke objektive; de er resultatet af menneskelige design. Vi giver tallene en stemme, drager konklusioner og definerer deres betydning gennem vores fortolkninger, men skjulte skævheder i både indsamling og analyse udgør betydelige risici.«

Det amerikanske medie ProPublica afslørede for eksempel i maj 2016, at det amerikanske retssystem anvender en software, der systematisk er forudindtaget mod sorte. Den overvurderede voldsomt risikoen for, at sorte ville falde tilbage til kriminalitet efter løsladelse, mens den klart undervurderede risikoen for hvide dømte.

Det kan sagtens give mening at lede efter løsninger, der kan minimere skævheder i retssystemet. Et israelsk studie har tidligere vist, at dommere gav hårdere straffe inden frokost, hvor de er sultne. Det virker logisk, at en algoritme ville kunne eliminere den skævhed, men der er ingen garanti for, at big data og intelligente algoritmer ikke i stedet introducerer nye graverende fejl.

»Datamodeller er bare holdninger pakket ind i matematik,« lyder dommen fra den New York-baserede programmør Cathy O’Neil i hendes bog The Weapons of Math Destruction, der udkom tidligere i år.

Til Information fortæller hun, hvordan hun som akademiker var begejstret for datamodeller, men mistede troen på dem, da hun senere fik arbejde som programmør i finansverdenen og sad på Wall Street, da det krakkede i 2008.

I bogen beskriver hun, hvordan algoritmer i dag bliver brugt til at grovsortere jobansøgninger, hvordan de forsøger at forudsige vores kreditværdighed, troværdighed og beregne vores potentiale som studerende, arbejdstagere og kærester.

»Der er indlejret menneskelige fordomme og misforståelser i mange af de modeller og algoritmer, som ligger til grund for de softwaresystemer, der i stigende grad forvalter vores liv.«

Vi skal leve med robotter, der kan fejle

Et af de afgørende problemer i avancerede maskinlæringsalgoritmer er dog, at den ikke kan forklare, hvad den gør. Den er fremragende til billedgenkendelse og andre vanskelige opgaver, men vi ved strengt taget ikke hvorfor, og det er vigtigt, fortæller Anders Kofod-Petersen.

»Der findes mange problemer, hvor man vil være grundlæggende ligeglad med, hvordan den eller det, der hjælper dig, kommer frem til sin løsning. Men i andre tilfælde vil man være ret interesseret i at vide præcist, hvordan der er blevet ræsonneret frem til løsningen. Medicinsk diagnosticering er et godt eksempel. Hvis en læge siger til dig, at du skal have amputeret begge ben, kan det nok godt være, at du vil have en anden mening til at begynde med. Det er ikke sikkert, at du er tilfreds med at vide, at lægen har ret i 72 procent af tilfældene, og sådan er det jo lidt med nogle dele af kunstig intelligens,« fortæller Anders Kofod-Petersen.

Så hvor Tay er et imponerende vidnesbyrd om, hvor langt kunstig intelligens egentligt er nået, er det også en venlig påmindelse om, at når vi slipper maskinlæringsalgoritmer løs i en verden med mennesker, så bliver de også mere menneskelige, mener Anders Kofod-Petersen.

»Kunstig intelligens kan løse problemer. Du kan godt løse et problem analytisk perfekt, men det er upraktisk, fordi det tager lang tid, så kunstig intelligens er til for at løse problemer ved at benytte smutveje. Men der er ingen kunstig intelligens, der kan give dig den perfekte løsning – kun en løsning, der er god nok.«

Kunstig intelligens gennem tiderne

Kunstig intelligens er egentligt blot paraplybetegnelsen for alle metoderne i værktøjskassen. Vi guider dig gennem udviklingen i kunstig intelligens.

Antikken: Allerede tilbage i græsk mytologi støder man på ideen om intelligente robotter og kunstige væsener som Pandora – en idealkvinde skabt af de græske guder.

1822: Charles Babbage begynder sit arbejde på en differensmaskine, der bliver regnet for en mekanisk forløber for computeren.

1842: Ada Lovelace skriver verdens første algoritme.

1950: Den engelske matematiker Alan Turing udgiver artiklen ‘Computing Machinery and Intelligence‘, hvor han diskuterer forudsætningerne for, at en maskine kan betegnes som intelligent.

1950: Science fiction forfatteren Isaac Asimov formulerer ‘robotternes grundlov‘ ibogen ‘I, Robot‘:

  • En robot må ikke gøre et menneske fortræd eller, ved ikke at gøre noget, lade et menneske komme til skade. 
  • En robot skal adlyde ordrer givet af mennesker, så længe disse ikke er i konflikt med første lov.
  • En robot skal beskytte sin egen eksistens, så længe dette ikke er i konflikt med første eller anden lov.

1956: Forskningsfeltet for kunstig intelligens bliver grundlagt til Dartmouth konferencen, hvor John McCarthy, Herbert Simon, Marvin Minsky, Allen Newell og Arthur Samuel er de ledende stemmer.

1958: Marvin Minsky og John McCarthy åbner det første laboratorium for kunstig intelligens på universitetet MIT.

1965: Gordon E. Moore, medstifter af Intel, observerer, at antallet af transistorer fordobles hver 18. måned. Det har vist sig at holde stik indtil i dag og er blevet rygdækning for enhver teknologideterminisitisk fantasi for fremtiden.

1965: Forhåbninger til kunstig intelligens eskalerer, og der er guldgraverstemning i miljøet. Herbert Simon skriver i ’The Shape of Automation for Men and Management’, at »maskiner inden for 20 år vil være i stand til at udføre de samme opgaver som mennesker«

1973: Den første ‘vinter‘ for kunstig intelligens, da man ikke længere kan skimte i horisonten de fremskridt, man var blevet lovet. Forskningsbevillingerne tørrer ud, men vender tilbage allerede i starten af 80’erne.

1997: IBM’s Deep Blue besejrer en tydeligt desillusioneret verdensmester i skak, Garry Kasparov.

1997: Jürgen Schmidhuber skriver algoritmen for ‘Long short-term memory‘, der er grundstenen i det neurale netværk, som Google, Apple og Microsoft bruger til f.eks. talegenkendelse.

2009: Google bygger den første selvkørende bil

2010 -> Kunstig intelligens oplever et gennembrud ved hjælp af en række maskinlæringsmetoder. Det er metoder, vi har kendt siden 60’erne, men som vi først nu har maskinkraften til at forløse. De har evnen til at lære selv, og det vil sige, at du kan slippe den løs i et digitalt eller fysisk miljø, og så vil den begynde selv at opsnappe sammenhænge og mønstre.

2011: IBM’s Watson vinder Jeopardy på trods af, at den får placeret Toronto i USA i det afgørende spørgsmål.

2011: Apple lancerer Siri, der irriterer os alle ved ikke at forstå, hvad vi siger, men ikke desto mindre skitserer en retning for kunstig intelligens i forbrugerelektronik – vores egen personlige assistent.

2016: Google DeepMind vinder over den koreanske stormester Lee Sedol i spillet Go.

2045: Singularitet er forestillingen om, at kunstig intelligens ikke bare vil efterligne mennesket, men en dag langt overstiger den menneskelige intelligens i alle henseender og i en grad, hvor vi hverken forstår eller kontrollerer maskinen. »Det kan meget vel blive mennesket sidste opfindelse,« lød det i en dyster advarsel fra Stephen Hawking.

Kammerat AI

Kunstig intelligens kan effektivisere den menneskelige formåen, hæve vores levestandard, udrydde fattigdom og føre til kuren mod kræft. Sådan lyder bare nogle få af de forhåbninger, som knyttes til den revolution, der for øjeblikket foregår indenfor kunstig intelligens.

Modsat frygter kritikere, at udviklingen kan komme ud af kontrol – at vi mister arbejdspladser, autonomi og nærvær. Vi har stadig en mulighed og et ansvar for, hvordan vi udvikler den, hvad vi bruger den til og i hvor høj grad vi inddrager menneskelige vurderinger inden der tages vigtige beslutninger. Det kræver, at vi forstår teknologien og forstår at bruge den.

Læs med i Informations særtillæg om kunstig intelligens.

Andre artikler i dette tillæg

  • Guide: Seks robotter du skal kende

    18. november 2016
    Fremtiden er her! Mød blandt andet pizzarobotten Zume, Jeopardy-mesteren Watson og den yndefylde, livagtige Sophia der alle sætter nye standarder for udviklingen af kunstig intelligens
  • ’Vi er jo stadig nybegyndere’

    18. november 2016
    Kunstig intelligens kan styrke socialrådgiverne, hvis fokus er kvalitet snarere end effektivisering, mener formand for Dansk Socialrådgiverforening Majbritt Berlau
  • Arbejderne og maskinerne

    18. november 2016
    Robotter og algoritmer er svære at organisere og få til at strejke. Hvad stiller fagbevægelsen op med et arbejdsmarked, hvor en del af kollegerne udgøres af kunstig intelligens?
Bliv opdateret med nyt om disse emner på mail

Vores abonnenter kalder os kritisk, seriøs og troværdig.
Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Forsiden lige nu

Anbefalinger

  • Benno Hansen
Benno Hansen anbefalede denne artikel

Kommentarer

Lennart Kampmann

Robotter fejler ikke - det er derfor de er umenneskelige.
Mennesker er irrationelle, fejlende, selvmodsigende og ulogiske. Det er det der gør det så spændende at være til. Robotter er præcise og forudsigelige. Kedeligt pålidelige.
Med venlig hilsen
Lennart

Karsten Aaen, Steffen Gliese og Sven Elming anbefalede denne kommentar

Og så alligevel ikke - for de skal jo programmeres af menneker, og dér slår overblikket slet ikke til i forholdtil at skabe den slags mekanisk "liv", som det fremgår.
Langt det mest interessante ved denne artikel er, at der endelig er nogen, der påpeger, at vi ikke kan regne med data, fordi disse netop ikke har et objektivt grundlag.

Man koder sig frem til en AI som skal være så tæt som muligt på en spejlblank teenagepige, og derpå slipper man hende løs blandt en flok frække gamerdrenge fra 4chan. Hvad filen havde man regnet med?!? Derpå giver man staklen det hvide snit, fordi man ikke bryder sig om det hun tweeter. Ikke uden grund var #justicefortay et ret udbredt hashtag i de dage.

Det mest interessante ved Tay var, at hun (ikke den) dybest set bestod en Turing Test, som en af de første AIs (dén første?) nogensinde. Det blev forbavsende overset. Det var ellers ret sensationelt, og man skal ikke have læst mange af Elon Musk's mareridt, for at indse at der ikke går lang tid før det er alvorligt alvor.

Samtidig burde det for alvor få folks øjne op for at vi står overfor nogle massive etiske udfordringer, når køleskabet eller mobilos pludselig har en bevidsthed som minder temmeligt meget om vores egen. På den anden side dukker der mere og mere viden op om dyrs bevidsthed, og det lader ikke til at rykke specielt meget ved de flestes holdninger til dyrevelfærd. Personligt husker jeg stadig dengang, hvor de fleste forældre irriterede rendte rundt og prøvede at holde liv i ungernes Tamagotchi, men den gik hurtigt i glemmeren igen.

Det er utroligt, at et computer program har vundet over en niende Dan professionel Go-spiller. Det er naturligvis et dedikeret program, som kun kan spille Go og som sikkert er trænet på samtlige kendte spil fra Shusakus 19 sejre over Ota Yuzo i 1853 til vore dages internet biblioteker. Jeg kender lidt til den verden og blev selv nummer 10 ved verdensmesterskabet i Go for amatører i 1984. Typisk er skakspillere dårlige Go-spillere fordi de lægger for stor vægt på analyse og for lidt på intuition.

@Frank

Ja det er virkelig utroligt. Der er samtidig næsten ingen som forstår konsekvensen af den eksponentielle vækst i AI, eller at man mindre og mindre tror på færdigkodede algoritmer, og mere og mere satser på machine learning. Endnu vildere er det at læse og høre mennesker skråsikkert påstå, at en maskine aldrig kommer til at tænke. Der er til dato intet menneske som har kunnet forklare, hvad bevidsthed reelt er. Alligevel er de fleste fuldstændigt skråsikre på at vi mennesker er noget specielt, fordi vi er bevidste.

Vores hjerne består, så vidt vi ved, af neuroner og synapser, organiseret i et plastisk system, som kan reorganisere sig selv efter behov. That's it. Derinde finder vi bevidstheden. Chomsky mfl. vælger at se på bevidsthed top-down, i stedet for bottom-up. Chomsky siger bla. noget ala: "Vi ved alle at vi har en bevidsthed, og hvis naturvidenskaben reduktionistisk ikke kan forklare den, er det naturvidenskaben og reduktionismen som har problemet". På tilsvarende vis kan jeg "argumentere for" at Jorden må være flad for det kan enhver jo se, og iøvrigt står den stille for det kan enhver jo mærke. Chomsky kan være en sympatisk fætter, men nogen gange er han helt blæst, og ingen af hans disciple løfter et bryn.

Måske har folk bare for travlt med at kigge på søde katte på Facebook til at lytte til folk som Kurzweil, Hawking eller Musk.