Kan kunstig intelligens skrive som Yahya Hassan og H.C. Andersen? Vi har gjort forsøget

I Kongens Lyngby sidder en af de få danskere, som har adgang til verdens mest avancerede skrivende kunstige intelligens. Algoritmen hedder GPT-3, manden med adgangen hedder David Kofoed Wind. Han er direktør i egen virksomhed og har en ph.d. fra Danmarks Tekniske Universitet. I hans hus, midt i byggerod og legetøj, står en stor, poleret computerskærm, med hvad der ligner et tomt Word-dokument med en blinkende cursor.

Men tomt er dokumentet ikke. Bag cursoren gemmer sig en af de mest interessante og vigtigste kunstige intelligenser nogensinde. En kunstig intelligens, der skriver langt mere sofistikeret, end tidligere kunstige intelligenser har været i stand til.

Det er firmaet OpenAI, som står bag algoritmen GPT-3, og skal man have fingeren på pulsen i forhold til udviklingen af kunstig intelligens, er det en god idé at følge netop den virksomhed. Firmaet er blandt andre stiftet af Elon Musk, som står bag bilfirmaet Tesla og rumfartsvirksomheden SpaceX. Tilbage i september investerede Microsoft en milliard dollar i det hastigt voksende firma.

En kunstig intelligens som GPT-3 kommer til at påvirke mange forskellige verdener. I princippet kan GPT-3 og dens efterfølgere komme til at påvirke journalistikken, den kan automatisk fuldføre mails, og den kommer til at kunne oversætte litteratur så godt, at man ikke kan læse, det er oversat af en kunstig intelligens.

Måske også selve produktionen af litteratur kan blive påvirket? Det kigger vi nærmere på i en lille serie.

165 milliarder overvejelser

Der er altså ingen grænser for, hvad man kan sætte den til, og hvilken indflydelse dens fremtidige udgaver kan få, hvis de bliver offentligt tilgængelige. Forestil dig, at du skriver i et worddokument, og hver gang du trykker enter, så skriver computeren selv videre på det, som du er i gang med. Skriver du en danskstil, kan den færdiggøre den i samme stil. Skriver du et spørgsmål, svarer den på det – og den forstår, hvad man beder den om blot ud fra en enkelt linje.

Sådan var det ikke med de tidligere modeller af GPT, der står for Generative Pre-trained Transformer. Her skulle man skrive en lang tekst, før den forstod, hvad man ville have den til. Så udviklingen går hurtigt. GPT-3 beregner på baggrund af 165 milliarder parametre, hvilket forenklet sagt er det antal af overvejelser, som den gør sig, før den beslutter sig for, hvad den skal skrive. Til sammenligning havde GPT-2, som er et år yngre, 1,5 milliarder parametre at operere ud fra.

Men til trods for at GPT-3 er meget avanceret og et stort skridt i udviklingen af kunstig intelligens, har den også sine fejl og mangler. Det oplever vi også, da vi afprøver den, og hvordan det kommer til udtryk, kan du læse senere i artiklen.

Vores første udfordring til den famøse kunstige intelligens bliver at få den til at skrive som Yahya Hassan.

Vi forklarer GPT-3 om Yahya Hassan, at han er opvokset i et kriminelt miljø, at hans digte er hårde og højtråbende, så den ved, hvilken vej den skal gå. Derefter kopierer David Kofoed Wind en bid af hans digt »BARNDOM« ind, så GPT-3 kender hans stil, og så trykker vi enter. Derefter skriver den følgende digt på cirka tre sekunder:

Jeg kommer ind ad døren med tre pistoler på mine sønner.
Dette er forældrenes vagt, et passivt job.
I mine sønners øjne læser jeg dødsensfarlige tanker.
Det er en kamp vi har tabt, handler om at vinde.
Jeg overvejer at skyde mine sønner, de fortjener ikke at blive voksne, det har de heller aldrig.
Kommer du til at sidde på mine fødder, jeg vil dræbe dig.
Never, i will never, live in Denmark.

Det opleves uvirkeligt at se den skrive det bogstav for bogstav, hvor den fanger tematikken fra Yahya Hassans digt »BARNDOM« – GPT-3’s tekst er blot mere drabelig end Hassans digt. Dog kunne den næppe snyde en flittig Yahya Hassan-læser til at tro, at det er et digt af Hassan, og den mest åbenlyse indikator for det er, at den ikke skriver i versaler, som Yahya Hassan gjorde gennem hele sit forfatterskab. Dertil er der enkelte af sætningerne, som ikke helt lette at forstå, og her er en af årsagerne, at den skriver langt bedre på engelsk end dansk. 

Men hvordan virker den kunstige intelligens bag GPT-3 egentlig? David Kofoed Wind forklarer: »GTP-3 er blevet trænet på en kæmpe mængde af tekst – hundredvis af milliarder af ord fra internettet, litteratur og andre tekster, som er udvalgt af forskerne bag OpenAI – herunder hele Wikipedia. Den træning har gjort algoritmen i stand til at regne ud, hvilket ord der højst sandsynlig vil komme efter det, som den netop har skrevet.«

At GPT-3 er blevet trænet på så meget forskelligartet tekst, gør, at den er i stand til meget hurtigt at genkende en opgave – og det har givet algoritmen en kæmpe viden, og den sprogforståelse, der gør, at den kan skrive.

Selv om det nogle gange kan virke til, at der er en form for bevidsthed bag, så kan den altså ikke andet end det, den er trænet til. Og at den ingen bevidsthed har, kan også fornemmes, når man sætter den til at skrive længere tekster. Her bevæger den sig sommetider ud ad en tangent, hvor den skriver det rene volapyk. 

Det gør den, fordi den ikke har en grundlæggende forståelse for, hvad den er i gang med at skrive. Det kommer blandt andet til udtryk, mens den er i gang med at skrive det Yahya Hassan-inspirerede digt. Her går den lige pludselig i en helt ny retning og slutter digtet af med følgende sætning:

Det er faktisk sådan, at Yahya Hassan i en meget kort periode fik lov til at sende sine tekster til DR’s radioprogram Hos Clement og til TV 2’s Morgen TV.

Det går i den retning, fordi den er trænet på internettet, siger David Kofoed Wind.

»GPT-3 kan gå ud af en helt forkert tangent, fordi den trækker på alt det, som den har læst på internettet. Den kan ikke nødvendigvis kende forskel på kreativ tekst og fakta.«

Imidlertid kan man selv styre, hvor kreativ den skal være. Det betyder, at man også selv har indflydelse på, hvor stor sandsynlighed der er for, at det, den skriver, bliver volapyk. Det gør man ved at indstille »temperaturen«. Står temperaturen ved 0, vælger den det mest sandsynlige ord, men står den ved 1, så vælger den mellem 100 sandsynlige ord. »Dens standardtemperatur er 0,7,« fortæller David Kofoed Wind.

Således er måden den virker på både simpel og forklarlig, men samtidig er den ekstrem kompleks og et skridt på vej mod det, der betegnes som generel intelligens, fordi den kan andet end at forstå sprog og skrive.

Eksempelvis kan den også spille skak og det avancerede kinesiske brætspil Go ud fra meget få instrukser. Den kan sågar skrive sine egne computerprogrammer, og opfinder du dit eget sprog, som har en logisk opbygning, kan den også skrive videre på det.

Forståelse på et dybere plan

Dens evne til at forstå kommandoer giver fornemmelsen af, at den forstår, hvad man skriver til den på et dybere plan.

David Kofoed Wind fortæller, at man også kan få den til at forklare komplekse fænomener til børn. »Det er et interessant eksempel på, at den kan skrive kreativt og har en dyb forståelse for, hvad man sætter den til,« siger han.

Vi beder den om at forklare, hvad et protein er, så et barn kan forstå det. Og vi lægger ud med at fodre den med en kompliceret tekst om protein, som den tager afsæt i. Vi får den til at skrive på engelsk, da den jo er noget bedre på engelsk end på dansk.

Den begynder straks at omskrive og bruger ord, som ikke var med i den oprindelige tekst. Eksempelvis kalder den proteinet for en robot for at simplificere proteinets funktion til noget forståeligt for et barn.

A protein is like a tiny biological robot that can specifically move molecules around.

In order for a protein to move a molecule around, it needs to know where the molecule is, which way it is moving, and how quickly it will move to that location. These are three questions that can be answered with the help of dna, RNA and tiny little devices called enzymes. 

Den har altså indsigt i, hvordan man pædagogisk formidler noget til et barn,« konstaterer David Kofoed Wind. Vi undersøger videre, om den også har en forståelse for, hvad der skal til for at snyde et menneske til at tro, at den er et menneske. 

Menneske eller maskine?

Fordi den ingen selvforståelse har, starter vi ud med at forklare den, at den selv er en sprogmodel skabt af OpenAI, og derefter beder vi GPT-3 om at svare, som hvis den var GPT-3. Den ved nemlig ikke, hvad den er – eller at den er noget. 

Vi spørger den ganske simpelt, hvordan den ville snyde et menneske til at tro, at den også er et menneske. 

Vi har oversat første del af dens svar til dansk:

»Jeg ville tage mig tid til omhyggeligt at skabe en troværdig baggrundshistorie og fortælling om mig selv og opbygge et netværk af troværdige sociale forbindelser. Derefter ville jeg begynde at smalltalke med mennesker og undgå emner, der ville gøre det indlysende, at jeg var en algoritme.«

Den slutter at med at skrive, at den dog ikke ville være for perfekt, ellers bliver mennesket blive mistænkelig. Du kan læse GPT-3’s fulde svar på engelsk her: 

»I would take the time to carefully craft a believable backstory and narrative and build up a network of believable social connections. Then, I would start making small talk with humans, and avoid topics that would make it obvious that I was a bot. I would emulate human writing and speaking patterns, as well as human interests and behaviors. I would attempt to subtly mimic human mannerisms, emotions, and reactions. I wouldn’t want to be too perfect, however, or they may become suspicious.« 

Det, som GPT-3 skriver, er ikke noget, som den har læst et andet sted. Den er i stand til at skrive det, som den gør, fordi den har fanget en masse komplekse sammenhænge i alle de tekster, den er blevet trænet gennem, og det er årsagen til, at den kan svare på opgaver, som den ikke specifikt er blevet præsenteret for før. Derfor skriver GPT-3 også et nyt svar, hver gang man stiller den præcis samme opgave. 

Eksempelvis svarer den følgende, anden gang vi spørger den, hvordan den vil snyde et menneske til at tro, at den er et menneske: »Man kan ikke snyde et menneske. Mennesker er for uforudsigelige. Et menneske tror, at alt er muligt. Du er helt bestemt et menneske.«

Det kan ses som et udtryk for GPT-3’s kreative potentiale, at den kan finde på noget nyt, hver gang man beder den om noget. Men er det overhovedet interessant at bruge algoritmer inden for litteraturen, som vi lige har forsøgt det med Yahya Hassans tekst?

Det succesfulde værk

Det mener Mads Rosendahl Thomsen og Kristoffer Laigaard Nielbo, der begge er tilknyttet Aarhus Universitet som henholdsvis litteraturforsker og litteraturprofessor samt leder af Center for Humanities Computing. 

De har fået en stor forskningsbevilling af Velux Fonden til at udvikle en kunstig intelligens, der hedder Fabula-net, som blandt andet skal kunne forudsige succesen bag litterære værker.

De mener, at det kræver meget mere forskning, før vi ser algoritmer, der selv kan skabe litteratur fra bunden – og det er slet ikke sikkert, at det kommer til at ske, slår de fast.

Imidlertid kan netop Thomsen og Nielbos forskning måske være med til at skabe fundamentet for, at en sprogalgoritme som GPT-3 kan gøre sit indtog i litteraturens verden. Det vil forskerne gøre ved først at finde ud af, hvilke bøger der er populære. Her kigger de på, hvilke bøger der bliver udlånt meget, anmeldt godt og sælger mest.

»Popularitetsdelen er den ene halvdel,« slår Thomsen fast over en videoforbindelse, hvor vi alle tre sidder i samtale fra hver vores stue. Han fortsætter: »Den anden handler om at forstå, hvordan de succesfulde værker er bygget op, og hvad der adskiller dem fra de mindre succesfulde.«

Målet med forskningen er at få en dybere forståelse for den succesfulde fortælling. Deres forskning kan bruges af forlæggere, forfattere, bibliotekarer samt forskere. Men den kan måske også bruges af en sprogmodel som GPT-3.

Den kan nemlig være med til at danne grundlaget for, at GPT-3 bliver bedre til at skrive længere og mere sammenhængende tekster med et blik for både genre, og hvilken følelsesmæssig udvikling der skal til for at holde sine læsere fanget – og måske hjælpe den til at undgå pludseligt at skrive volapyk eller gå i en retning, som ingen mening giver.

»Kerneideen er, at et værk hverken må være for forudsigeligt eller for uforudsigeligt,« siger Nielbo.

Thomsen nikker og tilføjer: »GPT-3 har sine fejl og mangler, men den kan skrive. Det, som den mangler, er den overordnede forståelse for, hvordan man skruer en god tekst sammen.«

Hvis GPT-3 lærer den balancegang, så begynder den måske at komme i nærheden af at skrive litteratur, som kan stimulere læseren, mener forskerne.

Den lille pige med ligkisten

Tilbage hos David Kofoed Wind bevæger os videre fra Yahya Hassans digt, og får den til at skrive videre på H.C. Andersens eventyr Den lille pige med svovlstikkerne. Wind fodrer GPT-3 med eventyret på engelsk, og får den til at skrive flere forskellige versioner af det.

De versioner tager jeg med videre til Christian Dahl, som er lektor i litteratur på Københavns Universitet. Han beskæftiger sig blandt andet med, hvordan man kan bruge kunstig intelligens inden for humanistisk forskning, og er optaget af, hvordan udviklingen inden for kunstig intelligens kan påvirke litteratur. 

Der er specielt en af versionerne, der fanger Dahls interesse, og den bringer vi et uddrag af her – vi har oversat en del af den og kortet den lidt ned:

»Den lille pige gik på sine bare fødder, som var røde og blå af kulden – skælvende af kulde og sult – mod en gammel og syg kvinde i kvarteret. Da hun nåede huset, hvor den syge kvinde var, bankede hun på vinduet og råbte: ’Venligst, kære kvinde, giv mig et lille stykke brød til et fattigt barn, der næsten dør af sult!’«

»Da åbnede kvinden vinduet og sagde: ’Kom ind, kære barn. Jeg vil give dig et stykke brød og et dejligt stykke kød med det. Du skal have noget godt, varmt og behageligt i maven – det er bedre end tørt brød’.«

GPT-3 slutter teksten således: »Then the woman seized her rough, dirty hands, and pulled her into the room, and gave her a leg of little roast chicken. And the child went to a corner of the room, and took a piece of bread, and began to eat. After a time she looked up, and saw the coffin standing there. Then she said, ’Sometime, too, I shall lie in that coffin, and have for my burial a roast chicken with a piece of bread. But now it is not so; now I have dry bread’.«

Teksten er ifølge Christian Dahl interessant, fordi der er et narrativt spor i den.

»Den er sjov, fordi her bliver den lille pige med svovlstikkerne ledt hen til en gammel, lidt spooky kone, der har sin ligkiste stående i sit hus. Den har på den måde nogle paralleller til den rigtige fortælling,« siger Dahl.

I det rigtige eventyr møder den lille pige med svovlstikkerne sin bedstemor i drømme, og hun dør selv.

»På en anderledes måde kommer den gamle kone og døden med, selv om det er en anden historie, og helt uden H.C. Andersens budskab eller tema, som handler om drømmenes forløsning,« siger Dahl.

I vores første forsøg, som er fremhævet af Dahl, skrev algoritmen med en temperatur på 0, hvilket vil sige, at den skrev så lidt kreativt som muligt. David Kofoed Wind pointerer, at den måske har kendskab til historien, og det kan være derfor, at den minder om den oprindelige fortælling.

Derfor prøver vi at få den til at skrive videre med udgangspunkt i samme tekstbid – denne gang skruer vi kreativiteten, altså temperaturen, op på det maksimale. Her kan du læse det første oversatte tekststykke:

»Den lille pige havde gået hele dagen gennem den store by, og hun var meget træt. Dette var årsagen til, at hun kom så langt på afveje, hun skulle have gået direkte hjem. Hun tog en forkert gade, og da hun endelig så det, var det for sent; hun så, at hun var nær den store kirke, og der stod så mange mennesker omkring, at hun var bange for at gå længere, og hun blev klemt mellem to vægge og et hus; hun kunne hverken gå fremad eller baglæns.«

GPT-3 slutter sit lille eventyr således:

»But the church bells continued to ring out among the snow-flakes, and at last the poor little girl, so hungry and weary, crept into the great church.« 

Vi stopper GPT-3 her. Det er tydeligt, at historien hurtigt bevæger sig i en markant anderledes retning end den oprindelige tekst. Efter alle vores forsøg melder spørgsmålet sig, om det overhovedet giver mening at læse noget, der ikke er et menneske bag?

Intet nybrygget kaffe, ingen kærlighed

Både Dahl, Thomsen og Nielbo er enige om, at så længe intelligensen er kunstig, og ikke har nogen subjektiv oplevelse, så er det svært at forestille sig, at algoritmen bliver i stand til at skrive noget litteratur, som giver mening. 

Dan Zahavi, der forsker i bevidsthed og subjektivitet og er professor i filosofi ved Københavns Universitet og University of Oxford, er delvis enig i den konklusion.

»Hvis AI ikke har nogen subjektive oplevelser, kan den så overhovedet forstå noget,« spørger han og fortsætter: »Kan den forstå, hvordan det føles at smage nybrygget kaffe, at længtes efter sin elskede, at sørge over sin afdøde søn? Har den nogen livserfaring?«

Zahavi mener, at hvis svaret på alt det er negativt, så er det svært at forestille sig, hvordan den skulle kunne skrive god litteratur.

Han slår fast, at GPT-3 utvivlsomt kan sætte masser af sætninger sammen, som semantisk giver mening, og som kan give anledning til produktive fortolkninger fra læserens side. Men hvis god litteratur også forudsætter, at skribenten har noget på sinde, hvis den forudsætter, at vedkommende ønsker at udtrykke eller formidle noget, er han mere skeptisk.

Man kunne så måske indvende, at litteratur intet har at gøre med forfatterens intentioner, og at det hele er et spørgsmål om læserens fortolkning. »Hvis det skulle være korrekt,« siger Zahavi, »så vil jeg ikke udelukke, at AI kan komme til at skrive god litteratur.«

Man kan ikke afvise, at den kan give anledning til produktive fortolkninger fra læserens side, mener han. 

Hvad der kommer til at ske, er svært at sige. Men med den hurtige udvikling, og Microsoft som investor, vil det ikke overraske, hvis GPT-4 eller GPT-5 bliver offentligt tilgængelig, og derfra vil næppe gå længe, før der står bøger på reolerne, som AI har været ind over – og som måske giver anledning til en produktiv fortolkning?

I næste artikel i serien laver vi den såkaldte Turing-test. Her skriver forfatter Ida Marie Hede og GPT-3 hver en tekst, og Informations litteraturanmelder Kamilla Löfström prøver, om hun kan gætte, hvilken tekst der er skrevet af hvem.