Stjernefotografs falske billeder skulle sætte fokus på fake news. Men ingen opdagede det

Verdens største festival for fotojournalistik hedder Visa Pour l’Image og foregår i den sydfranske by Perpignan i september. Her havde den norske fotograf Jonas Bendiksen i år æren af at vise billeder fra sin seneste fotobog, Book of Veles, der skildrer den nordmakedonske by Veles, som kom i hele verdens søgelys i 2016.

Byen udgjorde for en tid et epicenter for produktionen af falske nyheder, der spillede en stor rolle i den amerikanske præsidentvalgkamp det år. Som så mange andre havde Jonas Bendiksen undret sig over Donald Trumps sejr og det skred, der var sket i mediebilledet. Den undren havde fået ham til at lave en hel bog med grynede billeder af gråvejr, betonkonstruktioner og mennesker i hverdagstøj i den afblomstrede industriby, hvor engelskkyndige nordmakedonere havde siddet og fabrikeret vildledende nyhedshistorier rettet mod den amerikanske offentlighed. Book of Veles udkom i april, og Jonas Bendiksen, der har vundet adskillige store fotopriser og er medlem af den prestigiøse fotografsammenslutning Magnum, havde allerede fået meget ros for den.

Men på den sydfranske fotofestival, hvor han skulle vise billederne fra den på et stort udendørs amfiteater, var han virkelig nervøs, fortæller han til Information over telefonen.

»Jeg var meget utilpas. Jeg holdt mig for mig selv og gik rundt med mundbind på i håb om ikke at blive genkendt. Jeg var nødt til at være der for at dokumentere det hele. Men jeg var meget ilde til mode. I amfiteatret sad der 6-700 mennesker, vil jeg tro, uden at jeg har et helt præcist tal på det.«

Book of Veles er ikke fotografier, men computergenererede billeder skabt i et 3D-animationsprogram.

Jonas Bendiksen / Magnum Photos

Jonas Bendiksen var nervøs, fordi hans bog ikke er den dokumentariske fotobog, den gav sig ud for at være. Billederne i Book of Veles er ikke fotografier, men computergenererede billeder skabt i et 3D-animationsprogram og befolket af avatarer, som Jonas Bendiksen selv havde købt, formet, påklædt og placeret i de virtuelle omgivelser. Disse omgivelser var baseret på fotografier, han faktisk havde taget af forskellige mennesketomme steder i Veles, men derudover havde billederne ikke noget at gøre med det dokumentariske fotografi, som ellers er Jonas Bendiksens levevej.

Det 5.000 ord lange essay, der ledsager billederne i bogen, er også skabt ved hjælp af kunstig intelligens. Jonas Bendiksen fodrede et computerprogram ved navn GPT-2 med engelsksprogede reportager fra Veles, og ud fra disse tekster genererede programmet så en ny tekst, som med lidt menneskelig redigering næsten fremstår meningsfuld. Det var i hvert fald den tilbagemelding, Jonas Bendiksen havde fået fra folk. Arrangørerne af Visa Pour l’Image havde også udvalgt hans projekt på baggrund af en pdf-version af bogen og billeder i høj opløsning uden at stille et eneste spørgsmål.

»Da de begyndte visningen, forstod jeg, at de ikke havde opdaget forfalskningerne. Showet begyndte med en sekvens om bjørnene i byen og alt det historiske og gennemgik nøje hele materialet på de her gigantiske lærreder. Billederne kom op i et ret stort format,« fortæller Jonas Bendiksen.

Samtidig med at begrebet fake news kom på alles læber, kunne Jonas Bendiksen se, hvilken drastisk teknologisk udvikling der var i gang på hans eget område. Deepfake-teknologi, som ved hjælp af kunstig intelligens kan skabe helt igennem syntetiske video- og lydklip, bliver hele tiden sværere at skelne fra virkelige video- og lydoptagelser, og Jonas Bendiksen mener, det er et spørgsmål om meget kort tid, før vi ikke længere kan skelne mellem de autentiske film og foto og de computergenererede af slagsen.

»Det skræmte mig så meget, at jeg tænkte, at jeg måtte prøve at se, om en freelancefotograf som mig kunne slippe afsted med at sidde i sin kælder og fabrikere noget, som faktisk narrer de filtre og portvogtere, der er i fotoverdenen.«

En gud for kaos og forklædning

De såkaldte fake news-fabrikker i Leves er lukket nu, efter at Facebook og Twitter har ændret deres algoritmer, så deres falske nyhedshistorier ikke når så langt ud. Der er altså ikke længere så meget at fotografere i byen, men Jonas Bendiksen var nu engang blevet fascineret af stedet. Under hans intensive googling af det tog fascinationen til, og Jonas Bendiksen fik ideen om, at man måske kunne fortælle historien fake news ved at lave sine egne fake news.

»Det var et meget ensomt projekt, og jeg var spændt på, hvor hurtigt det ville gå, før nogen opdagede det. Det er jo egentlig dårligt håndværk alt sammen,« fortæller Jonas Bendiksen

Jonas Bendiksen / Magnum Photos

Byen Veles viste sig at dele navn med en slavisk gud fra førkristen tid, der på mange måder minder om den nordiske mytologis Loke.

»Veles er en lurendrejer, som var gud for magi, kaos og forklædning. Han var en shapeshifter, der tog form af en bjørn og vandrede rundt,« fortæller Jonas Bendiksen, der læste op på denne gudeskikkelse og stødte på historien om et gammelt oldtidsmanuskript med titlen Veles’ bog. Manuskriptet bestod af tre trætavler, der blev fundet af den russiske officer Fjodor Izenbek i et udbrændt hus i nærheden af Kursk i år 1919, mens den russiske borgerkrig rasede. Tavlerne var beskrevne med en ukendt og ulæselig form for urkyrilisk skrift. Først da videnskabsmanden Juri Miroljubov fik fat i tavlerne nogle år senere, lykkedes det at knække koden, og et epos om guden Leves og de tidlige slaviske folk åbenbarede sig. »Teksten lever sit eget liv den dag i dag i den del af verden, den er ganske populær i slaviske lande i de alternative nationalistiske miljøer,« fortæller Jonas Bendiksen.

Historien om Veles’ bog bliver ikke dårligere af, at nutidens historikere og lingvister er enige om, at manuskriptet er en forfalskning og altså et tidligt eksempel på fake news.

»Det blev et kludetæppe af forskellige historier om fake news, bedrageri, informationshacking og kaos, og det blev et flot billede, synes jeg. Et blik ind i fremtiden og på, hvor vi bevæger os hen. Så jeg bestemte mig for at fortælle denne for så vidt reelle historie, men gøre det på forfalsket vis.«

Amatørarbejde

Kun en lille flok af Jonas Bendiksens venner og kolleger og så hans kone vidste, hvad han havde gang i, da han under nedlukningen sad i sin kælder lidt uden for Oslo og lærte sig at bruge de forskellige 3D-animationsprogrammer og special effects-teknikker, der skulle til for at lave en falsk Jonas Bendiksen-fotobog. Alt, hvad han havde brug for at lære, lærte han på YouTube, og han beskriver selv sit arbejde som totalt amatøragtigt. 

»Det var et meget ensomt projekt, og jeg var spændt på, hvor hurtigt det ville gå, før nogen opdagede det. Det er jo egentlig dårligt håndværk alt sammen. Pointen er, at selv det dårligste amatørarbejde slipper igennem de fineste filtre. Det er jo blevet vist til alle mulige billedredaktører, fotografer og fotofestivaler, helt uden at nogen har stillet et eneste spørgsmål.«

»Projektet har været vældig øjenåbnende for mig på mange måder,« fortæller Jonas Bendiksen.

Jonas Bendiksen / Magnum Photos

Målet for bogen var, at den skulle se ud, som om en gennemsnitligt god fotojournalist havde tilbragt et par uger i Veles og gjort et gennemsnitligt godt job.

»Det er sådan, billederne ser ud. Ikke alt for spektakulære, lidt kedelige, men alt i alt et helt fint professionelt udført arbejde.«

Når Jonas Bendiksen er sluppet afsted med at præsentere Book of Veles som en fotobog som alle andre, skyldes det ifølge ham selv dels, at folk har tiltro til ham, og dels at han formåede at ramme en velkendt stil.

»Projektet har været vældig øjenåbnende for mig på mange måder. Ikke bare fordi jeg ser, hvor skræmmende teknologien er blevet, og hvad den kan bruges til, men også fordi jeg har måttet evaluere min egen måde at fotografere på. En del af problemet ved dokumentarfotografi og journalistik er, at historier er baseret på skabeloner, der er meget forudsigelige. Sådan var det også for mig. Jeg måtte se på, hvordan et Jonas Bendiksen-billede ville se ud, hvis jeg havde taget det på den almindelige måde. Og så sad jeg bare på stedet og byggede det op digitalt med alle dets klicheer og al forudsigeligheden. Det var nærmest som at bygge med legoklodser.«

Essayet i Book of Veles er lavet ved hjælp af kunstig intelligens.

Jonas Bendiksen / Magnum Photos

Et advarselsskilt

Hele Book of Veles-projektet er ment som en advarsel om, hvad vi kan vente os af falsk information, både i form af tekst og billeder. Jonas Bendiksen er overbevist om, at den tid, hvor man med det blotte øje kan skelne mellem menneskeskabt indhold og indhold skabt af kunstig intelligens snart er ovre.

»Vi tror, vi har et fake news-problem i dag, men det, vi har i dag, er jo bare et vejskilt, der viser, hvor vi er på vej hen. Vi er i færd med at få et landskab, hvor vi er omringet af falsk information, der ikke er lavet af mennesker, men af kunstig intelligens.«

Essayet i Book of Veles er som nævnt lavet ved hjælp af kunstig intelligens, der autogenererede en masse tekst ud fra andre tekster om samme emne, men Jonas Bendiksen var dog nødt til at bruge sin egen menneskelige intelligens på at redigere teksten, hvis den skulle være troværdig. Det burde være en trøst, men Jonas Bendiksen påpeger, at den teknologi, han brugte, allerede er forældet.

»Computergenereret tekst udvikler sig enormt hurtigt. Alle store techselskaber har deres varianter. I dag findes der et program, som er ti gange bedre, og alle, der har prøvet det, siger, at nu bliver det virkelig vanskeligt at skelne mellem det menneskelige og det maskinlavede. Om to år har man et gigantisk problem. For da bliver det helt udifferentierbart for de allerfleste at se forskel på, hvad der er skrevet af en journalist i et dagblad, og hvad der er lavet af en computer.«

Man har altid kunnet manipulere billeder

Jonas Bendiksens projekt er i bund og grund baseret på pessimisme og bekymring, men hvis man spørger Mette Sandbye, der er professor i Moderne Kultur ved Københavns Universitet og har forsket i fotografiets kulturhistorie siden 1990’erne, er hun ikke nær så alarmistisk. Hun vil hellere kalde den teknologiske udvikling for en udfordring end for en trussel og påpeger, at det altid har været et spørgsmål om tillid, når medier har offentliggjort fotografier.

»Hver gang fotografiet har taget et nyt skridt, som regel en teknologisk landvinding, er de her diskussioner kommet op om, hvor manipuleret det har været. Det skete med tredivernes småbilledkamera, halvfemsernes digitale billedbehandling og nu de endnu større muligheder, som Jonas Bendiksens projekt demonstrerer,« siger hun.

En avatar placeret i virtuelle omgivelser.

Jonas Bendiksen / Magnum Photos

Bevidstheden om, at fotografier kan manipuleres, er måske nok blevet højnet, men diskussionen er ikke ny.

»Nu har jeg arbejdet med det her felt i omkring 30 år, og det var en lignende diskussion, man havde op gennem halvfemserne, da det digitale fotografi begyndte at komme frem. Der var utroligt mange artikler med overskrifter om, at fra nu af var fotografiet dødt, fordi man kunne lave sine egne billeder. Men jeg tror bare, det vil skærpe blikket.«

Thomas B. Moeslund, der er professor i Computer Vision ved Aalborg Universitet, er mere bekymret for fremtidens mediebillede end sin professorkollega. Selv har han sammen med DR for nylig taget en lille stump tekst og fået en computer til at fortsætte den. En flok gymnasielærere skulle så regne ud, hvor i teksten computeren havde taget over. Det kunne de ikke.

»Det skrækscenarie, Jonas Bendiksen taler om, er her allerede,« siger han. »Det fungerer ikke perfekt, og det er derfor, at det ikke helt har overtaget agendaen. Den store udfordring er at gå fra stillbilleder til levende billeder, hvor man skal have styr på bevægelser og lyd. Men hvis du har indsigt og computerkraft nok, kan du sagtens genskabe dig selv digitalt og få dig til at sige noget på en video som alle dem, du kender, vil tro, er dig. Så det er et meget reelt scenarie. Hvis man laver et kunstigt spot med en politiker, der siger et eller andet kontroversielt, og lægger det ud på Facebook, så vil det lynhurtigt ryge rundt. Og inden nogen kan nå at lave et dementi, er skaden sket.«

På spørgsmålet om, om man skal være bange for, at computergenererede billeder, film- og lydklip kommer til at infiltrere mediebilledet, er Thomas B. Moeslunds svar kort og klart:

»Ja. I den grad.«

Jonas Bendiksen / Magnum Photos

Men selv om den teknologiske udvikling bare vil accelerere fra nu af, investeres der i at modarbejde de falske nyheder. »I øjeblikket foregår der et våbenkapløb blandt folk som mig, hvor nogle synes, det er sjovt at snyde med tekst og billedmedier, mens vi er andre, der ser på, hvordan man automatisk kan opdage, at der bliver snydt. Det er bare sjovere blandt unge datalogistuderende at generere snydebilleder, end det er at lave en algoritme, der kan opdage det, så derfor er det lidt op ad bakke,« siger han.

Stort besvær med at afsløre sig selv

Efter visningen af billederne fra Book of Veles foran hundredvis af fotografer, billedredaktører og kuratorer på fotofestivalen Visa Pour l’Image var der ikke et eneste opklarende eller kritisk spørgsmål, og Jonas Bendiksen befandt sig i en besværlig situation. Han var en falskner med ærlige intentioner, der bare gik og ventede på at blive gennemskuet, så den debat, han gerne ville starte, kunne gå i gang. Det skete bare ikke af sig selv.

Siden udgivelsen af bogen i april havde han fået flere henvendelser fra medier, der gerne ville trykke hans billeder, men han havde fundet på undskyldninger for, hvorfor det ikke kunne lade sig gøre. Den grænse ville han alligevel ikke krydse. I bogen syntes han selv, han havde lagt mange hints ud, der kunne få folk på sporet af hans falskneri. Dels er der bjørne på mange af billederne – det dyr, som guden Veles ofte tog form af – og dels er det delvist autogenererede essay ikke underskrevet med Jonas Bendiksens navn, men med navnet på det program, han havde brugt til at skrive essayet. Men det var ikke nok.

Jonas Bendiksen havde på forhånd besluttet, at fotofestivalen i Perpignan skulle være deadline for afsløringen. Hvis ingen sagde noget der, måtte han gøre noget ekstra for at blive opdaget. Derfor havde han købt sig en falsk facebookprofil med navnet Chloe Miskin for 40 dollar og brugt sommeren på at sende venneanmodninger fra profilen til alle, han kendte i fotobranchen. Efter visningen på Visa Pour l’Image begyndte denne Chloe Miskins så at sprede det rygte på Facebook, at Jonas Bendiksen havde betalt penge for, at folk skulle være med i hans billeder.

»Det er næsten det mest graverende, man kan sige om en dokumentarfotograf som mig. Og det var jo for så vidt sandt, for jeg havde købt de her modeller af mennesker på 3D-markedspladsen.«

»Jonas Bendiksens hensigt med at lave det stunt, som Book of Veles er, har hele tiden været at advare mod den fundamentale trussel mod fotografiets troværdighed,« skriver Lone Nikolajsen.

Jonas Bendiksen / Magnum Photos

Desværre var der næsten ingen reaktion. Folk troede mere på Jonas Bendiksen end på en eller anden Chloe Miskin. Først da han gav Chloe Miskin en profil på Twitter og lod hende komme med de samme anklager der, opnåede han den ønskede ståhej om projektet. Flytningen fra Facebook til Twitter gik lidt hurtigt, så Jonas Bendiksen nåede ikke at gøre den falske twitterprofil særlig troværdig, og langt om længe blev det gennemskuet, at han selv stod bag den. Et interview på fotografsammenslutningen Magnum Photos hjemmeside lå klar og blev publiceret samme dag.

Direktøren for fotofestivalen i Perpignan, Jean Francois Leroy, synes tilsyneladende ikke, Jonas Bendiksens stunt var vildt sjovt, men lover i en facebookopdatering, at man fra festivalens side vil bestræbe sig på at få en konstruktiv debat om fotografiets fremtidige udfordringer ud af det.

Jonas Bendiksens hensigt med at lave det stunt, som Book of Veles er, har hele tiden været at advare mod den fundamentale trussel mod fotografiets troværdighed, som teknologien i hans øjne udgør. Men hvad med hans egen troværdighed som fotograf?

Jonas Bendiksen er ikke så bekymret lige for den, siger han. Måske vil han på kort sigt møde mere skepsis, men han regner med, at folk kan se, at det hele tiden har været meningen, at hans stunt skulle afsløres, og at det er et led i et større projekt, der handler om meget mere end bare at narre folk.

»Jeg føler, at jeg er landet nu fra al den løgn og alt det dobbeltspil, jeg har haft gang i. Men jeg føler også, at noget letter, og det er forhåbentlig samtalen om, hvad vi står over for. Det er jo meget vigtigere end min troværdighed. Jeg ofrer gerne en del af min troværdighed, hvis vi får en samtale i gang om syntetisk information.«

»Jeg ofrer gerne en del af min troværdighed, hvis vi får en samtale i gang om syntetisk information,« forklarer Jonas Bendiksen.

Jonas Bendiksen / Magnum Photos