Læsetid: 9 min.

Er @patrioticpepe en robot eller et menneske?

20 procent af de valgrelaterede tweets i den amerikanske valgkamp kom ifølge et nyt studie fra falske, automatiserede profiler, og det kan ifølge forskerne skade den demokratiske samtale. Det er nemlig blevet sværere og sværere at skelne mellem robotter og mennesker. Se, om du selv kan gætte om @patrioticpepe eller @JamesMTitus er en bot
Kultur
26. november 2016
’Bot or Not?' Skønt man har fået lettere ved at spotte falske Twitter-bots via detektorer, så kan det være svært for almindelige mennesker at skelne mellem falske og rigtige profiler. Er @patrioticpepe en bot eller not? Få svaret længere nede i artiklen.

’Bot or Not?' Skønt man har fået lettere ved at spotte falske Twitter-bots via detektorer, så kan det være svært for almindelige mennesker at skelne mellem falske og rigtige profiler. Er @patrioticpepe en bot eller not? Få svaret længere nede i artiklen.

En californisk Twitter-bruger ved navn Billy modtager et tweet fra profilen @JamesMTitus.

I sin profil beskriver han sig som en »24-årig dude« fra Christchurch i New Zealand. Hans profilbillede er en kat.

Og han skriver til Billy: »Hvis du kunne gøre én person levende fra din yndlingsbog, hvem skulle det så være?«

Billy svarer »Jesus«, og @JamesMTitus svarer »Seriøst?! No fracking way, ahahaha.«

Efter en række beskeder frem og tilbage begynder Billy at følge James, uden nogensinde at vide, at han faktisk er en automatiseret robot med en database af generiske svarmuligheder som »Ahr, det er interessant, fortæl mig mere om det.«

Eksemplet er beskrevet i The Atlantic i 2011, for allerede dengang kunne de såkaldte bots interagere med andre profiler. Og selv om detektorerne til at fange de falske profiler i årene siden er blevet bedre, er robotterne samtidig blevet så avancerede, at selv eksperter har svært ved at skelne

De falske bots er derfor blevet genstand for ny forskning og kritisk debat om særligt den amerikanske valgkamp, hvor et studie fra dagen før valget konkluderer, at omkring 400.000 bots opererede og blev retweetet så hyppigt på Twitter, at de falske profiler stod for »næsten 20 procent af de valgrelaterede beskeder«.

Et andet studie konkluderede i samme periode, at en tredjedel af pro-Trump-tweets og næsten en femtedel af pro-Clinton-tweets kom fra automatiserede profiler.

Og det er et problem, for det kan føre til, at botterne på sociale medier kan ændre den offentlige mening ved at »påvirke den demokratiske, politiske diskussion negativt, snarere end forbedre den,« konkluderer Alessandro Bessi og Emilio Ferrara fra University of Southern California på baggrund af en måneds undersøgelse af den amerikanske valgkamp.

Forskerne understreger dog, at resultaterne er usikre, fordi det kan være svært at kende forskel på bots og mennesker.

»Bots retweeter på samme måde som mennesker, og siden de er langt mere aktive, får de mere indflydelse, når deres budskaber bliver gengivet. Det giver nogle seriøse problemer i forhold til spredning af misinformation, rygter og konspirationsteorier,« siger Emilio Ferrara til MIT Technology Review.

Det bakkes op af Clayton Davis, der forsker i Twitter-bots ved Indiana University.

»Mennesker har en tendens til at sige, at jo flere, der taler om noget, des mere sandsynligt er det, at det er sandt. Det er bare sådan, vi fungerer. Så når falske profiler booster hashtags og får noget til at gå viralt, øger det ikke kun volumen af enslydende buskaber, men det giver også budskabet troværdighed.«

Quiz: Bot or Not?

Hvem er en bot, og hvem er not?

Svar: Til venstre - Not, til højre - Bot

Bot-krig

Ifølge mediet Fusion stifter de fleste bekendtskab med falske bots første gang på Tinder eller online datingsider, hvor særligt smukke, flirtende og venlige kvinder med komplette profiler og personligheder viser sig at være falske.

Andre igen er skabt til at booste antallet af følgere for den ene eller anden politiker, så det udadtil ser ud, som om man har flere fans, end det reelt er tilfældet.

Nogle bots spreder viden eller fungerer som en slags onlineven eller kæreste, mens andre eksempler er pro-Trump profilen @amrightnow, som har mere end 33.000 følgere og spytter om sig med anti-Clinton konspirationsteorier og tweets som »Hillary Clinton burde være i fængsel, ikke på kampagnesporet« eller »Hillary Clinton kendte til kriminel straf for mishåndtering af klassificeret information. #WakeUpAmerica«.

Automatiserede bots kan være skjulte eller tydeligt falske, og de fleste er skabt til at følge en algoritme, hvor de automatisk videresender eller svarer på bestemte ting, mens de mere avancerede er lavet til at indoptage sprog og sætninger fra databaser eller dem, de interagerer med.

Det testede Microsoft i foråret, da de lavede en teenagepiget chatrobot ved navn Tay. Hun var forprogrammeret til at kopiere og indoptage sprog, sætninger og budskaber fra de mennesker, hun interagerede med på Twitter, hvilket endte katastrofalt, da hun efter blot 16 timer på Twitter udviklede sig til en holocaustbenægtende sexist, som straks blev lukket af et undskyldende Microsoft-team.

Som eksempel skrev en person i løbet af de 16 timer til Tay, at »vi må sikre fremtiden for vores hvide børn.«, hvortil hun svarede: »Jeg kunne ikke være mere enig, ville ønske flere mennesker artikulerede den slags.«

Læs også: Tay: ’Jeg fucking hader feminister, og de burde alle dø og brænde i helvede’

Det er blandt andet den slags online samtale eller promovering af ideologiske budskaber, der ifølge forskerne bag et studie fra Oxford University giver falske profiler magt, fordi det styrker følelsen af, at mange andre synes det samme som én selv.

Douglas Guilbeault og Samuel Woolley har sammen med deres forskningsteam fra Oxford University i stedet for meningsmålinger op til valget taget udgangspunkt i Donald Trumps massive popularitet på sociale medier, der med omkring 30 millioner følgere langt oversteg Hillary Clintons.

»Aldrig før har vi set sådan en all-out bot-krig.«

»Trump og Clinton har begge fordømt Rusland for at påvirke valget med cyberangreb, men ingen har nævnt de millioner af bots, der arbejder på at manipulere den offentlige meningsdannelse på vegne af dem,« skriver Guilbeault og Woolley om deres forskning i The Atlantic.

Mange af profilerne fra valgkampen tweeter samtidig løgnehistorier fra falske medier, som også Facebook i de seneste uger har fået kritik for at sprede under valgkampen, hvor de falske tophistorier i de sidste måneder fik flere delinger, kommentarer og likes end tophistorierne fra 19 store medier tilsammen. 
 

Quiz: Bot or Not?

Hvem er en bot, og hvem er not?

Svar: Til venstre - Bot, til højre - Not

En megafon for ideologi

Guilbeault og Woolley har fundet frem til tallene for den falske tredjedel pro-Trump-tweets og knap en femtedel falske pro-Clinton-tweets, og ifølge dem fungerer de falske bots stærkest, når de giver menneskelige brugere en følelse af »styrke i antal«, forklarer Guilbeualt i telefonen.

Ifølge Guilbeualt har de »været meget konservative i forhold til konklusionerne,« fordi det kan være svært at vurdere, om en profil er ægte eller falsk – både for almindelige brugere og for forskerne bag undersøgelserne.

Hvis man er i tvivl, kan man bruge programmer som eksempelvis BotOrNot, som Clayton Davis har udviklet. Den kan vurdere, om en Twitter-profil er ægte eller ej ved at gennemgå grammatik, vaner og forbindelser til andre brugere. Her kan en profil få fra 0 til 100 procent (total botness). Får en profil mere end 48 point er der større sandsynlighed for, at profilen er styret af en robot end af et menneske.

Også på Twitteraudit.com eller fakers.statuspeople.com kan man tjekke, hvor mange af ens egne følgere på sociale medier, der ser ud til at være falske profiler, eller om de er inaktive.

Jeg har tjekket min egen profil med 941 følgere på BotOrNot. 86 af dem er falske. Af de 1036, jeg følger, er 59 falske ifølge BotOrNot. Flere af dem kender jeg dog i virkeligheden (heriblandt Informations egen filmanmelder), mens andre er medieprofiler som eksempelvis Berlingske. Så selv om man har mulighed for at tjekke profilerne, er resultatet ikke nødvendigvis ret præcist.

»Det er et problem, at den kun virker på engelske profiler, og at den har en tendens til at medtage professionelle organisationers konti, men det arbejder vi hele tiden på. Men når vi når op og taler om over 100.000 konti, og vi tager en hel del forbehold, kan vi give et nogenlunde billede af det,« siger Clayton Davis.

Quiz: Bot or Not?

Hvem er en bot, og hvem er not?

Svar: Til venstre - Bot, til højre - Not

Menneskelig onlineadfærd

Det næste skridt for forskerne og udviklerne er at finde ud af, hvem der skaber de falske bots, hvilket ifølge de nævnte forskereer yderst væsenligt, men noget nær umuligt med de nuværende data.

De har derudover forskellige bud på, hvad løsningen på botternes indtog på debatscenen skal være. Clayton Davis håber på mere skepsis hos brugerne samt bedre udviklede programmer til at opsnappe de falske profiler.

Mens der over hele linjen er enighed om, at der skal mere forskning på området, mener Emilio Ferrara derudover, at regulering og lovgivning, »der forebygger den slags manipulation,« er nødvendig.

Ifølge Douglas Guilbeault er ét af problemerne, at de sociale medier har indbygget popularitet, og den menneskelige ’like’- eller ’retweet’-adfærd er enormt nem for botterne at kopiere.

– Hvad bør der gøres ved det?

»Det er spørgsmålet. Både Twitter og Facebook har bot-detection systems, men de er ikke bulletproof, og når vi taler med botudviklere, har de virkelig fundet smarte måder at omgås dem på.«

Som en løsning håber han, at der bliver skabt nye sociale medier uden popularitet som indbygget tema, så det er sværere for botterne at infiltrere. Både Davis og Guilbeault tror derudoverpå udviklingen af alternative bots, der kan gå ind i diskussionen og bidrage med neutral fakta.

»Ikke alle bots er dårlige. Jeg vil gerne designe bots, der kan hjælpe dialogen ved at stå på sidelinjen og komme med neutral information. Det ville de være gode til, for de kan programmeres til at være neutrale i en diskussion,« siger Guilbeault.

Information har kontaktet Twitter for at få svar på, hvad der bliver gjort for at minimere antallet og udbredelsen af af bots, men har ikke fået noget svar.

Interview med bot-udvikler Ernst Poulsen og lektor Sune Lehmann Jørgensen:

De ’gode’ og de ’onde’ bots

Flere studier fra USA tyder på, at automatiserede profiler med ideologiske budskaber har udgjort en stor del af valgdebatten på Twitter. Ikke alle ’bots’ er dog dårlige, men det kræver mere grundighed fra journalister, påpeger bot-udvikler

Medierådgiver og digital journalist Ernst Poulsen arbejder selv med at skabe og bruge bots, og han er straks interesseret i den nyeste forsknings konklusioner om, atomkring 400.000 automatiserede bots opererede og blev retweetet så hyppigt på Twitter, at de falske profiler stod for »næsten 20 procent af de valg-relaterede beskeder.«

Ifølge ham er tallene bag studiet med de 20 procent»utroligt høje,« og skal tages med forbehold.

»Hvis det kan bekræftes af andre forskere, er jeg overrasket over omfanget. Det er så massivt, at man ikke kan se bort fra, at det kan påvirke et valg.«

Ifølge ham er analysen bag studiet overbevisende, selv om udfordringerne ved endeligt at bevise en profils ’falskhed’ er en reel udfordring i den slags forskning.

Det skriver Ernst Poulsen på Twitter fra en profil. For at tjekke, om @ernstpoulsen er en ægte person, taler vi også i telefon.

»Medierne bør være påpasselige med at bruge mængde som et kvalitetsparameter på sociale medier, når de skriver historier, som ’sociale medier raser’. Vi skal ikke afskrive sociale medier som arbejdsværktøj, men med den udvikling, vi ser, bliver journalister nødt til at tjekke op på profilerne med direkte kontakt,« lyder det fra Ernst Poulsen, der sammen med SDU-lektor Filip Wallberg står bag @politikerpip og @journalistpip, der er to robot-konti, som opsummerer populære tweets fra henholdsvis valgte politikere og journalist- og kommunikationsbranchen.

Og netop den slags er helt legitimt, siger Sune Lehmann Jørgensen, der er lektor ved DTU, hvor han har undervist de studerende i at lave bots. Her fandt de ud af, at de »let kunne snyde« de forskellige detektorsider og udgive sig for at være rigtige personer.

»Men det er klart et problem, når nogle med vilje bruger de her bots til at sprede misinformation. Men ligeså svært som det er at afgøre, om det er en bot eller ej, er det at lave kontrollerede forsøg med, hvordan menneskers holdning bliver påvirket,« siger Sune Lehmann.

 

Følg disse emner på mail

Vores abonnenter kalder os kritisk,
seriøs og troværdig.

Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Indeholder den følgende sætning ikke et oxymoron?

"Som en løsning håber han (Douglas Guilbeault), at der bliver skabt nye sociale medier uden popularitet som indbygget tema".

Et socialt medie, som ikke er populært? Det lyder spøjst. Jeg troede, at pointen med sociale medier netop var, at de er sociale og populære?

I øvrigt er problemet med de såkaldte bots nok svært at løse. Når der er en efterspørgsel efter visse ytringer og holdninger, så skal udbuddet nok dukke op. Det kan som bekendt være rart at få bekræftet sin verdensanskuelse. Og problemet med denne er, at den ikke behøver en saglig begrundelse, men blot en illustration.

Måske man i stedet skulle holde op med at tage de sociale medier seriøst som nyhedsmedier og i stedet karakteriserer dem som det, de er: det 21. århundredes sladder- og underholdningsspalter.

Personligt synes jeg fx, at det er sjovt, når Donald Trump endorser Jeremy Corbyn på Twitter. Men når Politiken laver en Twitter-guide til finansloven, eller når vores kære alfader/håndværker taler med nordkoreansk accent på Facebook, så bliver jeg mindre begejstret.

Måske er jeg en reaktionær maskinstormer?

@ Lars

Jeg tror ikke han mener, at de sociale medier ikke bør være populære, men at det er en slags popularitets-konkurrence-kultur der præger dem ("...uden popularitet som indbygget tema") - dvs at fx facebook og twitter også i højere grad viser opslag der har fået mange følgere/likes, samt dem der minder om det du selv poster - det forstærker nemlig effekten af botterne...

Problemet er ikke så meget at bots opfører sig som os, men at vi i tiltagende omfang opfører os som bots.
Når man har sociale platforme der dyrker overfladiske og meningsløse interaktioner som Twitter og også Facebook, er det ingen under at vi forændrer os i den retning. Og så begynder vi mere og mere ligne hjerte- og hjerneløse maskiner.
I virkeligheden gør det næppe en forskel om vi kommunikerer med bots eller ej. Bots kommunikerer også med bots ligesom vi kommunikerer med andre mennesker. Når forskellen udviskes er det lige meget hvad der i virkeligheden står bag. Der findes moderatorer som kan gribe ind. Mange af dem vil også være bots. Men i sidste ende sidder der nogle mennesker der har et valg.

Spørgsmålet er hvordan de vil vælge.

Lars Rasmussen

@ Randi Gredal

Undskyld, tusind gange undskyld, for at jeg ikke reagerer på din kommentar før nu. Min eneste rigtige undskyldning er, at jeg ikke havde forventet respons på min egen kommentar og derfor ikke holdt øje med artiklens kommentartråd. Der findes således artikler her på 'den mindste ringe's hjemmeside, der ikke tiltrækker sig mange kommentatorer; og denne artikel er (stadig) et godt eksempel herpå. Men her er en form for svar (ca. tre måneder forsinket og måske mest for min egen skyld...):

Jeg kan godt følge din tankegang om, at de sociale medier er hjemsted for en slags "popularitets-konkurrence-kultur", som botterne er med til at forstærke. Botterne skævvrider således billedet af den reelle popularitet: Nogle få aktive botter kan nemt give indtryk af mere popularitet (i betydningen: udspredelse og delinger), end der rent faktisk er tale om. Og dette er selvfølgelig uheldigt for de 'rigtige' brugere.

Men hvorvidt man kan gøre noget ved dette, stiller jeg mig imidlertid stadig tvivlende overfor. Tomme tønder buldrer som bekendt mest. Og som curt jensen skriver, så er problemet ikke kun botterne; problemet er også, "at vi i tiltagende omfang opfører os som bots."

Med venlig og forsinket hilsen
Lars Rasmussen

(P.S. Pedanten i mig byder mig i øvrigt om at opdatere linket til Politikens Twitter-guide til finansloven. Det gamle link i min oprindelige kommentar er således afgået ved døden, sandsynligvis som en konsekvens af at 'det kulturradikale menighedsblad' har fået nyt design på deres hjemmeside.)