Baggrund
Læsetid: 9 min.

’Hvis du graver et hul i internettet, fyldes det med lort’

Det er ikke computere, der sørger for, at der ikke kommer halshugningsvideoer op i dit Facebook-feed. Det er mennesker, som lever en hård tilværelse i internettets kulisser, fortæller forsker Sarah T. Roberts, der mener, at vores forestilling om internettet som noget immaterielt er med til at skabe en lang række problemer
Det er ikke computere, der sørger for, at der ikke kommer halshugningsvideoer op i dit Facebook-feed. Det er mennesker, som lever en hård tilværelse i internettets kulisser, fortæller forsker Sarah T. Roberts, der mener, at vores forestilling om internettet som noget immaterielt er med til at skabe en lang række problemer

Mia Mottelson

Kultur
25. september 2015

For nogle år siden – omkring 2010 – læste Sarah T. Roberts en undselig historie i The New York Times’ tekniksektion. En kort tekst, som handlede om nogle mennesker i et landdistrikt i Iowa. Hvor man i regionen egentlig havde tradition for at drive mindre landbrug, der gik i arv, var mange af indbyggerne nu begyndt at arbejde i en form for callcenter, fordi deres familiegårde var blevet opslugt af større landbrug.

I callcenteret arbejdede disse mennesker med at gennemgå billeder og tekst, som var blevet lagt op på forskellige sociale medier, fordi de skulle vurdere, hvorvidt indholdet var egnet til at komme på internettet. Et stille og roligt skrivebordsarbejde, kunne man måske umiddelbart tænke, men det var ikke søde kattevideoer og bryllupsbilleder, som de ansatte skulle kigge på i løbet af deres arbejdsdag. Ifølge artiklen var indholdet alt andet end hyggeligt.

Sarah T. Roberts, der faldt over historien i New York Times, er selv forsker i digitale medier ved Western University i Ontario, Canada. Information møder hende, da hun er i Danmark for at holde seminar på Københavns Universitet om det, hun kalder Commercial Content Management (CCM) – et begreb, som betegner den proces, der foregår, når private firmaer som Facebook og Twitter modererer indholdet på deres egne sider. Hun fortæller:

»Hvis du tænker på ting, som du har set online ved et uheld, fordi det er dukket op i dit Facebook-feed – en video af en person, der bliver halshugget for eksempel – prøv så at forestille dig, hvad der bliver fjernet. Det er de ting, som de her mennesker kigger på dag ud og dag ind. Og det er ikke bare en enkelt video i ny og næ. Det er video efter video med den slags indhold hele dagen lang. Videoer af børn, der bliver mishandlet eller seksuelt misbrugt. Og uredigeret videomateriale fra krigszoner.«

Da Sarah T. Roberts læste artiklen i The New York Times, var hun kandidatstuderende i digitale medier, og hun havde på det tidspunkt været bruger af internettet i næsten tyve år. Men hun havde aldrig hørt om den praksis tidligere.

»Jeg var overbevist om, at arbejdet med at moderere de sociale medier måtte være automatiseret, og da jeg spurgte mine medstuderende og mine undervisere – forskellige professorer, der forskede i digitale medier – om de kendte til denne praksis, fik jeg konstant det samme svar: ’Nej, er det ikke computere, der gør det,’« siger hun.

Enorm branche

Sagen er, at det ville kræve en meget højt udviklet kunstig intelligens at foretage de vurderinger, som moderatorerne foretager. For man skal blandt andet tage hensyn til kulturel kontekst. Ligesom meget af materialet altså er videomateriale. »Så som teknologien er nu, er det kun mennesker, der kan udføre denne slags opgaver, og sådan vil det sandsynligvis være i lang tid endnu,« siger Sarah T. Roberts.

Hun forsøgte at få kontakt til medarbejdere fra firmaet i Iowa, men ingen ville tale med hende – sandsynligvis fordi medarbejderne havde fået at vide, at de ikke måtte, som hun siger:

»De fleste moderatorer er ansat under streng tavshedspligt og må ikke engang fortælle deres nærmeste, at de overhovedet arbejder som moderatorer. Firmaerne lader dermed som om, at moderatorerne slet ikke findes. Du ser jo af gode grunde ingen firmaer, der reklamerer med deres fantastiske arbejdsstyrke af indholdsmoderatorer,« siger Sarah T. Roberts, der påpeger, at firmaerne sandsynligvis gør det for at opretholde en illusion om, at deres medie per definition er et hyggeligt sted at være, og om, at indholdet dukker op på de forskellige sider fuldstændigt umodereret eller f.eks. på magisk vis. Men sandheden er altså en ganske anden.

»Sandheden er, at hvis du graver et hul på internettet – f.eks. de sociale medier – så bliver det fyldt op med lort, som en manager ved et center for Commercial Content Moderation senere fortalte mig,« siger Sarah T. Roberts og forklarer, at der ikke er noget socialt medie, der vil risikere at lægge indhold ud uden først at få det modereret – medmindre de altså ligesom et medie som 4chan ligefrem slår sig op på at være umodereret og på at vise beskidt indhold.

»Man behøver derfor ikke tænke længe over det, før det bliver klart, at det er en enorm branche. En enorm branche, som lever en skjult tilværelse i internettets kulisser.«

Sociale konsekvenser

Da Sarah T. Roberts gik videre med sine undersøgelser af de sociale mediefirmaers kommercielle indholdsmoderering, fandt hun da også ud af, at firmaet i Iowa på ingen måde var et enestående eksempel. Hun fandt frem til et stort firma i Silicon Valley i nærheden af San Francisco, hvor en lang række medarbejdere arbejdede med at gennemse indhold for et firma, som Sarah T. Roberts ikke må angive navnet på i henhold til kildebeskyttelse.

Her begyndte omfanget af indholdsmodereringen dels at gå op for Sarah T. Roberts, for det, at et gigantisk firma i Silicon Valley benyttede sig af moderatorerne og ligefrem havde dem i nærheden af hovedkontoret, vidnede om, hvor centralt indholdsmoderationen var for branchen. Og dels fik hun, da hun fik kontakt til en række tidligere og nuværende ansatte ved firmaet, indblik i de sociale og psykologiske konsekvenser, som arbejdet og de dårlige ansættelsesforhold medfører for moderatorerne.

»Det var tydeligt allerede da jeg læste artiklen om firmaet i Iowa, at der var konsekvenser ved det her arbejde. Ikke mindst fordi de var ansat under stramme klausuler, som gjorde, at de ikke måtte fortælle nogen om jobbet, hvilket isolerede dem fra deres sociale relationer uden for arbejdspladsen,« siger Sarah T. Roberts.

»Men også fordi, at der ikke var nogen former for sygesikring for disse medarbejdere, så samtidig med, at arbejdet måtte være ekstremt psykisk krævende, så fik medarbejderne næppe den psykologhjælp, som de kunne have brug for i forhold til at bearbejde det mentale pres, som arbejdet medførte.«

Alt dette fik hun bekræftet, da hun talte med folk fra firmaet i Silicon Valley. For ligesom folkene fra Iowa, var moderatorerne ved dette firma ansat i midlertidige stillinger. De blev med andre ord ikke betragtet som fastansatte, og de havde derfor lavere status, hvilket tillod firmaet at lægge afstand til moderatorerne. Desuden fik de kun lov til at arbejde et år, hvorefter de skulle tage tre måneders pause for så igen at få lov til at arbejde et år, hvorefter de simpelthen røg ud af vagten. Ganske enkelt fordi firmaet og contracting-firmaet godt vidste, at arbejdet var så hårdt, at de ikke kunne lade folk arbejde mere end to år, uden at de ville blive totalt udbrændte, som Sarah T. Roberts fortæller.

»De medarbejdere, som jeg talte med, bekræftede, at de brugte deres dage på at arbejde med det værst tænkelige materiale. Jeg undlod at stille spørgsmål som ’hvad er det klammeste du har set i forbindelse med dit arbejde?’ Men fra tid til anden fortalte de om det på eget initiativ.

Og de fortalte altså, at de så på børnemishandling, dyremishandling og hate speech – videoer af mennesker, der i lange rants fortalte om, hvorfor de hadede sorte eller homoseksuelle. Eller folk, der snakkede om, at de ville begå selvmord. Folk, der gjorde skade på sig selv. Og de så forfærdeligt råmateriale af videoer fra krigszoner. Jeg talte med dem omkring år 2012, så alle de mennesker, jeg talte med fortalte, at det værste de så var krigsbilleder og videoer fra Syrien. Det materiale forfulgte dem virkeligt,« siger Sarah T. Roberts.

Immune

Moderatorerne fortalte desuden om en lang række problemer, som de mente, at jobbet medførte. De havde problemer med at sove om natten. De havde problemer i deres forskellige sociale relationer – til deres kærester for eksempel. Og en af dem fortalte, at han drak mere, end han gjorde, inden han fik jobbet. Samtidig fortalte de Sarah T. Roberts, at de efterhånden følte sig immune over for materialet, hvilket på en måde var mere skræmmende for dem, end det ville have været at føle sig forstyrret af det. »For hvad betyder det, at du kan se en video, hvor en person bliver udsat for voldelige overgreb, uden at du bliver berørt af det længere,« siger Sarah T. Roberts.

Desuden var medarbejderne slet ikke rustet til at bearbejde de billeder de blev udsat for gennem jobbet.

»Man uddanner sig jo ikke til at blive moderator. De her folk var typisk uddannet som humanister ved førende universiteter i USA – hvorfra de havde opbygget en vis studiegæld, som tvang dem til at finde jobs hurtigt på et jobmarked, hvor humanister ikke ligefrem vadede i jobmuligheder. Så de var ikke mentalt forberedt på at arbejde med det her materiale,« siger hun og forklarer, at når man for eksempel arbejder som journalist i en krigszone eller ved politiet, så er man i en profession, som har en historie. Som har definerede grundprincipper og et tydeligt defineret samfundsmæssigt formål.

»Politifolk og journalister kan derfor sige, ’okay, jeg kigger på det her forfærdelige materiale, men jeg er ved at opklare en forbrydelse og ved at finde gerningsmanden.’ Eller ’jeg arbejder med denne her historie for at udbrede viden om denne her sag og for at gøre verden bedre.’

Men som moderator arbejder du i kulisserne. Ingen ved, at du er der. Ja, på grund af tavshedsklausulerne må de ikke engang fortælle nogen, at de er der. De må ikke sige ’hey, jeg har det her job, og det her job er forfærdeligt og jeg ser på den her slags ting hver dag.’ Det ville være et brud på deres kontrakt. Så de er virkelig fanget i det her, og tro mig, det her er ikke et sted, du gerne vil være fanget. Slet ikke, når du er 24 år gammel.«

Myten om nettet

De fleste mennesker har ifølge Sarah T. Roberts en meget indgroet forståelse af internettet som noget immaterielt, magisk og konsekvensløst.

»Og når firmaer som de sociale medievirksomheder skjuler, benægter eller nedtoner graden af menneskelig indgriben, er det med til at få internetbaserede løsninger til at fremstå som bedre end andre løsninger. Men så snart man begynder at kigge på, hvad der sker i kulisserne, så bliver det klart, at internettet hverken er magisk, immaterielt eller konsekvensløst. For der er mennesker bag ved nettet – mennesker, som holder dit Facebook-feed rent, eller som under stort tidspres bearbejder din ordre på Amazon – for lige at få det perspektiv med,« siger Sarah T. Roberts og tilføjer, at internettet jo også indvirker på den fysiske verden – på klimaet for eksempel. For de maskiner, der holder internettet i gang udvikler jo også CO2 for eksempel.

»Og Amazon bruger jo ikke magiske biler til at fragte dine varer i, selvom deres brugerflade netop giver indtryk af, at handel på Amazon er konsekvensløst.«

Sarah T. Roberts mener, at det er meget vigtigt, at vi overvejer vores rolle i forhold til det her, og at vi overvejer, hvad vores værdier er – kollektivt.

»Vi er alle sammen en del af det her. For hvis det ikke var for alle brugerne, ville de sociale medier for eksempel ikke være andet end tomme skaller, der ventede på at blive fyldt op,« siger hun, men påpeger også, at det at være involveret også giver brugerne en relativt stor magt i forhold til at påvirke eller måske ligefrem diktere vilkårene for deres involvering.

»Men for at gøre det på en meningsfyldt måde, er vi nødt til at have en mere kompleks og realistisk forståelse af det reelle landskab, som udstikker vores deltagelse,« siger hun. »Og den deltagelse starter og slutter ikke med, hvad vi selv uploader – en status for eksempel. Det er meget bredere end det, og det er folk nødt til at begynde at indse. Jeg siger ikke dermed, at vi er interesserede i at gå online og se de sociale medier, som de ville se ud uden moderering. Men vi er simpelthen nødt til at erkende vores ansvar.«

– Men vil computerprogrammer ikke overtage disse jobs?

»Det virker usandsynligt, at vi i nogen som helst nær fremtid skulle være i stand til at lave software, der kan lave de her komplekse vurderinger. Og sammenholder du det med den hastighed, de sociale medier vokser med, vil behovet for moderatorer også vokse. Det kommer til at fortsætte og sandsynligvis vil det flytte til det globale syd og følge de nemme penge – det sker allerede i Indien og Filippinerne. Og den udvikling vil igen være med til at skabe nye sociale problematikker.«

Følg disse emner på mail

Vores abonnenter kalder os kritisk, seriøs og troværdig.
Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Som Knud Romer sagde, så er sociale medier en cancer på internettet.

Folk låser selv fast, fordi de har et netværk der, til et firmas site/app.

Denne centralisering og censur er imod intertettets ånd om informationsfrihed.

Thomas Toft, Carsten Wienholtz og Jens Kofoed anbefalede denne kommentar

Vi mennesker har en primitiv natur, men heldigvis har vi mennesker ligesom dyrene en mulighed for at bygge til vores natur med en fornuftig moralsk og endda bevidsthedsudvidende kultur via eksempelvis meditation eller studier af forudsætningerne for vores natur. Der hvor det bliver virkeligt farligt er, hvis folk søger tilbage til naturen og begynder at tilbede den rå primitivitet som naturen står for, hvis naturen ikke den bliver modificeret af en fornuftig dannelses kultur. Nazismen troede på naturen og den naturlige styrke fra naturen og forsøgte at styre med disciplin frem for en værdiladet kultur og det viste sig at kollapse efter ganske få år. Internettet giver i lighed med naturen en forestilling om en umiddelbar sensation, som vi kan aktivere uden om vores mere kulturelle følelser og identitet og det skaber problemer for os mennesker - de færreste mennesker håndtere rå menneskelig og kulturel fattigdom særlig godt og derfor er det godt at vi har sociale medier der moderer de destruktive udtryk som menneskelig og kulturel fattigdom samt sindsygdom kan afstedkomme.

Troels Brøgger

Dette var en øjenåbner. En teori blev bekræftet: Internettet har ikke ændret en skid på menneskehedens udviklingstrin. Vi kunne ikke springe et niveau over. Vi blev ikke bedre som menneskehed af set skide teknologiske fix. Vi får bare kastet det værste fra vores kollektive lortebunke lige i hovedet.

Marianne Rasmussen

Nettet har en bagside - en mørk side, og den ødelægger mennesker.

Jeg blev også forbavset, da jeg første gang læste om fænomenet i Politiken. Men det er jo klart, at der må moderation til på store, kommercielle platforme. Og tak til Sarah T. Roberts for at bringe det frem i lyset.

Til gengæld tror jeg på, at vi mennesker ikke bliver hverken værre eller bedre på internettet end vi er i real reality. Men vi bliver nok mere konfronteret med det end vi gør i virkeligheden.

Godt at få det bekræftet! Jeg hæfter mig især ved modificering af indhold. I andre sammenhænge kaldes det censur. Og den bedrives flittigt, mange andre steder end på de (u)sociale medier.
Vores presse f.eks. Den er så ensidig, at man kan brække sig. Alt, hvad der kunne siges af pænt om "den anden side" er sorteret fra. Bush god. Putin ond. Assad ond. Netanyahu god. Nedskydningen af MH17 - jeg tvivler på, at vestens presse vil bringe en seriøs rapport før om en 10-20 år. I kan selv fortsætte.
Wikipedia er et andet eksempel. Der må være institutioner, der bruger store midler på at få gennemset og "modificeret" indhold, så det passer ledelsen. Se f.eks. Kristallnacht, som vitterligt var organiseret og udført af "die Braunen", nazisterne. Her er det nu de samme nazisters version om den hollandske kommunist, som lidt efter lidt listes ind.