Læsetid: 5 min.

Ny bog kortlægger det traumatiserende arbejde bag techgiganternes pæne facade. Her er de fem vigtiste pointer

De store techvirksomheder gør, hvad de kan, for at skjule mekanikken bag deres massive indholdsmoderering. Men forskningen indhenter dem med nye afsløringer af traumatiserende arbejdsforhold for indholdsmoderatorer i fattige egne af kloden
Aktivistgruppen Avaaz opstillede 100 papfigurer af Mark Zuckerberg, stifteren af Facebook, foran Kongressen i USA. Det skete i protest mod millioner af falske Facebook-brugere, der spredte misinformation.

Aktivistgruppen Avaaz opstillede 100 papfigurer af Mark Zuckerberg, stifteren af Facebook, foran Kongressen i USA. Det skete i protest mod millioner af falske Facebook-brugere, der spredte misinformation.

Saul Loeb

12. oktober 2019

Techvirksomhedernes indholdsmoderering er en forretningshemmelighed. De avancerede algoritmer beskyttes lige så nidkært som Coca-Colas hemmelige opskrift. Derfor er de ansatte, som modererer indholdet, bundet af strenge kontrakter med tavshedspligt, og de interne dokumenter, som træner moderatorerne til at vurdere grænsen for acceptable ytringer, er retsbeskyttede oplysninger.

Den prisvindende forsker i sociale medier Sarah T. Roberts tager med bogen Behind the Screen – Content Moderation in the Shadows of Social Media et vigtigt skridt i det akademiske oprydningsarbejde.

Otte års forskning har resulteret i øjenåbnende analyser af »kommerciel indholdsmoderation« via en række opsigtsvækkende interview med den ellers skjulte arbejdsstyrke af tidspressede og traumatiserede indholdsmoderatorer. Deres arbejde er helt essentielt for, at internettet ikke svømmer over i »100 procent porno«, som en af moderatorerne pointerer.

Her kommer de fem vigtigste afsløringer fra Roberts’ undersøgelse.

1. Den usynlige arbejdsstyrke

Roberts deler de kommercielle indholdsmoderatorer op efter fire forskellige ordninger rundt om på kloden. Deres opgaver varierer mellem at beskytte en virksomheds brand, bidrage til øget brugerengagement og sikre, at det brugergenerede indhold ikke er i strid med loven.

'Behind the Screen – Content Moderation in the Shadows of Social Media' af Sarah T. Roberts

Fælles for dem er, at deres arbejdsforhold ofte er baseret på midlertidige kontrakter med særdeles dårlig løn.

Først er der in-house indholdsmoderatorer – en specialiseret arbejdsstyrke, som enten arbejder ved en techvirksomhed i Silicon Valley eller er hyret via et tredjepartsfirma. De arbejder tæt sammen med de fastansatte, men kommer ikke i nærheden af samme løn og status.

Boutique-ordningen er en anden type, som fokuserer på brandmanagement af andre virksomheders hjemmesider eller kontoer på sociale medier. Her gælder det for eksempel om at afværge negativ omtale og holde kunderne engagerede i produkterne.

En tredje ordning er call center-løsningen, hvor indholdsmoderatorer fra fjerne lande hjælper internationale kunder. Filippinerne er aktuelt det førende land, men man ser det også i Bangladesh, Indien, USA, Irland og Italien.

Til sidst er der den såkaldte microlabor platform. Her kræves blot en internetadgang, og arbejdet brydes op i de mindste bestanddele, så én vurdering af ét billede udgør en opgave med betaling på helt ned til en dollarcent.

2. Stress, depression og PTSD

Baseret på interviews med indholdsmoderatorer i Silicon Valley, Filippinerne og Mexico afslører bogen mareridtslignende forhold for de mennesker, som står bag det hårde, endeløse og repetitive arbejde, som kræver total følelsesmæssig frakobling.

The Verge og andre nyhedsmedier har tidligere afsløret horrible forhold for Facebooks indholdsmoderatorer. Traumatiserende videoer af seksuelle misbrug af børn, selvmordstrusler, dyremishandling og blodig dokumentation fra sønderbombede krigszoner er ikke noget, vi normalt forbinder med de store techvirksomheder. Men det er ikke desto mindre den hårde hverdagskost for de mange tusinde indholdsmoderatorer.

Roberts møder tre af dem, som blev fristet af et job i Californiens prestigefyldte techindustri. De var nyuddannede humanister fra velansete universiteter, men ligesom mange andre unge frygtede de arbejdsløshed, og gennem en tredjepartsvirksomhed sagde de ja til at moderere indhold for en af de helt store spillere.

Her gennemgik de 1.500 til 2.000 videoer pr. dag og endte med at betale en høj pris i form af depression, stress og PTSD-lignende symptomer.

3. Særbehandling af indhold

Flere indholdsmoderatorer bekræfter over for Roberts, at techvirksomhederne særbehandler bestemt indhold. Det handler blandt andet om at beskytte grupper, som engagerer brugerne og genererer flere annoncekroner. Det bekræfter en Channel 4-udsendelse fra sidste år, som afslørede, at Facebook beskyttede den højreradikale aktivist Tommy Robinson.

Moderatorerne skulle også slå hårdt ned på indhold, som ville sætte techvirksomheden i et negativt lys i pressen. Selv om opslag fra eksempelvis al-Qaedas profil ikke forbryder sig direkte mod indholdspolitikken, da de blot er udtryk for teologi eller politisk opfattelse, skulle indholdet fjernes.

En indholdsmoderator fortæller desuden om helt vilkårlige vurderinger af indholdets politiske og nyhedsværdige status. Da en overordnet fra afdelingen havde en særlig interesse for Mellemøsten, blev det reglen, at indhold fra krigen i Syrien var nyhedsværdigt, imens dokumentationen af narkokrigen i Mexico bare skulle fjernes.

4. Outsourcing med neokoloniale tendenser

I Filippinerne møder Roberts nogle af de mest sårbare indholdsmoderatorer. Her kan de amerikanske virksomheder udnytte en stor og relativt billig arbejdsstyrke, som allerede er bekendt med amerikanske normer og kultur på grund af historiske forhold med militær, politisk og kulturel dominans.

Moderatorerne bliver kontant presset til at arbejde hurtigere og bedre – og til lavere og lavere betaling. Hvis de ikke går med på de hårde betingelser, mister de deres arbejde til eksempelvis indiske teams.

Roberts peger på, at de amerikanske virksomheder viderefører en historisk kolonial dominans via mekanismer og processer, som genetablerer de gamle kredsløb – blot med økonomiske interesser frem for de historiske politiske og militære.

5. Voksende synlighed, voksende modstand

Ifølge Roberts bør civilsamfundet gøre noget for at forbedre forholdene for indholdsmoderatorerne. Techvirksomhederne skal presses til at være mere transparente – både hvad gælder arbejdsforhold og kriterierne for at fjerne indhold.

Det er det svært at være uenig i.

Men et vigtigt – og ubesvaret – spørgsmål er, i hvilken retning techvirksomhederne derefter skal gå. Fjerner de for meget eller for lidt? Skal de satse på kunstig intelligens, selv om algoritmerne stadig er dårlige til kontekstsensitivt indhold? Eller skal de blive ved med at byde mennesker at se på en endeløs strøm af halshugninger, dick pics og mishandlede dyr dag ud og dag ind?

Det er et svært dilemma, som kun vil blive større i de kommende år i takt med de politiske krav om, at techvirksomhederne skal fjerne mere indhold. Behind the Screen er en væsentlig og dybt relevant bog, som kommende forskning og lovgivning kommer til at orientere sig i.

Tre grunde til at læse bogen

  • Du vil forstå mere om techvirksomhedernes komplekse og hemmeligholdte indholdsmoderering.
  • Du sætter pris på at slippe for billeder af halshugninger og dick pics, når du bruger Facebook. Derfor bør du kende til det enorme arbejde, der ligger bag den pæne facade.
  • Indholdsmoderering er en branche i vækst. Bogen gør dig klogere, før du selv bliver fristet af et prekært job i den prestigefyldte techbranche.

Tre grunde til IKKE at læse bogen

  • Du efterspørger en principiel debat om, hvorvidt indhold overhovedet bør fjernes. Den får du ikke her.
  • Du har allerede hovedpine over alle de andre problemer, der er opstået på de digitale platforme, som du så nødigt vil undvære.
  • Du bryder dig ikke om at høre om rædsler fra den fattige del af verden.

Sarah T. Roberts: 'Behind the Screen – Content Moderation in the Shadows of Social Media'. 280 sider. $30. Yale University Press.

Bliv opdateret med nyt om disse emner på mail

Vores abonnenter kalder os kritisk, seriøs og troværdig.
Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Anbefalinger

  • Alvin Jensen
  • Bjarne Andersen
  • Anne-Marie Krogsbøll
  • Johnny Christiansen
  • Eva Schwanenflügel
Alvin Jensen, Bjarne Andersen, Anne-Marie Krogsbøll, Johnny Christiansen og Eva Schwanenflügel anbefalede denne artikel

Kommentarer

Jeppe Lindholm

Internettet udleder mere CO2 end flyindustrien. Og internettet data trafikken bliver hovedsageligt genereret af streaming og de sociale medier. Så Facebook skal ikke fixes. Det skal nedlægges. Det samme gælder youtube, netflix ect.. Det vil bidrage enormt til at nedsætte den globale CO2 udledningen lige som det vil øge de reelle og virkelige medmenneskelige relationer betydeligt. I dag får unge hjernen og moralen smurt ind i influenze nonsens virus. Og fremtidige selvkørende biler kommer til at skabe så store mængde internet data traffik at CO2 fordelen til elbiler forsvinder op i den blå luft, eller direkte forøger trafikens CO2 udslip for fremtiden. Så forbyd selvkørende biler før de overhovedet får startet.