Sådan modererer Facebook

Hvad sker der i maskinrummet hos Facebook, når Pia Kjærsgaard modtager en advarsel for harske kommentarer, eller forfatteren Peter Øvig Knudsens konto bliver lukket ned? Thomas Myrup Kristensen fra Facebook fortæller, at den slags beslutninger ikke bliver taget af en algoritme, men derimod af medarbejderne i Facebook User Operations.

Det er ikke svært at finde forurettede brugere, der har fået fjernet billeder eller fået lukket deres profiler, fordi de har forbrudt sig mod Facebooks fællesskabsregler.

I januar fik Dansk Folkepartis Pia Kjærsgaard 24 timers karantæne, da hun kaldte statsminister Helle Thorning Schmidt for ‘dum og naiv‘. Det var den ‘anden advarsel for overtrædelse af Facebooks erklæring om rettigheder og ansvar,‘ lød det i et standardsvar, før kontoen blev genåbnet, og Facebook undskyldte.

Under Det Arabiske Forår blev facebookgrupppen ‘The Uprising of Women in the Arab World‘ midlertidigt lukket ned, for at poste ‘krænkende materiale‘. Synderen var Dana Bakdounes, der havde fjernet sit slør og postet et billede med teksten ‘endelig vind i håret‘. Blokeringen af billedet blev straks udlagt som en politisk handling og medførte protester, men også her kom billedet op igen efter en klage.

Det er de fejl, der kan ske, når 1,2 mia. brugere og godt 3 mio. danskere poster løs på Facebook, fortæller Facebooks policy manager i Norden, Thomas Myrup Kristensen, om virksomhedens censurering af indhold.

»Jeg tror tit, folk har den misforståede opfattelse, at det er en eller anden maskine, der træffer nogle beslutninger et sted. Men det er mennesker alt sammen.«

– Så der er ingen algoritmer, der identificerer indlæg og billeder, som overtræder jeres regler?

»Nej, der er ingen algoritmer bag. Mange tror, vi er en overvågningsmaskine, men vi beror kun på det, brugerne indberetter til os. Outputkanalen, hvor folk får at vide, at et billede eller tekst ikke er acceptabel, er automatiseret, men inde i midten sidder en gruppe medarbejdere i Facebook User Operations og træffer beslutningerne«.

– Hvem er de?

»User Operations er et team, der kører 24 timer i døgnet hele året rundt fra fire steder i verden - vores internationale hovedkvarter i Dublin, hovedkvarteret i USA i Menlo Park, samt i Austin, Texas og Hyderabad i Indien.«

– Hvad sker der så med danske indlæg, der bliver anmeldt af en bruger?

»Der er mange faktorer i spil, så det afhænger af tidspunkt på døgnet og størrelsen af køen af klager.«

– Kan det ende i Indien?

»Det ved jeg ikke præcist, om de gør. Det vigtigste er, at der er folk, der forstår det sprog, der bliver talt. Vi trækker typisk lokal arbejdskraft ind, så i Dublin sidder der folk fra hele verden, inklusiv folk fra Norden, så vi har ekspertisen. Men vi skal jo også agere hurtigt, så vi afvejer de parametre i forhold til hinanden.«

– Så det kunne godt ende i Indien?

»Jeg kan ikke komme nærmere ind på, hvordan vi gør det. Hvis det drejer sig om et foto, så er der jo ikke noget problem, men hvis sagen kræver det, så bliver det selvfølgelig ekspederet videre til dem, der har de rette sprogkompetencer til at løse den. Så det kan godt ende i Indien, men det er vigtigt at pointere, at vi implementerer en global standard for vores indholdsmediering.«

– Kan man ikke forestille sig, at kulturelle forskelligheder spiller ind, når den enkelte skal fortolke de standarder? Sker der ikke misforståelser?

»Jo, det gør der. Engang kunne vi have en debat, der fungerede fint i en dansk kontekst, men nu er verden mere global. Det gør selvfølgelig, at der kan der være gnidninger mellem forskellige kulturelle synspunkter. Og det at lave indholdsmediering, der kan håndtere de forskelle er selvfølgelig en udfordring. Vi evaluerer løbende, om vi gør det rigtigt, og vi har gentagne gange ændret og opdateret vores retningslinjer. Så det er ikke sådan, at det er de ti bud.«

– Hvor meget træning får jeres medarbejdere, før de starter i Facebook User Operations?

»De gennemgår en betydelig træning både før og under deres ansættelse. Jeg kan ikke beskrive det nærmere. Men vi går løbende ind og kontrollerer kvaliteten i den måde, indholdsmedieringen bliver gjort på. Det gør vi ved at bede forskellige medarbejdere om at bedømme et billede for at se, om de kommer med samme svar. Gør de ikke, så er der måske behov for, at vi kigger nærmere på sagen.«

– Hvad med grænsetilfælde? Er der sager, der ryger tilbage til dig?

»Vi har nogle forskellige interne processer, men det er vores internationale hovedkvarter i Dublin, der er ansvarlige for den slags sager.«

– Tager I nogensinde lokale hensyn, når I censurer indhold?

»Vores retningslinjer er globale, og det er samme regelsæt, der gælder overalt. Vi forholder os til lokale love, men vi implementerer globale standarder for indholdsmedieringen. Det ville være meget svært at styre en situation, hvor nøgenbilleder er tilladt i Danmark, men ikke andre steder.«

– Men gør det ikke jeres opfattelse meget snæver, hvis I skal ramme globale standarder, der ikke må støde nogen?

»Jo, men jeg tror nu, mange synes, at meget indhold på Facebook er stødende. Vi er et firma, der gerne vil fremme ytringsfriheden og facilitere en demokratisk debat. Det gør vi dagligt, og det så vi ikke mindst under Det Arabiske Forår. Så vi er i høj grad en platform, der er med til at sikre en demokratisk dialog.«

– Hvad sker der, når folk er uenige i jeres beslutning?

»Hvis vi har givet folk uretmæssig karantæne, så ophæver vi den. Vi prøver at være så hurtige og effektive som mulige, og vi er godt klar over, at vi har et ansvar. Jeg synes egentligt, at vi er ret åbne, når vi begår fejl, og det gør vi selvfølgelig med den mængde indhold, der ryger igennem systemet.«

--

Læs Facebooks fællesskabsregler

Læs hvordan Google modererer

Er grænserne for vold og nøgenhed til forhandling? Læs optakten til torsdagens høring om Google og Facebooks retningslinjer.

Læs Facebooks rapporter over offentlige dataanmodninger