Sådan modererer Google

Det ville tage 16 år, at se de videoer igennem, der bliver lagt op på en enkelt dag på Youtube. Læs hvordan Google modererer de enorme mængder indhold med algoritmer og mennesker.

Siden Google voksede ud af en garage i 1998, er de blevet et helt centralt omdrejningspunkt for vores liv. Informationer, nyheder, bøger og film man tidligere fik præsenteret i aviserne, finder man i dag i Chrome, News, Play, Plus, og på Youtube får millioner dagligt afløb for deres kreative leg med et videokamera.

Google har ingen anden dagsorden end ‘at organisere al verdens information og gøre den tilgængelig og brugbar for alle‘, skriver de på deres hjemmeside. Men selv om Google helst ser sig selv som en neutral platform for informationer, så er der behov for retningslinjer for indholdet, når Google skal fungere globalt. De retningslinjer bliver fortolket både af algoritmer og mennesker, fortæller Googles Policy Manager i Danmark Martin Ruby i et interview med Protokol.

»Vores sites er brugerdrevne, så hvis der er brugere, der rapporterer et problem, så går det i systemet. Der skal kun en enkelt bruger til, før det sker, men hvis der er mange, der flag’er en video, så bliver den lynhurtigt set efter i sømmene.«

– Hvad sker der så?

»Når først de er flag’et, så sidder der mennesker og kigger på det. Udgangspunktet er, at vi forsøger at begrænse så lidt som muligt. Men når min femårige datter leder efter dinosaurfilm på Youtube, så nytter det jo ikke noget, at det er syltet ind i porno. På den måde er det meget logisk, at der er en grænse.

– Men alt nøgenhed er jo ikke porno?

»Nej, men der bliver uploadet 100 timers film på Youtube i minuttet – næsten to timer i sekundet. Det er alt fra rumforskning til katte på skateboards. Så det er bare for at sige, at det som sådan ikke er en nem ting at fange, når der er tale om så store mængder. Vi er blevet spurgt, hvorfor vi ikke bare ser alt igennem, før det bliver lagt op, men det kan vi simpelthen ikke. Det kan ikke lade sig gøre med de mængder.«

– Det må være en kæmpe fabrik af mennesker, der sidder og holder øje med den slags?

»Ha, ja – det kan du sige. De kigger lynhurtigt efter, om der er opfordringer til vold og had. Navnet på videoen betyder også meget. Hvis den opfordrer til at slå nogen ihjel, eller hvis der er tale om porno, er de nemmere at afkode. Men det er jo hele tiden en balance.«

– Hvor mange ressourcer har I afsat til det?

»Jeg forstår godt, det er meget interessant, men jeg tvivler på, at vi offentliggør, hvor mange ressourcer eller hvor mange mennesker, der er involveret.«

– Hvor sidder de?

»I USA, tror jeg. Ikke i Danmark i hvert fald. Det lokale islæt kan sikres i tvivlstilfælde ved at inddrage de lokale eller regionale Google kontorer, f.eks. vores kommunikationsfolk uanset om det måtte være i København eller Kuala Lumpur, São Paulo eller Singapore. Men den enkelte moderator tager stilling på baggrund af vores retningslinjer, som egentligt ikke er så svære at følge.«

– Men det må da være forskelligt, hvordan en medarbejder i Singapore og en i Danmark opfatter, om noget er stødende eller ej?

»Det er firmaets retningslinjer, der gælder, og dem skal de forholde sig til. Men jeg kan godt følge dit spørgsmål så langt, at vi kan se forskelligt på tingene. Vores udgangspunkt er, at de skal følge vores retningslinjer, og det er jo ikke raketvidenskab. Der er selvfølgelig nogle enkelte svære sager, men langt de fleste gange er det ikke noget problem at afgøre. I de halvandet år jeg har været i Google, har der ikke været sager i Danmark, som har været specielt tricky.«

Færgesang

Det er ikke kun selve indholdet af vores hjemmevideoer, der skal vurderes, når de bliver lagt op på Youtube. Hvis din kat danser til Justin Bieber, kan der opstå et problem om rettigheder til musikken.

»Der var en sag om en kvinde, der havde filmet en færge. Vores system havde flag’et videoen, fordi lyden fra hornet på færgen åbenbart lød som noget fra en sang, som der var rettigheder til, og det var selvfølgelig forkert. Der kan godt være skæverter, hvor vi nogen gange fanger for lidt og andre gange for meget.«

– Jeg synes, du sagde, at det kun var mennesker, der vurderede indholdet?

»Vi har et system, der hedder ContentID, som vi har brugt $30-50 mio. på at udvikle. Det er et system til musik og film, hvor rettighedshaverne giver os digitale fingeraftryk fra deres værker. De ryger vi ind i vores system, og det øjeblik der er noget, som matcher det, så bliver videoen stoppet. Det ville tage 16 år for mig at se det indhold, der bliver lagt op på en enkelt dag, så vi kan ikke gøre det manuelt det hele. Globalt har vi 4000 partnere inden for film og musik, som leverer fingeraftryk til systemet. Det er vores måde at bekæmpe pirateri på.«

– Jeg synes ellers tit, jeg finder en fodboldvideo, hvor brugeren har klippet indhold sammen og sat en sang til?

»ContentID virker kun, hvis indholdet er i systemet. Det kører automatisk, men det kræver, at vi har en aftale med rettighedshaverne, før det fungerer. Et sjovt eksempel fra USA er en bryllupsvideo, hvor vennerne spiller høj musik og danser inde i kirken. Den gik viralt, men dem der havde rettighederne til musikken ville have den taget ned. Det endte med, at de blev enige om, at filmen bliver liggende, men at indtægterne fra reklamepladsen rundt om filmen tilfaldt rettighedshaverne. Det bliver aftalt mellem rettighedshaverne og brugerne, og sådan ender langt de fleste tilfælde, når der er mange hits på en video. Hvis der er en million hits, så giver det pludselig mening at få en aftale.« 

– Hvor ofte bliver I kontaktet i Danmark?

»Den eneste sag, jeg kan huske fra Danmark, er den med færgerne. Copyright issues har vi mange af, men i forhold til almindelige videoer, så har vi ikke oplevet nogen tvivlstilfælde, som er sendt forbi mig. Men vi laver hvert år en transparency rapport, hvor vi offentliggør, hvor ofte vi bliver bedt om at fjerne ting på grund af copyright, eller hvor regeringer beder os om at fjerne indhold.

– Hvad med de almindelige tvivlstilfælde, hvor man kan se, hvordan I fortolker jeres regelsæt for indholdsmediering?

»Jeg tror ikke, vi er afvisende over for at være åbne omkring det, men jeg tror, det er svært at sætte på formel. Vi vil gerne forbedre vores transparency rapport, og vi har kun haft dem i tre år. Vi var de første til at lave dem, og vi prøver at fortælle om, hvad vores retningslinjer er, og hvordan vi agerer derefter. Vi kan sagtens fortælle mere, og det er da interessant at se, om vi kan forfine vores rapporter.«

--

Læs hvordan Facebook moderer indhold

Er grænserne for vold og nøgenhed til forhandling? Læs optakten til torsdagens høring om Google og Facebooks retningslinjer.

Læs Googles Transparency Reports