Danskerne er særligt udsatte for hadtale online, fordi techgiganterne ikke taler dansk

Dansk er et minoritetssprog, eller det techvirksomhederne kalder et low-ressources-sprog. Det betyder, at der ikke er lige så meget data sammenlignet med sprog, der tales af en større andel af verdens internetbrugere og dermed ikke den samme grad af beskyttelse i forhold til hadtale, vold, misinformation og andre former for ulovligt indhold. Flere forskere peger på problemet, der har fået øgenavnet the language gap – på dansk sprogkløften.

Også inden for murene i de amerikanske virksomheder bag platformene er der ansatte, som længe har peget på problemet. Metas øverste teknologiansvarlige, Mike Schroepfer, indrømmede på en konference i Californien i 2018, at de systemer, virksomheden har bygget til at monitorere og fjerne indhold som hadtale, misinformation, vold og andet ulovligt indhold ikke er gode nok, når det gælder minoritetssprog.

Frankrig og Tyskland er nogle af de lande, der har lovgivet for at bekæmpe spredning af ulovligt og skadeligt indhold via blandt andet YouTube. Tyskland vedtog i 2018 en lov, der forpligter de sociale medier til at fjerne ulovligt indhold inden for 24 timer efter, at de har modtaget en skriftlig henvendelse fra en bruger. Hvis virksomhederne ikke lever op til loven, kan de få anselige bøder. Frankrig har vedtaget en lignende lovgivning.

Som følge af lovgivningen har YouTube efterfølgende ansat flere mennesker til at supervisere algoritmerne med at identificere og fjerne ekstremt indhold, og derudover er de begyndt at oversætte til tysk og fransk, som YouTubes direktør Susan Wojcicki påpegede over for The New York Times i 2020. Ændringerne kom også i kølvandet på, at BBC og The New York Times afslørede, at YouTubes system, der skal sikre, at der ikke sker krænkelser af børn i kommentarsporene, ikke virkede optimalt og ikke havde gjort det i over et år.

Sproglig ulighed er det største problem

Den 16. maj besøgte den amerikanske Facebook-whistleblower Frances Haugen Danmark i forbindelse med overrækkelsen af Libre-prisen. Ved prisuddelingen blev hun spurgt af vært og journalist Nikolaj Sonne, hvad hun ville fremhæve som Metas mest presserende problem lige nu. Til det svarede hun sproglig ulighed og pegede på sprog som en gråzone og et alvorligt problem. I sin takketale sagde hun: »Hvis vi vil skabe lighed i forhold til sprog, altså sikre, at du som bruger er beskyttet, uafhængigt af hvilket sprog du taler, så må vi tage udgangspunkt i Facebooks egen ’product safety information’ og applicere den på alle sprog.«

Men det sker ikke på nuværende tidspunkt, hvorfor de brugere der bor i lande, der ikke er prioriteret, har vist sig at være særligt udsatte. Det gælder også Danmark.

Ifølge Frances Haugen er det først i krisesituationer, der kommer opmærksomhed på oversættelse af et, for en virksomhed som Facebook, nyt sprog. Men spørgsmålet er, hvordan og hvornår en situation vurderes som en krise?

For eksempel kan det undre, at platformene Facebook og Instagram først påbegyndte en indsats over for Etiopien i 2021, hvor virksomhederne gik i gang med at udvide sikkerhedssystemet baseret på ’risk of offline violence’. Den udmelding kom på et tidspunkt, hvor landet havde været i borgerkrig i næsten et år. En indsats, der ifølge Meta, virksomheden bag Facebook og Instagram, gik ud på blandt andet at ansætte flere folk med ’sprog-, lande- og emneekspertise’.

De interne dokumenter, som Francis Haugen samlede, danner grundlaget for The Wall Street Journals undersøgelse af The Facebook Files. Den afslører blandt andet, at der er stor forskel på, hvordan og i hvor høj grad skadeligt og farligt indhold og ulovlig brug af platformen identificeres. Problemerne opstår i de lande, hvor virksomheden har for få eller ingen ansatte, der forstår sproget. De interne papirer viser også, at ansatte hos Facebook længe har påpeget alvoren.

I slutningen af 2021 annoncerede Meta selv, at virksomheden året forinden havde held med at fjerne 97 procent af indhold med hadtale på Facebook via et automatiseret censur-system. Det lød fantastisk – og måske også lidt for fantastisk. Det viste sig nemlig senere via de interne dokumenter, der blev undersøgt af Wall Street Journals journalister, at tallene snarere var tre til fem procent. Og endda endnu lavere, alt afhængigt af hvilket land man som bruger er bosat i, og hvilket sprog man taler.

Ifølge virksomheden selv er der 2,91 milliarder aktive brugere hver måned, og i en rapport fra 2019 skriver Meta, at 90 procent er bosat uden for Nordamerika og Canada. Her er det værd at minde om, at der findes over 8.000 sprog i verden, som disse brugere kan betjene sig af.

Der skal være lighed på tværs af sprog

Der er behov for en gang for alle at få gjort op med den forskelsbehandling, der betyder, at brugere med minoritetssprog er både eksponerede og forsvarsløse.

På en online konference i maj 2021 blev private virksomheders ansvar i forhold til menneskerettigheder diskuteret. I den forbindelse udgav Irvine University en artikel, hvor forfatteren Alice Doyle går så langt som til at sige, at menneskerettighederne risikerer at blive undermineret. Hun gennemgår en række anbefalinger til at håndtere sprogkløften og en undersøgelse af den eksisterende model, virksomheder som Meta bruger til tilsyn.

Hvordan forholder virksomheder sig for eksempel til de begrænsede sproglige kapaciteter, der hindrer muligheden for at forstå og vurdere den fulde kulturelle kontekst af det indhold, der gennemgås? Der er tale om et komplekst og strukturelt problem, der derfor også må løses strukturelt.

Uanset hvor og hvordan ansvar placeres i forhold til regulering og moderering, er der lige nu en systematisk forskelsbehandling, der ikke må ignoreres. Inden den tragiske hændelse i storcenteret Field’s søndag aften cirkulerede videoer, der overskred YouTubes egne retningslinjer, på en dansk YouTube-kanal, som den formodede gerningsmand stod bag. Kanalen blev først fjernet søndag aften efter skyderierne og fik i timerne op til opmærksomhed både på YouTube, men også på andre platforme.

Der ligger et kæmpe arbejde i at undersøge de afledte effekter af sprogkløften, og de konsekvenser, som techvirksomheder har forårsaget, da de skød den digitale revolution i gang med Metas (dengang Facebook) fremdriftsfokuserede mantra move fast and break things.

Og lige nu kan vi være bange for, at det hele gentages. I stedet for at stoppe op og give plads til alle dem og det, der gik i stykker undervejs, løber industrien videre i et manisk hype mod et nyt virtuelt rum og gentager alle fejlene i den nye techdille: metaverset.

Med alle de milliarder af dollar, som techvirksomheder har til at udvikle nye kommercielle virtuelle rum, skulle man tro, at der var penge nok i kassen til at reparere fejlene. Og til at garantere en anstændig kvalitet i analyse og sikre lighed på tværs af kulturelle og sproglige skel.

Katrine Pedersen og Mie Oehlenschläger er eksterne lektorer på henholdsvis ITU og DIS og stiftere af Tech&Childhood