Klumme

En terrorist livestreamede sin massakre, og techgiganternes robotredaktører svigtede endnu en gang

Terroristens egen video af massakren i New Zealand spredte sig på kort tid til adskillige fora på nettet, og selv om Facebook påstår, at kun 200 brugere har set den, er det reelle tal langt højere. Robotredaktørerne har ikke fuld kontrol, skriver mediejournalist Lasse Jensen i dette debatindlæg
50 mennesker mistede livet i terrorangrebet på moskeer i Christchurch. 

50 mennesker mistede livet i terrorangrebet på moskeer i Christchurch. 

David Moir

20. marts 2019

Tirsdag hævdede Facebook, at kun 200 brugere havde livestreamet Moské-massakren i New Zealand, som blev optaget af det kamera, som den australske terrorist havde fastspændt på sin hjelm.

Han havde forannonceret, at den ville komme, og på få minutter var videoen at finde på Facebooks søsterselskab Instagram. Med samme hastighed blev videoen herefter delt på Googles videotjeneste YouTube, tusinder kunne finde det på Reddit (der har 330 millioner brugere), hvor undertjenesten »watchpeopledie« (se folk dø, red.) spredte dødsvideoen.

Reddit stoppede undertjenesten, hvor en af de såkaldte moderatorer havde forklaret, at når man ser mennesker dø, er det »ufiltreret virkelighed«. Videoen og manifestet huserede en overgang også på Twitter.

I løbet af et par timer havde videoen – og terroristens rablende 74 sider lange ’manifest’ – spredt sig som en virus på snesevis af andre websites, herunder 8chan, en webside, der har millioner af brugere, hvis forgænger 4chan blev lukket, fordi den spredte børnepornografi.

Reguleringsproblem

Selv om de helt store drenge i techindustrien, Facebook og Google, efter en time eller to begyndte at lukke videoen ned, var skaden sket. Det var ikke kun de påståede 200 facebookbrugere, som så videoen. Tallet er ukendt, men der er tale om flere hundredtusinder.

Søndag kunne Washington Posts teknologiredaktør, Craig Timberg, og hans reporterhold konkludere i en længere artikel, at »disse firmaer – nogle af de rigeste og teknologisk mest avancerede i verden – fejlede i at standse spredningen af dette dybt foruroligende indhold, da det sendte sine metastaser ud over hele verden på utallige platforme.«

I artiklen i Washington Post citeres dataforskeren Becca Lewis fra Stanford University (der ligger i Silicon Valley) for, at techfirmaerne har et »grundlæggende problem med at regulere indholdet, et problem så stort, at det ligger uden for deres kontrol.

De finansielle interesser gør, at indholdet og de penge, man tjener på det, kommer i første række«. Andre eksperter påpeger, at voldeligt indhold netop skaber stor trafik.

Når nettet oversvømmes, kan man bygge hurtige dæmninger, men de holder ikke alt vandet tilbage. Flere medier brugte klip eller stillbilleder fra videoen. Startende med Murdoch-kanalen Sky News Australia. Også Murdochs The Sun i Storbritannien brugte billeder fra den.

Da algoritmerne gik til kamp mod videoen, gik begavede slyngler i gang med at ændre dens tekniske sammensætning (format, billedhastighed, farvesætning etc.), så algoritmerne ikke kunne genkende den.

Formålet var at sprede den yderligere. Ikke nødvendigvis af sympati for den australske massemorder, men fordi der både var en syg hackerglæde ved bare at kunne gøre det, men også fordi flere klik og brugerminutter øgede trafik og profit.

Ineffektive robotredaktører

Den videofilmede Christchurch-massakre markerer endnu en milepæl i ikke bare den moderne terrorismes udvikling, men også i mediernes.

At der er traditionelle medier som The Sun, Sky News Australia og Daily Mail, som gang på gang overtræder etiske grænser, er en ældgammel nyhed. Det er heller ikke breaking news, at internettet og dets sociale medier er globale og fungerer som eneste nyhedskilde for flere og flere.

Vi ved også, at der ikke er ansvarshavende redaktører på sociale medier, søgemaskiner og verdens største tv-selskab YouTube. Men indtil nu troede vi måske, at algoritmerne, robotredaktørerne, var effektive som en slags robotredaktører. Det er de langtfra. Det er de menneskelige kontrolfaktorer heller ikke.

Facebook har indrettet en slags »kontrolfabrikker«, hvor hundreder af underbetalte, overarbejdende, stressede unge mennesker skal forsøge at agere redaktører, hvilket journalisten Casey Newton beskrev i en reportage i The Verge i februar.

Og så er der de kræfter, der mener, at lovmæssige forbud mod netindhold er en knægtelse af ytringsfriheden.

Men for hver netskandale styrkes de politiske kræfter i Europa og USA, som ser mere og mere kritisk på techselskabernes magt- og pengekoncentration. Der er dog fortsat lang vej endnu – hvis der overhovedet findes en løsning.

Det, der tidligere foregik bag lukkede døre på børneværelset, lægger børnene i dag på nettet i offentligt tilgængelige videoer. Selv om børnene senere måtte ønske det, kan videoerne ofte ikke fjernes, for de bliver hurtigt grebet og gemt af andre
Læs også
Bliv opdateret med nyt om disse emner på mail

Vores abonnenter kalder os kritisk, seriøs og troværdig.
Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Anbefalinger

  • Katrine Damm
  • Eva Schwanenflügel
  • Kurt Nielsen
Katrine Damm, Eva Schwanenflügel og Kurt Nielsen anbefalede denne artikel

Kommentarer

Har et spm. til Lasse Jensen: Har Tyskland haft held med at standse de værste udskejelser på nettet efter, at landet indførte strenge sanktioner mod de udbydere, der ikke kunne styre hackere, trolle mv.?
Har Googles politiske chef, Christine Sørensen ret, når hun i Deadline d. 18.3. slår ud med armene og fortæller, at det er begrænset hvad Google kan gøre for at stoppe trafikken i tide?
HAr Google ikke et IP-nummer således at man kan spore sig frem till, hvem der er afsenderne? Hvis ja: Kan Google og andre blokere for de pågældendes adgang til nettet, eller i det mindste til de relevante søgemaskiner?

Hvis jeg nu havde set videoen fra Christchurch-massakren og læst psykopatens manifest, var det så værre end hvis jeg havde gennemset en række ISIS videoer?

Ville det være et frit tænkende individs interesse for at forstå verden, eller ville det være en syg ting at gøre og skulle det måske endda gøres strafbart?

Gustav Alexander

Jeg må melde mig helt uenig i Lasse Jensen's præmis. Han lader også til at skyde tech-giganterne nogle interesser i skoene, som de faktisk ikke har. De har samme interesse som myndighederne; at fjerne kontroversielt indhold.

Reddit og særligt facebook behøver investorer og ad revenue fra selskaber, der ikke ønsker at associere deres reklamer med kontroversielt indhold. Reddit har i kølvandet på sin stigende popularitet forsøgt at genfortolke deres egne regler således at den type indhold kunne slette. Watchpeopledie blev derfor banned for et år siden, men kom - pga protest - op igen under permanent karantæne (i håbet om at det ville kvæle det pågældende forum).

Når en hændelse som Christchurch sker, så er det enormt vigtigt for Reddit og Facebook at deres investorer ikke bliver sure på dem (hvorved de mister penge). I takt med kommercialiseringen af det 'fri, ucensorerede net', må de altså ty til stadigt mere censur for at bibeholde deres stand og indtægter. Reddit hyrede i den forbindelse en midlertidig proforma CEO for et par år siden, som tog det sure arbejde og bannede en masse kontroversielle fora (had mod overvægtige, konspirationsteoretiske fora, fora for selvmordstruede, der ikke gad høre på "Du skal ikke gøre det! selvmord er aldrig svaret" etc). Tilbage står - i stigende grad - blot de glatte, uproblematiske fora, der tækkes den offentlige opinion og dens dogmer. Her har vi fora dedikerede til søde katte videoer, kalorieløse memes, positive og 'inspirerende' fora til selvhjælp ifht. styrketræning, mindfulness osv.

Man må i den forbindelse spørge: Er det problematisk at internettets tilladte repræsentation af virkeligheden bliver stadigt glattere og mere borgerlig mens virkeligheden derude bliver grummere og grummere? Skal vi gøre internettet til det borgerlige systems ideologiske skyklapper, der luller befolkningen ind i en falsk tryghed ved systemet? Eller skal internettet derimod chokere, provokere og give anledning til ubehagelige tanker?

De der skrev indlæg på watchpeopledie var ikke afstumpede psykopater, de hyldede ikke volden. De kom der for at blive skræmt, for at blive glad for hvad de trods alt havde, for at blive skræmt fra selvmord (fordi død, når man ser den, er forfærdelig og meningsløs) osv.

Jeg giver ikke meget for forfatterens indignation over at techgiganterne ikke præsterer deres censur af verden bedre. Om noget er de nådesløst effektive; så snart noget kommer i medierne ser de deres snit til at hugge hovedet af fora, som de i lang tid har haft et horn i siden på. De ubehagelige og 'farlige' følelser censureres og bortmanes som en ond drøm. Det 'gode' (om det så er et fatamorgana) dyrkes i åndsfraværende jubel alt i mens terror og fattigdom tager sit greb om verden.

Jeg er ikke imponeret; hverken over forfatterens perspektiv eller over internettets selvcensur.

Man kan dog trøste sig ved at nye fora opstår, når de små bliver for store og derved kommercialiserer sig fra alle deres forhenværende principper. 4chan bliver til 8chan. Reddit bliver til Voat.

Michael Boe -
man bliver sgu ikke klogere på verden ved at se ISISkrigere halshugge folk eller se folk blive skudt ned i en moske.
Man bliver bare en nyttig idiot i psykopaternes spil, hvor de glæder sig over hver visning og deling af deres videoer - uanset om du ser dem for at frydes eller forfærdes.

Rolf Andersen, Katrine Damm, Marie Jensen, Rasmus Knus, Eva Schwanenflügel og Kurt Nielsen anbefalede denne kommentar

Hvis man kan takke den, i mine øjne fejlslagne, it-teknologi for noget som helst, udover en massiv overvågning, der får både Kina, det tidligere Sovjetunionen, Østtyskland og mange andre lande til at ligne en spejderudflugt, så må det da om noget være dens og ikke mindst de sociale mediers evne til at kaste et fantastisk klart lys over hvad et menneske er for en størrelse (jvnf. Psykoanalysen). Ikke just smigrende, men det er sådan set sådan VI er.

Runa Lystlund

Oplysningsmængden på disse medier er så gigantisk, at de ikke er til at styre. De er blevet medier, der lever selv. Disse medier er blevet som den verden vi troede først kom i fremtiden. Alle landes efterretningstjenester sidder inde med alle den slags begivenheder, selv om man prøver at filtrere dem. Kontrollen er løbet fra dem. De kan ganske enkelt ikke nå at fjerne kontroversielt materiale, inden det bliver flyttet på andre medier, så som Tyrkiets statslige tv. for eksempel.

Nu kom vi alle sammen igennem tidligere terrorisme, f.eks. de to fly som fløj ind i Twin Towers den 11. september 2001. Det blev også sendt live på alle "de gamle" medier i hvert fald, fra da det andet tårn blev ramt. Tidligere endnu har vi sidder og kigget på vores tv som sendte fra en lufthavn og var fokuseret på fly, som vi viste at der var terrorister inde i, og når som helst kunne springe i luften. Og igen alle medier som kunne, sendte det live.

Så før vi begynder at censurere nettet bør vi virkelige tænke os om!

Gustav Alexander

Får man virkelig intet positivt ud af de negative følelser, som vækkes ved at se ondskabsfulde handlinger finde sted? Det synes jeg behøver et argument; det er ihvertfald ikke et udsagn, der giver sig selv.

De 'farlige' el 'ubehagelige' følelser er i mit perspektiv det, der leder mennesket mod et reelt ønske om forbedring. Vi skal ansigt til ansigt med det onde og det irreversible, hvis vi skal foranlediges til oprigtige løsninger. Jeg forstår den moralske indignation (ifht de stakkels pårørende) men det løser vi ikke noget med på et samfundsmæssigt plan.

Socialisterne så industrisamfundets armod i 1800-tallet og lod sig derfor skubbe til stadig bedre teori om, hvorledes det kunne overkommes. Vi bør ligeledes lade det onde tale sit eget sprog, så vi selv kan formulere et svar. Det svar kan aldrig formuleres, hvis vores eneste 'erfaring' med det onde, er beslipsede, anonyme politikere, der kommer med de samme ritualiserede og meningsløse udsagn ("Mine tanker går ud til de efterladte", "lad os holde 2 minutters stilhed" osv). Disse ritualiserede reaktionsmønstre præsenterer ikke løsninger men løsningens modsætning: Accepten. Det ritualiserede svar er individets renselse i sig selv af sig selv for det, som vi ikke kan/vil forstå. Det repræsenterer ikke en ægte løsning.

Niels Duus Nielsen

Jeg havde ikke set omtalte video, og har heller ikke haft noget ønske om at se den - før nu, hvor jeg får at vide, at den må jeg skam ikke se. Så efter lidt søgning på det dybe net (meget, faktisk, den var sgu svær at finde, ikke engang LiveLeaks, som ellers har alt hvad det bedre borgerskab betragter som grænseoverskridende, havde den) fandt jeg en kopi, som jeg så et lille minut af, og så havde jeg set nok.

Havde de involverede regeringer og tech-giganter ikke himlet op med trusler om bål og brand, ville jeg nok ikke have ofret så meget som to minutter på at opstøve de grusomme billeder. Men censur i sig selv gør os - nogle af os - nysgerrige, for hvad er det, der er så farligt, at jeg ikke må se det? Er svindlerregeringen og de profithungrende koncerner pludselig blevet min moralske vogter?

PS: Jeg kan ikke anbefale folk at se denne video, man får det dårligt af at se den - eller jeg gjorde, ihvertfald.

Gustav Alexander

Ja, Niels. Man bliver fortvivlet over at en sådan ondskabsfuld og meningsløs vold skal opleves af ægte mennesker gang på gang. Det er ihvertfald hvad jeg fik ud af den. Chokket over at menneskelighed afvises og brutaliseres i så grove handlinger over hele verden; også med den frekvens. Det virker næsten som om det er blevet hverdag, når man hører politikernes vante svar. ser man imidlertid videoen, så taler den sit tydelige sprog om de gentagne menneskelige tragedier, der aldrig kan normaliseres til hverdag, medmindre hverdagen skal defineres ved konstant, ubærlig rædsel. Måske er det den konklusion om samfundet, som industri og politikerstand frygter at vi skal drage? De ufuldendte liv. Skæbnerne hvis tragedie synes ubærlig.

Snuff-fans!? Hver sin lyst som man siger.

Massedrabsvideoer og lign. kunne vel ikke tænkes, at fucke med folks hoveder, fx gøre dem mere afstumpede eller radikalisere dem (som der er eksempler på)?

Men at R.T. Erdogan skal bruge videoklip fra Christchurch terroren i sin selviscenesættelse, som den " sande tros beskytter" er ligegodt stygt!
Føj for en klam fidus!

Lad os da se det - igen og igen i stedse nye udgaver - så der kan opstå fællesskab omkring forargelsen. Mere mere mere af det samme!!! Hurrahhh!!!

Herdis Weins,

Jeg forstår fint at rigtig mange mennesker ikke har maven til at se verden som den udfolder sig i disse videoer, også at andre/samme ikke har interessen, men jeg synes du bør spørge dig selv om du ikke går galt i byen, når du ikke kan forestille dig, at der kan være noget at lære. Jeg er nu ift dig langt mere vidende om hvad der skete i Christchurch og kan vurdere meget bedre hvad psykopaten var gjort af. Det hjalp også meget at læse hans egne tanker i hans manifest. Jeg står nu bedre rustet end dig for ikke, som du skriver, at blive "en nyttig idiot i psykopaternes spil". Altså de "psykopater", der ønsker at manipulere med dig til at tro det ene eller det andet om verden, og sælge dig sin politiske doktrin til eksempel.

Du misser således fuldstændig pointen. Jeg søger det ikke for at "frydes eller forfærdes", men for at øge eller justere min forståelse.

Michael Boe -
at se folk bliver halshuggede eller mejet ned giver ikke en forståelse af nogen som helst tanker.
Det er derimod en hån mod ofrene.

Herdis Weins,
Du er som sagt velkommen til at gøre dit. Måske ville du alligevel ikke notere dig mere kompleksitet end "folk bliver halshuggede eller mejet ned". Øjensynlig tror du det er det eneste kilderne indeholder.

Michael Boe -
undskyld, men hvad indeholder disse videoer, som ikke havde kunnet forklares uden at slå folk ihjel og vise mordene ?
I det øjeblik man filmer den slags og stolt viser det frem, har man i mine øjne for evigt frasagt sig tilladelse til at blive mødt med en søgen efter forståelse.
Hvis jeg skulle følge din logik, skulle vi så blive klogere på Anders Breivik, hvis han havde filmet på Utøya.
Jeg har ikke noget ønske om at forstå psykopater, det overlader jeg til psykiatere.

Rasmus Knus, Jørn Vilvig, Kurt Nielsen og Niels Jakobs anbefalede denne kommentar

Herdis Weins,
"hvad indeholder disse videoer, som ikke havde kunnet forklares uden at slå folk ihjel og vise mordene ?
Ja, hvis ingen kigger efter så ved man det jo ikke...vel?

16:48..

.. Der var altså et helt manifest med hans helt egen Q&A. Han talte mellem mordene. Men jeg giver mig ikke af med at forklare dig mine læringer/reflektioner.

For øvrigt, jeg er ikke interesseret i at forstå ham, for at undskylde ham. Det virker som om du måske mener det er det jeg er efter, når du skriver "I det øjeblik man filmer den slags og stolt viser det frem, har man i mine øjne for evigt frasagt sig tilladelse til at blive mødt med en søgen efter forståelse". For min skyld kan du godt tænde "den sagte ild og finde stegespyddet frem"..