Censur i den digitale tidsalder

Internettet har ’befriet’ os for mange af tidligere tiders formidlende mellemled – redaktører, forlæggere, boghandlere osv. Men det betyder ikke, at kommunikationen er fri, for nye mellemled skyder frem i form af net-robotter og uigennemskuelige algoritmer

Vi må ikke glemme, at ikke alle samtaleemner er skabt lige. Nogle er slet ikke skabt – de genereres af robotter. Andre er blevet til ved omhyggelig, udspekuleret og lumsk planlægning på nettet, hvor de generer trafik for at støje og lægge røgslør over handlinger, der ikke tåler åbenhed og dagslys.

Mike Aliolio

Disintermediering – afskaffelse af formidlende mellemled – bliver ofte fremhævet som et afgørende kendetræk ved den digitale tidsalder. Ideen er, at takket være innovativ kommunikationsteknologi vil formidlere af alle slags på sigt lide samme skæbne som den uddøde dronte. Og når redaktører, forlæggere og boghandlere en dag er visnet bort, oprinder en ny æra, hvor vores offentlige liv er fri fra formidlerleddenes uundgåelige fordomme, ineffektivitet og skjulte dagsordener.

Jeff Bezos, grundlægger af online-boghandlen Amazon og selv en mesterlikvidator af mellemmænd, udtrykker det sådan, at »selv velmenende dørvogtere« nødvendigvis bremser innovationen.

Ifølge Bezos behøver vi en medieplatform, der bygger på ren selvbetjening. Kun sådan kan selv de mest ’urealistiske’ ideer afprøves, for så kan ingen ’eksperter’ længere agere spielverderbere og sige: »Det her kommer aldrig til at fungere!«.

Nye erstatter gamle

Hvad end man vil mene om Bezos’ vision, overser han et vigtigt aspekt: Nok fjerner digitaliseringen af det offentlige liv flere traditionelle formidlerled. Men det er kun for at indføre andre. Og disse nye led er for det meste ikke blot usynlige. De kan også være suspekte.

Da første generation af bloggere gik på nettet i slutningen af 1990’erne, behøvede de ikke andre formidlere end et hostingselskab og en internetudbyder. I dag vælger bloggere typisk en kommerciel platform som Tumblr eller WordPress, hvilket i praksis betyder, at deres blogaktivitet passerer igennem et tredjepartsselskab som Disqus. Men de nye formidlere stopper ikke her: Disqus samarbejder med et firma ved navn Impermium, der bruger automatiserede analyseværktøjer for at finde frem til, om postede kommentarer er spam. I moderne blogging ser vi således snarere knopskydning – og ikke eliminering – af nye formidlere: Hyperintermediering og ikke disintermediering er den rette term.

Hvad tæller som spam?

Firmaet Impermium har udviklet en teknologi, der angiveligt kan »identificere ikke blot spam og ondartede links, men også al slags skadeligt indhold såsom vold, racisme, obskøniteter og hadfyldt tale«. Målet er, at webmastere skal kunne rense ud i realtid, før anstødeligt indhold når frem til publikum. Firmaet oplyser, at det har over 300.000 websideindehavere som kunder. Ja, du hørte rigtigt. Et enkelt californisk selskab kan træffe beslutninger for 300.000 hjemmesider om, hvad der skal regnes for hadfyldt og obskønt indhold – uden at offentligheden får indsigt i, om selskabets algoritmer kunne være partiske eller overdrevent forsigtige.

Det interessante ved Impermium er, at de tilføjer et lag af big data til den proces, hvorved indhold identificeres som spam eller hadfyldt tale. Før var det måske nok at nævne ’Viagra’ i en kommentar eller blogindlæg for at blive opfattet som en spammer, der kunne blokeres. Nu kan Impermium ved at trække på brugerdata, der stammer fra selskabets netværk på 300.000 websteder, angiveligt skelne f.eks. vittigheder om Viagra fra spam om Viagra.

At redde legitime vitser reddes ved at føje kontekst til moderationsafgørelser lyder som et sympatisk projekt. Men i andre sammenhænge kan det nye partnerskab mellem big data og automatiseret indholdsmoderation have skyggesider. Især i udemokratiske regimer hvor krig mod spam blot er påskud for at undertrykke afvigende meninger. I deres hænder vil værktøjer som Impermium kunne gøre censuren mere fintmasket og eliminere de huller, der plager ’dumme’ censursystemer, der opererer efter primitive kriterier. Bloggere i for eksempel Kina betjener sig ofte af eufemismer for at narre deres algoritmiske censorer. Et tilsyneladende harmløst udtryk som ’flodkrabbe’ står således for ’censur af internettet’, mens ’ferieterapi‘ benyttes om arrestationer af regeringsembedsmænd. Fordi de passerer gennem censuren – og ikke kobles sammen med så store, farlige og forbudte ord som ’menneskerettigheder’ eller ‘demokrati’ – kan sådanne udtryk hurtigt fænge an og udløse vigtig kritisk debat om kinesisk politik.

Big data og censur

Ved big data kan indholdsmodererende software kontrollere den relative hyppighed, hvormed sådanne alternative udtryk bruges på populære websteder og finde frem til, hvilke kommentatorer der bruger dem, hvem deres venner er, og hvilke andre artikler, de har kommenteret – alene ved at detektere de mistænkelige eufemismer.

Hertil kommer, at helt nye censurmuligheder åbner sig, når moderationsbeslutninger fremover kan inkorporere geolokaliseringsinformation (hvad nogle forskere allerede kalder spatial big data): Hvorfor ikke blokere kommentarer, videoer eller fotos uploadet af brugere fra f.eks. Tahrir-pladsen?

Snedige autokrater kan også vælge at kapre snarere end blokere det indhold, de finder truende. Under Det Arabiske Forårs opstande fik mange af dem, som skrev kritiske bemærkninger om Bahrain eller Syrien på Twitter, vrede korrektioner fra regimeloyalister (eller mere sandsynligt: fra regimets spamrobotter). Tilsvarende beklager tibetanske aktivister sig over, at mange Tibet-relaterede Twitter hashtags – især #tibet og #freetibet – i dag er blevet så fulde af junk skabt af spambotprogrammer, at de reelt ikke længere kan bruges.

Effektiv manipulation

Nu kan big datateknologi gøre propagandaen mere præcis. For de autoritære regimer vil næste skridt være at lære sig at identificere, opfange og forstyrre nye eufemismer, før de kan nå at smelte sammen med et markant hashtag. Her vil big data-analytik igen kunne vise sig uhyre nyttig.

Den russiske efterretningstjeneste har således for nylig udbudt den opgave i licitation at udvikle robotter, der både kan opdage dannelsen af eufemismer og imødegå dem i realtid ved »at massedistribuere meddelelser i sociale netværk for at påvirke den offentlige mening.« Her kan Moskva tage ved lære af Washington: Sidste år indgik Pentagon en kontrakt til 2,7 millioner dollar med et softwarefirma i San Diego, der skal udvikle et program, som kan generere falske online-identiteter i massevis og bruge dem til at »imødegå voldelig, ekstremistisk og fjendtlig propaganda mod USA«.

Andre spamrobotter eksisterer kun for at gøre det sværere at opdage relevante faktuelle oplysninger om for eksempel igangværende politiske protester. Kremls investering i robotter har muligvis allerede båret frugt: Efter de protester, der fulgte oven på det omstridte parlamentsvalg i december 2011, blev Twittersfæren fuld af falske konti, der forsøgte at overmande populære hashtags med ubrugelige oplysninger.

Ifølge en nylig undersøgelse var 25.860 ud af de 46.846 Twitter-konti, der deltog i diskussioner af det omstridte russiske valg – altså over halvdelen – robotter og postede i alt 440.793 tweets om emnet.

De snedigste robotter kan endvidere varetage endnu en interessant funktion: De kan introducere mennesker for hinanden ved f.eks. at nævne deres respektive Twitter-handles i ét og samme tweet.

Et eksperiment fra 2011 med PacSocial, en analysebureau med speciale i robotter, afslørede, at robotter på denne måde kan øge kontakter mellem brugere.

I PacSocials forsøg steg den gensidige forbindelsesintensitet med 43 procent (i sammenligning med en testperiode, hvor robotterne ikke var aktive). Med en smule udspekuleret manipulation kan robotter altså få os til at følge de ’rette’ mennesker, og herefter bliver det så disse mennesker, og ikke robotterne, der kommer til at påvirke din tankegang.

Den fremadskridende digitalisering vil få antallet af formidlende mellemled i vores offentlige liv til at stige – ikke falde. Der er i sig selv ikke noget forkert eller ondartet ved mellemled, så længe offentligheden har mulighed for indsigt og kontrol.

Men i stedet for at tiljuble disintermedieringens mytologiske nirvana, bør vi granske spamalgoritmernes og propagandarobotternes sorte bokse.

Vores offentlige debat er måske kun så god som vores samtaleemner. Men vi må ikke glemme, at ikke alle samtaleemner er skabt lige. Nogle er slet ikke skabt. Andre er blevet til ved omhyggelig, udspekuleret og lumsk planlægning på nettet.

 

Evgeny Morozov forsker i nye teknologiers sociale implikationer ved Stanford University

© Evgeny Morozov og InformationOversat af Niels Ivar Larsen

Prøv information gratis i 4 uger – helt uforpligtende. Du får både adgang til hele information.dk, den trykte avis og e-avisen. Bestil her »

Forsiden lige nu

Anbefalinger

Kommentarer

Brugerbillede for Kaspar Olsen

Genial artikel.
Alene det billede artiklen skaber af moderatorkorpset ud over "all the Denmark og the world" som uden at stille et eneste spørgsmål til deres funktion modererer tekst - efter præcis de samme kriterier - "systemets" kriterier.

Kan det virkelig være rigtigt ?
På den anden side ved vi egentlig ikke, hvad tekst der ikke når frem til den sagesløse læserskare i hverken Kina eller Danmark.
Debatter på f.eks Ingeniøren er søde når de små ingeniører opbyggeligt f.eks diskuterer lagring af vindmøllestrøm etc på batterier med mere..
Lutter medvind i diskussionen indtil en eller anden sindsyg disident nævner Tesla-teknologi. Så råbes der uhæmmet op mod den "sindsyge".

I "Nationen" er det ofte lutter knaldperler der kastes mod hinanden.
Moderatorerne på Ekstrabladet ved at de svedige gamle sure mændskal have luft for deres frustrationer ellers bliver der revolution i Danmark i næste uge.
Så svinsk sprog er derfor tilladt af "filteret".

På Berlingske og Politiken er debatten søvndyssende - lutter medløbere og ingen spænding - hvem gider overhovedet læse sådant andre end de der usikkert søger deres eget allerede fatlåste synspunkter og standpunkter spejlet og gentaget.

Så hvad er "systemet" egentlig så bange for ?
Måske for den geniale skribent der kan fortælle verdens læsere noget de ikke allerede ved ?

F.eks at horderne af gamle mennesker der tager blodtrykssænkende medicin kunne spare mere end 1000 kr. pr måned ved blot at holde op med at spise salt og derved sænkes blodtrykket helt automatisk og evt justere blodtrukket yderligere lidt ned hvis det yderst sjældent - gentager yderst sjældent - skulle være nødvendigt at tage lidt ganske almindelig Tidselolie. (En halv teske)
Falder blodtrykket for meget må svimmelhed iøvrigt påregnes.
Desuden bør man ikke eksperimentere med at spise Tidselolie for at sænke blodtrykket uden at konferere med sit eget indkøbte blodtryksapparat og læge.

Men sådanne hemmeligheder og gode råd afsløret er måskealt for stor "troldmandskunst" for det system der plager de gamle mennesker med livsforkortende og bivirkningsgivende blodtryksænkende medicin ?

Og hvad med systemet ? Skulle det virkelig være så svagt at lidt berettiget kritik mod f.eks arbejds-markedsforhold er uønsket ?

Så måske er det i virkeligheden hensynet til de multinationale selskabers konstante indtjening på fup og ellers unødvendige produkter der i virkeligheden driver ønsket om mere cencur på internettet ?

anbefalede denne kommentar
Brugerbillede for Morten Wulff

Spændende artikel.

Dog synes jeg ikke det er fair at nævne Wordpress som en kommerciel platform, der kontrollerer bloggernes aktivitet. Jo, bloggeren har begrænset kontrol, hvis man vælger en gratis-tjeneste som ex wordpress.com. Men langt hovedparten af verdens Wordpress-hjemmesider er selvstændige installationer, og eftersom Wordpress er open-source, så har bloggeren fuld kontrol over hvad der foregår on-stage såvel som back-stage.

anbefalede denne kommentar
Brugerbillede for Peter Jensen

Det vil være en alvorlig fejltagelse at tro at firmaer som Impermium kommer af det rene ingenting. Nej, denne slags firmaer har kun success på baggrund af allrede eksisterende trends i samfundet. Igen er det som så ofte et "behov" som dækkes.

Men hvor kommer behovet fra?

Denne uhyggelige artikel om dagens realiteter i USA bør få os til at ihukomme, at det som regel kun tager et par år for tendenser at bevæge sig øst over Atlanten ...

http://www.washingtonpost.com/opinions/george-will-colleges-have-free-sp...

anbefalede denne kommentar
Brugerbillede for Jens Overgaard Bjerre

"Sidste år indgik Pentagon en kontrakt til 2,7 millioner dollar med et softwarefirma i San Diego, der skal udvikle et program, som kan generere falske online-identiteter i massevis og bruge dem til at »imødegå voldelig, ekstremistisk og fjendtlig propaganda mod USA."

Så kan DF's trofaste 'læserbrevs-skribenter' snart pakke sammen. Det hele er ordnet fra højere sted for dem. Man bliver utryg over udviklingen, men man kan så bedre forstå tidens neo-moralske og neo-snerpede tidsånd. Sproget bliver renset for ord som tea-party bevægelserne ikke vil høre: pik, skide, fisse og fattige amerikanere, nyrige facistiske russere, overklasse-kinesere, British Union of Fascists (nåh, lige den overlever nok) osv.

Det kan være vi skal til at opfinde nye sprog og koder igen. Volapük eller Esperanto kan få deres comeback, men der kan selvfølgelig også udvikles robotter som kan klare den slags kunstsprog.

Så er der kun brevduen tilbage, men den bliver vel også ulovlig en dag, ved et eller andet EU-dekret.

anbefalede denne kommentar
Brugerbillede for Lars  Poulsen

Tja, information kan jo så gå foran og f.eks. publicere links til alle de indlæg som de sletter.

Det burde være normen på alle debat fora at slettede/modererede indlæg kan findes på en nem måde.

I øvrigt mht. Disqus så skal man logge på med sin facebook eller anden profil (så man kan spores), hvilket virkeligt er noget der hæmmer den frie debat.

anbefalede denne kommentar
Brugerbillede for Peter Jensen

En delvis anbefaling til dig Lars, for jeg er ikke nødvendigvis enig med den sidste del af dit indlæg.

Du kan, for eksempel, angive hvilken som helst gyldig email adresse i Disqus o.a.

I øvrig mener jeg at man i frie samfund, hvor ytringsfrihed ikke blot er et tomt slagord, bør kunne vedstå sig sine meninger og holdninger. Kan man ikke det, burde man måske tage dem op til revision.

Bortset fra det gør Information ikke altid dette let for folk "if you know what I mean" wink, wink ...

anbefalede denne kommentar
Brugerbillede for Peter Jensen

Filo,

Jeg tror de fleste gange, hvor indslag fjernes, så er det med baggrund i at nogen har klikket på "Tip debatværten".

Det sker ofte ikke kun på grund af tåbelige indslag som det du forsøger dig med, men også fordi der er mennesker her, som vil forsøge at begrænse ytringer, som går imod visse herskende politiske holdninger, og moralister i al almindelighed. At de sommetider har alt for let spil er desværre ærgerligt, og man kan spekulere på om ikke personlige (politiske) venskaber mellem debattører og måske endda redaktører ganske ofte spiller en rolle for, hvem som bliver censureret og hvem som ikke gør.

anbefalede denne kommentar