Mads Vestergaard: Der er klare tegn på digital totalitarisme både i Vesten og i Kina

Kina er blevet Vestens skræmmebillede på, hvor detaljeret et diktatur kan kontrollere sine borgere med digitale teknologier. Her tildeles der i nogle provinser point til borgerne i det såkaldte sociale kreditsystem – de gives efter, hvor godt borgerne lever op til samfundsidealer om orden i økonomien og andre normer for god opførsel.

»Kina opfinder den digitale totalitære stat,« berettede The Economist i 2016, mens Politiken i 2017 skrev, at »Kina udvikler it-diktatur, der overvåger borgernes adfærd og uddeler belønning og straf« i en ny form for »digital leninisme«.

Frygten for det kinesiske system blev yderligere næret af et afsnit af science fiction-serien Black Mirror i 2016.

Her går hovedpersonen rundt i en vestlig fremtidsverden, hvor alle borgere konstant tildeler hinanden scores for deres adfærd. Et smil på gaden, servicen i kaffebaren og opførslen på arbejdspladsen bliver vurderet af alle mennesker og danner baggrund for en score, der er nødvendig hele tiden at bevare i top for at få adgang til samfundets sociale privilegier – og som seriens skaber selv har sammenlignet med den kinesiske udvikling.

De vestlige mediers store fokus på udviklingen af det kinesiske overvågningssystem er ifølge forfatter Mads Vestergaard interessant på en række områder: Det kinesiske system er reelt mere nuanceret, end det er beskrevet i vestlige medier.

Der er tale om flere systemer og prototyper, og selv om nogle af systemerne har klare totalitære træk, er det stadig slet ikke bestemt, hvilket system der kommer til at blive udrullet i hele nationen.

Flere af systemerne er ikke bare udviklet til at kontrollere borgeren, men forsøger sig også med en række kontrolsystemer, der skal forsøge at få virksomheder og embedsmænd til at opføre sig bedre, og samtidig er nogle af de centrale systemer slet ikke udviklet af staten, men af den kinesiske tech-gigant og vestlige aktiedarling AliBaba til brug for deres betalingssystem.

I sin bog Digital Totalitarisme, der udkom i maj, ser Mads Vestergaard – i stedet for at holde et kritisk blik på Kinas totalitære tendenser – mod udviklingen i demokratiske stater i Europa og USA.

»Udviklingen i Kina er interessant som linse til at kigge på udviklinger, fænomener og tendenser i Vesten. For hvis det er sådan, at vi er så skeptiske over for, hvad der sker i Kina, så må vi da netop se på, om der er tendenser til det samme her, så vi kan stå op imod den udvikling,« siger han.

»Det er interessant at bruge fortællingen om Kina som et negativt ideal, der viser, hvad for en retning vi ikke skal gå. Det er også det, som dystopisk science fiction altid har kunnet – skabe et skræmmebillede, så vi netop ikke ender i en grå 1984-verden eller ender med at blive ratet og kontrolleret på en måde, som vi frygter sker i Kina.«

Dataindsamling

Selv om det selvfølgelig er nødvendigt at skelne mellem den form for overvågning og kontrol, der opbygges i et diktatur som Kina, og i vestlige demokratier har de ifølge Mads Vestergaard magtteknikkerne og en række af de totalitære træk til fælles.

For de vestlige techgiganter som Facebook gælder det, at de bruger den store dataindsamling til at forsøge at modificere adfærd for brugerne med profit for øje.

Dataindsamlingen gør de kommercielle aktører i stand til at vurdere, hvornår individet bedst kan påvirkes til øget forbrug, mens selve designet gør brug af mekanismer hentet fra spilleindustrien i Las Vegas, der skal maksimere brugernes tid på platformen.

Så selv om formålet med statslige og markedsaktørernes påvirkning er forskellig, betyder teknikkerne og ambitionen om at styre mennesket, at begge dele har totalitære træk.

»Den neoliberale idé om, at mere marked betyder mere individuel frihed holder ikke i den digitaliserede tidsalder. Nogle af de store virksomheder har netop haft så vide rammer, at de er begyndt at angribe den individuelle frihed,« siger Mads Vestergaard.

»Mens staten laver sin adfærdspåvirkning for sikkerhed, social orden, vækst og effektivitet, så har de private aktører et andet formål om at generere profit. Men hvis metoderne til at generere profit virker ved at sætte selvbestemmelsen ud af kraft, så gør det ikke den store forskel, om målet er sikkerhed eller profit. Det er stadig et angreb på friheden.«

Særligt i hele udviklingen af systemer for lån og kreditter i USA ser Mads Vestergaard klare paralleller imellem et vestligt system på det frie marked og det statslige kinesiske system.

Systemet for tildeling af kredit har altid baseret sig på en vurdering af, at den, der optog et lån, var troværdig nok til at betale pengene tilbage. Før i tiden kunne man spørge i landsbyen, om en mulig låntager var en, der bare drak alle pengene op på kroen, men i det moderne samfund er det datasporet, der kan sikre denne vurdering.

»Personlig information blev i USA til en handelsvare, og der blev stille og roligt opbygget et kommercielt netværk af kreditbureauer, der indhenter informationer om, hvordan folk opfører sig, hvad deres lokale omdømme er, som så blev solgt videre som kreditrapporter,« siger Mads Vestergaard.

I dag er der store dataleverandører, der sælger tusindvis af forskellige oplysninger til brug for kreditvurderinger til banker og andre långivere, uden at det nødvendigvis er til at gennemskue for den enkelte, at man bliver scoret, og hvad der ligger til grund for denne vurdering.

Det betyder ifølge Mads Vestergaard, at forskellen mellem at ende på en sort liste i Kina »og være brændemærket af dårlige kreditvurderinger« ikke nødvendigvis er så stor.

»Det er omdømme som opdragelsesmekanisme og et eksempel på, at et lidt for frit informationsmarked kan få nogle af de samme konsekvenser for borgeren, som vi frygter af det sociale kreditsystem,« siger han.

»Det betyder ikke, at USA er Kina, men det viser, at der er nogle tendenser i den informationsdrevne kapitalisme, der har lighedspunkter med nogle af de statsligt designede systemer, som de er ved at lave i Kina.«

Også fra vestlige stater

Det er dog bestemt ikke kun i den private sektor, at den datadrevne adfærdspåvirkning vinder frem i vestlige lande også. Mads Vestergaard foreslår selv begrebet New Citizen Management som en ramme til at forstå, hvordan den danske stat bruger data til at styre befolkningen.

New Citizen Management er »datadrevet borgerstyring gennem anvendelse af incitamenter, som medfører, at det kan betale sig individuelt at agere som foreskrevet«.

– Hvor ser du det komme fra staten?

»Der er et pres for at bruge den digitale overvågning til at kontrollere eksempelvis arbejdsløse for, om der er udbetalt uberettigede sociale ydelser, eller om der er borgere, som ikke er blevet mobiliseret tilstrækkeligt, så de ikke lever op til kriterierne for at stå til rådighed for arbejdsmarkedet. Der begynder man at overskride nogle grænser, hvor privatlivet bliver elimineret på baggrund af konkurrencestatens mål om at få effektiviseret og skabt vækst,« siger Mads Vestergaard.

Et eksempel var diskussionen om en lov på beskæftigelsesområdet, der, uden at nogen opdagede det i forbindelse med lovarbejdet, gav mulighed for, at myndighederne kunne fodre en række forskellige datakilder om borgerne til en algoritme, der derefter skulle vurdere deres risiko for at blive langtidsledige.

Loven blev først offentligt kendt i maj og vakte et større ramaskrig, da den gav mindelser om en tidligere diskussion om den såkaldte Gladsaxe-model.

Her ville regeringen efter inspiration fra et forsøg i Gladsaxe Kommune give mulighed for, at man samkørte en række data om blandt andet børns udeblivelser fra tandlægebesøg og sundhedspleje med forældres boligsituation og tilknytning til arbejdsmarkedet, så man kunne opspore de børn, der var i fare for at ende som udsatte.

Projektet endte dog med at blive indstillet efter kommunen i en anden forbindelse havde gjort sig skyldig i uforsvarlig opbevaring af borgernes persondata.

– Men vi forholder os jo også kritisk til det. Mange af de her ting, du nævner, er jo efter kritisk debat presset tilbage?

»Både-og. De store sager, som kommer op i medierne og møder kritik, er udtryk for et bagvedliggende vedholdende pres fra forskellige aktører, og uafhængigt af de store sager sker der samtidig en gradvis udhuling af borgernes rettigheder,« siger Mads Vestergaard.

»Digitale teknologier er med til at rykke på magtbalancerne i samfundet, fordi borgernes retsstilling ikke følger med de nye kontrolmuligheder. Det er jo en mere trinvis og langsommelig undergravning af borgernes stilling over for myndighederne og staten. Den udvikling bør vi være opmærksomme på, hvis vi vil styre samfundet i retning af noget, vi gerne vil leve i og undgå en datadrevet social kontrol, vi betragter som totalitær, når det foregår i Kina.«

Mads Vestergaard: ’Digital totalitarisme’ er udgivet af Informations Forlag. Han forsker til daglig på Center for Information og Boblestudier ved Københavns Universitet