Læsetid: 7 min.

Mads Vestergaard: Der er klare tegn på digital totalitarisme både i Vesten og i Kina

Kinas sociale kreditsystem er blevet vestlige mediers ultimative skræmmebillede i overvågningsdebatten. Men den kinesiske udvikling er også et godt udgangspunkt for en debat om de tilsvarende totalitære tendenser i Vesten, så vi kan få en diskussion af, hvilken retning vi selv ønsker at gå, siger forfatter Mads Vestergaard
Mads Vestergaards bog handler om, at dataindsamling og øget overvågning giver stat og virksomheder adgang til alt for mange oplysninger om borgerne – og det giver basis for udvikling af totalitære tendenser.

Mads Vestergaards bog handler om, at dataindsamling og øget overvågning giver stat og virksomheder adgang til alt for mange oplysninger om borgerne – og det giver basis for udvikling af totalitære tendenser.

Peter Nygaard

9. juli 2019

Kina er blevet Vestens skræmmebillede på, hvor detaljeret et diktatur kan kontrollere sine borgere med digitale teknologier. Her tildeles der i nogle provinser point til borgerne i det såkaldte sociale kreditsystem – de gives efter, hvor godt borgerne lever op til samfundsidealer om orden i økonomien og andre normer for god opførsel.

»Kina opfinder den digitale totalitære stat,« berettede The Economist i 2016, mens Politiken i 2017 skrev, at »Kina udvikler it-diktatur, der overvåger borgernes adfærd og uddeler belønning og straf« i en ny form for »digital leninisme«.

Frygten for det kinesiske system blev yderligere næret af et afsnit af science fiction-serien Black Mirror i 2016.

Her går hovedpersonen rundt i en vestlig fremtidsverden, hvor alle borgere konstant tildeler hinanden scores for deres adfærd. Et smil på gaden, servicen i kaffebaren og opførslen på arbejdspladsen bliver vurderet af alle mennesker og danner baggrund for en score, der er nødvendig hele tiden at bevare i top for at få adgang til samfundets sociale privilegier – og som seriens skaber selv har sammenlignet med den kinesiske udvikling.

De vestlige mediers store fokus på udviklingen af det kinesiske overvågningssystem er ifølge forfatter Mads Vestergaard interessant på en række områder: Det kinesiske system er reelt mere nuanceret, end det er beskrevet i vestlige medier.

Der er tale om flere systemer og prototyper, og selv om nogle af systemerne har klare totalitære træk, er det stadig slet ikke bestemt, hvilket system der kommer til at blive udrullet i hele nationen.

Flere af systemerne er ikke bare udviklet til at kontrollere borgeren, men forsøger sig også med en række kontrolsystemer, der skal forsøge at få virksomheder og embedsmænd til at opføre sig bedre, og samtidig er nogle af de centrale systemer slet ikke udviklet af staten, men af den kinesiske tech-gigant og vestlige aktiedarling AliBaba til brug for deres betalingssystem.

I sin bog Digital Totalitarisme, der udkom i maj, ser Mads Vestergaard – i stedet for at holde et kritisk blik på Kinas totalitære tendenser – mod udviklingen i demokratiske stater i Europa og USA.

»Udviklingen i Kina er interessant som linse til at kigge på udviklinger, fænomener og tendenser i Vesten. For hvis det er sådan, at vi er så skeptiske over for, hvad der sker i Kina, så må vi da netop se på, om der er tendenser til det samme her, så vi kan stå op imod den udvikling,« siger han.

»Det er interessant at bruge fortællingen om Kina som et negativt ideal, der viser, hvad for en retning vi ikke skal gå. Det er også det, som dystopisk science fiction altid har kunnet – skabe et skræmmebillede, så vi netop ikke ender i en grå 1984-verden eller ender med at blive ratet og kontrolleret på en måde, som vi frygter sker i Kina.«

Dataindsamling

Selv om det selvfølgelig er nødvendigt at skelne mellem den form for overvågning og kontrol, der opbygges i et diktatur som Kina, og i vestlige demokratier har de ifølge Mads Vestergaard magtteknikkerne og en række af de totalitære træk til fælles.

For de vestlige techgiganter som Facebook gælder det, at de bruger den store dataindsamling til at forsøge at modificere adfærd for brugerne med profit for øje.

Dataindsamlingen gør de kommercielle aktører i stand til at vurdere, hvornår individet bedst kan påvirkes til øget forbrug, mens selve designet gør brug af mekanismer hentet fra spilleindustrien i Las Vegas, der skal maksimere brugernes tid på platformen.

Så selv om formålet med statslige og markedsaktørernes påvirkning er forskellig, betyder teknikkerne og ambitionen om at styre mennesket, at begge dele har totalitære træk.

»Den neoliberale idé om, at mere marked betyder mere individuel frihed holder ikke i den digitaliserede tidsalder. Nogle af de store virksomheder har netop haft så vide rammer, at de er begyndt at angribe den individuelle frihed,« siger Mads Vestergaard.

»Mens staten laver sin adfærdspåvirkning for sikkerhed, social orden, vækst og effektivitet, så har de private aktører et andet formål om at generere profit. Men hvis metoderne til at generere profit virker ved at sætte selvbestemmelsen ud af kraft, så gør det ikke den store forskel, om målet er sikkerhed eller profit. Det er stadig et angreb på friheden.«

Særligt i hele udviklingen af systemer for lån og kreditter i USA ser Mads Vestergaard klare paralleller imellem et vestligt system på det frie marked og det statslige kinesiske system.

Systemet for tildeling af kredit har altid baseret sig på en vurdering af, at den, der optog et lån, var troværdig nok til at betale pengene tilbage. Før i tiden kunne man spørge i landsbyen, om en mulig låntager var en, der bare drak alle pengene op på kroen, men i det moderne samfund er det datasporet, der kan sikre denne vurdering.

»Personlig information blev i USA til en handelsvare, og der blev stille og roligt opbygget et kommercielt netværk af kreditbureauer, der indhenter informationer om, hvordan folk opfører sig, hvad deres lokale omdømme er, som så blev solgt videre som kreditrapporter,« siger Mads Vestergaard.

I dag er der store dataleverandører, der sælger tusindvis af forskellige oplysninger til brug for kreditvurderinger til banker og andre långivere, uden at det nødvendigvis er til at gennemskue for den enkelte, at man bliver scoret, og hvad der ligger til grund for denne vurdering.

Det betyder ifølge Mads Vestergaard, at forskellen mellem at ende på en sort liste i Kina »og være brændemærket af dårlige kreditvurderinger« ikke nødvendigvis er så stor.

»Det er omdømme som opdragelsesmekanisme og et eksempel på, at et lidt for frit informationsmarked kan få nogle af de samme konsekvenser for borgeren, som vi frygter af det sociale kreditsystem,« siger han.

»Det betyder ikke, at USA er Kina, men det viser, at der er nogle tendenser i den informationsdrevne kapitalisme, der har lighedspunkter med nogle af de statsligt designede systemer, som de er ved at lave i Kina.«

Digitale faresignaler i Vesten

Fire områder hvor forfatter Mads Vestergaard ser faresignaler i Danmark og Vesten.

  • De store datafirmaers adgang til persondata, som handles på markedet og bruges til blandt andet kreditrapporter. Det er uigennemskueligt, hvad det er for data, der bliver brugt til kreditrapporterne, og hvorfor man får en given rating.
  • Øget adgang til data om borgerne med det formål at kontrollere udbetalinger med sociale ydelser. I Danmark har der været debat om kontrolgruppers adgang til blandt andet elmålerdata, blandt andet for at kontrollere, om folk reelt har boet på en adresse. En chef for en kommunal kontrolgruppe har også udtrykt ønske om at få adgang til sendemastedata fra mobiltelefoner, mens Aarhus Kommune har indsendt ønske om et frikommuneforsøg, hvor de kan få adgang til kontobevægelser.
  • Oprettelsen af Den Fælles Dataenhed under Udbetaling Danmark, hvor data fra 2,7 millioner ydelsesmodtagere køres sammen for at styrke kontrolindsatsen.
  • Digitalisering i alt for hastigt tempo. En tendens, der kommer til udtryk i forskellige danske digitaliseringsplaner, der handler om at sikre, at digitaliseringen skal ske for at gavne den danske konkurrenceevne og fjerne lovgivningsmæssige barrierer for øget digitalisering til gavn for erhvervslivet. Som daværende erhvervsminister Brian Mikkelsen udtrykte det, da han præsenterede Strategi for Danmarks digitale vækst i Herning:
    »Vi har fuldt firspring på, næsten hovedet under armen, fordi der ligger kæmpe perspektiver for Danmark i at udnytte digitaliseringens mange muligheder.«

Også fra vestlige stater

Det er dog bestemt ikke kun i den private sektor, at den datadrevne adfærdspåvirkning vinder frem i vestlige lande også. Mads Vestergaard foreslår selv begrebet New Citizen Management som en ramme til at forstå, hvordan den danske stat bruger data til at styre befolkningen.

New Citizen Management er »datadrevet borgerstyring gennem anvendelse af incitamenter, som medfører, at det kan betale sig individuelt at agere som foreskrevet«.

– Hvor ser du det komme fra staten?

»Der er et pres for at bruge den digitale overvågning til at kontrollere eksempelvis arbejdsløse for, om der er udbetalt uberettigede sociale ydelser, eller om der er borgere, som ikke er blevet mobiliseret tilstrækkeligt, så de ikke lever op til kriterierne for at stå til rådighed for arbejdsmarkedet. Der begynder man at overskride nogle grænser, hvor privatlivet bliver elimineret på baggrund af konkurrencestatens mål om at få effektiviseret og skabt vækst,« siger Mads Vestergaard.

Et eksempel var diskussionen om en lov på beskæftigelsesområdet, der, uden at nogen opdagede det i forbindelse med lovarbejdet, gav mulighed for, at myndighederne kunne fodre en række forskellige datakilder om borgerne til en algoritme, der derefter skulle vurdere deres risiko for at blive langtidsledige.

Loven blev først offentligt kendt i maj og vakte et større ramaskrig, da den gav mindelser om en tidligere diskussion om den såkaldte Gladsaxe-model.

Her ville regeringen efter inspiration fra et forsøg i Gladsaxe Kommune give mulighed for, at man samkørte en række data om blandt andet børns udeblivelser fra tandlægebesøg og sundhedspleje med forældres boligsituation og tilknytning til arbejdsmarkedet, så man kunne opspore de børn, der var i fare for at ende som udsatte.

Projektet endte dog med at blive indstillet efter kommunen i en anden forbindelse havde gjort sig skyldig i uforsvarlig opbevaring af borgernes persondata.

– Men vi forholder os jo også kritisk til det. Mange af de her ting, du nævner, er jo efter kritisk debat presset tilbage?

»Både-og. De store sager, som kommer op i medierne og møder kritik, er udtryk for et bagvedliggende vedholdende pres fra forskellige aktører, og uafhængigt af de store sager sker der samtidig en gradvis udhuling af borgernes rettigheder,« siger Mads Vestergaard.

»Digitale teknologier er med til at rykke på magtbalancerne i samfundet, fordi borgernes retsstilling ikke følger med de nye kontrolmuligheder. Det er jo en mere trinvis og langsommelig undergravning af borgernes stilling over for myndighederne og staten. Den udvikling bør vi være opmærksomme på, hvis vi vil styre samfundet i retning af noget, vi gerne vil leve i og undgå en datadrevet social kontrol, vi betragter som totalitær, når det foregår i Kina.«

Mads Vestergaard: ’Digital totalitarisme’ er udgivet af Informations Forlag. Han forsker til daglig på Center for Information og Boblestudier ved Københavns Universitet

Overvågningskapitalisme Instagram Facebook Google Cambridge Analytica techgiganter
Læs også
Bliv opdateret med nyt om disse emner på mail

Vores abonnenter kalder os kritisk, seriøs og troværdig.
Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Anbefalinger

  • Marianne Stockmarr
  • Lillian Larsen
  • Anne-Marie Krogsbøll
  • Bjarne Andersen
  • ingemaje lange
  • Carsten Munk
  • Michael Friis
  • Christian Mondrup
  • Benno Hansen
  • Toke Kåre Wagener
  • Tommy Clausen
  • Eva Schwanenflügel
Marianne Stockmarr, Lillian Larsen, Anne-Marie Krogsbøll, Bjarne Andersen, ingemaje lange, Carsten Munk, Michael Friis, Christian Mondrup, Benno Hansen, Toke Kåre Wagener, Tommy Clausen og Eva Schwanenflügel anbefalede denne artikel

Kommentarer

Eva Schwanenflügel

Algoritmer er åbenbart det nye vidundermiddel, der skal skille fårene fra bukkene.
Fansene (alla Brian Mikkelsen) forstår bare slet ikke hvor fejlbehæftede de kan være. De er jo lavet af mennesker, og dermed fyldt med menneskelige fordomme..

Den blinde digitalisering er den største trussel mod demokratiet og friheden næst efter uligheden og klimaændringerne.

Lillian Larsen, Ib Christensen, Anne-Marie Krogsbøll, Bjarne Andersen, Torben Bruhn Andersen, Karsten Lundsby, Maj-Britt Kent Hansen, Christian Mondrup og Tommy Clausen anbefalede denne kommentar
Eva Schwanenflügel

PS. Sessionslogning, udbredt TV-overvågning, Gladsaxe-eksperimentet der gik så grueligt galt, forslaget om monitorering af hele befolkningens elmålere, etcetera, er alle udtænkt og/eller iværksat af den fhv borgerlige regering.
Hvis idealer, må man forstå på adskillige artikler i nærværende avis, netop går ud på at sikre frihed for borgerne.
Yeah, right !!

Lillian Larsen, Carsten Munk, Ib Christensen, Kirsten Lindemark, Kim Houmøller, Bjarne Andersen, Torben Bruhn Andersen, Birte Pedersen, Karsten Lundsby, Carsten Wienholtz, Torben Skov, Ebbe Overbye og Tommy Clausen anbefalede denne kommentar
Tommy Clausen

Super kapitalismen har hæget alt for længe, overalt, højt oppe , dybt nede , overalt ses denne digitale svøbe, der vil styre våres liv.....i alt hvad vi gør.

Carsten Munk, Ib Christensen, Jørgen Wassmann, Kirsten Lindemark, Anne-Marie Krogsbøll, Bjarne Andersen, Torben Bruhn Andersen, Birte Pedersen, Karsten Lundsby, Carsten Wienholtz, Torben Skov og Eva Schwanenflügel anbefalede denne kommentar
Maj-Britt Kent Hansen

Kontrollen og overvågningen af mennesker samt pengeudnyttelsen af forbrugeradfærd. Alle er de afskyelige resultater af digitaliseringen, som slet ikke ofres nok kritisk opmærksomhed.

Umiddelbart mærkbart er dog, at der finder "Digitalisering i for hastigt tempo" sted. Det er yderst sjældent at møde et system, som virker, som er logisk, som er gennemtænkt, som er efterprøvet. Som ikke medfører telefonopkald, skriftlig korrespondance - og en masse spild af tid.

Carsten Svendsen, Marianne Stockmarr, Lillian Larsen, Ib Christensen, Kirsten Lindemark, Anne-Marie Krogsbøll, Kim Houmøller, Bjarne Andersen, Karsten Lundsby, Irene Odgaard, Mogens Holme, Torben Skov og Eva Schwanenflügel anbefalede denne kommentar
Eva Schwanenflügel

Ak ja, påtænk blot den famøse Sundhedsportal og alle de fejl og læk den indtil videre har genereret..
Der sidder folk i USA og Irland, som kan tilgå danske patientjournaler.
Det sidste nye er at der er rod i Medicinkortet, så patienter sandsynligvis bliver fejlmedicineret.

Marianne Stockmarr, Ib Christensen, Kirsten Lindemark, Anne-Marie Krogsbøll, Bjarne Andersen, Karsten Lundsby, Carsten Wienholtz og Torben Skov anbefalede denne kommentar

Mange siger de ikke har noget at frygte - hvis der sker mere overvågning, profilering og deling af persondata mv.
Men når disse er implementeret i større omfang og anvendes bredt, så vil de fleste have noget at frygte. Fordi der vil antageligt være andre borgere, der har et "bedre liv". De andre får lavere priser - bedre forsikringsvilkår - tidligere sygdomsbehandling - favoriseres til nye jobs osv. osv.
Fordi algoritmerne kan opdele borgerne i mange niveauer.
Lighed for loven vil antageligt også forsvinde. Lighed for loven siger at "Det der er lige - skal behandles lige".
Men når der inddrages flere oplysninger om borgerne, så er der flere, der ikke er lige. Det vil sandsynligvis ske en større forskelsbehandling.

Marianne Stockmarr, Lillian Larsen, Carsten Munk, Jørgen Wassmann, Kirsten Lindemark, Anne-Marie Krogsbøll, Kim Houmøller, Bjarne Andersen, Karsten Lundsby, Carsten Wienholtz og Eva Schwanenflügel anbefalede denne kommentar
Eva Schwanenflügel

@ Henrik Rose

Just præcis.
Og så får vi for alvor et mobbe-samfund, hvor alle er potentielle angivere både online og offline.

Kirsten Lindemark, Anne-Marie Krogsbøll, Bjarne Andersen og Karsten Lundsby anbefalede denne kommentar
Michael Friis

Overvågningen er dybt bekymrende men vi efterspørger flere ressourcer til velfærdssamfundet og kræver mere af personalet. Effektivitet kaldes det. Derfor mere IT og målinger og det hele er kun lige begyndt.
Det kan nok ikke stoppes.
Men vi kan begynde at have færre krav til hinanden.
Nyde livet i stedet for at kræve effektive procedurer.
Accepterer at vi dør. Prioriterer uddannelse til de jobs hvor vi mangler folk. Evt med egenbetaling.
Problemet er at det nok vil kræve en masse analyser og dermed data for at gøre dette.
Måske mere mavefornemmelse og mindre IT?
Tør du? Tør vi?

Marianne Stockmarr og Jørgen Wassmann anbefalede denne kommentar
Ib Christensen

Oveni skal vi lige huske aktindsigt er en sygdom i samfundet. Så forvent ikke du er informeret om hvad de samler dataene for.