Kronik

Overvågningskapitalisternes mål er at kontrollere vores adfærd

Problemet er større, end at techgiganterne får adgang til vores data, eller at de er ligeglade med dataetik. Den skruppelløse overvågningskapitalisme stræber mod at ændre og kontrollere vores adfærd, skriver medlem af Dataetisk Råd Mikkel Flyverbom i dette debatindlæg.
Problemet er større, end at techgiganterne får adgang til vores data, eller at de er ligeglade med dataetik. Den skruppelløse overvågningskapitalisme stræber mod at ændre og kontrollere vores adfærd, skriver medlem af Dataetisk Råd Mikkel Flyverbom i dette debatindlæg.

Emilie Noer Bobek

9. april 2019

Skal vi tænke på digitale teknologier som smarte løsninger, der gør livet nemmere og giver os mulighed for at ytre os og opbygge sociale relationer? Eller skal vi være bange for, at techgiganter som Facebook og Google spreder misinformation og har for lidt fokus på ansvarlighed?

Svarene i Shoshana Zuboffs nye bog The Age of Surveillance Capitalism er meget klare: Begge perspektiver overser en langt mere grundlæggende og dramatisk omvæltning, som vi hverken har blik for eller ordforrådet til at beskrive.

Kommerciel datahøst har skabt nye økonomiske logikker, nye former for udbytning og nye totalitære utopier, som udgør langt større projekter og farer, end vi har fattet.

Zuboff kalder truslen for en parasitisk og ødelæggende ’overvågningskapitalisme’, og hendes bog tilbyder både en grundig analyse af fænomenet, et ordforråd, der kan hjælpe vores forståelse på vej, og et dramatisk opråb om behovet for handling, hvis vi skal ændre kurs.

En totalitær utopi

Zuboff peger på et nyt og bekymrende skridt i Silicon Valleys teknologifikserede drømme om at forme vores fremtid og skabe nye livsformer.

Hvor vi tidligere talte om ’cyberspace’ som et separat, uafhængigt sted, vi kunne bevæge os ind i og logge os ud af igen, så bliver digitale teknologier i stigende grad allestedsnærværende. Det skaber helt nye muligheder for at styre vores adfærd.

Den vigtigste og mest dramatiske pointe i bogen er således, at digitale teknologier og data kan bruges til at påvirke og ændre menneskelig adfærd på usynlig og vidtrækkende vis.

Ifølge Zuboff har overvågningskapitalismen skabt en totalitær utopi om perfekt information, fuldkommen synlighed og absolut vished. Den form for viden er afsættet for at gøre menneskelig adfærd til noget, der kan kontrolleres.

Som Zuboff formulerer det:

»Digitale infrastrukturer er ikke længere noget, vi har, men noget, som har os,« og overvågningskapitalisternes forretningsgrundlag er ikke produkter eller reklamesalg, men vores ’virkelighed’ og deres muligheder for at kontrollere vores adfærd.

Kontrol over adfærd

Kombinationen af fuldkommen synlighed og allestedsnærværende teknologi gør det for eksempel nemt for forsikringsselskaber at ændre prisen på en bilforsikring, i det øjeblik en bilist kører for hurtigt, eller muligt for et leasingfirma at slukke automatisk for bilen, hvis den månedlige ydelse ikke bliver betalt rettidigt.

Overvågningskapitalismen leverer således smarte løsninger, der kan fjerne risici ved at påvirke og kontrollere folks adfærd direkte. Ved at omsætte mennesker til datapunkter kan alt »afdækkes, registreres, tælles, kontrolleres og bedømmes«, som Zuboff formulerer det.

Og netop derfor bør vi være på vagt, når Google f.eks. tilbyder at bygge smartere byer for os. Allerede nu går 70 procent af vores internettrafik gennem Google og Facebook, og deres ambitioner er at indtage endnu flere dele af vores liv.

Tilbuddet om at bygge fremtidens internetdrevne samfund tager lige nu form af Google-projektet Sidewalk Labs’ planer om at lave ’verdens smarteste by’ i det østlige Canada. Som Google selv formulerede drømmen om ikke kun at forme den digitale verden, men også den fysiske:

»Vi begyndte at tale om alle de ting, vi kunne gøre, hvis nogen bare ville give os en by og lade os bestemme over den.«

Ideen med projektet er at bygge byer oven på internettet, så alt hvad beboerne gør kan omsættes til data, nye indsigter og nye løsninger.

Problemet er ifølge Zuboff større, end at techvirksomheder får adgang til vores data, eller at de er ligeglade med dataetik. Det, vi burde tale om, er, hvorfor menneskelig adfærd overhovedet skal instrumentaliseres og omsættes til data – til det råstof, som overvågningskapitalister lever af at forædle til egen vinding.

Spørgsmålet er, hvad det er for et samfund, vi lader dem skabe.

For Zuboff går der en direkte linje fra techgiganternes grådige datahøst til nye former for datadreven, algoritmisk kriminalitetsbekæmpelse, hvor folk kan anholdes, sekundet før de begår forbrydelser og til Kinas ’sociale’ kreditsystem, hvor borgere bliver vurderet og kontrolleret på baggrund af deres digitale fodspor.

Sæt ind på tre fronter

Det er dog ikke den teknologiske udvikling i sig selv, der er problemet.

Den muterede og skruppelløse overvågningskapitalisme er snarere skabt af nogle kommercielle og ideologiske kræfter, der omsætter menneskelige aktiviteter og erfaringer til produktionsmidler og fokuserer ensidigt på profit.

I den forstand er overvågningskapitalisme hverken et teknologisk eller et økonomisk fænomen, men snarere en ny form for social orden, som vi må tage stilling til, om vi ønsker at leve i.

Og her tilbyder Zuboff trods alt en smule håb, for som hun altid har påpeget i sit arbejde om digitale forandringer, så kan vi – som individer, som organisationer og som samfund – vælge at gøre noget andet med teknologien.

Vi kan takke nej til de gratis tilbud, købe produkter uden indbygget overvågning og udvikle nye former for regulering.

I dansk sammenhæng kunne vi starte med at sætte ind på tre fronter.

Som individer må vi lære at navigere i digitale miljøer og begrænse mulighederne for, at vi ufrivilligt omsættes til datapunkter. Sagen er, at information om os før i tiden var privat og noget, vi aktivt skulle dele med andre. Nu står vi i den omvendte situation: Alt er synligt, og vi skal aktivt skjule, det, vi synes, er privat.

For at navigere hensigtsmæssigt, kræver det, at vi bliver i stand til at styre vores synlighed, så vores data kan forblive vores egne, til vi vælger at dele dem med andre.

Men vi har også brug for en mere grundlæggende forståelse af vores tid, opmærksomhed og data som dyrebare ressourcer, vi skal vælge at give til de rette. Vi må skabe forståelse for, at data ikke blot er kommercielt råstof, men også privat ejendom og et fælles gode, som vi må investere i og bruge til at skabe værdi i vores samfund.

Som institution kan man vælge at investere i og udvikle teknologiske systemer, der gør det muligt at sætte grænser for datahøst.

Hvis vi stopper med at købe billige, kinesiske løsninger og begynder at takke nej til gratis tilbud fra amerikanske datahøst-firmaer, så skaber vi bedre muligheder for, at danske og europæiske teknologivirksomheder kan tilbyde alternative løsninger og mere ansvarlige tilgange.

Samtidig kan vi opbygge en kritisk sans, der kan hjælpe os med at sætte grænser for hovedløs digitalisering, uhæmmet datahøst og kynisk automatisering. På den måde kan vores offentlige institutioner tage udgangspunkt i værdier og ambitioner, som er vores egne, og ikke er drevet af teknologiske og kommercielle logikker.

Som nation kan vi begynde at tænke på dataspørgsmål som store udfordringer, der kræver politisk opmærksomhed, nye investeringer i institutioner og massiv videns- og kompetenceopbygning.

De problematikker, som Zuboff peger på, kan ikke reduceres til nogle bump på vejen ind i en digital fremtid. Vi skal snarere se på dataproblematikker som et politikområde på niveau med udenrigspolitik eller økonomisk politik, som skaber nye vilkår for individer, virksomheder, offentlige institutioner og den overordnede samfundsudvikling.

Zuboffs bog er således både en skræmmende advarsel og en kærkommen invitation til, at vi går i gang med at forme vores egen fremtid, før nogle andre gør det for os.

Overvågningskapitalisme

Dette er den femte kronik i en serie om overvågningskapitalisme, de forrige blev bragt hhv. 13.16., 20. og 25. marts. Læs mere om overvågningskapitalisme på Informations temaside om emnet. På siden kan du tilmelde dig en mailservice og blive opdateret, når der kommer nye artikler. Læs og tilmeld dig her.

Mikkel Flyverbom er professor mso i kommunikation og digitale forandringer på CBS og medlem af DataEtisk Råd.

Bliv opdateret med nyt om disse emner på mail

Vores abonnenter kalder os kritisk, seriøs og troværdig.
Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Anbefalinger

  • Eva Schwanenflügel
  • Anne-Marie Krogsbøll
  • Bjarne Bisgaard Jensen
  • Espen Bøgh
  • Michael Friis
  • Christian Mondrup
  • Torben K L Jensen
  • Anders Reinholdt
  • Bjarne Andersen
  • Jørn Andersen
  • Lise Lotte Rahbek
  • Jens Wolff
  • Kurt Nielsen
  • Johnny Christiansen
  • Thomas Tanghus
Eva Schwanenflügel, Anne-Marie Krogsbøll, Bjarne Bisgaard Jensen, Espen Bøgh, Michael Friis, Christian Mondrup, Torben K L Jensen, Anders Reinholdt, Bjarne Andersen, Jørn Andersen, Lise Lotte Rahbek, Jens Wolff, Kurt Nielsen, Johnny Christiansen og Thomas Tanghus anbefalede denne artikel

Kommentarer

Jørgen M. Mollerup

Forskellen mellem f. eks. det asociale medie Facebook og STASI i det hedengangne DDR kan være svær at få øje på.

Eva Schwanenflügel, Anne-Marie Krogsbøll, Niels Duus Nielsen, Søren Ferling, Carsten Wienholtz, Bjarne Andersen, Kurt Nielsen og Werner Gass anbefalede denne kommentar

Der er ingen forskel. Begge brugte/bruger de indsamlede data til at skabe profit for deres eliter.

Eva Schwanenflügel, Anne-Marie Krogsbøll, Niels Duus Nielsen, Søren Ferling, Bjarne Andersen og Kurt Nielsen anbefalede denne kommentar

Robotiseringen af mennesket som art, tonser derudaf med eksempelvis den omtalte Googleby. - Som vel som sit næste skridt, vil opfylde min tidligere fremsatte profeti om at tilbyde spædbørn at få suget hjernen ud umiddelbart efter fødslen og få den erstattet med en computer. Så kan ungen allerede fra dag et tale, læse, regne og skrive og frem for alt: gå på arbejde. FEDE TIDER!!!

Eller: smid lortet (i dette tilfælde i form af it-teknologien) i lokummet og skyl ud hurtigst muligt.

Eva Schwanenflügel, Anne-Marie Krogsbøll og Niels Duus Nielsen anbefalede denne kommentar
Aleksander Laursen

De markedsfører allerede en chip til vores hjerne. Vi bliver "supermennesker", hedder det sig. Jeg tror de vil have kontrol over vores hjerne så vi ikke kan tænke kritisk længere.

Jeg også bare en konspirationstosse. Det ved Rune Lykkeberg og resten af den danske medieverden heldigvis :)

Eva Schwanenflügel og Anne-Marie Krogsbøll anbefalede denne kommentar
Finn Jakobsen

Det er åbenbart et kapløb mellem det robotiserede menneske og den menneskelignende robot, der er hjertesagen for Silicone Valley, Det kinesiske Kommunistparti, og hvem der ellers byder sig til - markedsfundamentalisterne skal nok finde ud af at komme frem...

Eva Schwanenflügel og Anne-Marie Krogsbøll anbefalede denne kommentar
Søren Ferling

Jeg mener ikke dette knytter sig specielt til kapitalisme, men til hele oplysningsideologien og den underliggende reduktionistiske rationalisme.

Som vi ser i dagens Kina er der i lige så høj grad tale om noget, der er kompatibelt med socialisme/kommunisme.

Oplysningsideologierne førte os ud af feudalismen og vil føre os ind i neofeudalismen - fordi denne ideologi ikke forstår mennesker.

Torben K L Jensen

Et bedre ord er det gamle adfærdsøkonomi - en neo-liberal skole inden økonomistudiet.
Det er jo netop hvad overvågningskapitalisme går ud på. Så - der er faktisk intet nyt under solen.

Overvågningskapitalismens mål er politisk magt uden at være synlig, og uden at skulle stå til ansvar!

Historien om Cambridge Analytics viser med al tydelighed dette, og det er rigmænd der betaler for denne udvikling med deres mia. formuer, - men det er også deres mål, moral og etik folket skal følge uanset hvor bizar deres tanker / ideologi er på alle områder.

Vist skal vi være bekymrede over de "russiske trolde", men vi må under ingen omstændigheder lade os forblænde af dem, så vi ikke kigger efter vore egne.

Netop med tilfældet Cambridge Analytics så vi hvorledes disse rigmænd i mia. klassen udnyttede internettet og rettede deres interesse for henholdsvis BREXIT og det amerikanske præsidentvalg.

Ønsket om at splitte EU som en blok overfor Amerika er tydelig, og det helt uventede valg af Trump var en kniv i hjertet på det amerikanske demokrati, - nu skulle kapitalen direkte overtage, råde over præsidentposten.

En udvikling der er yderst skræmmende for ethvert demokrati overalt i verden, og ikkemindst for borgerne, der bedrages af et pseudodemokrati købt og betalt af disse milliardærer, så det blot er et teaterstykke der opføres jævnligt for borgernes skyld, og i omverdenens øjne ligner et demokrati.

Udbredelsen af kapitalens logik, ideologi og rettigheder skal stå over loven, men samtidig omgrænses af loven og de liberale teser som sandheder er målet, - og som samtidig holder disse samfundsstyrende antidemokrater udenfor den synlige cirkel i offentligheden, så de ikke kan drages til ansvar for noget som helst.

Det sker kun ud fra opfyldelsen af deres normer - der skal være lov, og som alene de bestemmer, uanset hvor forvrænget deres tankesæt end er, for deres magtbegær er uendeligt og i deres optik også kun retfærdigt, selv om det kun er deres pengemagt der har givet dem denne mulighed.

Alene det at de samtidig kun vil være i skyggerne - usete, viser deres bizarre tankesæt ved ikke at ville stå frem direkte, - men være styrende fra skyggerne, uden ansvar hvis det går galt.

De føler sig som frelsende guder for det gode og rigtige skal være samfundets norm, - men der er deres eget nedladende og fordrejede syn på andre mennesker, de som frelsere skal rette op på.

Kurt Nielsen, Eva Schwanenflügel og Anne-Marie Krogsbøll anbefalede denne kommentar
Søren Ferling

"Ønsket om at splitte EU som en blok overfor Amerika er tydelig, og det helt uventede valg af Trump var en kniv i hjertet på det amerikanske demokrati, - nu skulle kapitalen direkte overtage, råde over præsidentposten."

Det mener jeg bestemt er misforstået. 'Kapitalen' er da globalistisk og imod Brexit og imod Trumps nationalisme/protektionisme. 'Kapitalen' vil stort set det samme som venstrefløjen efter 70'erne blev neomarxister og, hvor liberalismen og socialismen slog dermed pjalterne sammen.

Clinton derimod ville være en ren snoredukke for 'kapitalen' og dette sammen med hendes .chauvinisme i forbindelse med identitetspolitik gjorde at hun blev fravalgt.