Kronik

Overvågningskapitalismens angreb på vores frihed kalder på politiske modsvar

Techgiganterne påvirker vores muligheder for at udøve vores ret til ytringsfrihed, informationsfrihed, privatliv og vores ret til ikke at blive diskrimineret. Vi kan ikke forvente, at virksomhederne af egen drift sikrer, at menneskerettighederne overholdes, skriver seniorforsker ved Institut for Menneskerettigheder i dette debatindlæg
Techgiganterne påvirker vores muligheder for at udøve vores ret til ytringsfrihed, informationsfrihed, privatliv og vores ret til ikke at blive diskrimineret. Vi kan ikke forvente, at virksomhederne af egen drift sikrer, at menneskerettighederne overholdes, skriver seniorforsker ved Institut for Menneskerettigheder i dette debatindlæg

Emilie Noer Bobek

13. marts 2019

Vi er overgået til en ny form for kapitalisme – og er først nu ved at forstå konsekvenserne, skriver Shoshana Zuboff i The Age of Surveillance Capitalism.

Overvågningskapitalismen adskiller sig fra tidligere tiders kapitalisme ved at udvinde det ’råstof’, som menneskers erfaring, sociale liv, og kommunikation udgør. Et råstof, der udvindes både online og offline, når vi bruger ’smart’ teknologi.

Hvad enten vi kommunikerer med venner og familie, debatterer, søger viden, køber ind, dyrker sport eller bevæger os rundt i det offentlige rum, sker der en systematisk indsamling af data. Denne data bruges til at kortlægge, hvilke personer vi er, og hvad vi gør – nu, lige om lidt og senere – og dataen handles på en markedsplads, der er interesseret i at kunne forudsige og påvirke adfærd.

Uhørt magt

Magten til at indsamle det nye råstof er koncentreret hos de teknologivirksomheder, der kontrollerer det digitale miljø. Shoshana Zuboff beskriver, hvorledes Google som en af de første virksomheder forstod at skabe værdi ud fra den enorme mængde data, som de kunne udlede om deres brugere.

I dag er økonomien kendetegnet ved et eksplosivt voksende marked for kortlægning og forudsigelse af menneskers adfærd, der rækker langt videre end pioneren Google – og omfatter stort set alle samfundssektorer.

Konkret betyder overvågningskapitalismen, at aktiviteter, der tidligere hørte til vores private livsfære, nu kommercialiseres. Som bekendt bruger de fleste af os et hav af forskellige ’sociale’ og ’smarte’ tjenester uden at betale en krone.

Betalingen sker ved at lade tjenesterne opsamle data om os – både dem, vi selv afgiver, og dem, der kan udledes af vores handlinger. Disse data bruges til at forudsige, målrette og påvirke adfærd. Herunder træne algoritmer og kunstig intelligens.

Overvågningskapitalismen har de seneste 20 år omdefineret, hvem der er verdens rigeste virksomheder, og nu befinder Google, Apple, Facebook og Amazon sig i toppen. Særligt for de store platforme gælder, at fordi de kontrollerer en væsentlig del af infrastrukturen for vores digitale liv, har de fået uhørt magt.

Magt over, hvad vi må og kan, hvad vi ikke må og kan, og over den datahøst, der driver de nye markeder.

Begrænser frihed

Platformenes beslutninger og praksis indvirker på millionvis af menneskers muligheder for at udøve deres ret til ytringsfrihed, informationsfrihed, forsamlingsfrihed, privatliv og deres ret til ikke at blive diskrimineret.

Det handler om, hvilke debattører eller emner platformene fjerner, og hvilke der får lov at leve, hvilke nyheder de præsenterer os for, hvordan de profilerer os på baggrund af vores data, hvilke ydelser og services de giver os adgang til, hvilken pris vi betaler for en given vare osv.

På trods af den store magt til at påvirke rammerne for vores private, sociale, kulturelle og politiske liv er virksomhederne ikke genstand for demokratisk kontrol eller indsigt. De opererer i et kommercielt domæne, hvor deres algoritmer og beslutningsprocesser beskyttes som forretningshemmeligheder.

Der er således tale om en grundlæggende informationsasymmetri mellem virksomheder, der har en svimlende mængde data om den enkelte, og individets minimale indsigt i de selv samme virksomheders praksis.

Ikke mindst i forhold til retten til privatliv er der en grundlæggende konflikt. Logikken i den nye økonomi er nemlig, at der skal indsamles så meget data om den enkelte som muligt – hvorimod retten til privatliv og databeskyttelse er baseret på, at der skal indsamles så lidt som muligt.

Der er med andre ord en konflikt mellem de normer, som retten til privatliv og databeskyttelse er baseret på, og det underliggende rationale, som driver den nye økonomi.

Som det er i dag, er det så godt som umuligt for den enkelte at vurdere, hvilke data der indsamles om dem, og hvad oplysningerne vil blive brugt til. Den omfattende indsamling bryder med princippet om, at det skal være gennemskueligt, når der indsamles data om os, og at vi skal kunne få indsigt i, hvilke oplysninger andre har adgang til.

Mangel på modsvar

I takt med at de store platformes popularitet vokser, eskalerer den værdi, der kan udledes af deres brugere. Samtidig bliver det stadig mere kritisk at få sikret, at menneskerettighederne er beskyttet på platformene.

Dette kan ikke overlades til virksomhederne selv, ligesom man ikke kan forvente, at de frivilligt vil begrænse den model for dataindsamling, de har udviklet over de seneste 20 år.

I Danmark såvel som andre lande diskuterer man i stigende grad, hvad der skal være det politiske og reguleringsmæssige modsvar. F.eks. har Danmark som det første land i verden udnævnt sin egen teknologiambassadør med kontor i Silicon Valley.

Trods den stigende opmærksomhed på overvågningskapitalismens bagside mangler der fortsat klare bud på, hvorledes man fra dansk og ikke mindst europæisk side vil imødegå de demokratiske udfordringer, som Shoshana Zuboff påpeger.

På trods af kritiske røster, særligt i forhold til skatteunddragelse, konkurrenceforvridning og ansvar for ulovligt indhold, har der været begrænset debat om de demokratiske konsekvenser af en økonomi baseret på systematisk udvinding af data om borgernes liv og færden.

Der mangler også politisk stillingtagen til det forhold, at private virksomheder sætter spillereglerne for informationssøgning, meningsudveksling og offentlig debat, uden for rammerne af demokratisk kontrol.

En anden vej

Men måske er der nye toner på vej. Afsløringen af Cambridge Analyticas brug af over 80 millioner Facebookbrugeres data til at påvirke det amerikanske valg var for mange en øjenåbner.

Skandalen udstillede rækkevidden af den massive dataindsamling, som bl.a. Facebook excellerer i, og hvorledes den kan misbruges til at påvirke demokratiske processer. Det blev tydeligere, at indsamling af data om os har langt mere vidtrækkende konsekvenser end at målrette reklamer.

Den kommercielle udnyttelse af den enkeltes erfaring, sociale liv og kommunikation gør ikke alene os alle mere udsatte, den udfordrer de demokratiske spilleregler.

EU’s nye databeskyttelsesforordning (GDPR) fra 2018 er blevet fremhævet som et værn mod den intensive dataindsamling, ikke mindst via muligheden for at udstede massive bøder. Hertil må man indvende, at selv store bøder udgør en dråbe i havet sammenlignet med overvågningskapitalismens økonomiske incitament.

Det er optimistisk at tro, at databeskyttelsesforordningen på egen hånd vil kunne udfordre den forretningsmodel, som den nye økonomi er baseret på.

Men hvad skal vi så stille op? Her er det vigtigt at huske, at overvågningskapitalismen ikke er en teknologisk præmis, og at intet i teknologien tilsiger, at økonomien skal være baseret på udvinding af data om den enkelte.

Det betyder, at vi kan insistere på en anden vej. At vi kan stille spørgsmålstegn ved den aktuelle udvikling og efterspørge alternativer i form af tjenester og services, der styrker den enkeltes valgmuligheder, selvbestemmelse og kontrol over egne data. Løsninger, der understøtter fællesskaber og deltagelse, uden en kommerciel agenda.

Vi kan kræve muligheden for at sige fra over for forretningsmodeller, der undergraver de værdier, vores demokrati er baseret på.

Det kunne være den europæiske og danske vision: At skabe de politiske og økonomiske rammer for udvikling af teknologi, der styrker – frem for underminerer – menneskerettigheder. Vi kan tage magten over vores digitale liv tilbage. Det er dette opråb, der er den vigtigste pointe i Shoshana Zuboffs bog.

Rikke Frank Jørgensen er seniorforsker ved Institut for Menneskerettigheder

Overvågningskapitalisme

Dette er den første kronik i en serie om overvågningskapitalisme. Læs mere om overvågningskapitalisme på Informations temaside om emnet. På siden kan du tilmelde dig en mailservice og blive opdateret, når der kommer nye artikler. Læs og tilmeld dig her.

 

Bliv opdateret med nyt om disse emner på mail

Vores abonnenter kalder os kritisk, seriøs og troværdig.
Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Anbefalinger

  • Maj-Britt Kent Hansen
  • Bjarne Andersen
  • Torben K L Jensen
  • Jens Kofoed
  • Anne-Marie Krogsbøll
  • Espen Bøgh
  • Thomas Tanghus
  • Arne Albatros Olsen
  • Henrik Leffers
  • Bjarne Bisgaard Jensen
  • Gert Romme
  • Gunilla Funder Brockdorff
  • Eva Schwanenflügel
  • Niels Duus Nielsen
  • Kurt Nielsen
  • Lise Lotte Rahbek
  • Lillian Larsen
Maj-Britt Kent Hansen, Bjarne Andersen, Torben K L Jensen, Jens Kofoed, Anne-Marie Krogsbøll, Espen Bøgh, Thomas Tanghus, Arne Albatros Olsen, Henrik Leffers, Bjarne Bisgaard Jensen, Gert Romme, Gunilla Funder Brockdorff, Eva Schwanenflügel, Niels Duus Nielsen, Kurt Nielsen, Lise Lotte Rahbek og Lillian Larsen anbefalede denne artikel

Kommentarer

Boykot lortet. Der findes allerede alternativer og mail- og internetprogrammer, der blokerer skidtet i et vist omfang.
Det er dog også en del af problematikken, at mange medier, herunder DR, henviser til især Facebook hvis man skal have fuld valuta for pengene (licensen i dette eksempel). Så det er i virkeligheden statsunderstøttet.
Det er yderligere et problem, at den overvågning der realiseres af de nævnte firmaer i orgastisk omfang svarer til enhver magthavers (politikers) dyngvådeste drøm, så de fokuserer på hvordan de kan få fingre i den selvsamme overvågning, ved at behandle dem rigtig godt. D.v.s. ved ihærdigt brug af disse medier.

Torben Arendal, Bjarne Andersen, Steen Meyer, Morten Lind, Mads Bech Madsen, Anne-Marie Krogsbøll, Rolf Andersen, Thomas Tanghus, Lise Lotte Rahbek, Kim Houmøller, Lars Løfgren, Torben Jensen, Curt Sørensen, Henrik Leffers, Bjarne Bisgaard Jensen, Gert Romme, Søren Thuesen, Eva Schwanenflügel, Jørn Andersen og Niels Duus Nielsen anbefalede denne kommentar
Eva Schwanenflügel

Altimens vi skræmmes af techgiganterne - og de kan virkelig inspirere til gåsehud - går det ret meget under radaren hvad vores egen benevolente regering gemmer i ærmet.

Algoritmerne er i flittig brug, bl.a. i NETS (udbetaling Danmark), hvor man risikerer at komme på "undringsliste" såfremt algoritmen finder underlige sammenfald eller mistænkelige forhold.
Herefter griber en tilfældig sagsbehandler bolden, uden at kende baggrunden for 'forundringen', og så er man med ét mistænkt uden yderligere forklaring.

Gladsaxe kommune prøvede også at eksperimentere med algoritmer, her i forhold til underretninger om børn. (Det gik som bekendt helt galt, da fortrolige oplysninger gang på gang blev offentliggjort ved fejl)

Regeringen foreslog at overvåge alles digitale el-målere for at opdage folk som opgav falsk adresse.
Det blev dog forhindret af den nye GDPR-lov.

Det korte af det lange er, at demokratiet risikerer at forvandle sig til et komplet uoverskueligt "algokrati", hvor borgeren ikke længere kan gennemskue anklager eller sanktioner, fordi de er baserede på algoritmer.

Læs her hvad Jacob Mchangama (tænketanken Justitia) har skrevet :

https://foreignpolicy.com/2018/12/25/the-welfare-state-is-committing-sui...

Anne-Marie Paul, Olav Bo Hessellund, Torben Arendal, Estermarie Mandelquist, Bjarne Andersen, Steen Meyer, Niels Duus Nielsen, Torben K L Jensen, Carsten Nørgaard, Anne-Marie Krogsbøll, Rolf Andersen, Espen Bøgh, Lise Lotte Rahbek, Kim Houmøller, Torben Jensen, Arne Albatros Olsen, Finn Jakobsen, Kurt Nielsen, Bjarne Bisgaard Jensen, Steffen Gliese, Ebbe Overbye, Jesper Lerche, Jens Erik Starup, Søren Thuesen og Ervin Lazar anbefalede denne kommentar
Ib Christensen

Har i allerede glemt hvordan de havde travlt med, at vække enhver skabs pædofil, for at vinde opbakning, blandt kejserens kvalificerede borger til, at børn skal vokse op til et liv under overvågning bag censur?

Hvor skulle politisk modsvar komme fra?
Lidt svært at føre sig frem med, det er uartigt, at andre gør det som vi selv ønsker at gøre.
Selv om deres "ungdoms" organisationer måske tyder på det var netop hvad de gjorde.

Henrik Leffers

Overvågningen er så omfattende, at de fleste ikke forstår, hvad meningen er med det. Men meningen er ikke bare, at tjene penge på reklamer, men at PÅVIRKE valg overalt i alle lande! Det er oligarkernes forsøg på at styre verden på en måde, så stort set ingen bemærker det! Og alle de store danske medier er en del af det, de er allerede ejet (eller kontrolleret) af kapitalfonde, og det seneste medieforlig betyder, at DR nu er styret direkte af den siddende regering!

Jeg har mange gange kommenteret hvordan Ritzau pressen reelt kontrollerer over 90% af nyhedsdækningen i DK, men hvis jeg forsøger, at få at vide hvilke regler der findes for, hvad Ritzau medierne kan skrive om, så bliver kommentarerne bare slettet. Men jeg ved, at der findes et regelsæt, og er lidt spændt på, om denne kommentar "overlever" længere end mine sidste kommentarer om det... Det burde faktisk interessere alle, der abonnerer på Information!

Olav Bo Hessellund, Torben Arendal, Estermarie Mandelquist, Bjarne Andersen, Niels Duus Nielsen, Jens Kofoed, Mads Bech Madsen, Anne-Marie Krogsbøll, Eva Schwanenflügel og Ib Christensen anbefalede denne kommentar
Steffen Gliese

Der er mange måder, man kan beskytte sig imod overvågning og misbrug - eller blot reklamer - hos de private udbydere. Samtidig er det jo i Facebooks tilfælde en konstruktion, skabt på et kollegieværelse = alle ville kunne gøre det efter. DET HAR INGEN GJORT! selvom det måske havde været en oplagt fællesskabsopgave for EU.

Finn Jakobsen

Fagre Nye Verden og 1984 er at betragte som de gode gamle dage.
Hvad der virker bedre end at melde sig ud og så vidt muligt boykotte lortet er svært at se. Men der er altså rigtig mange, der skal melde sig ud, før det virker.

Bjarne Andersen, Kurt Nielsen, Anne-Marie Krogsbøll, Espen Bøgh og Eva Schwanenflügel anbefalede denne kommentar
Finn Jakobsen

Det er svært at vurdere hvad der giver de største problemer: overvågningen af vores færden eller vores splittede tilstedeværelse flere steder på en gang. For mit eget vedkommende er samvær umuligt, når det hele tiden bimler og bamler omkring os, og der er noget andet, der stjæler opmærksomheden.

Anne-Marie Krogsbøll og Eva Schwanenflügel anbefalede denne kommentar

Åh ja, og det hele tog sin begyndelse med en lille "uskyldig Cookie", "solgt" som et lille uegennyttig program på vores computere, og som virksomhederne lagde på vor vores skyld, så vort liv blev lettere og de bedre kunne hjælpe os i hverdagen med vores søgning på internettet.

Hvis det lyder lidt bekendt, og man tænker på Uber, der ville forbedre verden med billig taxakørsel, så til alle, så er det ikke helt forkert, for det er grundlæggende det det handler om; "at italesætte debattens område i en helt bestemt kontekst, der skjuler det reelle mål om egoisme hos chaufførerne og egen fortjeneste uden ansvar for noget som helst"!

Hele dette med at være udenfor ansvar, - ved at stå udenfor lovene, - eller endnu mere korrekt stå over lovene, er hvad hele dette handler om, som helt grundlæggende for disse internetmastodonter.

Nutiden nøgleord for dette i nutiden er; "vi er en elektronisk platform", ligesom vi hele tiden fyldes med ord so; "det er gratis", - "en kapitalisme der giver noget helt gratis til og har tab i den anledning, er end ikke ammestuesnak, med derimod løgn og bedrag", for dom vi kender kapitalismen - så er der ikke noget i deres "butikker" der er gratis - alting koster nemlig penge i deres "butikker", plejer de at fortælle!

Ser man blot på disse virksomheders svimlende aktiekurser, som er bestemt af udbytte til aktionærerne, så tyder det jo helt klart på der tjenes ustyrlige summer på salg af vore data til 2. og 3. parter m.m., så det er nok ikke så dårlig en forretning alligevel.

Vi er, data om os , - er produktet der sælges, vi er nemlig produktet, - der hvor reklamerne skal hen og ind på vores computere, og være synlig hver gang vi åbner vores computere og søger efter en oplysning af enhver art, - og som de så videresælger.

Internettet som barn af den elektroniske udvikling, er gjort til et vandskabt barn i dagens kapitalisme for dataudnyttelse, på enhver tænkelig økonomisk opnåelig måde for kapitalismen, og den står udenfor loven ved ikke at være ansvarlig for noget af dens indhold, - eller via salget af vore data til 2. og 3. part m.m., så forvanskes billedet af hvad vore data anvendes til, og hvor længe de anvendes / opbevares om os.

Opbevaringsdelen er meget længere end mange forestiller sig, - tag f.eks. dette i forhold til den nye datalov som EU vedtog sidste år, med de krav til vore rettigheder om at blive fri for disse virksomheders snagen i vore data og videresalg heraf til 2. og 3. part m.m.

I den forbindelse kom der ret hurtigt en tjeneste der blev tilbudt virksomhederne, til administration heraf, og som mange i dag benytter, og har stiftet bekendtskab med, som hedder "Quantcast", og hvor man kan vælge "til og fra" vedrørende reklamer / cookies m.v., - men helt så enkelt er det alligevel ikke for "Quantcast", bliver ved med at spørge - igen og igen og igen og igen for at trætte brugeren til endelig at svare accepterende på alle "Cookies" trods gentagne afvisninger, bliver de ved i en uendelighed.

- De vil med andre ord ikke finde sig i nogle svarer "nej tak" til disse "Cookies", og derfor bliver de ved med at stille dig overfor spørgsmålene om du vil acceptere disse "Cookies" - indtil du endelige giver op og svarer du accepterer alle "Cookies".

De ved udmærket jeg ikkeønsker deres "Cookies" men de ved også hvornår det er mig, - og jeg igen skal besvare det samme spørgsmål igen og igen og igen - for at omgå dataloven, ved at trætte mig med deres spørgsmål, - jeg kan ikke blive fri, trods de kender mit standpunkt, - og havde jeg på noget tidspunkt "accepteret" disse "Cookies", så ville jeg derimod aldrig bliver spurgt igen!

Falske nyheder enten tilsigtet eller utilsigtet i mange af disse medier på internettet, står ingen til ansvar overfor, hvorimod andre der udgiver nyheder er retsligt ansvarlige for de nyheder og udsagn de udbreder, - og her findes et stort misforhold i udbredelsen af oplysninger, viden og nyheder for disse tjenesters ageren på internettet.

Som vi har set i forbindelse med skandalen om "Cambridge Analytica" og deres indkøb af data fra Facebook, og den politiske brug der sidenhen blev gjort i forbindelse med - vist nok både BREXIT og sidenhen det amerikanske præsidentvalg, ser vi en skræmmende udvikling i undergravelsen af demokratierne, - købt og betalt af rigmænd, der åbenbart ønskede et bestemt udfald ved disse afstemninger, - og vi ved fortsat ikke hvad deres reelle begrundelse hertil er, - men derimod ved vi det strider imod vore demokratiske værdier og opfattelser.

Kampagnerne var iscenesat og især var rettet mod bestemt udvalgte "meget aktive influencere" der var gode til at sprede de tilrettelagte "nyheder / sandheder osv.," til en stor kreds af villige, - der var lige som udvalgte til yderligere at sprede budskaberne som blev udspredt i begge sager.

Kapitalismen havde altså helt klart politik mål for kampagnerne, - mål i modstrid med demokratiets gang, for at sikre sig at egne mål blev opnået, hvad baggrunden så end var.

Det peger helt klart på der skal tages hårdt politisk fat på problemerne omkring kapitalens muligheder for datakapitalisme i alle lande, for ellers må politikerne se sig om efter andet arbejde, og lad da gå med det, - men spørgsmålet er så hvad vil kapitalismen sætte i stedet?

- Måske skal vi kigge lidt i retning af George Orwells "Kammerat Napoleon" og hans første udsagn, der siger "vi er alle lige" og som sidenhen erstattes af udsagnet; "vi er alle lige, men nogle er mere lige en andre", - og så er det slut med demokratiet, så bliver det i stedet kapitalismedrevet "demokrati" - hvor den stærkes ret kommer endnu mere til udfoldelse, og siden erstattet af "kapitalismediktatur" enten vi vil det eller ej!

"Sidegevinsten" bliver igen et kendt begreb fra George Orwell; "dobbelttænkningen" - "først stjæler de ordet, og siden også dets betydning", - fred bliver til krig, frihed bliver til slaveri osv., osv.

Niels Duus Nielsen, Torben Arendal, Finn Jakobsen, Eva Schwanenflügel og Anne-Marie Krogsbøll anbefalede denne kommentar

Blockchain-teknologien kan måske være med til at sikre, at den enkelte har kontrol over egne data, samt at en stor data-spiller som Google (der står for omkring 80% af alle søgninger på nettet) ikke kan manipulere med søgeresultater efter forgodtbefindende. Presearch er et projekt, som netop bygger på blockchain-teknologi. Projektet er canadisk funderet, og er i sin spæde start ved at lægge fundamentet til en decentral søgemaskine.

White paper Presearch: https://www.presearch.io/uploads/WhitePaper.pdf