Læsetid: 4 min.

Amerikanske borgerretsforkæmpere advarer mod Amazons software til ansigtsgenkendelse

Internetgiganten Amazon markedsfører nu aktivt sit ansigtsgenkendelsessystem, ’Rekognition’, over for amerikanske politimyndigheder – det giver mulighed for endnu flere racistiske overgreb og politibrutalitet, siger kritikere
Fotoet her er fra et kropsbårent kamera båret af politiet. Det blev brugt i en retssag i juni sidste år mod en betjent, efter et rutinestop i trafikken endte med, at en ung mand blev dræbt. Kritikere mener dog, at politiets kropsbårne kameraer i langt de fleste tilfælde har medført øget overvågning af lokalbefolkning og minoriteter frem for kontrol med politiet selv. Og dette frygtes forstærket med Amazons nye ansigtsgendkendelsessoftware.

Fotoet her er fra et kropsbårent kamera båret af politiet. Det blev brugt i en retssag i juni sidste år mod en betjent, efter et rutinestop i trafikken endte med, at en ung mand blev dræbt. Kritikere mener dog, at politiets kropsbårne kameraer i langt de fleste tilfælde har medført øget overvågning af lokalbefolkning og minoriteter frem for kontrol med politiet selv. Og dette frygtes forstærket med Amazons nye ansigtsgendkendelsessoftware.

Arkivfoto/Scanpix

4. juni 2018

I dagene efter de uroligheder i Ferguson, Missouri, i 2014, som blev udløst af politidrabet på Michael Brown, var politistationer og politikere over store dele af USA opfindsomme nok til at gribe til, det de troede, kunne være et middel til at sikre sig mod politibrutalitet og racistisk politiadfærd: kropsbårne kameraer, båret af politifolkene selv. 

Mange hyldede ibrugtagningen af sådanne kameraer som en sejr for offentlighedens muligheder for at holde politiet under opsyn og hindre uforholdsmæssig magtanvendelse. Men der var også afvigende røster.

Blandt disse Malkia Cyril, direktør for ngo’en Media Justice Center og en ledende figur i Black Lives Matter-netværket. Gentagne gange advarede hun imod, at sådanne kameraer også og måske snarere kunne tjene som overvågningsværktøjer over for farvede mennesker, fordi de kropsbårne kameraer ikke så meget holder øje med politiet, som de holder øje med det lokalsamfund, og de lokale over for hvem politiindsatsen pågår.

»Det de kameraer holder mest øje med, er folk, der ser ud som mig,« sagde hun.

Omfang og rækkevidde af disse overvågningsteknologier er nu blevet tydeligere, efter at en amerikansk borgerrettighedsgruppe, American Civil Liberties Union of Northern California, sidst i maj offentliggjorde en samling af offentligt tilgængelige dokumenter, der viser, hvordan Amazon nu er begyndt aktivt at markedsføre sit eget ansigtsigtgenkendelsessoftware, kaldet ’Rekognition’, over for de amerikanske politistyrker.

Af marketingsmateriale fra selskabet fremgår det, at Amazon nu går efter at afsætte ’Rekognition’-systemet kombineret med politikameraer i realtid til det amerikanske politi – med andre ord: præcis den udvikling, som Cyril frygtede og advarede imod. 

’Autoritært samfund’

»Det her er en opskrift på indførelse af et autoritært samfund, en opskrift på katastrofer,« siger Cyril nu.

»Amazon skulle slet ikke være i nærheden af den slags, og står det til os, skal de udelukkes fra helt at tilbyde de teknologier til myndighederne.«

ACLU og 4o andre organisationer har nu offentliggjort et åbent personligt brev til Amazons topchef, Jeff Bezos, i hvilket de opfordrer hans selskab til at trække ’Rekognition’ tilbage fra markedet og stoppe med at sælge sin »farlige overvågningsmagt« til de amerikanske myndigheder.

»’Rekognition’ er et magtfuldt overvågningsredskab, der helt oplagt kan bruges til at krænke menneskers rettigheder og gennemføre målrettede aktioner imod farvede menneskegrupper,« skriver brevunderskriverne.

»Med ’Rekognition’ leverer Amazon disse farlige overvågningskræfter direkte til statsmagten.«

I et officielt svar på det åbne brev forsvarer Amazon sig med, at ’Rekognition’ »har mange nyttige anvendelsesområder i den virkelige verden« – det kan f.eks. bruges til at lokalisere børn, der er blevet borte i forlystelsesparker.

Amazon insisterer også på, at selskabet kræver af sine kunder, »at de holder sig inden for lovens grænser og tager ansvar for deres brug af vores softwareprodukter«.

»Vores livskvalitet i dag ville være meget ringere, hvis vi forbød nye teknologier, fordi nogle mennesker kan vælge at misbruge disse,« hed det i svaret fra Amazon.

»Man kan bare forestille sig, hvis forbrugerne ikke længere ville købe computere, fordi det er muligt at bruge dem til ulovlige formål.«

Brevet fra borgerretsgrupperne opfordrer ikke USA’s regering til at forbyde Amazons teknologi, men beder Amazon om ikke at sælge denne til myndighederne.

Skræddersyet

Selv om Amazon bedst kendes af forbrugerne for sin e-handelsplatform, driver selskabet også en gigantisk datalagringsvirksomhed.

I november 2016 lancerede selskabet Amazon Rekognition, en brugervenlig ansigtsgenkendelsestjeneste, som også står til rådighed for kunder hos Amazon Web Services.

Mens nogle af brugsmulighederne var rent voyeuristiske – såsom automatisk identifikation af berømtheder til stede ved Storbritanniens nylige royale bryllup, forekom mange andre af anvendelserne at være skræddersyet til at lette politiarbejde og ordenshåndhævelse.

Af de dokumenter, ACLU har samlet, fremgår det også, at Amazon har iværksat et nært samarbejde med sherifkontoret i Washington County i Oregon 0m implementering af teknologien.

Og, ved en nylig konference, i Seoul pralede Ranju Das, der på LinkedIn angiver sin titel som direktør for Rekognition, af denne teknologis »panoptiske kapacitet« – (panoptisk, dvs. at alt kan overskues fra ét punkt, red.) testet i et samarbejde og partnerskab med politiet og bystyret i Orlando, Florida.

»De har kameraer over hele byen,« siger han.

»Vi analyserer videoovervågningen i realtid og holder ansigterne op imod dem, de har i politiets databaser.«

Orlandos politi siger til den amerikanske radiokanal NPR, at dets brug af teknologien »er et pilotprogram, der sker inden for rammerne af gældende love«.

»Men selv om teknologiens muligheder er imponerende, er de indbyggede farer potentielt katastrofale,« insisterer Cyril.

»Teknologien er et værktøj, men hvis man placerer et sådant værktøj inden for en kontekst af ekstrem racisme og brutalitet, kan resultatet kun blive endnu mere ekstrem racisme og brutalitet,« siger Cyril om politiets brug af den nye overvågningsteknologi.

»Når man føjer ansigtsgenkendelse og Amazons enorme datakraft til i den kontekst, risikerer vi at få en eskalering af den eksisterende diskrimination til aldrig før sete niveauer.«

»Man forøger ikke blot det tempo, hvormed diskrimination kan finde sted, men også dens omfang.«

Dokumenterne fra ACLU viser også, at i det mindste nogle ledende amerikanske embedsmænd har skrupler over at tage den nye teknologi i brug.

»ACLU vil kunne udlægge det her sådan, at de amerikanske myndigheder er gået i seng med big data,« skrev f.eks. en kommunalembedsmand i Washington County i en e-mail.

© The Guardian og Information. Oversat af Niels Ivar Larsen

Læs også
Bliv opdateret med nyt om disse emner på mail

Vores abonnenter kalder os kritisk, seriøs og troværdig.
Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Anbefalinger

  • Dorte Sørensen
  • Eva Schwanenflügel
  • Toke Kåre Wagener
Dorte Sørensen, Eva Schwanenflügel og Toke Kåre Wagener anbefalede denne artikel

Kommentarer

Jeg har svært ved at følge med her. Virker Rekognition softwaren bedre på sorte ansigter? Hvis ikke, har vi så ikke bare et godt værktøj, hvis anvendelse i lighed med så mange andre værktøjer i politiets og myndighedernes arsenal reguleres efter gældende og kommende love?