Nyhed
Læsetid: 9 min.

Kritikere: Droner, AI og ansigtsgenkendelse ved Europas grænser umenneskeliggør flygtninge

Droner, kunstig intelligens, algoritmer og ansigtsgenkendelse skal hjælpe Europa med at håndtere presset fra flygtninge og migranter. Men der lyder nu skarpe advarsler om, at den digitale kontrol vil forstærke en allerede brutal grænsepolitik og i endnu højere grad vil udsætte sårbare asylansøgere for en proces, hvor de stemples som kriminelle
Droner, kunstig intelligens, algoritmer og ansigtsgenkendelse skal hjælpe Europa med at håndtere presset fra flygtninge og migranter. Men der lyder nu skarpe advarsler om, at den digitale kontrol vil forstærke en allerede brutal grænsepolitik og i endnu højere grad vil udsætte sårbare asylansøgere for en proces, hvor de stemples som kriminelle

Mia Mottelson

Udland
25. november 2020

For flygtninge og migranter vil synet af sværme af overvågningsdroner være det første tegn på, at de er ved at nærme sig Europas kyst. Og så snart de har fast land under fødderne vil deres øjne og resten af ansigtet blive scannet, så de kan blive sporet og til hver en tid identificeret.

Næste skridt er asylprocessen. Her venter en løgnedetektor, der ved brug af kunstig intelligens vil vurdere, om de fortæller deres baggrundshistorie sandfærdigt. Med samme formål vil deres mobiltelefoners indhold blive kopieret og gennemforsket, og deres dialekt vil blive digitalt analyseret for at fastsætte, om de reelt kommer fra det sted, de påstår.

Og i sidste ende vil en algoritme afgøre, om de vil få lov til at blive i Europa eller skal smides ud igen.

For fremtidens flygtninge og migranter vil mødet med Europa blive digitalt. Og faktisk er ovenstående ikke kun et tænkt fremtidsscenarie – elementerne er allerede en realitet eller er godt på vej til at blive rullet ud på forsøgsbasis.

»Europa er blevet besat af at forsøge at sikre sine grænser gennem digital teknologi, og det er en udvikling, der går meget hurtigt,« siger Petra Molnar, en menneskerettighedsadvokat, der fokuserer på Europas digitale grænser, og som netop har forfattet en rapport om emnet med titlen Technological Testing Grounds.

»EU vil bruge – og bruger – teknologier, der fortsat er meget usikre, og vil gøre det på nogle af de mest sårbare personer, der har så meget på spil,« siger hun.

Europæiske stater retfærdiggør udviklingen med et ønske om at effektivisere håndteringen af indvandringen, men ifølge Petra Molnar gør digitaliseringen ofte processen mere »vilkårlig, uretfærdig, diskriminerende og pågående«.

»De bliver udsat for en proces, hvor de behandles som om, at de er kriminelle indtil andet er bevist,« siger Petra Molnar, der også er tilknyttet Refugee Law Lab ved York University i Toronto.

Eksplosion i digital teknologi

Der lyder nu også stadig stærkere anklager om, at EU med sit fokus på at opbygge en digital mur forstærker umenneskeliggørelsen af flygtninge og migranter.

I en ny FN-rapport hedder det, at man »udsætter flygtninge, migranter, statsløse personer og andre for menneskerettighedsbrud, og man placerer dem i et ulige magtforhold, som man udnytter til at trække store mængder data ud af dem, og derved fratager man dem fundamentale menneskelige rettigheder og værdighed«.

Forfatteren bag rapporten er FN’s særlige rapportør for racisme, racediskrimination og fremmedhad, professor Tendayi Achiume. Hun siger, at der er sket en »eksplosion i brugen af digital teknologi« langs grænserne, og hun mener, at der er et alt for ensidigt fokus på, at man ønsker digitale systemer, fordi man tror de er teknisk effektive, mens man fuldstændig overser konsekvenserne for de enkelte individer.

»Grænsestyringen er blevet stadig mere ondskabsfuld og afspejler en fremmedfjendsk retorik om, at flygtninge og migranter helt automatisk udgør en sikkerhedstrussel, og den digitale teknologi er med til at forstærke den måde grænserne fungerer på,« siger Tendayi Achiume, der også er juraprofessor ved UCLA School of Law.

Siden den såkaldte flygtningekrise i 2015-2016, hvor hundredtusindvis af flygtninge og migranter kom til Europa, har EU forsøgt at bremse tilstrømningen. Man indgik blandt andet en kontroversiel aftale med Tyrkiet, som for en stor sum penge skulle forhindre flygtninge og migranter i at tage videre mod Europa, og man har trænet og finansieret den libyske kystvagt, så den kan stoppe flygtningebåde fra at nå europæisk farvand og bringe flygtningene og migranterne tilbage til Libyen, selv om det er veldokumenteret, at de bliver udsat for vold, tortur og seksuelle overgreb i libyske detentionscentre.

Samtidig anklages især Grækenland for i strid med internationale konventioner og EU-lov at presse asylansøgere tilbage til Tyrkiet, mens kroatisk politi beskyldes for at gøre brug af brutal vold for at blokere flygtninge og migranter i at krydse EU’s ydre grænse på Balkan.

Imens sidder titusindvis af asylansøgere fast i overfyldte flygtningelejre på græske øer i Det Ægæiske Hav.

Og nu skal digital teknologi altså spille en større rolle i håndteringen af asylansøgere – og i forsøget på at holde dem ude.

Digital kontrol og overvågning

Ifølge Tendayi Achiumes FN-rapport gør det europæiske grænseovervågningssystem, Eurosur, brug af big-data-teknologier til »at forudsige, kontrollere og monitorere« migrantstrømmen mod Europas grænser. »Man anvender overvågningsdroner i Middelhavet for at være i stand til at underrette den libyske kystvagt, så de kan stoppe flygtninge og migrantbåde og bringe dem tilbage til Libyen,« hedder det i rapporten, der også konkluderer, at EU’s grænse- og kystagentur, Frontex, har testet droner i Det Ægæiske Hav, som har spillet en rolle i at identificere flygtningebåde, som græske myndigheder efterfølgende illegalt har skubbet tilbage mod Tyrkiet.

Petra Molnar påpeger, at »den øgede brug af overvågningsdroner presser folk til at gøre brug af stadig farligere ruter mod Europa for at undgå at blive opdaget«.

I år er næsten 80.000 migranter og flygtninge ankommet med både til Italien, Grækenland, Spanien, Cypern og Malta. FN vurderer, at omkring 850 personer i år er druknet i deres forsøg på at nå Europa.

De, som når til Europa, får deres fingeraftryk taget, men alle vil efter alt at dømme også snart få scannet deres øjne og ansigt. EU-Kommissionen siger, at man lige nu kigger på muligheden for at indføre ansigtsgenkendelse som en teknologi til at registrere asylansøgere, og EU’s Agentur for Grundlæggende Rettigheder forventer, at ansigtsgenkendelsessystemer snart vil blive brugt i stor stil inden for det europæiske asylsystem.

Det er på trods af, at EU’s topledere ifølge mediet Politico har diskuteret et midlertidigt forbud mod denne teknologi i det offentlige rum, da man er nervøs for de konsekvenser, den kan have for Europas egen befolkning. Og også på trods af, at digitale ansigtsgenkendelsessystemer har vist sig at være yderst upræcise, især når det kommer til at identificere præcis den type personer, som forsøger at krydse Europas grænser for at søge om asyl. Test har nemlig vist, at der er 100 gange større risiko for, at teknologien misidentificerer en asiat eller en afrikaner frem for en hvid person.

Tvivlsomme teknologier

I et yderligere skridt i digitaliseringen af grænserne har man gennem et EU-sponsoreret projekt, iBorderCtrl, i Ungarn, Grækenland og Letland på forsøgsbasis introduceret et »smart løgnedetektionssystem«, som ifølge EU-Kommissionen gør brug af kunstig intelligens og analyserer selv bittesmå ansigtsudtryk for at vurdere, om de personer, der ønsker at komme ind i EU, taler sandt om deres personlige baggrund. Det beskrives som et »innovativt projekt«, der skal sikre en »hurtigere og mere effektiv« kontrol ved grænserne.

Projektet er imidlertid blevet stærkt kritiseret af eksperter for, at der ikke er videnskabeligt hold i de metoder, som systemet gør brug af.

»Der er tale om en yderst eksperimentel teknologi, som kommer frem til resultater, man ikke kan stole på, og alligevel bliver det brugt til at træffe beslutninger, som kan have livsafgørende betydning for folk,« siger Antonella Napolitano, som fokuserer på overvågningsteknologiers indflydelse på migranter for Privacy International, en ngo, der har som mål at forsvare og promovere beskyttelsen af personoplysninger og privatlivets fred.

FN-rapporten er heller ikke imponeret over forsøget med en løgnedetektor: »iBorderCtrl eksemplificerer den fremherskende trend, hvor man bruger asylansøgere til at eksperimentere med overvågningsteknologier, som er baseret på et tvivlsom videnskabeligt grundlag,« står der i rapporten.

Digitale stemmeanalyser anvendes også på forsøgsbasis på asylansøgere. Eksempelvis bliver arabisktalende asylansøgeres dialekt analyseret i Tyskland for at fastsætte, om de rent faktisk kommer fra det sted, de påstår.

FN-rapporten understreger dog, at den software, som bruges, er så mangelfuld, at den ikke kan genkende mange dialekter.

»Den åbenlyse risiko er derfor, at dem, der taler de arabiske dialekter, som ikke er repræsenteret i softwaren, fejlagtigt kan blive erklæret utroværdige, og derved risikerer de at blive diskrimineret imod ved at blive ekskluderet fra juridisk beskyttelse,« hedder det i rapporten.

Tapper mobiltelefoner

I et yderligere forsøg på at verificere asylansøgeres historie og baggrund har flere lande også stukket snablen langt ned i deres mobiltelefoner.

En mobiltelefon er et uundværligt redskab for flygtninge og migranter, der ofte er undervejs i op til flere år. Ud over at de kan bruge telefonen til at holde kontakt med familien, så kan den også bruges som et redskab til at finde vej og til udveksling af gode råd migranter imellem, eksempelvis om, hvordan de bedst kommer frem, og hvor grænserne er lukket.

Men når de kommer frem til Europa går mobiltelefonen fra at være en ven til en potentiel fjende, der kan blive brugt imod dem og kan være et afgørende element i deres asylsag. Flere lande har allerede i flere år tappet asylansøgeres mobiltelefoner for data for at vurdere asylansøgeres identitet, nationalitet og forklaringer med mere. Det sker også i høj grad i Danmark, hvor der har været kritik af, at denne praksis krænker privatlivets fred og ikke lever op til den retssikkerhed, danskerne selv ville have forventet.

Også Tendayi Achiume er kritisk over for kopieringen af asylansøgeres mobiltelefoner: »Denne praksis udgør en alvorlig og uforholdsmæssig indgriben i migranter og flygtninges ret til privatlivets fred,« skriver hun i sin rapport.

Algoritmens sorte boks

Endelig er der udsigten til, at algoritmer skal spille en afgørende rolle, når det skal afgøres om en asylansøger skal have lov til at blive. Flere lande har igangværende forsøg med at gøre en automatiseret, digitaliseret beslutningsproces del af asylbehandlingen, blandt andet Tyskland.

Menneskerettighedsadvokaten Petra Molnar advarer stærkt mod denne udvikling, da den blot reducerer folk til informationsenheder, der kan passe ind i små digitale kasser, og hvor der ikke tages hensyn til den komplekse historie, hvert individ repræsenterer.

»Det er en yderst umenneskeliggørende proces, som det er meget svært for folk at gennemgå,« siger hun. »Folk skal ikke overbevise en person om, at de har brug for beskyttelse, men en algoritme, der fungerer som et sort boks, der er uransagelig og ikke skal stå til ansvar, og hvor vi ikke har indsigt i, hvordan og hvorfor den træffer de beslutninger, den træffer.«

At kunstig intelligens og algoritmer langtfra tilbyder et fejlfrit alternativ til en sagsbehandler af kød og blod er blevet bevist gennem flere fadæser. Blandt andet kom det sidste år frem, at 7.000 udenlandske studerende ved en fejl blev udvist af Storbritannien, da en defekt algoritme anklagede dem for at have snydt i en sprogtest. De fleste fik ikke lov til at appellere beslutningen og blev heller ikke oplyst om, på hvilken baggrund beslutningen var truffet.

»Er det sådan vi også vil behandle asylansøgere, der har så meget mere på spil,« spørger Petra Molnar.

Ikke samme beskyttelse

Antonella Napolitano fra Privacy International mener samtidig, at det er dybt problematisk, at Europa lader til at være villig til at eksperimentere med teknologier på sårbare grupper, der ikke nyder stor beskyttelse. »De bruges på folk, der ikke nyder den samme beskyttelse som eksempelvis danskere gør,« siger hun. »Danskere ville ikke acceptere, hvis deres personoplysninger ikke var beskyttet. De ville heller ikke acceptere, hvis algoritmer og teknologier, der har vist sig utilstrækkelige, skulle tage livsvigtige beslutninger for dem.«

»Desværre er vi villige til at udsætte migranter for en uværdig behandling, fordi der i Europa i dag er et politisk klima, hvor migranter ses som fjenden og gøres til syndebuk, for alt der er galt,« mener Antonella Napolitano.

I sin rapport argumenterer Tendayi Achiume for et midlertidigt stop for brugen af visse overvågningsteknologier, da der mangler regler og gennemsigtighed for, hvordan de anvendes over for flygtninge og migranter.

Men hun forventer dog ikke, at hendes råd bliver fulgt. I stedet forudser hun, at udviklingen med opførelsen af digitale grænser vil accelerere.

»Vi lever i en verden præget af etnisk nationalisme, hvor teknologi nu bruges som et instrument til at ekskludere bestemte befolkningsgrupper,« siger hun. »Regeringerne i Europa kan se, at der vil komme stadig større pres på deres grænser, blandt andet på grund af større migrationsbølger forårsaget af klimaændringer. Og derfor vil de ikke stoppe, men vil blive ved med at styrke de digitale grænser.«

Følg disse emner på mail

Vores abonnenter kalder os kritisk,
seriøs og troværdig.

Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Det er ganske enkelt forfærdeligt og umenneskeligt gørende.
Det er en lang række overgreb på sårbare mennesker i en umulig situation.

Disse teknologier skal ikke bruges på nogen mennesker overhovedet.

Lige nu går det ud over flygtningene. Desværre har en populistisk racisme gødet jorden, så disse overgreb virker acceptable for visse mennesker, fordi det går ud over "de andre".

I fremtiden kan det også ende med, at disse teknologier går ud over europæerne selv.

Dette "Rising Dystopia" skal stoppes, før det er for sent - men hvordan?

Esben Lykke, Christel Gruner-Olesen, Hanne Utoft, Lillian Larsen, Eva Schwanenflügel, Alvin Jensen, Gitte Loeyche, Erik Winberg, Eva Bertram, Bjarne Andersen, David Zennaro og Marianne Stockmarr anbefalede denne kommentar

En brutal grænsepolitik? Er det slet ikke gå op for Information hvor stort og vedholdende presset er på grænserne? Den åbne dørs politik vil ikke føre til en døjt andet end at problemerne vil flytte ind i Europa. Befolkningseksplosionen i Afrika og i den arabiske verden er så enorm at strømmen aldrig vil ende.

Asylpolitikken er slet ikke gearet til den moderne mobilitet. Den er udtænkt til langt mindre strømme end vi nogensinde kan håndtere. Så længe befolkningseksplosionen står på vil nye konflikter springe op i samtlige ikke-demokratiske lande med flere etniciteter, stammer eller religioner. Trykket på ressourcer som vand og jord er allerede for stort i den del af verden.

Per Torbensen, Armin Vauk, Bent Nørgaard, Finn Thøgersen, Henrik Andersen, Therese Hagen, Jacob Nielsen, Jannick Sørensen, Jan Kauffmann, Tomas Povlsen og Morten Simonsen anbefalede denne kommentar

Sshhh sshhh, nu ikke afsløre det bagved liggende problem!!

Husk nu, at børn er de fattigste eneste rigdom.

Og husk også på, at alle religiøse ledere fra de kanter af verden, alle fastslår, at man har ret til at få alle de børn man har lyst til, og prævention er under alle omstændigheder imod gudernes vilje.

Og glem nu heller ikke, at arabiske og europæiske menneskesmuglere har skilt Afrika af med overskudsproduktion af mennesker, og flyttet dem til andre dele af verden igennem århundreder.

Og i mellemtiden har vi så forbudt slaveriet, de betyder at overskudsproduktion af mennesker nu forbliver i Afrika, hvor der efterhånden ikke længere er vand og mad til dem.

Og da det også er den hvide, midaldrende, velhavende mand, som er skyld i samtlige begivenheder her på kloden, er det selvfølgelig klart, at det også er os, der skal brødføde dem, for de kan jo ikke selv.

Per Torbensen, Bent Nørgaard, Henrik Andersen, Jacob Nielsen, Jan Kauffmann og Tomas Povlsen anbefalede denne kommentar
Kristian Jensen

Det er ikke underligt, uforståeligt eller urimeligt at mennesker fra den 3. verden søger mod EU. Det er en naturlig og sund ambition for et menneske at ville prøve på at få det bedre. Det eneste vi kan gøre for at stoppe flygtningestrømmen er at hjælpe folk i deres hjemlande. Men svaret er ikke at sende penge derned, svaret er at finde demokrativenlige lande og så støtte dem med know-how til overgang til et moderne samfund, samt samarbejde og samhandelsaftaler. Et land ad gangen. En mand der sulter, skal du jo ikke give en fisk, men en fiskestang og lære ham at fiske.

Ole Svendsen, Per Torbensen, Bent Nørgaard, Alvin Jensen og Carsten Hansen anbefalede denne kommentar
Kristian Jensen

Vi kan jo lave partnerskaber med vore uddannelsesinstitutioner, det kan ikke koste det halve af hvad vi bruger på ulandhjælp idag.

Kernen i problemet er ikke overvågning af grænserne, men det faktum, at når en asylansøger først er kommet ind i EU, så er det nærmest umuligt at udvise folk igen uanset, hvor grundløs deres asylansøgning er. Så længe EU i praksis ikke kan sende folk tilbage til deres oprindelseslande, så vil den eneste løsning være at styrke de ydre grænser med de problemer, som det giver.

Per Torbensen, Bent Nørgaard, Henrik Andersen, Therese Hagen, Jacob Nielsen, Jannick Sørensen og Jan Kauffmann anbefalede denne kommentar

@Kristian Jensen Dit forslag lyder rigtigt, men selv indenfor EU flytter folk fra øst mod vest pga de økonomiske forskelle. Selvfølgelig skal vi støtte den 3. Verden, men udsigten til at det vil stoppe folkevandringen mod EU er meget, meget lang. Tværtom så kommer der flest migranter fra de afrikanske lange, hvor folk har råd til at begynde rejsen mod Europa.

Kristian Jensen.

Meget enig ; Men jeg mener at der råd og at det er en nødvendighed at den rige verden hjælper flere lande fremad, med det samme.
Og det kommer til at koste langt mere end vi bruger nu. En omfordeling af ressourcer er ganske enkelt nødvendigt hvis ikke vi vil se 100.vis af millioner der strømmer mod Europa i nær fremtid.
Og så er det komplet ligegyldigt om vi mener vi skylder disse mennesker noget eller ej !.

Vi skal dog ikke smide gode penge i diktatorers/teokraters lommer. Der skal følge krav med pengene, uanset om de politisk korrekte vil kalde dette for koloniherrementalitet.

Der skal matematik og prævention til. Det bliver aldrig bedre hvis man får x antal børn men kun ét kan komme i skole og de resterende selv starter familier i starten af 20’erne. Når man endelig får skabt arbejdspladser og uddannelsesinstitutioner er det for lidt for befolkningsforøgelse foregår hurtigere end infrastruktur til de nye borgere kan opbygges. Der ikke ét eneste udviklingsland der ikke vil få enormt gavn af ét-barns politik i en periode.

Henrik Andersen, Therese Hagen og Jacob Nielsen anbefalede denne kommentar

Jeg kan se at en flok højreekstreme tosser med en aller helvedes dobbeltmoral er kommet ind i kommantarfæltet. Og når de læser det her ved de nok selv at det er dem jeg omtaler. De kan verden forstå det ene elelr det andet udover at det er skit at alle ikke liner os. Det er ellers vores egen agering der hvor flygtningene m.f. kommer fra der er skyld i at de kommer.
Og føler du dig ramt at det her er det netop fordi du er problemet!

"For fremtidens flygtninge og migranter vil mødet med Europa blive digitalt. Og faktisk er ovenstående ikke kun et tænkt fremtidsscenarie – elementerne er allerede en realitet eller er godt på vej til at blive rullet ud på forsøgsbasis."

Husker nogen mon diskursen om Fort Europa? Ja, det var om den magtkoncentriske udvikling, som EU var/er facilitator for - og som uvægerligt ville udvikle sig mod totalitarisme. Déngang blev advarslen om Fort Europa af det almene Danmark udpeget som skræmmekampagne, en urealistisk og irrationel frygt, som primært bagstræberiske venstreorienterede nærede. På nærmest samme vis som udtalte bekymringer iht. miljøet, klimaet, den sociale sammenhængskraft/lighed etc. fik en arrogant og hånende modtagelse i massemedier og blandt politikere.

Bjarne Andersen og Eva Schwanenflügel anbefalede denne kommentar

Den største og vigtigste løsning på flygtningeproblemet er at løse det bagved liggende problem:
For hver gang den rige del af verden giver 1 kr i udviklingsbistand - suger den rige verden 10 kr ud af selv samme lande - uden at betale skat i disse lande. Denne udbytning er på flere trilliarder dollars om året og finder især sted ved hjælp af transfer pricing, og skatte fiduser.

Den fattige del af verden kan ikke komme på fode ved egen kraft, fordi den rige del af verden har en egeninteresse i at udplyndre dem økonomisk - og gør det i stor stil. Denne - mere forfinede- økonomiske udbytning har fundet sted lige siden kolonitiden ophørte. Udbytningen af Afrika fortsatte ufortrødent efter kolonitiden og gør det den dag i dag - det er bare mere skjult.

Hvis vi for alvor skal gøre noget ved disse flygtninge strømme, så skal vi være villige til at ændre dette system. Vi skal erkende vores eget ansvar for de nuværende problemer og være villige til at handle på det.

Samtidig har Europa et meget stort ansvar for de nuværende problemer i Afrika. Under kolonitiden trak de europæiske kolonimagter de afrikanske grænser med en lineal på et kort, for at fordele "rovet" imellem sig. Derfor er de afrikanske grænser så lige.

Kolonimagterne tog INGEN hensyn til at grænsen gik lige gennem en landsby og tog overhovedet ikke hensyn til hvilke befolkningsgrupper der boede i disse kunstig etablerede stater. De afrikanske lande er derfor territorial stater, med en masse indbyggede spændinger. Ikke nationalstater som vi kender det fra Europa hvor de enkelte folkeslag og sprogområder i vid udstrækning har deres eget land.

Der er ingen undskyldning for at udsætte flygtninge for disse forfærdelige forhold, som omtales i artiklen. Desuden har Europa og den øvrige rige verden et stort ansvar for de elendige forhold, som disse mennesker flygter fra.