Skal vi lade Facebook forudsige fremtidige forbrydelser?

I relativ ubemærkethed er ny internetteknologi og avancerede algoritmer ved at revolutionere moderne politiarbejde – med potentielt skræmmende perspektiver for privatlivets fred og den personlige frihed

Takket være ny computerteknologi tegner politiets fremtid lys – og ikke kun fordi de kan google mistænkte. To andre endnu ret ubemærkede tendenser vinder frem og gør politifolkenes arbejde lettere og mere effektivt. Men de rejser også delikate spørgsmål om privatlivets fred og de borgerlige frihedsrettigheder.

For det første omkonfigureres politiarbejde efter big data-principper. Tankegangen er, at en større og dybere analyse af oplysninger om tidligere forbrydelser, der kombineres med avancerede algoritmer, kan forudsige fremtidige forbrydelser. Metoden kendes som ’forudsigende politiarbejde’ (predictive policing), og selv om den kun har været praktiseret i et par år, taler insidere om »en revolution inden for politiarbejde«.

Politiet i Los Angeles bruger nu i stor stil software kaldet PredPol. PredPol analyserer de seneste års kriminalitetsstatistikker, opdeler så patruljeområdet i mindre zoner og beregner de tidligere forbrydelsers udbredelse og hyppigheden inden for disse. På dette grundlag adviserer det betjentene om forbrydelser, der kan være undervejs i disse zoner og hvor og hvornår.

Fordelen ved fremgangsmåden er selvfølgelig, at det er bedre at forhindre en forbrydelse, før den sker end at skulle efterforske den, når den er sket. Så selv om patruljebetjentene ikke nødvendigvis pågriber flere kriminelle på fersk gerning, kan deres tilstedeværelse på rette tid virke afskrækkede på potentielle forbrydere.

Fem distrikter af LAPD, der benytter programmet, har kunnet se deres lokale kriminalitet falde med 13 procent. Politiet i Santa Cruz, der også bruger PredPol, har registreret 30 procent færre indbrud.

Betjent Facebook

Hvis sådanne ’forudsigelser’ lyder bekendte, er det, fordi metoden er inspireret af internetvirksomheder som Amazon, der har udviklet en unik evne til at gennemskue de specifikke grupper i deres kundebase og profilere deres indkøbsmønstre, således at det bliver muligt ikke bare at forudse, men også påvirke kundernes fremtidige adfærd. Tilsvarende kan lignende algoritmer fortælle politiet, hvor ofte – og hvor og hvornår – der igen vil ske visse typer forbrydelser.

Men læg mærke til, at offentligheden ikke har mulighed for at tjekke Amazons algoritmer. De er uigennemsigtige og ikke genstand for ekstern kontrol. Amazon hævder, at hemmeligholdelsen er nødvendig for at forblive konkurrencedygtige, og det skal nok passe.

Men det argument har ingen gyldighed for politiarbejde: Hvis ingen kan tjekke de algoritmer, som den prædiktive politiovervågningssoftware opbygges efter, har vi heller ikke mulighed for at vide, hvilke mulige fordomme og diskriminerende praksisser der indbygges i dem af de private softwarefirmaer, som udvikler dem.

Derudover findes endnu en ny tendens, der kan gøre politiets arbejde endnu lettere og med endnu mere kontroversielle resultater. Virksomheder som Facebook bruger i stor stil algoritmer og big data til at forudsige, hvilke brugere der kan begå forbrydelser. Det virker, som følger: Ved at overvåge visse adfærdsmæssige spor – skriver brugeren f.eks. kun til personer under 18, er de fleste af brugerens kontakter kvinder, er der hyppig forekomster af ord som ’sex’ eller ’date’ – kan Facebooks prædikative systemer markere visse brugere som mistænkelige nok til, at dets medarbejdere kan se nøjere på hvert enkelt tilfælde og om fornødent tippe politiet om dem. Reuters rapporterede for nylig om, hvordan Facebooks prædikative algoritmer fangede en midaldrende mand, der chattede om sex og arrangerede et møde med en 13-årig pige. Politiet tog kontakt til teenageren, overtog hendes computer og pågreb manden. Og det er ikke kun algoritmer – Facebook trækker også på arkiver af virkelige chats.

Mistænkt i god tid?

Nu er det måske svært at opponere imod metoder, som kan forhindre seksualforbrydelser imod børn. Men læg mærke til, at Facebook kan udføre mange andre politiopgaver: Opdage potentielle narkohandlere, identificere potentielle ophavsretovertrædere og finde frem til ballademagere som dem, der deltog i sidste års optøjer i Storbritannien.

Selvfølgelig afsøger politiet allerede sociale netværkssider for at finde tegn på anslag imod lov og orden. Men i modsætning til Facebook ser de ikke hele billedet: Private chats og ’tavse’ handlinger – hvilke links, der bliver klikket på, hvilke sider der åbnes og så videre – er usynlige for politifolkene. Men ikke for Facebook, så Facebooks prædikative magt er meget større end politiets. Og hvor politiet kun kan få adgang til en persons private data med en dommerkendelse, kan Facebook se sine brugeres data, når det vil. Set fra politiets synsvinkel kan det ligefrem være en fordel at lade Facebook gøre alt det beskidte arbejde, da Facebooks undersøgelser ikke behøver at gå gennem retssystemet.

Med tilstrækkeligt store datamængder og de rette algoritmer vil de fleste af os kunne virke mistænkelige i en eller anden grad. Og hvad nu hvis Facebook melder os til politiet – før vi har begået noget kriminelt?! Vil vi som figurer i en Kafka-roman stå uforstående over for, hvori vores forbrydelse egentlig består og skulle bruge resten af vores liv på at rense vores ry? For hvad nu hvis algoritmerne er forkerte?

 

 

Evgeny Morozov forsker i nye teknologiers sociale implikationer ved Stanford University © Evgeny Morozov og Information. Oversat af Niels Ivar Larsen

Forsiden lige nu

Anbefalinger

Kommentarer

Brugerbillede for Kristian Lund

Og så skal det også lige huskes, at Facebook er en maskine til at tjene penge med (det er det, børsnoteret betyder). De vil udføre og sælge politi-arbejde eller rådata til højest betalende - om det så er styret i Danmark, USA, Libyen eller Kina.
Det bliver svært at lave revolutioner, eller bare lovlige demonstrationer, når ens kommunikationsværktøjer arbejder for andre end én selv... Hvor mange homoseksuelle og forkæmpere for deres rettigheder var blevet stoppet og retsforfulgt for deres præferencer, hvis vi havde haft denne teknologi for 100 år siden? Er vi parate til at overlade så altomgribende magt til de lige nu siddende regeringer, eller skal vi have mulighed for civil ulydighed? Tidsvinduet for det sidste er ved at lukke...

Men de beskrevne scenarier ovenfor er heldigvis blevet forudset for en 10-20-30 år siden, alt efter hvordan man skærer kagen. Lang tid nok, til at begynde at arbejde på en løsning:

http://www.youtube.com/watch?v=-BSLBvwyUEs

anbefalede denne kommentar
Brugerbillede for Henrik Darlie

"Metoden kendes som ’forudsigende politiarbejde’ (predictive policing), og selv om den kun har været praktiseret i et par år, taler insidere om »en revolution inden for politiarbejde«."

Man tror efterhånden hverken sine egne øjne eller ører.
Var det 'revolution' der blev sagt, eller var det 'clairvoyance'? Var det mon ikke snart på tide at man begyndte at 'overvåge' de rigtige steder, istedet for at opfinde fremtidige forbrydelser.
Fødderne har forladt jorden og hovedet har forladt kroppen.

anbefalede denne kommentar
Brugerbillede for Theis Bach Carlsen

Tre umiddelbare problemer:

1) Uskyldig til det modsatte er bevist

2) Hvorfor fokuserer man ikke på, hvorfor folk laver forbrydelser i stedet for at forudsige dem

3) Hvis man helt nedlægger postvæsenet, har de os virkelig, da man nok bør brevkorrespondere, hvis man vil gøre noget revoutionært

anbefalede denne kommentar
Brugerbillede for Rolf Hansen

Hvad gør vi så med en potentiel pædofil?

Spærrer ham inde, ellers behandlet ham som det misbrugte barn han i virkeligheden er? Se det er i virkeligheden mere interessant for mig, da det siger noget om intelligensen bag!

anbefalede denne kommentar
Brugerbillede for Jacob Knudsen

pfff... hvis man er kriminel er man en idiot hvis man bruger facebook til at snakke om kriminalitet... Man fortjener nærmest at blive taget... Der findes masser af krypterede beskedservices der ikke kan spores hvis man vil "gøre noget revolutionært" - hvor der er en vilje er der en vej....

anbefalede denne kommentar
Brugerbillede for Søren  List

Det største problem er nok den generelle uvidenhed og fremmedgjorthed, der præger omgangen med de kommunikationsmidler vi dagligt beskæftiger os med..

Det kræver en intellektuel indsats, at forstå hvad en algoritme er og hvad man bruger den til.

Denne uvidenhed gør, at det ramaskrig der faktisk er berettiget udebliver.

anbefalede denne kommentar
Brugerbillede for Kristian Lund

@Jens Overgaard Bjerre:
Alle emails og SMS'er i DK bliver registreret. Uden mistanke. Bare fordi. Det bliver de næste kommunikationsformer også. Medmindre vi designer dem, så det er umuligt...

anbefalede denne kommentar
Brugerbillede for Kristine  Grøn Ansen

Hvis man også kan og ikke mindst gerne vil forebygge social marginalisering, mobning og psykiske problemer løser problemerne med kriminalitet måske sig selv med tiden ?

Hvad skal samfundet stille op af nye alternativer, til de personer som hindres i at begå forbrydelser, fordi nogle af de personer vil måske komme med nogle behovsbetingede reaktioner på vej mod en kriminaltetsfri tilværelse ?

anbefalede denne kommentar
Brugerbillede for Henrik Strøm

@Jacob Knudsen
Det er ikke det der menes. Der skal ikke et "vi røver banken kl. 17" til for at indikere potentiel kriminalitet - når man har store mængder data om folks adfærd til rådighed kan man finde mønstre, som måske kan pege i retning af at noget er ved at ske.

Det rigtigt interessante er hvad der sker når politi og efterretningstjenester begynder at deltage aktivt - "Politiet tog kontakt til teenageren, overtog hendes computer og pågreb manden." - vi kan ikke med sikkerhed vide hvad der ville være sket hvis politiet ikke havde blandet sig - det bliver hurtigt fristende at hjælpe begivenhederne lidt på vej, og så er vi i Kafka-land.

anbefalede denne kommentar
Brugerbillede for Thomas  Knudsen

Det er ikke algoritmerne der er problemet, det er bare en teknologisk udvikling. Problemet er lovgivningen, med terrorloven og de helt ekstreme beføjelser politiet fik i forbindelse med klimatopmødet.

Hvis vi har et velfungerende demokrati er teknologisk udvikling ikke et problem

anbefalede denne kommentar
Brugerbillede for Kristian Lund

@Thomas Knudsen:

Et velfungerende demokrati er en utopi - vi kan stræbe mod det, men vi skal ikke regne med at nå det.

Desuden har teknologien langt større indvirkning på samfundet, end de politiske processer har. Vi kan overvåge alle, så det gør vi - fordi det er så nemt og måske en dag kunne bruges til noget og folk ikke brokker sig fordi det synes så abstrakt. Du må ikke engang få nøglen der beviser hvem du er overfor din bank og det offentlige i hånden - for det var billigere at sælge den til højeste byder, som nu skal logge ind for dig hver gang du vil bevise at du er dig. Et system der er fuldstændig totalitært, konkurrenceforvridende og et eksempel på one-point-of-failure hvis der nogensinde var et.

Sådanne løsninger har langt større betydning for vores samfund end de regler man laver. Og så kan de sniges ind af både politikere, folk med en god forretningsidé for al den data de kan stjæle om dig, og samfundets egne strømningner. Helt uden om de demokratiske processer.

TL;DR: De teknologiske processer er ligeglade med demokratiet, og bestemmer mere over vores liv end vi og vores politisker systemer gør det.

anbefalede denne kommentar
Brugerbillede for Louise Engell

Hvis man vil være sikker i dette samfund - så træk stikket ud, det hjælper på det. Hele nettet bliver overvåget og vi vi er chokeret over, at Kina gør det? De er idet mindste åbne omkring det (hvis vi ser bort fra deres censur med mere)

anbefalede denne kommentar