Facebook og Google hjælper hævngerrige diktatorer

Nye internetteknologier, som kan genkende ansigter på fotos, bliver stadig mere udbredte. Beklageligvis har teknologiens skabere ikke gjort sig den ulejlighed at gennemtænke de etiske konsekvenser

Det gik frygteligt galt for Facebook, da man i juni sidste år præsenterede sit bud på en teknologi, som kunne genkende personer på de billeder, brugerne lagde på siden. Protesterne fra vrede brugere over angivelige krænkelser af privatlivets fred var utallige.

Større succes fik Google, som i november afslørede en lignende ansigtsgenkendelsesteknologi på det sociale netværk Google+.

Forskellen i reaktionsmønstrene er forståelig. Facebook åbnede for det nye værktøj uden at spørge brugerne om lov. Google gjorde sit værktøj valgfrit.

Den gode nyhed er, at webtjenester er på vej væk fra det arrogante ’vi ved, du vil elske denne her feature, så derfor gør vi den til din standardindstilling’ til det diplomatiske ’hallo, tjek lige ud, hvad der nu også kan lade sig gøre — hvis du har lyst’.

Den dårlige nyhed er, at triumfen for opt-in — det frie tilvalg — ikke er helt så stor, som den kunne se ud. Forklaring følger.

Ubehagelig konsekvens

Silicon Valley har i årevis forsikret os om, at alle beslutninger er i brugerens hænder og at man kun ønsker at give brugeren valgfrihed. Deres standardretorik hviler imidlertid på den naive forestilling, at teknologier kun er værktøjer og deres effekter alene instrumentelle.

Hvis brugerne vil benytte værktøj X til opgave Y, diskuteres alene, om Y er ønskværdig. At en omfattende anvendelse af værktøj X også kan udløse den uventede effekt Z, bekymrer sjældent ’instrumentalisterne’.

Men ingen teknologi tjener alene sin umiddelbare funktion. Den sætter også fingeraftryk på omverden, idet den kan forandre miljøer, ideologier, brugerne selv, magtrelationer og andre teknologier.

Biler kan være glimrende til at nå fra punkt A til B, men vi må også spørge: Hvilke konsekvenser har flere biler for kvaliteten af vores byliv, for luftforureningen og trafikdrabsstatistikken?

En given teknologi er ikke uproblematisk, bare fordi dens brugere kan fravælge den som ‘standardindstilling’. I USA kom det massive frie tilvalg af massebilisme til at ændre den offentlige infrastruktur og de sociale normer, så en billøs tilværelse blev meget vanskelig.

Bilen bringer os stadig fra A til B. Men ville amerikanernes livskvalitet ikke have vundet meget, hvis de i tide havde forsøgt at foregribe de afledte konsekvenser ved massebilismen?

Ikke kun sjovt og smart

Tilbage til automatisk ansigtsgenkendelse. Om den ved vi følgende: Den kan let misbruges. En søgemaskine, der kan sætte navn på mennesker ud fra ansigter, vil utvivlsomt blive populær hos diktatorer, som er opsatte på at knuse folkelige protester.

Ansigtsgenkendelse har allerede vundet indpas i mange ’harmløse’ sammenhænge. Det er blevet en populær metode til at sikre smartphones og bærbare computere imod uautoriseret brug og anvendes i spillekonsoller for at skabe en mere personlig spilleoplevelse.

Teknologien anvendes også til at registrere antallet af gæster af han- og hunkøn på barer og natklubber. Listen kunne fortsætte.

Tilsyneladende harmløse anvendelser af en ny teknologi kan imidlertid meget vel bane vej for de langt mere problematiske, der aldrig var forudset af teknologiens skabere. Og når den generelle offentlighed omsider indser dette, kan den nye teknologi være så indlejret i vores kultur, at der ikke er nogen vej tilbage.

I en vis forstand har vi at gøre med en proces, der er mere uhyggelig end kaosteoriens ‘sommerfugleeffekt’, hvor en sommerfugls vingeslag i Brasilien ender med at udløse orkan i Texas.

Palo Alto-effekten

Det vi er vidne til her, kunne vi kalde Palo Alto-effekten: En sorgløs bruger i Palo Alto beslutter sig for at bruge Googles opt-in-teknologi til ansigtsgenkendelse, men ender med at styrke en diktator i Damaskus.

Og hvorfor er den proces mere uhyggelig en sommerfugleeffekten? Fordi brugeren i Palo Alto (i modsætning til sommerfuglen) burde kunne tænke to træk frem, men foretrækker ikke at gøre det.

Hvad stiller vi op? Vi kan bevidstgøre internetbrugerne om deres etiske ansvar og de ultimative indirekte konsekvenser af deres tilvalg. Der er præcedens for den slags. Bekymringer over økonomisk ulighed, klimaforandringer og børnearbejde affødte den ’etiske forbrugerbevægelse’, som forsøger at informere forbrugerne om afledte moralske følger af deres adfærd på markedspladsen.

Samme koncept kan med fordel tages i brug over for vores adfærd på internettet. Men hvad vil ’etisk browsing’ eller ’etisk social networking’ indebære? At vi aldrig bruger webtjenester, der udnytter teknologi til ansigtsgenkendelse? At vi fravælger internetudbydere, der samarbejder med efterretningstjenester? Det er sådanne valg, vi må træffe, hvis vi ikke ønsker, at internettet skal blive en etikfri zone. Ureflekteret brug af ny teknologi skaber lige så lidt gode samfundsborgere, som ureflekteret indkøbsadfærd gør det.

Tag ansvar, Google

Men internetvirksomhederne bør ikke gå fri. Vel skræddersyer Facebook og Google ikke overvågningsværktøjer til brug for diktatorer. Men de bidrager unægtelig til at skabe den perfekte tekniske infrastruktur, der muliggør, at sådanne værktøjer kan opstå.

Internetselskaberne kender udmærket deres ansvar. Eric Schmidt, Googles topchef, har kaldt den nye teknologi til ansigtsgenkendelse for »klam« og udtrykt bekymring over perspektiverne. Ikke desto mindre har Google altså omfavnet teknologien — som opt-in. Ved at uddelegere ansvar til den enkelte bruger tror selskabet sig garderet imod anklager for uetisk adfærd.

Er dette mere overbevisende, end hvis en direktør for et olieselskab siger, at er man bekymret for klimaforandringer, kan man bare lade være med at køre rundt i en firehjulstrækker?

Evgeny Morozov forsker i nye teknologiers sociale implikationer. Han vil fremover skrive fast i Information.

© Evgeny Morozov og Information. Oversat af Niels Ivar Larsen.

Forsiden lige nu

Anbefalinger

Kommentarer

Brugerbillede for Michael Skaarup

man kan i samme åndedrag påpege at fjæsbog, ligeledes kan bruges til at udpege system dissidenter, som det skete i Bahrain. Her indsamlede styret billeder af demonstranter, og lavede en fb-gruppe, hvor befolkningen så kunne sætte navne på "forræderne" der krævede frihed, menneskererttigheder og demokrati, ved at mødes ved demonstrationer.

Derefter kunne politiet, og UAE-soldater hente der "skyldige" og "belære" dem deres fejl" de skyldige var bla. størstedelen af fodboldslandholdet, læger der hjalp såret, og en ung pige som havde læst et digt, samt. tusindevis af folk samlet på tværs af religion, køn og økonomi.

anbefalede denne kommentar
Brugerbillede for Carsten Mortensen

God artikel, og ja, - det er beskæmmende hvor kortsigtet menneskene, generelt betragtet, tænker.
På den anden side tæller at nettet er en ny mulighed for at nå mængder, noget som tidligere kun var avisers mulighed.

anbefalede denne kommentar
Brugerbillede for Henrik Darlie

Det viile være rart hvis teknologiske landvindinger ikke straks blev misbrugt af de som Einstein beskrev som 'intelligente tåber'. Anvendt viden er nu engang det eneste der kan hjælpe mennesket videre, så vidt vides ialtfald.

anbefalede denne kommentar
Brugerbillede for Henrik Nielsen

At skulle opdrage brugere, udbydere og udviklere af teknologi til at tænke og handle etisk som artiklen her nævner er måske meget idealistisk men ganske usandsynligt. Hvis der er penge/sjov/bekvemmlighed/underholdning/en genvej/spænding i at bruge, sælge eller udvikle så gør langt det største flertal lige netop det. Hvorfor bestiger man Mount Everest? Fordi det er der. Så simple er vi indrettet.

anbefalede denne kommentar
Brugerbillede for Lars Henning Osvaldsen

Man behøver nu ikke tage til Damaskus for at erfare hvordan den nye teknologi kan styrke diktatorer.
Man kan bare tage til Washington DC ..
For enhver illusion om at USA er et 'demokrati' må da være væk efter at deres Kære Leder lige har givet sig selv ret til at tilbageholde enhver på ubestemt tid .

anbefalede denne kommentar
Brugerbillede for uffe hellum

Det "frygtelige" er ikke, at en diktator kan se, hvem der delager hemmeligt i en demonstration. Det er OK, at demonstranter, ligesom i alle andre sammenhænge, ikke kan forvente anonymitet. Det er absurd, at ville demonstrere sine meninger, uden at ville vedgå, hvem man er.

Det frygtelige er, at det kan være vanskeligt at skelne mellem personlige og officielle meninger. Når fx. danske politifolk deltager i småracistiske sammenhænge, er det vanskeligt bagefter at bruge deres udsagn i en retssal, uanset om de iøvrigt passer deres arbejde ufejlbarligt.

Det frygtelige er, at menneskerettighederne ikke kan gennemføres globalt, bl.a. fordi trioen Bush, Fogh, Blair stod i front med eklatante brud, så vores ideologiske argumenter fra den vestlige erden fremstår som dybt latterlige.

Nu, efter et par uprofitable krige, har vi sat vores tidligere position med absolut politisk/militær magt over styr. Fremskridt skal nu forhandles i samarbejde med religiøse galninge og diktatorer med ubegribelig økonomisk magt.

Kynisk set er vi nødt til at omgruppere efter de nye realiteter, hvor vi har mindre magt.

1) Vi skal være uafhængige af olie hurtigere end andre regioner, så de andre kan tage sig af arabien.

2) Israel, der er vores nære venner, skal give slip på regionen Palestina, og blive et virtuelt Israel istedet for en fysisk provokation af de lokale tosser. Der findes israelske tosser, og de bliver sikkert mopsede, men hellere det, end at gamble eksistensen af Israel på et våbenkapløb imod arabiske stater, der intet har at tabe.

3) Vi skal erkende, at diktaturet i Beijing er meget større end EU + USA, og at de er villige til at agere nationalistisk og morderisk. Danmark ser sit største "eksport"-marked som Tyskland, men i virkeligheden er det vores lokalmarked, mens vors største leverandør er Kina. Ethvert skridt for mere demokratisk (vestlig) indflydelse er et varigt skridt fremad. At blive en synlig aktør i Kina er et skridt fremad.

4) Vi skal erkende, at USA står for stort set hele vores udenrigspolitik. Ethvert skridt for mere demokratisk (dansk) indflydelse er et varigt skridt fremad. At blive en synlig aktør i USA er et skridt fremad.

5) Vores lokalpolitik er EU, ikke Søllerød eller Christiansborg. Det kan kun gå for langsomt med at droppe forbeholdende og melde os ind i den synkende skude. Vi har ikke andre lige nu. At blive en fuldbyrdig aktør i EU er et lille svømmetag for vores umiddelbare overlevelse. Det svimlende bureaukrati og det korrupte embedsværk og den latterlige latineuropæiske sprogforvirring er altsammen irriterende, men vi har ikke andre valg.

anbefalede denne kommentar
Brugerbillede for Hans Nielsen

Artiklen tager efter min mening fat på en forfejlet problematik, indeholder falske udsagn og bruger forkerte vinkler.

Med hensyn til overvejelser om hvorvidt en teknologi kan have en uventet negativ effekt (Z), så må man undre sig over, at det lige er den nye ansigtsgenkendelse, der skal stå for skud. Det gælder jo al teknologi. Og risikoen følger jo naturligt af, at vi har frie markedskræfter på nettet så vel som i vores demokratiske samfund i det hele taget.

Problematikken er også forfejlet da præmissen er falsk: Aktivering af ansigtsgenkendelse åbner ikke pludselig op for at alle billeder af dig kan matches med din profil. Både på Facebook og på Google+ bruges funktionen som et redskab i "tagging" af billeder. Denne tagging har foregået også uden hjælp fra ansigtsgenkendelse i lang tid.

Derudover gik det ikke frygteligt galt for Facebook. Der var både teknologisk benovelse og bekymringer om privatliv men mest af alt var der ligegyldighed. Funktionen er aktiv i dag, og brugerne ser den som en naturlig del af funktionaliteten.

Og årsagen til at Googles tilsvarende funktionalitet er gået mere ubemærket hen er simpelthen, at vi allerede har vænnet os til tanken om avanceret teknologi til ansigtgenkendelse i almindelige web-tjenester. Det var ikke længere nyt og farligt, da Google lagde det på Google+.

Påstanden om, at webtjenester er på vej mod mere brugerfrihed og "spørg først" er helt forkert, da det forholder sig direkte omvendt. Sådan var det tidligere. Før web 2.0 og før Facebook.
Facebook var en af de første større tjenester som begyndte at tage noget af kontrollen væk fra brugerne. Det viste sig at være en meget effektiv strategi i forhold til at maksimere den virale udbredelse og anvendelse af platformen.
Et andet eksempel er Microsoft, der efterhånden styrer alle opdateringer på din computer automatisk, hvor du tidligere blev spurgt først og endnu tidligere aktivt skulle installere opdateringer selv.
Og endelig er Google det åbenlyse eksempel: Google har altid været meget påpasselig med at tage kontrol fra brugeren og har jo markedsført sig med "Do no evil". Nu er de imidlertid kommet til kort på den sociale scene, og så er de nødt til at agere mere aggressivt. Først var der fadæsen med Buzz, hvor man automatisk blev tilkoblet en Buzz-konto. Og med Google+ følger Google i Facebooks fodspor (men forsøger hele tiden at give lige en tand mere kontrol til brugeren for at kunne vinde i en sammenligning).

Påstanden om, at den ansigtsgenkendelse vi nu ser let kan misbruges er også forkert. Du kan ikke bruge hverken Facebook eller Google til at søge dig frem til vilkårlige personer på et billede. Det kan du ikke nu, og det kommer du heller ikke til at kunne (den kontroversielle funktion vil simpelthen ikke gavne forretningen hos de to tjenester).

Så er der sammenligningen med sommerfugle-effekten som er nok så dramatisk og tankevækkende men godt og grundigt malplaceret i konteksten. Der er *ingen* direkte forbindelse mellem en aktivering af ansigts-genkendelse på et socialt netværk udført af en bruger i Palo Alto og at en diktator kan blive styrket. (Og selv hvis der var, så var sammenhængen ikke kaotisk som med sommerfuglen og vil derfor stadig ikke berettige den sammenligning.)

Så fortsætter artiklen med forslag om etisk internetbrug. Boykot af tjenester med ansigts-genkendelse er argumenteret imod via ovenstående, men den næste er også lidt pudsig: Skal vi fravælge tjenester, der samarbejder med efterretningstjenester? I så fald skal vi fravælge alle lovlydige tjenester og udbydere fra alle stater, der har en efterretningstjeneste. Det bliver nok ikke så sjovt et internet.

Artiklen slutter med en tiltrængt valid pointe: Brugerne er reelt ligeglade og ansvaret for etisk brug af teknologi ligger derfor hos udbyderne. De er imidlertid virksomheder, der forventes at maksimere deres udbytte og derfor bør det endelige ansvar naturligvis ligge hos regulerende myndigheder.

anbefalede denne kommentar
Brugerbillede for Henrik Nielsen

Uffe Hellum

Er det ikke lidt let fra et land som Danmark, hvor man ikke risikerer ret meget og får erstatning for at side længe på et fortov, at sige man skal stå ved sine holdninger, når man andre steder risikerer tortur, forsvindinger, voldtægt og drab, for blot at demonstrere for social retfærdighed eller ytringsfrihed?

anbefalede denne kommentar
Brugerbillede for uffe hellum

@Henrik Nielsen

Jo, absolut. Hvor mange er døde i politiets varetægt de sidste tyve år? Sikkert under tyve. Og et svimlende antal har helt sikkert opført sig vanvittigt, voldeligt, bevæbnet, helt udenfor pædagogisk rækkevidde, og er alligevel sluppet uden en skramme, fordi professionelle betjente har haft overskuddet og tålmodigheden til at køle dem ned.

Min mening er, at du ikke kan forhindre regimer i at foretage ulovlig registrering, når vi ikke engang kan forhindre et stort set fornuftigt dansk politi i at fotografere lovlige demonstranter, og se igennem fingre med racistiske uromagere i uniform.

Google og Facebook er ikke en del af problemet.

Problemet er, at vi i alt for høj respekterer andre staters suverænitet til at overtræde menneskerettigheder. Og at vi selv gør krav på suverænitet i indvandrerspørgsmål.

Løsningen er, at demonstranter aldrig må forvente anonymitet. Og at demonstranter skal kunne forvente massiv opbakning til deres ret til at demonstrere fra alle civiliserede lande.

Det er bittert, at fredelige mennesker får deres liv ødelagt, fordi de står frem og taler den sag, de synes er retfærdig. Men du kan ikke forbyde eksport af computere og kameraer til totalitære stater, eller nedlægge google, du kan kun fastholde, at overgreb er og bliver uacceptable.

anbefalede denne kommentar