Efterhånden som teknologierne bliver mere intelligente, bliver vi selv mere som ting

I årets gavehøst kan de nybagte forældre glæde sig over at have fået en sparkedragt, som overvåger babys vejrtrækning, kropstemperatur, og selv kan regulere temperaturen i børneværelset.

Peter på 10 år kan fryde sig over sit nye aktivitetsur, der kan fortælle, hvor mange skridt han går om dagen, og huske ham på at lave lektier og børste tænder. Far og mor er vilde med deres nye digitale butler, som kan sætte musik på ved hjælp af stemmestyring, komponere en indkøbsliste og sørge for, at varerne bliver bestilt og leveret.

Dette er ikke et fremtidscenarium – det er virkeligheden i 2016. De intelligente ting er på allerede på markedet og udgør krumtappen i det såkaldte spirende Internet of Things, som på dansk går under betegnelserne IoT eller Tingenes Internet, og som i en artikel i The New Yorker betyder, at »mennesker er tal, algoritmer definerer reglerne og virkeligheden er, hvad data fortæller os«.

Frihed eller overvågning?

Mange hylder udviklingen. De internetforbundne teknologier kan skabe mere frihed og hjælpe os med at klare de praktiske hverdagsopgaver. Hvem ville ikke gerne altid have frisk mælk i køleskabet uden at skulle tænke på, hvordan den havner der?

Andre ser mere pessimistisk på udviklingen og frygter, at IoT er endnu et skridt på vejen mod et overvågningssamfund. De frygter, at vi ikke længere vil reflektere over vores valg, fordi beslutninger allerede er taget for os på baggrund af de data, der konstant indsamles om os. 

I debatten bliver det ofte glemt, at vi som mennesker har et valg i forhold til, hvilke teknologier og tjenester vi vil invitere inden for i vores liv. Hvordan vi lever med internettet, er ikke givet. Men for at vi kan beslutte, hvordan vi vil leve sammen med teknologien, skal vi forstå den gensidige påvirkning mellem mennesker og teknologi.

Vi ændrer vores adfærd

Vi har alle prøvet at stå og vifte med hænderne under en automatisk vandhane, uden at vandet af den grund begynder at løbe. Vi vifter hænderne til venstre, til højre, lidt op og ned, indtil vi finder den vinkel, som vandhanens sensor kan aflæse. Vi ved nemlig godt, at sensoren aflæser vores bevægelser, og det er netop, hvad vi ønsker.

På nettet, og når det drejer sig om internetopkoblede teknologier, er det ikke helt så ligetil. Vi ved ikke, hvornår vi aflæses, eller hvor de data, der opsamles, ender henne. Vi ved heller ikke, hvad disse data præcist bruges til.

Mange firmaer ser data som ’den nye olie’ – et råstof, der kan bruges til at øge indtjeningen, for eksempel ved at kategorisere kunderne i højere grad end tidligere.

Men hvad betyder det for mig, at en virksomhed laver en profil af mig? For en sikkerheds skyld lader jeg måske være med at købe den ekstra store popcorn på mit kundekort til biografen. For hvis jeg nu kan aflæses som sådan én, der drikker Cola XL og spiser den store bøtte med popcorn, gider forsikringsselskaberne måske ikke at have mig som kunde? Eller måske sætter de prisen op?

Hvis man aldrig ved, hvem der kigger med, begrænser man sin adfærd. I tilfældet med popcorn og cola er det måske ikke fatalt, men tænk tanken til ende. Risikoen er, at vi bygger et fængsel for os selv, hvis de teknologier, der skulle hjælpe os i hverdagen, ender med at styre vores adfærd.

For der er gode grunde til at bekymre sig om, hvad data bruges til.

Dine energidata kan fortælle, om du er typen, der husker at slukke lyset, og om du står for længe under bruseren. Din stemmestyrede butler kan fortælle en masse om dig. Hvilken type kunde du er, og hvem du er som person. Butleren er intelligent, men er den også diskret? Den er nøglen til dit privatliv … også de dele, du aldrig aktivt har taget stilling til.

Og hvad nu, hvis banken har opsamlet data, der ifølge deres analyse viser, at du er i højrisikogruppen af kunder, der ikke tilbagebetaler lån – hvad gør banken så?

Det problem er velkendt i USA, hvor man skal have foretaget en såkaldt credit report for at kunne optage lån. Kunderne ved imidlertid ikke, hvilke data rapporten er baseret på. Flere har endda oplevet, at deres navn var blevet byttet rundt med en anden kundes, hvilket indvirkede negativt på deres kreditværdighed. Men det var der ikke noget at gøre ved.

Vi bliver produktet

Alle de data, der opsamles fra internetopkoblede teknologier har værdi for de virksomheder, der har lavet produktet eller udbyder tjenesten. Hypotesen er, at man ud fra store datamængder vil kunne forudsige, hvem der er en god kunde, og hvem der ikke er.

Ud fra data kan det også fastslås statistisk, hvornår en kvinde føler sig mindst tiltrækkende. Ved man, hvornår usikkerheden er højst, er det måske netop dér, hun skal modtage en reklame for makeup og ny shampoo på Facebook.

Er det relevant for denne kvinde at modtage den slags reklamer? Hvem beslutter det? Det gør naturligvis firmaerne, der bygger deres forretningsmodel på de data, de indsamler og sammenstiller.

Her er det vigtigt, at vi spørger os selv, hvornår IoT understøtter det, der er vigtigt for menneskeheden, og hvornår det mest af alt er en genvej til en bedre bundlinje for de virksomheder, der af den ene eller den anden grund er datavelhavende.

Mange vil mene, at når beslutninger tages væk fra mennesker og i stedet træffes af teknologier, vil de være mere objektive. Teknologier er jo ikke styret af følelser, som mennesker er.

Men teknologier er opfundet af mennesker, og de bruges til bestemte formål. Teknologier påvirkes af den tid og sammenhæng, de er skabt i. Teknologier er således ikke politisk neutrale. 

Som den digitale butler kan genkende stemmer, kan computerprogrammer gennemgå tusindvis af fotos på ingen tid og genkende ansigter. Det har dog vist sig, at programmerne ikke er neutrale, men nemmere genkender hvide ansigter. På samme måde er der en stor risiko for, at IoT viderefører kønsstereotype og endda racistiske holdninger.

Teknologien er ikke objektiv, hvordan skulle den kunne være det? Hvis vi stoler på, at den vil os alle sammen det bedste, og at data kender sandheden om os, risikerer vi at skabe et dybt konservativt samfund. Skal vi undgå det, må vi engagere os i, hvordan data er indsamlet, og turde spekulere i, hvad data fortæller. 

Stil krav

Vi gør os umage for at få IoT til at virke, så det kan give os det, vi gerne vil opnå: frihed og bekvemmelighed. Men friheden og bekvemmeligheden har en pris. I takt med, at teknonologierne bliver mere intelligente, bliver vi selv mere som ting.

Vi søger efter teknologi, der kan frigøre os, men tilpasser os samtidig utilstrækkelige produkter og tjenester. Mens vi delegerer mere arbejde til dem, glemmer vi, at tingene ikke er samfundsintelligente. Tingenes intelligens er stærkt betinget af, at vi er kloge, når vi inviterer dem inden for i vores tilværelse.

Vi kan alle stille spørgsmål til virksomheder og deres produkter om, hvor alle de data, vi hele tiden skaber, ender henne. Vi kan også stille krav til politikerne om, hvordan data må bruges. Det behøver man ikke have teknisk snilde for at gøre. Som borgere er vi alt andet end teknisk ukvalificerede.

Vi har et ansvar for at vælge de produkter, der passer på vores data, men virksomhederne har også et samfundsansvar for den måde deres produkter indsamler og bruger data på. Selvbestemmelse gennem databeskyttelse er måske, hvad vi i virkeligheden burde have ønsket os til jul.

Brit Ross Winthereik og Nanna Gorm forsker ved IT Universitetet i København