Kronik

Magtblinde it-specialister er en trussel mod demokratiet

Algoritmer bestemmer vores hverdag. Dermed er dataloger som jeg blevet medspillere i en omfattende teknokratisering. De færreste lægmænd forstår omfanget af den magtforskydning, og vi tekniskkyndige er heller ikke bevidste om, i hvor høj grad det stiller krav til vores etik
Algoritmer bestemmer vores hverdag. Dermed er dataloger som jeg blevet medspillere i en omfattende teknokratisering. De færreste lægmænd forstår omfanget af den magtforskydning, og vi tekniskkyndige er heller ikke bevidste om, i hvor høj grad det stiller krav til vores etik

iBureauet/Mia Mottelson

Debat
1. august 2016

Da jeg i 2010 som førsteårsstuderende på datalogistudiet på Københavns Universitet ankom til første kursusgang i algoritmik, fortalte professoren, at en algoritme er en maskinel opskrift, der skridtvis beskriver de operationer, der er nødvendige for at udføre en logisk opgave.

I dag er situationen anderledes: Algoritme har fået en bred betydning både i akademisk og folkelig diskurs.

Vi hører, at algoritmer foreslår film og musik på streamingtjenester, fordeler nye elever på gymnasierne, styrer eksponeringen af artikler på nyhedssider, og at algoritmer i den nærmeste fremtid skal køre vores biler.

Information har de seneste fem år omtalt algoritmer i 209 artikler. De foregående fem år var det tal kun 42. Informations artikelhistorik viser, at den til stadighed mere indgribende digitalisering af samfundet dækkes mere og mere flittigt.

Det kunne jo lyde som en succeshistorie: Computerteknologien optimerer processer og revitaliserer samfundet, alt i mens folket er velinformeret om udviklingen.

Men i takt med algoritmebegrebets folkelige gennembrud er en vigtigt komponent gået tabt, og det udvander ikke blot den tekniske definition, men efterlader også et demokratisk problem.

Algoritmer forstås nu på baggrund af, hvad de løser, og ikke længere på baggrund af hvordan. Fokus er ikke længere, hvilke operationer der er nødvendige for at udføre en logisk opgave.

Modernisering og effektivisering er blevet synonymer med moderne computerteknologi, i stedet for, hvad der burde være det centrale; nemlig ’hvordan’ vi – etisk forsvarligt – benytter computerteknologi til at imødekomme moderniseringen.

Det uindviede flertal

Den teknisk mindre kyndige del af befolkningen er dels uindviede i centrale aspekter af digitaliseringen, dels fraværende i diskussion om, hvordan teknologi bruges som et magtredskab.

At lægmænd ikke forholder sig til, hvordan vi bruger computerteknologi, svarer til, at landets love udelukkende var kendt af jurister, eller at det krævede en grad i statskundskab at have en holdning til politik.

Dataloger, som jeg, er på den måde afgørende medspillere i en omfattende teknokratisering. En magtforskydning, som vi ikke engang selv helt har begrebet endnu, endsige forstået konsekvenserne af.

Det rejser selvsagt nogle etiske problemstillinger, når magten kommer snigende til én. Hvordan forholder man sig eksempelvis som programmør til, at en fra ledelsen beder en om at udvikle automobil-software, der lyver om bilens reelle miljøbelastning?

Volkswagen-skandalen er langt fra det eneste eksempel på, at tekniskkyndige har opnået en magt, de ikke evner at administrere etisk forsvarligt.

Teknisk røgslør

Algoritmer laver hver dag personligt målrettet indhold online med intelligente klassifikationer og associationer af information.

Det er essentielt for en positiv brugeroplevelse, fordi den informationsstrøm, der befinder sig online, er massiv. Algoritmer kuraterer indholdet, så vi ikke selv belemres med at skulle prioritere og filtrere store mænger information.

I 2015 studerede et amerikansk forskerhold, hvor bevidste facebook-brugere var om algoritmers indvirkning på indholdet.

Her viste det sig, at over halvdelen (62,5 procent) af de adspurgte ikke var klar over algoritmers kuratering af indholdet på sociale medier overhovedet.

Facebooks algoritmer har magten til at forme brugeres oplevelse og opfattelse af verden, men alligevel er størstedelen af brugerne uvidende om deres eksistens.

Altså kunne noget tyde på, at algoritmers reelle betydning er usynlig for brugerne. En af årsagerne kunne være fraværet af den offentlige debat om, hvordan vi skal bruge teknologi til at indrette og i sidste ende forbedre vores samfund.

Læs også: I fremtiden redigerer computere din avis

Frank Pasquale beskriver i bogen The Black Box Society, med den lidet flatterende undertitel The Secret Algorithms That Control Money and Information, hvordan beslutninger er indhyllet i et røgslør af teknisk kompleksitet og bliver taget af den såkaldte tech-elite fra magtens epicentre som Silicon Valley og Wall Street.

Virksomheder og regeringer indsamler information gennem vores arbejdsrutiner og online-tilstedeværelse, og denne utroligt detaljerede data bliver uden vores viden hensynsløst brugt til eksempelvis at skabe privat fortjeneste.

Denne betragtning er måske ikke ny for mange af Informations læsere.

Til gengæld er der intet, der tyder på, at vores til stadighed stærkere bevidsthed om regeringers og private virksomheders dataindsamling og -deling, som whistleblowere som amerikanske Edward Snowden har åbenbaret for os, gør os til mere bevidste og kritiske aktører på internettet.

Der ser heller ikke ud til, at regeringers og virksomheders magt og handlemuligheder bliver mindre. Vi ved, at vi bliver overvåget, og at vores private oplysninger bliver udnyttet, men vi kender ikke den teknologiske proces og udvikling, der ligger bag denne udnyttelse. Og derfor har vi svært ved at beskytte os og stille krav.

Samfundsbevidste it-folk

Løsningen lyder ofte på at lade it-undervisning begynde tidligere, eller på strengere lovgivning om datahåndtering og -processering.

Selv om første forslag utvivlsomt er en god idé – også af andre årsager – kræver anden del en stærkere bevidsthed, som ikke kun er af teknisk art, men også har en politisk dimension.

Her i Information har argumentet lydt, at fremtidens humanister skal turde teknologien, men måske går det også den anden vej rundt: at vi dataloger og andre teknisk uddannede, der i dag har langt mere magt, end vi går rundt og tror, også får en større bevidsthed om de etiske og politiske komplikationer i det arbejde, vi bedriver – og det samfund, vi er med til at forme.

Løsningen må med andre ord være, at det som lægmand skal være legitimt at have en holdning til it, og at de it-kyndige bliver mere samfundsbevidste.

»I can see you, and I can use what I see to rig this election,« siger Frank Underwood i fjerde sæson af House of Cards, da han introducerer masseovervågning som aktiv spiller i kampen for at vinde præsidentembedet i USA.

Begge præsidentkandidater har entreret med dataspecialister for at analysere big data ultimativt for at vinde vælgernes gunst, ved at udnytte trends i søgemaskiner og online-medier.

Da NSA-specialisten forklarer, hvordan overvågningsalgoritmen er afhængig af de variable, der gives som input, svarer Underwood »give me English«, og demonstrerer her en herskende tendens: At spørgsmålet om ’hvordan’ i tekniske sammenhæng er forbeholdt specialister, og at udenforstående ikke kan diskutere algoritmer.

Men computerteknologi er i dag lige så meget, ja, teknologi, som det er et politisk og dermed demokratisk anliggende.

Internettets sociale medier og platforme hyldes ofte som en åben offentlighedssfære for uhæmmet demokratisk deltagelse, men vi har brug for også at anlægge et perspektiv på teknologien som en trussel mod vores personlige frihed.

Teknologien er nemlig lige så meget et redskab til demokratisk deltagelse som et instrument til en begrænsning og manipulation af samme.

I dag er algoritmen en så gennemgribende komponent i struktureringen af vores hverdag og den måde, virkeligheden bliver præsenteret for os på, at det både kalder på personlig, demokratisk og politisk stillingtagen.

Aske Mottelson er ph.d.-studerende i datalogi ved Københavns Universitet

Følg disse emner på mail

Vores abonnenter kalder os kritisk,
seriøs og troværdig.

Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Randi Christiansen

Hej morten - tænkte nok, jeg ikke kunne slippe med den kærlige samarbejdsstat, men det er jo lige så godt som 'gør mod andre, som du ønsker, de skal gøre mod dig', ik?

'Operator, information, give me jesus on the line' - 1,618, skabelsens nummer, skabelsens princip, alt vokser i phi - som er konstanten. Put den i logaritmen, og du skal se løjer. Kh

Randi Christiansen

Michael, etik, som afhænger af, hvor den enkelte kan overtale sig selv til at vride den hen, er ikke meget værd som fællesnævner.

Og nej, et eksakt argument er ikke et etisk men et faktuelt argument.

At kaste sig over skabelsen af 'kunstigt' liv før man forstår grundprincipperne for det allerede eksisterende liv, forekommer mig at være hovedløs gerning - som det så ofte før har vist sig at være tilfældet i benovelsen over ny teknologi. I den samtale er det tyndt at aflevere en subjektiv vurdering i stedet for et argument.

Randi Christiansen

Morten, en anbefaling? Af phi som konstanten? Kom igen ....

Michael Kongstad Nielsen

Randi, jeg kan forstå, du ikke ønsker at forholde dig etisk til livet, fx. om magtblinde it-specialister er en trussel mod demokratiet - og det er også svært, det medgiver jeg - så du slipper.
Skønt netop it-benovelsen var et af de fænomener, jeg mener fører frem til skandalerne i vores it-systemer, fx. efi i SKAT.
https://www.dr.dk/nyheder/penge/skandalen-om-skats-it-system-efter-11-aa...

Philip B. Johnsen

Michael Kongstad Nielsen
EFI var kun en undskyldning for politisk mafia bevist kunne nedlægge store dele af skat.

Det udlægges, som var det en fejl!

Folketinget fyrede alle Skat's bedste folk, helt bevist før EDB systemet kunne overtage deres arbejde, efterfølgende har Folketinget systematisk sikret sig, at det fortsat ikke var muligt at ansætte kvalificeret personale, på trods af Folketinget var velvidende om, at der var meget store gevinster for samfundet ved, at ansætte skattefolk.

På denne måde fik liberale og neo-liberale indført New Public Management og neo-liberalismens konkurrencestat.

Gælden til SKAT udgør mere end DKK 90 milliarder.

Fra link
Ifølge Bagge og Bygholm er Skat blevet sparet i stykker, efter at staten overtog opgaven fra kommunerne i 2005.

En storstilet omlægning, der blev gennemført, af den daværende VK-regering, men som med Bygholms ord blev baseret på en:

»religiøs politisk fokusering på besparelser«.

Selv om den daværende departementschef, Peter Loft, og den daværende skatteminister, Kristian Jensen (V), ikke mener, at Skat er sparet i stykker, erkender de, at omlægningen ikke blev som forventet.

Ingen vej tilbage
De budgetterede besparelser blev fastholdt, selv om forudsætningerne skred. Det lykkedes aldrig at få helt styr på de it-løsninger, der skulle overtage arbejdet fra de fyrede skattefolk. Og mange af de dygtigste medarbejdere valgte at blive i kommunerne frem for at følge med over i den nye statslige skattevirksomhed. Alligevel blev spareplanen ikke justeret undervejs:

»Det er svært at stoppe processen midt i vadestedet, opgaven var flyttet væk fra kommunerne, der var ingen vej tilbage«, siger Kristian Jensen

Link: http://politiken.dk/oekonomi/ECE2388338/svag-kontrol-faar-firmaer-til-at...

Denne politiske beslutning neoliberalisme og konkurrencestats princippets indførsel, igennem udfasning af Skat, skal ses i lyset af den samlede politiske strukturændring, fra tidligere tiders politik, bygget på langsigtede bæredygtige mål, fremtidssikret og realistisk politisk vision og politisk veldefineret strategi for realisering, til den nye politiske stredregi, 'Nødvendighedens politik', neoliberalismen og indførsel af New Public Management og konkurrencestat.

Fra link: statsrevisorernes Beretning om

Skatteministeriets økonomistyring 3/2015

3/2015 "Statsrevisorerne kritiserer skarpt, at Skatteministeriet ikke har sikret rammer og grundlag for en tilfredsstillende opgaveløsning i SKAT. SKATs drift og sty- ring er ikke tilstrækkelig effektiv og sikker.

Ebbe Overbye, Morten Balling og Michael Kongstad Nielsen anbefalede denne kommentar
Morten Balling

»Det er svært at stoppe processen midt i vadestedet, opgaven var flyttet væk fra kommunerne, der var ingen vej tilbage«, siger Kristian Jensen

For mit indre blik klippes der derefter over til John Oliver...

Randi Christiansen

Mkn - enten vil du ikke forstå, hvad jeg siger, eller du kan ikke. Hvilken etik? Hvis etik er det, som du mener, at jeg ikke ønsker at anvende som fundament i mit liv? Din? Min egen?

Hvad, jeg prøver at klargøre for dig, er, at etik ikke er en universel konstant, der kan anvendes som fællesnævner for alle. Det nærmeste, jeg mener, vi kommer, er mortens henvisning til målet om at behandle andre, som man gerne selv vil behandles. Problemet med den modus er selvfølgelig, at mange behandler sig selv rigtig dårligt. Og så er vi lige vidt. Moralske korstog har fanden skabt.

Randi Christiansen

Morten, skal jeg forstå dig sådan, at du anerkender phi som den konstant, der kan anvendes i logaritmen?

Michael Kongstad Nielsen

Randi, hvis jeg ikke kan forstå, hvad du siger, kunne det jo være fordi, der er uklart hvad du siger.
"Det dunkelt sagda är det dunkelt tänkta.", som Esaias Tegnér sagde.
Jeg mener ikke - slet ikke - at der er en bestemt etik at forholde sig til. Men der er en tankegang, en metode at bruge i forhold til, om en vej i livet er farbar eller ej. En måde at tænke på, der inddrager forholdet mellem mennesker. Jeg foreslår blot, at man kaster sådanne tanker ind over det, man i øvrigt har gang i, ligesom artikelskriveren her. For efter min mening har alle en forpligtelse til at overveje, om det de har gang i - det være sig børsspekulationer eller udvikling af algoritmer - er etisk ok.

Randi Christiansen

Michael - ' ... det dunkelt tænkte' - godt sagt. Og jeg må indrømme, at respekten for den andens liv er et uomgængeligt, ikke-elastisk etisk parameter man bør inddrage i de overvejelser, som du helt forrnuftigt anbefaler, at man gør sig. Det, man måske kunne kalde, at konsultere sin samvittighed.

Problemet er, at menneskerettighederne tolkes og effektueres efter ekastikbegrebet, så hvornår er der i givet fald tale om selvforsvar? Er det fx, når der i overensstemmelse med en stats lovgivning - men uden at det er en nødvendighed, som alle deler - foretages økonomisk overgreb, mao nedskæring i et mennneskes eksistensgrundlag i et omfang, så ens børn bliver fattiggjorte? Hvilket jo er, hvad der sker i dagens danmark.

Morten Balling

@Randi

Jeg er bange for at det ikke er helt så enkelt, men vi kan godt tage phi med i formlen. Om ikke andet så for "æstetikkens skyld" ;)

Randi Christiansen

Morten, vær ikke bange, bare prøv. Husk, alt vokser i phi og er al æstetiks ophav. Vi lever i en biotop/habitat med enkle lovmæssigheder, som, hvis de respekteres, vil give os et enkelt liv, esoterisk permakultur kunne man kalde det.

Randi Christiansen

Et enkelt og smukt liv.

Steffen Gliese

Øh, nej, Randi Christiansen, vi lever i en biotop, der er vildt kompleks og uoverskuelig, og som vi kun kender uendeligt små dele af en promille om, og som svarer os på alle opdagelser med tusindfold flere ubesvarede og for nærværende ubesvarlige spørgsmål.

Alt det uoverskuelige er vi stort set selv skyld i. De lovmæssigheder i naturen vi ikke kan gennemskue og forstå, kan vi stort set gardere os imod og leve med, bortset fra uforudsigelig usikkerhed. (Eskimosamfund). I det moderne samfund, derimod er vi fanget i magthavernes spind, fordi vi gerne vil spare op af og handle med, det merarbejde vi præstere, for ad den vej at få et mere sikkert og rigt liv. Er der noget vi ikke kan gennemskue og forstå i det moderne samfund, vil vi med overvejende sandsynlighed blive snydt - i modsætning til i naturen.

Michael Kongstad Nielsen

Endnu mere dunkel snak. Glieses mindre, Atkins mere.
Gliese taler om en uoverskuelig kompleksitet i biotopen. Det er velkendt inden for kaosteorien. Hvis en sommerfugl i Australien løfter vingerne på et bestemt tidspunkt,, udløser det en anden situation i atmosfæren, end hvis sommerfuglen havde ladet være. Atkins mener, at det er vi selv skyld i. Og dunkelheden i Atkins udsagn vokser ved, at han mener, det er magthavernes spin, der får sommerfuglen til at løfte vingen på det pågældende tidspunkt.

Michael Kongstad Nielsen hvis der er noget der er dunkelt så er det vel kaosteorien (som jeg aldrig har anset som andet end et sødt eventyr) :-) Og læg så mærke til at jeg skriver spind med "d" altså at vi er samfundets fanger, hvis vi vil have samfundets goder. For at bryde det spind, har vi udviklet demokratiet ...og så har vi først gjort det kompliceret for os selv. Men som angivet flere gange her i tråden, så tror jeg ikke at de komplicerede love og regler vi selv laver er uoverstigelige - heller ikke fordi nogle IT-nørder putter en algoritme imellem virkelighed og sandhed - vi skal blot holde os vores behov præsente og forlange dem gennemført ...medmindre de strider mod naturlovene som jo også blander sig med de menneskelige love og regler. Vi skal ikke lade os bilde ind at noget er nødvendigt hvis ikke det kan forklares i en åben dialog uden magtpåvirkning.

Randi Christiansen

Steffen - læs erik hofmann, inf fra 2010 'mennesket er ved at udvikle en ny hjerne'. Lyt til '24 spgsm til professoren' hvor lone frank interviewer psykiater og phd stipeniat om div psykoaktive stoffers - især psilocybins - helbredende effekt på depresssion. Se filmen 'dmt - the spiritual molecule'. Læs eckhart tolle, krishnamurti, elisabeth haich (selvhelbredende yoga) schwaller de lubicz (ægyptolog) o.a.

Michael Kongstad Nielsen

Atkins, hvis du opfatter naturen som et sødt eventyr, som man ikke skal tage alvorligt, så er jeg bange for at jeg må sige, at det eventyr slår igen, som vi har set det ved Aralsøen, og som vi har set det ved den globale opvarmning.

Michael Kongstad Nielsen

randi christiansen- lad være med at påtvinge andre at skulle læse bestemte værker.

Kaosteorien har for mig ikke meget med naturen at beskaffe udover, som en matematisk delmodel som nogle kan få indsigt af at lege med. At eskimoen overlever i polaregne, og at du og jeg - trods vores store belæsthed - ikke gør (og det på trods de meget enkle og klare regler i polarlivet) har ikke noget med kendskab til kaosteorien at gøre. Det kan derimod forklares som et ontologisk loopback selvregulerende lærings- og erfaringssystem, kybernetik, som faktisk er det modsatte af den matematisk deterministiske kaosteori.

PS Det der gør det eskimoiske liv interessant er fraværet af en forvridende centralmagt.

Randi Christiansen

Michael, ville det fungere bedre for dig, hvis jeg - som det er almindelig praksis her på sitet - bare lister læse let links til kilderne? Som den nysgerrige kan følge, hvis interessen er tilstede .... helt frivilligt naturligvis.

Jesper Frimann Ljungberg

@Stig Tanggaard

Jeg er meget enig.
Nu er datalogi uddannelsen så en af de udannelser,
hvor andelen af færdiguddannede, der får ledende
stillinger er størst. Så derfor ville det da være
åbenlyst at uddannelsen indeholdt IT-jura og måske
også et etisk kursus.
Men set fra et samfunds synspunkt så er IT-eksperten
jo ikke anderledes end en smed i midelalderen.
Du kan smede våben eller du kan smede plovskær.

Og en lille ubetydelig gruppe (i en samfunds kontekst),
som dataloger er.. så kan de næppe rykke sådan noget i det
store hele.
Men ja.. der er da sådan lidt magi over IT, som en af mine
gode venner og gamle kollegaer plejer at sige, vi kan
alt det er bare et spg. om tid og resourcer.

Og ja.. hvor meget man en priser Netflix'es algoritme til,
at finde film der passer til folk, så ender jeg altid op
at skulle søge aligevel... for så smart er den heller ikke..

Og at google bliver ved med at vise Rødvinsreklamer når jeg
har købt 4 kasser vin online er sku heller ikke så kløgtigt.

Den suppedas vi står med i dag, med digitale overgreb på borgerne,
løses jo ikke af IT folk alene.
Jeg mener stadig at ordentlig IT uddannelse i skolen, whistleblower
ordninger, gode love der tager højde for IT etc.etc.. er det der virker.

Man er naiv, og skulle måske prøve at komme ud i IT-virkeligheden, hvis
man tror at IT-folk er anderledes end en murer, arkitekt eller..

Det er stadig dem der sidder på pengene og magten der bestemmer.... og ja
nogle af dem har deres baggrund i IT, men de er ikke en del af de gamle
magtstrukturer der stadig i dag bestemmer, hvad der sker i Danmark.

// Jesper

Poul Genefke-Thye

"Algoritmer kuraterer indholdet, så vi ikke selv belemres med at skulle prioritere og filtrere store mænger information"

Det er jo netop et alvorligt problem, for man kan aldrig være sikker på, at det kun er irrelevante informationer, algoritmen filtrerer fra - tværtimod kan man roligt gå ud fra, at vigtige informationer filtreres fra, og ligegyldige slipper igennem, i værste fald endda prioriteret højt.

Man må huske på, at søgning på Internettet egentlig er ret primitiv, og at en sådan søgning giver mange gange mere "støj" end søgning i en "rigtig" database, der - selv om den overholder CCL-standarden - også giver "støj".

Aske Mottelson har fuldstændig ret i, at det kræver både samfundsbevidsthed,viden, kritisk og etisk holdning hos IT-specialister.
Det samme gælder os brugere!

Sider