Kronik

Magtblinde it-specialister er en trussel mod demokratiet

Algoritmer bestemmer vores hverdag. Dermed er dataloger som jeg blevet medspillere i en omfattende teknokratisering. De færreste lægmænd forstår omfanget af den magtforskydning, og vi tekniskkyndige er heller ikke bevidste om, i hvor høj grad det stiller krav til vores etik
Algoritmer bestemmer vores hverdag. Dermed er dataloger som jeg blevet medspillere i en omfattende teknokratisering. De færreste lægmænd forstår omfanget af den magtforskydning, og vi tekniskkyndige er heller ikke bevidste om, i hvor høj grad det stiller krav til vores etik

iBureauet/Mia Mottelson

1. august 2016

Da jeg i 2010 som førsteårsstuderende på datalogistudiet på Københavns Universitet ankom til første kursusgang i algoritmik, fortalte professoren, at en algoritme er en maskinel opskrift, der skridtvis beskriver de operationer, der er nødvendige for at udføre en logisk opgave.

I dag er situationen anderledes: Algoritme har fået en bred betydning både i akademisk og folkelig diskurs.

Vi hører, at algoritmer foreslår film og musik på streamingtjenester, fordeler nye elever på gymnasierne, styrer eksponeringen af artikler på nyhedssider, og at algoritmer i den nærmeste fremtid skal køre vores biler.

Information har de seneste fem år omtalt algoritmer i 209 artikler. De foregående fem år var det tal kun 42. Informations artikelhistorik viser, at den til stadighed mere indgribende digitalisering af samfundet dækkes mere og mere flittigt.

Det kunne jo lyde som en succeshistorie: Computerteknologien optimerer processer og revitaliserer samfundet, alt i mens folket er velinformeret om udviklingen.

Men i takt med algoritmebegrebets folkelige gennembrud er en vigtigt komponent gået tabt, og det udvander ikke blot den tekniske definition, men efterlader også et demokratisk problem.

Algoritmer forstås nu på baggrund af, hvad de løser, og ikke længere på baggrund af hvordan. Fokus er ikke længere, hvilke operationer der er nødvendige for at udføre en logisk opgave.

Modernisering og effektivisering er blevet synonymer med moderne computerteknologi, i stedet for, hvad der burde være det centrale; nemlig ’hvordan’ vi – etisk forsvarligt – benytter computerteknologi til at imødekomme moderniseringen.

Det uindviede flertal

Den teknisk mindre kyndige del af befolkningen er dels uindviede i centrale aspekter af digitaliseringen, dels fraværende i diskussion om, hvordan teknologi bruges som et magtredskab.

At lægmænd ikke forholder sig til, hvordan vi bruger computerteknologi, svarer til, at landets love udelukkende var kendt af jurister, eller at det krævede en grad i statskundskab at have en holdning til politik.

Dataloger, som jeg, er på den måde afgørende medspillere i en omfattende teknokratisering. En magtforskydning, som vi ikke engang selv helt har begrebet endnu, endsige forstået konsekvenserne af.

Det rejser selvsagt nogle etiske problemstillinger, når magten kommer snigende til én. Hvordan forholder man sig eksempelvis som programmør til, at en fra ledelsen beder en om at udvikle automobil-software, der lyver om bilens reelle miljøbelastning?

Volkswagen-skandalen er langt fra det eneste eksempel på, at tekniskkyndige har opnået en magt, de ikke evner at administrere etisk forsvarligt.

Teknisk røgslør

Algoritmer laver hver dag personligt målrettet indhold online med intelligente klassifikationer og associationer af information.

Det er essentielt for en positiv brugeroplevelse, fordi den informationsstrøm, der befinder sig online, er massiv. Algoritmer kuraterer indholdet, så vi ikke selv belemres med at skulle prioritere og filtrere store mænger information.

I 2015 studerede et amerikansk forskerhold, hvor bevidste facebook-brugere var om algoritmers indvirkning på indholdet.

Her viste det sig, at over halvdelen (62,5 procent) af de adspurgte ikke var klar over algoritmers kuratering af indholdet på sociale medier overhovedet.

Facebooks algoritmer har magten til at forme brugeres oplevelse og opfattelse af verden, men alligevel er størstedelen af brugerne uvidende om deres eksistens.

Altså kunne noget tyde på, at algoritmers reelle betydning er usynlig for brugerne. En af årsagerne kunne være fraværet af den offentlige debat om, hvordan vi skal bruge teknologi til at indrette og i sidste ende forbedre vores samfund.

Læs også: I fremtiden redigerer computere din avis

Frank Pasquale beskriver i bogen The Black Box Society, med den lidet flatterende undertitel The Secret Algorithms That Control Money and Information, hvordan beslutninger er indhyllet i et røgslør af teknisk kompleksitet og bliver taget af den såkaldte tech-elite fra magtens epicentre som Silicon Valley og Wall Street.

Virksomheder og regeringer indsamler information gennem vores arbejdsrutiner og online-tilstedeværelse, og denne utroligt detaljerede data bliver uden vores viden hensynsløst brugt til eksempelvis at skabe privat fortjeneste.

Denne betragtning er måske ikke ny for mange af Informations læsere.

Til gengæld er der intet, der tyder på, at vores til stadighed stærkere bevidsthed om regeringers og private virksomheders dataindsamling og -deling, som whistleblowere som amerikanske Edward Snowden har åbenbaret for os, gør os til mere bevidste og kritiske aktører på internettet.

Der ser heller ikke ud til, at regeringers og virksomheders magt og handlemuligheder bliver mindre. Vi ved, at vi bliver overvåget, og at vores private oplysninger bliver udnyttet, men vi kender ikke den teknologiske proces og udvikling, der ligger bag denne udnyttelse. Og derfor har vi svært ved at beskytte os og stille krav.

Samfundsbevidste it-folk

Løsningen lyder ofte på at lade it-undervisning begynde tidligere, eller på strengere lovgivning om datahåndtering og -processering.

Selv om første forslag utvivlsomt er en god idé – også af andre årsager – kræver anden del en stærkere bevidsthed, som ikke kun er af teknisk art, men også har en politisk dimension.

Her i Information har argumentet lydt, at fremtidens humanister skal turde teknologien, men måske går det også den anden vej rundt: at vi dataloger og andre teknisk uddannede, der i dag har langt mere magt, end vi går rundt og tror, også får en større bevidsthed om de etiske og politiske komplikationer i det arbejde, vi bedriver – og det samfund, vi er med til at forme.

Løsningen må med andre ord være, at det som lægmand skal være legitimt at have en holdning til it, og at de it-kyndige bliver mere samfundsbevidste.

»I can see you, and I can use what I see to rig this election,« siger Frank Underwood i fjerde sæson af House of Cards, da han introducerer masseovervågning som aktiv spiller i kampen for at vinde præsidentembedet i USA.

Begge præsidentkandidater har entreret med dataspecialister for at analysere big data ultimativt for at vinde vælgernes gunst, ved at udnytte trends i søgemaskiner og online-medier.

Da NSA-specialisten forklarer, hvordan overvågningsalgoritmen er afhængig af de variable, der gives som input, svarer Underwood »give me English«, og demonstrerer her en herskende tendens: At spørgsmålet om ’hvordan’ i tekniske sammenhæng er forbeholdt specialister, og at udenforstående ikke kan diskutere algoritmer.

Men computerteknologi er i dag lige så meget, ja, teknologi, som det er et politisk og dermed demokratisk anliggende.

Internettets sociale medier og platforme hyldes ofte som en åben offentlighedssfære for uhæmmet demokratisk deltagelse, men vi har brug for også at anlægge et perspektiv på teknologien som en trussel mod vores personlige frihed.

Teknologien er nemlig lige så meget et redskab til demokratisk deltagelse som et instrument til en begrænsning og manipulation af samme.

I dag er algoritmen en så gennemgribende komponent i struktureringen af vores hverdag og den måde, virkeligheden bliver præsenteret for os på, at det både kalder på personlig, demokratisk og politisk stillingtagen.

Aske Mottelson er ph.d.-studerende i datalogi ved Københavns Universitet

Bliv opdateret med nyt om disse emner på mail

Vores abonnenter kalder os kritisk, seriøs og troværdig.

Prøv en måned gratis.

Klik her

Er du abonnent? Log ind her

Anbefalinger

  • Poul Genefke-Thye
  • Niels Duus Nielsen
  • Anne-Marie Krogsbøll
  • Steffen Gliese
  • Sup Aya Laya
  • Kurt Nielsen
  • Olav Bo Hessellund
  • lars søgaard-jensen
  • Flemming Berger
  • Ole Vedel Villumsen
  • Anne Eriksen
  • Keld Albrektsen
  • Bjarne Andersen
  • Lise Lotte Rahbek
  • Jørgen Wassmann
  • Morten Balling
  • Liliane Murray
  • peter fonnesbech
  • Christian Mondrup
  • Margit Tang
  • Mads Berg
Poul Genefke-Thye, Niels Duus Nielsen, Anne-Marie Krogsbøll, Steffen Gliese, Sup Aya Laya, Kurt Nielsen, Olav Bo Hessellund, lars søgaard-jensen, Flemming Berger, Ole Vedel Villumsen, Anne Eriksen, Keld Albrektsen, Bjarne Andersen, Lise Lotte Rahbek, Jørgen Wassmann, Morten Balling, Liliane Murray, peter fonnesbech, Christian Mondrup, Margit Tang og Mads Berg anbefalede denne artikel

Kommentarer

Henrik Munk Molke Rediin

Det er naturligvis sympatisk og godt at skribenten tager denne vigtige problemstilling op. Men jeg synes ansvaret fejlplaceres, når blikket rettes mod de mennesker som laver arbejdet, fremfor de firmaer og organisationer som bestiller og betaler det.
Det vi mangler er efter min mening ikke en personlig etisk stillingtagen, men en lovgivning der implementerer en etisk stillingtagen.

Kirsten Lindemark, Jesper Frimann Ljungberg, Christian Larsen, Steffen Gliese, Sup Aya Laya, Kurt Nielsen, Flemming Berger, Britt Kristensen, Bjarne Andersen, Lise Lotte Rahbek, Benjamin Bach og Søren Hansen anbefalede denne kommentar
Christian Mondrup

Henrik Munk Molke Rediin, firmaer består af mennesker, der træffer beslutninger og mennesker, der udfører dem. Og det er ikke altid, at der er et skarpt skel mellem de to grupper. Det gælder også for IT-udviklere. I min karriere har jeg medvirket til udvikling af programmel, der i forhold til mit værdigrundlag, blev og bliver brugt til etisk yderst betænkelige formål. Der måtte jeg træffe den beslutning at sige stop. Jeg er enig i, at der er behov for en lovregulering, men man har også selv et ansvar som aktør i IT-udvikling.

Poul Genefke-Thye, Kirsten Lindemark, Anne-Marie Krogsbøll, Steffen Gliese, Kurt Nielsen, Olav Bo Hessellund, lars søgaard-jensen, Flemming Berger, Britt Kristensen, Anne Eriksen, Bjarne Andersen, Lise Lotte Rahbek, Arne Lund, Benjamin Bach, René Olsen, Morten Balling, Ib Christensen og Randi Christiansen anbefalede denne kommentar
Randi Christiansen

Sidst vi hørte om algoritmernes magt var i forbindelse med aktiemarkedernes anvendelse af dem.

Kom til at tænke på en historie, en forudsigelse, fra det gamle testamente. I de sidste tider befinder sig i jerusalem 'moloch' - en maskine, som har svar på alt, og som verdensherskeren betjener sig af.

Og jeg griber tiil det nye testamente og historien om verdensfrelserens budskab om kristusbevidsthedens kærlighed, som er størst af alt.

Et foruroligende præcist billede på det moderne menneskes største udfordring : hvordan tæmme dyret i os hvordan undgå, at teknomonsteret er et redskab for de mest formørkede og selviske sider af os og dermed er ødelæggende for os. Og tak til aske for at være med til at give os muligheden for et informeret valg.

Kirsten Lindemark, Anne-Marie Krogsbøll, Steffen Gliese, Kurt Nielsen, Thomas Petersen, Flemming Berger, Britt Kristensen, Jørn Andersen og Arne Lund anbefalede denne kommentar
Liliane Murray

Det er det jeg har sagt i lang tid, demokrati og frihed, samt det frie valg, er blot en illusion vi har taget til os, forblændet os selv med, mens vi lystigt lader os styre af ukendte faktorer og mekanismer.

Spørgsmålet er;- Vil vi leve vores eget live, eller vil vi leve det 'liv' andre planlægger for os!

Kirsten Lindemark, Steffen Gliese, Bjarne Andersen, Kurt Nielsen, Britt Kristensen, Anne Eriksen og Jørgen Wassmann anbefalede denne kommentar
Herman Hansen

...Lægmanden er helt og aldeles ikke fraværende i diskussionen og mange er udmærket bevist om den digitale situation. Men akademisk og politisk arrogance gør ingen gider hører på lægmanden.

Herman Hansen

...Jeg har sagt det før og siger det gerne igen. Fremtidens stærke mand (M/K) kan med et klik sortere venner og fjender i hele befolkninger på få sekunder.

IT-specialisternes tyvesprog - argot - ligner forne tiders ypperstepræster, der havde magten og kunne udøve den, så længe pøblen ikke forstod, hvad det var de sagde/skrev. Sådan var helt frem til da Luther oversatte biblen til tysk - og Gutenberg kunne mangfoldiggøre oversættelsen - først da kunne pøblen bryde ypperstepræsternes magt.
Og det er vel ret beset det, der i dag er brug for.

Kurt Nielsen, lars søgaard-jensen, Flemming Berger, Jørn Andersen, Liliane Murray og Randi Christiansen anbefalede denne kommentar
Benjamin Bach

Er enig med både Molke og Mondrup, forstået på den måde, at det individuelle ansvar ikke fjernes ved at placere ansvar højere oppe i hierarkiet. Det tror jeg heller ikke var Henrik Molkes pointe, men mere at man jo ikke løser noget ved at få mere etisk tænkende programmører, hvis de alligevel bliver tvunget til at løse opgaver for dem, der betaler deres løn.

Jeg kan se, at skribenten er fra Datalogi, det er nok her og lignende it-uddannelser, man bør starte med at have undervisning i etiks relaterede emner, f.eks. privacy. "Data-etik" som obligatorisk fag?

I øvrigt har it-folket en glimrende fagforening, Prosa, som er meget etisk tænkende. Den kunne Aske Mottelson måske organisere sig i, hvis han ikke allerede har gjort det.

Henrik Munk Molke Rediin og Steffen Gliese anbefalede denne kommentar
Morten Balling

Fin artikel, men der var to ting jeg sad og tænkte over mens jeg læste den:

For det første tror jeg at Aske har ret i, at det ikke kommer som noget større eureka moment, at læse at regeringer og virksomheder indsamler data om os på nettet. Problemet er ikke manglende opmærksomhed, men snarere at det er ufatteligt svært at gennemskue hvad man som privatperson kan gøre.

Jeg har personligt rodet med computere siden 1978, og jeg kan godt finde ud af at browse i et Private Window som sletter mine cookies efter at jeg forlader siden. Eller det vil sige at det stoler jeg på at browseren gør. Altså den browser som er skrevet af Google eller Apple?!?

Ja, jeg kører Mac pt. Jeg har også en bærbar PC som jeg har fået. Den kørte indtil for nylig Win10, men dér kan man snakke om et styresystem, som ikke lægger skjul på at det kigger på dine data, og sender info hjem til MotherShip. Nu bruger jeg ikke den bærbare til ret meget, så jeg tænkte at jeg i stedet ville installere Linux. Lidt hurtig søgning via Google (så fik de også den info med), viste at selv Linux er en form for spyware i dag. Den mest udbredte dist, Ubuntu, sender også info om brugerne hjem til moderskibet.

Tor sætter dig mere eller mindre automatisk på endnu en overvågningsliste. Derudover er det mega langsomt. VPN er sikkert smart, men for mig at se, er det bare endnu et step du kører din net browsing igennem, og dermed endnu et sted du potentielt bliver overvåget og registreret.

Ad Blockere virker fint mange steder, men begrænser også mulighederne andre steder. Så er der endnu engang det med at installere et plugin i en browser uden at orke at læse Privacy Policy. På forsiden hos AdBlock står der tydeligt at de ikke indsamler data (AdBlock requires no personal information to run, and doesn't monitor your browsing.), men i deres Privacy Policy skriver de noget andet (How AdBlock uses and discloses collected information).

Suk! Sådan kunne jeg blive ved, men faktum er, at jeg ikke har noget på min computer jeg ikke kunne redegøre for, hvis døren en dag blev sparket ind af et SWAT team. Mine søgninger på nettet er generelt så brede at jeg tror en overvågnings algoritme vil crashe i forsøget på at gennemskue hvem fanden jeg er for en. Det er ikke fordi jeg er bange for for at blive overvåget. Det er princippet i at jeg føler min privatsfære krænket. Det prioriterer jeg desværre ikke højt nok til at jeg orker alt bøvlet med at prøve at skjule min færden.

Den anden ting jeg ikke kunne lade være med at tænke over var det med at få IT nørder til at tænke mere blødt og humanistisk. Det svarer til at få en sømand til at gå i kloster. Hvis en datalog, som har lært at sætte ting i system, så de kan omskrives til en algoritme, begynder at kigge analytisk på humanistiske værdier, er der overordentligt stor sandsynlighed for at han på et tidspunkt udbryder: "Hvor er jeres solide beviser? Det i snakker om er jo dybest set varm luft på pose!?!"

PS. Mens jeg skrev dette indlæg, dukkede der en mail op fra Microsoft. De ville lige gøre mig opmærksom på at de opdaterer deres serviceaftale. Jeg vidste ikke engang at de havde sådan en :) Mailen er rimeligt lang, men der står ingenting konkret. Hvis man vil vide, hvad de reelt laver om, skal man pløje sig igennem en engelsk tekst de linker til. Den fylder 24 A4-sider og er skrevet af universets kedeligste alien. Den starter med:

"Your Privacy. Your privacy is important to us. Please read the Microsoft Privacy Statement (the "Privacy Statement") as it describes the types of data we collect from you and your devices ("Data") and how we use your Data..."

Så nåede jeg ikke længere med mit attentionspan...

Kirsten Lindemark, Sup Aya Laya, Kurt Nielsen, lars søgaard-jensen, Flemming Berger, Anne Eriksen, Liliane Murray, Bjarne Andersen, Randi Christiansen og Lise Lotte Rahbek anbefalede denne kommentar
Steffen Gliese

Det gælder også folk, der taler i professionel sammenhæng. Forfaldet i DR, ikke mindst på P1, hvor der kun er få, rigtigt velartikulerede, det er en fornøjelse at lytte. til.
Man kan møde grundledsfordobling, afsnuppede ord OG meget personlig udtale - ikke mindst kan man møde masser af forkerte tryk på ord, som journalisten tydeligvis ikke kender. Så må man undersøge på forhånd!
Interessant er det at høre, hvordan disse unoder forsvinder, ligeså snart der samales med én af de oplæsere, der stadig har et godt sprog.

lars søgaard-jensen, Anne Eriksen og Randi Christiansen anbefalede denne kommentar
Randi Christiansen

Så sig noget klogt, du har taletid - der er 'nogen', der lytter med. Spørgsmålet er, hvad lytter 'de' med? Hjertet? Spioner, der iflg morten balling betjener sig af et sprog, der for dataloger er som 'varm luft på pose'. Mao uforståeligt. Hjerteløst. Et kommunikationsproblem der for mig at se er kernen i den udfordring menneskeheden befinder sig i.

Hvilke værdier er styrende for os? Fra forskning til faktura? Moderne kristne terrorkorstog mod de islamistiske terrorister? Dansen om guldkalven? Mørket ligger tungt, hvordan får vi tændt lyset? Hvornår vågner den neoliberalistiske konkurrencestats umælende får og deres hjertedøde fortalere til dåd? Moloch spinder sit søvndyssende spind, den grummeste scifi er i gang. Kan den standses?

Kurt Nielsen, Britt Kristensen og Liliane Murray anbefalede denne kommentar
Randi Christiansen

Ja liliane, men jeg kan godt være bekymret for en hjerte-og hovedløs revolution, som er primært båret af frustration og raseri over den 0, 0001% og co's - pengemagten og de politiske medløberes - magtmisbrug og overgreb på folket og fællesejet. Den vrede, som trump og andre fascistoide populister lukrerer på og bruger til at fremme egen agenda. Vi er nødt til at have en klar og fælles vision for administration af de fælles ressourcer, for den miljø-og socioøkonomisk bæredygtige omstilling - som vi måske kunne få en it specialist med hjertet på rette sted til at regne ud?

Kurt Nielsen, Liliane Murray, Anne Eriksen og Morten Balling anbefalede denne kommentar
Morten Balling

@Randi

Historien har utallige gange vist at revolution sjældent (aldrig?) fører til det man ville inden man fandt høtyvene frem. Det ville en datalog nok insistere på at få med som en variabel i hans algoritme. Han kunne også finde på at spørge om, hvad vi mente med etik. Sådan ala, hvis i synes ham Peter Singer eller ham Lomborg er lidt for kyniske, hvilke formler skal vi så bygge algoritmen over? Men din idé er god! :)

Randi Christiansen

For inspiration til at kende mere til livets skjulte sider kan jeg anbefale elisabeth haich, som jeg netop genlæser. Hun beskriver egne oplevelser og erfaringer.

Michael Kongstad Nielsen

"Løsningen må med andre ord være, at det som lægmand skal være legitimt at have en holdning til it, og at de it-kyndige bliver mere samfundsbevidste." - skriver Aske Mottelson. Fuldstændig rigtigt.
Hvis lægfolk stiller sig kritisk op overfor et hvilket som helst it-projekt i dag, er det såre simpelt at affeje kritikken med bemærkningen: "du er bare maskinstormer". Tonsvis af af mega dyre it-projekter er sat i gang fejlagtigt, fordi de besluttende organer ikke ville fremstå som "maskinstormere". Store it-skandaler kunne være undgået, hvis politikere turde sige fra i tide.
Så, jo, lad os få en etisk vurdering ind over den rene it-teknik. Der skal ikke være grønt lys for alt, blot fordi det (måske) er muligt

Kirsten Lindemark, Kurt Nielsen og Flemming Berger anbefalede denne kommentar
Philip B. Johnsen

"Algoritmer forstås nu på baggrund af, hvad de løser, og ikke længere på baggrund af hvordan. Fokus er ikke længere, hvilke operationer der er nødvendige for at udføre en logisk opgave."

Nej selfølgelig handler det ikke om, hvordan det virker, for viden om dig, dine handlinger og holdninger, handler ikke om andet end, hvordan dine penge eller holdninger kan komme i køberen af de bedste algoritmers lommer.

Det man bør huske på er, hvis teknologi til indsamling og behandling af data om dine personlige vaner og holdninger, kan skabe en fordelagtig og økonomisk berigende position, hvis brugt på, en hvilken som helst tænkelig eller utænkelig måde, så vil denne viden om dine personlige vaner og holdninger blive brugt, af de der kan drage tilstrækkelig økonomisk fordel af denne informationen.

Alle med penge kan købe sig til enorme mængder information om dig og potientielt andre der ligner dig.

Principielt betyder det, at du intet hemmeligt kan have om dit liv, hvis det er beskrevet digitalt, spørg bare Hillary Clinton eller Angela Merkel.

TDC bruger kan overvåges gennem Sverige af f.eks. NSA og GCHQ der har adgang til trafik fra Google, Gmail, Outlook, Skype og YouTube mf.

Fra Storbritannien kan TDC bruger overvåges på Facebook og Dropbox mf. osv.

"Internettrafikken er indsamlet ved at benytte en internetforbindelse fra Danmarks største internetudbyder, TDC, og repræsenterer et øjebliksbillede af, hvordan trafikken vandrede på det tidspunkt, hvor dataindsamlingen foregik." "Fra Computerworld"

'Se her hvem der kan overvåge dig på nettet.'

Link: http://www.computerworld.dk/art/228118/interaktivt-kort-se-hvem-der-kan-...

Liliane Murray

Nu er der ingen der siger at en revolution behøver at være blodig, blot fordi det er det billede vi går rundt med i hovedet.

Morten Balling

@Michael Kongstad Nielsen

"Så, jo, lad os få en etisk vurdering ind over den rene it-teknik."

Det lyder jo besnærende, men...

Ind imellem støder man på ord man kender til hudløshed, fordi man har hørt dem en million gange før. Så er det altid en god idé at spørge sig selv om man virkelig kender betydningen af ordet. Sådan ala, kan du egentlig skrive en kort definition af ordet til f.eks. en ordbog.

Et af de ord jeg har studset over på det seneste er etik. Groft sagt kan man skelne mellem to grene indenfor etikken. Den ene er nytteetik. Det er den tørre, videnskabelige tilgang til det med at gøre det rigtige. Her har man nærmest en formel til at beregne det etisk korrekte, som er, at det er det som kommer flest muligt individer, mest muligt til nytte. Problemet med nytteetikken er bla., at man kan forestille sig et individ, for hvem nytten ved et eller andet er så stor, at den overtrumfer alle andre individer tilsammen. Det kaldes normalt et "Utility Monster".

Et andet problem med nytteetikken er at nogle af de løsninger den giver virker meget kyniske for mange mennesker. Et eksempel: Hvis man kan helbrede 100 mennesker for en million kroner, eller helbrede 10 mennesker for den samme million, siger nytteetikken, at man skal helbrede de 100, og fortælle de 10 at man ikke har råd til at helbrede dem. Bare ærgerligt Sonny Boy... Her er de flestes holdning at vi skal helbrede alle, men det koster altså to millioner og vi har kun én. Pligtetikken kan nogenlunde omskrives til en algoritme.

Overfor nytteetikken står så pligtetikken. Den siger at man ikke skal handle som man tror man bør, men som man har pligt til. Altså at den etisk korrekte handling er noget man kan slå op i f.eks. de hellige skrifter. Her er det ikke konsekvensen af handlingen, så meget som hensigten, som betyder noget i etisk sammenhæng. Problemet her er at man hurtigt havner i en cirkel. Den rigtige handling er det som er rigtigt at gøre. Alternativt det som gud har sagt er det rigtige. Herfra bliver pligtetikken hurtigt rablende vrøvl for de fleste mennesker, og specielt for datalogen som skal prøve at omskrive den til en algoritme.

Efter 2500 år er det sgu lidt spinkelt, når man tænker over, hvor vigtig etikken er for filosofien. Man startede egentlig med en meget god grundregel, kaldet den gyldne regel. Den sagde at en handling var etisk korrekt, hvis man syntes det var ok at andre end en selv udførte handlingen. Vær mod andre, som du forventer osv. Jeg har bare temmeligt svært ved at se at man er kommet ret meget videre.

Så hvad for en etisk vurdering er det du mener? :)

Indlægget er jo på en eller anden måde naivt, som en datalogi studerende der ikke har været ude i det virkelige liv. Indlægget nævner bil producenters software, facebook - halløj, tror du der er een programmør der står for det? Nok snarere 100 eller 1000 eller 10.200.
Så hvordan skal den enkelte "IT specialist" have nogen som helst etisk ide om hvad vedkommende faktisk arbejder på - når det han arbejder på er en meget lille detalje i et system han måske ikke kender brugen af.
Det svarer lidt til at sige at din lokale bankmand skal tage etisk ansvar for bankkrak.

Henrik Munk Molke Rediin, Jesper Frimann Ljungberg og Kurt Nielsen anbefalede denne kommentar
Morten Balling

@Stig

Man kunne også se det sådan at 7,5 millarder mennesker, som vælger at gøre det som deres samvittighed byder dem, vil gøre en gigantisk forskel samlet.

Randi Christiansen

Så det er samvittigheden, som er konstanten morten? Den 'med vidende', den, som er 'medvidende' om din handling. Men der er tydeligvis også de, der, som i lene kåberbøls fortælling om skammerens datter, har formået at lukke af for samvittigheden, selv om de er i besiddelse af evnen til at se sig selv.

Skulle nogen endnu ikke være klar over, hvilken konstant, jeg mener, vi har at udgå fra, vil jeg med glæde gentage mig selv. Jeg mener, vi har valget imellem konkurrencestatens junglelov og samarbejdssamfundet. Vil vi leve i indbyrdes strid om overlevelsesressourcer, eller vil vi samarbejde i kærlighed? Det er så enkelt. Skriver man det ind i algoritmen, går puslespillet op.

Nu blev der så lige i aftenens deadline peget på en stadig større spiller i den 0,0001% : mafiaen. Mon de kan interesseres i at vælge kærlighed fremfor penge?

Vigtigt bidrag til en minus-eksisterende debat af Aske Mottelson!
Hokus-pokus-IT-folk har forført politikerne - der gladeligt lader sig forfører af alt V Æ K S T-relateret.
Digitalisering af Folkeskolen - hvor elevernes ret til privatliv er fortid - og Sundhedsindustrien er blot to af de statslige områder der er direkte sammenlignelige med Kejserens budget til hans nye klæder ...

Jens Erik Starup

Når politikerne kan opfatte direktør i Skat Jesper Rønnow Simonsen som en dygtig mand, så kan man da godt forstå, at der er behov for at lade ansvaret for tåbelighederne lande et stykke længere nede i organisationerne.

Steffen Gliese

Jeg må indrømme, at det chokerer mig at læse, at det skulle være noget nyt, at IT-folk også skal interessere sig for samfund og kultur - for hele vores samfund går ud på, at det er tilfældet. Således er gymnasiet bygget op om en betydelig humanistisk dimension og en almen dannelse, som alle forventes at leve på som sidste skud på stammen i en flere tusind år lang kontinuérlig udvikling, der ikke har haft naturvidenskaben som sit primære fokus.

Henning Wettendorff

Rigtigt, Sup Aya Laya.
Industrien vil hive og slide for at få dataråstof nok til erhvervsudvikling på disse områder - med store løfter om bedre undervisning og sundhed. I høj grad støttet af fx datalogiprofessor Stephen Alstrup, der gerne fortæller om dengang Rupert Murdoch fik ham til at se fremtiden for digital og mediebåret læring. Der er fuld fart på i sektoren:
http://newsletters.danskerhverv.dk/mail/2016/digitalisering-i-ungdomsudd...

Folkeskolen og sundhedsvæsenet er til gengæld også to områder, der efterhånden er kommet stort privacyfokus på. Faktisk er det store portalprojekt til folkeskolen (og dagtilbud) blevet udskudt 1-2 år med sikkerhed som begrundelse. Hvornår har man sidst hørt om et statsligt/fælleskommunalt it-projekt i den klasse melde ud om forsinkelse flere år i forvejen - med henvisning til persondatasikkerhed? Måske der er bedre tider og mere bevidsthed på vej, og måske kommer den bevidsthed også fra folk, der arbejder inde i projekterne. Nogle fortæller vel chefen, at de ikke selv vil lægge børn til.
http://www.computerworld.dk/art/237211/du-haenger-paa-skoleintra-flere-a...
https://www.version2.dk/artikel/persondata-angst-forsinker-skoleintra-af...

Steffen Gliese

Algoritmer har også en tendens til at blive så fintfølende, at de bliver ubrugelige, hvilket google forekommer mig at være faretruende tæt på.

Liliane Murray

@Henrik Wettendorff

Jeg hører efterhånden en del unge kvinder der bevidst fravælger at få børn, fordi de ikke føler at den udvikling der er igang, er en verden de ønsker at sætte børn i.

Henning Wettendorff

Jo, Liliane - men da livet er en fantastisk ting, er det også fantastisk at dele med et barn. Og verden er værd at kæmpe for. Men jeg har da alderen til at huske unge kvinder sige det samme for 30-40 år siden, under den kolde krig.

Liliane Murray

@ Henrik Wettendorff

Nu er jeg ikke selv ung mere, men var jeg ung i dag, og med viden jeg besidder i dag, så ville jeg ikke sætte børn i verden.
Trudslen mod menneskeheden har aldrig været større end den er i dag, heller ikke for 30-40 år siden under den kolde krig.
men jeg forstår godt din pointe, men det synes at al kamp for en bedre verden er omsonst.

Michael Kongstad Nielsen

Morten Balling
01. august, 2016 - 23:36

Jeg har "lånt" kravet om etisk vurdering fra artiklens forfatter. Etik er vel overvejelser over det at handle på den rigtige og gode måde. Og der er brug for etik i forbindelse med handlinger, der bringer samfundet i betydelige ryk et nyt sted hen, som fx. her med it-teknologi. Aske Mottelson peger selv på den magtforskydning i samfundet, de teknisk kyndige udøver, og at hverken de eller lægfolk er klar over, i hvor høj grad det stiller krav til vores etik.

Fuldstændig enig, som sagt. Man burde måske have et Etisk Råd for computerteknologi. Eller - hvad store it-projekter angår - et krav om, at alle offentlige projekter af en hvis størrelse skal underkastes en etisk test (en slags VVM undersøgelse for it-miljøet og dets tilhørende menneskelige miljø), der klarlægger, om projektet er etisk forsvarligt.

Randi Christiansen

Etik er et elastikbegreb. 'Gode og rigtige handlemåde' - ifht hvad? Konstanten, pejlemærket, målestoksforholdet er relativt, kulturelt betinget og mangler som samlende vision. Fx er den neoliberalistiske konkurrencestatsøkonomi for nogen det eneste rigtige, for andre et nødvendigt onde og for atter andre et symptom på alle onders ophav. Nogen går i krig for deres overbevisning, andre forsøger medierende bevidsthedsudvidelse om samarbejde med den i livet iboende lovmæssighed for overlevelse. Sålænge vi som skæbnebestemt fællesskab ikke er enige om, hvor vi vil hen, giver det ikke mening at tale om et universelt etisk begreb. Vi kan tale om respekt for livet. Selv dette begreb bliver konstant voldtaget og fordrejet til ukendelighed.

Intet nyt.
Artiklen påstår at der er ...et demokratisk problem. Algoritmer forstås nu på baggrund af, hvad de løser, og ikke længere på baggrund af hvordan. Fokus er ikke længere, hvilke operationer der er nødvendige for at udføre en logisk opgave.

Har det ikke være individets problem til alle tider, at systemet er uigennemskueligt? At systemet består af samspillet mellem nogle uforanderlige love (tyngdeloven, grådighed, akkumulering, entropiloven osv.) og nogle demokratiske foranderlige love (færdselsloven, sundhedsloven, skatteloven) som vi har indflydelse på. Hvordan det foregår inde i systemet er ikke vigtigt - det der er vigtigt er outputtet. Om outputtet passer os.

Det afgørende er at vi ved hvad der kan ændres, hvad vi ikke vil finde os i, og hvad der er ikke er foranderligt ...og at vi ikke lader for eksempel en finansminister (Bjarne Corydon eller Hjort Frederiksen) bilde os noget ind om hvad der er nødvendigt.

Michael Kongstad Nielsen

Bill, du kunne nok have fundet en bedre passage at citere. Og grådighed er vist ikke en naturlov.
Det nye er, at teknologi-nørder begynder at forholde sig moralsk og samfundsbevidst til deres teknologi.

Det burde videnskabsfolk altid have gjort. Bedre sent end aldrig. Niels Bohr var på vej, Men det lykkedes ikke at undgå atomteknologiens udbredelse. Genteknologi burde forbydes af etiske grunde, men her forsvandt begrebet etik, fordi man syntes det var et elastikbegreb, ligesom Randi.
Snart pusles med skabelse af kunstigt liv, Også det vil Randi formodentlig lade ske, fordi etik er et elastikbegreb.

Hvad mennesket kan, kan ikke forhindres - og slet ikke via etiske overvejelser. Om grådighed er en naturlov? ...afgøres af at mennesket er natur.

Som jeg ser problematikken i artiklen er det et spørgsmål om vores "forståelse" eller mangel på samme, og jeg har tidligere talt for at vi ikke spørger "Hvorfor, er systemet sådan?" inden vi tager en beslutning, men kun koncentrere os om resultatet af vores beslutning: "Hvad, er systemets reaktion?"

Spørgsmålet "Hvordan?"... overlader vi til vores nysgerrighed, men det behøver ikke at forhindre os i at handle, at vi ikke kender systemets dybere funktion, hvis kender resultatet af systemets funktion.

Niels Bohr havde i øvrigt nok ikke forudset at stormagterne blev stillet skakmat af atombomben, og at den sikrede os historiens længste periode med 71 års fred mellem verdens atommagter.

Michael Kongstad Nielsen

Nej, men det kan reguleres, ved lov. Mennesket kan lave biler, der kan køre 500 km. i timen, men også lave færdselslove, der forhindrer det. Mennesket kan bygge land ved lov. Demokratiet er bygget ved lov, menneskerettighederne ligeså. Mennesker kan finde på alle mulige ting, men etikken vejleder. Mennesker bygger vindmøller og vand- af samme slags, men hvad de bruger dem til, er uden for moralsk kontrol. Mennesket kan rejse til månen, men hvad skal vi der?

Vi kan og skal forsøge at regulere uønskede systemeffekter ved hjælp af lovgivning, men masser af disse systemeffekters bagvedliggende regler, love, og ideer, er for flertallet ukendte, uforståelige og derfor uden indflydelse på om alle kan deltage i et demokrati. Afgørende er om man kan formulere sine behov. Og sådan har det altid været - uanset om man tror en gud skaber det hele, eller at tankens kraft er den skabende, eller hvad som helst andet, der gør tilværelsen til et mysterium. Demokratiet er en mulighed for alle.

Derfor mener jeg også at artiklens påstand Men i takt med algoritmebegrebets folkelige gennembrud er en vigtigt komponent gået tabt, og det udvander ikke blot den tekniske definition, men efterlader også et demokratisk problem. Algoritmer forstås nu på baggrund af, hvad de løser, og ikke længere på baggrund af hvordan.

..er noget frygteligt sludder - faktisk.

Randi Christiansen

Elastiketik er det samme som ingen etik.

Michael og bill illustrerer kun alt for tydeligt dette med deres komplet amoralske, helt ubegrundede og aldeles forfejlede antagelser om, hvad jeg ville gøre.

Genteknologi kan ikke afvises på grundlag af et luftigt begreb som 'etik' men pga det meget eksakte forhold, at konsekvenserne ikke kan overskues. Det samme gør sig gældende mht skabelsen af kunstigt liv. Før man begynder at rode med den slags, bør man blive bedre til at forstå det liv, man allerede har.

randi christiansen, hvor har jeg kommenteret din holdning? Jeg påpeger at teknologiens komplicerede forenkling af endnu mere komplicerede problemer som for eksempel menneskers forbrugsmønster intet har med demokrati at gøre.

:-) randi, jeg anbefaler kommentaren fordi jeg er enig i at etik ikke er eksakt og at liv vil blive skabt hvis videnskaben kan. Og så mener jeg, som nævnt flere gange, at artiklen handler om om demokratiet påvirkes negativt (som artiklen påstår) af at livssystemet i aller bredeste forstand beskrives mere eller mindre kompliceret.

Morten Balling

@Martin

VVM og etik er et oxymoron, og jo, grådighed er en naturlov. Den teori er ovenikøbet solidt underbygget af emperi.

Som Bill skriver kan du ikke stoppe teknologiens udvikling. Selv med lovgivning. Hvordan kan du tro, at du kan forbyde genteknologi, når man bare kan flytte laboratoriet til et land med en mere diffus moral? Hvis du vil have et IT relateret eksempel, så vi holder os On-Topic (hej moderator), kunne det være hacking og cyberwarfare på tværs af landegrænser. Lige dér kan man snakke om de vilde vesten. Ift. genteknologi er der nogen som mener, det er godt at holde dem i hvide kitler der hvor man kan holde øje med dem.

Hele idéen bag atombomben var ikke noget som dukkede op hos Einstein og Bohr, og som de bare i fællesskab kunne have enedes om at flette næbet med. Sådan fungerer videnskab sjældent. Da amerikanerne gik i gang med at lave bomben, valgte bla. en fysiker som Feynman at deltage i arbejdet, fordi han vidste hvor meget hans tyske kolleger kendte til fysikken bag. Skurkene i den sammenhæng, var de amerikanske militærfolk, som nu de havde bomben, gerne lige ville se den virke, selvom de allerede havde vundet krigen.

@Randi

Det i kalder elastik er det jeg kalder diffus. Jeg synes den gyldne regel jeg nævnte tidligere er god, og rent rationelt kan jeg også godt se fornuften i nytteetikken, måske ovenikøbet suppleret med lidt game theory. Lige dér vil de fleste sikkert mene jeg er mere kynisk end Lomborg. Jeg kan godt forstå hvad de mener, men så er mit spørgsmål, hvad det så er for en etik vi skal bruge, og hvis jeg må være endnu mere kynisk et øjeblik, så leder du stadig efter din "konstant" til algoritmen ;)

Liliane Murray

Jeg tror ikke grådighed er en naturlov, hvis man ser på nogle indianer stammer, i Amazonas, så eksisterer ordene, 'min' og 'mit', ikke i deres sprog, de lever i symbiose med naturen, tager kun det de har behov for, og giver tilbage det de kan, de kan slet ikke forstå vores mentalitet, mens vi betragter dem som dumme og uvidende!

Til gengæld har markedsføringsfiduser været utroligt effektive. Bare se på vores hygienevaner. Se på et almindeligt badeværelse, hvad der findes af flasker, dåser og krukker, sprays, m.m.
For godt år siden fandt man ud af at hygiene var vigtig i forbyggelsen af sygdomme. Hvad man så også fundet ud af er, at til og med et bad om ugen, har en positiv indvirkning, men bader man yderligere, så er der ikke flere gevinster (set ud fra et sundhedsmæssigt perspektiv) at hente.
Alligevel er det lykkedes, firmaer som Johnson&Johnson, m.fl. at bilde os ind, at vi skal bade og vaske hår dagligt, shampo, sæbe, conditioner, deodoranter, cremer, m.m. det tager inge ende, de har nu nået grænsen for hvor meget l*rt mennesket kan købe, så nu skal det gå ud over vores kæledyr, der ligeledes skal bades og conditioneres, helst ugentligt.
Som om vi ikke allerede forurener nok, mens klimaet betaler regningen, men vores regning skal også nok komme, om ikke til os, så til vores børn og børnebørn.

Michael Kongstad Nielsen

Randi Christiansen:
- jeg tror ikke man skal være så bange for kaste sig ud i etiske overvejelser over hvad vi vi går og gør. Elastiketik er ikke det samme som ingen etik. Elastikken er der som udgangspunkt. Så kan man altid diskutere, hvor meget man skal hive og slide i den.

Du mener, at genteknologi kun kan afvises pga det meget eksakte forhold, at konsekvenserne ikke kan overskues. Men det er da et etisk argument. Det er også et (lidt tyndt) etisk argument, at man bør man blive bedre til at forstå det liv, man allerede har, før man skaber kunstigt liv.

Morten Balling:
- grådighed er ved gud ingen naturlov. Det er en last. Og som med de fleste andre laster er den skadelig for én selv og andre. Den kan være svær at styre for nogen, jf. Liliane Murray, 13:05, men ikke alle.

- og jo, man kan styre meget med lovgivning. Mig bekendt er genmodificeret såsæd forbudt i mange europæiske lande, Og er det ikke et af stridspunkterne i TTIP - aftalen, hvor reguleret markedet er.

Morten Balling

@Michael

Der er også dem, som påstår at grådighed er en af de syv dødssynder. Min påstand om at det er en naturlov var delvist et, sikkert mislykket, forsøg på at være ironisk, grænsende til det sarkastiske, på menneskehedens vegne.

"Delvist" fordi jeg tror vi mennesker overvurderer vores egne evner til at styre de mekanismer evolutionen har udstyret os med. Jeg tror godt vi kan styre vores grådighed ift. de mennesker jeg i et slettet indlæg kaldte vores stamme (familie, venner og kolleger), men jeg er også ret overbevist om at vi stadig ikke har lært, ikke at være grådige overfor det "nabostammen" ligger inde med.

Prøv at finde filmen om Stuxnet, kaldet "Zero Days". Den beskriver tydeligt, hvor svært det kan være at lave global lovgivning om IT:

https://www.youtube.com/watch?v=ikzAcK0l-ZM

Sider