Læsetid 10 min.

Kunstig intelligens er her, men vi diskuterer ikke, hvordan det skal tøjles

Algoritmer og kunstig intelligens får stigende indflydelse overalt i vores samfund. Men vi mangler stadig debatten, om hvordan vi aktivt bruger teknologierne til at styre os i retning af det gode samfund, siger Luciano Floridi, professor på Oxford og etisk rådgiver for Google
’Vi ser en stigende indflydelse fra automatisering på det helt almindelige liv,’ siger Luciano Floridi, der er professor i filosofi og informationsetik på Oxford Internet Institute.

’Vi ser en stigende indflydelse fra automatisering på det helt almindelige liv,’ siger Luciano Floridi, der er professor i filosofi og informationsetik på Oxford Internet Institute.

Xavier Cervera
10. marts 2017

Beslutninger, som tidligere blev taget af mennesker, overlades i stigende grad til algoritmer. De kan bestemme, hvem du ser i din dating-app, hvilke holdninger, personer og nyheder du mødes af i dit facebook-feed, hvilken rute du kører igennem byen, hvor meget du skal betale for dine forsikringer eller lån i banken.

Det er algoritmer, der automatisk luger ud i, hvad maskinerne vurderer som fejlagtig eller vildledende information på Wikipedia, og i USA afgør algoritmer visse steder omstændigheder omkring fangers strafudmåling og prøveløsladelse ud fra en vurdering af deres fremtidige sandsynlighed for at begå ny kriminalitet.

»Algoritmerne forandrer den måde, vi interagerer med hinanden, og den måde vi interagerer med verden på. Vi ser en stigende indflydelse fra automatisering på det helt almindelige liv,« siger Luciano Floridi, der er professor i filosofi og informationsetik på Oxford Internet Institute – en del af Oxford Universitet.

Floridi er forfatter til adskillige bøger – senest The fourth revolution: How the infosphere is reshaping human reality og har fået tilnavnet Google-professoren, efter at han sagde ja til at sidde i Googles rådgivende komite, som selskabet oprettede i 2014.

Computerekspert og filosof Joseph Weizenbaum på Computermuseum Paderborn i 2005. Han mener, at internettet er en ’losseplads’, der frister folk til at overvurdere egne evner.
Læs også

Brugen af algoritmer er ikke let at gennemskue, og ofte vil det slet ikke stå klart for brugeren, at det er en maskines valg, der har konsekvenser for det, vi præsenteres for, eller en beslutning, der bliver taget. Et af problemerne er, at processen er selvforstærkende, forklarer Luciano Floridi.

»Det virker, som om vi er på vej på en rejse, hvor det er meget svært at stå af toget. For mere kompleksitet leder til flere automatiserede beslutninger, som så fører til endnu mere kompleksitet og så videre,« siger han.

»Desto tættere vi kommer på noget, der har indflydelse på et menneskes liv, desto mindre automatisk skal det være. Ellers ender vi med et kafkask bureaukrati. Det er ikke, fordi vi ikke har oplevet det før, for bureaukrati er allerede en form for teknologi, der formidler min interaktion. Jeg skal f.eks. gå igennem et særligt kontor og følge en bestemt procedure. Men den formidling, vi kender fra bureaukratiet, bliver nu erstattet af algoritmer og systemer, der tager automatiske beslutninger,« siger Luciano Floridi.

Det amerikanske medie Propublica har afsløret, hvordan de algoritmer, som skulle forudsige risikoen for at en person begår ny kriminalitet i fremtiden, er diskrimerende mod sorte.

Systemet bliver brugt i udmålingen af straf og giver desuden den enkelte indsatte en risikovurderingsscore ud fra en række parametre. Men det viste sig altså upræcist og tildelte hvide en lavere risikoscore for ny kriminalitet, mens sorte fik en uproportional høj score.

»Mange taler om algoritmernes konsekvenser ved optagelse af lån. Det er selvfølgelig vigtigt, men det er intet i forhold til beslutningen om, hvem der får eller ikke får en prøveløsladelse. Det er en beslutning, som radikalt kan forandre et menneskes liv, og som kan tages enten af et menneske, der kan holdes ansvarlig, og som du kan tale med, eller af en maskine, som får et input og kommer ud med et output, og så er det bare ærgeligt – for computeren har talt,« siger Floridi.

Den etiske dimension

Luciano Floridi fokuserer i sin forskning på, hvordan den etiske dimension af brugen af algoritmer for det meste er mangelfuld, og hvordan de nuværende politiske institutioner ikke formår at håndtere de nye udfordringer.

Sammen med en gruppe af andre forskere har han argumenteret for institutioner, der kan håndtere de etiske problemer ved algoritmernes beslutninger. En uafhængig institution, som personer der føler sig diskriminerede, skal kunne klage til.

I sager om mulig diskrimation er problemet ofte, at firmaer ikke ønsker at redegøre for, hvad der er baggrunden for, at en algoritme har foretaget et givent valg. Ofte vil de afvise det med henvisning til forretningshemmeligheder eller blot komme med en generel beskrivelse af, hvad algoritmen gør – hvilket ikke nødvendigvis gør klageren klogere på, hvad der er sket.

Hello Barbie er for nylig blevet lanceret med forbedret talegenkendelse.
Læs også

Et andet problem er, at det inden for maskinlæringsalgoritmer – der er designet til hele tiden at lære sig selv at blive bedre – kan være svært for selv de mennesker, der har programmeret dem, at gennemskue, hvad der er baggrunden for en beslutning.

Derfor bliver det selvfølgelig kompliceret at redegøre for. Men uanset problemerne ville en uafhængig institution og en opdatering af lovgivningen for at sikre klagere retten til indsigt i beslutningerne være et skridt fremad til at opbygge den tillid til de automatiserede beslutninger, der er nødvendig, mener Floridi.

»Det handler om, hvordan vi designer de nye institutioner til den opgave, der står foran os. Der bliver vi nødt til at være lidt opfindsomme og ikke bare strække de tidligere strukturer til de nye udfordringer.«

For Oxford-professoren handler spørgsmålet om etik i algoritmer om at sætte fokus på de værdier, som de automatiserede interaktioner understøtter. Værdier, vi som samfund har mulighed for at udforme, hvis vi melder os ind i kampen om, hvad vi ønsker, de skal kunne.

»Hvordan det kommer til at ske, er op til morgendagens teknologier. Det kan være, det bliver den næste store ting efter smartphonen, som skal underlægges vores projekt – hvis vi altså har et. Ellers bliver det teknologien, som kommer til at styre retningen. Det er det, vi ser nu. Det er dybest set teknologien, der styrer fremtiden.«

Den nært forestående kunstige intelligens

En af grundene til, at teknologien styrer udviklingen, og at det ikke er os, der styrer teknologien, er ifølge Luciano Floridi, at vi ikke har været gode nok til at tage den politiske diskussion.

Ikke bare om, hvordan vi indretter vores institutioner til bedre at håndtere de etiske dilemmaer, men om, hvilken udvikling vi gerne vil have den stigende automatisering til at understøtte.

Når det kommer til debatten om kunstig intelligens, kredser den offentlige opmærksomhed ofte om to former for frygtscenarier.

Det ene er særligt fremmet af kendte debattører som videnskabsmanden Stephen Hawking, Microsoft-stifter Bill Gates og Tesla-direktør Elon Musk og handler om super-intelligens.

»Jeg mener, vi skal være meget forsigtige, når det kommer til kunstig intelligens,« har sidstnævnte udtalt. »Hvis jeg skulle gætte på vores største eksistentielle trussel, så er det nok det. Med kunstig intelligens hidkalder vi dæmonen. I alle de historier er der ham fyren med pentagrammet og det hellige vand, og det er sådan ’yeah – selvfølgelig kan han kontrollere dæmonen’. Det gik ikke så godt,« har Elon Musk sagt.

Frygten er, at udviklingen af kunstig intelligens vil gå så stærkt, at den til sidst overhaler den menneskelige intelligens med uoverskulige konsekvenser til følge.

Det var en menneskelig fejl, der førte til at Air France 447 styrtede i havet i 2009 – formentlig forårsaget af, at piloternes træning var blevet rusten af så mange flyvninger, hvor autopiloten havde klaret arbejdet
Læs også

Men ifølge Luciano Floridi er vi slet ikke i nærheden af den form for kunstig intelligens, og derfor foretrækker han som udgangspunkt at tale om det smarte i teknologier i stedet for at overbetone, hvor kloge maskinerne er.

Det andet frygtscenarie handler om, at den stigende automatisering på alle dele af arbejdsmarkedet vil gøre store dele af befolkningen overflødige og arbejdsløse.

Det er en trussel, som i sidste ende kan true selve kapitalismen, fordi uligheden risikerer at stige så voldsomt, at de mange arbejdsløse ikke længere vil være i stand til at deltage i forbrugsfesten, hvilket dermed fjerner grundlaget for vækst.

De to frygtscenarier risikerer dog at fjerne fokus fra alt det, der sker lige nu. Allerede nu bliver der flyttet magt væk fra individet og over i uigennemskuelige tekniske foranstaltninger, og derfor er det ikke hensigtsmæssigt at reducere kritikken til en frygt for arbejdspladser – eller i superintelligensens tilfælde en udvikling, der kan være flere århundreder ude i fremtiden.

»Vi misser en meget stor del af, hvad det handler om, hvis vi kun fokuserer på job eller spekulationer om superintelligente maskiner,« siger Luciano Floridi.

»For første gang i den menneskelige historie er vi i gang med at introducere en ny form for handlende aktør. Indtil for nylig havde vi den menneskelige handlen, dyrenes handlen, og den mekaniske handlen: motoren. Men nu har vi også fået en slags kunstig handlen, som vi aldrig før har set i historien. Det er lidt som et dyr og lidt som en maskine, men det foregiver nogle gange at være menneske. Det er en mærkelig kombination, og nu handler det så om, hvordan vi kan tøjle denne form for handlen på den bedst mulige måde.«

»Jeg er ivrig efter at forstå den store historie og sikre mig, at den går i den rigtige retning. Nogle mennesker virker til at bekymre sig mere om arbejdspladser i morgen. Men det er for kortsigtet. Det er vigtigt, men det er ikke noget, vi kommer til at løse, medmindre vi får styr på den langsigtede strategi,« siger professoren.

Vi kan selv styre det

Men det bliver stort set aldrig diskuteret politisk, hvor vi vil dreje udviklingen her, siger Luciano Floridi, der argumenterer for, at staten skal spille en stor rolle i forhold til at bestemme retningen.

»Hvad konsekvenserne bliver for arbejdsmarkedet, afhænger af lovgivning,« siger han og henviser til den nyligt rejste diskussion om skat på robotter, der skal afbøde de negative virkninger af stigende automatisering.

Massearbejdsløshed er næsten uundgåelig i Kina, når robotterne for alvor indtager fabrikkerne. Flere instanser forsøger imidlertid at håndtere udviklingen gennem efteruddannelse af millioner af arbejdere. Foto: STR/AP/Polfoto
Læs også

»Nogen forsvarer det som en måde at bremse introduktionen af robotter i industrien og skaffe finansiering. Det er to gode pointer, men du kan også indtage det modsatte synspunkt og argumentere for, at vi skal øge antallet af robotter, fordi det vil øge produktiviteten. Firmaernes indtjening, så de vil betale mere i skat. For hvorfor vil vi have mennesker til at udføre arbejde, som en robot kan gøre,« siger Luciano Floridi, der mener, at begge argumenter er valide, alt afhængig af hvilket overordnet mål, man ønsker at opnå.

I en forskningsartikel fra tidligere i år analyserede Floridi og en gruppe forskere tre nye policypapirer fra henholdsvis USA, EU og Storbritannien, der beskæftigede sig med samfundets omstilling til øget brug af kunstig intelligens.

Det amerikanske var fokuseret på kunstig intelligens som innovation, der er god for den økonomiske vækst og dermed for samfundet. Derfor var der også lagt op til en meget begrænset regulering fra amerikansk side.

Forslagene fra EU og Storbritannien var ikke helt så afvisende over for regulering, men fokuserede mest på fremtidens arbejdsmarked og forskning.

»Det er interessante analyser, men de ser ud til at være for fokuseret på de økonomiske og juridiske teknikaliteter. De mangler helt en vision for fremtiden,« siger Luciano Floridi.

»Hvis vi for eksempel åbent siger, at vi gerne vil bevæge os hen mod en universel basisindkomst af en art, så sætter det med det samme debatten i en helt anden kontekst. Så skulle man starte med at se på alle applikationerne: Algoritmer, automatisering, maskinlæring, kunstig intelligens og robotificering og få dem til at producere de betingelser, der skal til for at en universel basisindkomst bliver realistisk i morgen. Det handler ikke kun om kontrol over beslutningsprocessen – det handler om projektet.«

– Men vi taler om det, som om det er politikerne, der bestemmer udviklingen. I realiteten er det vel mere firmaerne. Hvad vil en politisk vision hjælpe, hvis de ikke har magten til at ændre det?

»Man burde begynde at gå mere i dialog med de her store selskaber, så de stoppede med at se sig selv som forsyningsvirksomheder – for det er de ikke – men i stedet som de gode borgere, de kan blive. Hvis du får de her store kræfter ført sammen med de kræfter, der er i politik og i regeringer, så taler vi om ægte forandring. Politik handler også om at få folk med ved bordet. Jeg synes, det er ekstraordinært, at store firmaer i Californien, som flytter milliarder af dollars og præger livet for millioner af mennesker, stadig ikke opfattes som en politisk aktør, fordi de ikke er valgt, mens en lillebitte stat på et par hundrede tusinde mennesker sidder med ved bordet, fordi de er en regering. Det er mærkeligt, at det skal være sådan, bare fordi vi på et eller andet tidspunkt besluttede, at det lille land havde juridisk status som en national regering i modsætning til en bestyrelse med en direktør. Det er en anden måde at sige, vi har brug for al den gode vilje vi kan samle, og at bygge barrierer kommer ikke til at hjælpe.«

– Men kan det ikke risikere at give indflydelsen endnu mere til firmaer og dermed mindske demokratiet?

»Den indflydelse er der jo allerede, uden at vi har kontrol over den. Den er der, og den vil blive der, så hvorfor ikke prøve at bruge den til noget helt åbent. Lad os gøre den mere synlig og ansvarlig. For eksempel kunne man inkludere eller ekskludere firmaer fra forhandlingsbordet, hvis de opfører sig dårligt. Hvis ni ud af ti af de store firmaer er med, kan det være meget skadeligt for dem, der ikke er, hvis de ikke overholder reglerne. Det er et radikalt forslag, og der er risici forbundet med det, men jeg kan ikke se alternativet. At fortsætte som hidtil virker ikke.«

Teknologi og kultur

Ved at vende blikket mod kulturen og kunsten forsøger vi i dette tillæg at forstå de udfordringer og muligheder, der opstår i forbindelse med tidens teknologiske fremskridt. Vi lader den amerikanske romanforfatter Jonathan Safran Foer skrive essay om teknologiens påvirkning af vores liv. Vi spørger den italienske stjerneforsker og Google-rådgiver Luciano Floridi, hvordan vi tøjler algoritmernes stigende magt. Vi genbesøger computerspiluniverset Second Life, konsulterer filmhistoriens blik på kunstig intelligens og anbefaler dokumentarfilmfestivalen CPH:DOX’s mest teknologibegejstrede og -forskrækkede film. Og vi besøger en 5. klasse på en dansk folkeskole for at høre, hvordan teknologien påvirker børnenes liv. 

Andre artikler i dette tillæg

  • Det handler om at tabe, når bamsehelikopteren kæmper mod babydukken med dinohovedet

    10. marts 2017
    Seks dildoer og en tom servietæske er ingredienser i den antiteknologiske dille Hebocon, der handler om kampe mellem hjemmelavede robotter bygget med forhåndenværende skrammel af folk uden særlig teknologisk kunnen. Egentlig skal man forsøge at vinde, men der er mest prestige i at tabe
  • I maskinernes vold

    10. marts 2017
    I kunsthallen DIAS på Vallensbæk S-togsstation sættes menneske og maskine stævne med nye digitale kunstværker, der undersøger teknologiens centrale plads i vores liv
  • Musikalsk renhedsmaskine skaber en ny slags verden

    10. marts 2017
    Den amerikanske elektroniske duo Visible Cloaks har skabt et smukt fantasibillede af et fiktivt, programmeret Japan i krystalklar opløsning. Dermed bruger de den nutidige teknologiske situation til at videreudvikle gamle musikfilosofier og viser måske vej imod det næste stadie af menneskelig bevidsthed
Bliv opdateret med nyt om disse emner

Træt af forstyrrende annoncer?

Få Information.dk uden annoncer for 20. kr. pr. måned

Køb

Er du abonnent? Så slipper du allerede for annoncer. Log ind her

Forsiden lige nu

Anbefalinger

  • Brugerbillede for odd bjertnes
    odd bjertnes
  • Brugerbillede for Svend Elming
    Svend Elming
  • Brugerbillede for Niels-Simon Larsen
    Niels-Simon Larsen
  • Brugerbillede for Niels Nielsen
    Niels Nielsen
odd bjertnes, Svend Elming, Niels-Simon Larsen og Niels Nielsen anbefalede denne artikel

Kommentarer

Brugerbillede for Peter Jensen

Teknologierne fører os på afveje, i og med at de fjerner os fra elementære livsprocesser som er vitale for vores menneskelige organismes naturlige trivselsbehov. Det er ikke teknologierne, som skal bruges hvis der med 'det gode samfund' forstås bæredygtighed, solidaritet og menneskelig velstand - det er det helt elementære, som skal genfindes i en ny tid. Vort iboende, så flot det end lyder.

Bjarne Bisgaard Jensen, Trond Meiring, Niels-Simon Larsen og Tine Friis anbefalede denne kommentar
Brugerbillede for Henrik Brøndum
Henrik Brøndum

".... alle applikationerne: Algoritmer, automatisering, maskinlæring, kunstig intelligens og robotificering ....."

Ved alle enhver hvordan disse fem begreber forholder og afgrænser sig til hinanden? Jeg gør det ikke ordentligt på trods af at have brugt de sidste 15 år i IT-branchen, er det ikke rimeligt med en udredning?

Trond Meiring, Morten Balling, Niels Nielsen og Michael Kongstad Nielsen anbefalede denne kommentar
Brugerbillede for Morten Balling
Morten Balling

@Henrik

For at forstå kunstig intelligens (AI) vil jeg også mene det er vigtigt med en vis forståelse af hvad bevidsthed er, og hvordan en hjerne fungerer. Jeg er ikke ekspert, men i mangel af bedre:

En hjerne fungerer ved at den har en masse neuroner (simple regneenheder) og synapser (kabler mellem regneenhederne). En fremherskende hypotese om bevidsthed, er at den opstår pga. det store antal neuroner og synapser. Sammenligner man en hjerne med en parallel computer har hjernen ca. 100 milliarder processorer, som hver er kablet til ca. 10.000 andre processorer. Svimlende tal, selvom den enkelte "processor" er relativt enkel.

Algoritmer er den gode gamle møde at få en computer til at løse en opgave. Hvis man vil have hr Jensen til at bage en kage giver man ham en opskrift, som han kan følge step for step, og ende ud med en kage. Algoritmer kan også være hvordan en kunstig neuron skal "opføre sig". I dag kan man opstille en algoritme, som fungerer ligesom en neuron.

Automatisering behøver ikke have noget med AI at gøre. Jeg har arbejdet en del med automatisering og algoritmer uden AI, og det har fungeret fint, ligesom hr Jensen og kagen.

Maskinlæring svarer til at man f.eks. sætter alle ingredienserne til kagen foran hr Jensen, og lader ham lege amok, indtil han lærer at lave kagen selv. Maskinlæring har langt større potentiale end algoritmer, bla. fordi det mere minder om den måde en hjerne reelt fungerer på.

Kunstig intelligens. "Hvad er intelligens?", kunne man starte med at spørge.

Robotificering behøver ikke have noget med AI at gøre. Der findes masser af robotter uden AI. Det er kombinationen af robot og AI, som er effektiv.

Niels-Simon Larsen, Henrik Brøndum og Trond Meiring anbefalede denne kommentar
Brugerbillede for Niels-Simon Larsen
Niels-Simon Larsen

»Hvis vi for eksempel åbent siger, at vi gerne vil bevæge os hen mod en universel basisindkomst af en art, så sætter det med det samme debatten i en helt anden kontekst. Så skulle man starte med at se på alle applikationerne: Algoritmer, automatisering, maskinlæring, kunstig intelligens og robotificering og få dem til at producere de betingelser, der skal til for at en universel basisindkomst bliver realistisk i morgen. Det handler ikke kun om kontrol over beslutningsprocessen – det handler om projektet.«
Og nu vil jeg gerne høre alle argumenterne om, at vi ikke har råd til borgerløn...

Brugerbillede for Jan Weis

Hvad med at forske mere inden for ’sværm intelligens’ – det vil nok være et mere lukrativt marked for alle, der har noget at sælge – f.eks. Uffe Elbæk og Google med deres etiske rådgivere (sic!) …

Brugerbillede for Lars  Steffensen
Lars Steffensen

1. Fantastiske ting some man kan gøre ved hjælp af kunstig intelligens: 0
2. Fremskridt siden at kunstig intelligens blev hypet i firserne: 0
3. Forskelle mellem kunstig intelligens og almindelig programering: 0

Tilsammen?

Brugerbillede for johnny lang

Udvikling af menneskelig intelligens, skal tøjle kunstig intelligens.

Bevidsthed er nøglen, (ifl af Morten B. indlæg) som udvider vores forståelse. Hjerneforskning i kohærens i hjernes afdelinger, dvs. at de svinger sammen, frekvens-toppene i hver afdeling af hjernen svinger i kohærens. (en ukohærent hængebro kan gå i forkerte svingninger f.eks. ).
Det skaber ro og overblik, som er det modsatte af stress og forvirring, og sker i "zonen", i meditation, lykkefyldte situationer, sundhed giver det.

Vi mennesker er jo også programmeret ved hjælp af Dna - her er også en kæmpe optimeringsmulighed. Faktisk tror jeg mere på vores bio-programerings potentiale i Dna. Det nuværende Dna er i forvejen en sammensat størrelse, som så har fået lov at udvikle sig.