Læsetid 6 min.

Guddommelig teknologi

Den kunstige superintelligens er ikke virkelighed endnu, men den ideologi, der hyper den og driver den frem, påvirker økonomi, innovation og politik allerede i dag. Det er en ideologi, der rummer reminiscenser fra det 20. århundredes antihumanistiske tænkning, og derfor bør den vække bekymring og debat her og nu
18. november 2017

En af vor tids største videnskabelige revolutioner er i gang. Den eksponentielle vækst i data og regnekraft er ved at omdefinere store dele af samfundet. Sundhed, transport, kommunikation, forbrug, velfærd, sikkerhed og uddannelse er i stigende grad baseret på selvlærende algoritmer og evnen til at forudsige enorme datamængder. Fremskridt inden for kunstig intelligens, robotter, nanoteknologi og syntesebiologi vil i løbet af de kommende år føre til en ny generation af konvergente teknologier, der langsomt nedbryder grænserne mellem den biologiske og digitale verden.

Forudsigelser om kunstig intelligens er ikke nye. I 1958 sagde nobelprismodtageren Herbert Simon, at »vi inden for 10 år vil få digitale computere, der vil opdage vigtige nye matematiske teorier«. I 1970 sagde kognitionsforskeren Marvin Minsky, at »inden for de næste år vil vi få maskiner med generel intelligens på niveau med mennesker«. I dag er grundlægger af Singularity University, Ray Kurzweil, blevet berømt for at forudsige, hvordan superintelligens bliver en realitet i 2045.

Sådanne forudsigelser siger ikke noget om, hvorvidt der rent faktisk udvikles generel kunstig intelligens, der overskrider begrænsningerne i den menneskelige erkendelse. Forudsigelserne fortæller derimod noget om, hvordan vi som samfund danner os forestillinger om den fremtidige udvikling, og hvilken magt vi tilskriver teknologien.

Menneskeopfattelse

En stor del af samfundets innovation handler om at skabe fremtiden. Den betydning, vi giver teknologien, handler i høj grad om, hvem vi lytter til og hvilke forestillinger, der definerer samfundets investeringer og beslutninger. Lang tid før generel kunstig intelligens bliver en realitet, er magten allerede i gang med at blive omplaceret fra den autoritet, der ligger i den demokratiske samtale, til den autoritet, der ligger i evnen til at formatere og fremstille data. Førende techgiganter som Google, Facebook og Apple har på få år revolutioneret ikke bare informations- og kommunikationsteknologien, men infrastrukturen i den demokratiske samtale.

Hvem vi lytter til, og hvilken menneskeopfattelse der ligger bag den rådgivning, som regeringer og beslutningstagere modtager, er derfor et centralt samfundsanliggende.

Nogle gange fremstilles udviklingen af kunstig intelligens som en ufravigelig proces: Teknologien kommer, uanset om vi kan lide det eller ej. Hvis de europæiske stater hænger i nødbremsen og lægger begrænsninger på teknologien, vil Kina og de sydøstasiatiske økonomier bruge mulighederne i den kunstige intelligens og udkonkurrere vores arbejdspladser. Derfor har vi intet andet valg end at komme med i kapløbet.

Det er naturligvis en dybt forsimplet tankegang, der hviler på en naiv forståelse af teknologiens historien.

Et punkt ude i fremtiden

Den forestilling, at mennesket eksisterer som led i et fremskridt, og at fremskridtet kræver en ubegrænset eksponentiel vækst, er udtryk for en særlig forståelse af mennesket. Mange virksomheder opfatter sig selv som det naturlige produkt af dette paradigme, der er tæt forbundet med den frie markedsøkonomi. Men det er ikke et synspunkt, der kan reduceres til klassisk liberalisme. Der ligger et helt bestemt menneskesyn til grund for store dele af den nuværende debat om kunstig intelligens, som præger den teknologiske doktrin i Silicon Valley, nemlig singulariteten.

Forestillingen om singularitet henviser til det fremtidige tidspunkt, hvor forskellen mellem mennesker og maskiner udviskes, og hvor den biologiske og digitale bevidsthed smelter sammen. En sådan kommende tilstand er produktet af den eksponentielle vækst i computerkraft og data. Og den matematiske manifestation af den eksponentielle vækst er kunstig intelligens.

Singularitet er en ideologi, der betragter mennesket som et midlertidigt udviklingstrin i historien, som med tiden vil blive suppleret og siden erstattet af en superintelligens, der gør mange af de ting, vi beskæftiger os med i dag, ligegyldige. Det er en ideologi, der ikke er formuleret af traditionelle politiske partier, men af investorer, ingeniører og entreprenører, der bruger og udvikler intelligente systemer, der er i stand til at udføre operationer, som hidtil har været umulige.

Antihumanisme

Hvor singularister mener, at menneskets bevidsthed, som den er skabt gennem evolutionen, grundlæggende er lineær, vil teknologien stille flere muligheder til rådighed, end vi er i stand til at gribe. Af denne grund argumenterer singularister som Ray Kurzweil og Peter Diamandis for, at samfundet skal modstå fristelsen til at regulere teknologien eller sætte tempoet ned, præcis fordi det er udtryk for vores lineære tænkning og angst for det ukendte.

I stedet skal vi forberede os på, at teknologien bliver integreret i menneskets biologi på en måde, der overskrider den lineære begrænsning. Endemålet er en post-evolutionær tilstand, hvor mennesket reelt har frigjort sig fra sin natur- og artshistorie.

Singularismen er et eksempel på samme antihumanisme, som det 20. århundrede var fyldt med. Det er marxismens ide om mennesket som produkt af historiens dialektiske udvikling. Det er vitalismens billede af en ikkemateriel livskraft, der eksisterer igennem mennesket, men som ikke er bestemt af mennesket. Det er også forestillingen om en organisk kraft, som de personer, der har forstået den, vil prøve at indrette samfundet ud fra.

Hver gang drømmen om det kommende samfund med dets uomgængelige forandringer af det menneskelige vilkår bliver tydeligt som samfundsmæssigt narrativ, er der grund til at være opmærksom. Singularitet er et eksempel. Den centrale agent i historiens udvikling er ifølge singularister ikke mennesket, men teknologien.

Nye etiske og politiske idealer

Når ideen om singularitet er antihumanistisk skyldes det ikke, at kunstig intelligens med tiden vil medføre store produktivitetsgevinster og erstatte nuværende arbejdspladser. Antihumanismen ligger i selve ideen om, at vores lineære erkendelsesapparat grundlæggende er fejlbehæftet. Etik, værdier, normer og institutioner er for singularister udtryk for en tænkning, der er udkastet under menneskets vilkår i knaphedsøkonomien. Her skulle mennesker indrette samfundet ud fra en konkurrence om knappe ressourcer – i nationalstaten, på markedet og i privatlivet.

Singulariteten indebærer et fundamentalt opgør med denne menneske- og samfundsopfattelse. På grund af væksten i data og computerkraft vil der være overflod af ressourcer, hvilket medfører, at de etiske og politiske idealer om mennesket skal reformuleres. Der vil endda være overflod af liv. Ifølge Kurzweil vil teknologien ikke kun føre til kunstig intelligens, men kunstigt liv efter døden. Menneskekroppen vil stadig kunne dø, men det vil ikke være på grund af aldringsprocessen. Og dele af de menneskelige erfaringer vil kunne lagres i dataskyer og leve videre efter den fysiske død er indtrådt.

Det sker lige her

Nu kunne man tro, at singularismen er en esoterisk religion, der kun eksisterer blandt superrige milliardærer i Palo Alto. Det er både rigtigt og forkert. Den nuværende danske regering har gjort Singularity University, der er bevægelsens tænketank, til rådgiver inden for en række områder. Det danske Disruptionråd, der er centralt organiseret under regeringen, har rådført sig hos singularister.

Statsminister Lars Løkke Rasmussens har inviteret Singularity University til møder på Marienborg. Udenrigsminister Anders Samuelsen har holdt møde med singularister på besøg i Silicon Valley. Erhvervsminister Brian Mikkelsen deltog ved åbningen af den danske afdeling af Singularity University. Embedsmænd, virksomhedsledere, konsulenter, forskere og journalister deltager regelmæssigt på kurser om singularitet og eksponentielle teknologier. Kort sagt er store dele af det danske regeringsapparat under indflydelse fra en bevægelse, hvis politiske vision udfordrer både demokratiet og den humanistiske menneskeopfattelse.

Det er reminiscenser fra det 20. århundredes antihumanistiske tænkning, der bør vække bekymring. I takt med at den eksponentielle udvikling mod kunstig intelligens italesættes som ’det næste store skridt’ i samfundets forvandling, åbner det ideologiske spillerum sig for tanker af en styrke, hvis konsekvenser er vanskelige at forudsige.

Singularismen er som ideologi baseret på en åbenbaring om det kommende samfund, der ikke er genstand for demokratisk debat. Samtidig er programmets gyldighed ikke afhængig af, hvorvidt vi tager forudsigelserne om generel kunstig intelligens alvorlige eller ej. Det er måden, hvorpå samfundets udfordringer og løsninger allerede i dag behandles, der bør kalde på diskussion.

Bliv opdateret med nyt om disse emner på mail

Vores abonnenter kalder os kritiske, seriøse og troværdige.

Se om du er enig - første måned er gratis

Klik her

Er du abonnent? Log ind her

Anbefalinger

  • Brugerbillede for Niels Nielsen
    Niels Nielsen
  • Brugerbillede for Eva Schwanenflügel
    Eva Schwanenflügel
  • Brugerbillede for Jeppe Guldager
    Jeppe Guldager
Niels Nielsen, Eva Schwanenflügel og Jeppe Guldager anbefalede denne artikel

Kommentarer

Brugerbillede for Eva Schwanenflügel
Eva Schwanenflügel

Welcome to the Terminator. Alle beslutninger bliver taget af maskiner. Som måske vurderer, at du ikke er gavnlig for samfundet. Fordi de er blevet programmeret til det.
Man logger på Borgerservice, og får at vide : "We are sorry, but you have no rights".
Ikke at det er så meget anderledes end nu :-(

morten rosendahl larsen og Torben K L Jensen anbefalede denne kommentar
Brugerbillede for Torben K L  Jensen
Torben K L Jensen

Det er det rene vrøvl - Kunstig intelligens bliver aldrig nogensinde den menneskelige intelligens overlegen og det liger i den afgørende forskel at mennesket har en analog computer med et styresystem der har basis i vores genom (DNA) med en enorm tilpasningsevne overfor vores livsbetingelser (mutationer og innovationer). Det hele startes i det øjeblik de to kønsceller smelter sammen og deler sig til et unikt nyt styresystem der har det samme sprog for hele den art vi selv kalder Homo Sapiens. Og det hele fungerer optimalt ved en legemestemperatur på 37 grader. En kvante-computer der virker ved 37 gr. og ikke ved 0 gr. Kelvin der kræver enorme mængder energi til køling. Det helt unikke ved vores computer er at den kan træffe irrationelle beslutninger der måske/måske ikke fører til et kvalitativt spring frem i forståelsen af vores omgivelser. Til sidst og vigtigst - i styresystemet i DNA´et ligger også overlevelsesstrategien - den sociale bevidsthed som art. Den vil ALTID være overlegen.

Niels Nielsen, Eva Schwanenflügel og morten rosendahl larsen anbefalede denne kommentar
Brugerbillede for morten rosendahl larsen
morten rosendahl larsen

Jeg forestiller mig heller ikke at maskinerne overtager, før evighedsmaskinen bliver en realitet.....og det har stadig lange udsigter.. :-)

Eva Schwanenflügel og Torben K L Jensen anbefalede denne kommentar
Brugerbillede for Johnny Winther Ronnenberg
Johnny Winther Ronnenberg

Selv om jeg er interesseret i ny teknologi, så ligger kunstig intelligens langt ude i fremtiden. Stephen Hawking’s har for nogle få år siden udtalt at der vil gå mindst halvtreds år før vi begynder se de første resultater i den retning, jeg er knap så optimistisk min vurdering er nærmere hundrede år eller mere.

1: Vi ved alt for lidt om hvordan hjernen rent faktisk fungerer, vi ved stort set intet om hvordan beslutninger rent faktisk sker i hjernen.

2: Den menneskelige intelligens består af mange lag jeg har set forslag til mere end tyve former for intelligens og det er måske ikke engang dækkende. Så at replikere den i soft/hardware er derfor umuligt, fordi vi ikke forstår disse lag.

3: Dertil kommer abstraktions evnen og følelserne som dominerer os meget mere ind end vi tror, hvordan spiller disse ind og i hvilken grad påvirker de vores afgørelser?

4: For at kunne skabe egentlig intelligens, kræver helt nye processorer og helt nye operativ systemer med helt andre egenskaber end dem der er i dag.

Kort sagt vi har de samme visioner om Isac Asimov havde i 1943 da han skrev novellen "I robot" der faktisk er læseværdig stadigvæk og filmatiseringen af den er også seværdig. Forskere i kunstig intelligens tager faktisk de tanker han gjorde sig, da han opstillede "laws off robotic", til sig den dag i dag og diskuterer hvilke yderligere regler der er nødvendige, hvilket man se på universiteternes hjemmesider verden over.

For at gøre det mere tydeligt så taler man om to former for kunstig intelligens AI og AGI det første betegner simpel logisk tænkning og det bruger tidens computere, det andet betegner menneskelig intelligens som vi er meget langt fra og nogle få steder tales der om Artificiel General Intelligens Expanded som en mulig udviklings linie langt ude i fremtiden.

Brugerbillede for Martin Ishøy

Vi er helt sikkert ikke bange nok for singulariteten. Min replik: Giv Gud hvad Guds er og kejseren, hvad kejserens er. Hvis vi ikke tænker dialektisk om mennesket går det galt. Antihumanismen fratager mennesket det ansvar, som kun Gud kan løfte. Men Gud løftede det som menneske. Kristendommen (så lidt som nogen ordentlig religion) umyndiggør ikke mennesket, men tillader os at tage ufravigelige ansvar, som vi faktisk ikke har evner til. Uden denne fejlbarlige suverænitet ophører vi som mennesker. Det må ikke ske.