Kronik

Vi skal ikke frygte robotter, vi skal frygte selv at blive til robotter

Flere eksperter udtrykker alvorlige bekymringer for, at kunstigt intelligente robotter skal overtage verden. Men den reelle trussel er den mod vores mulighed for at forblive mennesker, som vælger selv, skriver professor i datalogi Thore Husfeldt i dette debatindlæg
Flere eksperter udtrykker alvorlige bekymringer for, at kunstigt intelligente robotter skal overtage verden. Men den reelle trussel er den mod vores mulighed for at forblive mennesker, som vælger selv, skriver professor i datalogi Thore Husfeldt i dette debatindlæg

Emilie Noer Bobek

8. juni 2019

Videnskabsfolk og teknologieksperter, der i grunden er både seriøse og rationelle, bekymrer sig i ramme alvor om, at snarlige fremskridt inden for digital teknologi kan udvikle kunstig ’overintelligens’, som løber løbsk og skaber et robotragnarok.

Fysikeren Stephen Hawking siger eksempelvis: »Udviklingen af sand kunstig intelligens kan betyde enden for menneskeheden«. It-entreprenøren Elon Musk kalder kunstig intelligens for en »fundamental eksistensrisiko for den menneskelige civilisation.« Grundlæggeren af Microsoft, Bill Gates, forstår heller ikke, »hvorfor nogle mennesker ikke er bekymrede.«

På den anden side står Andrew Ng – en pioner inden for forskning i kunstig intelligens, der som Gates er datalog og må forventes at forstå teknologiens potentiale. Ng betragter uroen for en kommende algoritmisk apokalypse som en unødvendig distraktion:

»Jeg arbejder ikke på at forhindre kunstig intelligens i at blive ond, af samme grund som jeg ikke er bange for overbefolkning på Mars.«

Ifølge Ng er vi altså meget langt fra katastrofescenarierne om løbske robotter.

Men vi må konstatere, at eksperter med stor autoritet formulerer stik modsatrettede analyser og synspunkter, når de forholder sig til denne problemstilling.

Er det ulmende robotragnarok et emne af højeste dignitet og aktualitet, der fortjener høringer i EU-Parlamentet og velfinansierede forskningsinstitutter på verdens førende universiteter? Eller er det ukvalificeret, højtravende snak fra folk uden sans for teknologiens proportioner, som bare har set for mange Terminator-film?

Computerhjernen

Vi ved det ikke. Desværre er det ofte vanskeligt at forudse fremtidige teknologiske udviklinger. Vi ved ikke, om det bliver teknisk muligt for maskiner at tænke selvstændigt. Det afhænger af, om det lykkes os at udvikle ’generel’ kunstig intelligens – altså kunstig intelligens, der løser andet end afgrænsede opgaver.

Alan Turing forfattede i begyndelsen af 50’erne den første seriøse analyse af, om maskiner kan tænke, og konkluderede, at vi burde forvente, at maskinerne en dag ville overtage kontrollen.

Turing fik kritik af den danske datalog Peter Naur, der i 1954 beskrev frygten for elektroniske hjerner som ganske ubegrundet, idet maskinen er »resultatet af menneskets planer. Maskinen udfører ganske mekanisk de processer, som en menneskelig hjerne har udtænkt for den,« uden initiativ, originalitet eller egne værdier eller mål.

I dag ved vi, at Naurs opfattelse af computeren – at den slavisk følger de instruktioner, mennesket har programmeret den til – er lodret forkert. Den er gjort til skamme af moderne maskinindlæring, som bruger såkaldt dybdelæring til at træne kunstige neurale netværk på enorme datamængder.

En moderne skakcomputer spiller på en måde, som hverken dens programmører eller verdens bedste skakspillere havde tænkt på. Og vinder. Den slags algoritmer forekommer overalt i vores hverdag – de kategoriserer billeder, navigerer i tæt trafik, køber og sælger aktier, udmåler strafferammer og foreslår grammatiske forbedringer. Og deres kompetence forbløffer selv en algoritmeforsker som mig.

Kunstig overintelligens

En vej til at opnå den generelle kunstige intelligens, jeg nævnte tidligere, kunne måske være at sammenkoble et par millioner af den slags overmenneskelige, domænespecifikke intelligenser. Måske summen af disse mekanismer ville udvise selvstændig opførsel, på samme måde som en biologisk hjernes funktionalitet langt overstiger de enkelte neuroners.

Der er også mange andre tænkbare veje til kunstig overintelligens – lige fra algoritmiske forskningsgennembrud til højhastighedssimulationer af menneskelige hjerner. Om det virker, ved jeg ikke. Det er der heller ingen andre, der gør. Men ingen kan afvise muligheden for en fremtidig og uforudset teknologisk udvikling, som ender i kunstig overintelligens – og dermed i robotapokalypsen.

Når det er sagt, er det vigtigt at holde sig for øje, at vores eksisterende teknologi ikke er superintelligent og heller ikke er på vej til at blive det. På den måde finder jeg i virkeligheden Andrew Ngs overbefolkningsanalogi lidt for imødekommende over for Hawking og co.’s dommedagsforudsigelser.

Ng nævner overbefolkning på Mars, som jo er et forholdsvis rimeligt scenarie, netop fordi det er muligt at anbringe mennesker på Mars med eksisterende teknologi – omend det ville være vanskeligt og tåbeligt.

Jeg ville hellere sammenligne frygten for kunstig overintelligens med frygten for overbefolkning på Solen. Det er altså ikke principielt umuligt, selv om det er meget langt fra vores nuværende forståelse af, hvad der kan lade sig gøre.

Et altseende øje

Samtidig finder jeg, at frygten for den eksisterende kunstige intelligens er som frygten for overbefolkning i Bangladesh. Altså meget virkelig og reel.

Jeg er ikke bange for, at generel kunstig intelligens pludselig udvikler værdier, som er inkonsistente med ’menneskets værdier’, hvad det så end skal betyde. Jeg er derimod meget bange for, at nogle af de menneskelige værdier, jeg ikke deler, bliver gjort til våben ved hjælp af teknologien.

F.eks. kunne den eksisterende kunstige intelligens i samspil med andre digitale teknologier muliggøre det samfund, som DDR ikke kunne gennemføre af rent ressourcemæssige årsager.

DDR virkede ikke, fordi der simpelthen ikke var overvågning nok. Men takket være digital teknologi kan vi i dag gennemføre overvågning af hele samfundet – og det kan være svært at argumentere imod den type teknologi på grund af dens mange positive effekter.

Antag for eksempel at du drikker tre øl i baren og efterfølgende sætter dig i bilen for at køre hjem. Ved hjælp af de digitale signaler, du efterlod dig, da du betalte dine øl, parkeringspladsens sikkerhedskameraer, din egen telefon og bilens låsesystem, kan politiet være på plads i samme øjeblik, du tænder bilen og dermed forhindre en eventuel ulykke, inden den sker.

Et sådant digitalt, altseende øje er muligt allerede med den eksisterende kunstige intelligens. Og vi skal lære at modstå nogle sympatiske argumenter i kampen mod overvågningen – for hvem kan være imod større tryghed i det offentlige rum?

Ud over den slags argumenter bliver overvågningen også støttet af kapitalstærke industriinteresser, overvågningsinteresserede statsapparater samt (beklageligvis) en stor del af den akademiske verden.

Truslen mod os

Digital teknologi udgør en af de hidtil største trusler mod det åbne samfund.

Desværre trækker mange filosofiske overvejelser omkring kunstig intelligens ligeledes i den totalitære retning. Stærkest er dette formuleret af filosoffen Niklas Boström. Han mener, at i takt med at nye ideer til apokalyptiske teknologier – maskinel overintelligens, en ny supervirus, en bedre atombombe osv. – bliver fundet på som resultat af teoretiske landvindinger, er vi som art nødt til at forhindre, at disse ideer bliver til virkelighed. De må ikke spredes, ikke udvikles – de må knap nævnes.

Det kan vi bedst realisere med global totalovervågning, der konstant kontrollerer alle menneskers informationsforbrug og handlinger. I dette argument bliver totalovervågningen en sidste udvej for at forhindre robotapokalypsen. 

Mens nogle er bange for, at verden bliver regeret af robotter, er jeg bange for, at vi bliver nødt til at opføre os som robotter i et kontrolsamfund, hvor alle vores handlinger konstant overvåges, vurderes, forbedres, begrænses og vejledes.

Kunstig intelligens udgør ikke en eksistentiel trussel – den udgør en eksistentialistisk trussel mod vores mulighed for at forblive mennesker, som vælger selv.

Thore Husfeldt, professor i datalogi ved ITU

Bliv opdateret med nyt om disse emner på mail

Vores abonnenter kalder os kritisk, seriøs og troværdig.
Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Anbefalinger

  • Kurt Nielsen
  • Morten Lind
  • Gunilla Funder Brockdorff
  • Jens Kofoed
  • Ervin Lazar
  • Toke Kåre Wagener
  • Eva Schwanenflügel
  • Karsten Jensen
Kurt Nielsen, Morten Lind, Gunilla Funder Brockdorff, Jens Kofoed, Ervin Lazar, Toke Kåre Wagener, Eva Schwanenflügel og Karsten Jensen anbefalede denne artikel

Kommentarer

Eva Schwanenflügel

"Jeg er ikke bange for, at generel kunstig intelligens pludselig udvikler værdier, som er inkonsistente med ’menneskets værdier’, hvad det så end skal betyde. Jeg er derimod meget bange for, at nogle af de menneskelige værdier, jeg ikke deler, bliver gjort til våben ved hjælp af teknologien."
(Thore Husfeldt)

Nemlig !!

Kurt Nielsen, Lise Lotte Rahbek, Karsten Jensen, Ervin Lazar, Minna Rasmussen og Ete Forchhammer anbefalede denne kommentar
Søren Kristensen

Der er ingen grund til at frygte at vi bliver robotter, det er vi allerede. - Ja men, vil du sikkert sige, - har du ikke en fri vilje? Svaret er nej. Havde jeg det var jeg fx millionær for længst og ikke fordi jeg elsker penge, men fordi jeg har en ulykkelig kærlighed til frihed. Hvilket selvfølgelig, med min indsigt, er en ret dum følelse at slæbe rundt på. Men det er vilkårene, når man er både ufri og dum, modsat den kloge, der sætter sig selv fri enten ved at indbilde sig en fridhed, som sagtens kan være religiøst betinget, eller at være forestillingen givet gennem prægning Jeg ville være afhængig af den første løsning, men desværre rækker min indbildskhed ikke så langt. Så hvis du spørger mig, kan vi være nogenlunde sikre på at vores nye robotvenner vil være hverken ringere eller bedre agenter end vi selv er. Men det er jo også mere en rigeligt af begge dele.

Jorn Johansen

Vi er ikke (og har aldrig været) mere end de værktøjer vi betjener os af. Fra stenen blev til en hammer med skaft og til en økse, fra fouragering blev til et kort som blev til territorie og korn og mælk blev til brød og smør. Vi er allerede blevet til robot(be)tjenere. Dårlige, stive og menneskeligt usammenhængende databaser, partikulære algoritmer med underbegavede globalrækkevidder og robotter som blinker *MALFUNKTION - vær venlig at reboote*, får os til at tænke på bestemte måder — som de fik programmører og teknikere til at tænke på bestemte måder da de blev kreeret. Det er nemlig noget vi mennesker er gode til, hvis vi får lov: at omgå, udtænke og tænke udover, alternativt og både serielt og parallelt ud over det specifikke. Det ligger i vores imiteringsevne som vi bruger til at lære med. Er det godt eller dårligt? Et værktøj er et værktøj, men det er altid spørgsmålet om vi slår andre i hovedet med det, skaber territorier ud fra vores egoistiske behov og om vi lige lister lidt meldug inficeret mel med i brødet eller bruger mættede fedtsyrer af dumhed, nød eller griskhed. Det kommer vel an på hvilke moralske baglande vi har og ikke har, med vores ”økser”, ”territorier” og "usunde brød og smør”, og hvor vi psykisk og fysisk befinder os lokalt og globalt? Eller om vi bare ganske simpelt vil forøge vores Mammons værdi (vores politiske, ideologiske og økonomiske guds værdi)? Vi må lige huske på Hanlons ragekniv: Aldrig tilskriv ondskab til noget, som lige så passende kan tilskrives dumhed.

" Men den reelle trussel er den mod vores mulighed for at forblive mennesker, som vælger selv, ..."

Truslen må være, at denne kraft "bevidst" vil mig noget ondt. Jeg kan bevidst bestemme selv. Ikke om det regner eller solen skinner, men om jeg vil gå ud i regnen uden paraply.

Hvis landets ledere er underlagt modeller, som de kritikløst fører videre i lovgivning, må jeg vurdere om jeg vil handle i civil ulydighed. Der er allerede eksempler på åbenlyse irrationelle forhold, ikke politiske meningsforskelle, men forhold som tænksomme borgere finder forkerte.

Forleden opfordrede jeg ib et læserbrev boligforeninger og kommuner at negligere ghettoloven, som baserer sig på diverse statistiske oplysninger, hvor små divergenser fører til forbrug af mange millioner kroner - og til ulykkelige menneske skæbner. Hvordan kan vi være sikker på det rationelle i denne lov, som de fleste nok vil tolke som politisk stillingtagen ?
Folketingets flertal står bag !
Hvad står bag dette flertal ?

Kurt Nielsen

Robotiseringen af mennesket er allerede langt fremme: 2.000.000.000 brugere af Facebook sikrer en massiv overvågning og udbytning af den menneskelige dårskab. Med cryptovalutaen Libra er Mark Suckerberg ved at slå det sidste søm i ambitionen om at blive den fagre nye verdens ubestridte magthaver.