Læsetid: 9 min.

Hvis det lykkes at skabe bevidste robotter, medfører det et moralsk ansvar

Bevidstheden er en af videnskabens store gåder. Og med den hastige udvikling i kunstig intelligens bliver forståelsen af menneskets unikke oplevelsesverden kun mere relevant. Det er ikke naturvidenskab, men filosofi, som rummer svarene på mange af vores spørgsmål, mener den internationalt anerkendte filosofiprofessor Dan Zahavi
En af hovedfigurerne fra tv-serien ’Westworld’, robotten Dolores. Scifi-dramaer danner ofte grobund for debatter om bevidsthedens væsen, men den internationalt anerkendte bevidsthedsforsker Dan Zahavi er faktisk ikke så begejstret for de mere hypotetiske udforskninger af bevidsthedens væsen.

En af hovedfigurerne fra tv-serien ’Westworld’, robotten Dolores. Scifi-dramaer danner ofte grobund for debatter om bevidsthedens væsen, men den internationalt anerkendte bevidsthedsforsker Dan Zahavi er faktisk ikke så begejstret for de mere hypotetiske udforskninger af bevidsthedens væsen.

fra serien

7. juli 2018

Bevidstheden er blevet kaldt hjerneforskningens hellige gral. Med MR-scanninger og elektroder har forskere i årtier forsøgt at kortlægge neuronernes komplekse netværk for her at finde de forbindelser, som kan forklare den menneskelige bevidsthed.

Men den såkaldte reduktive materialisme, altså ideen om at naturvidenskaben kan forklare bevidstheden på linje med andre fysiske fænomener, er forsimplet, mener den 50-årige professor i filosofi Dan Zahavi.

»Naturvidenskabens traditionelle repertoire af kognitions-, hjerne- og it-forskning har ikke været i stand til at forklare, det som er blevet kaldt bevidsthedsforskningens hard problem – nemlig bevidsthedens subjektive oplevelser og følelsesliv.«

The hard problem of consciousness indkapsler et af de største mysterier ved menneskelivet. Nemlig hvordan og hvorfor fysiske processer i hjernen skaber subjektive følelser, indtryk og oplevelser – som farver og smage. Begrebet blev introduceret af filosoffen David Chalmers, der for nyligt holdt forelæsning på IT-Universitet i København. I kontrast hertil er the easy problems, såsom hvordan hjernen lagrer information eller kategoriserer stimuli. Altså den slags spørgsmål, naturvidenskaben kan levere svar på.

Men ifølge Dan Zahavi er det nødvendigt også at inddrage filosofien, hvis vi skal forstå bevidstheden. Det har han viet sin karriere til. 

Dan Zahavi er en international autoritet – på fænomenologiens grundlægger Edmund Husserl, men også i kraft af egen forskning om bevidsthedens væsen.

Privatfoto

Der findes mere håndgribelige forskningsfelter end bevidsthed, men Dan Zahavis videnskabelige CV afslører, at han ikke er en mand, som springer over, hvor det akademiske niveau er lavest.

Som 31-årig, i 1999, forsvarede han sin doktordisputats i filosofi om selvbevidsthed. Tre år senere grundlagde han Center for Subjektivitetsforskning på Københavns Universitet på en bevilling fra Danmarks Grundforskningsfond. Et center, han stadig leder i dag.

Hans mange bøger med titler som Self and Other og senest Husserl’s Legacy: Phenomenology, Metaphysics, and Transcendental Philosophy er udgivet på prestigefyldte universitetsforlag som MIT Press og Oxford University Press. Han giver gæsteforelæsninger i hele verden, og så blev han sidste år tildelt Ridderkorset af Dannebrogordenen af dronning Margrethe for sin forskning.

Bevidsthedens egenskaber

Bevidstheden er en svær størrelse at identificere eller måle. Men i 1970 gav psykologen Gordon Gallup jr. sit bud med den siden så berømte spejltest. Her får dyr eller små børn tegnet en prik på panden og bliver placeret foran et spejl. Reagerer de på prikken, som de kun kan se i spejlbilledet, ved at røre deres egen pande, anses det som et udtryk for selvbevidsthed. Hos børn sker det typisk, når de er mellem 15 og 24 måneder.

Men den konklusion er en fejlslutning, argumenterer Dan Zahavi. Ifølge ham forholder det sig omvendt: Vi kan ikke forklare, at børn pludselig kan genkende sig selv i spejlet, medmindre vi antager, at de allerede – forud for selvgenkendelsen – besidder en mere primitiv form for selvbevidsthed.

»En af grundene til, at barnet kan genkende spejlbilledet er, at det kan se, at bevægelserne i spejlet matcher dets egne bevægelser. Men det fordrer jo, at barnet allerede er bevidst om, at bevægelserne er dets egne. Altså at det allerede besidder en form for kropsforankret selvbevidsthed,« siger han.

Det er den type argumenter, Dan Zahavi beskæftiger sig med. Han er mindre optaget af, hvilket materiale bevidstheden er lavet af, som er det hjerneforskere forsøger at begribe. 

»Måske kan det virke mere tilstræbt objektivt, hvis man går til bevidstheden med kvantitative metoder og benytter sig af hjerneskanninger eller adfærdsstudier. Men så længe bevidsthedsforskningen begrænser sig hertil, vil den gå glip af det væsentlige. En af grundene til, at bevidstheden er så fascinerende, er netop oplevelseslivet med alle dets subjektive træk,« siger han.

Så hvor andre forskningstraditioner diskuterer bevidsthedens metafysiske karakter, og om den kan forklares ved at studere den velkendte fysiske virkelighed, er Dan Zahavi mere interesseret i bevidsthedens egenskaber: Hvilken rolle spiller kropsligheden, vores følelsesliv, selvbevidstheden, tidsligheden og sprogligheden for vores bevidsthed?

»For mig bringer svarene på disse spørgsmål os langt tættere på en egentlig forståelse af, hvad bevidstheden er, end en abstrakt diskussion af, om bevidstheden kan eller ikke kan reduceres til bevidstløst materie,« siger han.

Med udgangspunkt i fænomenologien og dens systematiske analyser af erfaringens struktur – altså hvordan og hvad vi erfarer – har Dan Zahavi brugt mere end to årtier på at studere forskellige egenskaber ved menneskets bevidsthed.

Til tider har han haft en filosofihistorisk kasket på. Senest i sin genlæsning af fænomenologiens grundlægger Edmund Husserl, som Information har anmeldt. Men Dan Zahavi har også samarbejdet med udviklingspsykologer og psykiatere, hvis empiriske forskning har vist at beskæftige sig med samme emner som ham.

»Jeg var tidligere meget ensidigt interesseret i filosofi, men ved i dag, at jeg også kan lære af andre discipliners indsigt – ligesom de kan lære af mig,« siger han.

Så når han skal forklare, hvor tidligt mennesket besidder selvbevidsthed, henviser han til det berømte forsøg ’The Rooting Reflex’ af hans samarbejdspartner, udviklingspsykologen Philippe Rochat. Forsøgets præmis er, at når spædbørn røres på kinden, vender de munden til, i forventningen om at skulle ammes. Det er en velkendt, evolutionært betinget automatreaktion. Men Philippe Rochat viste, at spædbørnene var mere tilbøjelige til at dreje hovedet, når deres kind blev berørt af noget andet end dem selv. Og konkluderede hermed, at mennesker helt fra starten af livet på primitiv vis kunne skelne mellem selv og ikke-selv.

På samme vis argumenterer Dan Zahavi for, at bevidstheden og selvet er uløseligt forbundet.

»Det er ikke nok at sige, at subjektive oplevelser har forskellige kvalitative aspekter knyttet til sig, således at de føles på en bestemt måde. Der mangler noget. Oplevelserne føles af nogen. De svæver ikke anonymt rundt uden ejer, de er nogens oplevelser. Så hvis vi skal yde bevidsthedslivet retfærdighed, er førstepersonsperspektivet afgørende,« siger han.

Ingen tankeeksperimenter

Dan Zahavi er ikke en af de filosoffer, som bryder sin hjerne med hypotetiske tankeeksperimenter. Han har ikke meget sympati over for den form for filosofi, som ifølge ham »har for mange ubekendte faktorer.«

Bevidsthedsforskningen har ellers tradition for den slags konstruerede filosofiske eksempler. Såsom det flere hundrede år gamle tankeeksperiment om, hvad der ville ske med deres bevidstheder, hvis to mennesker byttede hoved. Et scenarium, som ifølge den kontroversielle italienske kirurg Sergio Canavero snart er muligt – han har allerede foretaget en hovedtransplantation på to lig. Eller den klassiske hjerne i et kar-hypotese, hvor en afkoblet hjerne fodres med næring og information, som indgår i adskillige sci-fi-universer.

Selv hvis tankeeksperimenterne på et tidspunkt kan realiseres, vil de ifølge Dan Zahavi ikke vise, at bevidstheden at uafhængig af kroppen.

»Hjernen er jo en del af kroppen, og den hjerne, som bytter krop eller placeres i et kar, er formet og udviklet i en krop. Vores kropslighed har en afgørende rolle for vores bevidsthed. Og ideen om, at vi primært er vores hjerne, udfordres også empirisk, efterhånden som forskning gør os klogere på hormonproducerende kirtler eller tarmenes mikrobiomer, som påvirker humør og sind. Den såkaldte neurocentriske tilgang til bevidstheden er forældet,« siger han.

Ligesom bevidstheden nødvendigvis er forankret i en krop, er den altid intentionel, mener Dan Zahavi. Bevidstheden er i sit væsen karakteriseret ved at være rettet mod noget andet end sig selv.

»Langt størstedelen af vores bevidsthedstilstande, vores perceptioner, fantasier, følelser eller erindringer, indbefatter referencer til andre ting. Uanset om det er et glas vand eller barndomsminder,« siger han.

»En af de ting, som gør bevidstheden så særegen, er, at den har en selvoverskridende karakter. Den er optaget af alt det, som er forskelligt fra den selv. Det er blandt andet derfor, den har værdi for os. Det er på grund af vores bevidsthed, at vi kan færdes og navigere i en omverden, som potentielt kan være truende.«

— Ville eksistens i et vakuum af ingenting så være lig bevidstløshed?

»Det er et interessant spørgsmål. Men selv hvis man afskærer voksne mennesker fra alle sanseinput, betyder det jo ikke, at de ikke længere kan forholde sig intentionelt til alle de tanker og erindringer, som er gået forud. Selv før fødslen, er der meget som tyder på, at barnet gør sig erfaringer,« siger Dan Zahavi.

I såkaldte isolationstanke er det allerede muligt at frarøve mennesker deres sanseindtryk ved at placere dem i kropstempereret vand i et lydtæt, mørkt miljø. Isolationstankene blev første gang brugt i 1954 for at teste konsekvenserne af mistede sanser. Flere, som har befundet sig i tankene, beretter ifølge Dan Zahavi om at hallucinere.

»Det kunne være en interessant kommentar til, at det er svært for bevidstheden blot at befatte sig med sig selv.«

Bevidste robotter

Science fiction-genren har altid haft en forkærlighed for intelligente robotter, som bryder med levende væseners monopol på bevidsthed. I Star Wars gør guldrobotten C-3PO sine egne erfaringer, fortæller jokes og agerer autonomt. I Terminator-filmene opnår den kunstig intelligens Skynet selvbevidsthed og udsletter det meste af menneskeligheden med en atombombe.

Og i HBO-serien Westworld, hvis anden sæson netop er afsluttet, begynder de menneskelignende robotter, som bor i forlystelsesparken Westworld, at føle, opleve og kritisk at forholde sig til verden omkring dem, trods ingeniørernes forsøg på at begrænse deres minder og intelligens.

Selv om Westworld er nært beslægtet til Dan Zahavis eget forskningsfelt, har han ikke set serien. I tråd med sin skepsis over for filosofiens tankeeksperimenter er han ikke særligt optaget af sci-fi-universernes dystopier om kunstigt skabt bevidsthed.

Men med den teknologiske udviklings eksponentielle vækst kan bevidste robotter potentielt blive et scenarium, som ikke kun hører fiktionen til. Både Teslas grundlægger Elon Musk og den afdøde stjernefysiker Stephen Hawking har advaret om, at kunstig intelligens kan blive civilisationens endeligt. Og i dag kan flere robotter bestå Turing-testen, som måler maskiners evner til at udøve menneskelig intelligens.

Dan Zahavi vil ikke afvise, at ikke-biologiske systemer kan komme til at besidde bevidsthed, men for ham at se vil det hverken afhænge af, hvorvidt de kan bestå Turing-testen eller besidder massiv datakraft.

»Bevidsthed handler for mig at se ikke om intelligent adfærd eller regnekraft, men derimod om tilstedeværelsen af et subjektivt oplevelsesliv. Det har jeg endnu ikke set evidens for findes i nogen maskiner.« 

Hvis det lykkedes mennesket at skabe den bevidste robot, medfører det et moralsk ansvar, mener Dan Zahavi.

»Jeg har svært ved at forstå, hvorfor vi mennesker skulle have etiske forpligtelser over for avancerede maskiner – med mindre de har selvværd og selvbevidsthed,« siger han.

»Men det afføder flere interessante teoretiske spørgsmål. Hvad hvis robotten selv hævder, at den oplever og føler? Hvordan kan vi efterprøve det, og hvad bør det få af betydning i forhold til vores måde at behandle robotten på? Bør vi lade tvivlen komme den til gode og inkludere den i det moralske fællesskab? Den slags overvejelser er nødvendige.«

Vegetar

De moralske dilemmaer knyttet til bevidste robotter har meget tilfælles med diskussionen om dyrevelfærd, påpeger Dan Zahavi.

Den franske filosof René Descartes er berygtet for sin påstand om, at dyr ikke kan opleve smerte, og at deres skrig kun er en følelsesløs automatreaktion. Dan Zahavi er uenig. Han er med egne ord »meget liberal« når det gælder tilskrivningen af bevidsthed til en lang række dyr.

»Det betyder ikke, at der ikke er etisk relevante forskelle mellem mennesker og dyrs bevidsthed. Den menneskelige selvbevidsthed og identitet har bl.a. normative og historiske særtræk. Men det bør på ingen måde føre til en benægtelse af, at dyr er bevidste, og at vi har et moralsk ansvar i forhold til, hvordan vi behandler dem,« siger han. 

— Jeg får lyst til at spørge: Er du vegetar?

»Nej, det er jeg faktisk ikke. Det er et lidt ømt punkt, du rammer der. Jeg vil ikke forsvare beslutningen. Jeg må blot konstatere, at jeg godt kan lide kød.«

Bliv opdateret med nyt om disse emner på mail

Folketingsvalget er forbi, men magten skal stadig holdes i ørerne.
Få ubegrænset adgang med et digitalt abonnement. Første måned er gratis.

Prøv nu

Er du abonnent? Log ind her

Anbefalinger

  • Alvin Jensen
  • Katrine Damm
  • Torsten Jacobsen
  • Toke Kåre Wagener
  • Eva Schwanenflügel
  • Ejvind Larsen
Alvin Jensen, Katrine Damm, Torsten Jacobsen, Toke Kåre Wagener, Eva Schwanenflügel og Ejvind Larsen anbefalede denne artikel

Kommentarer

Katrine Damm

Hvad skal vi med bevidste robotter?
Bare fordi man kan noget, er det ikke nødvendigvis det samme, som at det er en god ide.
Jeg har ikke set Westworld, desværre, men man kan jo bare se Blade Runner...

Jørn Andersen

Til gengæld viser de tusindvis af veldokumenterede nærdødsoplevelser,at bevidstheden snildt kan eksistere uden en fysisk krop og med bibeholdelse af en identitet og et oplevende " jeg ".

Noget siger mig, at Dan Zahavi med fordel kunne interessere sig (lidt mere?) for Jesper Hoffmeyer's (m.fl.'s) biosemiotik. Det mentale er en (hyperkompleks) tegnproces, altså et relationsfænomen. Det første subjekt kom ind i verden med den første selvreproducerende celle. Følelse/oplevet perception er indtil videre et mysterium (og bevidsthedens essens), I hvert fald set med naturvidenskabelige øjne. Mvh.

Tor Brandt, Mogens Holme, Karsten Aaen og Jørn Andersen anbefalede denne kommentar
Karsten Aaen

Selvbevidste robotter er en umulighed! Hvis robotter en dag bliver selvbevidste, bliver de til androdier; androids. Det er det som C3P0 fra Star Wars er, ikke en robot. Og det er det som Data fra Star Trek er !

"Med MR-scanninger og elektroder har forskere i årtier forsøgt at kortlægge neuronernes komplekse netværk for her at finde de forbindelser, som kan forklare den menneskelige bevidsthed."

Åh ja, og alligevel er de ikke kommet en millimeter tættere, af den simple årsag at bevidstheden ikke produceres af fysisk materie.

En sammenhæng mellem oplevede indre bevidsthedstilstande og ydre fysiske processer vil altid udelukkende vedrøre bevidsthedsindholdet og aldrig bevidstheden i og for sig. Bevidstheden forstået som det faste punkt 'hvorfra' alt bevidsthedensindholdet opleves kan af strengt logiske årsager ikke begynde eller ophøre med at eksistere, men må nødvendigvis være en evig ting.

Det evige er ubegrænset. Naturvidenskaben i dag kan grundet dens fundamentale struktur udelukkende beskæftige sig med afgrænsede fænomener (dvs. det man kan sætte størrelse, vægt, antal etc. på), og derfor vil den aldrig kunne indfange bevidstheden. Den famler i blinde, og oven i købet i den forkerte retning.

Hvis man ønsker at udforske bevidsthedens natur, kan man lære mere ved at meditere i fem minutter end man kan ved at praktisere neurovidenskab i 100 år.

Torben K L Jensen

Hvis man gør mennesker til maskiner vil mennesket tabe - også Homo Economicus.
Er det ikke det der sker nu - regne mennesker for produktionsenheder ?