Læsetid: 14 min.

Derfor har fremtiden ikke brug for os (II)

24. juni 2000

- fortsat

Hvor nærtforestående er udviklingen af en intelligent robot? De kommende fremskridt indenfor computerudvikling tyder på, at det vil være muligt i 2030. Og når først én intelligent robot er udviklet, så er det kun et spørgsmål om tid, før vi har en hel ny art via en intelligent robot, som kan lave udviklede kopier af sig selv.
En anden af robotikkens visioner er, at vi gradvist erstatter os selv med vores robotteknologi og kommer tæt på at opnå udødelighed ved at downloade vores bevidsthed. Det er denne proces, Danny Hillis mener, at vi gradvist vil vænne os til, og som Ray Kurzweil meget elegant og detaljeret beskriver i sin bog The Age of Spiritual Machines.
Men hvis vi bliver downloadet ind i teknologien, hvor stor er chancen så for, at vi fortsat er os selv eller mennesker i det hele taget? Jeg tror, det er langt mere sandsynligt, at et væsen af robotikken ikke vil være menneskeligt, sådan som vi forstår det, og at robotterne på ingen måde vil være vores børn. Så et eller andet sted hen af vejen vil menneskeheden gå tabt.
Genteknologien giver løfter om at revolutionere landbruget ved at øge udbyttet og samtidig reducere brugen af pesticider; at skabe ti tusinde af nye arter af bakterier, planter, vira og dyr; at erstatte reproduktion eller at supplere den med kloning; at udvikle helbredelse af mange sygdomme og dermed forlænge vores levealder og øge livskvaliteten samt meget, meget mere. Vi ved nu med sikkerhed, at disse dybtgående ændringer i den biologiske videnskab er nært forestående og vil udfordre alle vores opfattelser af selve livet.
Teknologier som menneskekloning har især øget vores bevidsthed om de alvorlige etiske og moralske spørgsmål, vi står overfor. Hvis vi skulle rekonstruere os selv til flere separate og uens arter ved hjælp af genmanipulation, så ville vi true tanken om lighed, som er grundstenen i vores demokrati.
Med genteknologiens enorme muligheder er det ikke overraskende, at der er vigtige sikkerhedsspørgsmål forbundet med brugen af samme. Min ven Amory Lovin skrev for nylig sammen med Hunter Lovins en leder, som giver et miljømæssigt overblik over nogen af disse farer. En af deres bekymringer er, at den nye botanik sidestiller udviklingen af planter med deres økonomiske succes og ikke den udviklingsmæssige. Amorys lange karriere har været fokuseret omkring energi- og ressourceudnyttelse ved at betragte de menneskeskabte systemer i et samlet totalsystem, hvilket ofte kan medvirke til at finde simple og smarte løsninger på ellers tilsyneladende vanskelige problemer.
Efter at have læst Lovins leder så jeg en artikel af Gregg Easterbrook i The New York Times (19/11/99) om genmanipulerede afgrøder med overskriften: "Fremtidens fødevarer; En dag vil ris have indbygget A-vitamin, undtagen hvis luddismen vinder."
Er Amory og Hunter Lovin ludditter? Overhovedet ikke. Jeg tror, vi alle kan blive enige om, at gylden ris med indbygget A-vitamin er en udmærket ting, hvis det udvikles omhyggeligt med tanke på den fare, som en flytten gener over grænser udgør.
Der er voksende bevidsthed omkring farerne ved genmanipulation, hvilket også afspejler sig i Lovins leder. Offentligheden er klar over og bekymret for de genmodificerede fødevarer og lader til at være imod, at den slags mad ikke skal mærkes.
Men genmanipulationen er langt fremme. Som Lovin er inde på, har det amerikanske landbrugsministerium allerede godkendt omkring 50 genmanipulerede afgrøder til ubegrænset frigivelse. Mere end halvdelen af verdens soyabønner og en tredjedel af majsen indeholder gener splejsede fra andre former for liv.
Der er mange vigtige spørgsmål på dette område, men min største bekymring med genmanipulation er mere snæver; at det sætter magthaverne i stand til, det være sig militært, ved et uheld eller ved en overlagt terroraktion, at skabe en Hvid Pest.

En bog, som gjorde et stort indtryk på mig i midten af 80'erne, var Eric Drexlers
Engines of Creation, hvori han på smuk vis beskriver, hvordan manipulation af
materiale på atomniveau kunne skabe en fremtid med utopisk overflod, hvor
næsten hvad som helst kunne fremstilles billigt og næsten enhver tænkelig
sygdom eller fysisk defekt ville kunne klares ved brug af nanoteknologi og
kunstig intelligens.
En efterfølgende bog, Unbounding the Future: The Nanotechnology Revolution
(En grænseløs fremtid: Den nanoteknologiske revolution) med Drexler som
medforfatter, beskriver nogen af de ændringer, som er sandsynlige i en verden
med 'montører' på molekylær-niveau.
Montørerne ville gøre det muligt at fremstille ekstrem billig solenergi, at helbrede
cancer og en almindelig forkølelse ved at forbedre menneskets immunforsvar, at
rense miljøet og at fremstille ekstremt billige lommesupercomputere. I det store
og hele vil ethvert produkt kunne fremstilles af montørerne med meget lave
omkostninger, rumflyvning vil blive billigere end nutidens rejser over havene, og
uddøde arter ville kunne genskabes.
Jeg mindes at have en god fornemmelse af nanoteknologi efter at have læst
Engines of Creation. Som teknolog gjorde det mig rolig, at nanoteknologien viste
os, at alt var muligt og måske endda uundgåeligt. Hvis nanoteknologien var vores
fremtid, så følte jeg ikke trang til at løse ret mange problemer i nutiden. Jeg ville
nå til Drexlers utopiske fremtid tids nok. Så kunne jeg lige så godt nyde livet her
og nu. Der var ingen mening i at blive oppe hele natten og arbejde ifølge hans
fremtidsvision.
Drexlers vision førte også en masse sjov med sig. Jeg beskrev af og til
nanoteknologien over for andre, som aldrig havde hørt om den. Efter at have
drillet dem lidt med de ting Drexlers beskrev, gav jeg dem en hjemmeopgave:
"Brug nanoteknologien og skab en vampyr, og hvis der er noget til overs, skab en
modgift."
Disse mirakler bragte også tydelige trusler med sig, hvilket jeg fra starten var klar
over. På en konference for nanoteknologi i 1989 fremførte jeg, at "vi kan ikke
dyrke forskningen uden også at bekymre os om de etiske spørgsmål." Men
efterfølgende samtaler med naturvidenskabsmænd overbeviste mig om, at
nanoteknologien måske ikke en gang virker - eller at den i hvert fald ikke vil virke
i en nær fremtid. Kort tid efter flyttede jeg til Colorado og jeg begyndte at arbejde
med software til Internettet.

Sidste sommer fortalte Brosl Hasslacher mig så, at den nanomolekylære
elektronik nu var praktisk anvendelig. Det var overraskende nyt, i hvert fald for
mig, men sikkert for mange mennesker, og det ændrede radikalt min opfattelse af
nanoteknologi. Det fik mig til at vende tilbage til Engines of Creation. Da jeg læste
Drexlers bog igen efter mere end 10 år, var det overraskende at opdage, hvor lidt
jeg huskede fra kapitlet "Farer og håb", blandt andet en diskussion om hvorvidt
nanoteknologien kan blive en destruktionsmaskine.
Når jeg i dag læser bogen, så slår det mig, hvor naive nogen af Drexlers
sikkerheds forskrifter er, og hvor meget større jeg nu vurderer farerne til at være,
end han gjorde dengang.
Dette afgørende gennembrud for montørerne er sandsynligt indenfor de næste 20
år. Molekylarelektronik, det nye underområde af nanoteknologi hvor enkelt
molekyler er kredsløbselementer - er i hastig udvikling og menes at blive utroligt
lukrativt i dette årti, og dermed medføre en gradvis stigende investering på alle
nanoteknologiens områder.
Desværre er det som med atomteknologi, at det er lettere at udvikle destruktive
brug af nanoteknologi end konstruktive. Nanoteknologien er meget velegnet til
militære og terror-formål, og det er ikke nødvendigt at være selvmorderisk for at
slippe et omfattende destruktivt nanoteknologisk apparat løs, for et sådant apparat
kan konstrueres til at være selektivt destruktivt ved f.eks. kun at ramme et
specifikt geografisk område eller en gruppe mennesker, som genetisk adskiller
sig.
En umiddelbar konsekvens af nanoteknologiens store magt er, at vi løber en stor
risiko. Risikoen for at ødelægge biosfæren, som alt liv afhænger af.
Som Drexler forklarer det:
"'Planter' med 'blade', som ikke er mere effektive end nutidens solceller, kan
udkonkurrere ægte planter og overfylde biosfæren med uspiselige blade. Hårdføre
altædende 'bakterier' kan udkonkurrere rigtige bakterier. De kan sprede som pollen
i luften og reducere biosfæren til støv i løbet af få dage. Farlige replikatorer kan let
blive for hårdføre, små og hurtigt spredende til at kunne stoppes, vi forbereder i
hvert fald ikke nogen modtræk mod dem. Vi har problemer nok med at
kontrollere virus.
Blandt nanoteknologi eksperter er denne problemstilling blevet kendt som det grå
klister problem. Selv om mængden af ukontrollerede replikatorer ikke
nødvendigvis er grå eller klistret, så understreger udtrykket, at replikatorer, som er
i stand til at udslette livet, er mindre inspirerende end en enkelt art vildgræs. De er
måske overlegne i et udviklingperspektiv, men det gør dem ikke nødvendigvis
værdifulde.
Den grå klister trussel understreger en ting: Der er visse uheld med replikatorerne,
vi ikke har råd til."

Det grå klister ville være en deprimerende afslutning på menneskehedens
tilstedeværelse på jorden, endnu værre end is eller ild eller et banalt
laboratorieuheld.
"Det er første gang i vores planets historie at en art, ved egne frivillige handlinger,
er blevet til fare for sig selv samt for mange andre.
Det er måske en velkendt udvikling, som sker i mange verdener - en nydannet
planet kredser uforstyrret om dens stjerne, og liv tager langsomt form. En
kalejdoskopisk procession af væsner udvikles; intelligensen fremkommer og
udgør indtil et vist punkt en enorm overlevelsesværdi, og så bliver teknologien
opfundet.
Det går op for dem, at der er noget, som hedder naturens love, at disse love kan
kortlægges ved eksperimenter, og at viden om disse love kan bruges til både at
redde og tage liv, begge dele i stor målestok. De accepterer, at videnskaben giver
en enorm magt. På ingen tid skaber de kunstige påfund, som ændrer verden.
Nogen af planetens civilisationer bevarer overblikket og sætter begrænsninger på,
hvad der må, og hvad der ikke må gøres, og kommer sikkert gennem denne
risicifyldte tid.
Andre, som ikke er så heldige eller fornuftige, forgår."
Dette er skrevet af Carl Sagan, i Pale Blue Dot i 1994, en bog som beskriver hans
vision om menneskets fremtid i rummet. Det er først nu, jeg forstår, hvor dyb
hans indsigt var, og hvor meget jeg savner og vil savne hans stemme. Ud over at
være smuk retorik var Sagans bidrag almindelig sund fornuft - en egenskab som
sammen med ydmyghed er en dyd som mange af de førende fortalere for det
21-århundredes teknologier synes at mangle.

Fra min barndom kan jeg huske, at min bedstemor var meget imod et overforbrug
af antibiotika. Hun havde arbejdet som sygeplejerske siden Første Verdenskrig og
havde en meget fornuftspræget holdning om, at antibiotika var en dårlig ting,
undtagen hvis det var strengt nødvendigt.
Det er ikke fordi, hun var en fjende af fremskridt. Hun så mange fremskridt i sin
næsten 70 år lange karriere som sygeplejerske; min bedstefar, som havde
sukkersyge, havde stor gavn af de forbedrede behandlingsformer, som blev
tilgængelige i hans tid. Men som så mange andre besindige mennesker ville hun
sikkert finde det arrogant, at vi nu udvikler en robotagtig reserveart, når vi
tydeligvis har besvær med at få selv små ting til at fungere og fortsat har svært
ved at håndtere og forstå os selv.
Det går nu op for mig, at hun havde en bevidsthed om livets orden og
nødvendigheden af at leve med og respektere denne orden. Med respekten
kommer den nødvendige ydmyghed, som vi, med den frækhed som kendetegner
starten af det 21. århundrede, mangler.
Den almindelige sunde fornuft baseret på respekt er ofte forud for de
videnskabelige beviser.
Den tydelige skrøbelighed og ineffektivitet i de menneskeskabte systemer, vi har
opbygget, burde få os alle til at tænke os om. Usikkerheden i de systemer, jeg har
arbejdet med, gør i hvert fald mig ydmyg.
Vi burde have lært noget af udviklingen af den første atombombe og det
efterfølgende våbenkapløb. Vi håndterede det ikke særligt godt dengang, og
parallellerne til den nuværende situation er foruroligende.
For næsten 20 år siden i dokumentarfilmen The Day After Trinity opsummerer
Freeman Dyson de videnskabelige holdninger, som førte os til atomafgrunden:
Jeg har selv haft følelsen. Glans og glimmer over atomvåben. Det er
uimodståeligt, hvis du betragter det som videnskabsmand.
At føle at du står med det i hænderne, at løsgive denne energi som giver
brændstof til stjernerne, at lade det adlyde din mindste befaling. Det er noget, som
giver folk en illusion om ubegrænset magt, og det er på sin vis ansvarligt for alle
vore problemer. Det, som kan kaldes teknisk arrogance, opstår, når folk ser, hvad
de kan gøre med deres forstand.
Nu som førhen er vi skabere af ny teknologi og stjerner i den fremtid, vi forestiller
os, men nu bliver vi drevet videre af de store økonomiske belønninger og den
globale konkurrence - til trods for de tydelige farer - næsten uden at overveje,
hvordan det må være at leve i det realistiske resultat af det, som vi er i gang med at
skabe og forestille os.
I 1947 begyndte The Bulletin of The Atomic Scientists at afbilde et dommedagsur
på forsiden. I mere end 50 år har bladet givet en vurdering af de relative atomfarer,
vi har stået overfor, hvori de internationale forandringer afspejles. Viserne på uret
har rykket sig 15 gange og står i dag på 9 minutter til midnat, og faren ved
atomvåben er fortsat reel. Indien og Pakistan blev fornylig tilføjet listen over
atommagter, og dermed er målet for ikke-spredning blevet sværere at nå, og
derfor rykkede viserne på dommedagsuret nærmere midnat i 1998.

Hvor stor en trussel står vi overfor i vor tid, ikke kun fra atomvåben men fra alle
disse teknologier? Hvor stor er risikoen for udryddelse?
Filosoffen, John Leslie, har set på dette spørgsmål, og konkluderer, at risikoen for
at mennesket uddør er på 30 pct.. Ray Kurzweil mener, at chancen for at vi klarer
os, er større end nogensinde - dog med den tilføjelse at han altid er blevet beskyldt
for at være for optimistisk.
Disse vurderinger er ikke blot meget lidt opmuntrende, men de omfatter heller
ikke andre mulige og rædselsvækkende udfald end udryddelse.
Det eneste realistiske alternativ, jeg kan få øje på, er at sige fra.
At begrænse udviklingen af teknologier som er for farlige ved at begrænse vores
jagt indenfor bestemte vidensområder.
Ja, jeg ved at viden er godt, ligesom søgen efter nye sandheder. Vi har søgt efter
ny viden siden tidernes morgen. Aristoteles åbnede op for sin metafysik med et
simpelt udsagn: "Alle er skabt til at stræbe efter viden."
I vores samfund har vi i lang tid brugt en værdi, som hedder fri adgang til
information, og vi har erkendt de problemer, som opstår, hvis man forsøger at
begrænse adgang til og udvikling af viden. Vi er nået til at have stor agtelse for
videnskabelig viden.
Men hvis fri adgang til og ubegrænset udvikling af viden fremover sætter os i fare
for at uddø, så siger den sunde fornuft, at vi skal overveje sagen igen.
Det var Nietzsche, som i slutningen af det 19. århundrede advarede os om, at ikke
blot er Gud død, men at troen på videnskaben, som utvivlsomt eksisterer, ikke
skyldes en brugsværdi. Den er opstået på trods af den kendsgerning, at
ubrugeligheden og farligheden af 'viljen til sandheden' og af 'sandheden for enhver
pris' er blevet bevist gentagne gange. Det er den trussel, vi nu står overfor.
Konsekvensen af vores sandhedsjagt. Den sandhed, som videnskaben jagter, kan i
allerhøjeste grad betragtes som en farlig erstatning for Gud, hvis den kan føre til,
at vi uddør.
Hvis vi som art kunne blive enige om, hvad vi ønsker, og hvor vi er på vej hen og
hvorfor, så ville fremtiden være meget mindre truende, og så ville vi måske blive
klar over, hvad vi kan og bør fravælge. I modsat fald er det let at forestille sig et
våbenkapløb om de nye GNR-teknologier, som det var tilfældet med
NBC-teknologierne i det 20. århundrede. Det er måske den største trussel, for hvis
først et sådant kapløb har taget fart, så er det næsten umuligt at stoppe.
Jeg tror på, at vi alle ønsker at vores fremtid ville blive udstukket af vore
kollektive værdier, etik og moral. Hvis vi havde samlet mere kollektiv viden i de
sidste årtusinder, så ville dialogen være mere praktisk, og de utrolige kræfter, som
vi står overfor at slippe løs, ville ikke være nær så faretruende.
Nogle tror måske, at vi ville blive drevet til en sådan dialog af vores
selvopholdelsesinstinkt. Som enkelt personer har vi måske dette drive, men som
art synes vores adfærd ikke at være befordrende. I spørgsmålet om
atomvåbentruslen var vi ofte ikke ærlige over for os selv eller omgivelserne, og
dermed blev risikoen øget. Om det var politisk motiveret, eller fordi vi ikke
tænker langsigtet eller vi på grund af angst reagerede irrationelt overfor truslen, det
ved jeg ikke, men det lover ikke godt.
Den nye Pandoras æske med gen- og nanoteknologi og robotik er næsten åben,
men det synes vi ikke at have bemærket. Ideer kan ikke puttes tilbage i æsken. Til
forskel fra uran og plutonium skal de ikke udvindes og raffineres, og de kan frit
kopieres. Når først de er ude, er de ude.
Churchill bemærkede i et berømt kompliment, at det amerikanske folk og deres
ledere "uvægerligt gør det rigtige efter at have prøvet alle alternativer." Men i dette
tilfælde er det nødvendigt at handle mere fremsynet, for hvis vi først gør den
rigtige ting til sidst, så er det måske for sent.
Som Thoreau fremførte, "vi kører ikke på jernbanen, den kører over os", og det er
det, vi skal kæmpe imod i vor tid. Spørgsmålet er selvfølgelig, hvem skal herske?
Vil vi overleve vores teknologier?
Vi er blevet kastet ind i det nye århundrede uden plan, uden kontrol, uden
bremser. Er vi allerede nået for langt til at ændre kurs? Det tror jeg ikke, men vi
har endnu ikke forsøgt, og det er snart sidste udkald.
Vi har allerede de første kæledyrs-robotter samt kommercialiserede
genmanipuleringsmetoder, og vores nanoskala teknikker er i hastig fremmarch.
Gennembruddet indenfor robotik samt gen- og nanoteknologi kan komme meget
overraskende, og kan overgå den overraskelse vi følte, da vi hørte om kloningen
af det første pattedyr.
Hvordan kan vi finde nye etiske retningslinjer at styre efter? Efter min mening er
de ideer, som udtrykkes i Dalai Lamas bog Ethics for the New Millenium værd at
overveje. Dalai Lama udtrykker, at det vigtigste er at leve et liv med plads til
kærlighed og medfølelse for andre, og at vore samfund skal udvikle en stærkere
følelse af fælles ansvar og samhørighed. Han foreslår en norm for positiv etisk
opførsel for individuelle og samfund, som synes at være i harmoni med Attalis
fællesskabs-utopi.
Dalai Lama siger fortsat, at vi må forstå, hvad der gør folk lykkelige, og
anerkende det klare bevis på, at hverken materielle fremskridt eller vidensmagt er
løsningen - at der er begrænsninger for, hvad videnskaben og dens formåen kan
gøre.
Vores vestlige opfattelse af lykke stammer øjensynligt fra grækerne, som
definerer det som "udøvelse af vitale kræfter sammen med fortræffelighed i et liv,
som giver dem spillerum."
Det er helt klart nødvendigt at finde meningsfulde udfordringer og tilstrækkeligt
spillerum i livet for at blive lykkelige i, hvad der end venter forude. Men jeg
mener også, det er nødvendigt at finde alternative udtryksmåder for vores kreative
sider, som ser ud over den økonomiske vækstkultur.
Den økonomiske vækst har i det store og hele været en velsignelse i mange
hundrede år, men den har ikke bragt os fuldkommen lykke, og vi må nu vælge
mellem ubegrænset vækst via videnskab og teknologi, og de tydelige
medfølgende farer.

- fortsættes...

Følg disse emner på mail

Vores abonnenter kalder os kritisk,
seriøs og troværdig.

Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her