Læsetid: 11 min.

Derfor har fremtiden ikke brug for os (I)

24. juni 2000

Hvis ikke vi ser i øjnene, at vores blinde tillid til viden, er den største
trussel i det 21. århundrede, vil teknologien tage magten og æde
menneskeheden op - Sun Computers' grundlægger og direktør Bill Joy
er efter års arbejde med udvikling af ny teknologi blevet dybt
bekymret over den fremtid, vi er er ved at skabe

Fra det øjeblik, jeg blev involveret i udvikling af ny teknologi, har de etiske
aspekter bekymret mig. Men det var først i efteråret 1998, at jeg for alvor blev klar
over, hvor stor en fare vi står overfor i det 21. århundrede.
Min bekymring startede den dag, jeg mødte Ray Kurzweil, den - med rette -
berømmede opfinder af den første læsemaskine for blinde samt andre utrolige
ting.
Ray og jeg var talte begge på den samme konference, og efter vi begge havde
holdt vores indlæg, løb jeg tilfældigt ind i ham i hotellets bar. Jeg sad sammen
med John Searle, en filosof fra Berkeley University, som forsker i bevidsthed.
Midt i vores samtale stødte Ray til, og vi endte i en diskussion om et emne, som
forfølger mig den dag i dag.
Jeg havde hverken været til stede under Rays indlæg eller den efterfølgende
paneldiskussion, hvor både Ray og John deltog, og de genoptog nu diskussionen,
hvor den var endt. Ray hævdede, at med den hastighed, som de teknologiske
opfindelser bliver gjort i, ville vi blive til robotter eller smelte sammen med
robotterne eller noget i den stil, mens John mente, at sådan vil det aldrig gå,
eftersom robotter ikke har nogen bevidsthed.
Når jeg tidligere havde hørt den slags ideer blive luftet, havde jeg altid tænkt, at
sansende robotter hørte til i science fiction-genren. Men nu hørte jeg en person,
som jeg nærede stor respekt for, komme med stærke argumenter for, at denne
slags robotter er en mulighed i en nær fremtid.
Jeg var lamslået, specielt fordi Ray før havde bevist sin evne til at forudsige og
skabe fremtiden. Jeg var på det tidspunkt klar over, at nye teknologier som gen-
og nanoteknologi gav os magt til at skabe et nyt verdensbillede - men at
intelligente robotter var del af et realistisk og nært forestående scenario, kom som
en overraskelse for mig.
Det er ikke let at skabe opmærksomhed omkring nye videnskabelige
gennembrud. I nyhederne hører vi næsten hver eneste dag om en eller anden form
for teknologisk eller videnskabeligt fremskridt. Men hvad jeg hørte nu, var ikke
blot en sædvanlig fremtidsspådom.
I hotellets bar forærede Ray mig et næsten færdigt eksemplar af hans bog The
Age of Spiritual Machines, som stod for at blive udgivet. Bogen beskriver hans
fremtidsutopi - at menneskeheden udødeliggøres ved at blive ét med robotikken.
Da jeg læste det, blev min følelse af ubehag kun forstærket. Jeg var sikker på, at
han nedtonede faren og risikoen ved at følge denne kurs.
Jeg blev især bekymret over et afsnit, hvori han detaljeret beskriver et dystopisk
scenario:

Først når man blader videre til næste side, opdager man, at forfatteren til dette
kapitel er Theodore Kaczynski - UNA-bombemanden. Jeg skal ikke forsvare
Kaczynski. Hans bomber dræbte tre mennesker og sårede mange andre under den
17 år lange terrorkampagne. Kaczynskis aktioner var morderiske og efter min
mening vanvittige i kriminel grad. Han er helt klart en luddit, men det er ikke nok
til blankt at afvise hans argumenter. Hvor svært det end er for mig at erkende, så
kunne jeg se nogen værdier i hans tankegang i dette kapitel. Jeg følte mig tvunget
til at se nærmere på det.
Kaczynskis dystopiske visioner beskriver nogen utilsigtede konsekvenser, et
velkendt problem med udformningen og brugen af teknologien og et andet
problem, som tydeligvis hænger sammen med Murphys lov - alt hvad der kan gå
galt, går galt. Vores overforbrug af antibiotika har ført til det måske største
problem indtil nu: fremkomsten af antibiotika-resistente og endnu farligere
bakterier. Noget lignende skete, da man i et forsøg på at udrydde malariemyg med
DDT gjorde dem DDT-resistente. Desuden dannede malariemyggene
multiresistente gener.
Årsagen til mange af den slags overraskelser er let at få øje på: De involverede
systemer er komplekse og involverer interaktion og feedback mellem mange
forskellige dele. Enhver ændring i et sådant system vil forårsage reaktioner, som
er umulige at forudsige, specielt når menneskelige handlinger er involveret.
Jeg begyndte at vise mine venner Kaczynskis indlæg i The Age of Spiritual
Machines. Først gav jeg dem Kurzweils bog og lod dem læse indlægget, og så
studerede jeg deres reaktion, når de fandt ud af, hvem der havde skrevet det.
På omkring samme tid stødte jeg på Hans Moravecs bog , Robot: Mere machine
to Transcendent Mind. Moravec er en af de førende indenfor robotikken og
grundlægger af et af verdens største forskningsprogrammer i robotik på Carnegie
Mellon University. Bogen gav mig mere materiale til at teste mine venner, et
materiale som meget overraskende understøttede Kaczynskis argument.

Biologiske arter overlever så godt som aldrig et møde med en overlegen
konkurrent. For 10 mio. år siden var Nord- og Sydamerika delt af en sunket
Panama-landtange. Sydamerika var, som Australien er det i dag , befolket af
pungdyrsagtige pattedyr, bl.a. pungdyrs udgaver af rotter, hjorte og tigre. Da
landtangen, som nu forbinder Nord - og Sydamerika, blev til fastland, tog det kun
få tusinde år for de nordlige placentaler, hvis metabolisme og reproduktive - og
nervesystem var lidt mere effektivt, at erstatte og udrydde næsten samtlige af de
sydlige pungdyr.
På et totalt frit marked vil overlegne robotter uden tvivl påvirke mennesket, på
samme måde som de nordamerikanske placentaler påvirkede sydamerikanske
pungdyr (og som mennesket har påvirket adskillige arter). Internt i robotindustrien
ville de kæmpe indædt om materiale, energi og rum, og omkostningerne vil
komme uden for menneskets rækkevidde. Mennesket som biologisk art vil blive
tvunget ud af eksistens, for den vil ikke have råd til livets nødvendigheder.
Men vi lever ikke i et totalt frit marked. Regeringerne bruger tvang, når det drejer
sig om den ikke-markedslige adfærd, ved f.eks. at opkræve skatter. Regeringens
tvang kan ved velovervejet brug styrke den menneskelige befolkning i stort
omfang, ved en langsigtet udbytning af robotterne arbejde.
Det er en klassisk dystopi - og Moravec går videre endnu. Han fortsætter med at
tale om, at vores vigtigste opgave i det 21. århundrede vil være at sikre et fortsat
samarbejde med robotindustrien ved at vedtage love, som f.eks. Isaac Asimovs
etiske regler for robotter fra hans bog fra 1950, Robot:
*1. En robot må ikke skade et menneske eller undlade handling og dermed tillade
et menneske at komme til skade.
*2. En robot skal adlyde ordrer fra mennesket, undtagen hvis en ordre er i strid
med regel 1.
*3. En robot må beskytte sin egen eksistens, så længe denne beskyttelse ikke er i
strid med regel 1 og 2.
Moravec beskriver endvidere, hvor ekstrem farligt et menneske kan være, når
først det er transformeret til en ubegrænset superintelligent robot. Moravecs
synspunkt er, at robotter på et eller andet tidspunkt vil være vores efterfølgere - at
menneskeheden uden tvivl står over for udryddelse.

Jeg besluttede, at det var på tide at tale med min ven Danny Hillis. Danny blev
berømt som medstifter af Thinking Machines Corporation, som konstruerede en
utrolig kraftig parallel supercomputer. Til trods for min nuværende titel som
chefforsker på Sun Microsystems er jeg mere computer-arkitekt end
computervidenskabsmand, og jeg nærer stor respekt for Dannys indblik i
informations - og naturvidenskab. Danny er også en velestimeret fremtidsforsker,
som tænker langsigtet. For fire år siden startede han Long Now Foundation, som
konstruerer et ur, som designes til at holde 10.000 år i et forsøg på at gøre
opmærksom på den jammerligt korte tidshorisont, vi benytter i samfundet.
Så jeg fløj til Los Angeles for at spise middag med Danny og hans kone Pati. Jeg
gennemgik den nu vanlige rutine med at diske op med de ideer og passager, som
jeg fandt foruroligende. Dannys svar - som specielt var rettet mod Kurzweils
scenario af menneskets sammensmeltning med robotter - var kort og kontant.
Han sagde kort og godt, at ændringerne ville komme gradvist, og at vi ville vænne
os til dem.
Jeg var vel egentlig ikke særlig overrasket. Jeg havde læst et citat fra Danny i
Kurzweils bog, hvori han sagde: "Jeg er lige så tilfreds med min krop som alle
andre, men hvis jeg kan blive 200 år med en krop af silikone, så siger jeg ja tak."
Det lod til, at han havde forliget sig med denne proces og dens risici, hvilket ikke
var tilfældet for mig.
Mens jeg talte om og tænkte på Kurzweil, Kaczynski og Moravec kom jeg
pludselig til at tænke på en bog, jeg læste for næsten 20 år siden - Den Hvide Pest
af Frank Herbert - hvor en molekylærbiolog bliver sindssyg efter det meningsløse
drab på hans familie. For at tage hævn udvikler og spreder han en ny og meget
smitsom epidemi, som dræber bredt, men selektivt. (Det er heldigt, at Kaczynski
var matematiker og ikke molekylærbiolog). Jeg blev også mindet om The Borg i
Star Trek-filmen, et mylder af kreaturer som er halvt robotter og halvt biologiske
væsner med en meget destruktiv adfærd. Borg-lignende katastrofer er et
væsentligt element i science fiction, så hvorfor var jeg ikke på et tidligere tidspunkt
blevet foruroliget over disse dystopier om robotter? Hvorfor var andre mennesker
ikke synderligt bekymret over disse mareridtsagtige scenarier?
En del af svaret ligger nok i vores holdning til nyt, nemlig en tendens til
umiddelbar fortrolighed og blind accept. Vi er vant til at leve med næsten
rutinelignende videnskabelige gennembrud, men mangler stadig at vænne os til
den kendsgerning, at de mest frastødende teknologier i det 21. århundrede -
robotik, genteknologi og nanoteknologi - udgør en anderledes trussel end tidligere
teknologier. Især robotter, manipulerede organismer og nanosnyltere er en farlig
faktor, idet de kan reproducere sig selv. En bombe eksploderer kun én gang - men
en nanosnylter kan blive til mange og kan hurtig komme ud af kontrol.
En stor del af mit arbejde i de sidste 25 år har drejet sig om oprettelse af
computernetværk, hvor det at sende og at modtage skaber muligheden for
uhæmmet replikation. Replikation i en computer eller computernetværk er en
plage, og i værste fald får det maskinen eller netværket til at bryde sammen. Men
uhæmmet replikation i disse nyere teknologier udgør en langt større risiko, nemlig
en risiko for omfattende skade på den fysiske verden.
Hver af disse teknologier giver grænseløse løfter. Udsigten til udødelighed som
Kurzweil ser i sine robotdrømme, driver os videre. Genteknologien vil snart være
i stand til at tilbyde behandling og måske helbredelse af de fleste sygdomme. Og
nanoteknologi og nanomedicin kan afhjælpe endnu flere dårligdomme. Samlet
kan de i betydelig grad øge vores samlede levealder og forbedre livskvaliteten.
Men selv små fremskridt indenfor hver enkelt af disse teknologier vil medføre en
akkumulering af magt, hvilket er yderst farligt.

Hvad var anderledes i det 20. århundrede? Der er ingen tvivl om at teknologien
som ligger til grund for massedestruktionsvåben (WMD) - atom-, biologiske- og
kemiske våben - var en enorm trussel. Men udviklingen af atomvåben krævede, i
det mindste for en tid, adgang til både sjældent og ofte ikke tilgængeligt
råmateriale samt tophemmelige informationer. Der var også en tendens til, at
programmer til fremstilling af biologiske og kemiske våben krævede omfattende
aktiviteter.
Det 21. århundredes teknologier - genetik, nanoteknologi og robotik - er så
magtfulde, at de kan forårsage helt nye typer af uheld og misbrug. For første gang
er det mest farlige, at uheld og misbrug er inden for enkelt personer og små
gruppers rækkevidde. De kræver ikke det store udstyr eller sjældent råmateriale.
Viden alene vil være nok til at kunne benytte dem.
Så vi har altså mulighed for både massedestruktionsvåben samt massedestruktion
ved hjælp af viden, og muligheden for selvreplikation øger denne
ødelæggelsesevne i betydelig grad.
Jeg mener ikke, det er nogen overdrivelse at sige, at vi er på tærsklen til at gøre det
ekstremt onde fuldkomment. Et onde, hvis muligheder rækker langt videre end
massedestruktionsvåben, helt til en overvældende og forfærdelig styrke samlet
hos ekstreme enkeltpersoner.
Det er måske altid svært at se de vidtrækkende konsekvenser, når man står midt i
en hvirvelstrøm af forandringer. Den manglende forståelse for rækkevidden af
vores opfindelser midt i begejstringen for opdagelse og nyskabelse lader til at
være et generelt træk hos videnskabsmænd og teknologer.
Vi har længe været styret af det altoverskyggende begær efter viden, det er
videnskabens jagtbytte, og vi bemærker ikke i farten, at de nye og mere magtfulde
teknologier kan komme til at udgøre et liv i sig selv.
Jeg indså for længe siden, at de store fremskridt i informationsteknologien ikke
kommer fra computerforskere, computerarkitekter eller elektronikingeniører men
fra naturvidenskabsmænd. I 80'erne var det kaosteorien og ikke-lineære systemer.
I 90'erne teorierne om de komplekse systemer. Og for nylig har jeg sat mig ind i
molekylærelektronikkens utrolige muligheder.
Mit arbejde som medudvikler af tre programmeringssprog - SPARC, picoJava og
MAJC - har givet mig et indgående førstehåndkendskab til Moores lov. I flere
årtier har Moores lov helt korrekt forudsagt den eksplosive vækst i
halvleder-teknologi. Indtil sidste år var jeg overbevist om, at som Moores lov
havde forudsagt, ville udviklingsraten fortsætte indtil omkring år 2010, hvor
fysiske begrænsninger ville blive nået.
Jeg var ikke klar over, at en ny teknologi ville dukke op tids nok til at bibeholde
udviklingshastigheden.
Men på grund af de seneste hurtige og radikale fremskridt i molekylærelektronik -
hvor enkelte atomer og molekyler erstatter litografiske transistorer - og beslægtede
nanoskala teknologier, bør vi kunne nå op på eller overgå Moores lovens
udviklingshastighed med 30 år. I år 2030 vil vi sikkert være i stand til at
konstruere maskiner i massevis, som er en million gange mere effektive end
nutidens pc'ere, og som vil muliggøre Kurzweils og Moravecs visioner.
Denne enorme computerkraft er forbundet med de manipulerende fremskridt
indenfor naturvidenskaben og den nye, dybere forståelse for genteknologien, og
slipper derfor en enorm forvandlingskraft løs. Disse kombinationer åbner op for
muligheden for totalt at nyudforme verden - til det bedre eller til det værre. De
delings- og udviklingsprocesser, som før hørte til i naturens verden, er ved at
komme indenfor mulighedernes grænser for menneskets bestræbelser.
Jeg har aldrig følt, at jeg ved at udvikle software og mikroprocessorer udviklede
en intelligent maskine. Softwaren og hardwaren er så skrøbelig, og maskinens
kapacitet til at 'tænke' så ikke-eksisterende, at det selv som mulighed synes at have
meget lange fremtidsudsigter.
Men nu med udsigt til computerkraft på menneskeniveau om ca. 30 år dukker en
ny tanke op; måske arbejder jeg på at udvikle værktøjer, som vil muliggøre
udviklingen af en teknologi, som kan erstatte vores art.
Hvordan har jeg det med det? Meget ubehageligt. Jeg har i hele min karriere
kæmpet for at udvikle pålideligt software og nu ser det ud som om, fremtiden slet
ikke bliver så lys, som folk forestiller sig. Min egen erfaring siger mig, at vi har
en tendens til at overvurdere vores udviklingsevner.
I lyset af den enorme styrke, disse nye teknologier har, er det så ikke vigtigt at
overveje, hvordan vi bedst kan leve med dem? Og hvis det er en sandsynlighed
eller blot en mulighed, at resultatet af den teknologiske udvikling vil føre til vores
egen uddøen, burde vi så ikke udvise større forsigtighed?
Robotikkens visioner er først og fremmest, at maskinerne kan udføre alt arbejdet
for os og dermed frigøre os til et nyderliv som i et andet paradis. I sin bog om sådanne ideer, Darwin blandt maskiner, kommer George Dyser med denne advarsel: "I livets og udviklingens spil sidder der tre deltagere ved spillebordet; mennesket, naturen og maskinerne. Jeg sidder helt sikkert med ved naturens side. Men jeg har mistanke om, at naturen er på maskinernes side."
Som tidligere nævnt, så er Moravec enig i dette synspunkt, idet han mener, at vi højst sandsynligt ikke vil overleve mødet med den overlegne robot-art.

- fortsættes...

Bliv opdateret med nyt om disse emner på mail

Vores abonnenter kalder os kritisk, seriøs og troværdig.
Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Anbefalinger

anbefalede denne artikel

Kommentarer

Der er ingen kommentarer endnu