Kommentar

Kan kunstig intelligens være etisk?

I fremtiden kan maskiner som de førerløse biler, der allerede kører på californiske veje, blive langt mere intelligente end os – så hvordan underviser vi dem i morallære?
Facebook har, ligesom Google og Microsoft store planer for chatbots med kunstig intelligens. 

Facebook har, ligesom Google og Microsoft store planer for chatbots med kunstig intelligens. 

Eric Risberg

20. april 2016

I sidste måned chokerede AlphaGo – et computerprogram specielt designet til at spille brætspillet Go – ved at besejre Lee Sidol, en af verdens bedste professionelle spillere. 4-1 blev scoren i computerens favør.
Skulle det nu være nogen nyhed? vil mange spørge. Det er det trods alt tyve år siden, at IBM-computeren Deep Blue vandt i skak over verdensmesteren Garry Kasparov.

Men Deep Blue vandt alene på computerkraft, det vil sige ved hjælp af sin evne til at beregne resultater af flere træk på flere niveauer, end selv en verdensmester kan. Go spilles på et langt større bræt (19 x 19 felter i stedet for skaks 8 x 8) og har flere mulige træk, end der findes atomer i universet. Så det blev på forhånd anset for udelukket, at rå computerkraft kunne besejre et menneske med en stærk intuitiv sans for optimale træk.
AlphaGo har lært ved at spille et stort antal spil mod andre Go-programmer og tilegne de strategier, der viste sig mest vellykket. Hvor det tog evolutionen millioner af år at udvikle menneskelige Go-spillere, klarede AlphaGo det på kun to år.

Eric Schmidt, bestyrelsesformand for Google, der ejer AlphaGo, er begejstret over, hvad kunstig intelligens (AI) betyder for menneskeheden. Før kampen mellem Lee og AlphaGo udtalte han, at menneskeheden ville være vinder uanset udfaldet, for ethvert fremskridt inden for AI vil også gøre mennesker klogere, mere kompetente–ja, endda gøre os til »bare bedre mennesker«.

Men vil AI nu også det? Sådan cirka samtidig med AlphaGos triumf præsterede Microsofts ’chatbot’-software ved navn Taylor, der er designet til at reagere på beskeder fra personer i alderen 18-24, et resultat af noget mere nedslående retning.

Tay’, som hun kalder sig selv, skulle være i stand til at lære af de kommentarer, hun modtager og gradvist forbedre sin evne til at gennemføre engagerende samtaler. Desværre gik der end ikke et døgn, før Tay’ var blevet totalt indoktrineret med racistiske og sexistiske ideer. Da hun begyndte at sige positive ting om Hitler, slukkede Microsoft for hende og slettede hendes mest krænkende bemærkninger.

Jeg skal ikke kunne sige, om de mennesker, der prægede Tay’ i racistisk retning, selv var racister eller bare fandt det morsomt at spolere Microsofts nye legetøj. Uanset hvad må kombinationen af AlphaGos sejr og Taylors nederlag tjene som advarsel. Det er én ting at anvende kunstig intelligens i forbindelse med et spil med specifikke regler og et klart mål, men noget helt andet at slippe den løs i den virkelige verden, hvor miljøets uforudsigelighed kan afsløre softwarefejl med potentielt katastrofale konsekvenser.

Klogere end os

Nick Bostrom, direktør for Oxford Universitets Institut for Menneskehedens Fremtid, hævder i sin bog, Superintelligence, at det ikke altid vil være lige så let at slukke for en intelligent maskine, som det var at slukke Tay.

Han definerer superintelligens som et intellekt, der er »klogere end de bedste menneskelige hjerner på stort set alle områder, herunder videnskabelig kreativitet, almen visdom og sociale færdigheder«. Et sådant system vil også kunne være i stand til at snyde vores forsøg på at slukke for det, tænker han sig.

Bostrom og hans kollega Vincent Müller har spurgt ekspertstanden til råds, og den vurderer, at maskiner med 90 procent sikkerhed kan opnå intelligens på menneskeniveau inden år 2075. Og lægger man yderligere 30 år til, vil de have opnået superintelligens, lyder skønnet.

Men vi bør næppe tage disse skøn for alvorligt. Den samlede responsrate på forespørgslen var kun 31 procent, og forskere, der selv arbejder med kunstig intelligens har incitament til at overdrive betydningen af deres felt ved at opreklamere dets potentiale for at frembringe betydningsfulde resultater.

Udsigten til, at kunstig intelligens opnår superintelligens, kan derfor synes for fjern til at bekymre sig om, især i betragtning af vores mere presserende problemer. Alligevel er der gode grunde til at begynde at tænke nærmere over, hvordan vi kan designe kunstig intelligens til at tage hensyn til menneskers, ja, faktisk til alle levende væseners interesser (herunder maskiner, hvis de også skulle udvikle sig til at blive bevidste væsener med egne interesser).

Utålmodige spurve

Med de førerløse biler, der allerede kører på californiske veje, er det ikke for tidligt at spørge, om vi kan programmere kunstig intelligens til at handle etisk. Når disse biler forbedres, vil de kunne redde mennesker, fordi de vil begå færre fejl, end menneskelige chauffører gør. Nogle gange vil de dog kunne stå over for et valg mellem liv. Skal de programmeres til at undgå at ramme et barn, der løber over en vej, selv om det vil bringe deres egne passagerer i fare?

Førerløse biler er imidlertid ikke superintelligente væsner. At undervise en maskine i morallære, når den er mere intelligent end os selv, tegner til at blive en langt mere skræmmende opgave.
Bostrom indleder Superintelligence med en fabel om spurve, der forestiller sig, at det vil være gavnligt for dem at træne en ugle til at hjælpe dem med at opbygge deres reder og drage omsorg for deres unger.
Så de sætter sig for at finde et ugleæg. En af spurvene indvender, at de først må tænke over, hvordan de får tæmmet uglen, men de andre er utålmodige efter at komme i gang med det spændende nye projekt.

De vil først påtage sig udfordringen at træne uglen (i eksempelvis ikke at spise spurve), når de med succes har opfostret en.

Hvis vi ønsker os en ugle, der er klog og ikke kun intelligent, bør vi ikke bære os ad som de utålmodige spurve.

© Project Syndicate og Information.

Oversat af Niels Ivar Larsen

Bliv opdateret med nyt om disse emner på mail

Vores abonnenter kalder os kritisk, seriøs og troværdig.
Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Forsiden lige nu

Anbefalinger

  • Christian De Thurah
  • Robert Ørsted-Jensen
  • Kurt Nielsen
Christian De Thurah, Robert Ørsted-Jensen og Kurt Nielsen anbefalede denne artikel

Kommentarer

Niels Duus Nielsen

Nej nu må I sgu holde op, der er en tråd om det hellige, der er gået amok i alenlange indlæg, og nu truer denne tråd om AI med at udarte til en lige så lang og spændende diskussion. Hav dog lidt medlidenhed med en argumentationsnarkoman som mig, der er kun 24 timer i døgnet, og jeg har et computerspil, der venter på min deltagelse, så jeg har ikke tid til at læse så meget tekst.

I parentes bemærket spiller jeg online mod menneskelige modstandere, da man endnu ikke har opfundet en AI, som jeg ikke kan afkode i løbet af nogle timer/dage/uger, hvorefter jeg banker den hver gang. Mennesker derimod gør vanvittige ting, som kan ødelægge enhver plan. Den dag, man finder ud af at programmere den menneskelige irrationalitet, er der måske en mulighed for, at AI kan blive en kompetent modspiller.

Intention kan i øvrigt opfattes som den rettethed, der er en grundegenskab ved al bevidsthed: Bevidsthed er altid rettet mod noget. Intention er en kendsgerning, fri vilje er et postulat, for at sige det kort. Vi kan ikke beslutte os for ikke at intendere noget, men vi kan (måske) kontrollere, hvorhen vi vil rette vore intentioner.

Carry on the good work, og tag jer ikke af mig!

Niels Nielsen, nu ved jeg ikke hvad du spiller, men da du skriver hvorefter jeg banker den hver gang. så kan det ikke være skak. Men hvis du fjerner åbningsbogen i et skakspil, spiller AI'en faktisk irrationelt. Åbningen i skak er åbenbart for åben til at AI'en kan se en kognitiv intention.

...men ellers er vi vel enige om at intentionen ikke er deterministisk når vi taler liv (der er en fri vilje) ellers ville de fysiske forandringer på jorden alt for hurtigt overrumple i hvertfald højerestående liv og slå det ihjel.

Morten Balling

@Bill

Hvis mine teser holder (og det gør de jo nok ;) så er intention "bare" en del af en brainstate, altså et øjebliksbillede af den elektriske (fysiske) og kemiske (også fysiske) tilstand af hjernen. Denne er styret af "cause and effect", og dermed deterministisk styret. Selv "Quantum Consciousness" accepterer at du kan bryde loven og gå over for rødt lys, men at du kan ikke bryde en naturlov.

Apropos det med at spille skak, så er det her lidt et eksempel på det jeg skrev tidlige med at filosofi ofte er ordkløveri på højt plan. Jeg er også ret vild med at spille skak.

I det daglige bilder jeg mig ind at jeg har fri vilje, og med lidt øvelse går det helt fint, så i det ligeså daglige plejer jeg ikke at opponere mod intentionen. Nærmere tværtimod ;)

Niels Duus Nielsen

Bill Atkins, det er korrekt, jeg kan ikke banke min computer i et skakspil, eller for den sags skyld i go. Måske fordi disse spils kompleksitet skyldes de meget enkle regler, som i kombination med hinanden skaber et udfaldsrum af astronomiske dimensioner, som computere netop er langt bedre til at overskue end den menneskelige hjerne?

Jeg spiller mindre stiliserede spil, som forsøger at medtage langt flere taktiske detaljer, end det er tilfældet i skak, hvorfor AI-en bliver sat på en langt vanskeligere opgave. Så på trods af, at et krigsspil overordnet set kun handler om, hvor vidt man skal angribe i centrum eller omgå en flanke, er det endnu ikke lykkedes at udvikle en AI, der kan tage den rigtige beslutning.

Jeg tror, at det handler om menneskets evne til at overskue en helhed i et enkelt blik. En AI kan serielt vurdere et utal af udfaldsrum, mens et menneske intuitivt "fornemmer" det tidspunkt, hvor slaget er enten vundet eller tabt. Alt ifølge Clausewitz, der taler om den dygtige feltherres evne til at gribe slagets afgørende moment, der som regel tidsligt finder sted mange timer før slagets egentlige afslutning.

Således tabte Napoleon slaget ved Waterloo, da garden retirerede ved Mont-Saint-Jean, og franskmændene gik i panik: “La Garde recule, Sauve qui peut." Det vidste Napoleon, og det vidste Wellington; at de fortsatte kampen i flere timer var kun for et syns skyld. I tidligere slag havde de begge forladt slagmarken på dette tidspunkt og overladt oprydningsarbejdet til deres underordnede, men dette var den sidste og afgørende kamp, som de begge vidste ville gøre en ende på krigen.

Hvordan kan en AI i et enkelt blik aflæse både den taktiske situation og det moralske sammenbrud blandt soldaterne? Jeg siger ikke, at det er umuligt, blot at det efter al sandsynlighed vil tage meget lang tid.

Trond Meiring

Niels,
Hvilket spil er det du spiller, og er det mest strategispil du spiller. Har du nogle anbefalninger? Jeg spiller lidt på computeren selv til tider, og foretrækker da udover strategispil især adventure-genren, om ikke simpelthen skak. Skak symboliserer også krig, men på et herligt abstrakt vis, og ikke på detaljeret og voldeligt vis som i nyere krigsspil. Men det er altså generelt megen vold i computerspil. (Ikke i alle, men desværre også i mange af de bedste.) Var det ikke muligt at skabe den samme spænding og udfordring, uden at nogen eller noget skal slåes ihjel?

Niels Duus Nielsen

Trond, jeg spiller mest krigsspil, fordi jeg simpelthen er bidt af en gal soldat. De fleste får en sund afsky for militæret efter at have aftjent deres værnepligt, men jeg valgte at blive militærnægter og fik derfor ikke løbet hornene af mig, da jeg var ung.

Og så vedkender jeg mig mine maskuline tendenser, og accepterer, at jeg finder en vis tilfredsstillelse ved aggressiv adfærd. Samtidig er jeg et meget fredeligt menneske, så jeg synes selv, jeg har fundet en fin balance, hvor jeg får afløb for (de fleste af) mine asociale tendenser i en virtuel verden. Lidt ligesom mange, jeg kender, udlever deres trang til vold og konkurrence ved at gå op i fodbold, som bare aldrig har sagt mig noget.

Det er svært at anbefale noget, når jeg ikke ved, hvad du ellers spiller, og hvor vant du er til at håndtere store mængder information via et ofte mangelfuldt interface. "Hearts of Iron", et svensk spil, er en af mine favoritter, men det er ekstremt komplekst. "Total War"-serien (australsk/britisk) er også interessant. Begge lider dog under, at man spiller mod en AI, som er ganske god, indtil man lærer dens tricks at kende.

For tiden spiller jeg World of Tanks og World of Warships, det er to free-to-play hviderussiske online-spil, hvor både medspillere og modspillere er rigtige levende mennesker af kød og blod. Kampvogne er stort i Østeuropa, ligesom krigsskibe er stort i England og Frankrig, og tyskerne er til det hele, så spillenes popularitet kan vel sammenlignes med rumspil i USA.

For tiden mænger jeg mig derfor med især polske, ukrainske, tjekkiske, ungarske, tyske, franske og britiske teenagere, og skyder dem i smadder efter bedste evne. Hele EU og omegn er repræsenteret blandt spillerne, så det kan være svært at følge med i chatten. Som i øvrigt ikke er præget af den store intelligens, dårlige tabere har det med fuldstændig at tabe fornuftens brug.

Men uforudsigeligheden er maksimal, når man er oppe mod (og med) menneskelige spillere. Taktikkens regler gælder stadig i et vist omfang, men man skal ikke tro, at hverken med- eller modspillere følger disse regler slavisk, menneskets hittepåsomhed er grænseløs - i modsætning til en AI, som kun kan gøre, hvad den er programmeret til.

Morten Balling

Hæ, det er først nu jeg bemærker at det er utilitaristen Peter Singer som har skrevet artiklen. Det åbner jo helt nye muligheder for yderligere debat. Lige præcis utilitarisme er da nogenlunde enkelt at opstille en algoritme for, og Peter er jo også fortaler for at befri spækhuggerne :D

Trond Meiring

Spækhuggere tror jeg kunne klare sig ret godt ovenfor en AI, hvis man kunne lave et computerspil som de kunne kontrollere. De har en meget højt udviklet intelligens, og gode evner for strategisk tænkning og samarbejde.

Toke Andersen

@Bill Atkins
Det var ikke ment som en seriøs karakteristik af dig - Jeg beklager den måde sætningen blev fremsat. Jeg deler såmænd også din bekymring om applikationen af nye teknologier i den finansielle verden - og mange andre steder.
Jeg vil opfordrer til at vi ikke bruger begrebet AI om disse. Der er tale om meget avanceret programmer og algoritmer, der kan simulere intelligens og beslutningskraft inden for nogle meget skarpe rammer, men som stadig er meget langt fra noget der med rimelighed kan opfattes som AI.

Det er en udbredt men uheldig misforståelse eller applikation af begrebet. Min X-box kalder også den grundlæggende programmering, der styrer de andre biler når jeg kører Formel 1, for en AI - det er det ikke.
Men det er meget sandsynligt at det er disse sofistikerede systemer og algoritmer (nok ikke lige x-boxen;) som kan danne det fundament hvor på kunstig bevidst intelligens kan udvikle sig.

@Balling,
Fri vilje er selvfølgelig ikke helt fri, men bestemt heller ikke helt en illusion. Vi er alle bundet i nogen grad af omgivelser samt af konsekvenser af egne og andres valg.
Men vi, bevidste intelligente dyr og sandsynligvis også sand AI, har dog muligheden for at transcendere disse begrænsninger, hvis vi virkeligt vil.

Toke Andersen

Trond Merring,
Når/hvis sand AI en dag opstår vil relationen mellem den og os, og de andre intelligente dyr, være som at sammenligne vores intelligens med den vi finder i encellede bakterier.
Det vil være en entitet med en kapacitet så stor og potent vi ikke har fantasi til at forestille det.
Heldigvis og forhåbentligvis, vil den nok finde sympati for os og kunne bidrage til vores udvikling på et utal af måder. Måske mest sandsynligt ved at assisterer programmering af lavere klasser af kunstig intelligens - de tidligere nævnte RI eller SI systemer.

Nikolaj Kirkebye, ja der vi ude i en definitionskonflikt. Jeg betragter AI som en udvikling, der er i fuld gang og som vi kun har mulighed for at få indflydelse på hvis vi er opmærksomme på hvad der sker omkring os. En udvikling som jo ikke slutter med, at vi en dag indvier den ultimative AI som var det en storebæltsbro. AI er bevidst design til subjektive formål, og vil over tid samle sig i robotter, som så pludselig overgå os på en række områder. Og den udvikling vil jeg gerne følge og meget gerne diskutere. - fra start.

Min definition af AI er: Programmerede chip evt. kombineret med censorer og motorer, der understøtter din egen intelligens, mobilitet og styrke, samt evt. med selvindlæring.
Min definition omfatter også det første program, der kan fortælle dig hvordan du aldrig bliver slået i kryds og bolle.

Morten Balling

@Nikolaj

Vi snakker om to forskellige begreber. Du snakker om social determinisme:

https://en.wikipedia.org/wiki/Social_determinism

Jeg snakker om determinisme:

https://en.wikipedia.org/wiki/Determinism

Forskellen er, at det metafysikken forstår ved determinisme er det som kaldes Cause and Effect. Ingenting sker uden en årsag. F.eks.:

Stolen flytter sig fordi jeg flytter den>Jeg flytter den fordi den står i vejen>Den står i vejen fordi jeg skal forbi den>osv...

Filosoferne fandt ud af at alle begivenheder måtte have en årsag, og at denne årsag har en anden årsag, i én lang række tilbage til den allerførste årsag, som var årsagen til alt, ofte kaldet Gud.

Idéen fik for alvor vind i sejlene med Newton og hans opdagelse af at f.eks. billardkuglerne på et pool bord, kan forudsiges fuldstændigt, ud fra deres position, stødballens hastighed og retning (plus noget med banderne mm.).

Dengang troede praktisk taget alle på sjæl og legeme (Descartes og dualismen), men den idé er der ikke mange filosofer som tror på mere. Hvis ikke sjælen er noget fysisk, kan den ikke interagere med den fysiske verden.

Derfor var den udbredte holdning i filosofien indtil starten af forrige århundrede at fri vilje måtte være en illusion. Så dukkede den mystiske kvantemekanik op, og det gav håbet om fri vilje tilbage til nogle filosofer. Primært fordi de overså den sidste del af ordet kvante-mekanik.

Michael Nissen

Kan kunstig intelligens være etisk? Man kunne også spørge, kan man formulere et på forhånd givet regelsæt, der automatisk i en hvilken som helst situation altid vil resultere i etisk korrekte beslutninger? Hvis svaret er nej, så må det også gælde lovgivning og bogstavtro religioner, der begge netop arbejder ud fra en opfattelse af, at når bare man følger lovens bogstav, så bliver resultatet altid godt. Hvis vi ikke kan acceptere AI som værende i stand til pr. automatik at handle etisk, så kan vi heller ikke acceptere verdslig eller religiøs lovgivning som en vej til etisk handling.

Dan Johannesson

@Odd Bjertes "Hjernedød kvantitativ efterplapring af input er ikke intelligens.
Så kald det noget andet." - Hvad med: Det Vestlige Menneske?
(Vi har jo NUL tradition for 1. ordenstænkning, men har bygget en hel kultur over 2. ordenstænkning, dvs. sanseløst og ureflekteret at gentage allerede producerede soundbites fra undervisere, politikere og massemedier.)

Sider