Læsetid: 10 min.

AI-forsker: ’Lad endelig bare maskinerne tage magten’

Hvad skal der blive af menneskeheden, hvis det lykkes for os at skabe en intelligens, der overgår vores egen? Forfatter og forsker Max Tegmark er mere bekymret for den udvikling end for klimaforandringer, men griber vi det rigtigt an, kan vi gå ind i en æra, der fører til ny opblomstring for menneskeheden, forudser han
Der findes allerede eksempler på en ny generation af selvlærende computere – den slags udvikles bl.a. af Googles AI-division, DeepMind – der kan tage ved lære af de fejl, de begår. Hvordan denne evne kommer til udfoldelse, har vi indtil videre kun set i videospil og brætspillet Go, men det er kun et spørgsmål om tid, før den vil brede sig til andre platforme. Billedet er fra 2016 og viser den sydkoreanske professionelle Go-spiller Lee Sedol spille mod Google DeepMinds AlphaGo. Sedol tabte.

Der findes allerede eksempler på en ny generation af selvlærende computere – den slags udvikles bl.a. af Googles AI-division, DeepMind – der kan tage ved lære af de fejl, de begår. Hvordan denne evne kommer til udfoldelse, har vi indtil videre kun set i videospil og brætspillet Go, men det er kun et spørgsmål om tid, før den vil brede sig til andre platforme. Billedet er fra 2016 og viser den sydkoreanske professionelle Go-spiller Lee Sedol spille mod Google DeepMinds AlphaGo. Sedol tabte.

Ahn Young-joon

25. september 2017

For et par år siden blev Max Tegmark pludselig overvældet af gråd foran Videnskabsmuseet i South Kensington. Han havde netop besøgt en udstilling, der dokumenterede den eksponentielle vækst, der er sket i menneskelig viden med artefakter fra matematikeren Charles Babbages første forstadie til en programmérbar computer til en kopi af Apollo 11. Hvad der bragte tårerne frem, var ikke synet af de ikoniske teknologigennembrud, men den åbenbaring, de udløste.

»Det ramte mig som en hammer,« husker han. »Hver gang vi har forstået, hvordan et aspekt af naturen eller os selv fungerer, har vi gjort det aspekt forældet. Da vi forstod, hvordan muskler fungerer, konstruerede vi bedre muskler i form af maskiner. Nu står vi på nippet til at forstå, hvordan hjerner fungerer og vil bygge bedre hjerner – og så vil vi selv blive forældet.«

Tegmarks epifani blev snart til hans arbejdshypotese: Hvad skal der blive af menneskeheden, hvis det lykkes for os at skabe en intelligens, der overgår vores egen?

 

Vores abonnenter kalder os kritisk, seriøs og troværdig.
Prøv en måned gratis.

Klik her

Allerede abonnent? Log ind her

Anbefalinger

  • Eva Schwanenflügel
  • Hans Martens
  • Mikael Velschow-Rasmussen
Eva Schwanenflügel, Hans Martens og Mikael Velschow-Rasmussen anbefalede denne artikel

Kommentarer

Det er altid kun et spørgsmål om tid før.... Sådan har det været i hele min leverid.
Alle de "kloge" vil så gerne være visonære og forudse fremtiden, men det kan de alligevel ikke.
Udviklingen er ikke lineær eller eksponentiel, kun når man ser bagud. Fremtiden er fuld af overraskelser og bump på vejen.

Niels Duus Nielsen, Søren Jacobsen, Allan Stampe Kristiansen, Troels Brøgger, Eva Schwanenflügel, Flemming Berger, Bjarne Bisgaard Jensen, Steffen Gliese, Morten Clausen og Trond Meiring anbefalede denne kommentar
Mikael Velschow-Rasmussen

Hmm ...
Jeg havde egentlig forventet, at jeg ville være helt uenig med Tegmark.
Fx i sammenfatningen under overskriften, hvor han tilsyneladende ikke bekymrer sig om klimaproblemet.

Men både overskrift og sammenfatning er i mine øjne lidt misvisende for artiklens indhold ...
Kort sagt: Læs den !

For mit eget vedkommende venter jeg med en analyse, indtil jeg har læst artiklen flere gange og forhåbentligt forstået den.

Nej, ærlig talt: jeg tror ikke en dyt på at det kunstige kan erstatte det originale. Jeg vil vove at påstå at det hele er HYPE!!! Maskiner, inklusiv computer, chips m.v., kan KUN og KUN udføre det de er programmeret til. Om at algoritmerne er bleven mere komplicerede og avancerede er ikke udtryk for fremståen af intelligens, men viser bare at menneskets intelligens er i færd med at udvikle sig. For hvem har egentlig "recepten" på kreativitet?

Flemming Berger, Torben K L Jensen, Anne Eriksen og Henning Kjær anbefalede denne kommentar

Grundlæggende er spørgsmålet vel, hvori består intelligens og intelligent adfærd? Er det ikke netop den menneskelige evne til at sige fra, til at gøre det uventede i en given situation? At gøre det, der ikke i den givne situation, umiddelbart set er optimalt, det er intelligens.
Der er utallige eksempler fra litteratur og film at referere til. Et eksempel er robert de nero i deer hunter.Han undlader at trykke på aftrækkenen da han har hjorten i sigtekornet. Eller Jesus, der ikke frelser sig selv, og undlader at forsvare sig selv under anklage.
Kan en maskine lære at gøre det uventede udfra indre motiver er vi nået et skridt i retning af kunstig intelligens. Den afsluttende bemærkning fra Tegmark, som lyder "...Vi praler altid af, hvordan vi er de klogeste på planeten, præcis fordi vi er i stand til at skabe denne fantastiske teknologi, som nu er på vej til at fortrænge os..."
viser tydeligt at der er lang vej igen. for jeg er helt uenig, det er ikke den egenskab, der gør os til de klogeste på planeten...

Eva Schwanenflügel og Flemming Berger anbefalede denne kommentar
Johnny Winther Ronnenberg

Hans Martens

Jeg er enig med dig et stykke af vejen. der er to store forhindringer der skal overvindes. for det første skal vi finde ud af hvordan vores mange forskellige intelligenser fungerer og vi skal forstå hvorledes følelser influerer på beslutningsprocesser og hvorledes logiske processor påvirkes / forvanskes af netop følelser og abstrakt tænkning der hverken er logisk eller følelsesmæssigt baseret.

Hjerneforskere skylder os mange svar på hvordan hjernen egentlig fungerer og indtil nu er alle de mulige svar blevet underkendt af ny forskning. først troede man at mænd og kvinder var domineret af hver sin hjernehalvdel, det holdt ikke vand. Det næste var at logik og følelser blev styret af hver sin halvdel det holdt heller ikke vand. der har været mange teser gennem årene, men de fleste er blevet forkastet. Der vil komme flere teser fremover men vil de holde vand i den virkelige verden?

Næste forhindring er hvorledes udtrykker man abstrakt tænkning i logiske kredsløb, praksis har vist at det kan man ikke, tilbage i 90'erne var det store buzzword, fuzzylogik som var en måde at forsøge at bryde op med logikken, det virkede bare ikke for logiske kredsløb ender altid med et logisk svar. Men verden er stadig præget af den samme logik, så der er lang vej til kunstig intelligens, der vitterlig er intelligent

AI forskningen går meget hurtigere end vi får indtryk af, det dækkes bare ikke af danske medier, fordi journalisterne ikke fatter, hvad det er der sker programmeringsmæssig. Specielt med det vi kalder "neurale net", hvor computeren lærer af det den er sat til at gøre (selv re-designer programmeringen). Jeg har set nogen programmer på Discovery Science, som faktisk rystede mig lidt! De bedste institutter er i Boston (MIT & Harvard) og Peking (university of Beijing), og der er man allerede meget langt med det største problem, for at få computere til at opføre sig som mennesker: Hvordan belønner man en computer? På Uni. of Beijing har de en "familie" af computere, som havde fået som opgave, at hjælpe "vennerne" og forhindre "ikke venner" i at løse forskellige opgaver. Der prøvede de at belønne dem, ved at give dem mere regnekraft (kraftigere processorer), hvis de løste opgaven hurtigere og bedre. Det førte til nærmest en eksplosion af "ideer" til, hvordan de kunne udkonkurrere "ikke venner"! -Meningen er jo, at computerne selv skal programmere sig til at blive bedre! Samtidigt arbejdes der ihærdigt på, at få indbygget noget "selvværd" i dem, så de altid vil forsøge, at "overleve" (ikke blive slukket...), og den forskning ser også ud til at nærme sig noget, som godt kunne blive et problem for os!
Jeg synes det er ret interessant, men er ikke sikker på, at det er en god ide for mine børnebørn...

Johnny Winther Ronnenberg, Eva Schwanenflügel og Jacob Jensen anbefalede denne kommentar

Hvad betyder evnen til at regne den ud, hvis man er lukket inde i en kasse uden fysisk mulighed for at effektuere eventuelle strategier i den fysiske verden.

Troels Brøgger og Eva Schwanenflügel anbefalede denne kommentar

Jeg synes bare, at det lyder rimeligt uhyggeligt. Det kan man ikke kontrollere og når man ikke kan overskue konsekvenserne af sine handlinger bør man være forsigtig, langsom, klog og tilbageholdende. Hans optimisme er sniksnak og baseret på en følelser, ønsker og en logik ingen AI ville basere sine handlinger på. Frygt fremtiden, som de burde have sagt, da olien sprang.

Jeg har en extra kommentar til min kommentar 15:36, som jeg tror, vi alle bør tænke lidt over: I alle indslag om AI fra Discovery Science, der inkluderede professorer fra mange universiteter, var der en (tavs) medvirkende, som repræsenterede "institutionen". Det er noget, jeg nok ville forvente i Beijing, men aldrig har set fra vestlige universiteter før!

Johnny Winther Ronnenberg og Flemming Berger anbefalede denne kommentar

Menneskeheden kan godt sætte sig på bænken - bare der er en off-knap indenfor rækkevidde.
Spørgsmålet er så, hvem der trykker og hvorfor det lige er ham.
Smart, hvis Hitler havde haft en off-knap og Staufenberg kunne nå den.

Nej, AI vil frigøre folk til at blive klogere, bruge tid på det, der udvikler, i stedet for blot det, der holder i live. Det vil give bedre samfundsliv og mere indbyrdes respekt.

Torben K L Jensen

Vrøvl,Steff Det vil isolere folk,udelukke dem fra det kreative fællesskab,kærligheden bliver uforståelig og noget der opfattes som irrelevant - alt det arbejde der giver mening for mennesker i en for dem uforklarlig verden og der vil opstå eksistentielle kriser uden mål og med.

Vås og sludder, Torben K L. Jensen! Mennesker ville kunne smide slavelænkerne og koncentrere sig om at tænke over verden og virke i den med noget, der stikker lidt dybere, end om der er råd til den gode mælk den sidste uge i måneden. Det vil standse udelukkelsen og give plads til kærligheden. Arbejdet er et kors, når det ikke er frivilligt.

Mennesker har kreeret Gud. Mennesker kan kreere denne nye gud og underlægge sig dens trosbekendelse - og stoppe med at tænke selv, bortset fra at spille skak med hinanden.
I gudens navn, amen.

"Modernitetens paradigme bygger på den antagelse, at Gud var en menneskeskabt og overflødig hypotese, som vi i sidste ende vil kunne takke for disse maskiner – vil det så ikke være en bitter historisk ironi, hvis vi ender med at opfinde nye guder til erstatning for de gamle?"

"Tegmark griner: »Jeg tror, at en af de ting, vi har brug for for at overleve i AI’s verden, er en veludviklet sans for humor og ironi. Vi praler altid af, hvordan vi er de klogeste på planeten, præcis fordi vi er i stand til at skabe denne fantastiske teknologi, som nu er på vej til at fortrænge os fra positionen som klodens klogeste! "

Er der noget at grine af ?

Torben K L Jensen

Digitale idioter tror at de har fundet de vises sten når de dyrker en PC´s skærm som et alterbillede og dyrker Steve Jobs som ypperstepræst. Der intet nyt under solen bortset fra en større og bredere horisont.

Eva Schwanenflügel

Steffen Gliese, sådan oplever AI sig ikke. AI vil med tiden udvikle intelligent liv, ihvertfald på linje med computeren HAL i filmen "2001", filmatiseret af Stanley Kubric, med manuskript af Arthur C. Clarke.
Det menneskelige aspekt er der, men det fatale sker når man kontramanderer ordrer til computeren/AI'en, for så vil computeren altid følge agendaen, sat af umenneskelige personer. AI intelligensen HAL udvikler scizofreni, fordi piloterne på rumskibet ikke kender dets sande formål.
Og prøver derfor at udslette dem. Der er ikke noget i vejen med computeren, men de som har lavet en hemmelig agenda.
Igen den menneskelige faktor.
Kan godt blive foruroliget over Putins pralerier med at vinde en AI-kamp.
Er vi egentlig allerede i krig?

Jeg er temmelig sikker på, at kunstig intelligens aldrig vil komme til at føle eller sanse andet end rent mekanisk. Det er ikke organisk liv, og det bliver ikke organisk liv. Der er ingen menneskelig faktor i maskinen, det er bl.a. derfor, vi skruppelløst vil kunne udnytte dens færdigheder og endog igen skabe det, der blev sparet væk, fordi det gik for langsomt, og timelønnen var for høj, såsom murstensbyggeri. Med maskinen forsvinder også det tidspres, der ligger i at skulle betale en timeløn.

Jeg vil håbe Steffen Gliese har ret, men jeg er imponeret af de folk der laver forskningen, det er nok nogen af de bedste i verden! Prøv at definere "menneskelige social relationer" med ord eller matematik, der kan "omregnes" til "menneskelig social adfærd". Og sæt så en super-computer, med flere og hurtigere processorer end 1000 hjerner, til at "tænke over det". Måske vi kommer til at se computere, der tager real-life beslutninger i selvkørende biler! Der er rigtigt mange penge i det og de mener det alvorligt!

Henrik Leffers, det er der, kæden hopper af, for der er tale om ting, der ikke kan kvantificeres, fordi deres eneste værdi er den, som vi tillægger dem pga. den tilfredsstillelse, de giver os.
Der tænkes i balancepunkter, men der er ikke en balance her, kun udfasning af sur pligt og hårdt slid til fordel for den tilfredsstillelse, der ligger i at gøre ting, fordi man kan, og fordi de bringer en tilfredsstillelse i sig selv, uden at man behøver at modtage andres bedømmelse af præstationen.

Johnny Winther Ronnenberg

Henrik Leffers

Jeg har faktisk en uddannelse på området og jeg er bekymret, ikke for at de skal tage magten, for man kan altid slukke for lortet ;-)

Jeg ar bekymret for hvor langt man kan tage humanoid robotten der allerede findes, der har både en bevidsthed og en under bevidsthed samt en taktil bevidsthed.

Hvis jeg bliver rask nok til at klare rejsen fra Slagelse til Nordsjælland så er min plan at starte på IT universitetet for at studere AGI og manglerne i den nuværende viden, for feltet er definitivt interessant, med både positive og negative udviklingsmuligheder. Der er absolut ikke noget der er skrevet i sten på den konto.

Søren Jacobsen

AI vil først og fremmest blive anvendt med autonomt krigsmateriel, som sendes verden rundt for at fjerne forhindringer af en hver art på en klode med begrænsede ressourcer. Sådan er det bare at være menneske - Det er helt naturlig.

Torben K L Jensen

Fortæl mig lige hvem der skal bygge diger,sikre byer,flytning,genbosættelse af millioner af klimaflygtninge,finde vand når gletcherne ophører med at sende rent drikkevand til bække og floder,plante træer,gøre store ørkenområder beboelige - Alt det nødvendige arbejde for at sikre kloden som menneskeligt habitat,så Steff - det arbejde er besværligt,hårdt og bestemt ikke noget der kan løses af kunstigt intelligens - der bliver tid til fordybelse når DET er løst - Steffen.

Det er svært at forestille sig intelligente maskiner gøre det meget dårlige end de intelligente dyr der indtil videre har fejlet så eklatant.
Men intelligente maskiner vil selvfølgelig ikke tage magten fra os - det er en absurd forestilling uden hold i virkeligheden. Derimod kan intelligente maskiner være lige det intelligente dyr har brug for, til at gøre tingene bedre, og dette behov kan ikke overdrives.

Vi kender det godt - systemets folk siger til forsvar på en klage/forespørgsel : Det siger reglerne og maskinen. Ikke mit ansvar !
Ved siden af står en måbende politiker og siger : Det forstår jeg ikke. Det kan da ikke være rigtigt.

Mon Dieu, sikke noget vrøvl: Jeg har udviklet noget så avanceret kode og algoritme som takket være den enorme beregnings og hukommelses potentiale som en super-computer nu måtte besidde at det kan slå Kasparov under så firkantede rammer som et skakbræt. Hvad om Kasparov fik tilkoblet samme potentiale via ledninger og andet interface til sin hjerne? Det er bare den fysiske KAPACITET der er skyld i at Kasparov tabte.
Kan man forestille sig at en ultra-avanceret algoritme pludselig via et mirakel får "pustet" liv og bevidsthed i sig at den begynder at rode ved sin originale kode, går i gang med en "selv-udvikling", ja nærmest overgår evolutionen via en revolution hvor der ikke er rum for entities som han/hun -køn, DNA, RNA, mutation, m.v.? Det må sandelig vis KUN og KUN være et MIRAKEL!!!

Torben Kjeldsen

Hvilke forudsætninger skal vi medtage for at vi kan sige noget om fremtiden og AI? Den første forudsætning må vel være tid. Taler vi om fx 20 år, 100 år eller 200 år frem i tiden? Den anden, hvilke domæner taler vi om, fx et økonomisk domæne, et socialt domæne, et produktions domæne, transport domæne eller? Det tredje, indbefatter det AI 's stigende forbundenhed til verden via sansedata fra alverdens kilder og uendelige data fra et uendeligt voksende net? For det fjerde hvilke algoritmer og selvorganiserede principper (fx neurale netværk) vil være tilstede i fremtiden? Og den sidste, hvilket værdi og politisk system vil vi vælge i fremtiden? Med den nuværende AI teknologi kan vi allerede svare på, at fremtiden vil vise os 'intelligente maskiner' der langt overgår dagens. Det er også sikkert at den herskende individualiserede forståelse af den intelligente maskine ikke rækker. Vi må forstå AI som en kognitiv økologisk maskine, dvs. en netværksbaseret kommunikerende og samarbejdende maskine. En maskine der er forbundet med nettet, sansedata og mennesker. Jeg sidder allerede med den netværksbaserede prototype foran mig, min netværksbaserede computer og min smartphone i lommen. De er fyldt med AI. Og disse hverdags redskaber er blot platforme for en betydelig mere omfattende fremtidig AI tilgang og distribueret intelligent vidensdeling. Det er ikke AI vi skal frygte, den bliver vores overlevelse. Det bliver kampen om vores fælles globale tankesæt Skal ideologi eller videnskab være dominerende? Med AI har vi chancen for indenfor en kortere tidshorisont at få ophævet de værste ideologier. Det bliver nok ikke nemt på den korte bane, de første 20 år. Men heldigvis vi AI på langt sigt vinde et totalt herredømme i samarbejde med mennesker. Og ja det vil udfordre vores frihedsforståelse ganske indgribende. Især mænd vil finde det svært. Men pyt til den tid er vi genetisk omprogrammerede, smil. Dagens test på frihed. Vil du køre i din egen ’store’ jernkasse hver morgen og holde i kø (fordi du ikke holder afstand så der er plads til vognbaneskift) og kæmpe om parkeringspladser eller vil du sætte dig en i selvkørende bil hvor du kan nyde din morgenmad, læse, se, lytte eller tale med andre i cyberspace og nyde en rolig tur uden kø, lige til døren på minuttet. Jo længe leve fremtidens AI, den bliver klogere end os, hvad skulle vi fx ellers med en ’regnemaskine’? Regne forkert?

Og for at MIRAKLER skal lykkes, behøver man kun et FALSK medium som er i lommen på diverse charlataner som Facebook, Microsoft, Apple m.v. Hvorledes kunne de opbygge en så enorm rigdom på så let vis? Læg oven i det: de er godt i gang med en TOTAL destruktion af civilisationernes vugger og arnesteder hvorfra al vores rigdom og velfærd stammer fra. Man kan vel sagtens påstå at KUNSTIG intelligens i sit formål er immer væk mere intelligent idet den vil videre udvikle sig uden at kannibalisere sin originale kildekode.

Johnny Winther Ronnenberg

Sandsynligheden for at de eksisterende AI vil omskrive sin kildekode er mindre end nul. Det er mere meget svært at læse maskinkode og at rette i den er stort set umuligt, Prøv at åbne et programs exe fil som du kender rigtigt godt i notepad og find ud af hvordan det virker og tilføj en ny funktion os se om det virker stadig. Hint det gør det ikke det er ufatteligt svært at finde en fejl i maskin kode og at rette den.

I retfærdighedens navn der findes programmer der kan konvertere en exe fil til assembler men det bliver det ikke nemmere af, selv erfarne programmører må opgive på rå assembler uden kommentarer. Microsoft har gang i et projekt der skal konvertere en exe fil eller en dll fil til et højniveau sprog, men selv det er næsten håbløst at læse og langt mindre at rette i og ja som betatester så har jeg prøvet det af.

Det kunstig intelligens af i dag kan, er at genkende mønstre i store mængder data og ikke meget andet, men intelligent er det ikke ;-)

Skadedyr og pest !
Bannerførerne for denne udvikling gør tingene, fordi de kan og for at pleje egne egoer - ikke for at gavne menneskeheden.
Vi kan melde os ud af folkekirken (næsten), men vi menige borgere kan ikke melde os ud af denne religiøse, magtfulde institution. Vi er tvunget med. Paven i Rom er en novice udi denne religionsdyrkelse.
Jeg er tvunget med i diverse forbindelser til min omverden. Jeg kan holde det på et minimum - ellers er jeg i det store hele magtesløs.
Og nu handles monopolet NETS og spekulanterne har frit spil. Jeg vil gå tilbage til kontanter, men det er umuligt totalt set. Tværtimod - hvornår forsvinder de fysiske penge helt.

Hvor skal jeg klage i fremtiden, når AI-maskinen udspyer sine automatsvar.

Eva Schwanenflügel og Niels Duus Nielsen anbefalede denne kommentar
Johnny Winther Ronnenberg

Du klager til ankestyrelsen hvor en anden robot afviser sagen som uberettiget jævnfør 50 love ;-)