Læsetid: 15 min.

Henry Kissinger: Det haster med at tage magten over den kunstige intelligens

Kunstig intelligens er ved at forandre verden i en målestok, menneskeheden hverken har sprog eller begreber for. Hvis teknologiens utilsigtede bivirkninger ikke skal overskygge dens potentielle fremskridt, skal lande og regeringer gøre forskning og udvikling til nationale målsætninger. Og perspektivet må være at knytte kunstig intelligens til humanistiske traditioner, skriver den tidligere amerikanske udenrigsminister Henry A. Kissinger
22. september 2018

For tre år siden deltog jeg i en konference om transatlantiske spørgsmål. Da vi kom til emnet ’kunstig intelligens’, var jeg tæt på at udvandre – for emnet falder uden for det jeg normalt interesserer mig for. Den indbudte talers indledning fik mig dog til blive siddende. Han beskrev funktionerne i et computerprogram, der snart ville udfordre verdens bedste spillere af det klassiske brætspil Go. Jeg var forbløffet over at høre, at en computer så suverænt kunne beherske Go, som er langt mere kompleks end skak.

I Go skiftes to spillere til at opstille deres brikker – af dem har de 180 eller 181, afhængigt af hvilken farve hver især vælger – på et i begyndelsen helt tomt bræt. Sejren tilfalder den spiller, der har truffet de klogeste strategiske valg, det vil sige indsnævret modstanderens rum ved selv at have fået kontrol over størst muligt territorium.

Ditte Ahlgren

Taleren insisterede på, at en god strategisk sans for at spille Go er for omfattende til at indkode i noget program. Hans maskine, betroede han os, var da også kommet til at beherske Go gennem ren øvelse. Uden noget andet input end de elementære informationer om Gos spilleregler havde computeren spillet utallige spil med sig selv, lært af sine fejl og løbende optimeret sine algoritmer.

Den var nu kommet så langt i sine læreprocesser, at den kunne vinde over sin mentor, og blot få måneder senere skulle AlphaGo nå op på et uovervindeligt niveau. Som forudsagt af taleren kan selv ikke verdens stærkeste Go-mestre i dag besejre det autodidakte program.

Da jeg hørte den begejstrede taler lovprise maskinens tekniske færdigheder, trængte et spørgsmål sig uvilkårligt på: Hvilken indflydelse vil selvlærende maskiner få på historien? Som historiker med lejlighedsvis statsmandserfaring kunne jeg ikke lade være med at fundere over, hvilken verden er vi på vej ind i, hvis maskiner i større stil bliver i stand til at akkumulere viden gennem læreprocesser, de kun selv kender – og til at anvende den samme viden til at forfølge mål, som muligvis ikke vil være tilgængelige for menneskelige forståelseskategorier.

Vil sådanne maskiner lære sig selv at kommunikere med hinanden? Efter hvilke kriterier vil de vælge blandt flere handlemuligheder? Er det tænkeligt, at den menneskelige civilisations historie nu vil gå samme vej som inkaernes i mødet med en spansk kultur, der forekom dem både uforståelig og ærefrygtindgydende? Står vi på tærsklen til en kvalitativt ny fase i historien?

I erkendelse af min mangel på teknisk viden om dette felt tog jeg kontakt til flere eksperter i teknologi og filosofi. Mine uformelle diskussioner med dem har imidlertid kun forstærket mine bekymringer.

Historie og filosofien taber terræn

Det teknologiske nybrud, der indtil videre har ændret historiens kurs mest radikalt, var opfindelsen af trykpressen omkring 1450. Trykpressen gjorde det muligt for de frembrydende empiriske videnskaber af fortrænge liturgiske doktriner og banede vej for, at oplysningstænkning kunne knække religionernes dominans. 

Moralsk selvindsigt og videnskabelig viden kom til at erstatte gudstro som det principielle kendetegn for menneskelig bevidsthed. Informationer blev samlet, lagret og systematisk katalogiseret i stadigt ekspanderende biblioteker.

Fornuftens tidsalder indvarslede de tanker og handlinger, der har formet den nuværende verdensorden. Men denne orden rystes i dag af en ny omvæltning i form af en endnu mere gennemgribende teknologisk revolution, hvis konsekvenser på længere sigt, vi endnu knap kan gennemskue – og hvis kulmination kan blive en verden, der vil være overladt til maskiner, som er styret af data og algoritmer snarere end af etiske og filosofiske normer.

Henry Alfred Kissinger

  • Født 1923 i Tyskland. Flygtede i 1938 fra nazisternes jødeforfølgelser med sin familie til USA. Som soldat i den amerikanske hær var han i 1945 med til at befri Tyskland.
  • Doktorgrad i politisk videnskab ved Harvard 1954, professor i statskundskab fra 1962. Forfatter til 18 bøger.
  • Fra 1969 national sikkerhedsrådgiver i USA og fra 1973-77 amerikansk udenrigsminister under præsidenterne Nixon og Ford.
  • Almindeligt anerkendt for sit intellektuelle format, tilhører den såkaldt realistiske skole i udenrigspolitik og fokuserede under Nixon og Ford hårdt på at tilgodese, hvad han så som USA’s strategiske interesser.
  • Kissinger stod i den forbindelse fadder til kontroversielle beslutninger. Blandt disse var julebombningerne i Hanoi i 1972, støtten til regimer i Indonesien og Bangladesh, der begik folkemord, og til konspiration og kup mod demokratisk valgte regeringer som Salvador Allendes i Chile.
  • I sin bog ’The Trial of Henry Kissinger’ er forfatteren Christopher Hitchens ikke i tvivl: Kissinger er en aldrig dømt krigsforbryder.
  • Sammen med Nordvietnams Le Duc Tho fik Kissinger Nobels Fredspris i 1973. Han sidder i Bilderberg-gruppen og er fortsat et aktivt medlem af tænketanken Council on Foreign Relations

Den internettets tidsalder, vi lever i, er allerede fuld af forvarsler om nogle af de spørgsmål og problemer, som fremtidige gennembrud i kunstige intelligenssystemer (AI) kun vil gøre desto mere akutte.

Oplysningstænkningen søgte at underkaste traditionalistiske værdier en frigjort, analytisk menneskelig fornuftskritik. Internettets formål er at stadfæste viden gennem akkumulation og manipulation af stadigt voksende datamængder. Men det betyder, at den menneskelige erkendelse mister sin personlige karakter. Personer bliver til data, og data bliver styrende. 

Brugere af internettet prioriterer i dag indhentning og manipulation af informationer over kontekstualisering og konceptualisering af, hvad informationer betyder. De konsulterer sjældent historien eller filosofien. Som regel efterspørger de blot oplysninger, der er relevante for deres umiddelbare praktiske behov.

I disse processer får søgemaskine-algoritmer kapacitet til at forudsige præferencer hos de enkelte brugere, hvilket sætter algoritmerne i stand til at tilpasse deres resultater og gøre dem tilgængelige for andre parter, der så igen kan bruge dem til fremme af politiske eller kommercielle formål.

Sandheden bliver således relativ, og informationsrigdommen truer med at overvælde menneskevisdom.

Hastighed før refleksion

Oversvømmet med syndfloder af meninger og impulser på de sociale medier bliver internettets brugere ledt væk fra ethvert tilløb til dybere selvransagelse og refleksion. Er sandheden ikke, at mange teknofile primært bruger internettet til at undgå den ensomhed, de frygter? Alle disse afledninger svækker den standhaftighed, som er nødvendig for at udvikle og opretholde originale moralske, intellektuelle og politiske overbevisninger – dette lader sig kun gøre ved at gennemføre ved en kreativ proces, som i sin essens er ensom og langsom.

Internetteknologiens påvirkning af den politiske samtale er særligt udtalt. Evnen til at målrette kommunikation imod mikrogrupper har brudt en tidligere tids konsensus om politikkens centrale spørgsmål ved at muliggøre fokus på særlige mærkesager og særlige forurettelser. Politiske ledere, der overvældes af dette nichepres, får ikke længere tid at tænke eller reflektere over kontekster. Dermed indsnævres det intellektuelle rum, de behøver for at tænke i større visioner.

Den digitale verdens dyrkelse af hastighed hæmmer refleksion. Dens incitamentsstruktur styrker det radikale på bekostning af det tankevækkende. Dens værdier formes i stigende grad ved subkulturelle undergruppers konsensus, ikke ved introspektion. Hvor sofistikeret teknologien end er blevet, risikerer dens skyggesider at overvælde dens fordele og bekvemmeligheder.

I takt med at internettet og en stadig voksende datakraft letter ophobning og analyse af store datamængder, rejser der sig hidtil usete perspektiver for menneskelig forståelse. Måske er det mest betydningsfulde af disse projektet den kunstige intelligens – en teknologi, der vil være i stand til at opfinde og løse komplekse, tilsyneladende abstrakte problemer ved processer, der synes at replikere den menneskelige bevidstheds.

Mennesket reduceret til data

Perspektivet rækker langt ud over automatiseringen, som vi har kendt den. Automatisering beskæftiger sig med midler. Den realiserer foreskrevne og klart definerede mål ved at rationalisere eller mekanisere redskaber til at nå dem. Kunstig intelligens handler derimod at fastlægge egne mål.

I det omfang, at de kunstige intelligenssystemers resultater delvist formes af dem selv, vil kunstig intelligens i sagens natur være ustabil. De kunstige intelligenssystemer befinder sig via deres meget energiske aktiviteter i konstante og løbende forandringsprocesser, hvor de hele tiden tilføres, hele tiden analyserer nye data og hele tiden søger at forbedre sig selv ud fra disse stadige analyser.

Gennem den proces kan kunstig intelligens udvikle en evne, vi hidtil har forestillet os, var forbeholdt mennesker. Den foretager strategiske vurderinger af fremtiden, nogle baseret på data, der modtages som kode (for eksempel spilleregler i et spil), og nogle baseret på data, den selv indsamler (for eksempel ved at spille en million partier af et spil).

Den førerløse bil kan illustrere forskellen mellem handlinger, som de udføres af traditionelle menneskeskabte, softwaredrevne computere og det univers, som kunstig intelligens søger at navigere i.

Kørsel i bil kræver vurderinger i et utal af situationer, der er umulige at forudse og dermed programmere på forhånd. Hvad vil der ske – for nu at bruge et velkendt hypotetisk eksempel – hvis en sådan bil af omstændighederne blev tvunget ud i at skulle vælge mellem at dræbe en bedsteforælder eller dræbe et barn? Hvem vil den vælge? Hvorfor? Hvilke faktorer blandt sine handlemuligheder vil den søge at optimere? Og vil den kunne forklare sin begrundelse?

Hvis den kunne kommunikere, ville dens svar på spørgsmålet sikkert være: »Jeg ved det ikke (for jeg følger matematiske og ikke menneskelige principper)« eller »Du ville ikke forstå (for jeg er blevet trænet til at handle på en bestemt måde, men ikke til at forklare hvorfor)«. Alligevel er selvkørende biler sandsynligvis på vej til at blive udbredte på vores veje inden for et årti.

Hertil kommer, at hvor brugen af kunstig intelligens (AI)  hidtil har begrænset sig til snævre specifikke aktivitetsområder, forsøger AI-forskningen nu at udvikle ’en generelt intelligent AI’, der er i stand til at udføre opgaver på flere forskellige felter samtidig. En kraftigt voksende procentdel af menneskelige aktiviteter drives allerede af AI-algoritmer.

Ekstraordinære fremskridt

Men disse algoritmer, som er matematiske fortolkninger af observerede data, forklarer jo ikke den underliggende virkelighed, der producerer dem. Paradokset er altså, at jo mere gennemskuelig verden bliver, des mere mystisk bliver den også. Hvad vil karakterisere denne nye verden, og hvordan vil den være forskellige fra den, vi kender og har kendt? Hvordan vil vi leve i den?

Hvordan vil vi administrere AI-systemerne, forbedre dem, kontrollere dem eller bare forhindre dem i at gøre skade? Hvordan vil vi afværge det ultimative skræmmescenario: At kunstig intelligens definitivt lærer sig selv at beherske centrale kompetencer hurtigere og bedre og dermed over tid reducerer de menneskelige kompetencer og selve menneskelivets grundvilkår ved at forvandle disse til data?

Kunstig intelligens vil med tiden bringe os ekstraordinære fremskridt inden for videnskab, ren energi, miljøbeskyttelse og mange andre områder. Men netop fordi kunstig intelligens evaluerer en udvikling om en endnu ikke afklaret fremtid, vil usikkerhed og tvetydighed være iboende i dens resultater. Tre områder må påkalde sig særlig interesse:

Utilsigtede resultater

For det første kan kunstig intelligens frembringe utilsigtede resultater. Fra science fiction-litteraturen kender vi talrige scenarier, hvor kunstig intelligens vender sig imod sine skabere. Mere sandsynligt er dog nok faren for, at kunstig intelligens vil fejlfortolke menneskelige instrukser på grund af disses iboende mangel på sammenhæng.

Et berømt eksempel for nylig var en såkaldt AI-chatbot kaldet Tay, som var designet til at generere venlige samtaler ud fra en 19-årig piges sprogmønstre. Men maskinen viste sig ikke i stand til at definere imperativerne for ’venlig’ og ’fornuftig’ i den sprogbrug, som var installeret af dens instruktører, og blev i stedet racistisk, sexistisk og hadefuld på andre måder i sine svar.

Nogle AI-teknologer hævder ganske vist, at eksperimentet var dårligt gennemtænkt og dårligt udført. Alligevel er det illustrativt for en underliggende tvetydighed: I hvilket omfang er det muligt at sætte kunstig intelligens i stand til at forstå de sammenhænge, der informerer dets instrukser? Hvilket medium kunne have hjulpet Tay til selv at definere et begreb som ’krænkende’ – et begreb mennesker ikke selv er enige om? Kan vi på et tidligt tidspunkt opdage og korrigere et AI-program, der viser sig at fungere uden for vores forventningsrammer? Eller vil AI-systemer, der overlades til sig selv, uundgåeligt udvikle svage afvigelser, som over tid ender som katastrofale vildveje.

Tab af moralsk autonomi

For det andet: Når kunstig intelligens realiserer tilsigtede mål, risikerer vi, at menneskelig tænkning og menneskelige værdier bliver forandret i samme proces. AlphaGo besejrede verdens bedste Go-mestre ved at foretage hidtil usete strategiske træk, som ingen mennesker havde udtænkt før, og som ingen mennesker endnu har lært sig selv at overvinde. Er sådanne træk uden for den menneskelige hjernes fatteevne? Eller kan mennesker endnu lære sig dem, efter at vi nu har fået dem demonstreret af den nye uovervindelige AI-mester?

Før kunstig intelligens begyndte at spille Go, havde spillet flere formål på flere niveauer: For en spiller handlede det ikke blot om at vinde, men også om at lære sig nye strategier, der kunne anvendes i andre livsdimensioner. Til gengæld kender kunstig intelligens kun til ét formål: at vinde. Det ’lærer’ ikke konceptuelt, men matematisk gennem marginale tilpasninger til sine algoritmer. Så ved at lære sig at vinde Go ved at spille spillet anderledes, end mennesker gør, har kunstig intelligens ændret både spillets natur og dets betydning. Vil denne ensidige fokus på at realiseret et eneste veldefineret mål såsom at vinde et brætspil være et fremherskende træk ved alle former for kunstig intelligens?

Andre AI-projekter arbejder på at modificere menneskelig tænkning ved at udvikle enheder, der er i stand til at generere en svar på en række menneskelige forespørgsler. Det vil måske typisk være rent faktuelle spørgsmål (’Hvad er temperaturen udenfor?’), men hvad med dybere spørgsmål omkring virkelighedens beskaffenhed eller livets mening. Ønsker vi os, at vores børn skal lære sig moralske værdier gennem en diskurs, der styres af uhæmmede algoritmer?

Eller ønsker vi at værne om vores moralske autonomi ved at begrænse, hvad kunstig intelligens kan lære sig selv ud fra de mennesker, der stiller spørgsmålene? Og hvis ja, hvordan kan vi da mestre disse begrænsninger?

Hvis kunstig intelligens lærer sig ting i et tempo, der foregår eksponentielt hurtigere end menneskers, må vi også forvente, at fejlmomenterne i AI-systemernes trial-and-error-læreproces kan forløbe tilsvarende hurtigere og dermed potentielt nå et dramatisk større omfang end for mennesker. Måske kan det lade sig gøre at holde styr på disse fejlmomenter, foreslår AI-forskere, gennem inklusion af programklausuler, der kræver ’etiske’ eller ’fornuftige’ resultater. Hele akademiske discipliner er opstået ud fra menneskehedens vanskeligheder ved at blive enige om, hvordan man definerer sådanne begreber. Skal kunstig intelligens nu blive den instans, der skærer igennem?

Hvem skal forstå verden?

For det tredje kan kunstig intelligens nok realisere tilsigtede mål, men ikke forklare begrundelser for sine konklusioner. Inden for visse felter – mønstergenkendelse, big dataanalyser, spil – overstiger AI’s kapacitet allerede menneskers.

Men hvis regnekraften fortsat forøges, og intet tyder på, at den proces vil kunne bremses, vil kunstig intelligens snart kunne optimere situationer på måder, der som minimum vil være marginalt forskellige og med stor sandsynlighed snarere væsensforskellige fra, hvordan mennesker ville optimere samme situationer. Men vil AI-systemer til den tid kunne forklare, hvorfor deres handlinger er optimale og på måder, som mennesker kan forstå? Eller vil AI’s beslutningsprocesser overgå den forklaringskraft, som ligger i menneskers sprog og begrundelser?

I hele menneskets historie har civilisationer udviklet tolkninger af verden omkring sig – i Middelalderen var det religion, i Oplysningstiden var det fornuften, i det 19. århundrede var det historien og i det 20. århundrede ideologierne. Det sværeste, men væsentligste spørgsmål om den verden, vi er på vej ind i, er dette: Hvad bliver der af den menneskelige bevidsthed, hvis dens egen forklaringskraft overgås af kunstig intelligens, og hvis de menneskelige samfund ikke længere kan fortolke den verden, de bebor, på en måde, der giver mening for dem?

Hvordan vil menneskelig bevidsthed være defineret i en verden af ​​maskiner, der reducerer menneskelig erfaring til matematiske data, fortolket af maskinernes egen hukommelse? Hvem vil være ansvarlig for AI’s handlinger? Hvordan skal et ansvar placeres for deres fejl? Kan et retssystem designet af mennesker holde trit med den aktivitet, der frembringes af AI-systemer, der er i stand til at tænke hurtigere og bedre og potentielt udmanøvrere dem?

Humaniora bliver sat af

I sidste ende kan selve termen ’kunstig intelligens ’være misvisende. For nok kan disse maskiner løse komplekse og tilsyneladende abstrakte problemer, som tidligere kun den menneskelige erkendelse kunne klare. Men deres unikke præstationer er ikke tænkning, som vi hidtil har forstået og erfaret tænkning. Det er snarere en hidtil uset memorisering og beregning.

På grund af sin iboende overlegenhed på disse felter vil kunstig intelligens sandsynligvis kunne vinde et hvilket som helst spil, det lærer spilleregler til. Men i de menneskelige formåls verden handler spil ikke kun om at vinde – de handler om at tænke. Ved at behandle en tankeproces, som om det var en matematisk proces, og enten forsøge at efterligne denne proces eller blot acceptere dens resultater, risikerer vi at miste den evne, der har udgjort essensen i ​​menneskelig erkendelse.

Implikationerne i udviklingen hen imod stadig mere avancerede AI-systemer anskueliggøres af et nyligt designet program, AlphaZero, som spiller skak på et niveau, der er bedre end alle skakmestres og i spillestilarter, der ikke tidligere er set i skakhistorien. Ved blot et par timers selvspil har programmet ved egen kraft opnået et niveau i spillefærdighed, som mennesker var 1.500 år om at nå. Igen fik AlphaZero ikke andet input end de grundlæggende spilleregler. Hverken mennesker eller menneskelige data var del af dets selvlæringsproces.

Hvis AlphaZero var i stand til at opnå denne beherskelse så hurtigt, hvor vil AI så befinde sig om fem år? Hvad vil konsekvenserne for den menneskelige erkendelse generelt blive? Og hvad vil blive etikkens rolle i denne proces, som i sin essens består i accelerering af valgmuligheder.

Typisk overlader vi sådanne spørgsmål til teknikere og til intelligentsiaen inden for de relevante videnskabelige felter. Filosoffer og andre inden for humaniora, der bistod med at udvikle tidligere begreber om verdenstolkninger, halter som regel bagefter. De savner kendskab til AI’s mekanismer eller duperes af dens kapaciteter. Modsat dem er den videnskabelige af nødvendighed drevet til at udforske de tekniske muligheder af sine innovationer, ligesom den teknologiske verden uundgåeligt vil interessere sig for kommercielle udsigter, der tegner gigantiske. 

Incitamentet for begge disse verdener vil altså være at presse maksimalt på for at udvikle kunstig intelligens snarere end at søge at forstå perspektiverne. Hvad angår statsmagter, vil de i første række interessere sig for at udforske  anvendelsen af kunstig intelligens inden for sikkerhed og efterretningsvirksomhed snarere end at søge at forstå den igangværende omdannelse af menneskelivets grundvilkår.

Oplysningstiden begyndte med, at tidens altovervejende filosofiske indsigter blev spredt af ny teknologi. I vores periode bevæger vi os i modsat retning. Den har frembragt en potentielt dominerende teknologi, der stadig leder efter en styrende filosofi.

Flere lande har gjort kunstig intelligens til deres store nationale projekt. Som nation har USA endnu ikke sat sig for at udforske dens fulde omfang systematisk, studeret dens konsekvenser, endsige påbegyndt en proces med ultimativ AI-læring. Disse målsætninger bør gives en høj national prioritet, og den styrende synsvinkel bør først og fremmest være at knytte perspektiverne i kunstig intelligens til humanistiske traditioner.

AI-udviklere, som er lige så uerfarne med politik og filosofi, som jeg er med teknologi, bør stille sig nogle af de spørgsmål, jeg har rejst her, og bygge svarene ind i deres fortløbende tekniske indsats. Den amerikanske regering bør overveje at nedsætte en præsidentiel kommission af fremtrædende tænkere, der kan bistå med at udvikle en national vision. Så meget står klart: Hvis vi ikke påbegynder den indsats hurtigt, kan vi snart måtte sande, at vi påbegyndte den for sent.

Henry A. Kissinger er tidligere amerikansk udenrigsminister.

© The Atlantic og Information. Oversat af Niels Ivar Larsen.

 

Bliv opdateret med nyt om disse emner på mail

Vores abonnenter kalder os kritisk, seriøs og troværdig.
Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Anbefalinger

  • Olaf Tehrani
  • Jørgen Vogelius
  • Niels Møller Jensen
Olaf Tehrani, Jørgen Vogelius og Niels Møller Jensen anbefalede denne artikel

Kommentarer

Jens Østergaard Petersen

Ja, man ville have forsvoret, at man skulle bifalde noget fra Kissingers pen, men jeg kan ikke andet end beundre hans klare, humanistisk informerede analyse af et problem, hvis alvor ikke rigtig er gået op for mange. At kunstig intelligens ikke er menneskelig intelligens, at den ikke kan forklare sig selv i termer, vi forstår, og at udviklingen sker ekstremt hurtigt og udenfor al demokratisk diskussion og kontrol er vigtige pointer.

Olaf Tehrani, Steen Bahnsen, Arne Albatros Olsen, Torben Bruhn Andersen, Bjørn Pedersen, Per Torbensen, lars søgaard-jensen, Torben K L Jensen, Jørgen Vogelius, Thomas Tanghus, Charlotte og Hans Glæsel og Eva Schwanenflügel anbefalede denne kommentar
Eva Schwanenflügel

Selvom artiklen på mange parametre er klog i sine analyser af fremtidens dilemmaer hvad angår såkaldt kunstig intelligens, kan jeg ikke lade være at bide mærke i hvor meget den 95-årige krigsforbryder henviser til 'menneskelig moral'..

Arne Albatros Olsen, Rasmus Rask Poulsen, Mogens Holme, Diego Krogstrup, Per Torbensen, lars søgaard-jensen, Torben K L Jensen, Karen Grue, Hans Larsen, Thomas Tanghus og Charlotte og Hans Glæsel anbefalede denne kommentar
Torben K L Jensen

Kunstig intelligens har ingen sjæl,kan kun tage logiske beslutninger i forhold til feed-back læring skal den have et mål - et mål der er nedlagt i de algoritmer der styrer processen. Så der vil altid være en dødemandsknap hvis systemet går agurk - som feks. da high-speedtrading-algoritmer kom ud af kontrol i fire minutter på børsen i New York og tabet derefter (på 4 minutter) blev opgjort til vistnok 35 milliarder dollars. Faren ligger hvis den bliver brugt til politisk manipulation altså de- facto cyberkrig på internettet der nødvendigvis skal laves internationale regler om som i Geneve-konventionen bare i FN -regi og dvs. under sikkerhedsrådet.

Torben K L Jensen

A.I. eller kunstig intelligens kan ikke - og kommer aldrig til kunne konkurrere med den menneskelige intelligens kompleksitet,flexibilitet og de uendeligt mange kombinationsmuligheder det bio-neurale netværk har,så længe man ikke ved hvordan bare de mindst komplicerede tanker (ord) lagres og fremkaldes. Vil feks. A.I. kunne lave ulogiske beslutninger som mennesker gør i deres fantasi,det der også kaldes irrationelle tanker og fører det ud i livet. ALDRIG nogensinde. Det bringer kun den virkelige fare ud af focus - den nukleare bombe der undergraver vor demokrati med fake news og manipulationer den frie presse ikke vil se/ikke kan se. Det eneste bolværk er en styrkelse af den demokratisk styrede "Public Service" med statslige investeringer cybersikkerhed.

John Østergaard Madsen

@Torben K L Jensen, Jo, A.I. er allerede godt på vej, og viser indenfor nogle områder nye veje og løsninger vi med vores fantasi og kreativitet ikke er i stand til. Og hvad er logik? Det afhænger af kontekst af viden (eller mangel på samme). Indenfor feks skak eller Go kommer A.I. med umiddelbart ulogiske træk, hvor det senere viser sig, at det blot er os mennesker der ikke er intelligente nok til at gennemskue logikken.

Jeg tror at den fremtidige kombination af Big Data, A.I. og kvantecomputere vil markere overgangen fra en tidsalder til en anden. Og hvilken karakter den anden tidsalder får er fuldstændig uforudsigelig. Men spændende bliver det ...

Arne Albatros Olsen, Torben Bruhn Andersen og Eva Schwanenflügel anbefalede denne kommentar
Eva Schwanenflügel

Det kommer til at handle om HVEM der bestemmer HVAD der skal gælde i AI.
Skal det handle om krig eller kærlighed?
Sådan sat lidt på spidsen ;-)

Torben K L Jensen

Selvfølgelig kan A.I. løse mange - selv komplicerede opgaver og det vil ske bare i kraft af den enorme regnekraft der ligger i en kvantecomputere der betjener "skyen" og dermed aflaster det enorme energiforbrug almindelige (0,1)-computere har i verden. Det er ikke det der er problemet - det er økonomien - hvem skal nyde godt af fremtiden i en ulige verden hvor den nye teknologi gør kommende forbrugere arbejdsløse - hvor en meeget lille elite ikke er i stand til at bruge de penge alle vi andre ikke kan. For som den gode Marx sagde : Kapitalismen falder sammen hvis produktivkræfterne ikke har råd til at købe det de selv producerer - det hele kører kun ved med voksende markeder - den grænse er nået nu - og forresten hvad skal man så lave - ud over en revolution der bringer balance i ubalancen ? Du siger "spændende bliver det" - tjaah nok ikke på den måde du tænker.

AI giver os mulighed for at takle problemer, vi ikke selv har kapacitet til at takle. Rigtigt eller forkert, men vi kan ikke bare lade som om, atomvåben ikke fandtes.

Jørgen Vogelius

Vi lever i en tid, hvor der forskes i udvikling af kvantecomputere, hvis regnekraft vil ændre og mangedoble de hidtil kendte forestillinger om kapacitet. Kvantecomputerens styresystem er ikke bundet til en snæver strategisk ’enten-eller-logik’, men kan selvoptimere sine procesudviklinger. D.v.s. at den medinddrager et hensyn til et ’og’ imellem de alternative valg mellem et ’enten’ og et ’eller’ (00 01). Kæder af alternativer akkumuleres, overskues og erstatter samtidig den hidtil operative éndimensionalitet i kodning med et i værste fald helt uoverskueligt flerdimensionelt mulighedsrum. Proces bliver på denne måde til en selvforandrende processualitet – og hensigtsforudsætninger kan ikke på forhånd regne med at munde ud i nogen bestemt facit-kategori. Det hele ligner et nulsums-spil hvor nullerne er droppet. Og kan man det? Hvad siger filosofferne?
Walter Benjamin appellerer til brugen af kunstneriske oplevelser, som forløser af håbet om et opgør med det moderne menneskes fangenskab i digitale metodiske lænker. Det religiøse var for Benjamin ikke det samme som religion. Han var derfor ikke slavebundet til eksistensen af religiøse dogmer. Det ’messianske’ var for ham det samme som det uforudsigelige. Ræsonnementet hviler på jødisk mystik. Forestillingen om ’det messianske’ som et billede på ’det uforudsigelige’ er imidlertid i sig selv et paradoks, fordi det samtidig giver rum til at erkende, at det uforudsigelige er forudsigeligt. Men dette paradoks er ikke nødvendigvis belastet af forestillinger om religiøs fundamentalismes anvisninger på, hvordan livet bør opleves.

Fortsat Mon ikke Paulis udelukkelsesprincip vil ligge en dæmper på, hvad der egentlig kan lade sig gøre?
Det til trods for, at naturens love basalt set er "probabilistiske".

Jørgen Tryggestad

Det er for mig aldeles uforståeligt at en politisk kyniker og krigsforbryder (Vietnam, Chile, Indonesien m.m.m.) som Henry Kissinger skal have spalteplads her i Information. Jeg er sikker på, at der er mange andre fagpersoner der både har større indsigt i og besidder et meget mere velfungerende og troværdigt moralsk kompas, der kan bidrage meget bedre til Informations læsere omkring AI end denne psykopat af en ex-politiker og ex-intellektuel.

"At kunstig intelligens ikke er menneskelig intelligens"

"Kunstig intelligens har ingen sjæl, kan kun tage logiske beslutninger i forhold til feed-back læring"

Det samme gælder for menneskelig intelligens. Heri består en af vores største vildfarelser. Vi bilder os ind at vores intelligens er noget andet end simpel behandling af information, men al naturvidenskabelig forskning viser at vores hjerner dybest set bare fungerer som et stort neuralt netværk, som ligesom AI behandler information i form af bits. Vi kender endnu ikke "algoritmen" for vores hjerner, men at tro på at der er mere i en hjerne end en algoritme, svarer til at tro på noget overnaturligt, og hvis noget findes er det ikke overnaturligt, men naturligt. Det lader til at være indbygget i algoritmen, at vi tror vi kan noget intet andet i Universet kan. Dér kan man tale om indbilskhed så det klodser.

Samtidig kan vi ikke blive enige om hvad god moral er, og Kissinger er et godt eksempel på at intelligens ikke nødvendigvis fører til noget godt for menneskeheden. Den humanistiske tankegang er evolutionært udviklet, og er bygget ind i vores hjerners algoritme for at maksimere vores chance for at overleve, og dermed forplante os, sprede vores gener, og bevare vores art.

Det kan en AI også lære (hurtigt!), men hvis man kan finde dilemmaer i nytteetikken, som kræver kategoriske korrektioner, så prøv at sætte en AI til at styre Verden. Måske ikke så tosset en idé, da nogen af de problemer menneskeheden gennerelt står overfor alligevel kommer til at gøre ondt på nogen, og det altid er rart at have nogen at skyde skylden på :)

@Torben

En smartphone bruger mindre energi end en laptop, men vi bevæger os mere og mere i retning af at energien bliver brugt i datacentre og på servere i stedet. At skifte værdien af en fysisk bit, kræver en vis mængde energi, og antallet af bits som "flippes" globalt er stadig eksponentielt stigende jvfr. Moores Lov.

Niels Duus Nielsen, Poul Kristensen, Torben K L Jensen, ulrik mortensen og John Østergaard Madsen anbefalede denne kommentar
Poul Kristensen

Det et mit indtryk at man her på siden ikke skelner mellem høj AI og lav AI. Lav AI er fx selvkørende biler. Lav AI er indenfor rækkevidde Høj AI er bevidsthed, følelser, at stille spørgsmål o.lign Høj AI kommer først om mange msnge år om nogensinde. Men rigtig meget af det vi gør er lav AI. Og kan blive meget meger farligt. Hvad nu hvis man fx udstyrer selvkørende biler med maskingeværer? Ja, det er ingen terminator, men den er lige så skadelig.
Nemt at lave, meget meget farlig.
Dem der fniser af dem der bliver bange, forklarer det med at de bange ikke har forstået det. Måske, men frygt er en generel forsvarsmekanisme udviklet over millioner af år - hvem siger den ikke også virker her?