Læsetid: 8 min.

Glem dræberrobotter – kunstig intelligens vil ændre magt, krig og folkeret

Fremtidens krige vil i stor udstrækning blive udkæmpet af autonome netværksbaserede våbensystemer armeret med kunstig intelligens. Det vil skabe helt nye udfordringer, når et ansvar skal placeres
Fritz Langs berømte ’Metropolis’ fra 1927 er den første film, der beskriver maskinelle skabninger, der på intelligent vis kan tage magten fra mennesket og sprede død og ødelæggelse. Nu er den intelligente krigsmaskine ikke længere en fantasi. 

Fritz Langs berømte ’Metropolis’ fra 1927 er den første film, der beskriver maskinelle skabninger, der på intelligent vis kan tage magten fra mennesket og sprede død og ødelæggelse. Nu er den intelligente krigsmaskine ikke længere en fantasi. 

Fra filmen

24. november 2018

Selv om filmelskere har mødt sære maskinelle skabninger med overmenneskelige evner til at sprede død og ødelæggelse siden den tyske filminstruktør, Fritz Lang lagde ud i filmen Metropolis fra 1927, er det nok mest billeder fra Bladerunner eller Terminator, der melder sig, når talen falder på fremtidens krigsførelse.

Men fremtidens krige bliver ikke afgjort af Terminator, men derimod netværksbaserede autonome våbensystemer armeret med kunstig intelligens (eller Artificial Intelligence, AI)

Det mener lektor på Københavns Universitets Centre for International Law, Conflict and Crisis, Hin-Yan Liu.

Foruden en doktorafhandling om private udbydere af sikkerhed og lejesoldater som det hedengangne BlackWater har han sammen med danske og internationale kolleger koncentreret sig om de juridiske udfordringer, der er forbundet med, at AI, data og maskiner spiller en hastigt voksende rolle i moderne krigsførelse, ikke mindst i form af autonome våbensystemer – såkaldte AWS’er.

Det vil i voksende omfang betyde et farvel til gode gammeldags kommandoveje.

Død og ødelæggelse bliver i stedet distribueret og implementeret i netværk af droner, jagerfly, overvågningssatellitter forbundet med billedanalyseringssoftware, traditionelle tropper på jorden og meget mere.

Både netværk og deres bestanddele vil blive understøttet af AI, der ikke skal ses som et våben i sig selv som f.eks. et ballistisk missil. AI minder mere om elektricitet eller en forbrændingsmotor. Der er tale om en teknologi, der forstærker eksisterende våben og teknologier.

Store datamængder kan lynhurtigt analyseres, og processer kan automatiseres og dermed erstatte traditionelt personel. Nogle våbensystemer vil måske træffe selvstændige beslutninger, mens menneskelige beslutninger vil blive understøttet af store omhyggeligt gennemtrævlede datamængder, hvis resultater beslutningstagerne i kampens hede kan have svært ved at forstå såvel forudsætningerne for samt konsekvenserne af. Ansvaret forsvinder i de digitale tåger.

Uklart ansvar

For når dele af komplicerede netværk af informationer og beslutningskanaler fungerer autonomt, er det nærmest umuligt at placere et ansvar for de handlinger, der bliver eksekveret på slagmarken. Og det bliver stadigt vanskeligere at afgøre, om AI-understøttede våbensystemer krydser så mange røde linjer, at de bør forbydes på linje med landminer.

Slagmarken fortaber sig også og kan lige så vel være en teknologigigants datacenter på en mark i Jylland. Den kan være en gade i Kabul, hvor en overvågningssatellit udstyret med mønstergenkendelsessoftware har spottet mistænkelig adfærd og udløser et droneangreb. Og det kan være en kælder i Paris, hvor der udvikles banebrydende teknologi, som kan skaffe adgang til Pentagons allerdybeste hemmeligheder.

»Stillet over for den virkelighed skal vi være meget varsomme med at stille os tilfredse med populære forestillinger om robotter med supermennskelige egenskaber, som vi kender dem fra filmens verden. Det er langt mere komplekst,« sagde Hin-Yan Liu oven på en todageskonference, der blev afholdt på Københavns Universitet for en uges tid siden, hvor en række danske og udenlandske forskere forsøgte at kaste lys over de mange svimlende problematikker.

Liu indledte konferencen med at opfordre de halvthundrede fremmødte til hver især at notere sig, i hvor høj grad de på en skala fra 1-10 var optimistiske i forhold til mulighederne for at udforme tidssvarende love, regler og retningslinjer for fremtidens krigsførelse.

Efter to dage blev forsamlingen spurgt, om de var blevet mere eller mindre optimistiske. Kun én havde bevaret optimismen. Hin-Yan Lui var selv blandt pessimisterne.

Pessimistiske forskere

Der er flere spørgsmål, der nærer Hin-Yans skepsis. Er det kompleks af love, regler, traktater og retningslinjer, der sætter grænser for, hvilke våben der må benyttes på slagmarken holdbart? Hvordan skelnes der i forhold til civile, og hvad er en civil? Og slår folkeretten overhovedet til, når fremtidige krigshandlinger har kostet død og ødelæggelse, og der skal placeres et ansvar?

»Der er andre forskere, der forsøger at anvende eksisterede legale normer på den ny virkelighed. Det er spændende, men det er ikke sådan, jeg ser det. Slår de eksisterende juridiske rammer ikke til, så ser jeg det som mig og mine kollegers opgave at have noget ny jura klar. Det er det, vi arbejder med, selv om vi er langt fra målet,« siger Hin-Yan Liu.

»Når det gælder de avancerede netværksbaserede våbensystemer, er det ikke længere klart, hvor autonomien egentlig befinder sig. Hvem eller hvad er det egentlig, der tager beslutningerne? Hvem har ansvaret?« spørger han og giver et eksempel.

Hvis en privat virksomhed udvikler visualiseringssoftware, der kan bruges til f.eks. at fortolke satellitfotos, og gør teknologien frit tilgængelige som open source, er der intet, der forhindrer den i at finde militær anvendelse.

»Virksomheden selv har ingen mulighed for at forudse, om dens software kommer til at koste menneskeliv. Man kan ikke længere skelne, om der er tale om civil eller militær teknologi. Formålet med denne konference har været at afsøge den slags nye grænser,« siger Hin-Yan Liu.

Den kolde krig på hovedet

Alene i Nordamerika har den private sektor i 2016 investeret i AI for et sted mellem 15 og 23 milliarder USD, fremgår det af en rapport fra McKinsey Global Institute. Det er ti gange mere end den amerikanske regering brugte på såkaldt uklassificerede AI-programmer samme år.

Dette vender dynamikken i Den Kolde Krig på hovedet. Her førte statslige investeringer til en lang række innovationer i den private sektor, som førte til teknologier som GPS og selveste internettet.

Silicon Valleys teknologieventyr var sammen med et par magtfulde californiske universiteter et langt stykke hen ad vejen et spin off på det amerikanske forsvar.

Ifølge ph.d.-studerende på Suiss Federal Institute of Technology i Zürich Sophie-Charlotte Fisher vil techgiganterne spille en voksende og afgørende rolle i udviklingen af fremtidens våbensystemer og dermed vende den logik på hovedet.

»Ud over de mange isolerede anvendelser af AI har det påkaldt sig stor interesse og nogen undren, at USA’s forsvar har besluttet at outsource hele sin datahåndtering til en enkelt leverandør,« bemærker Fisher og henviser til, at der allerede til december bliver taget stilling til, hvilken virksomhed, der skal lægge servere til den ’sky’ – såkaldt cloud serving – der skal huse alle supermagtens elektroniske data. Projektet har til mange Star Wars-nørders store tilfredshed fået kodenavnet JEDI.

Sårbar centralisme

»Der er stor enighed blandt eksperter om, at ordren går til Amazon. Men der er tilsvarende stor undren over, at USA har valgt at lægge alle sine æg i en kurv,« siger hun og peger på nye usikkerheder.

»Mange har udtrykt bekymring over den sårbarhed, det giver, at lægge ansvaret for et så afgørende strategisk potentiale i hænderne på en enkelt udbyder.«

»Dertil kommer, at centralistiske løsninger er særligt udsat for både konventionelle og cyberangreb,« forklarer hun.

Her skal det dog også nævnes, at en anden af de helt store techgiganter indtil videre har spillet sig selv af banen.

Google sagde for nylig nej tak til fortsat deltagelse i Project Maven, hvor kunstig intelligens skal afsøge massive mængder af overvågningsdata med henblik på at advare menneskelige analytikere om mistænkelig aktivitet. Google trak sig kun, fordi over 3.100 af virksomhedens medarbejdere satte ledelsen stolen for døren. Googles ledelse så derimod Maven som en vej til flere givtige Pentagon-kontrakter.

De ønskede ikke, »at være end del af en krigsindustri, hvortil man outsourcede sit moralske ansvar«, idet de udtrykte en begrundet frygt for, at Googles data kunne blive brugt til at spore, analysere og dræbe.

Dette sidste åbner for et interessant perspektiv for de håbefulde. Googles hensyn til bekymrede medarbejdere havde således ikke rod i virksomhedens tidligere uofficielle motto om »ikke at være onde« – en frase, der i følge techmediet Gizmodo da også helt blev fjernet fra Googles interne retningslinjer i foråret.

Når Google så sig nødsaget til at sige pænt nej tak til Maven, er vurderingen fra Sophie-Charlotte Fisher og andre iagttagere, at de er bange for at miste de nøglemedarbejdere, der sidder i toppen af AI-hierarkiet.

Hun er enig med Kristoffer Stensbo-Smidt, der her i avisen har givet udtryk for, at der kun er få tusinde virkeligt tunge AI-eksperter på verdensplan.

»Det betyder, at de techgiganter, som vil være førende, vil gå meget langt for at bevare AI-nøglemedarbejderne, der ikke alene er afgørende for deres konkurrenceevne. De er også afgørende brikker i fremtidens geostrategiske styrkeforhold,« vurderer Fisher og peger sammen med andre håbefuldt på, at samvittighedsfulde ingeniører i al fald på kort sigt kan sikre mod, at teknologierne løber løbsk.

Kommandoveje i opløsning

Overordnet er det altså blevet svært at placere et formelt ansvar. De traditionelle kommandoveje er slørede. Ny potentiel selvberoende teknologi handler på egen hånd i komplekse netværk. Slagmarken er afløst af flydende grænser. Og private virksomheder begynder at spille en afgørende rolle for styrkeforholdet stormagterne imellem. Kina ligger ikke på den lade side. Herfra hævdes, at Riget i Midten allerede har sat sig på 20 procent af alle patenter inden for AI, og kineserne har meldt ud, at de vil investere 150 milliarder USD frem mod år 2030.

Det har økonomisk betydning, men det placerer samtidig Kina som en militærstrategisk stormagt.

Information spurgte professor Anders Henriksen, der er leder af Københavns Universitets Centre for International Law, Conflict and Crisis, om legale normer overhovedet slår til i forhold til de nye scenarier, der tegner sig?

»Min generelle pointe er, at der findes forskellige former for normer for adfærd internationalt. Som jurister har vi tit mest fokus rettet mod de retlige normer, og det hedder sig ofte, at hvis der ikke er nogen folkeret, så er der ingenting. Men der findes jo også politiske og moralske normer, som kan være mere eller mindre styrende for staters adfærd,« siger han.

Retsgrundlaget udfordret

»Det er som regel således, at nye teknologier udfordrer det eksisterende retsgrundlag, og at det tager noget tid, inden stater og akademikere bliver enige om, hvordan de nye teknologier reguleres. Nogle gange er der behov for nye retlige instrumenter såsom konventioner, og andre gange finder man ud af, at de eksisterende regler sådan set er tilstrækkelige til at regulere den nye teknologi.«

Han fremhæver et eksempel:

»Når det gælder bevæbnede droner, var der mange, der i midten af 00’erne argumenterede for, at der var behov for nogle nye konventioner eller nye regler for at kunne regulere dronekrig tilstrækkeligt. I dag er det dog den mest udbredte opfattelse, at droner sådan set blot kan reguleres i henhold til de almindelige regler,« siger Anders Henriksen, som dog medgiver, at tingene stiller sig noget anderledes med AWS.

»Vi er i disse år i færd med at diskutere, hvorledes AWS skal reguleres. Er der behov for ny jura eller er den eksisterende tilstrækkelig? Her vil jeg bare tilføje, at den eksisterende uklarhed om den retlige regulering jo ikke nødvendigvis betyder, at stater så vil mene, at de kan agere som de vil. For – som sagt – står retlige normer ikke alene, og der vil også være moralske/politiske forventninger til, hvorledes stater skal agere i forhold til AWS.«

Ligesom Hin-Yan advarer han mod at sætte sin lid til alt for hurtigtgående stramme regler:

»I stedet for at starte med at tro, at man kan finde klare retligt bindende svar på alting, kunne man jo starte med – mindre ambitiøst – at se, om man kunne blive enige om nogle basale ikkebindende normer for adfærd, som måske på sigt kunne blive retligt bindende.«

Bliv opdateret med nyt om disse emner på mail

Folketingsvalget er forbi, men magten skal stadig holdes i ørerne.
Få ubegrænset adgang med et digitalt abonnement. Første måned er gratis.

Prøv nu

Er du abonnent? Log ind her

Anbefalinger

  • Espen Bøgh
  • Eva Schwanenflügel
  • Jakob Trägårdh
Espen Bøgh, Eva Schwanenflügel og Jakob Trägårdh anbefalede denne artikel

Kommentarer

En regulært katastrofal udvikling, som vitterligt er til både at grine og græde over.

Ikke blot sætter det økonomiske vækstpres' maniske jagt på teknologiudvikling klodens ressource- og klimabalancer under et på sigt helt ubærligt pres, men oveni øger privatiseringen af den militære del af teknologiudviklingen betragteligt risikoen for fuldstændigt uoverskuelige krigstilstande, hvor ansvarsplaceringerne bliver voldsomt dubiøse at foretage (hvilket de i forvejen allerede er tæt på at være, givet bl.a. dronekrigsførsel og mange staters intensiverede brug af private/vilkårlige militser i deres krigs- og magtudøvelse).

Eva Schwanenflügel, Alvin Jensen, Torben Skov og Philip B. Johnsen anbefalede denne kommentar

Når man tænker på hvor svært det er at placere ansvar i vores nuværende bureaukrati og pengevæsen, bliver det nok ikke nemmere, hvis disse allierer sig med kunstig intelligens. Det er jo blot et spørgsmål om at inddrage begrebet 'intet ansvar' i løsningsmodellerne.

Hvis vi overlader klimaproblematikken til den kunstige intelligens, vil overbefolkningsudfordringen hurtigt gå i spænd med profitmaksimeringen i våbenindustrien og løse problemet med en win win. Store problemer kræver hurtigt dystopiske løsninger, hvis ikke intelligensen er underlagt primitive humane blokeringer. God søndag.

Philip B. Johnsen

@Peder Bahne
Der er vi allerede.
Se hvem der bl.a. ønsker adgang til metadata.

Cambridge Analytica links to Blackwater founder
Link: https://www.washingtontimes.com/news/2018/mar/21/cambridge-analytica-lin...
How our democracy was hijacked

Political manipulation to deny climate change
cambridge analytica
Link: https://www.theguardian.com/technology/2017/may/07/the-great-british-bre...

“How Steve Bannon used Cambridge Analytica to further his alt-right vision for America.
Cambridge Analytica Robert Mercer and a web of lobbyists pushing to hinder climate action.

How dark money and data mining are being used to influence elections and undermine democracy.”
Link: https://edition.cnn.com/2018/03/30/politics/bannon-cambridge-analytica/

“Successful deception” by rebranding themselves.

FACEBOOK MAKES THEIR MONEY BY EXPLOITING AND SELLING INTIMATE DETAILS ABOUT THE PRIVATE LIVES OF MILLIONS, FAR BEYOND THE SCANT DETAILS YOU VOLUNTARILY POST. THEY ARE NOT VICTIMS. THEY ARE ACCOMPLICES.
Edward Joseph Snowden

BUSINESSES THAT MAKE MONEY BY COLLECTING AND SELLING DETAILED RECORDS OF PRIVATE LIVES WERE ONCE PLAINLY DESCRIBED AS “SURVEILLANCE COMPANIES.” THEIR REBRANDING AS “SOCIAL MEDIA” IS THE MOST SUCCESSFUL DECEPTION SINCE THE DEPARTMENT OF WAR BECAME THE DEPARTMENT OF DEFENSE.
Edward Joseph Snowden

Espen Bøgh, Eva Schwanenflügel, Alvin Jensen, Torben Skov og Bettina Jensen anbefalede denne kommentar
Jakob Trägårdh

Vi behøver slet ikke AI, som et tegn på opløsningen af de internationale regler for krig—man kan nemt påvise, at det systematisk foregår og har foregået i årtier: Et sted at starte er Balkan `94 (overgangen fra FN til NATO missioner, siden den udvidelse er alt hykleri) og frem, Afganistan, Irak, Obamas droneprogram ETC.). Ang. atomvåben: Alle Koldkrigstidens ‘røde linjer‘ er non-eksisterende. Det er ekstremt bekymrende og AI tilføjer bare et lag, en kompleksitet til den uro, som ethvert menneske må have idag.

Bettina Jensen, Alvin Jensen og Philip B. Johnsen anbefalede denne kommentar
Philip B. Johnsen

@Jakob Trägårdh
Det er en vigtig pointe du har, jeg vil uddybe den lidt.

Tidligere statsminister Anders Fogh Rasmussen og tidligere udenrigsminister Per Stig Møller, skulle i efteråret 2015 og foråret 2016 have været afhørt om det juridiske grundlag for at gå i krig i Irak, det blev som bekendt ikke til noget, men i Storbritanien kom man bl.a. til følgende konklusionener.

UK Iraq Inquiry:

UK chose to join military campaign before "peaceful options for disarmament" exhausted.

Tony Blair told Georg Bush "I will be with you, whatever" 8 months before invention.

There was no "imminent threat "from Saddam Hussein in March 2003.

Claims of weapons of mass destruction were made "with a certainty that was not justified"

Victims’ lawyer:
The families are saddened to have learned that their loved ones died unnecessarily and without cause.

Fra /ritzau/ link
"Tony Blair er den først af de ledere, som stod i spidsen for beslutningen om at gå i krig, som nu erkender, at krigen delvist har været med til at forme ‘Islamisk Stat’.

Det er klart, at du kan ikke friholde os, som fjernede Saddam Hussein i 2003, for ansvar for situationen i 2015, siger Blair i et interview med CNN."
/ritzau/ link:
http://www.information.dk/telegram/549767

"I FN var der ikke flertal for en krig mod Irak, og den blev således gennemført uden FN-mandat, men med støtte fra Storbritannien, Australien og Danmark.

Siden har det vist sig, at grundlaget for at gå i krig ikke holdt:
Man fandt ikke atomvåbnene, og en forbindelse til al-Qaeda kunne ikke påvises."
Link: http://www.faktalink.dk/titelliste/irak-krigen/

Den 18. marts fremsatte daværende udenrigsminister Per Stig Møller (K) på regeringens vegne “Forslag til folketingsbeslutning om dansk militær deltagelse i en multinational indsats i Irak”

Forslaget lød:
Folketingsbeslutning om dansk militær deltagelse i en multinational indsats i Irak:

Folketinget meddeler sit samtykke til, at danske militære styrker stilles til rådighed for en multinational indsats i Irak.

Forslaget blev vedtaget den 21. marts. Venstre, Konservative og Dansk Folkeparti stemte for."
Link: http://www.faktalink.dk/titelliste/irak-krigen/baggrund-for-krigen

Foruden destabiliseringen af Syrien af bl.a. tidligere statsminister Anders Fogh Rasmussen, tidligere udenrigsminister Per Stig Møller og tidligere Premierminister Tony Blair var det de menneskeskabte klimaforandringer fra kul, olie og gas afbrænding og økonomisk ikke bæredygtig global økonomisk vækst, der var den udløsende lokale fakta for borgerkrig og kampen om resurserne, verden er vidne til den dag i dag.

Læs: Vejret forbliver varmt og tørt. Men det har vi på en måde vidst i 160 år.
link: https://www.information.dk/indland/2018/07/vejret-forbliver-varmt-toert-...

Borgerkrigen i Syrien begynde med en folkevandring ind til byerne, forårsaget, af tørke sultende syere, uden noget sted at være, de hoppede sig op i gadebilledet, Bashar al-Assad kunne tillade det store sammenrend mellem demonstranter og klimaflygtninge og det resulterede i den ulmende uro, der nu er borgerkrig mm.

The Center for American Progress The Arab Spring and Climate Change.

According to a special case study from last year’s United Nations’ 2011 Global Assessment Report on Disaster Risk Reduction, of the most vulnerable Syrians dependent on agricultureparticularly in the northeast governorate of Hassakeh (but also in the south) nearly 75 percent suffered total crop failure.

Herders in northeast Syria also lost around 85 percent of their livestock, affecting 1.3 million people.

The human and economic costs of such shortages are enormous. In 2009 the United Nations (FN) and the International Federation of Red Cross and Red Crescent Societies reported that more than 800,000 Syrians had lost their entire livelihood as a result of the droughts.
Link: https://climateandsecurity.org/tag/arab-spring/

"Nyt studie viser sammenhæng mellem klimaforandringer og Syriens kaos"
Link:https://globalnyt.dk/content/nyt-studie-viser-sammenhaeng-mellem-klimafo...

De menneskeskabte klimaforandringer, som den rige del af verden, det er bl.a. EU og USA, har 99% af det historiske CO2 udlednings ansvar for, som af UN/FN estimerede vil resultere i 200-250 millioner ‘nye’ klimaflygtninge i verden de kommende få årtier, er ensbetydende med sult og nød for befolkningerne, det er kimen til oprør, kampen om resurserne for opretholdelse af livet og naturligvis denne med tiden stigende migration.

Flemming Berger, Eva Schwanenflügel, Bettina Jensen, Alvin Jensen, Gert Romme og Jakob Trägårdh anbefalede denne kommentar
Jakob Trägårdh

Jeg håber, at det bliver indskrevet i enhver AIs DNA (program), at udløsningen af en atomkrig UNDER ALLE OMSTÆNDIGHEDER er fuldstændigt udelukket af hensyn til (pga årsager, som samme AI aldrig vil kunne kalkulere sig frem til) livet på Jorden.

Jakob Trägårdh

... og så må vi håbe på, at samme AI konkluderer, at det ikke fører nogen vegne hen og derfor i enhver optrapning lakonisk insister: DISARM—DISARM—DISARM ...

Raido Rafn, Eva Schwanenflügel og Alvin Jensen anbefalede denne kommentar

Tak til flere ovenstående for deres indlæg til tråden om netop dette emne, og handler om dets tøjlesløshed ud i fremtiden.

Regelsættet for dette AI i forbindelse med fremtiden bliver ikke skrevet af AI selv, hvilket sandelig heller ikke er meningen, - for dem der vil skrive regelsættet, - og vi kender det allerede til dels, og vi har også stiftet bekendtskab med det vil blive skrevet i og af "sidekorridorernes dunkle ansigtsløse" og skruppelløse personager, og ganske de samme som ønskede Cambridge Analytics tjenester.

Hovedtemaet er; "Amerika First", tilføjet, "hvis I ikke er med os, så er I imod os", - det bliver de helt simple grundlag for algoritmerne i AI og krigsmaskinerne!