Glem dræberrobotter – kunstig intelligens vil ændre magt, krig og folkeret

Selv om filmelskere har mødt sære maskinelle skabninger med overmenneskelige evner til at sprede død og ødelæggelse siden den tyske filminstruktør, Fritz Lang lagde ud i filmen Metropolis fra 1927, er det nok mest billeder fra Bladerunner eller Terminator, der melder sig, når talen falder på fremtidens krigsførelse.

Men fremtidens krige bliver ikke afgjort af Terminator, men derimod netværksbaserede autonome våbensystemer armeret med kunstig intelligens (eller Artificial Intelligence, AI)

Det mener lektor på Københavns Universitets Centre for International Law, Conflict and Crisis, Hin-Yan Liu.

Foruden en doktorafhandling om private udbydere af sikkerhed og lejesoldater som det hedengangne BlackWater har han sammen med danske og internationale kolleger koncentreret sig om de juridiske udfordringer, der er forbundet med, at AI, data og maskiner spiller en hastigt voksende rolle i moderne krigsførelse, ikke mindst i form af autonome våbensystemer – såkaldte AWS’er.

Det vil i voksende omfang betyde et farvel til gode gammeldags kommandoveje.

Død og ødelæggelse bliver i stedet distribueret og implementeret i netværk af droner, jagerfly, overvågningssatellitter forbundet med billedanalyseringssoftware, traditionelle tropper på jorden og meget mere.

Både netværk og deres bestanddele vil blive understøttet af AI, der ikke skal ses som et våben i sig selv som f.eks. et ballistisk missil. AI minder mere om elektricitet eller en forbrændingsmotor. Der er tale om en teknologi, der forstærker eksisterende våben og teknologier.

Store datamængder kan lynhurtigt analyseres, og processer kan automatiseres og dermed erstatte traditionelt personel. Nogle våbensystemer vil måske træffe selvstændige beslutninger, mens menneskelige beslutninger vil blive understøttet af store omhyggeligt gennemtrævlede datamængder, hvis resultater beslutningstagerne i kampens hede kan have svært ved at forstå såvel forudsætningerne for samt konsekvenserne af. Ansvaret forsvinder i de digitale tåger.

Uklart ansvar

For når dele af komplicerede netværk af informationer og beslutningskanaler fungerer autonomt, er det nærmest umuligt at placere et ansvar for de handlinger, der bliver eksekveret på slagmarken. Og det bliver stadigt vanskeligere at afgøre, om AI-understøttede våbensystemer krydser så mange røde linjer, at de bør forbydes på linje med landminer.

Slagmarken fortaber sig også og kan lige så vel være en teknologigigants datacenter på en mark i Jylland. Den kan være en gade i Kabul, hvor en overvågningssatellit udstyret med mønstergenkendelsessoftware har spottet mistænkelig adfærd og udløser et droneangreb. Og det kan være en kælder i Paris, hvor der udvikles banebrydende teknologi, som kan skaffe adgang til Pentagons allerdybeste hemmeligheder.

»Stillet over for den virkelighed skal vi være meget varsomme med at stille os tilfredse med populære forestillinger om robotter med supermennskelige egenskaber, som vi kender dem fra filmens verden. Det er langt mere komplekst,« sagde Hin-Yan Liu oven på en todageskonference, der blev afholdt på Københavns Universitet for en uges tid siden, hvor en række danske og udenlandske forskere forsøgte at kaste lys over de mange svimlende problematikker.

Liu indledte konferencen med at opfordre de halvthundrede fremmødte til hver især at notere sig, i hvor høj grad de på en skala fra 1-10 var optimistiske i forhold til mulighederne for at udforme tidssvarende love, regler og retningslinjer for fremtidens krigsførelse.

Efter to dage blev forsamlingen spurgt, om de var blevet mere eller mindre optimistiske. Kun én havde bevaret optimismen. Hin-Yan Lui var selv blandt pessimisterne.

Pessimistiske forskere

Der er flere spørgsmål, der nærer Hin-Yans skepsis. Er det kompleks af love, regler, traktater og retningslinjer, der sætter grænser for, hvilke våben der må benyttes på slagmarken holdbart? Hvordan skelnes der i forhold til civile, og hvad er en civil? Og slår folkeretten overhovedet til, når fremtidige krigshandlinger har kostet død og ødelæggelse, og der skal placeres et ansvar?

»Der er andre forskere, der forsøger at anvende eksisterede legale normer på den ny virkelighed. Det er spændende, men det er ikke sådan, jeg ser det. Slår de eksisterende juridiske rammer ikke til, så ser jeg det som mig og mine kollegers opgave at have noget ny jura klar. Det er det, vi arbejder med, selv om vi er langt fra målet,« siger Hin-Yan Liu.

»Når det gælder de avancerede netværksbaserede våbensystemer, er det ikke længere klart, hvor autonomien egentlig befinder sig. Hvem eller hvad er det egentlig, der tager beslutningerne? Hvem har ansvaret?« spørger han og giver et eksempel.

Hvis en privat virksomhed udvikler visualiseringssoftware, der kan bruges til f.eks. at fortolke satellitfotos, og gør teknologien frit tilgængelige som open source, er der intet, der forhindrer den i at finde militær anvendelse.

»Virksomheden selv har ingen mulighed for at forudse, om dens software kommer til at koste menneskeliv. Man kan ikke længere skelne, om der er tale om civil eller militær teknologi. Formålet med denne konference har været at afsøge den slags nye grænser,« siger Hin-Yan Liu.

Den kolde krig på hovedet

Alene i Nordamerika har den private sektor i 2016 investeret i AI for et sted mellem 15 og 23 milliarder USD, fremgår det af en rapport fra McKinsey Global Institute. Det er ti gange mere end den amerikanske regering brugte på såkaldt uklassificerede AI-programmer samme år.

Dette vender dynamikken i Den Kolde Krig på hovedet. Her førte statslige investeringer til en lang række innovationer i den private sektor, som førte til teknologier som GPS og selveste internettet.

Silicon Valleys teknologieventyr var sammen med et par magtfulde californiske universiteter et langt stykke hen ad vejen et spin off på det amerikanske forsvar.

Ifølge ph.d.-studerende på Suiss Federal Institute of Technology i Zürich Sophie-Charlotte Fisher vil techgiganterne spille en voksende og afgørende rolle i udviklingen af fremtidens våbensystemer og dermed vende den logik på hovedet.

»Ud over de mange isolerede anvendelser af AI har det påkaldt sig stor interesse og nogen undren, at USA’s forsvar har besluttet at outsource hele sin datahåndtering til en enkelt leverandør,« bemærker Fisher og henviser til, at der allerede til december bliver taget stilling til, hvilken virksomhed, der skal lægge servere til den ’sky’ – såkaldt cloud serving – der skal huse alle supermagtens elektroniske data. Projektet har til mange Star Wars-nørders store tilfredshed fået kodenavnet JEDI.

Sårbar centralisme

»Der er stor enighed blandt eksperter om, at ordren går til Amazon. Men der er tilsvarende stor undren over, at USA har valgt at lægge alle sine æg i en kurv,« siger hun og peger på nye usikkerheder.

»Mange har udtrykt bekymring over den sårbarhed, det giver, at lægge ansvaret for et så afgørende strategisk potentiale i hænderne på en enkelt udbyder.«

»Dertil kommer, at centralistiske løsninger er særligt udsat for både konventionelle og cyberangreb,« forklarer hun.

Her skal det dog også nævnes, at en anden af de helt store techgiganter indtil videre har spillet sig selv af banen.

Google sagde for nylig nej tak til fortsat deltagelse i Project Maven, hvor kunstig intelligens skal afsøge massive mængder af overvågningsdata med henblik på at advare menneskelige analytikere om mistænkelig aktivitet. Google trak sig kun, fordi over 3.100 af virksomhedens medarbejdere satte ledelsen stolen for døren. Googles ledelse så derimod Maven som en vej til flere givtige Pentagon-kontrakter.

De ønskede ikke, »at være end del af en krigsindustri, hvortil man outsourcede sit moralske ansvar«, idet de udtrykte en begrundet frygt for, at Googles data kunne blive brugt til at spore, analysere og dræbe.

Dette sidste åbner for et interessant perspektiv for de håbefulde. Googles hensyn til bekymrede medarbejdere havde således ikke rod i virksomhedens tidligere uofficielle motto om »ikke at være onde« – en frase, der i følge techmediet Gizmodo da også helt blev fjernet fra Googles interne retningslinjer i foråret.

Når Google så sig nødsaget til at sige pænt nej tak til Maven, er vurderingen fra Sophie-Charlotte Fisher og andre iagttagere, at de er bange for at miste de nøglemedarbejdere, der sidder i toppen af AI-hierarkiet.

Hun er enig med Kristoffer Stensbo-Smidt, der her i avisen har givet udtryk for, at der kun er få tusinde virkeligt tunge AI-eksperter på verdensplan.

»Det betyder, at de techgiganter, som vil være førende, vil gå meget langt for at bevare AI-nøglemedarbejderne, der ikke alene er afgørende for deres konkurrenceevne. De er også afgørende brikker i fremtidens geostrategiske styrkeforhold,« vurderer Fisher og peger sammen med andre håbefuldt på, at samvittighedsfulde ingeniører i al fald på kort sigt kan sikre mod, at teknologierne løber løbsk.

Kommandoveje i opløsning

Overordnet er det altså blevet svært at placere et formelt ansvar. De traditionelle kommandoveje er slørede. Ny potentiel selvberoende teknologi handler på egen hånd i komplekse netværk. Slagmarken er afløst af flydende grænser. Og private virksomheder begynder at spille en afgørende rolle for styrkeforholdet stormagterne imellem. Kina ligger ikke på den lade side. Herfra hævdes, at Riget i Midten allerede har sat sig på 20 procent af alle patenter inden for AI, og kineserne har meldt ud, at de vil investere 150 milliarder USD frem mod år 2030.

Det har økonomisk betydning, men det placerer samtidig Kina som en militærstrategisk stormagt.

Information spurgte professor Anders Henriksen, der er leder af Københavns Universitets Centre for International Law, Conflict and Crisis, om legale normer overhovedet slår til i forhold til de nye scenarier, der tegner sig?

»Min generelle pointe er, at der findes forskellige former for normer for adfærd internationalt. Som jurister har vi tit mest fokus rettet mod de retlige normer, og det hedder sig ofte, at hvis der ikke er nogen folkeret, så er der ingenting. Men der findes jo også politiske og moralske normer, som kan være mere eller mindre styrende for staters adfærd,« siger han.

Retsgrundlaget udfordret

»Det er som regel således, at nye teknologier udfordrer det eksisterende retsgrundlag, og at det tager noget tid, inden stater og akademikere bliver enige om, hvordan de nye teknologier reguleres. Nogle gange er der behov for nye retlige instrumenter såsom konventioner, og andre gange finder man ud af, at de eksisterende regler sådan set er tilstrækkelige til at regulere den nye teknologi.«

Han fremhæver et eksempel:

»Når det gælder bevæbnede droner, var der mange, der i midten af 00’erne argumenterede for, at der var behov for nogle nye konventioner eller nye regler for at kunne regulere dronekrig tilstrækkeligt. I dag er det dog den mest udbredte opfattelse, at droner sådan set blot kan reguleres i henhold til de almindelige regler,« siger Anders Henriksen, som dog medgiver, at tingene stiller sig noget anderledes med AWS.

»Vi er i disse år i færd med at diskutere, hvorledes AWS skal reguleres. Er der behov for ny jura eller er den eksisterende tilstrækkelig? Her vil jeg bare tilføje, at den eksisterende uklarhed om den retlige regulering jo ikke nødvendigvis betyder, at stater så vil mene, at de kan agere som de vil. For – som sagt – står retlige normer ikke alene, og der vil også være moralske/politiske forventninger til, hvorledes stater skal agere i forhold til AWS.«

Ligesom Hin-Yan advarer han mod at sætte sin lid til alt for hurtigtgående stramme regler:

»I stedet for at starte med at tro, at man kan finde klare retligt bindende svar på alting, kunne man jo starte med – mindre ambitiøst – at se, om man kunne blive enige om nogle basale ikkebindende normer for adfærd, som måske på sigt kunne blive retligt bindende.«