Læsetid: 7 min.

Når mennesket går på autopilot

Med udviklingen i kunstig intelligens har vi mulighed for at overlade arbejdet til maskinerne. Til gengæld er vi på røven, når de fejler
Det var en menneskelig fejl, der førte til at Air France 447 styrtede i havet i 2009 – formentlig forårsaget af, at piloternes træning var blevet rusten af så mange flyvninger, hvor autopiloten havde klaret arbejdet

Det var en menneskelig fejl, der førte til at Air France 447 styrtede i havet i 2009 – formentlig forårsaget af, at piloternes træning var blevet rusten af så mange flyvninger, hvor autopiloten havde klaret arbejdet

AP Photo

18. november 2016

»Vi har mistet kontrollen med flyet. Jeg forstår det ikke! Vi har prøvet alt!« Air France 447 var på vej fra Rio de Janeiro i Brasilien til Paris, da det dykkede hastigt mod havoverfladen.

Det var andenpiloten David Roberts, der havde kontrollen – eller rettere havde mistet kontrollen – med flyet, da kaptajnen vendte tilbage til cockpittet fra sin pause. Få minutter senere blev den sidste lydbid lagret i flyets sorte boks.

Da boksen senere blev trukket op fra dybet, emmede den af resigneret frustration. »Men hvad sker der?« sagde kaptajnen kort inden Airbus-flyet ramte Atlanterhavets overflade og sendte samtlige 228 passagerer til bunds.

Den tragiske erkendelse, man to år senere i 2011 kunne udlede fra den sorte boks med flydata og piloternes interne kommunikation, var, at det ikke var afgørende fejl i flyet, der forårsagede styrtet.

Flyets vinger var ganske vist overisede. Det satte flyets autopilot ud af funktion, og dermed var kontrollen over flyet overladt til piloterne. Men i sidste ende var det deres håndtering af flyet, der sendte det på katastrofekurs.

De fejlfortolkede flyets advarselslamper og gjorde det modsatte af, hvad de var trænet til, da flyet tabte fart og dalede mod jorden.

Alt for sent opdagede de deres fejl.

Der er ingen, der præcist kan vide, hvorfor piloterne reagerede, som de gjorde, men det bliver i en ny bog Messy: The Power of Disorder to Transform our Lives af forfatteren og journalisten Tim Harford udlagt som et muligt eksempel på et fejlslagent samarbejde mellem menneske og maskine.

Som en ultimativ, men dog sjælden konsekvens af, at når vi overlader vores arbejde til maskiner, så er vi ikke klar, i træning eller kritiske nok, når maskinerne en sjælden gang sætter ud.

»De havde vænnet sig til at flyve med autopilot, så da systemet satte ud, var de ikke forberedte. Hvis vi beder computere om at gøre alting for os, så glemmer vi selv, hvordan man gør. Det er ikke nødvendigvis et problem, for autopiloten har gjort flyvningen meget mere sikker, men det skaber en helt ny slags problem,« fortæller økonomiuddannede Tim Harford på en telefonforbindelse til hans arbejde på Financial Times i London.

Air France-flyet var et Airbus 330, der er kendt som et af de sikreste fly i luften. Det har et af de mest sofistikerede autopilotsystemer, der inkluderer såkaldt fly-by-wire, der oversætter pilotens intentioner til en mere glidende flyvning. Det gør det nemt at holde flyet stabilt i luften.

Det er normalt fordelagtigt, men skaber et paradoks, som Tim Harford identificerer gennem tre elementer.

For det første at intelligente systemer bliver så nemme at håndtere, at de kan skjule svagheder hos de menneskelige operatører. Det er et problem, hvis maskinen fejler.

Her bliver det andet element nemlig tydeligt: Automatiseringen udhuler vores færdigheder, fordi vi overlader vores arbejde til maskinen, og dermed ikke opretholder vores egen træning.

Og det leder til det tredje element i paradokset.

»Et hvilket som helst system vil på et eller andet tidspunkt fejle, og jo bedre det er, jo mere usædvanlige er de situationer, hvor det sætter ud, og så meget desto værre er vi forberedte,« fortæller Tim Harford.

Piloterne havde ganske vist tilstrækkeligt med erfaring og timer i luften, men ikke uden hjælp fra autopiloten. Af de tre piloter var kaptajnen, Marc Dubois, den mest erfarne med 346 timer om bord på en Airbus 330, men kun i fire timer af disse var han i reel manuel kontrol med flyet. Selv der var det med hjælp fra fly-by-wire-systemet.

Det er kulminationen af de faktorer, der leder Tim Harford til sin konklusion om det fatale flystyrt.

Vi tænker med kroppen

Nu skal man ikke afskrive automatiseringen af frygt for flystyrt, og Tim Harfords bog er heller ikke noget kampskrift for maskinstormere. Automatisering kan være et velsignet alternativ til det manuelle samlebåndsarbejde, men med kunstig intelligens er automatiseringen ikke længere begrænset til simple og overskuelige opgaver.

Den er på vej ud af fabrikshallerne og ind i en social kontekst med uforudsigelige og irrationelle menneskelige aktører.

»Verden er et kompliceret sted, og det er svært at udtænke ny teknologi helt rigtigt fra tegnebrættet. Der vil altid være ting, du ikke kan forudsige,« fortæller Tim Harford.

Vi udliciterer gladelig en lang række opgaver til maskiner. Ikke bare det belastende fabriksarbejde eller den slags opgaver, vi helst vil slippe for, så vi kan tage os af det sjove, kreative og varierede arbejde. Det gælder også mere usynlige opgaver, vi ikke tænker over til dagligt.

Vores mailklient forsøger for eksempel at frasortere spam, og skulle systemet fejle, og en vigtig mail forputte sig i spamfilteret, overlever vi nok. Det er først, når vi automatiserer kritisk infrastruktur, hvor reaktionstiden er afgørende, og konsekvenserne kan være fatale, at vi for alvor skal være på vagt.

Den gennemgribende pointe i Tim Harfords analyse af vores forhold til teknologi tager teoretisk afsæt i den postfænomenologiske tradition, der insisterer på, at vores forhold til teknologien er kropslig.

Det fortæller Finn Olesen, der er lektor ved Institut for Kommunikation og Kultur ved Aarhus Universitet.

»Kroppen er ikke et appendiks, men en integreret del af, hvem jeg er. Det, jeg kan eller har erfaring med, må altid forstås i den kontekst.«

Den præmis peger på den simple, men vigtige pointe, at vi ikke kan vurdere teknologien alene ud fra dens egenskaber. Den er ikke noget i sig selv, men bliver kun til noget i mødet med mennesker, siger Finn Olesen.

»Du kan ikke køre en bil bare ved at læse en manual. Sæt folk på skolebænken, og så læser de om, hvordan man skal handle i trafikken, men den praktiske erfaring kræver jo, at man har hænderne på rattet.«

Netop biler er væsentlige at hæfte sig ved her. Udviklingen af selvkørende biler er accelereret voldsomt de seneste år, og hvad der før virkede som en fjern teknologisk fremtid, ruller nu allerede rundt på vejene.

Da Tesla i januar 2015 opdaterede softwaren i deres biler med selvkørende funktioner, blev det muligt at slippe rattet og lade bilen køre selv.

Selv om Teslas opdatering blev lanceret med formaninger om, at føreren stadig skal have hænderne på rattet, gik der ikke lang tid, før man kunne finde Youtube-videoer med glade Tesla-ejere, der satte sig om på bagsædet og lod bilen overtage kørslen.

Det er voldsomt meget tillid at investere i en maskine, der stadig lærer, mener Tim Harford.

»Vi giver den kunstige intelligens og maskinerne en mytisk status, som de ikke rigtig fortjener. Det er interessant at se, hvilke beslutninger vi overlader til algoritmer, og hvis vi forstod argumentet bag, er jeg ikke sikker på, at vi ville gøre det,« fortæller han.

I 2016 endte en Tesla i en dødbringende kollission i Florida. Teslaen registrerede af uvisse årsager ikke, at en lastbil trak ud i overhalingshalen foran bilen, og chaufføren var muligvis heller ikke opmærksom.

Efter ulykken kunne lastbilchaufføren, der blev ramt af Tesla-køretøjet, i hvert fald berette, at der blev afspillet Harry Potter på bilens skærm.

»Vi har en forventning om, at industrirobotter er ufejlbarlige. De løser meget veldefinerede opgaver. Men de er også uinteressante, fordi de gør, hvad de skal. Dem, vi er optaget af, er dem, vi er i daglig kontakt med. Når du kører i trafikken, er du i kernen af vores samfund. Bilerne er hjerteblod. Det er ikke bare et uskyldigt artefakt,« fortæller Finn Olesen.

Hvem skal babysitte hvem?

Løsningen på den problemstilling kan meget vel være at give maskinerne mindre ansvar, mener Tim Harford.

»Computere bliver aldrig trætte og ved altid, hvad der foregår, så måske er det bedre, hvis vi beder computeren om at babysitte mennesket. For hvis vi flyver flyet, så opretholder vi vores træning og færdigheder, og computeren kan overtage eller korrigere, hvis vi laver fejl. Den kan lære af vores fejl og handlinger. Vi er på den anden side elendige babysittere for en computer, for vi sidder bare og stirrer på den time efter time. Og er vi så pludselig klar til at træde til, når den laver en fejl? Det virker ikke særligt realistisk,« fortæller Tim Harford.

Tim Harfords løsning rejser en central problemstilling i relationen mellem maskine og menneske: Hvordan vi skaber det bedste samarbejde.

De mest skelsættende og måske også mest karikerede øjeblikke for opfattelsen af kunstig intelligens er de løbende populærkulturelle sejre over mennesket.

Først og fremmest i 1997 hvor den regerende verdensmester i skak Garri Kasparov tabte til IBM’s Deep Blue og senest med den ingeniørmæssigt langt mere krævende og imponerende bedrift, hvor Google sejrede over verdensmesteren Lee Sedol i 2015 i spillet go.

Langt mindre opmærksomhed trak det, da de to amatørskakspillere Steven Cramton og Zackary Stephen i 2005 vandt en større skakturnering med assistance fra en algoritme.

Hvor vi så ivrigt fæstner os ved maskinens overlegenhed, er den stærkeste kombination og mest realistiske billede de næste mange år nok nærmere et samarbejde mellem menneske og maskine, fortæller Tim Harford.

Derfor er det vigtigt, at vi udvikler systemer, der holder os på tæerne, når mennesker og maskine skal samarbejde i kritiske situationer, mener Tim Harford.

»Hvis en computer tager fejl en ud af tre gange, så er det klart, at vi er opmærksomme på fejl. Men hvis de kun tager fejl en ud af 300.000 gange, så begynder vi at tvivle på vores egen dømmekraft og på dem, der mener, at maskinerne kan tage fejl. Men der vil ske fejl, og vi bliver nødt til at forstå dem og tage dem seriøst.«

Kammerat AI

Kunstig intelligens kan effektivisere den menneskelige formåen, hæve vores levestandard, udrydde fattigdom og føre til kuren mod kræft. Sådan lyder bare nogle få af de forhåbninger, som knyttes til den revolution, der for øjeblikket foregår indenfor kunstig intelligens.

Modsat frygter kritikere, at udviklingen kan komme ud af kontrol – at vi mister arbejdspladser, autonomi og nærvær. Vi har stadig en mulighed og et ansvar for, hvordan vi udvikler den, hvad vi bruger den til og i hvor høj grad vi inddrager menneskelige vurderinger inden der tages vigtige beslutninger. Det kræver, at vi forstår teknologien og forstår at bruge den.

Læs med i Informations særtillæg om kunstig intelligens.

Andre artikler i dette tillæg

  • Guide: Seks robotter du skal kende

    18. november 2016
    Fremtiden er her! Mød blandt andet pizzarobotten Zume, Jeopardy-mesteren Watson og den yndefylde, livagtige Sophia der alle sætter nye standarder for udviklingen af kunstig intelligens
  • ’Vi er jo stadig nybegyndere’

    18. november 2016
    Kunstig intelligens kan styrke socialrådgiverne, hvis fokus er kvalitet snarere end effektivisering, mener formand for Dansk Socialrådgiverforening Majbritt Berlau
  • ’Jeg fucking hader feminister, og de burde alle dø og brænde i helvede’

    18. november 2016
    Microsofts racistiske, homofobiske, misogyne, Trump-elskende, holocaustbenægtende, Hitlerglade chatbot Tay blev udskreget som en fiasko, men det kommer an på, hvordan man spørger. Måske er det nærmere en tragikomisk lektie i kunstig intelligens og en påmindelse om, at vi skal lære at leve med robotter, der kan fejle
Bliv opdateret med nyt om disse emner på mail

Vores abonnenter kalder os kritisk, seriøs og troværdig.
Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Anbefalinger

anbefalede denne artikel

Kommentarer

Der er ingen kommentarer endnu