Kronik

Fejlene er menneskelighedens sidste helle, som den kunstige intelligens truer med at udrydde

Vi bruger ufattelige ressourcer på at udvikle kunstig intelligens, der skal udslette de menneskelige fejl, men vi glemmer alt det potentiale, der ligger i fejlene, for eksempel min opfindelse af ordet ’fosterpiano’, skriver oversætter Hans-Jørgen Birkmose i dette debatindlæg
Computeren på fotoet er fra 1968 og blev brugt til at oversætte fra samoansk til engelsk. Det er ifølge dagens kronikør længe siden, at softwareudviklerne opgav deres drømme om perfekte maskinoversættelser. Men det er ved at ændre sig.

Computeren på fotoet er fra 1968 og blev brugt til at oversætte fra samoansk til engelsk. Det er ifølge dagens kronikør længe siden, at softwareudviklerne opgav deres drømme om perfekte maskinoversættelser. Men det er ved at ændre sig.

Ritzau/Scanpix

12. august 2019

Jeg er uddannet oversætter. Det er mit levebrød, og jeg elsker det over alt andet, fordi det er et håndværk. Arbejdet er på alle niveauer båret af menneskelighed, hvilket vil sige, at det er en blanding af bevidsthed og instinkt.

Det betyder, at jeg er trænet til i 99 pct. af alle tilfælde at foretage valg baseret på fornuft og empiri, men også at jeg i den yderste instans, hvor fornuft og empiri ikke slår til, kan løse et akut opstået problem: En afvigelse fra normalen – ikke efter det forhåndenværende søms princip, men med det overraskende indfald, der kan få folk til at tale om inspiration, skønt der i virkeligheden bare er tale om alle helbrændte håndværkeres evne til at improvisere sig ud af en akut kattepine.

For så vidt burde jeg se med foragt på maskinoversættelse og teknologien bag den. Det gør jeg så ikke.

De fleste tilfælde af konventionelt sprog er inden for mange teksttyper ren gentagelse eller præget af faste vendinger, og her er maskinoversættelsernes resultater gode nok til, at det er umagen værd at sætte et menneske til at arbejde videre med dem.

Håbløs menneskelighed 

Det er længe siden, softwareudviklerne opgav deres drømme om perfekte maskinoversættelser. Normen er i dag, at man sætter en menneskelig oversætter til at redigere maskinteksten færdig. Ikke desto mindre prøver de nu tilsyneladende igen, om ikke de kan udvikle teknologi, der gør den menneskelige oversætter overflødig – eller næsten.

Denne gang hedder løsningen kunstig intelligens, og folkene bag teknologien er selv meget begejstrede, skønt de faktisk har givet fortabt på forhånd: De erkender åbent, at de ikke kan få deres vidundere til at generere en oversættelse af Shakespeare eller Dickens på brøkdele af sekunder, og heller ikke i løbet af måneder eller år.

Det, de sidder og laver med deres nye, revolutionerende teknologi, er altså bare forbedringer af eksisterende løsninger. Pyha, tænker man, levebrødet er sikret.

Det vil sige, det gjorde jeg nu ikke. Jeg har følt mig truet på eksistensen af de prekære markedskræfter, men aldrig af teknologien, for over for den vil jeg altid have min menneskelighed at smide på bordet.

Jeg opfandt engang ordet ’fosterpiano’, og det strider mod al teknologis væsen overhovedet at få den slags skøre ideer – ovenikøbet uden at rette dem. Så lad dem endelig øve sig, siger jeg.

Til gengæld har ingeniørernes fortsatte anstrengelser slået et spørgsmål løs i hovedet på mig, som muligvis stadig i vores it-begejstrede tider er noget nær blasfemisk. Men når man nu med vanlig henrykkelse forjætter os en verden, hvor kunstig intelligens overtager selv det kunstneriske arbejde, så løber jeg risikoen for at blive brændt på bålet og stiller det alligevel: Hvad er det, der er så håbløst og forfærdeligt ved at være og handle som et menneske, at vi bruger ufattelige ressourcer på at udslette det?

Teknologiens begrænsninger

Vanetænkere vil sikkert afvise mig som gammelmandsvrissen og sige, at jeg med stanniolhatten godt trukket ned over øjnene argumenterer som en dystopisk paranoiker. Jeg håber i hvert fald, at de sparer mig for deres yndlingssalme, »Det er udviklingen«, sunget med et skuldertræk og et skævt smil, for ellers har de ikke læst spørgsmålet grundigt nok.

Jeg er imidlertid ikke en fremtidsforskrækket maskinstormer. Jeg vil ikke undvære én af de lettelser og muligheder, it har givet os i hverdagen. Men når jeg gør status efter nogle årtiers begejstringsrus, ser jeg en forskydning i udviklingen. Og jeg tror ikke, jeg er ene om at have bemærket det: Udviklingen begyndte som et ønske om at lette os selv for det tunge arbejde og alle rutineopgaverne, så fortsatte den som en målsætning om at gøre endnu flere ting billigere og hurtigere, og herefter gik den så i selvsving og begyndte at skabe nye behov til os, så vi i dag betragtes som B-eksistenser,hvis vi ikke har de behov, udviklingen har skabt, eller vi ikke kan eller vil indfri dem. Ja, vi er det endda et stykke ad vejen.

Det er en powerpointvenlig fremstilling af forløbet i overskrifter, men den er ikke urimelig. Jeg synes jo godt, vi efterhånden kan kalde den kritiske sans på arbejde igen – især fordi mange års omkostningstunge erfaringer viser, at:

a) teknologiens velsignelser typisk har alverdens børnesygdomme, der risikerer at ende som nedsat funktionsduelighed, når (om nogensinde) produktet bliver færdigudviklet, 
b) at de altid virker på den måde, at vi skal indrette os efter det, de kan, fordi de – trods alle klapsalverne – kun i begrænset omfang kan det, vi har behov for.

Det er noget af det, man forestiller sig, kunstig intelligens skal rette op på ved at agere mere som en menneskelig intelligens. Og jeg tvivler ikke på, at kunstig intelligens vil vende bunden i vejret på verden og få de mest berusede af os til igen at bruge millioner og milliarder på at opnå besparelser af den slags, ingen til dato har kunnet betale med hos købmanden. Der kommer trods alt nok også noget godt ud af det.

Men eksemplet fra oversættelsesteknologien røber, at grænsen for den kunstige intelligens’ praktiske evner ikke har flyttet sig i forhold til gængs it. Og det giver grund til at tro, at ovennævnte forskydning vil gentage sig bare i en forbedret og derfor værre udgave.

Fejl gør os klogere

Maskiner opfatter alt ikkekonformt som fejl, og eftersom kunstig intelligens lærer af os, af sit miljø, er det svært at se, at den skal blive andet end konform. Det, de fleste gør i 99 pct. af tilfældene, vil per definition altid være den kunstige intelligens’ valg, for ellers er den ikke modtagelig for læring.

Det sikrer os mod tekniske uheld, men vi oplever allerede nu, at fremskridtet ikke standser der. Når jeg skriver ’sigøjner’, foreslår Word, at jeg overvejer etniciteten. Den ’retter’ på min grammatik, og den ’hjælper’ mig til at skrive klart og kortfattet. Man kan ignorere maskinens geskæftighed – det gør jeg – men vores omgang med it indtil nu har demonstreret, at vi er parat til at indrette os efter den, enten af misforstået beredvillighed, mangel på selvtillid/viden, eller fordi vi bliver presset til det af omgivelserne, der bare vil videre i teksten og ikke gider diskutere individuelle præferencer femten gange om dagen.

Derfor er det relevant at spørge, hvor lang tid der går, før man kapitulerer for at slippe for mere besvær eller før man bliver tilsidesat af andre, der mener, at maskinen har ret? Fortsætter vi som hidtil, kommer vi altså for vores egen skyld til at gøre, som den kunstige intelligens vil – hvilket vil gøre den om muligt endnu mere indskrænket, hvilket vil gøre os … nej, jeg orker det ikke.

Der er ikke noget her, vi ikke kan ændre. Vi har vel stadig vores frie vilje? Den har aldrig været så fri, som vi bilder os ind, men den har dog bragt os vidt og holder nok til en tur mere i manegen, og derfor synes jeg, at vi, siden maskinerne ikke kan, denne gang skal huske hinanden på, at de forhadte og nådesløst forfulgte fejl altså også er det, der gør os klogere end maskiner.

Fejlene er menneskelighedens sidste helle. Det er ganske vist dem, der får nogen til at mene, at CO2-problemerne er køernes skyld, men det er også dem, der gør, at jeg kan opfinde ordet ’fosterpiano’. Jeg er ikke specielt stolt af at have fundet på det, jeg aner ikke, hvor jeg fik det fra, men jeg vil nødig leve i en verden, hvor folk ikke længere kan se, at ordet er aldeles uundværligt, og derfor lader maskinerne udrydde den menneskelighed, det repræsenterer.

Hans-Jørgen Birkmose er oversætter

Bliv opdateret med nyt om disse emner på mail

Vores abonnenter kalder os kritisk, seriøs og troværdig.
Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her

Anbefalinger

  • Christian Mondrup
  • Eva Schwanenflügel
  • Arne Albatros Olsen
  • Espen Bøgh
Christian Mondrup, Eva Schwanenflügel, Arne Albatros Olsen og Espen Bøgh anbefalede denne artikel

Kommentarer

Henning Kjær

Af de færdigheder jeg har lært i livet har fremmedsprog været noget af det mest brugbare, for det har muliggjort samtaler med mange ikke dansktalende om løsning af alle mulige tekniske problemer.
Uden at kunne læse og forstå teknisk, norsk, svensk, engelsk og tysk og selv kunne udtrykke mig mundtlig i de samme sprog i mit tekniske fagområde, var min tekniske karriere sluttet for 20 år siden.

Carsten Nørgaard, Maj-Britt Kent Hansen, Ole jakob Dueholm Bech, Espen Bøgh, Niels Duus Nielsen, Karsten Aaen og Steffen Gliese anbefalede denne kommentar
Philip B. Johnsen

“Hvad er det, der er så håbløst og forfærdeligt ved at være og handle som et menneske, at vi bruger ufattelige ressourcer på at udslette det?”

Svaret er at mennesker kritisere anvendelse af teknologien, der ikke er i befolkningens interesse.

Der er nogle der helt misforstået har troet på, at AI vil skabe en mere arbejdsfri tilværelse, samt et mindre energibehov og dermed reducere den samlede globale CO2 udledning.
Historisk set har ny teknologi altid skabt afledte nyt overforbrug og job i udvikling af mere klimakatestrofe eskalerende økonomisk vækst.

Årsagen til AI ikke indføres som aflastning for nedslidende arbejde er, at AI fortsat ikke kan konkurrere med underbetalte arbejder på enheds prisen.

På blot 10 år er Danmarks import af varer fra Bangladesh øget med 377%.
Stort set hele væksten skyldes tekstil og beklædning, da denne varegruppe udgør 97% af den samlede import fra Bangladesh i 2016.”
Link: https://estatistik.dk/nyheder/bangladesh-klaeder-danmark-paa/

Karsten Vedel Johansen, Tor Brandt, Eva Schwanenflügel, Ole jakob Dueholm Bech, Niels Duus Nielsen og Karsten Aaen anbefalede denne kommentar
Steffen Gliese

En kunstig intelligens, der overgår menneskets, er illusorisk - det bygger på det falsum, at virkeligheden er 'matematik'; men matematik er en forklaringsmodel, mennesker har udviklet.
Endnu mere fejlbarligt end mennesket er teknikken.

Elisabeth Christiani, Carsten Nørgaard, Henning Kjær, Tor Brandt, Werner Gass, Ole jakob Dueholm Bech, Steen Obel, Niels Duus Nielsen og Karsten Aaen anbefalede denne kommentar
Finn Årup Nielsen

"Det er længe siden, softwareudviklerne opgav deres drømme om perfekte maskinoversættelser."

Det tror jeg nu ikke. Jeg tror de fleste folk der arbejder indenfor området arbejder henimod en perfekt maskinoversættelse. For visse sprogkombinationer og visse metoder til at evaluere oversættelser, kan maskinoversættelse måle sig med menneskelig oversættelse, omend den i følge denne artikel https://arxiv.org/abs/1808.07048 fra august 2018 ikke var der helt endnu.

"Normen er i dag, at man sætter en menneskelig oversætter til at redigere maskinteksten færdig."

Nja. De fleste oversættelser vil jeg mene er uden menneskelig redigering. Denne artikel https://engineering.fb.com/ml-applications/transitioning-entirely-to-neu... angiver at Facebook foretager 4,5 milliarder oversættelser om dagen. Der er nok voldsom forskel på kvaliteten af oversættelsen afhængig af sprogkombinationen, men almindelige mennesker benytter maskineoversættelse, - så godt som den nu kan være.

"Jeg opfandt engang ordet ’fosterpiano’, og det strider mod al teknologis væsen overhovedet at få den slags skøre ideer"

Jeg tror ikke det skulle være noget videre problem for en algoritme at producere interessante sammensatte ord. Der er nok mange der har optrænet en neural netværksmodel til at genere sjov ord. For https://www.literai.com/story/d7da324679 ser man de engelske ord glutchology, funian, ciltity og oxpregent med tilhørende forklaring.

"Maskiner opfatter alt ikkekonformt som fejl"

Njah. Almindelige moderne søgemaskiner har ikke noget videre problem med at håndtere stavefejl for eksempel. Idéen om hvad der er fejl og hvad der er en usædvanlighed kan derimod være svært at skelne for en maskine.

- Åh..., alle disse herlige algoritmer i forklædning med forskellig ord og deres betydning, viser i sig selv manglen på forståelsen hos disse promoverende sælgere udi den moderne IT, som løsningen for alverden og den mange forskellige sider af livet.

"Selvkørende biler" - der alligevel ikke er så selvkørende sikkert, som sælgerne gerne vil gøre dem til i konkurrencens hellige navn.

Disse drømmesælgere er længere fremme i fantasien end virkeligheden kan opfylde i såvel nuet som i fremtiden, - uanset hvilket storslået udtryk den end måtte opfinde til lejligheden.

Den robotteknologi vi i dag ser i industrien, både i værkstederne og lagerhallerne, er da ganske glimrende, men viser også samtidig både fordelene og begrænsningerne der er og ligger foran en videreførelse udi mere intellektuelle områder.

Maskinoversættelser af sprog er kun relative, og kræver der lægges yderligere menneskelig viden og indsigt ind bagefter, for at der kommer et rigtigere resultat ud af oversættelsen.

Mange sprog er i dag så facetteret på adskillige områder, at det ikke er muligt at indlægge i en elektronisk oversættelse, som vi kender den i dag, med de IT teknologi der er til rådighed, - og vil i fremtiden med quantum teknologien heller ikke være muligt mange mange år frem i tiden.

Drømmen om Quantum teknologiens herligheder syntes også at indebære visse problemer, som det lader til man skubber lystigt til side, i forherligelsen af dette teknologiske spring fremad.

Flere hævder de allerede har Quantum processorer og sælger dem "rask væk endda", og det hævdes at disse vidundere på et spiltsekund kan løse regnestykker m.m. som det ellers ville tage 30 - 50 år med den nuværende halvlederteknik i vore mikroprocessorer at udregne i de store megainstallationer vi har i dag, og som kan udføre trilliarder af beregninger hvert sekund.

Hvis det skal give mening med quantum computere, og deres evne til på et splitsekund at udregne noget der ellers med dagens teknik ville tage 30 - 50 år at udregne, - så er det simple spørgsmål; "hvordan vil man sikre og kontrollere at udregningen er rigtigt?", således som kravene til den nuværende teknisk mødes med og stilles overfor?

- Det spørgsmål er endnu ikke blevet besvaret, - men er i stedet blevet affejet som ligegyldigt!

- Vi vil eller skal vel ikke overgå til at forlige os med en "tro på rigtigheden" blot fordi det siges at være et resultat fra en quantum computer.

Af de allerede solgte quantum computere, er det svært, for ikke at sige nærmest umuligt, at finde resultater, som er tilgængelige eller har givet os helt nye indsigter i vor dagligdag, hvilket jo står helt i modsætning til den udvikling vi har set med dagens computerudvikling igennem tiden.

Søren Kristensen

Det er da ingen bedrift at opfinde ordet fosterpiano. Tager man alle substantiver i ordbogen (der er ikke overvældende mange) og parrer dem med hinanden (der findes sikkert allerede et program der kan gøre det) vil et af dem være fosterpiano (et andet vil være pianofoster). Der vil helt sikkert også komme en hel masse andre mærkelige ord ud af øvelsen, som det kræver et menneske (eller en meget intelligent computer) for at kunne værdsætte. Tænk sig, den dag ens personlige robot kommer og siger: - Hej, nu skal du høre et sjovt ord jeg har fundet på: goblesav. (den første helt tilfældige sammenstilling der dukkede op med hjælp min Gyldendals røde fysiske ordbog fra realskolen). Selvom sådan et program nemt kan installeres i snart sagt enhver robot, burde man fordre at robotten kun "lægger mærke til" de ord der opstår af sig selv, som følge af en eller anden kortslutning. Ligefrem at fodre en robot med en fejlfunktion for underholdningens skyld er simpelthen for plat, med mindre man er afhængig af en daglig dosis vrøvl.

Arne Albatros Olsen

Sproget kan jo opfattes som en slags levende "biologi", som altid er i bevægelse og under stadig forandring. Og ord og begreber er jo langt fra så entydige størrelser som tal og talværdier.

Det er jo nok her hunden ligger begravet, for en enkelt sætning kan rumme et helt univers og et udtal af historier for dem, som forstår at læse.

Elisabeth Christiani, Maj-Britt Kent Hansen, Steffen Gliese, Espen Bøgh og Eva Schwanenflügel anbefalede denne kommentar
Anders Sørensen

Ik' fordi jeg vil gøre mig til bagtaler for moderne teknologi på sprogområdet, men hvis jeg nogensinde har lært noget af Informations kommentarspor, så må det nok blive, at kunstig intelligens primært er fokuseret på, om jeg vil have lidt fisse i aften med en bot, som Information tydeligvis ikke kan dæmme op for.

Og det vil jeg.

Maj-Britt Kent Hansen

Oversættelsesmaskiner bliver hele tiden mere raffinerede. I går reviderede jeg en lang politisk tekst oversat fra engelsk til dansk af Google. Vel brugte jeg tid herpå, og vel var der problemer visse steder, men der er sket store fremskridt fra dengang - for nok mindst 15 år siden, hvor en italiensk tekst, der skulle oversættes til engelsk fik overskrifter som følger: Understood it 1. Understood it 2, Understood it 3!

Det var, hvad der var kommet ud af Capitolo 1, Capitolo 2, Capitolo 3!

Karsten Vedel Johansen

Kunstig intelligens fremstår som regel som maskinelt idioti. Det er menneskelig dumskab nedfældet i tekniske systemer. Som den svenske teknikforsker sagde 1979: "Skit är skit, om än per satellit". Den østrigske filosof Günther Anders fastslo på 1950-tallet at mennesket skammer sig overfor sine egne opfindelser.

Meget af dette hviler på den illusion at den maskinelle teknikken har gjort os almægtige. Et andet udtryk for dette er forestillingerne om "kapital" blandt den herskende økonomiske dogmatik de sidste hundrede år. Disse illusioner har sit ophav i at det afgørende ved maskinernes energiforsyning, før geologiens og biologiens opdagelser de sidste halvtreds år, var skjult for os (og fortsat er det for de allerfleste): den enorme produktivitetsstigning under den industrielle kapitalisme skyldes at vi begynte at bruge de fossile energikilder. Vi begynte med ordene til en amerikansk forsker "at brænde begravd solskin".

"Next time you fill up at the petrol station, ponder this figure - it took over 23 tonnes of plants to produce each and every litre of petrol you pump into your tank" https://plus.maths.org/content/burning-buried-sunshine

"The fossil fuels burned in 1997 were created from organic matter containing 44 1018 g C, which is>400 times the net primary productivity (NPP) of the planet's current biota". Altså: hvis vi skulle have dækket vort forbrug af drivstof fra olie osv. i 1997, måtte vi have plantet/sat igang over fire hundrede gange biomasseproduktionen fra jordens samlede vegetationsdækkede areal plus al planteplankton i havet. Det ville allerede da have krævet flere hundrede jordkloder. Halvdelen af alt fossilt brændsel vi har brugt, er brugt siden 1990, og tempoet stiger stadig. Vi har udtaget fossiliserede energireserver fra undergrunden ca. en million gange hurtigere, end det tog naturen at producere dette. "Økonomi"???
https://www.researchgate.net/publication/227130924_Burning_Buried_Sunshi...

Lars Bækgaard

En digital computer - der er baseret på algoritmer og binære koder - kan meget, og der er meget, den ikke kan.
Turing viste Göring beskrev nogle af de problemer, den ikke kan løse.
Menneskers sprog har en udtryksside - fx teksten i denne kommentar.
Og de har en indholdsside - fx betydningen af teksten i denne kommentar.
En digital computer kan kun behandle udtrykssiden - eksplicitte symboler.
Hvis den skal behandle indhold / betydning, skal dette repræsenteres via eksplicitte symboler.
Indtil videnskaben løser gåden om vores bevidsthed, vælger jeg at antage, at menneskers oplevelse a indhold / betydning ikke forudsætter eksplicit repræsentation.
Og at der dermed er en fundamental forskel på mennekser og digitale computere.