Interview
Læsetid: 8 min.

»Det handler om demokrati, ikke teknik«

Diskussionen om teknologi og innovation skal demokratiseres, mener den britiske ekspert i ansvarlig forskning og innovation Jack Stilgoe. Ved at inddrage samfundets aktører tidligt i forløbet kan vi forhindre uhensigtsmæssige bivirkninger ved ny teknologi, mener han
Forskerne har ’pligt til at forklare deres opfindelser for at fremme en demokratisk diskussion’, frem for at fortælle folk, hvad der er ’det rigtige svar’, mener Jack Stilgoe.

Anders Birger

Moderne Tider
27. marts 2015

Facebook har siden sin tilblivelse bragt millioner af barndomsvenner og rejsekammerater i kontakt med hinanden og er for mange blevet et uundværligt værktøj til at holde kontakten med familie og venner, der ikke længere bor rundt om hjørnet. For nogle er det blevet et arbejdsredskab, der giver adgang til en globalt platform for diskussion og information. For andre er Facebook et marked for køb og salg af alt fra brugt babyudstyr til andelslejligheder. Men Facebook er også blevet en pestilens. Teknologien har avlet nye forbrydelser og nye former for hævn og mobning, og ikke mindst har sikkerhedstjenesterne og ordensmagten fået nye muligheder for at snage i privatlivet.

Facebook er med andre ord – som de fleste teknologier – hverken et entydigt positivt eller entydigt negativt fænomen. Men ifølge Jack Stilgoe, lektor på University College Londons Videnskabs- og Teknologistudier, kunne mange af de negative ’bivirkninger’ have været helt undgået, hvis der tidligere i udviklingsprocessen havde været en bedre dialog mellem innovatører og samfund.

»Facebook var en teknologi, der blev udviklet på kort tid, men der er siden dukket en række problemer op i forbindelse med Facebooks ansvar over for sine brugere, særligt etiske spørgsmål om privatlivets fred. Man kan ikke forvente af Facebooks udviklere, at de skulle have forudset alt dette på forhånd, men de kunne undervejs have ført diskussioner med eksperter i etik, samfundsforskere og civilsamfundsgrupper for at foregribe nogle af problemerne og for at sikre, at denne nyskabelse blev styret i en mere ansvarlig retning,« siger Jack Stilgoe, en rolig og velartikuleret ung mand, da Information møder ham over en frokost i en undervisningspause.

Forsøget på at forudsige ny teknologis negative indvirkning på samfundet er centralt for Jack Stilgoes forskningsdisciplin Responsible Research and Innovation (Ansvarlig Forskning og Innovation, red.), der beskæftiger sig med »krydsfeltet mellem videnskab og politik«.

Demokratiser videnskaben

»Vi er interesserede i, hvordan forskere og innovatører – dem, der udvikler ny teknologi – kan tage større ansvar for den fremtid, de er med til at skabe,« forklarer han over en green chicken curry og en americano i solskinnet på den nybyggede Regent’s Place.

Moderne glastårne omkranser det flisebelagte torv, der er udsmykket med kvadratiske sten i forskellige størrelser. De siddepladser, de danner, er i dag fyldt med studerende, der med deres sandwicher er søgt ud i solskinnet fra universitetsbygningerne på den anden siden af Euston Road.

»Vi er omgivet af stadig mere avancerede teknologier, og oftest er teknologierne gavnlige, men nogle gange medfører de nye risici, nye farer, nye utilsigtede konsekvenser. Og selv hvis de udelukkende er gavnlige, hvem er det så, de gavner,« tilføjer han om nogle af de spørgsmål, han mener, både forskere og politikere har pligt til at overveje.

Men også almindelige mennesker bør beskæftige sig med disse problemer. Selv har Jack Stilgoe gennem hele sit professionelle liv arbejdet på netop at demokratisere videnskabsdebatten, som han mener historisk set har været et »temmelig udemokratisk politisk område«.

I samarbejde med andre akademikere, politikere, medier og civilsamfundsgrupper har han derfor søgt »nye måder, hvorpå, man kan få borgere til at involvere sig i videnskab og teknologi« samt at sætte gang i brede offentlige debatter om teknologier, der er under udvikling.

Han foreslår f.eks. mere åben adgang til videnskabelig viden for at »opmuntre til diskussion« og håber gennem sin forskning og sine mange bijob – han er bl.a. medlem af den britiske regerings såkaldte Sciencewise styringsgruppe, medlem af EU-Kommissionens ekspertgruppe med fokus på ansvarlig forskning og innovation og medlem af redaktørkollektivet for forskermagasinet Public Understanding of Science – at sikre, »at borgerne er bedre repræsenteret i forbindelse med store beslutninger«.

»Her i Storbritannien har vi netop haft en stor diskussion om fostre med tre forældre, og borgerne var involveret i den diskussion på en rigtig spændende måde,« siger han om det, han mener er målet med demokratiseringen: mere feedback fra offentligheden til det videnskabelige miljø.

Den ukendte fremtid

Naturligvis er det svært at diskutere og lovgive om teknologier, der endnu ikke er færdigudviklede, erkender Stilgoe, for hverken innovatører eller resten af samfundet kan se ind i fremtiden.

»Innovation er altid forbundet med usikkerhed og det foregår altid kollektivt. Det handler ikke kun om den manglende evne til at forudsige fremtiden, men innovation forsøger i sig selv at ændre fremtiden, så ifølge sagens natur kan vi ikke forudsige, hvor teknologien vil føre os hen. Men vi kan foregribe nogle af de spørgsmål, som kan blive vigtige. Og det er det, ansvarlig forskning og innovation handler om,« forklarer han.

Én måde at blive bedre på er at inddrage andre end forskerne selv i diskussionen allerede i udviklingsfasen.

»For at blive bedre til at reflektere over, hvad nogle af de etiske konsekvenser kunne blive, bør forskerne tale med andre end fagfæller for at få en fornemmelse af, hvad andre tænker om teknologien. Det kan være andre typer eksperter, f.eks. samfundsforskere, jurister eller etikere, men det kan også bare være borgere eller civilsamfundsgrupper« siger han og nævner genmodificerede afgrøder (GMO) som et oplagt eksempel på, at diskussionen ikke blev taget tidligt nok.

»Spørgsmål som: Hvem får gavn af dem? Hvad er risiciene? Hvad vil det her gøre ved landbruget? Hvordan påvirker det landmændene i udviklingslandene? blev stillet for sent til, at man kunne gøre noget ved dem. Vi så en bølge af GMO-produkter strømme ud på markedet sidst i 1990’erne, og de afstedkomtil både industriens og videnskabsfolkenes store overraskelse en del bekymring i Europa. En af de ting, vi kan lære af det eksempel, er, at vi skal tage diskussionen lidt før, så vi kan forudsige, hvilke bekymringer der kan være, og så vi kan ændre vores måde at forske på,« fortæller Jack Stilgoe, der tidligere har arbejdet for bl.a. tænketanken DEMOS, der netop interesserer sig for »spørgsmål om demokrati, og hvordan borgerne kan få større indflydelse på beslutninger, der påvirker dem«.

Kompliceret stof

Et eksempel på en aktuel debat, som har optaget både industrien, politikerne, sikkerhedstjenesterne og borgerne, er spørgsmålet om overvågning og indsamling af elektroniske data. Men særligt industrien har udtrykt frustration over politikernes ”analoge” tankegang og manglende evne til at forstå den teknologi, de lovgiver om. Spørgsmålet er, om visse teknologier simpelthen er for komplicerede til, at vi kan have en informeret og seriøs offentlig debat om dem?

»Man kan spørge: Hvor megen viden har man brug for at kunne tage del i en demokratisk diskussion om, hvad der er rigtig og forkert. Jeg mener, at forskerne har pligt til at forklare deres opfindelser for at fremme en demokratisk diskussion. De skal ikke fortælle folk, hvad der er ’det rigtige svar’. Den model, hvor forskeren bare sagde: ’Jeg er eksperten – stol på mig’, er forældet. I stedet bør eksperterne sige: ’Det her er, hvad det handler om – hvad synes I?« forklarer Stilgoe og tilføjer, at han ikke mener, at man behøver at være i stand til at forstå hver en kode i computerprogrammerne for at indse, hvorfor det var problematisk, at de nationale sikkerhedstjenester blev taget i at gå over stregen i deres brug af teknologien«.

»Det er næsten et vigtigere demokratisk projekt at forstå teknologiske kulturer. Hvorfor tænker forskere på en særlig måde? Hvorfor ignorerer de visse ting? Hvorfor lægger de vægt på visse ting? Jeg mener, at der er et påtrængende behov for at tale om alt det her,« siger han, men erkender, at det »er svært, for det er unægtelig komplekse videnskabelige innovationer, vi har med at gøre«.

»Men det vigtige er at gøre sig klart, at der er tale om politiske debatter. Nogle gange tror innovatører og forskere, at de er involveret i videnskabelige debatter, hvor der er et rigtigt svar. Det er der ikke. Det er demokratiske debatter om, hvilken fremtid vi ønsker at leve i.«

Den unge forsker – søn af forældre med en musikalsk baggrund – og selv far til tre mener desuden, at det er vigtigt, at vi forstår, at opfindelser er processer, som kan påvirkes hen ad vejen.

»Innovation bliver ofte omtalt, som om den var en ånd, der er sluppet ud af en flaske, og når den er ude, kan vi ikke gøre noget. Men jeg mener, at det er at undervurdere politikernes evne til at kontrollere innovation både ved at styre den i en mere ønskværdig retning, men også ved af og til at sige ’nej’. Og der er ting, vi siger nej til i dag. I øjeblikket er det bl.a. menneskelig kloning. Og der er teknologier, vi styrer og kontrollerer – kernekraft er et godt eksempel på en yderst kontrolleret teknologi,« siger han og misser med øjnene i den stærke forårssol.

»Det, der er vigtigt, er, at vi bevæger os væk fra ideen om, at teknologi er noget uundgåeligt, og at når ånden er ude af flasken, så er der ingenting, vi kan gøre. Teknologier bliver fremstillet, de bliver ikke født. De opstår over tid,« som han siger.

Selv om der altså er rig mulighed for at tage diskussionen om, hvordan teknologierne bør udformes, bliver det imidlertid slet ikke gjort nok i dag, mener Jack Stilgoe.

Derfor ærgrer det ham også, når det lykkes forskere som professor Stephen Hawking – hvis liv med den neurologiske lidelse amyotrofisk lateral sklerose er blevet filmatiseret i Teorien om alting – at fange offentlighedens interesse med apokalyptiske advarsler om, at »udviklingen af fuld kunstig intelligens en dag kan resultere i den menneskelige races endeligt«. Hawking, der mistede evnen til at tale i 1985, kom med sin advarsel, efter udviklingen af en ny ’tænkende maskine’ og stemme-computer, der hjælper ham med at tale.

»Det kan begynde at udvikle sig af sig selv og omdesigne sig selv,« sagde den anerkendte professor til BBC i december sidste år. »Mennesker, som er begrænsede af langsom biologisk udvikling, ville ikke kunne klare sig i konkurrencen og ville blive overflødiggjort.«

For Jack Stilgoe er »den slags eksplosive, »verdensundergangsscenarier« imidlertid ikke værd at beskæftige sig med. »Det er så spekulativt, og jeg mener, det afsporer debatten,« siger Stilgoe. »Hoveddebatten bør handle om, hvordan kunstig intelligens og algoritmer allerede nu former vores liv gennem de redskaber, Google udbyder, gennem ansigtsgenkendelse, som Facebook bruger. Det er langt mere omfattende og griber allerede i dag ind i vores liv.«

Følg disse emner på mail

Vores abonnenter kalder os kritisk, seriøs og troværdig.
Få ubegrænset adgang med et digitalt abonnement.
Prøv en måned gratis.

Prøv nu

Er du abonnent? Log ind her