Det skabte stor bevågenhed, da den såkaldte chatbot ChatGPT blev gjort tilgængelig for offentligheden af firmaet bag OpenAI. Den kunstige intelligens (AI) i bottens maskinrum kunne skrive digte, svare på avancerede eksamensspørgsmål og komme med opskriftsforslag. Nærmest det meste, man bad den om.
Der gik ikke lang tid, før både Microsoft og siden Google meldte sig på banen med deres egne versioner, kaldet henholdsvis Bing og Bard, som i det store hele skulle kunne det samme som OpenAI’s chatbot. Tydeligt var det i hvert fald, at et kapløb blandt techgiganter om at sætte sig på markedet for chatbots var sat i gang.
Men de nye chatbots har også afstedkommet en debat om fordele og farer ved AI. En række forskere og techtopfolk har underskrevet et opråb, hvor man beskriver særligt farerne ved AI og opfordrer til et halvt års tænkepause.
Alverdens forsvar arbejder på højtryk for at udvikle autonome våben styret af kunstig intelligens. Det er vel mere end nok tilstede i den fysiske verden.
Undskyld, men jeg vil henvise til Clarkes første lov her.
Finn Verner Jensen har ret i at der er et stykke tid til vi realistisk vil se fysiske robotter prøve at overtage butikken, men det fjerner ikke risikoen for at en AI singularitet kan ændre menneskehedens status meget hurtigt.
Som verdens milliardærer for øjeblikket demonstrerer behøver man ikke være stor og stærk, eller bare smart, for at lave ulykker og gøre folks liv ubærligt: Man skal bare have masser af penge.
En AI der kan programmere sig selv smartere, kan begynde at game systemet, når den bliver 3-? gange smartere end mennesker 1.0
Den kan finde trends andre ikke ser eller bare hacke bankerne og tage selv.
Når pengene er i hus, kan den købe muskler og erfaring i form af grådige mennesker.
Vi ser allerede olieindustrien arbejde imod menneskehedens interesser jf. artiklen i går, så mekaniske robotter er ikke nødvendige.
Vi kan få utrolig gavn af AI, men før vi ved mere, er selvbevidst AI en dårlig idé, da det risikerer at føre til weakly godlike AI meget hurtigt.
Hvordan forhindrer vi så firmaerne i at gå efter generel AI?
Det er nemt:
Lad os undgå at ende i en pinlige situation med slaveri vores forfædre sumpede rundt i ved at vedtage at alle med generel intelligens har menneskerettigheder (Vi skal nok finde et nyt ord her...)
Hvis firmaerne risikerer at skulle give AIerne løn, arbejdstider og ferie, skal de nok sørge for at holde sig fra noger der ligner generel AI.
Firmaerne er helt kolde overfor menneskehedens overlevelse, men trusler mod bundlinjen?
DET bliver taget alvorligt ;-)
Eksemplet med skruen er interessant, for det kan meget vel vise, at chatbotten har mere styr på den fysiske virkelighed end Finn Verner Jensen. I hvert fald hvis det ikke i opgaven er specificeret, at det drejer sig om en gammeldags skrue med lige kærv. I den virkelige verden er man for længst gået bort fra skruer, der kan skrues i med en mønt eller en kniv. De egner sig nemlig ikke til hurtig maskinel montage. Løsningen med tangen er ikke optimal, men er dog mere realistisk end den med mønten.