Tilbage i 1940’erne introducerede den amerikanske sciencefiction-forfatter Isaac Asimov sine tre robotlove. Robotter må aldrig gøre et menneske fortræd, de skal adlyde ordrer givet af mennesker, og de skal beskytte deres egen eksistens – så længe det ikke er i konflikt med de to første love.
Nu har Kina så introduceret en fjerde lov for robotter: De skal adlyde og være loyale over for kommunistpartiet.
Chatbotter baseret på kunstig intelligens skal »udtrykke socialistiske kerneværdier«, lyder det i et nyt lovudkast fra Beijing, hvori det også hedder, at chatbotter »ikke må rumme nogen form for indhold, der kan undergrave statsmagten, eller som advokerer for omstyrtelsen af det socialistiske system«.
Kort sagt: Chatbotterne skal censureres, så de ikke kommer til at udtrykke kritik af kommunistpartiets styre.
Præsident Xi Jinping har udtrykt et mål om, at Kina skal blive en »videnskabelig og teknologisk supermagt«, men de nye regler understreger, at kommunistpartiet grundlæggende også ser nye teknologier som en potentiel trussel, der skal indhegnes og kontrolleres for ikke at undergrave etpartistaten.
Kan det være at Kina er bedre til at beskytte deres borgere mod de negative effekter af forskellige avancerede algoritmer som feks. "tik tok" - de vestlige lande taler om det - Kina gør det bare.
Jeg supplerer med at Facebook, Twitter og YouTubes algoritmer fra 2018 har forvandlet platformene til effektive rekrutteringsredskaber for bl.a. vanvidsbevægelsen Qanon, der nær havde omstyrtet det amerikanske demokrati. Firmaerne kendte til disse brugere og selvom FBI advarede, lod de fortsat fanatikerne bruge medierne.Den slags 'friheder' er Kina naturligvis fri for. Også selvom Gøttske mener det er udtryk for det 'kommunistiske diktatur.'
Man kan blive helt rørt over al den beskyttelse, den kinesiske befolkning er genstand for.
@Christian de Thurah
Store dele af den amerikanske befolkning ville ønske deres regering havde beskyttet dem mod de krypto-facistiske bevægelser som bl.a. Facebook, YouTube og Fox havde udbredt.
At Qanon og lignende angiveligt truer det amerikanske demokrati er vel kun et problem hvis det anses for noget at forsvare.
jens christian jacobsen
Store dele af den amerikanske befolkning støtter Donald Trump. Beviser det, at han er ok?
Det fremgår jo tydeligt at regimet først og fremmest vil beskytte regimet. og undgå at en chatbot siger ubekvemme sandheder som i 2017.
Samt undgå separatisme.
Det kan man så, som chatbotten siger om politiske kontra kriminelle fanger, mene er godt for den sociale stabilitet.
Jeg mener det bekræfter at kina går mod et dystopisk orwellsk despoti.
Hvad er galt med de socialistiske værdier endelig?
Hvad ved vi, hånden på hjertet, om Kina udover det vi læser i forskellige medier som alle sammen er vestlige og har nu p.t. tendens til paranoia.
Det ser ud som Kina har samme overvejelser som de vestlige lande vedrørende kunstige intelligenser og hvordan man undgår at disse får nogle skadelige effekter på samfundet.
Forskellen er måske, at i de vestlige lande er marked svært at begrænse og da nu kunstige intelligenser er i det frie markeds hænder, hvad gøre man så for at beskytte borger og samfundets søjler i det hele taget?
Man håner Kina fordi de vil begrænse, forbyde det de ser som skadelige påvirkninger fra de vestlige lande, vil de vestlige lande ikke også begrænse kinesiske påvirkninger? vil man ikke forbyde tik tok? Ville man turde give kinesiske kunstige intelligenser fri adgang til vores samfund? nej, så hvad er forskellen? At vi har gode hensigter og det har Kina ikke vil nogle siger.
Jeg synes faktisk at det bliver ret spændende at se hvordan Kina kommer til at udvikle sig og forhåbentlig uden krig.
Det forekommer mig, at en chatbot er en omfattende snakkemaskine, der blot gentager, hvad den kan finde i sit omfattende kildemateriale. Hvis den udtrykker sig normativt er det helt uden at være hæmmet af det filter, som et menneske hæmmes af, nemlig holdning og skam. Tillige vil vægtningen af synspunkter udtrykke, hvilke synspunkter der ligger i databasen, og ikke hvad befolkningen bredt mener.
Jeg kunne derfor frygte, at den omstændighed kunne være kilde til spekulation fra fjendtligtsindede kræfter, i en ny slags "konstruktiv" hacking, der kunne have en interesse i at supersprede bestemte holdninger ind i chatbottens dataopsamlingssystem, og dermed sprede og forstærke propaganda for f.eks. det kinesiske eller russiske, eller for den sags skyld Donald Trumps, mere perverterede enmandsvælde ideologier.
Dermed risikerer botten at blive et magtfuldt propaganda instrument, der undergraver selve det demokratiske system, ved at facilitere outrerede autokraters mulighed for at tilrane sig magten. ved forstærket udbredelse af løgnehistorier og fake news.
Det er nøjagtigt dette, der er illustreret i den kinesiske tilgang til chatbot.
Denne sag er derfor for vigtig til at fri udfoldelse hos en privat operatør.
Marie-Christine Poncelet 19. april, 2023 - 10:11
"Hvad er galt med de socialistiske værdier endelig?"
Om der er noget galt med "de socialistiske værdier", og i givet fald hvad, kommer jo i høj grad an på, hvad man forstår ved dem. Hvad Kinas magthavere forstår ved dem er nok en del forskelligt fra, hvad f.eks. Marx og Engels gjorde. Og skal givne opfattelser af dem - magthavernes eller andres - ikke kunne diskuteres og kritiseres?
Ib Gram -Jensen
Jeg reagerer på overskriften.
Overskriften betyder meget og er med til at præge vores opfattelse.
Her bliver de socialistiske værdier associeret med Kina- diktatur - undertrykkelse, det er faktisk det modsatte af de socialistiske værdier.
Ved at lave en så direkte association uden nuancer og differentiering er skribent med til at reducere de socialistiske værdier til diktatur i modsætning til kapitalistiske værdier som skulle være lige med frihed.
@Christian de Thurah
Øh nej - men det var heller ikke det vi diskuterede:
Det sæt af relationer mellem mennesker, som fremmes af 'forholdene' under kapitalismen: Me first, familiens degradering til serviceorgan, venner som sekundært residual, det altoverskyggende arbejde, succes for enhver pris og i sidste ende ulighed og udbytning har været dominnerende ideologi iVesten siden 1940erne. Med skiftende intensitet og gennemslag, men altid dominerende.
Jeg og heldigvis mange, mange andre vil hellere leve i en anden kultur i en ikke-kapitalistisk verden. Om det lige er en kinesisk model er tvivlsom, men det skal i al fald være et liv, hvor Andre har samme betydning og værdi som jeg selv.
Derfor må statsmagt og/eller domstole kunne gribe ind over for en mediebaseret ensidig udbredelse af en nyttebaserede menneskeforagt. I USA som i Kina.
Elon Musk's vil finansiere en chatboot, som fortæller sandheden siger han. Men hvilken sandhed? Musk er kendt for at være ultra neo liberalist og kapitalist uden grænser. Så de sandheder Musk ønsker at fremme er uden tvivl sandheder, som fremmer hans politiske interesse.
Men de politiske interesser og den sandhed Musk's sandheds charboot fremkommer med er næppe i Verdens og menneskelighedens interesse.
God måde at starte en analyse af fremtidens legetøj på. Se hvor dumme kineserne er til at 'sætte den'! De har mundkurve!
Så er det nok lidt nemmere en gang, at finde ud af at vestens nye legetøj også er fuld af ideologi, om end på den gode måde!!
Jeg undres såre!
Af artiklen og de efterfølgende kommentarer kunne man få det indtryk, at der er forskel på socialistiske og frie, liberale sandheder. Det kan da ikke passe? Jeg troede, de væsentligste forskelle lå i, om oplysninger er censurerede eller ej.
Der er noget på spil her - og vi har ikke kinamands chance for at følge med.
På den ene side tår det vilde vesten med frihed til hvadsomhelst, for det meste er det destruktive kræfter, der nyder godt af det: og vi underlægges total overvågning af techgiganterne, der aktivt søger at fremme de værste individualistiske tilbøjeligheder.
Og på den anden side har vi kommissærerne i KKP. der som mantra har, at de socialistiske ideer kun fremmes af partiet og dets ledere.
Det er virkelig et valg mellem pest eller kolera.
Nu har jeg prøvet ChatGPT mange gange og den er faktisk temmelig venstreorienteret. Det er nok snare pseudo-socialisme eller pseudo-kommunisme de vil have i kina. Det er i hvert fald ikke sund fornuft.
"Det skal nok blive rigtig sjovt", når vi i en nær fremtid ikke kan stole på nogen eller noget.
Alle eksperter er enige om en ting. ChatGPT er kommet for at blive. Det bliver vi nød til at indrette os efter. Eksperterne er ikke i tvivl om det vil ændre vores adfærd. Præcis som SoMe facebook, instergram, TikTok og alle de andre adfærdsregulerende online værktøjer. Med andre ord. Kunstig Intelligens har allerede taget magten over mennesket. Og det endog før det rigtig er gået i gang.
Rigtig spændende bliver det først, når forskellige Chatboot's begynder at kommunikere sammen helt uden om menneskelig indblanding og de begynder at opsætte deres egen virkelighed ved at levere indhold til deres kilde. Big data.
Det kommer til at gå, som det er gået med klimaet. Vi ved det er vores undergang, men har alligevel ikke været i stand til at gribe ind i tide. Det bliver ikke anderledes den her gang. Hvorfor skulle det det? Fordi vi er blevet klogere?
Man kan blive lidt irriteret på Kineserne og Russerne, at de skal være sådan et undertrykt folkfærd, istedet for at hugge hovedet af slangen. Det er simpelthen så man mennesker der accepterer at leve i trældom. Og vi andre skal jo også leve med de idioter de lader sig dominere af. Det er sgu for slapt.