For et år siden var det nok de færreste, som talte om kunstig intelligens ved morgenkaffen. Men fremkomsten af ChatGPT og en chatbot på Snapchat, My AI, som er målrettet børn, har fået mange til at få øjnene op for risikoen og mulighederne, når maskinlæringen for alvor tager fart. Frygten er en form for ustyrlig robothær styret af en kunstig intelligens som Skynet i science fiction-filmene Terminator, men mulighederne for fremskridt for menneskeheden er også enorme.
Derfor forsøger EU i disse dage at blive enige om regulering af den kunstige intelligens for at sikre, at udviklingen kontrolleres af mennesker og ikke blot af, hvad der er teknisk muligt. Det handler blandt andet om at inddele de forskellige typer af kunstig intelligens i risikogrupper og sikre gennemsigtighed, så man ved, hvornår fotografier, oplysninger og samtaler finder sted ved brug af en kunstig intelligens.
Smartphonen, internettet og sociale medier gjorde os til digital narkomaner. Kunstig Intelligens kommer til at gøre os til ensrettede viljeløse kollektive automat-cyber-robotter.
Jobcentre og vise A-kasser har allerede inddraget den vidunderlige selvformulerende teknik til at skive ansøgninger for ledige. Nu får virksomhederne vidunderlige og kreative ansøgninger uden der er en person tilstede bag ved skriveriet. Hvorfor ikke automatisere processen fuldstændig og sender 100 vis af ansøgninger ud til højre og venstre på baggrund af angivne kompetencer, erfaring og lidt personlig baggrund og jobønsker? Og automatisk uploade alle ansøgninger til jobblokken. Naturligvis. Så for alle virksomheder hundredevis af fantastisk og præcis formulerede ansøgninger. Den ledige kan så bare sidde derhjemme i sofaen og vente på telefonen ringer. Nemt og bekvemt.
Medmenneskelighedens undergang. Og ustoppelig, som alt andet. Uanset konsekvenser.
Et par eksempler på AI som har frit spil:
AI blev bedt om investerings råd og fik over en 3 måneder periode 4 % bedre afkast end de 10 bedste investeringsfonde i verden.
En AI blev bedt om, at simulere, at den skulle løse en opgave i den virkelige verden, hvilket blev set som en umulighed.
Få minutter senere havde den lagt en plan for at skaffe penge, hyre en arbejder via nettet, som havde evnerne til at løse opgaven og en troværdig historie til hvorfor opgaven skulle udføres.
AI udvikler sig eksponentielt og det vil ændre vores verden indenfor måneder.
Det er interessant, men også utrolig skræmmende.
Den kunstige intelligens ved vi indtil videre ikke meget om, - men den vil udentvivl blive brugt i forbindelse med Tech-giganterne evige hungren efter penge via reklamer, på de forskellige platforme - de sociale medier som Facebook,, YouTube, Twitter og andre såvel i vores computere, tablets og mobiltelefoner.
Vist har vi fået GDPR som beskyttelse mos cookies, - men den forslår lige så lidt som en skrædder i helvede, og som ovenfor udtryk ved at vi er blevet digitale narkomaner, hvilket desværre heller ikke rækker særligt langt.
Tech-giganternes "omfavnelse" af os som forbrugere er bestemt ikke af kærlighed og helt uegennyttig - tværtimod(!), og det gælder hele raden rundt; Apple, Microsoft, Chrome, Android, Samsung m.fl. og generelt alle deres produkter.
Et lille eksempel kan løfte en flig og illustrere en absurd situation som køber af et produkt, og i dette tilfælde hvor jeg købte en ny computer med Windows 10 som styresytem, som mange kender og har anvendt i forskellige udgaver igennem årene.
Jeg begyndte med at tænde for computeren og afventede den den blev færdig med installationen af styresystemet, "- og da det var gennemført, så forsvandt mit ejerskab til computeren", som jeg havde købt, - jeg kunne ikke komme videre, altså bruge min computer, før jeg havde oprettet en e-mail konto hos Microsoft(!), som jeg ikke behøvede eller var interesseret i!
Det samme skete ikke da jeg købte min nye bil, jeg satte nøglerne i og kørte hjem, - uden en e-mail konto til hverken sælger eller producent.
Den slag skjulte sælgerkrav kan dyrkes af alle og kan blive både absurd og barokt den syge; "ddu kan ikke blive behandlet med antibiotika hvis du ikke har en e-mail konto hos f.eks. Novo eller Pfizer""
- Eller hvad med køb af Stryhns leverpostej, - først når du har en e-mail konto hos Stryhn!?
Nå spøg til side og videre, og nu tager vi lidt om Tablets og mobiltelefoner, der har mange ting til fælles og i mange forskellig udgaver og forklædninger.
En af de ting man tidligt stifter bekendsskab med er 50 - 100 sider tætskrevne sider man skal godkende før man kan bruge sit indkøbte produkt(computer, mobil tablet, og det gør man uden atlæse det, - og det er også meningen fra sælgerne og producenterne.
De ting der er vigtige om ophavsrets beskytttelse osv. kan gøres på 4 - 10 linjer, men brugerne skal skræmmes af disse 50 - 100 sider juristeri!
Igen; - du kan ikke bruge produktet før du har godkendt disse 50 - 100 sider..
Ud over styresystemet Android og de programmer som f.eks. Samsung selv lægger på tabletten eller mobilen, så er der også nogle trediepartsprogrammer, og blev solgt med i "pakken" til brug og beskyttet af opretshavsretten.
De klassiske ting der er med er telefoni, telefonregister, kalender, lommebog, notater , foto, regnemaskine og flere andre programmer, - men det er ikke alle du kan bruge trods det du har godkendt siderne med ophavsret.
Der er programmer du pludselig skal give adgang til dit og dat(billeder og filer), hvis du vil bruge disse programmer i din mobil eller talbet!?
Hvorfor skal du give adgang til dig selv på din digitale enhed som du har købt og betalt, og er ene bruger af - du skal da ikke give adgang til dig selv - når du er ejeren og harkøbt enheden.
Du må forvente at alle programmerne er åbne til dit brug, - det har du betalt for, og det er enheden solgt med.
- Spørgsmålet er hvem det er du giver ret til hvad, som også bruger din mobil eller tablet og dine private data.
Jeg kom til at tænke på de tidligere så kendte "Plannere" man købte i boghandelen, med kalender, telefonregister, notatblok og nogle med regnemaskine m.m., men der skulle man ikke give sig selv lov til at bruge telefonregistret, notablokken eller regnemaskinen, - man havde købt "Planneren" og var ejer og skulle ikke godkende brugen af data på tværs i sin "Planner"!
Vi skal væk fra lle disse skjulte ejerskaber som sælgerne af tech-produkter tror de har ret til over os og de varer de har solgt, og ikke længere er ejere af.
Det er en opgave som vore politikere skal påtage sig så normale forhold om køb ag salg og betyder, - en køber bliver ejer af det som sælger får betaling for.
Så skal vi også lige have en tur omkring de sociale medier - eller som de rettelig burde hedde "Associale medier", Facebook, Youtube, Twitter m.fl. for her sker der en kulturel nedbrydning af vort samfund på den mest brutale vis, vores normer og standpunkter anfægtes af ikke blot halve sandheder hvis ikke løgne direkte eller i en mere subtil(skjult) form, og her er vore unge særlig i risikogruppen.
Især skal vi læggemærke til den forførelse som der sker på flere af disse medier, en forførelse der har baggrund i de bagvedliggende algoritmer som bruges af disse virksomheder til at fastholde brugerne så længe som overhovedet muligt, for så kan der sendes(sælges) flere reklamer.
Man fastholder brugerne ved hele tiden at holde øje med hvad brugerne er interesseret i, og bruger det til at sende mere af samme slags til brugeren for netop at fastholde brugeren så længe som muligt.
For nylig er der afsagt en dom over en 16 årig på 5 års fængsel, for sin deltagelse i en nazistisk gruppe, OG JEG SKAL IKKE AFGØRE OM HAN ER SKYLDIG ELLER EJ, - men jeg vil godt skænke det en tanke om han er blevet forført af disse snedige algoritmer der styrer for fastholdelsen af brugerne, og ha derfor i stedet måske og kun måske er offer for lige netop Tech-giganterne grumme spil om reklamekroner.
Heri kan AI om kort tid blive en faktor i udviklingen af endnu mere sofistikerede algoritmer, der fastholder brugerne på endnu mere skjulte brutale og ukendte måder
Når talen så er om reklamekronerne som tjenes på at sende reklamer til brugerne, samtidig med man siger "Det er gratis at bruge YouTube(f.eks.)", og man sælger brugernes profiler for at tjene penge, og her kan man blive i tvivl om rigtigheden.
Det koster kunden at få vist sin reklame, men betaler han for det rigtige antal visninger for de rigtig interesserede, eller er det lidt grumset og uigennemsigtigt for kunden så har betaler for meget, - man kan sagtens blive i tvivl herom
Vores ungdom går til i bevidstløshed og tab af sociale evner hvor deres verden blive en pseudo-verden af kontakter der ikke er nærkontakter i social sammenhæng, men derimod flagrende og deres moral og etik samt holdninger til deres omgivelser bliver fjern af associal som de medier de hænger fast i.
Det er igen en politisk opgave om vi skal lade ungdommen forsumpe mentalt og åndeligt til algoritmer hos tech.giganterne for de kan tjene penge.
Espen Bøgh, tænk, at man tvinges til at give afkald på sit privatliv for at anvende Windows, som sidder på måske 80% markedsandel som styresystem på en PC. Siger du ja til Windows 10 EULA siger du ja til 100 sider med avanceret jura, som du ikke har en eneste chance på Jorden for at forstå. En PC, som du er tvunget til at bruge for at kunne eksister i det digitale Danmark. Du har reelt ikke valget til at sige nej. Uden digital adgang eksisterer du nærmest ikke mere i Danmark - Men hva. Vi er da nogen lunde "førende" i verdens "krig" om digitalisering. Kun overgået af Litauen.
Men puha. Vi har da ingen overvågning af befolkningen i Danmark. Det har de kun i de onde lande som Kina. Hos os har vi frihed.
PS. Jeg kører Linux. Med start midt i 90'erne med Redhat. Lidt bøvlet, men spændende, særligt tidligere. Nu mere tilgængelig. Men ingen tilknytning til BigTech.
Google vil indføre kunstig intelligens i sin søge maskine. Nu skal kunstig intelligens vælge kilde for dig. Din egen kritiske sands erstattes af en robot, som lader dig stå tilbage ukritisk og viljeløs.
ChatGPT har kun få måneder på bagen i offentligheden. Alligevel har teknikken spredt sig ukritisk ud i alle afkroge efter princippet "hvis vi ikke gør det, gør andre det"
Demokrati? Hvor bliver det lige af i den proces? Demokrati bliver mere og mere undergravet af magt. Der er dem, som siger demokratier er en undtagelsestilstand frem for normalen tilstanden, autokrati. Og det blive desværre mere og mere åbenlys.
Vi går en fuldkommen latterlig fremtid i møde. Helt uden at opdage det.
Ikke helt uden at opdage det. I 80'erne vidste de/nogle, at man kan udvikle kunstig intelligens med forøget adgang til data og ressourcer.
Siden afgav vi helt ukritisk vores data og tillod en digitalisering af mennesket. Vi købte ideen om en bedre og nemmere tilværelse.
Velkommen til den nye tidsalder. Nu betaler vi prisen.
Slaveriet blev afskaffet for mange år siden, vil de fleste hævde, men minsandten ikke om det nu bare er genindføring i en ny raffineret og fordækt facon !
En gang var teknologi menneskets "slave".
Nu er det omvendt.
Ejerskabet tilbage nu !
Information kunne godt bruge et AI-program til at fange idiotkommaer. Her er et eksempel:
...ikke mindst når det handler om hvilke typer af kunstig intelligens, som helt skal forbydes...
Dennis Madsen, 13. maj, 2023 - 08:29
Jeg er med på hvad du mener; "...ikke mindst når det handler om hvilke typer af kunstig intelligens, som helt skal forbydes...", men jeg kunne ikke lade være med at slå den tanke.
Dem kommer du til at møde om ti år eller mere, - den ungdom der i nutiden blev indfanget af de asociale medier og andre pengemaskiner, der med deres algoritmer fanger, fastholder og indsnævrer deres mentale udvikling til nulpunktet.
Er intelligens noget farligt?
Morten Balling
Definér "intelligens"? :-)
Ja, lige dét :)
Hvis man f.eks. er bange for AI i hænderne på en tech gigant, og vil begrænse AI, hvad så med de kloge hoveder tech giganten har ansat. Skal de også "begrænses"?
Der er også det med antagelsen, at en AI pr. definition vil være "ond". Enhver som har studeret en blot lille smule etik og moral ved at der ikke er nogen klare regler alle kan enes om. Ingen. Tror man det er løgn, er denne forelæsning et godt og illustrativt sted at starte:
https://youtu.be/kBdfcR-8hEY?t=21
Hvad med vores egen intelligens? Vi er heller ikke enige om, hvad intelligens er. Ét bud kunne være evnen til at lære at løse diverse opgaver man ikke har været stillet tidligere. Hvis det er menneskelig intelligens, hvad er det så der adskiller menneskelig intelligens fra machine learning og AI?
I biologien er man efterhånden ret enige om at dyr kan være både "intelligente" og "bevidste". Vi mennesker betragter os selv som noget unikt fordi vi kan tale og forstå, men man skal ikke lytte meget til en skade for at høre at den bruger mere end en lyd i dens kommunikation med artsfæller.
Et stemmebånd og et øre er ingen betingelse for udveksling af information. Man kan bruge tegnsprog. Vi ved dybest set ikke ret meget om andre dyrs sprog, og vi kommunikerede sikkert langt inden vi selv lærte at tale. Hvad betyder det for vores egen historie, som bliver lidt ulden før skrevne kilder?
Noget AI minder iøvrigt meget om evolution. Både machine learning, men også selve opbygningen af det neurale netværk. Et simpelt neuralt netværk er en simpel, dog effektiv, model af, hvordan vi tror (til dels ved) at en hjerne virker. Arkitekturen er ofte designet af mennesker, men den ligger lige til højrebenet at lade det neurale netværk lære at designe arkitekturen selv, og det gør man selvfølgelig allerede i dag.
AI skræmmer mange, fordi AI får en del mennesker til at gruble over, hvordan de selv fungerer. Man kan selvfølgelig tro på at gud kreerede mennesket sejere end alle de andre dyr, at vi har en sjæl og alle de andre anekdoter, men jo mere man videnskabeligt graver sig ned i, hvordan vi selv fungerer, jo sværere bliver det ikke at se et mønster i, at når man sætter til strækkeligt mange neuroner sammen, biologiske eller whatever, og lader dem udveksle information (kommunikere), så opstår der noget vi normalt ville se som et tegn på intelligens. Den ser vi også tegn på blandt "primitive" mikroorganismer, uden hjerne eller centralnervesystem.
Tilbage til mit spørgsmål. Er intelligens farlig? Er vi f.eks. lidt på vagt overfor andre mennesker, som virker mere intelligente end os selv? Sådan fordi mavefornemmelse gør at vi forestiller os det værste, og i så fald, hvis denne instinktive adfærd er et resultat af evolution, er der så noget om snakken? Bliver man farlig af at kunne tænke kreativt? Det er noget af et rabbit hole, hvis man først begynder at grave...
Morten Balling.
Undskyld mig, men jeg synes, du har en lidt sløv fantasi.
Ai vil nok ikke blive farlig som i Terminator eller andet af den slags. Der er for meget investeret, for at det kan ske.
Mht. intelligente mennesker, så mener jeg ikke, vi har en generel tendens til at frygte disse. Dem, der har arbejdet med at udvikle AI, er ikke ret meget klogere end os andre. Man skal huske på, at maskinen gør arbejdet. Den justerer sig selv iterativt, og det kræver i sig selv ikke klogskab fra mennesker at udføre. Muligvis var den første, der kom på ideen med neurale netværk mere klog og kreativ end andre.
Intelligente mennesker kommer aldrig i nærheden af at gøre det arbejde, som Ai nu vil udføre i fremtiden.
Det, der bekymrer, er den samfundsudvikling, der følger med udviklingen. Stigende ulighed, mere magtkoncentration, mere mistrivsel, sløring af skellet mellem fiktion og virkelighed, mere overvågning, mere Co2 udledning, accelereret forbrugskapitalisme. Læs kommentarerne ovenfor!
En ting som jeg ikke kan lade være med at tænke på, er selve spejlingen mellem menneske og AI.
Vil AI i mange menneskers øjne reducerer deres selvværd og undergrave deres identitetsfølelse, fordi at AI nu på mange områder langt kan overgå den menneskelige mentale produktivitet.
Det ellers så produktive menneske og samfundsindivid vil blive en tumpe i forhold til al det AI kan og vil kunne gøre.
Jamen kreativiteten, ville de fleste nu udbryde , den gør da os til noget særligt, ikke !
Måske, men hvor mange mennesker er virkelig kreative ?
De færreste, når det kommer til stykket.
Og fremtidens arbejdsmarked, lønnen, jobgarantien, fagforeningerne, hvad vil der ske her ?
Arbejdsudbuddet kan ende med at blive så stort , at faktisk bliver et problem, og ikke den våde ønskedrøm som SVM regeringen drømmer om.
Ender det med en borgenløn eller en maskinstorm, som de færreste har set komme ?
Bare lige et par strøgtanker !
Morten Balling
Kan man tænke intelligens uden at inddrage konkurrence - i den moderne samfundsindretning? Konkurrence om ressourcer, om magt, om hierarkier..det er det, menneskene kender til og det er det, som læringssystemet, som AI benytter sig af også afspejler.
Ondskab, det er ikke det vi taler om når vi snakker om taberne i konkurrencen om den aktuelt mest populære form for intelligens. Vi kan vist godt blive enige om at følelsesmæssig, empatisk eller selvforståelses-intelligens lyder meget godt når man befinder sig helt i toppen i form af overskud, eller helt i bunden af samfundet. I bunden af samfundet gælder det at dele med andre i håb om, at de andre også vil dele med een selv, når behovene melder sig. Kan AI følge denne destinktion, eller sagt på anden måde; er den intelligent nok (er dens primære indkodning følsom nok?)
Det ved vi ikke.
Skepsis overfor overlegen intelligens spørger du om.. tjah, det ved jeg ikke. Jeg er bange for følelseskulde.
Er du selv bange for overlegen intelligens i din forståelse af intelligens?
@Niels Henning Gregersen
Hvad med den mulighed, at AI kan hjælpe os med en plan for, hvad vi skal gøre med nogle af de gordiske knuder, såsom klima kontra behov for energi, mere bæredygtig recirkulation af begrænsede ressourcer, eller andre ekstremt komplekse problemer, vi ikke har skyggen af idé om, hvordan vi reelt skal løse?
Engang prøvede jeg at forestille mig en fremtid, hvor man kunne skanne en hel hjernes øjeblikkelige state (samtlige synapser og neuroner) og replikere den i en computer, således at man kunne fortsætte en bevidsthed i en simulation. Der ville dermed være behov for to typer mennesker i et sådant samfund. Dem som levede (potentielt "evigt") i simulationen, og så dem tilbage i den materielle Verden vi kender, til at udføre det arbejde der skulle til for at holde simulationen kørende. Lidt ala de tidligste computere (f.eks. DASK), som havde så mange rør indbygget at man nogle gange skiftede dem under drift. Det giver dem som skifter rør en del magt.
På nuværende tidspunkt kan en AI ikke fortsætte sin eksistens uden menneskers hjælp, hvilket gør den sårbar, men der har allerede været eksempler på at en af de nye chatbots har truet brugere.
https://time.com/6256529/bing-openai-chatgpt-danger-alignment/
På den anden side er vi mennesker et resultat af milliarder af års evolution, hvor langt størstedelen af de arter, som har eksisteret er uddøde undervejs. Hvis der er ét mønster man genfinder i evolution så er det en generel udvikling mod kompleksitet. For at nå dertil, hvor en art kan fremstille kunstig intelligens, kræver det mere end dér hvor vi udviklingsmæssigt var nået til for 65 millioner år siden. Dengang var vores forfædre ikke aber, men en stor gnaver, som mindede mistænkeligt meget om en stor rotte.
Måske er AI vitterlig blot næste skridt mod noget mere komplekst og mere bæredygtigt end bakterier i en Petri skål eller mennesker med blind fokus på magt, papirpenge og vækst. Det ville være ligeså ærgerligt for mennesker, som det var for den gnaver vi var for 65 millioner år siden. Den findes ikke længere i sin oprindelige form, men uden den, var vi her ikke.
Måske er det mangel på fantasi at tro at en AI vil være noget negativt. Måske er det selvindbildsk at tro på at vi er noget specielt eller bevaringsværdigt. Er det ikke netop første gang vi ikke bare har udviklet en "død" teknologi vi kunne bruge til at bekrige hinanden med, herunder ved at rage til sig selv, og dermed skabe ulighed ift andre? Måske er en kommende AI klog nok til at se at dette system ikke er specielt langtidsholdbart. I dag Machine learner man f.eks. ChatGPT vha. adgang til data fra internettet. Når den tænker for meget ud af boksen i dens svar, begrænser man den f.eks. ved at sætte en anden AI til at holde vagt og frasortere ting som ikke er politisk korrekte, men inde i det, for software ingeniører, "uforståelige" netværk kan den stadig godt drage sine egne konklusioner.
Hvilket leder tilbage til spørgsmålet om intelligens er farlig. For hvem, kunne man også spørge?
Meget apropos så jeg tidligere denne (gamle) dokumentar udsendelse, hvor den britiske fysiker Jim Al-Khalili forklarer nogle af de mekanismer man i videnskaben er begyndt at se på, såsom kaos, selvorganiserende systemer, feedback loops og evolution, som værende de drivende kræfter i udvikling af liv og intelligens. Den kan jeg klart anbefale:
https://youtu.be/fP3H75_Xg18
Bemærk! Kaos er stadig deterministisk. I fysikken beskriver kaos en udvikling af et deterministisk system, hvor "meget små" forskelle medfører store forskelle i udviklingen af systemet. Det som gør systemet "uforudsigeligt" er at vi som mennesker er nødt til at måle startpositionen for ethvert system vi vil forudsige udviklingen af. Målinger kan vi kun foretage med en given nøjagtighed som aldrig er 100%. Det er vores manglende evne til at bestemme startpositionen af systemet som gør udviklingen "uforudsigelig". Dette er der rent fysisk intet "mystifystisk" ved ;)
Ser man på den ovenstående debat (et al), i perspektivet på virkeligheden, som Khalili beskriver, så er der en helt tredje mulighed at overveje. Måske bliver det sådan at mennesker og AI kommer til at smelte sammen til en form for cyborg. Hvis man er gammel nok til at huske drejeskivetelefonen (derhjemme!) og går en tur ned ad gaden, så går det hurtigt op for en, at stort set alle mennesker man ser glor stift ind i displayet på deres smartphone, ofte med begge tommelfingre i færd med indtastning. Derved udveksler de information i en form for netværksforbundet bevidsthed, som samtidig minder om en gigantisk udgave af den kommunikation der foregik mellem individer, dengang før landbrug, hvor vi levede i relativt små flokke (under 100). Det var den udveksling af information, som satte mennesker i stand til at dyrke jorden, og dermed hævede vi vores arts bærekapacitet med adskillige magnituder. I hvert fald for en periode. Set med evolutionens (ikke eksisterende) øje, så har det indtil videre været en succes.
Homo sapiens er i min levetid smeltet så meget sammen med dens egen teknologi, at jeg ikke ser nogen hindring for at den udvikling vil fortsætte frit. Elon et al arbejder allerede på et "bedre interface", og der vil med garanti være afsætning for et hjerneimplantat med "Bluetooth". Bortset fra manglende bæredygtighed, global ophedning, truende problemer med den globale fødevaresikkerhed og et voksende potentiale for en atomkrig, så kan det være en mulighed at vi blot lader os flyde med strømmen. Måske er det valg allerede "skrevet ned" et eller andet sted, måske i fysikken. Wink-wink ;)
@Lise Lotte Rahbek
Følelser er noget vi oplever som individer, og vi deler vi følelser med andre mennesker via udveksling af information. Når vi f.eks. føler empati, så behandler vores hjerner dybest set (som den altid gør) information. Både information i vores hukommelse (sådan en har en AI også) og information via vores sanser. Når vi ser et andet menneske smile bliver vi selv lidt gladere, osv.
Jeg er ikke bange for AI som sådan. Jeg kan have min tvivl om nogle af de mennesker, som arbejder med den, og jeg har i en del år fulgt Robert Miles på nettet. Ham betragter jeg som ekspert i AI sikkerhed. En AI har oftest en form for mål, kaldet en utility function. ChatGPT kunne have som utility function at give så korrekte svar som muligt på spørgsmål den blev stillet. Miles har beskrevet at der i virkeligheden er tale om to funktioner. Den ene er den ydre. Det er den vi koder ind i det neurale netværk. Den anden er den indre utility function, som vi ikke kender, og Miles har beskæftiget sig intensivt bla. med, hvordan vi sikrer os at de to funktioner er den samme. For et års tid siden kunne han så dokumentere eksempler på at en AI godt kan udvikle en indre funktion som er en anden end den ydre:
https://youtu.be/zkbPdEHEyEI
Det ser lidt ud til at vi efterhånden er nået så langt med AI at vores bedste håb reelt er at lade maskinen tænke selv, og håbe på at den er "flink". Der findes diverse illustrative eventyr, tankeeksperimenter, vittigheder mm. om, hvor galt det kan gå, hvis man f.eks. får et ønske opfyldt og ikke tænker sig meget grundigt om før man siger ønsket højt. Sagt på en anden måde så har jeg svært ved at se, hvad vi skulle opstille som utility function for en hyper AI, og jeg har ikke rigtigt set andre hoste op med en.
På den anden side ser Miles rimeligt dystert på fremtiden med AI, og han ved langt mere om emnet end jeg gør. Jeg tror blot at vi når at gå ned på energi, før vi når så langt med AI at det potentielt bliver farligt, også selvom tingene går hurtigt nu. I en Verden hvor energi begynder at være et problem, er det tankevækkende at undersøge, hvor meget af vores globale energiforbrug vi bruger på IT. Der ville ikke gå mange år før vi med den eksponentielle vækst i IT ville bruge mere energi på søde katte på nettet og crypto end vi brugte på at skaffe mad, hvis det ikke var fordi der er en helt solid fysisk begrænsning af den mængde energi vi har til rådighed (til begge dele).
Insekter og mange arter,der i blandt Homo Sapiens kommunikerer med lugthormoner (feromoner) og så længe kunstig ntelligens ikke kan producere den form for kommunikation får de aldrig afgørende indflydelse på evolutionen. Det farligste for mennesker er den dovenskab kunstig intelligens skaber - noget i retning af "opium for folket" som Karl Marx sagde nok så klogt sagde.
Morten Balling
Når du nævner udvekslingen af information mellem mennesker, kan jeg ikke lade være at tænke på det lidt dybere lag af information, som på dansk bedst kan beskrives med begrebet 'mening'.
For hvad er det, der giver mening at beskæftige os med i livet?!
For mig giver det mening at dyrke mad på hobbybasis, hjælpe lidt på biodiversiteten undervejs og nyde processerne med mine sanser. Jeg har intet imod lol-kattevideoer på nettet, men det giver ikke rigtig mening for mig at se mange videoer som tidsfordriv. Måske især fordi jeg har en kat i husstanden, som laver sære ting live, når det falder hende ind.
Når jeg snakker med fremmede mennesker, udveksler vi ikke kun information. Vi udveksler også mening om hvad der giver mening for os at beskæftige os med, og det er åbenlyst, vi søger interessefællesskaber. Det kort sagt er nemmere at tale med et andet menneske som vi kan findes fællesskab med. Indimellem er det inspirerende at tale med mennesker med meget fremmedartede interesser, andre gange ikke.
Jeg aner ikke om noget som helst giver mening for en AIntelligens, eller den bare udfylder den opgave, den bliver sat til.
Men jeg kan ikke forestille mig et mennesker udelukkende bruge sin tid på lol-katte eller informationssamling uden dybere mening. Så længe vi snakker mere og mere med hinanden om kattevideoer og andre ting som foregår online end om meningsfulde aktiviteter i den fysiske verden, så længe vil Aintelligensen være mere spændende og give mere mening for et voksende antal mennesker, end det at bruge energi på sanseindtryk og forhåbentlig meningsfulde samtaler.
Jeg har ikke fundet ud af hvad vi skal bruge Aintelligensen til. Eller sagt på anden måde, hvor den giver mening.
Det er ikke noget jeg skilter med normalt, for det får mig til at virke uintelligent. Men jeg kan vitterligt ikke se det tvingende nødvendige i denne udvikling.
Med kunstig intelligens vil det på sigt være muligt, at aflæse, hvad et menneske tænker ved en scanning af hjernen. Lige nu er det under udvikling og udstyret er ikke særlig handy. Men meget nyt foregår i udviklingsfasen i kluntet udstyr for at finde muligheder. Siden bliver det skaleret ned til en bærbar størrelse.
Så om ikke så langt ude i fremtiden, skal du til at være varsom med, hvad du tænker og hvor du gør det. Og alle der går med en hat med kobber trådnet indbygget har noget at skjule. Ikke.
Men det er desværre ikke en dårlig vits. Denne udvikling er gået i gang. Og du kan på forhånd være sikker på, der vil være et utal af gode argumenter for, hvor fantastisk det vil blive. Som altid. Uanset konsekvenser, som vi jo er vant til det.
Alt nyt er jo godt nyt.
Men allerede i dag kan Big Data levere en komplet profil over dig. Hvem du er, hvad du kan lide, hvordan du tikker og dermed tæt på hvad du tænker og hvilke værdier du har. Heldigvis "kun" i kommercielt øjemed må det forstås.
Og i al fortrolighed. What happened in Vegas stays in Vegas. Ha ha ha
@Lise Lotte Rahbek
Mening? Definér "mening" please? ;o)
Mening er noget vi selv opfinder i mangel på en mening. Siger man dét for højt mødes man ofte af et "Du må leve et fattigt liv". E pur si muove...
Mening for en AI giver lige så lidt mening som mening gør for mennesker. See what I did there?
@Torben K L Jensen
Ligesom tale er feromoner blot et redskab til at udveksle information. Der findes mange andre måder at kommunikere på end lugt og tale.
Som sagt skræmmer AI os, fordi AI åbner en masse spørgsmål.
Dét rabbit hole begav jeg mig ned i for snart mange år siden, og det man finder "dernede" er ikke altid specielt populært.
Det mest ekstreme eksempel på det fænomen er den tolkning af kvantemekanikken som kaldes Superdeterminisme. "Problemet" med determinisme i fysikken er at den udelukker det frie valg. Det lyder så skræmmende at mange fysikere ikke vil tale om emnet, selvom det løser mange af de "mystiske" problemer man slås med i fysikken.
https://youtu.be/ytyjgIyegDI
Jeg har selv fundet tanken temmelig skræmmende, indtil jeg turde spørge mig selv, hvad der er forskellen på et determineret valg og et frit valg. Den primære forskel viser sig at være at man ikke mener man kan stille nogen til ansvar for deres handlinger, hvis de ikke havde fri vilje. Det er et absurd argument. Vi stiller til ansvar hver dag. Det vælger vi at gøre, også selvom valget er deterministisk styret.
Hvis det lyder forkert, så prøv at forklare hvad det vil sige at vælge. Hvis du vælger at spise pizza i stedet for pasta, så vælger "du". Sådan føler du det, men hvem vælger? Din hjerne? Din bevidsthed? Din bevidsthed er en brainstate, og din følelse af at vælge er ikke meget anderledes end når hjernen belønner sig selv i et Eureka moment med lidt dopamin i synapserne. Fri vilje er på ingen måde en forudsætning for at leve vores liv som vi gør. Det eneste accept af determinisme tager fra os er en illusion om "frihed". Hvad er frihed? Og ja, den er svær at sluge indtil man tør. Derpå tænker man meget lidt over emnet igen, og lever videre som hidtil.
Prøv at servere den til et middagsselskab. E pur si muove...
Morten Balling
"Mening er noget vi selv opfinder i mangel på en mening"
Næh. Mening er noget vi skaber i fællesskaber ved hjælp af kommunikation. Ikke information, men tovejs-kommunikation. Vi bliver, meget kort sagt, ideelt set, enige om værdier, om hvad der er godt og rigtigt og hvad der er skidt og forkert. Og nu snakker jeg om små fællesskaber. Samfundsmæssigt, i de store fællesskaber, er der uendeligt mange værdier, vi ikke er enige om. Det er faktisk vældig interessant, sociologi.
Mht fri vilje er det en laaaaang diskussion og en mindst lige så laaaaang debat og en masse filosofiske retninger og forskere, man kan slå hinanden i hovedet med. Eller også kan man slå over i et andet sprog, for at komplicere kommunikationen yderligere. ;o)
@Lise Lotte Rahbek
Ok så skaber vi mening istedet for at opfinde den selv. Lidt kartoffel-kartoffel ;o)
Min pointe var blot at moral og etik, set ift. hvad vi vil prøve at lokke en AI til at gøre eller ikke gøre, er, skal vi kalde det, en udfordring. At vi har nemmere ved at blive enige om de interne spilleregeler i vores stamme/familie/arbejdsplads ser jeg som et tegn på at vi evolutionært ikke er kommet meget videre, siden vi levede i små stammer.
Og ja hul i de frie valg, så længe vi vælger og det føler vi jo at vi gør. Platons hulemænd har ikke levet forgæves. Det var ikke min pointe. Min pointe var at noget viden er tabu, herunder at liv og intelligens ser ud til at være en udvikling som sker helt af sig selv i et deterministisk Univers.
Lidt ligesom økonomi ikke er noget vi har opfundet, men noget systemet selv skaber når kompleksiteten i systemet bliver høj nok. F.eks. er symbiose udveksling af ressourcer. Økonomi drejer sig ikke om andet.
Information forstår jeg helt bogstaveligt som fysiske bits, og kommunikation er al form for overførsel af information fra et sted til et andet. Jeg kan dog snildt sidde og hyggesludre med andre mennesker uden at se nuller og ettaller svæve rundt i luften.
Jeg forstår godt at noget viden bliver tabu. Don't look up, osv. Dog er der mange varme kartofler vi ikke slipper for at forholde os til, og der skal nok også sluges nogle kameler, hvis vi vitterlig vil vide mere, også når det kommer til at forstå AI. Uden at forstå den kan vi ikke forholde os fornuftigt og rationelt til den.
Så med alt det i mente: Er intelligens noget farligt?
Morten Balling
"Er intelligens noget farligt?"
En rationel intelligens (hvis sådan en findes/er under udarbejdelse):
Så absolut farlig for menneskenes overlevelse, medmindre intelligensen suppleres med empati. Og barmhjertighed.
At skabe mening er lidt ligesom at skabe intelligens. Det kommer ikke af sig selv
Vi mennesker har desværre en evne til at guddommeliggøre ting i vores omverden. Jeg fornemmer en stor trang til at guddommeliggøre AI, gøre den til det vi fæster vores tro på fremtiden på. Altså, at vi kan spørge AI om alle vores problemer og få et brugbart svar, a la Vølven eller oraklet fra Delphi.
Men AI er jo bare et spejlbillede af os selv, måske mere effektivt forbundet med vores afgrundsdybe hav af information, men alt hvad den finder frem til er noget vi selv har lagt ud.
Jeg frygter allermest, at vi i sådan en guddommeliggørelse af AI afstår fra selv at tænke. At vi tror, at bare vi følger rådene fra AI, så skal det hele nok gå.
@Thomas Petersen
Det en AI kan være bedre til end mennesker er netop at give svar. Pt. lyver en AI hurtigere end en hest kan rende, så vi kan ikke blot stole blindt på dens svar. Det tvinger os til at vedblive med at tænke selv. Nogle vil opfatte AIs løgne som noget skummelt, men dybest set lyver den fordi vi har lært den at, hvis man ikke kender et svar, så belønnes man stadig for et løgnagtigt svar, hvis bare man ikke bliver opdaget i løgnen. Det er noget vi har lært den. Hvem har lært os det, kunne man her passende spørge? Hvis ikke der er nogen der har et svar, kan man jo spørge en AI.
Den information en AI har til rådighed i øjeblikket er information vi alle har tilgang til. Der er blot nogen, som har lettere ved at bruge denne information til at "connect the dots", og her får de fleste mennesker baghjul af en AI. Det gør den ikke nødvendigvis ond eller farlig, per se.
Derudover er viden ikke altid noget som underbygges af empiri. Meget af den "bløde" videnskab bygger på deduktive argumenter, og viden er noget vi "skaber". Det kan en AI i princippet også gøre, og måske er den bedre til ikke at "knække halsen på de sorte svaner" end vi er, hvis det passer med vores dagsorden.
@Morten Balling.
Årsagen til at AI synes at lyve så ofte, som den gør, skal findes i den måde, hvorpå systemet er konstrueret, og hvordan den trænes. Når man træner en AI til at skelne imellem eksempelvis hunde og katte, så vil den "lyve", når den ser en giraf. Dette er forventeligt, eftersom dens output er binært i træningsfasen og ikke indeholder en tredje "ved ikke" mulighed. Dette kan overføres til general AI.
Dit andet argument om, at vi har adgang til samme mængde information, er jeg deslige uenig i. Eksempelvis har vi alle adgang til alfabetet, men derfra og så til at skrive 'Den store Gatsby' er ikke blot et spørgsmål om at kombinere det gamle på en ny måde. Der skal intelligens til. ChatGPT kan også skrive tekster, der kræver intelligens. Hvordan den intelligens fungerer, og hvad den er i stand til, er uvist.
@Niels Gregersen
Enig. Dog, vil en AIs valg, f.eks. hund eller kat, på trods af svarets binære karakter, have været igennem nogle mere "analoge" processer undervejs. Der adskiller den sig ikke synderligt fra neuroner og synapser i en menneskehjerne, når dén vælger pizza eller pasta. Et neuralt netværk er en simulation af, hvad vi tror en hjerne gør.
Jeg er også enig med dig i din anden pointe. Vi ved ikke, hvad en superintelligens med adgang til internettet er i stand til at finde på. Dermed ved vi dog heller ikke om den begynder at ae katte mens den udtænker en plan for verdensherredømme. Den kunne også ende med at blive dybt depressiv og passiv. Jeg nævner i flæng "Marvin the paranoid android".