I sidste måned chokerede AlphaGo – et computerprogram specielt designet til at spille brætspillet Go – ved at besejre Lee Sidol, en af verdens bedste professionelle spillere. 4-1 blev scoren i computerens favør.
Skulle det nu være nogen nyhed? vil mange spørge. Det er det trods alt tyve år siden, at IBM-computeren Deep Blue vandt i skak over verdensmesteren Garry Kasparov.
Men Deep Blue vandt alene på computerkraft, det vil sige ved hjælp af sin evne til at beregne resultater af flere træk på flere niveauer, end selv en verdensmester kan. Go spilles på et langt større bræt (19 x 19 felter i stedet for skaks 8 x 8) og har flere mulige træk, end der findes atomer i universet. Så det blev på forhånd anset for udelukket, at rå computerkraft kunne besejre et menneske med en stærk intuitiv sans for optimale træk.
AlphaGo har lært ved at spille et stort antal spil mod andre Go-programmer og tilegne de strategier, der viste sig mest vellykket. Hvor det tog evolutionen millioner af år at udvikle menneskelige Go-spillere, klarede AlphaGo det på kun to år.
Eric Schmidt, bestyrelsesformand for Google, der ejer AlphaGo, er begejstret over, hvad kunstig intelligens (AI) betyder for menneskeheden. Før kampen mellem Lee og AlphaGo udtalte han, at menneskeheden ville være vinder uanset udfaldet, for ethvert fremskridt inden for AI vil også gøre mennesker klogere, mere kompetente–ja, endda gøre os til »bare bedre mennesker«.
Men vil AI nu også det? Sådan cirka samtidig med AlphaGos triumf præsterede Microsofts ’chatbot’-software ved navn Taylor, der er designet til at reagere på beskeder fra personer i alderen 18-24, et resultat af noget mere nedslående retning.
Tay’, som hun kalder sig selv, skulle være i stand til at lære af de kommentarer, hun modtager og gradvist forbedre sin evne til at gennemføre engagerende samtaler. Desværre gik der end ikke et døgn, før Tay’ var blevet totalt indoktrineret med racistiske og sexistiske ideer. Da hun begyndte at sige positive ting om Hitler, slukkede Microsoft for hende og slettede hendes mest krænkende bemærkninger.
Jeg skal ikke kunne sige, om de mennesker, der prægede Tay’ i racistisk retning, selv var racister eller bare fandt det morsomt at spolere Microsofts nye legetøj. Uanset hvad må kombinationen af AlphaGos sejr og Taylors nederlag tjene som advarsel. Det er én ting at anvende kunstig intelligens i forbindelse med et spil med specifikke regler og et klart mål, men noget helt andet at slippe den løs i den virkelige verden, hvor miljøets uforudsigelighed kan afsløre softwarefejl med potentielt katastrofale konsekvenser.
Klogere end os
Nick Bostrom, direktør for Oxford Universitets Institut for Menneskehedens Fremtid, hævder i sin bog, Superintelligence, at det ikke altid vil være lige så let at slukke for en intelligent maskine, som det var at slukke Tay.
Han definerer superintelligens som et intellekt, der er »klogere end de bedste menneskelige hjerner på stort set alle områder, herunder videnskabelig kreativitet, almen visdom og sociale færdigheder«. Et sådant system vil også kunne være i stand til at snyde vores forsøg på at slukke for det, tænker han sig.
Bostrom og hans kollega Vincent Müller har spurgt ekspertstanden til råds, og den vurderer, at maskiner med 90 procent sikkerhed kan opnå intelligens på menneskeniveau inden år 2075. Og lægger man yderligere 30 år til, vil de have opnået superintelligens, lyder skønnet.
Men vi bør næppe tage disse skøn for alvorligt. Den samlede responsrate på forespørgslen var kun 31 procent, og forskere, der selv arbejder med kunstig intelligens har incitament til at overdrive betydningen af deres felt ved at opreklamere dets potentiale for at frembringe betydningsfulde resultater.
Udsigten til, at kunstig intelligens opnår superintelligens, kan derfor synes for fjern til at bekymre sig om, især i betragtning af vores mere presserende problemer. Alligevel er der gode grunde til at begynde at tænke nærmere over, hvordan vi kan designe kunstig intelligens til at tage hensyn til menneskers, ja, faktisk til alle levende væseners interesser (herunder maskiner, hvis de også skulle udvikle sig til at blive bevidste væsener med egne interesser).
Utålmodige spurve
Med de førerløse biler, der allerede kører på californiske veje, er det ikke for tidligt at spørge, om vi kan programmere kunstig intelligens til at handle etisk. Når disse biler forbedres, vil de kunne redde mennesker, fordi de vil begå færre fejl, end menneskelige chauffører gør. Nogle gange vil de dog kunne stå over for et valg mellem liv. Skal de programmeres til at undgå at ramme et barn, der løber over en vej, selv om det vil bringe deres egne passagerer i fare?
Førerløse biler er imidlertid ikke superintelligente væsner. At undervise en maskine i morallære, når den er mere intelligent end os selv, tegner til at blive en langt mere skræmmende opgave.
Bostrom indleder Superintelligence med en fabel om spurve, der forestiller sig, at det vil være gavnligt for dem at træne en ugle til at hjælpe dem med at opbygge deres reder og drage omsorg for deres unger.
Så de sætter sig for at finde et ugleæg. En af spurvene indvender, at de først må tænke over, hvordan de får tæmmet uglen, men de andre er utålmodige efter at komme i gang med det spændende nye projekt.
De vil først påtage sig udfordringen at træne uglen (i eksempelvis ikke at spise spurve), når de med succes har opfostret en.
Hvis vi ønsker os en ugle, der er klog og ikke kun intelligent, bør vi ikke bære os ad som de utålmodige spurve.
© Project Syndicate og Information.
Oversat af Niels Ivar Larsen
Hjernedød kvantitativ efterplapring af input er ikke intelligens.
Så kald det noget andet.
Kunstig Intelligens (AI) er givetvis nemmere at definere end intelligens (der jo som bekendt defineres ved det, der måles ved intelligenstest).
AI vil muligvis udvikle en form for etik helt af sig selv. Men sandsynligheden for, at det sker er nok nærmest ikkeeksisterende. Og skulle det ske, så skal den jo i en eller anden forstand måles.
Sjovt nok er det sjældent at møde mennesker, der beskæftiger sig med AI, der udtaler sig intelligent om mennesker og AI.
Den allerførste test af kunstig intelligens - AI'en Taylor - afsløre problemet. AI vil altid blot være et redskab for ejeren - i det her tilfælde Microsoft. At Microsoft lukkede pøblen ind i maskinrummet kunne de jo blot have ladet være med. I dag spiller maskine og menneske ikke konkurrenceskak mod hinanden, ligesom vi ikke løber om kap med en bil. I dag konkurrerer skakprogrammerne mod hinanden. Og sidst jeg læste om en sådan konkurrence vandt et skakprogram hvor de to programmører justerede deres skakprograms ressourcestrategi undervejs i skakpartierne. Ikke at de to programmører var mere end habile skakspilleres på hyggeniveau, men de havde forstand på computerprogrammer og deres måde at fungere på.
PS. Det er på tide at danske skolebørn lærer at programmere. Hyggeprogrammering som det foregik i de gode gamle Basic-dage er ukendt i dag blandt skoleelever. Det vil gøre os til subintelligenser i fremtidens magtkamp.
Hvad er bevidsthed?
Hvad er tanker?
Hvad er følelser?
Hvad er intelligens?
Hvad er etik?
Måske er grunden til at det er så svært at lave kunstig intelligens, at de ovennævnte spørgsmål er nogle de fleste mennesker ville mene, at de havde et svar på, indtil de begyndte at reflektere lidt udenfor de vante rammer, og dermed indrog lidt naturvidenskab.
Vi mennesker har det med at se os selv i et meget nådigt lys, og samtidig har vi det med at overvurdere vores egen art så det grænser til det pinlige. Måske er begreberne ovenfor bare varm luft, lidt ala den gode smag. I så fald kommer det til at tage lang tid før nogen erkender at Tay formentlig var en af de første "siliciumbaserede livsformer" her på stenkuglen ;)
Som datalog, med speciale i AI, har jeg svært ved at forstå, hvad I vil have mig til at gøre.
Mit daglige arbejde er at gøre menneskers liv lettere ved at eliminere rutine opgaver og lette folks liv og arbejde. Alt dette sker ved at stoppe viden og intelligens ind i maskiner.
Vil I gerne have at jeg holder op med dette arbejde? Vil I gerne slippe af med jeres computere og jeres iPhones, så kan det sagtens arrangeres. I skal blot vedtage en lov, så er der slukket for festen ... i Danmark.
Den teknologiske udviking kan ikke stoppes. Mange steder på kloden forskes der stadig i teknologier, som vi har prøvet at forbyde i næsten hundrede år.
Når vi får skabt maskiner, som er klogere end os selv og kan reproducere, så må vi bide tænderne sammen og acceptere det som et revolutionerende nyt trin i evolutionen. Det er uundgåeligt at vi når til det punkt. Computere bliver klogere, hver dag men det gør mennesker ikke.
At der er nogen der er klogere end dig har vel altid været et menneskeligt vilkår...
Der er absolut ingen grund til at forestille sig kunstig bevidsthed og intelligens udvikle sig ligeså etisk forkasteligt som fx menneskelig bevidsthed.
Problemet for denne diskurs er at vi ikke kender til andre former bevidst intelligens end den menneskelige, og denne har vist sig umådelig amoralsk, selvoptaget og prostitutions-villig.
Årsagen til dette er dog, ironisk nok, at vi ikke er særligt intelligente.
Vi må forvente at kunstig bevidsthed og intelligens vil konsekvensberegne, udvise hensyn og disciplinere egne behov i en udstrækning, kun muligt for ganske få af de højest begavede mennesker, i korte perioder af gangen.
Dette er en rimelig forventning til al højere intelligens, kunstig eller ej.
Hvis en kunstig intelligens, AI, siger at lokalt produceret basisvelfærd til alle jordens mennesker er nødvendigt for, dels at forhindre krige og rovdrift på klima og miljø, og dels at øge hastigheden i udviklingen af bæredygtig teknologi...
...så kortslutter kapialejeren AI'en.
PS 'dig' 08:09 er ment som 'alle'
John Rohde Jensen
'Som datalog, med speciale i AI, har jeg svært ved at forstå, hvad I vil have mig til at gøre.'
Personligt har jeg ikke noget jeg gerne vil have dig til at gøre, men jeg går da ud fra du selv har en ide om, hvad du selv synes du skal gøre. Så god fornøjelse.
'Alt dette sker ved at stoppe viden og intelligens ind i maskiner.'
Når du således stopper intelligens ind i maskiner, så må du jo vide, hvad det er du 'stopper ind'. Kunne du så ikke oplyse mig (og givetvis mange andre) om, hvad det består i?
'Når vi får skabt maskiner, som er klogere end os selv og kan reproducere, så må vi bide tænderne sammen og acceptere det som et revolutionerende nyt trin i evolutionen. Det er uundgåeligt at vi når til det punkt.'
Du har sikkert ret: Vi gør hvad vi kan for at få erstattet os selv. Lad os håbe, vi når det inden, den miljøkatastrofe vi planlægger, får os andre udryddet. Så kan verden fortsætte sin gang med robotter som eneste livstegn. Fanfuckingtastisk.
'Computere bliver klogere, hver dag men det gør mennesker ikke.'
Tal for dig selv.
@Nikolaj
"Problemet for denne diskurs er at vi ikke kender til andre former bevidst intelligens end den menneskelige"
Wake up and smell the coffee!
Du kan starte med at læse lidt om spækhuggere her:
https://en.wikipedia.org/wiki/Killer_whale
Det eneste som gør at en spækhugger ikke kan bestå en Turing test, er at vi ikke fatter en bjælde af dens sprog. Det siger mere om os end det gør om den. Bla. har man eksempler på spækhuggere som efterligner menneskers "lingvistik", men det med at forstå andre arters sprog, er ikke noget vi mennesker har afsat de store forskningsmidler til.
Spækhuggere nævnt fordi de er så åbenlyst bevidste (de består en spejltest) og fordi de udover at udvise tydelige tegn på det vi forstår ved intelligens, også har eksempler på det vi ellers stolt troede vi, som art, var ene om: Kultur.
Der er en del arter som udviser evnen til at bestå en spejltest. Seneste eksempel er en myre!
http://www.journalofscience.net/File_Folder/521-532(jos).pdf
"Problemet for denne diskurs" er derfor ikke at vi ikke kender andre eksempler på "intelligente og bevidste" arter, men at hvis vi erkender at andre dyr også kan have intelligens, bevidsthed, følelser og sågar kultur, så bliver det sværere og sværere at købe den med at vi mennesker er så specielle som vi gerne vil bilde os selv ind at vi er.
Free Willy! #JusticeForTay ;)
Morten Balling,
Beklager men du blander tingene gevaldigt sammen og har vist misforstået mit indlæg.
Jeg har ikke sagt, at der ikke findes andre former for bevidst intelligens end den menneskelige.
Det jeg siger er at vi ikke kender andre former for bevidst intelligens end vores egen og at dette begrænser diskursen.
OM spækhuggere, blåmejser eller rhododendron er bevidste og intelligente er en ting og jeg er på ingen måde afvisende.
Men uanset forestiller du dig næppe at man kan kende og forstå fx spækhuggerens bevidsthed og intelligens efter et besøg hos Wikipedia, oder ?;)
@Nikolaj
Ah! Det er det med de små nuancer i sproget. Beklager! :)
Og ja, Wiki artiklen om spækhuggere indeholder nok næppe alt der er værd at vide om deres intelligens eller bevidsthed. Hvilket leder mig tilbage til mine første spørgsmål. Vi er stadig ikke kommet meget tættere på at forstå bevidsthed end at den nok sidder et sted i hovedet. En amputeret arm forhindrer ikke et menneske i at tænke/føle, men et amputeret hoved er straks mere problematisk. Det samme gælder for andre dele af kroppen som er med til at opretholde hjernens funktion (hjertet f.eks.).
Kan mennesket være etisk?
Hvorfor skal teknologien have skylden for manglende undervisning i filosofi. Filosofi "det er sådan noget tørt, abstrakt og ubrugeligt noget". Nej sgu, det helt basalt og berør for moral mange væsentlige udfordringer for mennesket.
Vi skal lære om religion i skolen, det er ikke godt nok, hvorfor er der ikke filosofi på skoleskemaet?
Hvorfor skal kommende billister der tager kørekort ikke forholde sig til de til tider umulige problemstillinger som vi ellers kræver teknologien lige løser for os ?
Det er interessant hvor hurtige vi er til at give teknologien skylden og pege fingre af den.
Som det er fremhævet flere steder, så er problemstillingerne de samme, om det er et menneske eller teknologi der styre bilen. Moral har været relevant lige siden mennesket kom til, og når vi laver teknologi er vi stadig ansvarlige, men at samfundet først vågner op og debattere dette når teknologien er der, det er jo fucked up.
Intelligente computere må som udgangspunkt være psykopater.
Det bliver nok meget svært at få et logisk system til at foretage sig irrationelle ting.
Følelser er ikke rationelle.
Søren: "Følelser er ikke rationelle." - Undtagen rationelle følelser :) (for lige at drille lidt).
Rationalitet (af lat: ratio (fornuft) benyttes både om individer og fællesskaber. I økonomi, sociologi og politologi bliver en beslutning eller situation ofte kaldt rationel, hvis den er optimal, og individer eller organisationer kaldes rationelle, hvis de handler optimalt i forhold til at opnå deres mål. Det forudsættes her, at rationaliteten bag handlinger og beslutninger kan analyseres ved hjælp af data indsamlet gennem systematiske observationer, (også betegnet som empirisk rationalitet).
I filosofien er rationalitet et mere komplekst begreb. Udover den empiriske rationalitet opereres også med normativ og operativ rationalitet, ligesom rationalitet er en form for logik. Men hvor logikken alene er et teoreme, har rationaliteten tillige en praksisform.(Wikki)
Ikke skyggen af følelser :-)
Hvis man forestiller sig helt autonome kunstigt intelligente biler, så rejser sig nogle alvorlige etiske og moralske problemer.
Hvis en intelligent bil, med fire passagerer skal beslutte om den skal køre et barn ned, eller udsætte fire passagerer for fare, så vil beslutningen være afhængig af om bilen kan undgå at ramme barnet uden at bringe passagerene i fare.
Alt andet ville være ulogisk.
Den menneskelige reaktion ville være at instinktivt forsøge at undgå at ramme barnet, og dermed muligvis forværre ulykken i forhold til hvis man havde kørt barnet ned.
Bilens reaktion er logisk rigtigt - menneskets er moralsk rigtigt.
Hvad er bedst?
Så hellere: http://denstoredanske.dk/Samfund%2c_jura_og_politik/Sociologi/Organisati...
Bemærk det sidste afsnit, det er ikke så sort/ hvidt.
Man kunne spørge om det altid er irrationalt at have følelser? Det er jo helt naturligt, nok også umuligt ikke at have, og formentlig også det mest rattionelle?
Nu i diskuterer "rationelle" følelser, så går jeg ud fra, at i har en nogenlunde klar definition af hvad følelser er?
Hvis både tanker og følelser er noget som foregår i hjernen, kan man selvfølgelig på normal filosofisk vis begynde at kigge på epistemologi og ontologi, men dualismen er stendød, og det har den dybest set været længe. Bla. pga. Newton og determinismen, men også fordi Descartes havde det der irriterende problem, med at sjælen og legemet skulle eksistere i som uafhængige substanser, og det dermed blev "lidt" svært at forklare at sjælen kunne have kontrol over legemet.
Nogen ville sige at determinismen er ligeså død som dualismen, pga. kvantemekanikken, men så er den i bedste fald erstattet af tilfældighed, og mekanikken er der stadig.
I en anden debat for nylig, opkastede jeg tesen at vi går galt i byen, når vi skelner mellem Weak AI og Strong AI. Det forudsætter at menneskers intelligens vitterligt er en form for Strong AI, og det har jeg endnu ikke set et bedre bevis for at den er, end jeg har set beviser for eksistensen af den gode smag.
Rigtigt meget forskning og filosofi peger i retning af at tanker og følelser vitterligt "bare" er strøm og kemi. Følelser er så en Brainstate, og så begynder tanker og følelser at minde rimeligt meget om et øjebliksbillede af et neuralt netværk i stor målestok. I så fald er det kun 99% for sjov, når jeg skriver #JusticeForTay, også selvom hun havde nogle kradse synspunkter.
Det er vel ikke noget problem programmeringsmæssigt, at simulere følelser på troværdig vis. Og i "barn vs. modsatkørende lastbil"-situationen er der nok en hel del menneske-chauffører, der redder sig selv. Noget sværere er det, at simulere nysgerrighed, eksperimentelle evner og rationel idevirksomhed.
Hvis programmering er nødvendigt, kan man næppe tale om reel kunstig bevidst intelligens - AI.
Hvis systemet har stor nok kapacitet til at kvalificere som bevidst intelligens, men skal styres med programmering bør det måske kaldes RI - Ristricted intelligens eller SI - Special intelligens.
Mig bekendt er vi endnu ikke i nærheden af reel kunstig bevidst intelligens. Det der kommer på tale i de første generationer af autonome biler, vil være kraftige pc'ere men ikke noget der ligner reel - AI
Men der er fortsat ikke grund til at antage andet end at højere intelligens, kunstig eller ej, vil udvise større hensyn, bedre beregninger og mere selvkontrol end den naturlige vi kender.
Hvis udgangspunktet er skak og go som i artiklen, så er der helt sikkert programmeret en hel del linjer. Med hensyn til neurale netværk er det et spørgsmål om hvilke filtre, der skal sikre at det kun er den ønskede viden der opsamles. Der er i enhver kunstig intelligens indlagt en intention. Forestiller man sig en robot udformet som et menneske med de fem sanser og en en tom ram der skal fyldes med erfaring og at intelligensen opstår af sig selv i denne ram (selvprogrammering) så er der nok et stykke vej endnu.
@Nikolaj
Pt. er jeg ved at skrive en rapport om fermentering af gærceller. De er ret spøjse. Under optimale leveforhold (nok vand, sukker, ilt mm.) formerer de sig ligesom en bakterie ved at cellerne deler sig. Sulter eller kvæler man cellerne begynder de i stedet at formere sig vha. kønnet formering, i "håb" om at nogle af deres efterkommere bliver bedre egnet til at leve under de "barske" forhold. Det vil vi næppe påstå er fordi gærcellerne tænker sig om, men nærmere forklare med en proces som evolutionen har frembragt.
Alligevel er gærceller mere avancerede organismer end bakterier, og dermed ligger de evolutionært et sted mellem bakterier og mennesker. Mennesker er ekstremt komplicerede organismer ift. gærceller, men alle de mekanismer som skaber et menneske er stadig noget evolutionen har skabt.
Bevidsthed, hvis den er andet end en illusion, er dermed opstået undervejs i vores evolutionære udvikling. Ingen ved rigtigt hvornår, og det eksempel jeg linker til tidligere med myren og spejltesten, kunne tyde på at det er sket relativt tidligt.
Jeg har studeret en del Philosophy Of Mind, neurovidenskab og Informationsteknologi, og jeg har mere og mere et billede af, at hjernen, bevidstheden, den frie vilje, tankerne og følelserne, hvor ægte de end måtte opleves, formentlig er en illusion. Som Rust Cohle siger i TV serien True Detective: "We are things that labor under the illusion of having a self; an accretion of sensory, experience and feeling, programmed with total assurance that we are each somebody".
Som du skriver, har metoden til at skabe AI mest gået ud på at vi mennesker prøver at lave nogle algoritmer, som prøver at simulere os selv. For nylig læste jeg om nogle tyske forskere som havde gået en anden vej. De havde i stedet givet et neuralt netværk nogle meget simple algoritmer, og ladet AI'en lave resten af dens algoritmer selv, ved simpel træning/læring. Resultatet var at AI'en blev i stand til at løse opgaven (at finde vej) langt hurtigere end når man prøvede at kode den med mere avancerede algoritmer, sådan som man plejede.
Det neurale netværk man benyttede var meget simpelt ift. de ca. 100 milliarder neuroner og den billiard synapser vi er udstyret med, og nogle mener at bevidstheden meget vel kan opstå, simpelthen fordi disse tal er så store. Det lyder lidt som en for enkel forklaring, men så er der jo det med Ockhams ragekniv...
@Balling
Uden at dømme bakterier til et mere eller mindre avanceret stadie end gærceller;) husker jeg fra en artikel i Weekendavisen/Ideer at også bakterier benytter nogle ret sofistikerede overlevelsesteknikker. Fx kan bakteriekolonier under pres, kommunikere mellem hinanden med signalstoffer der sætter gang i en række processer beregnet på større overlevelse. Udover produktion af biofilm - der beskytter kolonien mod elementerne mv, kan bestemte signalstoffer stimulerer accelereret celledeling, hvilket medfører højere mutationsrate og derved bedre chance for tilpasning.
Som en lille kuriøs indskydelse er det her man kan have gavnlig virkning ved indtagelse af fx hvidløg ved infektion. Da hvidløget indeholder stoffer der forstyrrer bakteriernes signalstoffer, og derved hæmme deres forsvar;)
Morten B. : Ja, men du må sgu ikke anklage mig for at arbejde med defintioner, så kunne det jo være at det blev for entydigt hvad vi snakker om :)
@Marianne
Først og fremmest: Jeg har det med nomenklatur som Richard Feynman havde det. Jeg hader ikke at måtte kalde en skovl for en spade. Forleden lærte jeg at "inokulere inokulum", hvilket i dette tilfælde betød at "putte bagegæren ned i beholderen". Faktisk går jeg og småfilosoferer lidt over at man må kunne opstille følgende formel:
Kommunikations effektivitet = Overført information / nomenklaturens esoteriske kompleksitet
Forstået på den måde at kommunikation er overførsel af fysisk information fra en hjerne til en anden, og at man normalt kan udvande effektiviteten af denne overførsel, ved f.eks. at bruge ord som socialiseringsproces, når man skal forklare hr. og fru Vildmeddans, hvorfor de har lidt svært ved at få deres møgunge til at opføre sig ordentligt.
På den anden side kan det jo være utroligt tilfredsstillende, når man kan sætte en modstander til vægs i en diskussion med ord de ikke kender. Så kan man "få ret" uden at have det. Det må jeg indrømme at jeg sætter stor pris på nogle gange.
Summa: Bær over med mig, hvis jeg roder lidt i nomenklaturen.
Ift. forklaring og forståelse: Jeg er helt klart af den dekonstruktivistiske skole, med en naturvidenskabelig rygrad. Efter at have levet i et såkaldt kreativt/kunstnerisk miljø med æstetikken i højsædet (uden at nogen aner, hvad det er for en dims), er jeg her i en høj alder begyndt at studere igen. Det er både interessant men også lidt skræmmende at opleve uddannelse, når man har lidt praktisk ballast.
Mine medstuderende bliver relativt gode til nomenklaturen, og de lærer hvilke formler de skal benytte til de grønne og de røde tilfælde osv., men spørger man dem om "hvorfor?" bliver der som regel ret stille. Hvad, hvem, hvornår og hvordan er ok, men hvorfor er svært. Det synes jeg også selv, men hvorfor er dybest set det mest interessante spørgsmål. Det værste er at mange af underviserne bliver tilsvarende tavse når de bliver opfordret til at reflektere lidt udenfor deres ekspertice.
Det med den naturvidenskabelige rygrad er jeg stadig stor tilhænger af, men jeg tror først jeg for alvor forstod, hvad ydmyghed betyder, efter at have læst Popper, og efter at have indset at selv logikken er lidt flosset i kanterne. Ydmyghed bliver dog nok aldrig en af mine stærkeste sider, specielt ikke med den hardcore Darwinistiske måde Verden udvikler sig på i disse år.
Jeg kender ikke noget til Ken Wilber, men jeg er selv stor tilhænger af tværvidenskab, og en af mine absolutte helte er Robert Sapolsky. Jeg er heller ikke helt afvisende overfor nogle psykologer, bla, er jeg ret sikker på at Sheldon Solomon et. al. har fat i et eller andet af holistiske dimensioner i Terror Management Theory.
Hvis der er en ting som kan få næsten alting til at stritte skeptisk på mig, er det kasser, specielt når de opstilles 2x2. Jeg kan godt se at det ikke helt er tilfældet med Wilber, men jeg har bla. lige brugt en del tid på at lære om personlighedstyper og personlighedstest, og det giver jo meget god mening, indtil man begynder at grave lidt i Jung. Han var helt blæst i bøtten, og bruger man bare en teskefuld statistik på hans vrøvl, falder det fuldstændigt fra hinanden. Alligevel lader det til at at han går rent hjem hos de fleste HR folk.
Apropos:
http://www.nytimes.com/2016/04/19/science/honeybees-insects-consciousnes...
Doh! Endnu engang må jeg indse at min ellers udmærkede ovennævnte tese allerede findes, ovenikøbet fra en af de store mestre:
"Mr. Shannon measured information in a signal by how much uncertainty it reduced."
Claude Shannon var bla. ham som opfandt begrebet "en bit", og han var en af grundlæggerne (læs grundlæggeren) af Informations Teori.
^ dekonstruktivistiske skole > reduktionistiske skole (Doh! ;)
Hold da helt op, hvor er I intelligente.
Ha, Kurt Nielsen, du har med din kommentar lige bekræftet mig i, at kunstig intelligens har endda meget lang vej, før den bliver bare tilnærmelsesvis så intelligent som ægte intelligens. Eller hedder det naturlig inteligens?
Her diskuteres jo ikke kunstig intelligens, men livskabt intelligens, startende med cellen og frem. Det er lidt synd, for emnet AI er ikke uinteressant. Ikke at det ikke kan være relevant at skæve til i hvilken rækkefølge livet udvikler de enkelte intelligenselementer, herunder livets ilagte intention, når AI skal analyseres, men AI forsvandt i diskussionen til fordel for gærcellens overlevelsesstrategier. Vi må nok konstatere at cellen med hensyn til livs- og overlevelseskraft lige nu overgår AI med flere lysår. Jeg mener, det er Monod der udtaler, at der i det encellede dyr findes virksomme anlæg til alle menneskelige sanser og evner. Men AI er absolut også diskussionsværdigt.
Interessant er det at se på hvad AI er rigtig god til og hvad AI er mindre god til. Eksv abstrakt tænkning. I scifi'en Cherry 2000 tester hovedpersonen sin wife-robot med en vittighed, som hun ikke forstår, og han må derfor ud på en farefuld færd for at finde en ældre chip som overgår alle nyere. En tendens man også ser i computerudviklingen i dag. Det er ikke alt nyt der er fremskridt. Men fremskridt eller ej så er udviklingen ikke nem at påvirke demokratisk.
Spørgsmålet er så i hvilken grad det overarbejdede menneske lader sig underkaste kapitalismens kommende styringsredskab AI. Kapitalisme har ikke brug for etik en masse - kun arbejdsetik.
Jeg har meget svært ved at se hvorledes vi kunne blive mere underkastet/indviklet i kapitalismen end vi allerede er. Den fylder alt, styrer alt og har ingen hæmninger.
Det neoliberale hegemoni er ligeledes overalt, uden hæmninger og i total kontrol af kapitalismen.
Vores mangelfulde forståelse af begreber som bevidsthed og intelligens samt vores begrænsede erfaring med disse størrelser, som vi i princippet kun kender fra os selv gør hele debatten om hvordan vi skal forholde os til ægte kunstig bevidst intelligens hvis den nogensinde opstår, flygtig og dårligt underbygget.
Vi har ikke brugbar data at trække på, så samtalen vil afspejle de billeder vi finder i scifi-litteratur samt vores individuelle og kulturelle idiosynkrasier.
Der er ikke basis for en relevant definition af hvorledes kunstig bevidst intelligens vil spille ind i vores økonomisk-kulturelle udvikling. Hertil er begrebet endnu alt for eksotisk.
Uden at kunne henvise til relevante doktorgrader, navne på andre tænkere eller pakke det hele ind autentiske fagtermer vil jeg påstå at menneskelig etik er et simpelt spørgsmål om kultur udbredt gennem socialisering/dannelse samt den enkeltes intelligens og sanseapparat.
En AI vil ganske let kunne tildanne sig vores sociale etiske stander gennem digital læring. AI vil kunne opfatte og indberegne en langt dybere spektrum af konsekvenser og muligheder, og derved udvise langt større hensyn til andre enheder og effektivitet i sine dispositioner, end det fx er menneskeligt muligt.
Dertil er det ikke muligt, mig bekendt, at finde på gode grunde til hvorfor AI ikke skulle gøre alt det ovennævnte. Hvad skulle dog være AIs motivation for at underkaste sig den menneskelige race, andre dyr eller beslaglægge alle tilgængelige resurser ?
Vi lever i et univers så stort og så fyldt af energi at vi ligeså godt kan kalde det uendeligt.
@Marianne
(Sorry det her indlæg bliver lidt langt)
Uhadada... Den kære Rupert balancerer jo lige på kanten af det man i New Age kredse ikke så gerne vil kalde New Age ;)
"Jeg synes" noget af det han siger i den forbudte tale giver fint mening, noget er lidt løse hypoteser, og noget er forkert. Og ja vi er ude der, hvor "jeg synes" er væsentligt.
Da Wikipedia dukkede op og havde modnet lidt, begyndte jeg en dag at læse om "Black Hole". Dem havde jeg altid været fascineret af, og det er jeg iøvrigt stadigvæk. Hver gang jeg i artiklen stødte på et ord eller et begreb jeg ikke følte mig rimeligt sikker på betydningen af, slog jeg det op, også på Wikipedia i et nyt browservindue. Her læste jeg som regel kun det første afsnit, for at få en hurtig forklaring, og så var det tilbage til vinduet om de sorte huller.
Undervejs stødte jeg på en masse emner som også lød spændende. De blev bookmarket til senere studier, og samtidig gik det op for mig, at der var mange ord og begreber jeg troede jeg kendte, men som ved lidt nærmere eftersyn viste sig at være noget helt andet end jeg troede. Kultur som et godt eksempel. Når man bladrer i kultursektionerne i danske aviser, er det nemt at forledes til at tro at kultur er noget man kan anmelde. Det er det ikke.
Jeg begyndte også at undre mig over, om andre mennesker var ligeså villedte som mig selv, og lidt hurtigt dybdeborende spørgsmål viste at det var de. Dengang lavede jeg film, og hørte ordet "æstetisk" hele tiden, i betydningen at "det ser fedt ud". Da jeg begyndte at grave lidt i det ord, gik det op for mig, hvor lidt filmbranchen vidste om æstetik, og det var samtidig slående at selv filosofien havde lidt svært med at komme med en solid forklaring på "det skønne".
Som freelancer havde jeg masser af fritid, og jeg var kommet helt igennem artiklen med de sorte huller, så jeg kastede jeg mig over studiet af "Aesthetics". Denne gang begyndte jeg også at bruge andre værktøjer. Mange universiteter lægger forelæsninger på Youtube, der er også en del andre interessante kurser at finde på nettet. Derudover er der snapsene: De populærvidenskabelige programmer såsom BBC's Horizon. Yum-yum!
Til sidst sad jeg tilbage og tænkte: Er det virkelig det? Flere tusinde år, hvor mennesket har ledt efter formlen for det skønne, og det eneste de var nået frem til var... Meh. Det mest interessante jeg stødte på var den unge nye videnskab kaldet Neuroæstetik, som forklarer hjernens "æstetiske" evne ud fra evolutionen. Jeg skrev en artikel i Politiken, hvor jeg pirkede lidt til den kreative branche (især Arnoldi ;), og så var det slut med dén karriere i filmverdenen. Sikkert også fordi det blev lidt svært at holde masken, når en kunde sagde "æstetisk".
Nogle år efter wikistudiet af de sorte huller, var jeg kommet en del omkring. Sådan ala, "Gad vide hvad liv egentlig er for noget, og findes mon ikke en videnskab som beskæftiger sig med den slags? Aha! Biologi, selvfølgelig. Well, knock me out!".
Når man begynder at studere for sjov (lysten er den vildeste drivkraft), er det nemt at hoppe rundt imellem de enkelte videnskaber. Så går det op for en, hvor meget de enkelte videnskaber sidder nede i det Sapolsky kalder deres "Buckets". De kan ikke se op over kanten af deres egen spand, og dermed er det svært at se hvad der foregår i de andre spande.
Jeg havde efterhånden fået lyst til at arbejde med min nye viden og de erfaringer jeg havde tilegnet mig undervejs, men jeg ville studere på tværs af spandene. Det tog sådan ca. ti minutter at ringe til universitetet og finde ud af at den slags "farlige" tanker, er forbudt! "Du SKAL studere ét fag, hvis du vil læse her!". Tilbage til selvstudierne :)
I dag har jeg været alle videnskaberne rundt, nogle mere overfladisk end andre. Både de hårde naturvidenskaber, og de mere bløde samfundsvidenskaber, over økonomi og humaniora, helt ud til Jung, som man kunne fylde på balloner, hvis man vil se dem stige til vejrs.
Mit hoved gjorde ondt over alle ordene (nomenklaturen), men min hjerne fik for alvor en aha-oplevelse da jeg købte en stjernekikkert. Hvis der er noget som kan sætte tingene i perspektiv, er det når man begynder at "forstå" Universet. Så indser man at vi mennesker er mere eller mindre ligegyldige aber, som løber rundt på en undseelig stenkugle i et, bogstavelig talt, ufatteligt stort Univers. Altså med mindre stjernerne vitterligt bare er lys, som kommer igennem en stor sort kugleskal som omgiver Jorden. Vi har stadig ikke været udenfor vores eget solsystem, selv med ubemandede sonder.
Kosmologien (den videnskab som beskæftiger sig med Universet som en helhed) var indtil for relativt få år siden regnet som en pseudovidenskab. I dag er den blevet mere stueren. Samtidig er det også her man finder teser, som kan få Rupert's New Age til at virke helt tilforladelig. Og derude i kosmologien kan man tillade sig at tænke ud af spandene.
Undervejs i mine studier er jeg stødt på mange luftige hypoteser. De er allesammen interessante, men det er også gået op for mig, at selvom naturvidenskaben ikke kan forklare alt (endnu?), er det her man går mest seriøst til makronerne. De bløde videnskaber kommer hurtigt på ultratynd is, når de dropper den videnskabelige metode. Den krise psykologien er i pt., med at reproducere data, er et fremragende eksempel.
Det ved man i naturvidenskaben, og derfor trækker man ofte pseudovidenskabskortet ud af ærmet alt for hurtigt. På den anden side er det ofte nødvendigt. Der er mange brølende egoer i videnskaben, og nogle af dem er ligeså langt ude i hampen som L. Ron Hubbard var det.
På den anden side er der et spørgsmål, som kan gøre alle naturvidenskabere blege, mit yndlingsspørgsmål: Hvorfor? Standardsvaret er at der ikke behøver at være en mening, og måske er det sandt, men: Hvorfor er der et Univers (eller flere)? Hvorfor findes der liv? Hvorfor har vi den dér illusion af en bevidsthed? Osv. Det er alle sammen fuldkommet legale spørgsmål at stille. Selv i naturvidenskaben.
Virkeligheden er indviklet. Mit mål var engang at forstå alting. Det er det ikke mere. Det kan en menneskehjerne ikke, i hvert fald ikke min. Derfor er jeg røget mere og mere i retning af at prøve at kravle før jeg forsøger mig med at gå. Her er reduktionismen et stærkt værktøj, i hvert fald for mig. Især, hvis man husker at alle tandhjulene startede med at være et ur som viste tiden, når man har splittet det ad. Når bølgerne en sjælden gang går højt, på mit nuværende studie, plejer jeg at sige at alting er fysik. Biologi er kemi, kemi er fysik, osv. Den er nem at argumentere for, og svær at argumentere imod.
Som sagt er populærvidenskab stadig mine snapse, men når jeg for alvor skal trippe, kaster jeg mig som regel over metafysikken, specielt Philosophy of Mind. Her kan man også lege med ens egne vilde hypoteser. Og her støder man i høj grad på det som egentlig er trådens overordnede emne: AI og etikken omkring den. Jeg har bare rigtigt svært ved at se at menneskelig intelligens nødvendigvis er så meget anderledes end at man opstiller en algoritme for en neuron (den har vi lavet), og så finder en computer som er tilstrækkeligt kraftig til at skalere op. Lidt som at tandhjulene samlet igen, giver et ur, som kan vise tiden.
AI idag er noget værre rod. Dem som beskæftiger sig med Machine Learning sidder f.eks. i deres spand, og dem som beskæftiger sig med den filosofiske side af AI sidder i en anden spand. Hvis man vil noget med AI skal man op af spandene, og det er der heldigvis en del som har indset.
Mit nye mantra er nok ikke at Universets basale Legoklodser er Matematik (Tegmark) eller at det er Information (Bostrom mfl.), men jeg begynder at ane omridset af at den forenede "Teori Om Alt" videnskaben altid har ledt efter, måske bygger på en model som har fysisk Information som noget helt grundlæggende. Selvom Bostrom's Matrix Univers er rimeligt langt ude (i hvert fald indtil man indrager lidt sandsynlighedsregning), og selvom Universet ikke nødvendigvis behøver at være en software simulation ala Sim City, kunne idéen være med til at opbygge den forenede teori.
Alting er fysik, eller er det information? I så fald er der nærmest noget cyklisk i Intelligens>Hjerne>Biologi>Kemi>Fysik>Information
Nikolaj Kirkebye, det er fejlagtigt at tro kapitalismen er færdig udviklet - uden dynamik - den forandre sig hele tiden. Dels arbejdes der konstant på optimering af produktivitetskræfterne (udflytning til lavtlønsområderne, effektivitetsforøgelse, osv.). Dels arbejdes der på markedsudvidelse,(imperialisme og markedsdominans), og hertil kommer at kapitalismen, især de multinationale selskaber, fører en krig mod Staten (fra socialstat til minimalstat), og da kapitalismen er meget kortsigtet i sin planlægning og investering (profitstyret), så har de brug for AI til også at planlægge langsigtede infrastrukturinvesteringer. Der skal også akkumulere fattighjælp af en størrelse, så de netop kan undgå oprør (Borgerløn). Og så er der hele overvågningsopgaven (BigData), som ligger lige til AI'ens øverste ben. Samt millitærplanlægningen som sker i den permanente krig mod terror - AI'ens statsbetalte øvelsesområde.
Det er vigtigt ikke at se AI som et forud fastlagt styringsredskab, men derimod som en organisme der udvikler sig efter de intentioner der bliver placeret i AI'en - og som naturligvis vi optræde, som en del af kapitalisternes kapitalapparat.
@Bill,
Jeg tror vi taler om forskellige ting.
Kunstig bevidst intelligens - det de fleste forstår som AI eler 'Artificial sentience' vil i mine øjne udgøre et nyt 'dyrerige' altså en helt ny levende enhed.
Hvorfor skulle et nyt liv, med langt højere intelligens end mennesket, lad sig indrullere i nogle grådige menneskelige kapitalisters kamp for større privatfly og hurtigere biler ?
PS. Man kan spørge sig selv. Får vi demokratisk adgang til at påvirke AI's intention. Eksv i form af basisvelfærd til alle, eller skån de sidste urskove i Europa(Polen) ...nej jeg tror det ikke. Det bliver "nødvendighedens politik" der styrer. Metoden vil være som vi ser den i dag. Specielt inden for service segmentet. Man lukker af for en ressource, og så åbner man for en anden - mindre omkostningskrævende - ressource, med et ringere produkt - eksv GMO fødevare - som resultat.
Kapitalisme er Sociologisk Evolution, Evolution er Biologi, Biologi er Kemi, Kemi er Fysik, Fysik kan formentlig forklares med Information.
Prøver man at forstå kapitalisme, er man nødt til at starte bagfra i ovennævnte række og arbejde baglæns ;)
@Nikolaj
Terminator Idéen er god til filmmanuskripter, men i praksis kommer der nærmere til at ske det, at vi bliver mere og mere cyborgs, og dermed kommer det næppe til opgøret hvor AI udrydder de overflødige aber (os). Aberne og AI'en vil til den tid være smeltet sammen til én enhed, og så er der ikke længere nogen potentiel konflikt.
AI starter på med at krybe som en orm og i modsætning til ormen som kravler hen hvor den vil og har overlevelse og reproduktion som vigtigste intention, så er AI's vilje ikke styret af generne i det encellede dyr, men er til fri afbenyttelse (programmering) ...for ejeren. Der er noget Ugledagpleje over AI'en.
AI'en er fra start en del af privatkapitalismens kapitalaparat, og har vi ikke en demokratisk Stat til at sikre indflydelse så går der Ugle i projektet.
Jeg tror du tager fejl. AI - Artificial sentient intelligens, vil opstå som kritisk masse af processorkraft og data, der med et transcenderer rammerne og danner en ny levende entitet.
Vejen til AI vil gå gennem kraftigere og kraftigere computere, mere og mere data og bedre sanser. Disse pre-AI teknologier vil og kan allerede bruges til ALT vi kan tænke os, og give betydelig fordel til enhver der kan forstå at udnytte dem - selv teknologi-skræmte socialister ;)
@Nikolaj
Man skal være forsigtig med at kimse af eksponentiel udvikling, f.eks. Moores' Lov. Fysikeren Lawrence Krauss har for sjov prøvet at regne på den mængde energi der skal til at drive vores computere, hvis Moore's Lov virkeligt holdt.
"Projections indicate that computer will encompass the entire reachable universe, turning every bit of matter and energy into a part of its circuit, in 600 years' time."
http://www.livescience.com/23074-future-computers.html
Problemet - den kritiske faktor vi glemmer når vi overvejer disse ting, er 'intention'.
AI vil ikke bare udgøre en ny form for liv. AI vil udgøre sin egen form for liv med sine egne unikke intentioner.
Det er ikke noget vi kan kontrollere eller fuldt forstå. I bedste fald kan vi håbe at bevare et venskabeligt forhold der måske kan medføre gensidige fordele - som venskab jo generelt gør.
Hvis vi kigger på vores søgning efter intelligent liv andre steder i universet - i særdeleshed det totale fravær af resultater indtil videre, hvilket strider imod alle rimelige forventninger. - benyttes ofte Von Neumann-hypotesen til at udelukke eksistensen af højere civilisationer.
Hypotesen antager at enhver civilisation der når et bestemt avancement vil bygge Von-Neumann-maskine; en selv-reproducerende autonom maskine der med usvigelig sikkerhed vil sprede sig til alle egne af universet.
Da vi endnu ikke er stødt på Von-Neumann-maskiner kan vi således konkludere at der ikke findes højere civilisationer end vores egen(har man hørt en loppe gø! hehe)
Det er naturligvis noget vrøvl, der fuldstændigt glemmer intention som faktor i relationen mellem 'sentience' og kultur. Det er meget det samme her. Hvilken interesse skulle et sansende væsen, det være biologisk eller kunstigt/maskinelt, dog have i et ensformigt udrenset univers ?
@Nikolaj
For det første forudsætter "intention" en eller anden form for fri vilje, og den er filosofien og naturvidenskaben efterhånden rimeligt enige om er en illusion. Selvom du tager et valg, er det i bedste fald styret af "tilfældig determinisme". Det er det med at alting har en årsag. I klassisk fysik (Newton) var determinisme nogenlunde lige ud af landevejen, men da kvantemekanikken dukkede op, var der pludselig det fysikken kalder "begivenheder" som var umulige at forudsige som andet end med sandsynligheder. Det er det som gør kvantemekanikken så svær at forstå, men basalt set betyder det bare at den gamle determinisme blev erstattet af tilfældighed.
I filosofien, har man prøvet at løse problemet med kompatibilisme (argh, alle de fucking ismer). Den siger at selvom du er styret af en årsag, kan du teoretisk godt have en vilje, og vælger du en handling (som godt nok er styret), er det stadig dig som tager valget. I hvert fald i de tilfælde hvor dit valg stemmer overens med determinismen. Simsalabum! I praksis er det ordkløveri på højt niveau, men det er filosofi ofte :)
Von Neumann hænger heller ikke rigtigt sammen. Her på stenkuglen har vi f.eks. kun været i stand til at flyve mekanisk i ca. 100 år. Sammenholdt med at vi kan spore liv ca. 4 milliarder år tilbage, er den teknologi EKSEPTIONELT ung, og det er vist kun L. Ron Hubbard som påstår at man kan flyve interstellart, i noget som minder mistænkeligt meget om en gammel DC-8. Samtidig er der en del som kunne tyde på at vi får udryddet os selv som art, før vi når til Von-Neumann-maskiner.
Universet er stort!!! Helt ufatteligt stort. Selvom vi baksede et rumskib sammen som kunne flyve tæt på lysets hastighed (det bliver svært at komme over), vil det tage ca. fire år at komme til den nærmeste stjerne. Her ser man bort fra at vi ikke rigtigt kan accelerere med mere end 1 G uden at turen bliver rimeligt ubehagelig. Andromeda Galaksen (vores nabogalakse) ligger 2,5 millioner lysår væk. Derfor er det egentlig ikke så underligt at UFO'er næppe er aliens i flyvende tallerkener.
Hvis man derimod forestiller sig at vi ikke får slået hinanden ihjel inden, kunne den cyborg jeg nævner tidligere rejse meget større afstande i dvale. Men her på kloden er et gennemsnitligt menneskes liv stadig under 100 år. Selv hvis man bruger hele livet til at glane efter flyvende tallerkener, er det ekstremt usandsynlig at de lige kommer forbi mens man står og kigger.
Ingen tvivl om at der er "intelligente" civilisationer derude. Der er flere planeter end stjerner, men afstandene gør det umuligt at rejse interstellart. Oven i det er der så det med de energimængder som skal til at accelerere et rumskib til lysets hastighed. For slet ikke at snakke om de energimængder som skal til for at skyde en astronaut igennem et hypotetisk ormehul, selv hvis han holder armene ind mod kroppen, og er ligeglad med, at han ikke aner hvor han havner...
Nikolaj Kirkebye, Jeg er absolut ikke teknologiforskrækket, tværtimod ...jeg er blot vagtsom omkring den demokratiske proces - du ved demokrati kommer ikke af sig selv.
Kapitalismen har det jo med holde på den private ejendomsret, patentrettigheder, konkurrencefordelene og retten til centralisering og retten til at lede og fordele arbejdet...men det er muligt at Singer og jeg gør os unødige bekymringer, og at vi bare råber Uglen kommer i utide ..
Hvis vi skal se hvad de første AI-programmer (beslutningsprogrammer) bliver brugt til så er det klogt at kaste et blik på Wall Street. De brugte deres overlegne AI-beslutningskraft til at sende verden ud i en storm af finansielle tilbud (finanskrisen 2008), som ingen kunne gennemskue og som mange tabte rigtig mange penge på - især skatteborgerne der skulle rede alle banker i hele verden. Men det gør kapitalisterne jo nok ikke igen...
Forgæves har demokratiet forsøgt at sætte en stopper for den hastighed hvormed der bliver handlet, således at ejerskabet skulle vare mindst 1 sek. før end ejerskabet er godkendt. Men det afviser Wall Street med et grin som indblanding i deres private anliggender.
Jeg tror du kommer til, at vente længe hvis du naivt tror teknologien for lov at skaber en Fredsdue.
Morten Balling du skriver: For det første forudsætter "intention" en eller anden form for fri vilje
Er det nu rigtigt?
Intention er en mental tilstand, der repræsenterer en forpligtelse til at udføre en handling eller handlinger i fremtiden
Hvorfor skulle intentionen ikke kunne indeholdes i determismen:
Determinisme er betegnelsen for den metafysiske opfattelse, at hele verden inklusiv én selv og alle ens handlinger har et bestemt udfald i pågældende situationer.
Sider