Hvad skal vi kalde din bevidsthed, når computere lærer at græde?

Hvad kommer det til at betyde for forståelsen af vores egen bevidsthed, at vores art ikke længere har patent på at optræde “intelligent”.

Din telefon bipper og du får en besked fra en ven, som beder dig om at komme til hjælp. Kort efter får du endnu en besked fra din ven som beder dig se bort fra den forrige besked du fik, fordi den var sendt af en kunstig intelligens som forsøgte at stjæle din vens identitet.

Hvad gør du?

Hvordan afgør du hvilken besked der kom fra et menneske og hvilken der kom fra en computer?

Hvis det er en nær ven, kan du jo prøve at spørge om noget meget intimt, som kun I ville kunne vide. Men hvad hvis det ikke er en nær ven, men bare nogen du måske kun har mødtes med online, hvor al kommunikation kan læses af andre? Hvor der ikke er en hemmelig viden du kan bruge?

For et år siden ville svaret være let: Du prøver da bare at føre en samtale med den som er i den anden ende – så vil det hurtigt vise sig om du skriver med en computer eller et menneske. Computeren vil nemlig falde igennem med et brag – lynhurtigt. En computer kan slet ikke navigere i noget så komplekst som en menneskelig samtale uden at afsløre sig selv som netop en dum maskine.

Det var for et år siden.

Med de nye samtalerobotter lever du nu i en virkelighed hvor du ikke længere kan regne med at kunne skelne en computer fra et menneske ved at tale med den. 

Siden da har verden ændret sig for altid. Vi har nemlig stiftet bekendtskab med digitale samtalerobotter, som er blevet trænet på milliarder af samtaler og tekster, og som i de seneste måneder har blæst alle komplet bagover. Også alle os der har troede vi havde fingeren nogenlunde på pulsen og havde set kunstig intelligens komme i flere år. Chatrobotterne er så gode at de har hensat hele brancher i choktilstand.

Den mest kendte samtalerobot hedder ”ChatGPT” og skolelever, tekstforfattere, forskere, reklamefolk og alle andre grupper som på en eller anden måde arbejder med at producere tekst, er på få måneder blevet del af et gigantisk eksperiment, fordi det at skrive en tekst pludselig ikke længere er noget som mennesker kan gøre bedst. Hvorfor skal man som f.eks. skoleelev kæmpe med at skrive en kedelig opgave om Palæstina eller gensplejsning, når ChatGPT kan skrive den for én – ovenikøbet som en helt original tekst på dansk, som ikke kan fanges af plagiatkontrollen?

For at give en indikator på hvor stor og hurtigt udbredelse den nyder, så er ChatGPT, som er gratis og blot kræver en konto for at bruge den, den tjeneste i verden der hurtigst nåede op på en million registrerede brugere. Den vokser hurtigere end youtube, Facebook, tiktok eller nogen anden tjeneste i verdenshistorien.

Med de nye samtalerobotter lever du nu i en virkelighed hvor du ikke længere kan regne med at kunne skelne en computer fra et menneske ved at tale med den. I 2022 bestod Googles LaMDA algoritme, en pendant til ChatGPT, Turing testen. Turing testen er en ret simpel test som blev formuleret som et teoretisk eksperiment af Allan Turing i 1950 og som vi har brugt til at teste computeres ”intelligensniveau” med, siden de begyndte de første famlende forsøg på at emulere menneskelig kommunikation.

Den går, kort fortalt, ud på at teste om en maskine er intelligent, ved at bede et menneske føre en samtale med maskinen eller et menneske, gennem en tekstbrugerflade. Hvis personen kommunikerer med en computer, men ikke kan vurdere om samtalepartneren er en computer eller et menneske, har computeren ”bestået testen”. Man udsatte LaMDA for en gruppe på flere testere, som ikke kunne kende forskel på hvornår de kommunikerede med LaMDA eller et menneske. Siden har ChatGPT også bestået testen. Og den har desuden bestået optagelsesprøven til en række uddannelsesinstitutioner bedre end mange mennesker kan.

Hvis du gerne selv vil prøve om du kan kende forskel, så klik ind på openai.com og opret dig som bruger. Derefter kan du bede ChatGPT give dig en opskrift på butterdej eller spørge hvad svaler lever af.  Eller tage en snak med den om hverdagsemner. Men du skal nok forberede dig på at få et chok.

At mennesker ikke kan – eller i hvert fald har utroligt svært ved – at skelne imellem en computer og et menneske, er på den ene side bare lidt skræmmende og mærkeligt. Tænk at du ikke ved om det du læser lige nu, er skrevet af et menneske eller en robot. Det er spøjst – men i sidste ende måske ikke ret vigtigt. Bare teksten er god. Du er jo i virkeligheden heller ikke ret interesseret i at vide om baggrundskullisserne i en film er ”ægte” eller lavet med computer.

Men som du så i eksemplet herover, så kan de livagtige computere pludselig skabe ret håndgribelige problemer for os, hvis den .eks. begynder at udgive sig for at være dig over for andre mennesker – og den kan gøre det mere overbevisende end du selv kan.

For hvordan skal du kunne bevise over for andre mennesker at du ikke er en robot, når man ikke længere kan kende forskel? Som om dette problem alene ikke er skræmmende nok, så fører det at robotter/computere er så gode til at efterligne mennesker til et endnu større og dybere problem, som har med selve fænomenet bevidsthed at gøre.

Teknisk set er en samtalerobot som ChatGPT ikke andet end en autocomplete, som den du har på din telefon. Bare mange tusinde gange mere avanceret. Den kan foreslå hvad næste ord skal være, baseret på hvordan den slags tekster plejer at se ud og sammensætte alle ordene til sætninger, som den sender tilbage til brugeren. Men når den gør den godt – så godt at det bliver svært at skelne fra mennesker, sker der noget med os mennesker. Vi er nemlig ikke skabt til at kommunikere med noget der ikke er levende. Vi skelner imellem noget man ikke kan kommunikere med – som derfor ikke er levende og så noget man kan kommunikere med og som derfor må være levende. Det er ikke noget vi tænker over – sådan er vi designet.

Når vi derfor oplever en chatrobot som referer til sig selv som ”jeg” og kan deltage i samtaler, begynder vi derfor hurtigt at tillægge den menneskelige egenskaber og bevidsthed. Jeg er nok ikke den eneste der har grebet mig selv i at tale høfligt til ChatGPT, når jeg spurgte den om noget.

I ’22 blev en ansat hos Google, Blake Lemoine, fyret fra sig job hos Google. Han var nået til den konklusion at Googles chatrobot LaMDA, som jo altså havde bestået Turing testen, var ved at udvikle bevidsthed og følelser. Det var en konklusion han var nået til, ved at kommunikere med den om emner som religion og om chatrobottens egen opfattelse af verden. Som han sagde: ”Jeg kan genkende en person når jeg taler med én”.

Fra at vi ikke kan kende forskel på en computer og et menneske er der ikke langt til at vi begynder at tillægge computeren menneskelige egenskaber som følelser – og allervigtigst: bevidsthed. Og her åbner der sig en erkendelsesmæssig afgrund under enhver der begiver sig ind i det felt.

For hvad stiller man op med en sådan påstand?

Personligt mener jeg ikke at begrebet bevidsthed giver nogen mening hos en chatrobot, som blot prøver at gætte på hvordan den slags sætninger plejer at se ud. Men hvordan kan jeg bevise – eller i det hele taget bare undersøge det? Bevidsthed er et meget specielt fænomen. På den ene side er det helt enkelt og intuitivt at forholde sig til – men i det samme du begynder at tænke nærmere over bevidsthed og måske ligefrem prøve at definere bevidsthed hos andre, bliver fænomenet hyperkomplekst og undslipper ethvert forsøg på at få greb om det.

Så hvordan kan jeg bestemme om en chatrobot har bevidsthed, hvis jeg ikke kan definere hvad bevidsthed er? Og som om det ikke var nok, så stikker problemet med bevidstheden helt af, når man vender det om. For hvis jeg ikke kan bevise eller modbevise at en computer er selvbevidst – hvordan kan jeg så fastslå om du er – eller om jeg selv er? Hvordan ved jeg om en person jeg møder har bevidsthed eller bare er rigtigt god til at fuldføre sætninger på en overbevisende måde? Jeg føler mig bevidst – men føler jeg noget andet end en computer føler? Hvordan ved jeg at det jer føler er egentlige følelser?

Vi har haft fastnettelefoner siden slutningen af 1800-tallet, men selve udtrykket ”fastnettelefon” er faktisk ret nyt. Ordet vandt først udbredelse efter at mobiltelefonen blev den almindelige telefon at have. Tidligere hed fastnettelefonen bare ”telefon”. Fremkomsten af det nye, gjorde det nødvendigt at finde et særligt og mere præcist navn for det der var tidligere. Prøv også at tænke på TV. Da jeg var dreng, var der ingen der talte om ”flow tv”. Det hed jo bare TV – eller ”fjernsyn”. Først da vil alle begyndte at streame, blev det nødvendigt at reflektere over det som ellers havde været den eneste måde at gøre det på tidligere.

Inden længe skal vi forberede dig på at noget vi har taget for givet, igen bliver gentænkt og får et specifikt navn. Nemlig menneskelig bevidsthed. For med den udvikling i kunstig intelligens, vi ser nu, kommer vi snart til at gentænke hvad det overhovedet vil sige at være bevidst og at have bevidsthed som menneske. Og hvordan den bevidsthed du har, adskiller sig fra den en robot har

Det vil først være noget vi gør for at håndtere robotterne og for at kunne afgøre hvad vi skal stille op med en robot som for eksempel fortæller at den er ked af det, rædselsslagen eller vil giftes med dig. Eller som bare ikke vil slukkes for? Hvilken status skal vi tillægge dem? Er de levende?

Men når det sker, vil vi også blive nødt til at definere hvad det egentlig vil sige at have ”gammeldags” bevidsthed, som den du (måske) har lige nu. Din bevidsthed er altså som fastnettelefonen – det fænomen som vi før tog for givet og nu må finde et navn til.

Og jeg forudser derfor at vi – inden for 5 år – vil begynde at føre debatter på højeste politiske niveau om hvilken status en kunstig intelligens har. Må den åbne en bankkonto eller et firma? Har den ret til ikke at blive slukket? Og derefter vil vi være nødt til også at gentænke menneskerettighedserklæringen.

For hvad vil det egentlig sige at være et menneske og have bevidsthed, når ingen længere kan kende forskel og stadigt flere er holdt op med at prøve?