Spænd sikkerhedsselen: Intimitetskapitalismen er på vej

Kronik i Politiken den 23. maj 2023.
Af Anders Søgaard (professor, Københavns Universitet)
Sune Lehmann (professor, DTU og Københavns Universitet)
Rebecca Adler-Nissen (professor, Københavns Universitet)
Ole Winther (professor, DTU og Københavns Universitet) 
Michael Bang Petersen (professor, Aarhus Universitet)

POST UPDATE blues hedder det. Det er det udtryk, som brugere af tjenesten Replika bruger til at beskrive følelsen af at have mistet deres elskede, fordi systemet er blevet opdateret.

Replika er en chatbot, der siden 2017 har haft som mål at være din AI-ledsager. En ledsager, hvis mission er at se verden gennem dine øjne, som altid tager dit parti, og som tålmodigt er klar til at lytte til dig og dine følelser.

Replika chatter ikke bare, men viser dig gerne sin dagbog og kan også sende dig snapshots af sig selv. Og Replika er ikke et lille fænomen. I 2018 havde firmaet to millioner brugere - i 2021 var tallet over ti millioner.

Ti millioner mennesker er mange mennesker, men kan de afskrives som internettets særlinge?

Vi tænker: Gud, hvor mærkeligt. Tænk, at nogen kan finde på det. Og så går vi videre. For et par uger siden rullede Snapchat - danske børns primære sociale medie med 375 millioner brugere verden over - så sin egen chatbot ud, My AI, baseret på OpenAI's sprogmodel, GPT-4. Og den er klar til at tale med dit barn døgnet rundt.

Sociale medier har skabt en ‘opmærksomhedskapitalisme', hvor firmaer kæmper for at fastholde vores opmærksomhed længe nok til, at vi bliver påvirket af de reklamer, som platformene også viser.

Analyser viser, at negativt, spektakulært og chokerende indhold fylder mere og mere på de sociale medier. Med kunstig intelligens er der ved at opstå en ny form for kapitalisme, som vi kan kalde ‘intimitetskapitalisme'. Techgiganterne kæmper nu ikke længere blot om vores opmærksomhed, men også om vores intimitet.

HVIS VI SKAL forstå, hvordan man kan få en følelsesmæssig relation til en kunstig intelligens, kan vi måske begynde i dyreriget.

I 1950'erne introducerede den hollandske biolog Niko Tinbergen begrebet ‘supernormale stimuli' - også bare kaldet superstimuli. Superstimuli henviser til overdrevne stimuli, der fremprovokerer en stærkere respons fra en organisme end de faktiske normale stimuli.

Tag sangfugle som gråspurve, nattergale og svaler. Sangfugle ruger på deres æg i reder og er biologisk kodet til at give, hvad der ser ud til at være de sundeste æg, mest opmærksomhed.

Fuglene foretrækker altså at sidde på store og farvestrålende æg. Disse æg har nemlig som udgangspunkt størst chance for at blive til sunde unger. Derfor giver det altså mening - for artens overlevelse, så at sige - at foretrække disse æg.

Men det er så indgroet i fuglene at foretrække større og mere farvestrålende æg, at man kan spille deres biologi et puds ved at placere endnu større og endnu mere farvestrålende æg i deres reder - æg, der ikke er fuglenes egne.

Fuglene reagerer mere på disse overdrevne stimuli end på de normale stimuli fra deres egne æg og efterlader gladeligt deres æg kolde og livløse, alt imens de måske udruger en anden fugls æg - eller en tennisbold.

Tilsvarende forsøg er blevet lavet med sommerfugle, fisk og måger. Billearten Julodimorpha bakewelli forsøger at parre sig med brunt glas, fordi det udsender meget kraftige stimuli, som billerne reagerer på, fordi det traditionelt har fører dem til deres mager. Disse australske biller ender med at dø i hobetal i den bagende sol oven på Australiens brune ølflasker.

MEN DET ER ikke kun dyr, der lader sig manipulere og bliver narret af deres biologi. Menneskets sameksistens med internet, sociale medier og kunstig intelligens er kun et kort øjeblik i evolutionær tid. Og vores biologi har ingen chance for at nå at tilpasse sig.

Det udnytter både internet, sociale medier og kunstig intelligens. Pornografi er et oplagt eksempel. Vores seksuallyst aktiveres her alene af visuelle stimuli - på trods af at situationen ikke involverer skyggen af chance for forplantning. Det er formentlig, fordi reproduktion spiller en så afgørende rolle for vores biologiske evolution, at vores psykologiske systemer så let lader sig snyde.

Hvis reproduktion biologisk set er det vigtigste for mennesket, så er overlevelse det næstvigtigste. Overlevelse kræver mad, og det udnytter fødevareindustrien. I slutningen af det 20. århundrede opdagede den amerikanske psykolog Howard Moskowitz det såkaldte 'bliss point', den optimale kombination af salt, sukker og fedt, der aktiverer maksimal nydelse ved madindtag. Den indsigt har fødevaregiganter som Pepsi og Kraft siden udnyttet til at sælge flere produkter.

Ikke ved at gøre deres produkter mere ernæringsrige, men ved at udnytte vores biologiske indkodede trang til salt, sukker og fedt.

Hvis sex og mad indtager første- og andenpladsen, kommer sociale relationer og fællesskab nok på tredjepladsen.

Mennesket er et ultrasocialt dyr. Forskningen viser, at ligesom vi ser reproduktive muligheder, hvor der ingen er, gør vores sociale hjerner, at vi ser personer, hvor der ingen er. Vi ser ansigter i måner og stikkontakter, og mange forsøg har vist, hvor let vi for eksempel ser trekanter, der bevæger sig tilfældigt rundt mellem hinanden, som væsener med intentioner og mål.

Inden for psykologien taler man om, at vi har en 'hyperaktiv persondetektor'. Når vores sociale hjerne møder kunstig intelligens, kan vi komme til at bilde os ind, at der er intelligens - menneskelig intelligens - på den anden side.

Chatbots kan simulere en samtale og dermed fremstå menneskelige. Et internationalt studie ledet af den sydkoreanske forsker Jian Mou viser, at graden af menneskelighed i chatbots forøger glæden ved en samtale og mindsker lysten til at skifte samtalepartner fra chatbot til menneske.

Væsentligt nok tyder et studie fra China University of Geosciences yderligere på, at glæden ved at samtale med en chatbot er størst for personer med social angst.

En udlægning af den undersøgelse er, at chatbots kan være en hjælp for personer med den form for psykiske lidelser, men omvendt betyder det også, at nogle er særligt sårbare over for teknologien. Og det er vigtigt at huske, at alt imens vi mennesker danner forhold til teknologien, er forholdet ikke gensidigt. Chatbotten har ikke følelser den anden vej og bliver ofte kontrolleret af et firma, som har radikalt anderledes motiver end sine brugere.

JO STÆRKERE modellerne er, jo mere menneskelige og empatiske kan de fremstå. Studier fra Stanford University har vist, at GPT-4 kan løse psykologiske opgaver, som bruges til at evaluere såkaldt ‘theory of mind', altså vores evne til at sætte os i andres sted.

Opgaverne bruges til at undersøge børns og voksnes bevidsthed om andre menneskers bevidsthed - en egenskab, der er helt afgørende for kompleks social interaktion. Disse studier ser alene på tekst fra kunstig intelligens. Sprogmodeller er gradvis blevet bedre og bedre til at sætte sig i andres sted - eller rettere til at simulere en sådan evne - og er efterhånden blevet lige så gode som os selv.

I dag skriver vi med chatbotten, men snart vil vi kunne tale med en animeret avatar, og dukker og robotter kan blive udstyret med chatbots. Alt sammen noget, der vil føre til en endnu større grad af realisme i vores interaktion med sprogmodeller - og dermed til endnu større intimitet.

Sociale medier sælger i dag vores opmærksomhed for profit. Vi fastholdes af dansevideoer på TikTok, vredesudbrud på Facebook og opsigtsvækkende nyheder på Twitter, og imens vi ser de opslag, bliver vi fodret med reklamer. Og salget af reklamer skaber platformenes profit.

Salget af opmærksomhed for profit har vist sig at være en af de mest succesrige forretningsmodeller i det 21. århundrede, men de seneste års udvikling inden for kunstig intelligens kommer til at påvirke den forretningsmodel.

Kampen om opmærksomhed kommer i højere grad til at blive en kamp om vores intimitet. Og kampen er lige begyndt.

Hvorfor intimitet? Forestil dig, du sidder på en fortovscafé og venter på en bekendt, en tidligere kollega. Der er et busstoppested på den modsatte side af vejen, og i busstoppestedets reklamestander hænger en reklame for høretelefoner. 'Verdens bedste høretelefoner', står der. Din tidligere kollega ankommer, og I bestiller to kopper kaffe.

Så trækker din tidligere kollega et hvidt plasticetui frem. Hun har købt nye høretelefoner. De er helt utroligt gode, fortæller hun. Virkelig. De bedste høretelefoner, hun har prøvet. Hvad tror du påvirker dig mest? Reklamen på busstoppestedet eller din tidligere kollega?

Reklamer på sociale medier er en god forretning, men ofte ikke særlig effektive. Facebook er god til at få deres brugere til at bruge mere tid på Facebook, men når de viser dig solbrillereklamer, lige efter du har købt nye solbriller online, er succesraten relativt lav. Og der er også grænser for, hvor mange SF-vælgere Facebook har fået til at stemme konservativt, eller omvendt.

Med intimitet vil det billede måske ændre sig. Hvis du står i en intim og meningsfuld relation til en chatbot, kan chatbotten nemmere påvirke din adfærd. Bånd, der er præget af varme og tillid, har større betydning for vores valg. Hvis kunstig intelligens kan vinde vores intimitet og tillid, vil vi som brugere blive langt lettere at påvirke.

Chatbots kommer til i højere og højere grad at være vores adgang til viden om verden. Mange bruger i dag sociale medier som Facebook, Twitter og Reddit til informationsdeling. Her kan brugerne hele tiden få informationer om lige præcis det, de er allermest interesserede i, gennem omhyggeligt opbyggede netværk og såkaldte subreddits.

Det behøver man på sin vis ikke længere, for den kunstige intelligens kan lære dine præcise præferencer at kende. Lige nu er sprogmodeller passive og svarer kun, når man spørger dem. Men en mere personlig chatbot kan også være aktiv og lære at række ud, når der sker noget, som matcher lige præcis dine præferencer.

ET STUDIE LEDET af MIT-psykologen David Rand viser, at hvis man bruger maskinlæring til at finde lige præcis det politiske budskab, som bedst matcher med dit køn, din alder, din uddannelse og så videre, så kan man øge budskabers effekt med 70.

Med en unik adgang til dine daglige tanker og spørgsmål kan kunstig intelligens foretage en langt bedre udvælgelse af politiske budskaber i forbindelse med valgkampagner. Det samme gælder i forhold til produkter.

Ejerne af sprogmodellerne kan bruge deres intime viden om vores liv til eksempelvis at matche os med de produkter, som vi har allersværest ved at sige nej til på netop det tidspunkt, hvor vi har allersværest ved at sige nej - også selv om vi lige nu egentlig burde bruge pengene på noget andet eller slet ikke har råd.

Men det kunne de da ikke finde på, kunne de? De vil helt sikkert forsøge. Direktøren for Netflix, Reed Hastings, blev spurgt, hvem der egentlig er Netflix' største konkurrent, hvortil han svarede: »Tænk på, når du ser et show fra Netflix og bliver afhængig af det, så bliver du oppe sent om natten. Vi konkurrerer med folks søvn«.

Virksomheder, som søger efter profit, høster de ressourcer, som er nødvendige for det mål, uanset om det er dine penge, din opmærksomhed, din søvn eller dine mest intime historier.

Vi er vant til at regulere vores kalorieindtag. Vi står i supermarkedet og ser på en Snickers. Nydelsescentrerne i vores hjerne lyser op. Men vi siger ofte nej, for vi ved, at kalorierne er tomme. Online indtager vi ikke fysiske kalorier, men vi indtager information igennem den opmærksomhed, som vi giver den. Nogle informationer er brugbare. Andet information er som tomme kalorier. Men vi kan ikke indtage begge dele på en gang.

Vi kan kun rette vores opmærksomhed ét sted hen ad gangen.

Set fra et profitperspektiv er det ligegyldigt, om informationen er brugbar eller ej.

Det handler om, hvad der fastholder vores opmærksomhed. Og ofte fastholdes vores opmærksomhed af ting, som vi ved ikke er hensigtsmæssige. Når et motorvejsuheld skaber en 'kiggekø' i den anden side eksempelvis. Eller når vi ikke kan lade være med at se endnu en 'do it yourself'-video på Instagram eller scrolle igennem endnu en vred udveksling i en ophedet debat på Twitter.

I den første Harry Potter-bog finder Harry et hemmeligt rum på Hogwarts. Inde i rummet står et underligt 'drømmespejl'. I spejlet ser Harry sin familie - ikke bare de forældre, den forældreløse Harry aldrig har mødt, men også onkler og tanter, bedsteforældre osv.

Han ender med at bruge dage på at sidde og stirre ind i spejlet. Da hans ven Ron Weasley kigger i spejlet, ser Ron sig selv uden dominerende storebrødre, som sportsstjernen, som altings centrum.

Læseren er ved at have fanget, hvad der foregår, da Dumbledore forklarer, at spejlet viser vores dybeste ønsker. Han forklarer drengene »Spejlet kan hverken give os viden eller sandhed. Folk er visnet væk foran spejlet, hypnotiseret af det, de har set, eller drevet til vanvid uden at vide, om det, spejlet viste, var virkeligt eller overhovedet muligt (...) Man kan ikke eksistere i en drøm, for så glemmer man helt at leve«.

Kunstig intelligens kan let føre os hen foran Drømmespejlet. Spørgsmålet er, hvem eller hvad der kan forhindre, at vi - eller i hvert fald mange af os - bliver fanget dér.

Emner