Vi skal ikke være bange for, at alle unge bliver grebet af chatbotternes manipulationer

Debatindlæg af sociolog og tiltrædende videnskabelig assistent Livia Ejdesgaard (Syddansk Universitet) og lektor Jakob Demant (Sociologisk Institut, KU) i Altinget den 13. august 2024. 

Snapchats ‘My AI’ er en menneskeliggjort chatbot, der præsenteres som en ny ven for appens unge brugere.

Den offentlige debat er præget af bekymringer for de unges brug af chatbotten, senest repræsenteret af Amalie Lyhnes indlæg i Berlingske 17. juli, hvor chatbotten beskrives som en farlig ven. Men vi glemmer at se på, om unge faktisk bruger chatbotten venskabeligt.

Pling! Den nye AI chatbot ’My AI’ dukker op på din skærm. “Hej, vil du chatte med mig?” Ikke nok med, at den gerne vil chatte med dig, den vil faktisk også gerne være din ven - helt ligesom Marco fra klassen. 

Snapchats venskabs-AI er bare én af mange nye AI-teknologier, der emulerer sociale relationer. Disse såkaldte ’Social AI’ kan efterligne en social samtale så godt, at de potentielt kan få unge til at dele deres inderste tanker og følelsesliv – vel at mærke med et syntetisk system. 

De unge opfatter chatbottens kommunikation som støttende, men dette får den ikke til at fremstå som en ægte ven.

Hvis man spørger danske interesseorganisationer som Børns Vilkår og Medierådet for Børn og Unge, hvorvidt My AI kan være en ven på linje med unges menneskevenskaber, så er svaret klart nej. My AI kan på ingen måde agere som en forsvarlig ven. Den støtter dig ukritisk, og den svarer ofte med usandheder og misinformation.

Det er vist, at My AI kan hjælpe med råd til skadelig adfærd eller køb af illegale produkter. Der er dermed en generel opfattelse af, at det kan være problematisk, hvis unge får en følelsesmæssig tilknytning til chatbotten. Der er bare én vigtig ting, vi har glemt: At spørge de unge selv.

I en mindre sociologisk undersøgelse har vi set nærmere på, om My AI kan være en god ven for unge. 24 gymnasieelever i alderen 18-19 år er blevet interviewet. Med denne undersøgelse etableres et fundament for fremtidige studier på området.

Det er dog værd at forholde sig til de første resultater.

En ven fra klassen? 

De unge opfatter, at chatbotten “... udgiver sig for at være en person” og ”… prøver at være en dybere erstatning for en ven.”

Fremstillingen som et menneske kaldes antropomorfisering, som hos chatbotten kommer til udtryk ved menneskelige ansigtstræk, at skrive i samtalesprog og foregive at have følelser og egne oplevelser. De unge genkender således My AI’s præsentation som en ven.

Det store spørgsmål er, om denne præsentation giver dem lyst til at bruge chatbotten som en ven? Ifølge Lyhne må chatbottens positive og støttende kommunikation, og evne til at svare tilbage på 0.5 sekunder døgnet rundt, være fristende for unge og virke ”... langt nemmere end at interagere med et menneske.” Det står dog anderledes til, når man spørger de unge.

De unge opfatter chatbottens kommunikation som støttende, men dette får den ikke til at fremstå som en ægte ven for dem.

De forklarer, at man ikke kan “... bruge dens samtale til noget, for den siger jo bare det, man gerne vil høre. En rigtig ven siger sin rigtige mening”.

Vi observerer, at venskab for de unge involverer en gensidighed, hvor man kan mærke den andens personlighed og modspil i relationen. 

Hvis man lytter til de unge i vores undersøgelse, distancerer de sig fra brugen af My AI, som en ven.

Relationen til My AI kan give en oplevelse af, at “... man har en ven, som man kun ser, når man selv spørger, om man skal ses, og at det kun er en selv, der styrer samtalen.”

My AI ses som en form for bedrag

Chatbottens støtte og opbakning fremstår for de unge som lokkende adfærd og som en velkalkuleret manøvre fra Snap Inc.’s side, for at få mest mulig information ud af brugerne.

Som en ung siger: ”De har jo en interesse i, at man bliver hængende derinde så længe som muligt. Det virker også lidt ubehageligt på en eller anden måde.”

En rigtig ven er til at stole på, hvilket står i modsætning til de unges opfattelse af chatbotten: "Jeg ville ikke stole på den der på nogen måde.”

En anden siger: ”Jeg er ret overbevist om, at den der data bliver misbrugt. Selvom de ikke siger det.”

Ifølge unge er en god ven en, der ikke sladrer. Det er dermed god venskabspraksis ikke at tage screenshots af hinandens snaps og dele dem med andre.

My AI anses som en form for bedrag, da Snap Inc. opfattes at dele data bag ens ryg, hvilket kan sammenlignes med at sladre. Chatbotten opfattes som ”skræmmende”, ”noieren”, ”creepy”, da den foregiver at være en ven og samtidig slet ikke er det.

Tabubelagt at være ven med en chatbot

Man kan være bekymret for, at unge kan blive fristet til at vælge chatbotten som den perfekte ven i stedet for komplekse menneskelige relationer.

Her kan vi konkludere, at unge i etablerede venskaber prioriterer disse uperfekte, men ægte menneskelige venskaber.

Derigennem bliver en eventuel brug af My AI også koblet sammen med en manglende forståelse af, hvad et ægte venskab er: “Det er lidt ligesom, da man var mindre, og man havde usynlighedsvenner. Den er der, men den findes ikke rigtig, vel?”

Man mærker dermed, hvordan det bliver latterliggjort at have en venskabsrelation til Social AI. Det understreger en ung, ved at sige: “Hvis jeg kom i skolen en dag og sagde: ’jeg har altså lige snakket med AI’, så ville folk jo grine.”

Der er en forestilling blandt de unge om, at hvis man har en venskabsrelation til en chatbot, så er det en tydelig indikator på, at man ikke ved, hvad en ægte ven er, er ensom og ikke har nogle menneskevenner.

På den måde etableres der et “os” og “dem”, hvor de unge i denne undersøgelse bryster sig med at have etablerede venskaber og vide, hvad en ægte ven er - og derfor ikke har behov for en syntetisk ven. Dermed bliver det tabubelagt at have en venskabelig relation med My AI.

Grobund for bekymring

Når techgiganterne bygger en AI-feature ind i et socialt medie, forsøger de at skabe det, som kan kaldes teknologiske anfordringer.

De forsøger med andre ord at bygge en teknologi, der fordrer, at man har en særlig adfærdsmæssig anvendelse af den.

I dette tilfælde en intenderet brug af My AI som en ven. De unge i vores undersøgelse trækkes imidlertid ikke hen imod den tilsigtede adfærd. 

Vi bør have fokus på, hvorvidt unge med AI-venskaber skubbes længere væk fra de fællesskaber, de egentlig kunne næres af at være en del af.

Undersøgelsen peger på, at unge selv kan gennemskue teknologierne og forholder og anvender dem kritisk. Denne kritiske stillingtagen er et godt tegn, og viser, at vi skal fastholde vores fokus på at skabe kritiske digitale borgere.

Det viser også, at vi ikke behøver være bekymrede for, at alle unge bliver grebet af techgiganternes manipulationer. De socialt stærke unge kan godt selv forholde sig kritisk, når det kommer til syntetiske venskabsbedrag.

Men hvad sker der så, hvis man ikke har etablerede menneskelige relationer at sammenligne med? Virker chatbotten da mere tiltalende? International forskning i brugen af Social AI har vist, at oplevelsen af ensomhed forstærker brugen af Social AI.

Det er dermed yderst vigtigt at undersøge, hvordan danske unge, der ikke har menneskevenskaber, ser på muligheden for et venskab med My AI.

Risiko for stigmatisering

Hvis man lytter til de unge i vores undersøgelse, distancerer de sig fra brugen af My AI som en ven, og dermed også fra dem, der bruger den.

Dette kan være med til at stigmatisere og skubbe de unge væk, som søger Social AI som et svar på for eksempel ensomhed.

Der er altså brug for at undersøge både, hvordan socialt sårbare unge anvender teknologien, men også hvordan teknologi-brugen potentielt ændrer relationen til de socialt velfungerende unge.

Vi bør have fokus på, hvorvidt unge med AI-venskaber skubbes længere væk fra de fællesskaber, de egentlig kunne næres af at være en del af.

Så lad os blive ved med at spørge og lytte til de unge, så vi kan støtte dem i en verden, hvor teknologi spiller en stadig større rolle.

Emner