Kunstig intelligens kan øge farten på vej mod radikalisering

Hvordan bliver almindelige mennesker trukket ind i ekstreme miljøer – og hvilken rolle kan kunstig intelligens spille i den proces?

Det spørgsmål adresserer et nyt studie, der for første gang samler psykologiske teorier om radikalisering med viden om moderne AI-teknologier som anbefalingsalgoritmer, generativ AI og bot-netværk.

”Vi har udviklet en omfattende model, der viser, hvordan digitale systemer kan udnytte – eller forstærke – menneskers sociale og psykologiske behov på måder, vi endnu ikke fuldt ud forstår,” forklarer Milan Obaidi, lektor ved Institut for Psykologi på Københavns Universitet.

Vreden vokser skridt for skridt

Radikalisering starter sjældent som en pludselig omvæltning. I stedet bevæger personer sig gradvist gennem et forløb, hvor digitale teknologier og psykologiske sårbarheder gensidigt kan påvirke hinanden.

Studiet inddeler forløbet i fire centrale faser:

1. Eksponering – algoritmer præsenterer brugere for polariserende eller ekstremt indhold, ofte uden at brugeren søger efter det.
2. Forstærkning – gentagen eksponering og algoritmisk tilpasning skaber ekkokamre og styrker de nye holdninger.
3. Gruppeintegration – onlinefællesskaber og endda AI-genererede “fæller” kan skabe stærke identitetsbånd, der minder om gruppetilhørsforhold.
4. Voldelige handlinger – i sjældne tilfælde kan denne udvikling ende med voldelig ekstremisme.

AI-systemer kan ifølge forskerne ses som en slags accelerator: De kan både identificere psykologisk sårbare personer, skræddersy indhold og skabe syntetiske fællesskaber, der ligner menneskelige interaktioner.

“Vi ser et miljø, hvor brugere ikke blot eksponeres for ekstremt indhold, men også får det spejlet tilbage af algoritmer på måder, der kan forstærke deres oplevelse af mening, vrede eller uretfærdighed,” siger Milan Obaidi og uddyber:

“Det er kombinationen af teknologiens skalerbarhed og menneskers psykologiske behov, der gør denne udvikling særlig bekymrende.”

Generativ AI introducerer helt nye risici

Hvor anbefalende algoritmer især styrer, hvilket indhold brugeren ser, tilføjer generative modeller som store sprogmodeller et nyt lag: De kan skabe det indhold, der radikaliserer.

AI kan:

• Producere enorme mængder personligt tilpasset propaganda.
• Simulere fællesskaber via bot-sværme.
• Fungere som “AI-kompagnoner”, der bekræfter brugeres ekstreme tanker.
• Skabe dybt overbevisende deepfakes og manipuleret materiale.

”Denne udvikling kan gøre det sværere at kende forskel på menneskelige og ikke-menneskelige påvirkninger – og dermed forstærke radikaliseringsprocesser, der før var begrænset af menneskelig arbejdskraft,” fremhæver Milan Obaidi.

Psykisk sårbarhed spiller afgørende rolle

Studiet understreger, at ikke alle brugere er lige udsatte. AI påvirker især personer, der allerede oplever social isolation, identitetsusikkerhed, uretfærdighed eller marginalisering – eller behov for klarhed, orden og stærke gruppetilhørsforhold.

Netop fordi AI-systemer er designet til at maksimere engagement, kan de utilsigtet komme til at udnytte netop disse sårbarheder – uden at have nogen ideologisk intention.

“Det er vigtigt at understrege, at AI ikke skaber radikalisering ud af det blå. Men teknologien kan forstærke kendte psykologiske mekanismer og gøre det lettere for ekstreme idéer at finde fodfæste hos de personer, der i forvejen er i risiko,” siger Milan Obaidi.

Studiet “Intelligent Systems, Vulnerable Minds: A Framework for Radicalization to Violence in the Age of AI” er udgivet i tidsskriftet Personality and Social Psychology Review. Det kan læses her.