Det er de unge - og ikke TikTok - som deler det skadelige indhold

Kronik af lektor og ph.d. Jakob Demant (Sociologisk Institut) i Altinget den 19. marts 2024. 

Når vi ser beviser på, at unge bliver eksponeret for ekstremt materiale på de sociale medier, reagerer vi entydigt og samstemmigt; det er en konsekvens af dårlig indholdsstyring fra de sociale mediers side.

Hvis vi i 2010'erne var tech-optimister, så er der næsten lige så entydig tech-pessimisme nu. Vi fokuserer primært på de negative virkninger af teknologi.

Reaktionerne på DR's undersøgelse 'børn og unge alene hjemme på nettet' om unge, der udsættes for ekstremt indhold, gentager med god grund dette mønster.

De sociale medier skal påtage sig mere ansvar. De skal fjerne indhold, så det ikke når de unge. Dette gælder både ekstremt og andet moralsk anstødeligt indhold.

Online adfærd er menneskelig adfærd
Der er gode grunde til at tage denne stærkt kritiske position. Men i diskussionen glemmer vi en meget vigtig pointe.

Når vi taler om indhold på sociale medier, er det ikke skabt af hverken TikTok, Discord eller Meta.

Når vi taler om indhold på sociale medier, er det ikke skabt af hverken TikTok, Discord eller Meta. Det er indhold, der skabes og deles af deres brugere. Med andre ord taler vi om menneskelig adfærd.

Som sociolog vil jeg gerne understrege vigtigheden af at se dette som social adfærd. Nogle producerer, deler, liker, upvoter og konsumerer indholdet – både det hadefulde og ekstreme såvel som de nuttede kattevideoer.

Det sker ikke kun i en teknologisk ramme, men i en blanding af det sociale og det teknologiske.

Det betyder ikke, at medierne, der huser denne trafik, er fritaget fra at have ansvar for, hvad der foregår. Men hvis vi ser spørgsmålet som et rent tech-spørgsmål, er vi lige så naive som for ti år siden, hvor vi fejrede de samme teknologier.

De sociale medier er blevet en del af vores nye sociale struktur, hvor vores adfærd væver sig sammen med de teknologiske og kommercielle strukturer. Vi må derfor også erkende, at eksponering for ekstremt materiale er et udtryk for vores sociale handlinger.

Vi må ikke fraskrive os selv et ansvar.

Mange unger oplever ekstremt indhold
Lad os se på nogle af pointerne fra DR's fine undersøgelser, der er udført af analyseinstituttet Epinion.

Undersøgelsen viser, hvordan unge har en høj eksponering for ekstremt indhold. Faktisk har hele 49 procent af de unge, der blev spurgt i undersøgelsen, oplevet ubehagelige videoer på deres sociale medier.

De unge tager deres sociale fællesskaber med ind på platformene – og konsoliderer og udvikler nye fællesskaber.

Der er også citater fra unge, der fremhæver ekstremt indhold som voldtægtsvideoer eller halshugninger.

Det er dog vigtigt at fremhæve, at denne slags indhold er mere sjældent, og at det lige så godt kan være indhold af pornografisk karakter eller materiale, der på anden måde moralsk har overtrådt den unges grænse. Det er indhold, der opleves som ekstremt, og som kan sætte negative spor hos de unge.

Det er derfor positivt, at organisationer som Center for Digital Pædagogik, Red Barnet, Børns Vilkår og Digitalt Ansvar aktivt arbejder med at reducere skaderne for de unge.

Ud over at der bliver sat fokus på, at materialet kan være skadeligt for de unge, så nuancerer organisationerne også debatten uden at lægge endnu et kontrolperspektiv ned over de unges hverdag.

Organisationerne peger på, at ud over at få en mere effektiv aldersverifikation, så løser man ikke problemet med at begrænse de unges adgang til sociale medier. Denne pointe tager de unges perspektiv med ind i diskussionen – en pointe som vi klart har savnet frem til nu.

De unge tager deres sociale fællesskaber med ind på platformene – og konsoliderer og udvikler nye fællesskaber ved at knytte an til indhold med nysgerrighed, interesse og nydelse.

De unge er også gerningsmænd
Når vi derfor ikke blot kan fjerne de unges adgang til nettet, betyder det også, at vores fokus naturligt ledes hen til, hvordan vi kan dæmme op for, hvad de eksponeres for, når de er der.

Her tilbyder den meget tech-kritiske position sig som en mulighed: Tænk hvis de sociale medier kunne sørge for, at de unge ikke blev eksponerede for materialet?

Samtlige organisationer indtager denne position.

Selv om platformene har ansvar og bør tage det ansvar mere seriøst, så skygger den stærke position for, at vi tænker over, hvem der deler, og hvorfor de gør det.

Vi skal ikke mange år tilbage, før vi støder på sagerne om ufrivillig billeddeling.

I eksempelvis Umbrella-sagen var vi gode til at forholde os til, at der både var ofre, der skulle beskyttes, men i særdeleshed også, at der var andre unge, som var gerningspersoner.

Denne basale kriminologiske forståelse kunne vi meget vel huske på, når vi nu fokuserer på det ekstreme og hadefulde indhold.

De ser ekstremt indhold som 'sjovt'
I et igangværende forskningsprojekt på Københavns Universitet fokuserer vi på, hvilke sociale processer der er involveret i delingen, og hvordan unge skaber gruppebaserede former for moral, der kan begrunde deres handlinger.

I de interviews vi foretager med dem, der deler, er det tydeligt, at mange ser det som 'sjovt'.

Vi indsamler stadig data og arbejder med analyser, så der er endnu ikke konklusioner fra vores projekt. Men de eksisterende internationale studier peger imidlertid på, at der er mange typer af delere.

For det første er der meget indhold af mere radikal karakter, der deles med en intention.

Det er veldokumenteret, hvordan der er radikale politiske grupper, der spreder indhold for at påvirke holdninger og skabe usikkerhed. Der er indhold, der spredes for at forsøge at rekruttere unge til politiske og/eller religiøse radikale grupper.

Der er ligeledes geopolitiske interesser i produktion og deling af indhold. Men der er også meget deling af ekstremt indhold, som ikke kan forklares med en entydig intention.

Det meste af det indhold, vi støder på i vores undersøgelser, rejser et nyt spørgsmål: Hvorfor deles det, hvis der ikke ser ud til at være en grund til det?

I de interviews vi foretager med dem, der deler, er det tydeligt, at mange ser det som 'sjovt’' De fastholder, at det er en del af en humoristisk relation til andre, når de chokerer med ekstremt indhold.

Der er også dem, der måske er mere opmærksomme på, at det ikke er sjovt, men finder at det er acceptabelt i de grupper som de er en del af.

De afvigende normer fremstår måske slet ikke som afvigende for de unge som indgår i disse grupper.

Utætte moralske lommer på nettet
Selv om der er stort fokus på, hvordan de mest mainstream platforme skal varetage deres ansvar, så tyder meget på, at unges internetpraktikker bliver mere og mere gruppebaserede.

Det kan være alt fra subreddits for skønhed, gaming-discords, WhatsApp- eller Signal-chats eller stories til Snapchat-følgere.

De unges brug af sociale medier er et tæt forgrenet netværk, hvor delingen foregår på tværs.

Vores observationer understøtter, at det i ganske høj grad er her, de unge starter med at dele materiale, som de ikke ville dele på en helt åben platform som TikTok eller Instagram. Så langt, så godt.

Hvis deling kun foregik på en gruppe eller i en platform, så kunne vi måske simplere fastholde det ekstreme i et hjørne af samfundet, som vi kunne vende ryggen til. Men de unges brug af sociale medier er et tæt forgrenet netværk, hvor delingen foregår på tværs.

Når ting deles på tværs af grupper, kommer de derfor også på tværs af de normer, som er gældende i andre grupper eller på de medier, der er i fokus nu. Det samme materiale, som er 'ok' i en gruppe, vil blive stødende eller ekstremt i en ny kontekst.

Derfor kan vi ikke reducere spørgsmålet om indholdsstyring på nettet til et spørgsmål om de enkelte platforme.

Vi må acceptere, at spredningen af ekstremt indhold er en konsekvens af de gruppebaserede moralske lommer – og at disse lommer aldrig kan forblive tætte.

Indse, at flere bærer skyld
Det er både rimeligt og med god grund, at vi skal være bekymrede for, hvad børn og unge eksponeres for.

Og det er vigtigt, at organisationerne går ind og er med til at forholde sig til dette spørgsmål uden at underkende betydningen af de nye sociale netværk for de unge.

Vi bliver nødt til at indse, at nogle af de samme børn, som eksponeres for indhold, også producerer og deler problematisk materiale.

Men vi bliver nødt til at indse, at nogle af de samme børn, som eksponeres for indhold, også producerer og deler problematisk materiale.

Vi kan derfor heller ikke reducere diskussionen til, hvilket ansvar de sociale medier har. Jeg mener, at det fordrer en diskussion af den mere problematiske adfærd blandt nogle unge.

Det lader sig desværre ikke reducere til hverken en meget lokal eller national diskussion, da en central del af unges eksponering sker igennem delingen af materiale, de finder uden for danske netværk.

Men det er stadig konkrete unge, der sidder i konkrete skoleklasser, som har venner både online og i nærområdet, som har denne adfærd.

Denne del af deres adfærd er nødt til at blive en del af diskussionen.

Emner