Blog, Ind i algoritmen

Der er massive problemer med online-indhold, der er ulovligt, ekstremt og potentielt traumatiserende på sociale medier – og det skyldes i høj grad teknologien bag. Overser vi de børn, der oplever skyggesiderne ?

Af Mie Oehlenschläger og Katrine K. Pedersen, Tech and Childhood

“Det er særligt voldtægtsvideoer (…), det er crazy og nemt at dele. For det er let at finde,” fortalte en anonym 14-årig dreng i forbindelse med et projekt, hvor han i samarbejde med knap 300 grundskoleelever arbejdede med digitale grænser på sociale medier.

For gruppen af børn, var det videoer med misbrug af børn (som de kaldte børneporno), vold og voldtægt, der var de værste og  ifølge dem let at støde på på sociale medier.

Da én af de voksne, der var til stede spurgte, hvad man kunne gøre, lød svaret fra en 13-årig dreng: “lade være med at voldtage folk. Eller hvis du voldtager, så lad være med at dele det.”

Flydende grænser

Måske denne klasse er en enlig svale, det er ikke til at sige. For ved vi overhovedet, hvor meget ekstremt indhold, danske børn møder i deres digitale hverdag. Og hvor meget er for meget?

I løbet af de seneste år, er det dokumenteret, at der er massive problemer med indhold, der er ulovligt, ekstremt og potentielt traumatiserende på sociale medier. Og det behøver ikke være ulovligt for at være ekstremt.

Flere hashtags giver fx. direkte vej ind i blodige og ekstreme oplevelser og via en tråd på en populær platform, der for nylig blev taget ned, kunne man se mennesker, der bliver halshugget, sprængt i luften eller dræbt på andre makabre måder. Og det hele er flydende – for skellet mellem virkelighed og fiktion er pr. definition sløret.

En af de helt store udfordringer, der er fulgt i kølvandet på digitaliseringen af barndommen, er den flydende grænse mellem ‘ekstremisme’ og ‘mainstream’ børne- og ungekultur.

En overset årsag er de afledte effekter af nye netværksteknologier og deres forretningsmodeller. Nogle forskere taler om en netværkskrise, hvor en forurenet informationsstrøm konstant knopskyder i nye hybrider og former.

Fejl i maskinrummet

På sociale medier får børn alene med deres device serveret et individualiseret indhold af anbefalingsalgoritmerne, som “kun er til dig”, men som af teknologien samtidig er gearet til at sprede i børneflokken.

Anbefalingsalgoritmer, hashtags og muligheder for effektiv deling er i princippet fantastiske opfindelser. Men for hvem? 

En platform som fx. Instagram, der eller er kendt for at være et socialt medie med lyserøde solnedgange, kropsfokus, søde babyer, foodies og politikere i hjemlige settings, men har vist sig at være et populært redskab for promovering af konspirationsteorier og ekstremt indhold.

Elementer fra livsstils-, popkultur, humor og slang har vist sig fordelagtige i forsøget på at påvirke‬‬ og skubbe til grænser, manipulere og promovere propaganda.

Ved at pakke ideologiske eller politiske budskaber ind i jokes og visuelle trends bliver påvirkningen subtil og svær at afkode.

Det tyske nyhedsmedie Deutche Welle skriver i 2021, at  højreekstremister bruger “smukke billeder og subtile billedtekster om hjem og traditioner til at lokke nye rekrutter til”.  I begyndelsen af 2020 skrev The Economist: “Verden vil vågne til faren ved misinformation på Instagram.”

Mere fokus på bagsiden af medaljen

Men det er ikke kun Instagram. Børn har i dag direkte adgang til voksnes samtaler og deres bekymringer, såvel som ufiltrerede nyheder, propaganda, konspirationsteorier og ekstremt indhold, der på ingen måde er for børn på en lang række platforme.

Vi er i Danmark optaget af parolen om, at børn skal have “adgang” og “frihed til”. Adgang til at søge “og modtage og videregive oplysninger og tanker af enhver art, enten mundtligt, skriftligt eller på tryk i form af kunst eller gennem en hvilken som helst anden udtryksmåde, barnet måtte vælge”, som der står i FN’s børnekonvention.

Men der mangler en linje i en virkelighed med flydende grænser, teknologi til at booste indhold og anbefalingsalgoritmer, der intet har med frihed at gøre – som måske snarere berøver børn deres frihed til “at søge, modtage og videregive…..” til fordel for at blive manipuleret og styret og udsat for højst risikabelt og potentielt skadeligt indhold.

Og selvom det er et kendt problem, der tages alvorligt blandt politikere både i Danmark, andre EU-lande og i USA, så er vi i Danmark bagefter, fordi der stadig synes at være en dominerende diskurs, der ekskluderer de børn, der oplever bagsiden. Dem hører vi ikke meget til.

Burde vi ikke forholde os til beskyttelsen af børns ret til fredelig forsamling? Det er ikke kun et spørgsmål om, hvordan vi skal tackle “de onde på nettet” eller at “børn skal lære at begå sig på nettet”. Det er også et spørgsmål om, hvilke typer teknologier, og anvendelsen af dem, vi vil acceptere, når børn er involveret.

Så længe vi udelukkende forholder os til og håndterer problemerne på individplan, overser vi det alvorlige og ulovlige. Og synes vi at det er voldsomt nu, så vent blot på Metaverset.