15-årige Noah fra Tølløse på Sjælland er en af de unge, som støder på mange voldsomme videoer, når han er på sin telefon.
Eksempelvis har han - og det kan virke voldsomt selv på skrift - set en mand skære armene af liget af en anden mand og derefter voldtage det.
- Han havde myrdet en. Og manden lå der helt nøgen, siger Noah, som optræder uden efternavn af hensyn til sit privatliv. DR er bekendt med hans fulde navn.
Det er ikke rart at se på videoerne, forklarer Noah selv. Men når det først er dukket op på skærmen, er det svært at slukke for det.
- Jeg får det selvfølgelig ubehageligt af at se det, men der er stadigvæk noget i min hjerne, der gerne vil se det, forklarer han.
Og det ved de sociale medier godt, mener psykolog David Madsen fra psykolog- og lægehuset, Dabeco.
Han har specialiseret sig i sociale mediers påvirkning på børn og unge og er desuden medlem af Medierådet for børn og unge.
- Der sidder en industri, som jeg er målløs over. De har implementeret nogle algoritmer, der fastholder brugerne så lang tid som overhovedet muligt. Og det, der tilfældigvis fastholder mennesket, det er livets mørke, siger han.
Algoritmerne er dem, der styrer, hvad man ser på de sociale medier. Dvæler du ved landevejscykling, vil du få mere af den type indhold. Ser du videoer af babyer? Så kommer der flere af dem. Den styrer efter det, man ellers har brugt tid på.
Og derfor er algoritmerne og børns grundlæggende nysgerrighed på det mørke og farlige en dårlig cocktail.
- Jeg har siddet over for unge mennesker, som har fortalt mig om, hvordan de egentlig bare startede med at se en eller anden "funny prank", men af algoritmerne blev ført ud i nogle mørke afkroge af internettet, hvor de pludselig sidder i halvanden time og følger et live selvmord, siger David Madsen.
Urhjernen
Flere unge fortæller i DR-dokumentarserien 'Alene hjemme på nettet' også om selvmordsvideoer, som begynder uskyldigt, men ender fatalt.
Og selvom det lyder forrykt. Som videoer man burde slukke for, er der altså noget i menneskets natur, der gør det om ikke fornuftigt så forståeligt, at man ser det til ende, siger psykologen og forklarer det med en urhjerne.
- Noget af det, der appellerer mest til mennesket og særligt børn, det er de ting, som fremkalder stærke følelser hos os. Vi bliver nødt til at se, hvad der rasler bag busken, fordi vores gamle urhjerne er nødt til at se, om det er en løve, der står der, siger David Madsen.
For hvis nu det er en løve, los eller måske en hulebjørn, kunne det jo være livsnødvendig viden - i hvert fald for urhjernens oprindelige ejer - urmennesket.
- Hvis der er en løve bag busken, og vi ikke får kendskab til den, så risikerer den at lave et bagholdsangreb på os.
Og det er, ifølge psykolog David Madsen, samme mekanisme, der er på spil, når børn og unge ser meget mørkt eller voldsomt indhold på nettet.
- Så hver gang vi bliver eksponeret for noget, der har et dystert indhold, det kan være blå blink, porno, død og ødelæggelse, så er vi nødt til at se den til ende, siger han.
Algoritmen giver mere af det samme
Hos organisationen Digitalt Ansvar beskæftiger de sig indgående med børn og unges adfærd på sociale medier. Direktør Ask Hesby Holm mener, at de sociale medier tester det ubehagelige indhold på deres brugere.
- Grunden til, at der dukker skadeligt og voldsomt indhold op tilfældigt hos børn og unge, er fordi sociale medier prøver at afkode, hvad børn og unge godt kan lide, det kan være uskyldige kattevideoer, men det kan også være videoer med selvmord, vold og selvskade, siger han.
Også han mener, at de sociale mediers ønske om at fastholde brugernes opmærksomhed, får algoritmerne til at vise mere ubehagelige videoer.
- Børn og unge bliver jo draget af voldsomt indhold, det gør vi alle sammen, men hvis du først har givet det en lille smule opmærksomhed, så vil du ende med et socialt medieunivers, hvor det fylder rigtig meget. Og så kan det være svært at slippe ud af igen, fordi algoritmen giver mere og mere af det samme, siger Ask Hesby Holm.
Instagram: Vi er ikke i mål trods massiv oprydning
Indholdet på sociale medier er skabt og lagt op af andre brugere, og de største sociale medier fjerner store mængder indhold fra deres platforme. Det oplyser Tiktok, Snapchat og Meta - der ejer Facebook og Instagram - til DR.
15-årige Noah bruger mest tid på mediet Instagram, hvor man, i det der hedder Reels, kan scrolle sig igennem en uendelig strøm af videoer, der starter automatisk.
- Jeg vil nok skyde på, at jeg omkring to gange om ugen får et eller andet ulækkert på Instagram. For eksempel folk, der mister lemmer og sådan noget, siger han.
Det har ikke været muligt for DR at efterprøve Noahs oplevelser på Instagram.
Instagram er ejet af Meta, der også ejer Facebook. DR har forelagt kritikken fra eksperterne og de unge for Martin Ruby, der er politisk chef i norden for Meta. Han skriver i en mail til DR.
- Hvis det er tilfældet, at de møder ubehageligt indhold - og endda noget de ikke selv graver sig frem til - er vi ikke i mål trods massiv oprydning dagligt på alle vores platforme.
Ifølge Martin Ruby fjerner Meta millioner stykker indhold hver dag. På tværs af både Facebook og Instagram sletter de over 7.000 stykker hadefuldt indhold og 6.000 stykker voldeligt og grafisk indhold - hver eneste time.
Men han afviser, at Meta viser deres brugere ubehageligt indhold, fordi de ved, det vil fastholde dem på deres platform.
- Hele ideen om at skadeligt og ubehageligt indhold er en god forretning er lodret forkert. Vi lever af reklameindtægter, men ingen annoncører i verden vil have deres reklamer til at ligge op ad skadeligt og ubehageligt indhold, skriver Martin Ruby.
Kan give stærke reaktioner hos børnene
I en ny DR-dokumentar "Alene hjemme på nettet" fortæller børn og unge, hvad de har set på sociale medier, og hos flere går netop selvmord, grov vold og seksuelt indhold igen.
15-årige Noah bruger omkring fem timer på sin telefon om dagen, og han kan godt lide at se videoer af bilræs. Men videoerne handler ikke altid kun om hjulspind og gearskifte. Det ved Noah bare ikke, inden videoerne går i gang.
- Jeg så engang en video med en, han kørte i gokart. Og så er der en af de andre gokarts, der kører over og skærer hans fingre af, forklarer Noah.
- Når du ser den, så du ved ikke helt, hvad der kommer til at ske. Og så sker der et eller andet. Hans fingre bliver hakket af eller noget. Og så får man sådan en mærkelig følelse indeni sig. Man føler, at det er sket til en selv, siger Noah.
I psykolog David Madsens arbejde med børn og unge kan han se, at de ubehagelige videoer kan have store konsekvenser for de unge mennesker.
- Jeg kan se, at flere unge udviser symptomer på det, man ellers ville se ved ptsd. Det er mareridt og opvågninger om natten, men også en gennemgående kropslig uro, siger han.
En måling fra analyseinstituttet Epinion viser, at tre ud af fire børn og unge mellem 9-14 år er stødt på ubehageligt indhold på nettet. For hver tredje sker det mindst en gang hver uge.
DR Ultra Nyt sætter hele ugen fokus på børns oplevelser på nettet.