Det, der foregår på skærmen, kan sagtens mærkes i virkeligheden.
Det fortæller en række unge i DR-dokumentaren 'Alene hjemme på nettet'. Blandt andre 17-årig Maya, som har set en video, hvor en mand skyder sig selv i hovedet.
- Når jeg skulle i seng og lukkede øjnene, så kørte den bare rundt. Og det var som om, det gik sådan helt ud i armene, at jeg fik det dårligt, fortæller Maya, som kun optræder med fornavn af hensyn til sit privatliv.
I en undersøgelse, som analysebureauet Epinion har lavet for DR, svarer halvdelen af de børn og unge, som har set noget, de ikke synes var rart, at det dukker tilfældigt op på deres sociale medier.
Og det er lige dér, EU med en helt ny lov vil forsøge at sætte ind.
Hvis EU-Kommissionen vurderer, at de sociale medier, herunder deres systemer og algoritmer, er skyld i, at børn og unge som 17-årige Maya ser et selvmord, så skal de lave deres algoritme om.
Det siger Christel Schaldemose, der er socialdemokratisk medlem af Europa-Parlamentet og chefforhandler på loven, der hedder Digital Service Act, som netop et fuldt implementeret.
- Når det kommer til det, man kan kalde skadeligt indhold, synes jeg, loven er ret klar, siger Christel Schaldemose.
- Hvis der er en systemisk risiko for, at algoritmerne er med til at gøre noget, som sætter sig på den offentlige sundhed, det kan være børn og unges mentale helbred, så skal de faktisk ændre deres algoritmer, siger hun.
Hun mener dog ikke, at Kommissionen håndhæver den nye lov godt nok endnu.
Graver TikTok kaninhuller?
EU-kommissionen tog for tre uger siden hul på den første sag i forhold til børnene.
Det er det sociale medie TikTok, der er kommet under lup for potentielt at udgøre en risiko for brugernes "fysiske og mentale velbefindende".
Mistanken fra kommissionen er, at TikToks algoritme stimulerer en "adfærdsmæssig afhængighed" og skaber en "kaninhulseffekt" - og at det kan udgøre en risiko over for "børns rettigheder".
Kaninhulseffekten handler om, at man bliver opslugt af et emne. På sociale medier kan det eksempelvis være, at man bliver præsenteret for mere og mere indhold i en særlig retning. Det kan være filtning eller motocross-stunts.
Men i yderste konsekvens kan det også være, at man i stor stil får vist ekstremt, radikaliserende og skadeligt indhold.
TikTok skriver til DR.
“Vi vil fortsætte vores samarbejde med eksperter og branchen for at sikre trygheden for unge mennesker på TikTok, og vi ser frem til nu at få mulighed for at forklare om vores arbejde i detaljer til Kommissionen," siger talsperson fra TikTok.
Loven kan skærpes
Rikke Frank Jørgensen er seniorforsker ved Institut for Menneskerettigheder og en del af regeringens tech-ekspertudvalg, og hun er glad for den nye lov.
Men måske er den en lille smule vag. Ifølge loven skal de store sociale medier som TikTok, Instagram og Facebook lave "en risikovurdering" af eksempelvis deres algoritmers påvirkning på brugernes mentale sundhed. Og så skal de "afbøde" de risici.
Der bør man være mere tydelig, mener Rikke Frank Jørgensen.
- Der er et kæmpe problem, og der er lovgivning, som faktisk træder i kraft lige nu. Så lad os bruge det og få givet nogle mere konkrete instrukser til, hvad det er, vi som samfund forventer, de skal gøre, siger hun.
Mangler aldersverifikation
Den nye lov pålægger de sociale medier at føre kontrol med brugernes alder, så mindreårige ikke kan gøre brug af platformene.
Men der bør indføres en fælles europæisk aldersverifikation på de sociale medier, som børn under 13 år eller måske under 15 år ikke bare kan lyve ældre og dermed let få adgang til de sociale medie, som man kan i dag.
Det mangler den nye EU-lov, anerkender Christel Schaldemose. Fredag inviterede erhvervsminister Morten Bødskov (S) Facebook, Google, Snapchat og TikTok til møde for at drøfte netop det spørgsmål.
Hele ugen sætter DR Ultra fokus på emnet. Se det på DRTV.