Ved hjælp af den nyeste teknologi kan man på ingen tid redigere en persons ansigt ind på en anden krop, der optræder i en seksuel kontekst som for eksempel en pornofilm eller et nøgenbillede.
Det er selvsagt krænkende for den person, der udnyttes via den såkaldte deepfake-teknologi, hvis det sker uden samtykke, og det er også ulovligt at distribuere manipuleret seksuelt indhold.
Alligevel er det alt for nemt at søge indholdet frem på tre af de mest brugte søgemaskiner. Det er konklusionen på en ny undersøgelse fra organisationen Digitalt Ansvar.
Google, Bing og DuckDuckGo promoverer og udbreder via deres algoritmer kendskabet til potentielt ulovligt indhold, lyder konklusionen i undersøgelsen fra Digitalt Ansvar.
Både kendte og ukendte ansigter bruges
Endnu mere kontant er meldingen fra direktør for Digitalt Ansvar, Ask Hesby Holm.
- Det her er en tilbudsavis for ulovligt indhold, siger han.
- Det er utrolig let at søge sig frem til for eksempel falske nøgenbilleder, fordi søgemaskinerne promoverer hjemmesider, som indeholder det her materiale eller ligefrem producerer det.
Det er dog ikke søgemaskinerne, men de enkelte hjemmesider, der kan være ansvarlige for et brud på straffelovens §264d om krænkelser af privatlivets fred.
Ask Hesby Holm slår også fast, at det ikke kun er kendte ansigter, der klippes ind, så de pludselig optræder i en seksuel kontekst. Det sker også for gymnasieeleven eller butiksassistenten.
- Det, vi kan se i vores undersøgelse, er, at både almindelige mennesker og kendtes ansigter bliver brugt til at producere det her krænkende indhold.
I 2023 har Epinion på vegne af Digitalt Ansvar udarbejdet en spørgeskemaundersøgelse om digital vold, hvor blandt andet udbredelsen af manipuleret seksuelt materiale blev kortlagt.
Resultaterne viser, at omkring 0,9 procent af den danske befolkning over 15 år har været udsat for det, der i undersøgelsen kaldes "fake porn" indenfor det seneste år. Det svarer til cirka 45.000 personer.
'Det er faktisk ikke så avanceret'
Politiet har hverken ressourcerne eller de samme muligheder for at stoppe distributionen af materialet, som søgemaskinerne har, lyder det fra Digitalt Ansvar.
Derfor mener Ask Hesby Holm også, at Google, Bing, DuckDuckGo og de andre søgemaskiner bør ændre deres søgefunktion, så seksuelt deepfake-materiale ikke længere vises hos søgemaskinerne.
- Vi vil gerne have, at søgemaskinerne sørger for, at man ikke kan søge det så let frem. Og det er faktisk ikke så avanceret. Man kan for eksempel gøre det med terrormateriale, siger Ask Hesby Holm.
Men er det her ikke lige præcis en opgave for politiet. Svarer det her ikke lidt, at man holder Ferrari ansvarlig for, at folk kører for hurtigt i deres biler?
- Nej, det synes jeg ikke. Men ligesom med biler, så er der noget sikkerhed, der skal være på plads, og man kan stille større krav, end man gør i dag i forhold til basal sikkerhed, siger Ask Hesby Holm.
Hvor sikre føler I jer på, at det er ulovligt det, der gemmer sig bag søgeresultaterne?
- Vi ret sikre på, at det er noget, der er lavet uden samtykke, og det er simpelthen ulovligt at distribuere. Så vi er ret overbeviste om, at ret meget af det er ulovligt materiale, siger Ask Hesby Holm.
Google og Bing: Meld det til os, hvis du er udsat for deepfakes
DR Nyheder har efterspurgt et interview med DuckDuckGo. Man er ikke vendt tilbage på henvendelsen.
Microsoft, hvis søgemaskine, Bing, var den, der fandt mest seksuelt krænkende indhold, når man søgte på "deepfake porn", har ikke ønsket at stille op til interview.
Men i et skriftligt svar opfordrer virksomheden til, at man slår den såkaldte "safesearch-funktion" til, der kan fjerne eksplicit indhold.
- For Microsoft er det afgørende at skabe et sikkert og respektfuldt miljø for alle. Vi gør derfor, hvad vi kan, for at undgå skadende og ondskabsfuldt indhold i Bings søgeresultater og opfordrer brugere til at aktivere SafeSearch.
- Hvis nogen har delt private billeder eller videoer af dig uden din tilladelse, kan du rapportere det gennem vores formular, som er dedikeret til det formål. Vi tager skarp afstand fra 'deepfakes', som er falske videoer eller billeder. Du kan anmelde dem gennem vores "Rapportér en bekymring"-funktion på Bing, lyder det i det skriftlige svar.
Sammenlignet med Bing, der viste manipuleret seksuelt indhold i 92 af de første 100 søgeresultater, viste Google kun 26.
Techgiganten har heller ikke haft lyst til give interview. Men i et skriftligt svar fra Google, lyder det, at man har stor forståelse for, hvor belastende manipuleret seksuelt indhold kan være for dem, det rammer.
- Som enhver søgemaskine indekserer Google indhold, der findes på internettet, men systemet er også designet til så vidt muligt at undgå at chokere folk med skadeligt eller eksplicit indhold, som de ikke ønsker at se.
- Derudover har vi blandt andet en lettilgængelig ordning, så folk kan få fjernet ufrivillig falsk pornografi med dem selv i søgemaskinen. Men dette område udvikler sig hurtigt, og derfor arbejder vi konstant på at forbedre sikkerhedsforanstaltningerne yderligere, lyder det fra Google, der henviser til, at beskyttet søgning er en standardindstilling for brugere under 18 år.
Det lyder også, at alle kan få slettet uflatterende billeder af dem selv på Google - det melder man her.
Det er ikke ulovligt at producere det seksuelt manipulerede indhold, men det er ulovligt at dele det uden samtykke.
De seneste år er der også faldet dom i en række sager om deling af falske nøgenbilleder.
Tech-korrespondent: Svært, men ikke umuligt
Fra DR's tech-korrespondent, Henrik Moltke, lyder det, at søgemaskinerne står overfor en stor udfordring i forhold til at bekæmpe det manipulerede seksuelle indhold.
- Det er en svær opgave, som søgemaskinerne står over for – men nok ikke uoverkommelig.
Det skyldes blandt andet den måde, man laver deepfakes på.
- Hvis der for eksempel er et unikt ansigt, der optræder i videoen, så er den eneste måde, algoritmen kan finde det på, ved at sammenligne det med andre ansigter, den har set.
- Og det er jo ikke så heldigt, hvis en techgigant pludseligt kan det – og Google har af indlysende grunde lyst til at have et arkiv over alle ægte ansigter, siger Henrik Moltke.
Deepfake-teknologien bruges langt fra kun til at producere krænkende indhold. Blandt andet blev teknologien brugt til at efterligne præsident Joe Bidens stemme i forbindelse med primærvalget i New Hampshire.