Organisationer: Danmark skal forbyde produktion af deepfake-porno

Justitsminister Peter Hummelgaard (S) er åben for at ændre i loven.

Kvinder bliver udsat for, at deres billeder på sociale medier omdannes til nøgenbilleder ved hjælp af kunstig intelligens.

Det skal være forbudt at fremstille manipuleret seksuelt materiale - også kendt som deepfake porn - uden at have samtykke fra den person, hvis billeder man bruger.

Sådan lyder det i en ny anbefaling fra Digitalt Ansvar.

Meldingen kommer, efter Storbritannien har meldt ud, at de vil gøre netop det ulovligt.

Deepfake porn har i den grad taget til i takt med teknologiens udvikling, og det er primært kvinder, som oplever, at nogle tager deres billeder på sociale medier og manipulerer en nøgen krop ind - for eksempel ved kunstig intelligens - så det til forveksling ligner et ægte nøgenfoto af kvinden. Og herefter bliver det så delt.

Internettet "eksploderer i øjeblikket" med det seksuelt manipulerede indhold, fortæller Ask Hesby Holm, der er direktør i Digitalt Ansvar.

- Som det er i dag, så er det først ulovligt, når man deler det manipulerede materiale.

- Vi vil gerne have, at vi griber ind tidligere og sender et klart signal om, at selvfølgelig skal man ikke bare kunne tage andres ansigt og krop og producere det her indhold uden samtykke.

Her kan du høre, hvad der skal ske, hvis det står til Ask Hesby Holm, direktør i Digitalt Ansvar.

'Vi skal stoppe det ved roden'

Han bakkes op af Sex og Samfund, som desuden er medlem af Digitalt Ansvar.

- Vi synes, det er en rigtig god idé, siger Jeppe Hald, der er faglig leder i Sex og Samfund.

- Vi skal stoppe det ved roden i stedet for at stoppe det ved delingen.

Det er er stort problem, at man blive udsat for det her, og reaktionen hos dem, hvor det sker, kan være ret voldsom, forklarer han.

Han beskriver, at nogle af reaktionerne kan være de samme, som hvis man bliver udsat for et seksuelt overgreb. Man trækker sig fra mennesker, blive deprimeret og tænker dårligt om sig selv.

- Det er dit ansigt, det bliver sat på. Du har ikke givet samtykke til det her. Og det er heller ikke noget, du har ønsket skulle ske. Så på den måde er det en meget voldsom overskridelse af din privatsfære, siger han.

Derudover er det heller ikke noget, der bare stopper. Det kan blive ved med at ligge online og være svært at fjerne.

Justitsminister Peter Hummelgaard (S) er da også åben for at kigge på, om der skal laves ændringer i loven.

- Efter omstændighederne kan det allerede i dag være strafbart, men det er klart, jeg synes, at det her er så groft og så alvorligt, at vi selvfølgelig også gerne vil kigge ned i, om der er behov for at tydeliggøre det i den danske straffelov.

Justitsminister Peter Hummelgaard (S) er ikke afvisende overfor ændringer:

Marie Watson har over 20.000 følgere på Instagram, og hun er en af dem, der har oplevet, at billeder fra hendes Instagram er blevet manipuleret, så hun kom til at fremstå nøgen på dem.

- For mig var det et kæmpe chok, fordi jeg på en måde er ansigt ud ad til, og hvad tror folk om mig, hvis de ser det her.

Hun anmeldte det og oplevede, at hun blev taget seriøst. Det endte i retten, og personen, der havde delt de falske nøgenbilleder af hende, fik en dom, forklarer hun.

Hun synes, det er "fantastisk at vide, at det bliver taget mere seriøst nu".

- Jeg føler, det sender et signal om, at det her ikke er okay. Jeg tror mange lever på den med, at det er lovligt at lave, så derfor gør man ikke noget galt.

Vil det gøre dig mere tryg?

- Om det er lovligt eller ej, så ved jeg jo godt, at det højst sandsynligt bliver produceret, men det er dejligt at blive lyttet til. At nogle har set det her og tænkt, "okay, det er virkelig et stort problem og berører mange af os", siger Marie Watson.

Marie Watson ser et forbud som et tegn på, at det bliver taget mere seriøst:

Hvor meget vil det gavne?

Det er et tiltag som det her, der skal til, hvis vi skal se mindre deepfake porn fremover, mener Jakob Demant, der er lektor ved Sociologisk Institut på Københavns Universitet og har forsket i grupper, hvor der bliver delt falske nøgenbilleder.

Men der vil stadig være rigtig mange, der fortsætter med at producere det, vurderer han.

- Fordi vi ved, at de delingsmiljøer, hvor man laver det her, der producerer man det med henblik på at skade andre, så derfor vil de fortsætte med det.

Han vurderer dog, at der vil være en gevinst, når det kommer til spredningen. Her vil der opstå en større bevidsthed om, at det er ulovligt.

- Man vil nok primært kunne påvirke dem, der bruger det lidt for sjov, og som prøver det, og som ikke nødvendigvis har en meget kvindefornedrende og skadelig hensigt med det, men som egentlig bare er lidt fascineret i teknologien. De vil nok være relativt nemme at skræmme væk.

Han peger dog på, at det vil være utrolig svært for politiet at håndhæve et forbud. Derfor vil det være nødvendigt at udvikle nogle teknologier, som kan forsøge at bryde inde ind i de her miljøer.