Kulturministeren vil gribe ind mod falske AI-videoer efter politiske kampagner: 'De markerer et lavpunkt i vores demokratiske samtale'

Både DF og LA har benyttet sig af AI i deres seneste kampagnevideoer.

- Det er jo desværre vildt, at vi i Danmark er nødt til at lovgive for at sikre, at man som menneske har ret til sin egen stemme, sit eget billede og sin egen identitet, siger kulturminister Jakob Engel-Schmidt. (Foto: Screenshot fra X og Ida Marie Odgaard/Ritzau Scanpix. Collage: Sys Abrahamsen, DR)

Kulturminister Jakob Engel-Schmidt (M) sparer ikke på ordene, når han skal beskrive de kampagnevideoer, som Dansk Folkeparti og Liberal Alliance har produceret ved hjælp af kunstig intelligens.

I videoerne optræder politikere som såkaldte deepfakes - videoerne er udelukkende computergenererede.

Videoerne markerer ifølge kulturministeren både "et lavpunkt i vores demokratiske samtale", de "underminerer vores samtale, vores demokrati og vores tillid til hinanden", og så er de et udtryk for tyveri af "et andet menneskes identitet og stemme".

Nu varsler kulturministeren så, at han er gået i gang med at undersøge om videoer, der skildrer andre personer ved hjælp af AI - de såkaldte deepfakes - kan gøres forbudte.

- Med hjemmel i ophavsretten er jeg sammen med mit ministerium ved at undersøge, om vi kan gøre det ulovligt.

- Det er jeg positiv omkring. Men det er vigtigt for mig at sige, at det er et arbejde, jeg vil se på i bredere forstand, lyder det fra Jakob Engel-Schmidt.

Dansk Folkepartis gruppeformand, Peter Kofod, kalder kulturministerens kritik for "noget værre sludder".

Falsk Mette Frederiksen

Særligt Dansk Folkeparti har gjort sig bemærket på det seneste.

I en video, som partiet har delt på sociale medier, toner statsminister Mette Frederiksen (S) frem på tv-skærmen. Hun byder velkommen til pressemøde i Statsministeriet.

- Efter vores succesfulde afskaffelse af store bededag har regeringen nemlig besluttet at tage det næste skridt. Vi afskaffer pinsen. Vi afskaffer påsken. Og vi afskaffer julen, lyder det.

Her kan man set et billede fra videoen, der viser en falsk Mette Frederiksen. Billedet er AI-genereret. (Foto: © Screenshot fra X.

Stemmen virker genkendelig, men lidt robotagtig, og ser man nøje efter på billederne, så ligner statsministeren mest af alt en videospilsudgave af sig selv.

Dansk Folkeparti har - som de også gør opmærksom på i videoen - brugt kunstig intelligens til at skabe den.

Liberal Alliance har også benyttet sig af kunstig intelligens i en video for nylig med titlen 'Tyveriet af Store Bededag'.

Videoen har samme æstetiske udtryk, som eksempelvis filminstruktøren Wes Andersens film ofte har.

- Jeg synes, vi skal lade være med at lave sådan noget i dansk politik. Jeg er bange for, at det kan være med til at underminere tilliden til, når man ser en video, om det er ægte eller ej, lød det fra Mette Frederiksen selv, da DR spurgte hende ind til Dansk Folkepartis video.

Her fortalte Mette Frederiksen dog også, at hun ikke selv har set videoen.

Også Liberal Alliance har benyttet sig af kunstig intelligens til at producere en video. Skærmbillede fra X.

Metoder fra regimer, vi normalt ikke vil sammenligne os med

Det er de ovennævnte videoer, som kulturminister Jakob Engel-Schmidt nu reagerer på.

- Det er jo desværre vildt, at vi i Danmark er nødt til at lovgive for at sikre, at man som menneske har ret til sin egen stemme, sit eget billede og sin egen identitet, siger kulturministeren.

- Derfor er jeg særligt bekymret for, at der er to partiet i Folketinget, som ellers normalt er varme tilhængere af stram forsvars- og sikkerhedspolitik, der benytter sig af metoder, som desværre er anvendt bredt i regimer, vi normalt ikke sammenligner os med.

Selvom det i ovennævnte video fremstår ret tydeligt, at der er blevet brugt AI, så er det et område, som er under rivende udvikling. Jakob Engel-Scmidt advarer desuden mod, at det måske fremover ikke kun er politikere, der står for skud, når der produceres falske videoer.

- Vi risikerer, at helt almindelige mennesker, små erhvervsdrivende, kunstnere, bliver udsat for avanceret identitetstyveri, der kan have så ødelæggende virkning på deres liv og karriere, at det aldrig kan genoprettes.

Der kan være usikkerhed om, hvem der ejer rettighederne til de værker, som kunstig intelligens skaber. Det kan blandt andet være, fordi at den kunstige intelligens kan været trænet på eksisterende værker, som allerede er beskyttet af ophavsretten.

Morten Rosenmeier er professor i ophavsret ved Center for Informations- og innovationsret på Københavns Universitet. Han har forsket i kunstig intelligens og ophavsret.

Han fortæller, at han er positivt overrasket over, at kulturministeren vil bruge ophavsretsreglerne.

- Det er tvivlsomt og interessant, om deepfakes krænker de nuværende ophavsretsregler. Det kan krænke strafferetten, markedsføringsretten og et hav af andre regler, men det er super interessant, at man vil se på, om det krænker ophavsretsreglerne.

'Noget værre sludder'

Liberal Alliance har ikke ønsket at stille op til interview på kulturministerens kritik.

Det gør til gengæld Dansk Folkepartis gruppeformand, Peter Kofod.

Hvad tænker du om kulturministerens kritik?

- Jeg synes, det er noget værre sludder. Det er en meget uskyldig og humoristisk video, hvor vi i øvrigt deklarerer, at vi har brugt kunstig intelligens.

- Så hvis det er et lavpunkt for demokratiet, så kan man ikke have fulgt meget med i de seneste års politiske debat, lyder det fra Peter Kofod.

Han kalder desuden kulturministerens kritik for "ekstrem hård og uberettiget, som falder fuldstændigt ved siden af". Han vil dog gerne tage en snak med kulturministeren om regler for brug af kunstig intelligens.

- Dansk Folkeparti varedeklarerer meget tydeligt i vores video, at det her er skabt af kunstig intelligens. Det er meget vidtgående, hvis man fuldstændig forbyder brugen af teknologien.

- Jeg synes, vi skal regulere det lovgivningsmæssigt, men det her med at sige forbud, forbud, forbud, det dur bare ikke, siger Peter Kofod.

Han henviser til, at andre partier tidligere har haft manipulerede billeder i deres valgmateriale. Det drejer sig blandt andet om Socialdemokratiets ungdomsparti.

Danmarks Socialdemokratiske Ungdoms (DSU) valgplakat op til folketingsvalget 2001. (Foto: © DSU, Scanpix Nordfoto)

- Vil det så også komme til at falde ind under det her forbud? Vi ved allesammen godt, at det er redigeret, men spørgsmålet er, om man vil ramme den demokratiske debat på denne her måde, og hvis det er tilfældet, så er det et enormt stort indhug i vores frihedsrettigheder, siger Peter Kofod.