Mette Frederiksen toner frem på tv-skærmen. Hun byder velkommen til pressemøde i Statsministeriet.
- Efter vores succesfulde afskaffelse af store bededag har regeringen nemlig besluttet at tage det næste skridt. Vi afskaffer pinsen. Vi afskaffer påsken. Og vi afskaffer julen, lyder det.
Stemmen virker genkendelig, men lidt robotagtig, og ser man nøje efter på billederne, så ligner statsministeren mest af alt en videospilsudgave af sig selv.
Og bare rolig, regeringen har ikke planer om at afskaffe flere helligdage. Videoen og budskabet i den er falsk.
Det er formand for Dansk Folkeparti Morten Messerschmidt, som står bag videoen, der er lagt op på det sociale medie X.
I videoen drømmer han om dette - falske - pressemøde.
Et mærkat i det øverste højre hjørne af videoen indikerer, at der er tale om AI-genereret indhold, hver gang den falske Mette Frederiksen toner frem.
Ved hjælp af kunstig intelligens har Dansk Folkeparti nemlig skabt en deepfake-version af Mette Frederiksen, der lyder meget ægte, og på sin vis også ligner hende, men som altså bare stammer fra et computer-program.
Men hvis man er politiker, så burde man holde fingrene langt væk fra at lave sådanne AI-genererede deepfakes, der ligner og lyder som andre.
Det mener Christiane Vejlø, der er digital trendanalytiker, direktør i Elektronista Media og forfatter til bogen 'Argumenter for mennesker'.
- Deepfakes er generelt meget undergravende for demokratiet, når det er politikere, der bliver ofre for det, siger hun.
Ifølge Christiane Vejlø kan vælgere blive forvirret og måske komme til at tro, at en politiker har sagt noget, selvom de ikke har sagt det.
- I sidste ende kan konsekvensen blive, at man ender med at flytte stemmer på et forkert grundlag.
- Og det er jo i bund og grund undergravende for demokratiet, siger hun.
Lektor i medievidenskab ved Aarhus Universitet Jesper Tække mener også, at politikere bør holde sig helt fra sådanne videoer, og er betænkelig ved, at de bruger deepfakes.
- Vores politikere skal jo gerne være en form for moralske forbilleder.
- Det er med til at undergrave vores tillid til dem, fordi man kan komme i tvivl om, hvad de egentlig mener, når man bruger deepfake på den her måde, siger han.
Kan skade tillid til politikere
Opslaget med videoen har på knap to døgn på X fået over 54.000 visninger.
Flere brugere skriver i kommentarer under videoen, at det burde fremgå tydeligere, at videoen er falsk, eller at Dansk Folkeparti burde have holdt sig fra at bruge kunstig intelligens på den måde.
Andre brugere synes, at Morten Messerschmidts video er sjov og kvitterer med diverse smileyer.
- Man kan sagtens se på enkeltstående tilfælde og sige "nå, ja det er harmløst, eller det er bare sjovt", siger Christiane Vejlø.
Men hun peger på, at man skal se det i et større demokratisk billede, hvis flere og flere bruger samme strategi.
- Det handler mere om, at man som politiker, som er en del af systemet, har en interesse i, at der i befolkningen er tillid til, at de kan de regne med det, de ser, siger Christiane Vejlø.
Christiane Vejlø mener også, at noget af problematikken ligger i, at grænserne mellem politisk kommunikation og satire er blevet mere flydende, i takt med at de sociale medier har vundet frem.
- Politikere søger opmærksomhed gennem deres indhold på sociale medier, og de ender med i højere grad at bruge energi på strategisk like-høstende underholdning frem for rene politiske budskaber, siger hun.
Det var ikke muligt at få et interview med Morten Messerschmidt, men i et skriftligt svar skriver han, at kritikken er malplaceret.
- Man skal være fuldstændig blottet for humor og kritisk sans, hvis man ikke kan se, at der er tale om et kunstigt indslag med Mette Frederiksen. Vi deklarerer det ovenikøbet klart, og det fremgår, at Mette Frederiksens tale er en drøm, jeg drømmer.
- Så jeg har svært ved at forstå kritikken.
Deepfakes kan rykke debatten til traditionelle medier
Selvom videoen har et satirisk udtryk, og fortællingen om, at Morten Messerschmidt drømmer, og et ikon indikerer, at det er AI-genereret, så mener Jesper Tække, at det burde fremgå tydeligere.
Han havde nemlig ikke selv lagt mærke til mærkatet, der indikerede, at videoen af Mette Frederiksen var AI-genereret, da han så den.
- Satire har jo vide grænser, og man skal ikke forbyde satire, siger Jesper Tække.
Men ifølge ham er der i øjeblikket ved at blive opbygget nye normer i forhold til brugen af denne teknologi, og Morten Messerschmidts brug af deepfakes er med til at legitimere sådan en brug af AI-teknologi.
- Derfor har det en uheldig indvirkning på, at vi ligesom oplever, hvad det rigtige er at gøre i forhold til den her teknologi, siger Jesper Tække.
Selvom der er bredere rammer for satire, så kræver denne form for indhold en debat om, hvor grænserne går, mener Christiane Vejlø.
- Det er helt klart, at der er nogle videre rammer for satire, og meget af det her har vi simpelthen ikke diskuteret færdig, siger hun.
Jesper Tække er bange for, at vi kommer til at se mere af den slags indhold på de sociale medier i fremtiden.
Hvis det sker, så forudser han, at flere vil vende sig mod de traditionelle nyhedsmedier, hvor der er en journalistisk bearbejdning og tjek af fakta.
- Deepfake kommer til at skubbe endnu mere i den retning, at man ikke kan tro på noget som helst på Facebook, X eller på andre sociale medier.
Statsministeriet vil ikke kommentere sagen.
Flere organisationer mener, at det skal være forbudt at fremstille manipuleret seksuelt materiale - også kendt som deepfake porn - uden at have samtykke fra den person, hvis billeder man bruger. Det kan du læse mere om her: