De to unge mænd ser virkelige ud på Danmarksdemokraternes billede - problemet er, at det er de ikke | Politik | DR

Danmarksdemokraterne var i sidste uge rundt i de fleste medier med deres udspil, der blandt andet indebar forbud mod dunjakker og kasketter på ungdomsuddannelser .

De delte også selv nyheden om deres udspil på Facebook sammen med et billede af to drenge med mellemøstligt udseende, der surt kigger på en kvinde, som bærer tørklæde.

Billedet ser ægte ud, men er det ikke.

Billedet er skabt med kunstig intelligens (AI), men den information fremgår ikke. Og det kan være i strid med en ny EU-forordning om AI , der trådte i kraft den 2. august.

Det vurderer to eksperter på området.

• Forordningen siger, at vi har en ny teknologi, som man godt må bruge. Man skal bare være transparent, når man bruger den og sætte et mærkat på, siger Claes De Vreese, der er professor og centerleder ved Digital Democracy Centre på Syddansk Universitet.

Det skal nemlig markeres, hvis AI står bag et billede, når der er tale om realistiske scenarier, siger Michael Wessel, der er professor på Institut for Digitalisering på Copenhagen Business School (CBS), og som har forsket i mærkater på AI-genereret indhold på sociale medier.

• Det er tydeligt, at billedet falder ind under kategorien AI-genererede deepfakes, fordi det er plausibelt, at personerne på billedet kunne eksistere, og at det kunne være et virkeligt scenarie - og så gælder reglerne, siger han.

• Hvis man for eksempel viser drager, flyvende mennesker og den slags, er det ikke plausibelt, og det falder derfor ikke ind under reglerne.

Det er heller ikke nødvendigvis alle, der har set partiets opslag, som kan gennemskue, at billedet ikke er ægte. En person skriver under opslaget: "Bare deres ansigt, gir mig brækfornemmelser. Hvor ser de bare ondskabsfulde ud..", mens en anden person spørger, hvorvidt billedet er AI-genereret.

Det har ikke været muligt at få et interview med partiformand Inger Støjberg om sagen, men i en skriftlig kommentar oplyser partisekretær Steen Thomsen, at partiet har skrevet i annoncer, pjecer og i deres udspil, at billedet er AI-genereret.

• Desværre har vi ikke fået skrevet, at billedet er AI-genereret på alle vores digitale grafikker. Vi vil naturligvis rette fejlene.

Læser man Danmarksdemokraternes udspil som pdf-fil, så står der en lille, hvid tekst i billedets højre hjørne, hvor det fremgår, at det er AI-genereret.

Det burde også fremgå af opslaget på Facebook, vurderer Claes De Vreese.

• Det er tanken, at vi som borgere og forbrugere af information skal få en tydelig, nem og tilgængelig mærkning af, at indholdet er blevet AI-manipuleret.

• Det er det jo ikke, hvis det findes i en pdf, som er gemt et andet sted, og som heller ikke er den kommunikationsenhed, man deler hyppigst, siger Claes De Vreese.

Efter DR's henvendelse har partiet tilføjet en tekst på billedet på Facebook-opslaget om, at det er AI-genereret.

Ifølge Michael Wessels vurdering lever selve teksten i pdf-filen heller ikke lever op til EU-kravet.

• De har valgt at skrive teksten lodret, og den er en smule gennemsigtig. Den er ikke lige så tydelig, som reglerne sådan set foreskriver.

Det AI-genererede billede ligger også på Danmarksdemokraternes hjemmeside, og her burde det ifølge Michael Wessel også være markeret. Efter DR's henvendelse har partiet også her tilføjet en tekst med, at billedet er AI-genereret.

EU har selv delt skabeloner, som man kan bruge, hvis ens billede er AI-genereret. Bruger man dem, så følger man automatisk forordningen. Laver man sit eget mærkat bliver det en vurderingssag, fortæller Michael Wessel.

Ser man på forskningen, kan det virke mindre attraktivt at bruge AI-mærkater.

For i et studie, som Michael Wessel var med til at lave, og som udkom tidligere på året, fandt man frem til, at brugere reagerede dårligt, hvis et mærkat signalerede, at billedet var AI-genereret.

• Da jeg tjekkede Facebook-opslaget, havde det tusindvis af likes og en masse kommentarer, og det er sandsynligt, at hvis det havde fået et mærkat, så ville der have været langt færre reaktioner på indholdet, siger han.

I skrivende stund har opslaget fået 13.000 likes og flere hundrede kommentarer.

Ifølge Claes De Vreese kan der også være et langsigtet perspektiv, som han mener, partier bør overveje.

For det kan i forvejen være svært at navigere i AI-materiale og gennemskue, hvad der er rigtigt og forkert.

• Hvis man bruger teknologien til at skabe virkelighedsnære situationer, så er man med til at flytte på fornemmelsen af, hvad der er autentisk, og hvad man som udgangspunkt kan stole på.

• Man skaber måske lidt furore og debat på den korte bane, men hvis man tænker det her igennem strategisk på længere sigt, så tror jeg virkelig, man skal stille spørgsmålstegn ved, hvad det egentlig er, man vinder som parti ved at bidrage til den her type af information, siger Claes De Vreese.