Min kollega har deepfaket mig med Metas nye AI-funktion: Ekspert kalder den ’sindssygt grænseoverskridende’ | Teknologi | DR

Opdateret 10/7 med citat fra Meta.

Med en ny funktion fra Facebook-firmaet Meta kan brugere nu skabe deepfake-billeder af andre brugere ved bare at indtaste deres brugernavn fra Instagram.

Eksempelvis lavede min kollega Silas i dag det her billede af mig foran noget, der i hvert fald minder om Manhattan Bridge i New York.

Det eneste han skulle bruge, var mit Instagram-brugernavn – som han i øvrigt slet ikke følger eller er venner med. Jeg gav altså ikke Silas nogen formel tilladelse til det, kun mundtligt henover skrivebordene.

Den nye funktion, Muse Image, ligger i app’en Meta AI. Men den trækker på materiale, som brugerne har liggende på Instagram.

• Jeg synes, alt ved det er skrækkeligt. Jeg synes ikke, det burde være lovligt, siger teknologi-analytiker og podcastvært Christiane Vejlø.

Hun ser for sig, hvordan den kan blive brugt til alt muligt vildt – men understreger, at bare det at sætte en klassekammerat ind på et billede fra en fest i bund og grund er ”sindssygt grænseoverskridende”.

• Vi har jo sådan historisk set en opfattelse af, at vi selv beslutter, hvor vi stiller op, og hvem vi er sammen med. Det er en rettighed, vi fuldstændig mister her, siger Christiane Vejlø.

Også Forbrugerrådet Tænk er kritisk over for Metas nye påfund. De mener, der i forvejen er masser af problemer med deepfake-materiale og risiko for at tage fejl af forfalskning og virkelighed.

Og den nye funktion er med til at gøre det normalt, siger seniorjurist Ida Nynne Daarbak Reislev:

• Når funktionen bliver præsenteret, som ”det her bør du bruge”, så bliver det legitimeret, siger hun.

Da min kollega Silas brugte mit billede, fik jeg ikke selv nogen besked om, at mit ansigt blev brugt. Heller ikke, da han udstyrede mig med kongekrone eller sendte en opgraderet udgave af mig på shoppetur med en kendt.

Hos Tænk mener Ida Nynne Daarbak Reislev, at Meta nemt kunne have lavet en funktion, så brugerne fik besked, når deres materiale blev brugt af andre.

• Så har man i hvert fald den viden. Så kan man jo gå til personen og sige ”hvad er det, du har lavet om mig?”

Ida Nynne Daarbak Reislev understreger, at Meta i det store hele ser ud til at overholde EU-lovgivningen med deres nye funktion. Men loven beskytter bare ikke forbrugerne godt nok.

Sidste år skulle brugerne eksempelvis gøre indsigelse, hvis de ikke ville have, at Metas kunstige intelligens trænede på deres billeder . Men det var uklart, hvad det egentlig betød:

• Meta begrundende det med, at "vi skal bruge det til at forbedre services og til at lave nogle gode produkter", forklarer Ida Nynne Daarbak Reislev.

• Reglerne siger, at forbrugerne skal træffe et informeret, oplyst valg. Men det var svært at regne ud, hvad Meta ville med det.

For at undgå, at andre brugere fremover kan bruge dine fotos til at generere nyt indhold, kan du gøre din profil privat. Og takke nej til, at indhold, du fremover lægger op, bliver brugt til træning og generering af AI-genereret indhold.

Men både Forbrugerrådet Tænk og Christiane Vejlø kritiserer, at standardindstillingen er, at ens indhold gerne må udnyttes.

• Det er sådan en attitude, tech-giganterne har til deres brugere: ”Vi giver dig en besværlig mulighed for at melde fra, men vi fortæller dig ikke så meget om, hvad der foregår, så du må selv finde ud af det,” siger hun.

Metas Muse Image skaber også “kreative oplevelser” på Instagram og WhatsApp – og er på vej til Facebook og Messenger, skriver Meta .

Christiane Vejlø opfordrer til at bruge sit indre kompas og ”gammeldags dyder” som etik og moral:

• Forældre siger, de ikke ved, hvordan de skal tale med deres børn om AI, fordi de ikke har forstand på teknologi … men teknologi er ikke det væsentlige. Det væsentlige er: Hvad synes du selv, er i orden?, siger Christiane Vejlø.

Som jeg stod der og poserede ved East River i New York på et fuldstændigt deepfaket billede, var der dog en ting, min kollega Silas ikke kunne få lov til: At give mig en cigaret i munden.

Der sætter Meta AI altså grænsen.

• Det er faktisk ret komisk, siger Christiane Vejlø.

• Jeg har selv lige prøvet at generere et billede og fik at vide af AI’en, at det stred mod de etiske retningslinjer. Der er jeg bare sådan: ”Hvad fanden snakker I om?”.

DR Nyheder har forholdt Meta kritikken fra Christiane Vejlø og Forbrugerrådet Tænk. En repræsentant for virksomheden svarer i en skriftlig udtalelse:

• Vi har opbygget Muse Image med stærke kontrol- og sikkerhedsforanstaltninger fra dag ét. Private konti og konti, der tilhører brugere under 18 år, er automatisk undtaget, og voksne brugere med offentlige konti kan fravælge funktionen ved hjælp af brugervenlige indstillinger. Vi vil skride ind over for alt indhold, der overtræder vores fællesskabsretningslinjer.