PROSA sætter fokus på deep fakes på Folkemødet

Johanne Schmidt Nielsen fra Red Barnet har på ”egen krop” oplevet at blive deep faket ind pornografisk sammenhæng og derefter spredt fotos viralt. Maibritt Berlau fra Sex og Samfund, ser dybt bekymrende tendenser på, hvordan den ny AI-generede teknologi misbruges til skabe sexvideoer og dele dem.

Hør de to fortælle om en udvikling, hvor simple apps bliver brugt til at lave pornografiske videoer med såvel offentlige personer som pigen fra naboklassen.

Det sker fredag på Folkemødet klokken kl. 15.45 - FH Loungen. Her vil det blive debatteret: Hvordan føles det? Hvem bliver ramt? Hvad kan vi gøre?

Debatten modereres af PROSA – Forbundet af It-professionelle.

”Selvom materialet er falsk, er de følelser, det skaber hos offeret, ægte. Jeg har mærket de følelser. Jeg kan næsten ikke holde ud at tænke på, hvilke følelser det skaber hos for eksempel et 11-årigt barn. At materialet er falsk betyder med andre ord ikke, at vi skal undlade at tage det alvorligt,” Johanne Schmidt Nielsen.

Maibritt Berlau fra Sex og Samfund supplerer:

”Deep fakes er grundlæggende en krænkelse af retten til at bestemme over egen krop. Selv hvis billedet ikke deles, så har man ved manipulationen af billedet brugt en andens krop uden samtykke. Deep fakes og billeddeling er generelt utrygt for mange unge. Selvom de godt ved, at de ikke må, så er tanken om at det kan ske med til at skabe en grundlæggende utryghed. Og for de som rammes, er konsekvenserne ofte meget voldsomme.”

Danskerne er enige. I en nylig undersøgelse foretaget af Megafon for PROSA svarer 93 pct., at de synes, at det skal gøres lovpligtigt, at al offentliggørelse af digitalt indhold, der omfatter deep fakes, skal have en klar mærkning, hvor der gøres opmærksom på, at der er brugt deep fakes. Knap 60 pct. mener, at det skal gøres lovpligtigt, at al offentliggørelse af originalt digitalt indhold på sociale medier skal have en klar mærkning, hvor der gøres opmærksom på, at det er originalt, og ikke deep fake.

PROSAS næstformand og digitale ekspert, Curt Kjærsgaard Raavig, der vil styre debatten og forsøge at kaste lys over et voksende problem, er enig i, at deep fakes er ikke bare en trussel, den rammer også den demokratiske tillid lige i mellemgulvet.

> Se danskernes holdning til digitalisering, regulering af sociale medier og deepfake