Dataetisk Råd støtter brug af AI i kampen mod børnemisbrugsindhold

”Efter en balanceret afvejning af gevinster og skadevirkninger er det i et dataetisk perspektiv positivt, at politiet får adgang til nye digitale værktøjer, der kan sikre en mere effektiv efterforskning og bekæmpelse af børnemisbrugsindhold,” siger Johan Busse, formand for Dataetisk Råd.

Rigspolitiets ønske er beskrevet i et udkast til et lovforslag, en ændring i Straffelovens §754, der skal styrke indsatsen mod distribution af seksuelt krænkende materiale. Forslaget skal behandles i Folketinget og udspringer af, at politiets adgang til lukkede netværk ofte forudsætter besiddelse af børnemisbrugsmateriale. For at få adgang til disse lukkede netværk kræver det ofte, at en person selv er i besiddelse af ulovligt materiale. Politiet står derfor over for en udfordring: Hvordan infiltrerer de disse miljøer uden at sprede ulovligt indhold? Løsningen, som de ser det, er at lade AI generere  uægte børnemisbrugsmateriale, der kan fungere som adgangsbillet uden at involvere rigtigt misbrugsmateriale.

Dataetisk Råd er ikke officielt blevet anmodet om at afgive et høringssvar på lovforslaget, men har på eget initiativ vurderet de dataetiske implikationer af brugen af AI i denne sammenhæng.  De væsentligste dataetiske overvejelser knytter sig i rådets øjne til to forhold. 

For det første kan selve fremstillingen af det uægte materiale i sig selv indebære en potentiel krænkelse af børn. Derfor understreger rådet, at anbefalingen kun gives med det forbehold, at fremstillingen af AI-genereret børnemisbrugsmateriale ikke anvender virkeligt børnemisbrugsmateriale som træningsgrundlag. 

For det andet er der en risiko for, at politiet ikke kan forhindre eventuel videredistribuering af det ulovlige materiale, når først det er blevet delt. Politiet kan altså ende med at bidrage til de skadevirkninger, som de ønsker at bekæmpe. Her viser tal fra CyberTipline, der samler indberetninger fra de store digitale platforme, at der i 2023 blev indberettet over 35,9 millioner eksempler på børnemisbrugsmateriale — en stigning på 12 procent i forhold til 2022. Tal der på en gang underbygger politiets argument for de nye værktøjer og samtidig får rådet til at vurdere, at politiets bidrag til den samlede mængde misbrugsmateriale vil være en dråbe i havet.

”Vores konklusion er, at de mulige gevinster for efterforskningsarbejdet overstiger de dataetiske betænkeligheder, der kan overvindes ved tekniske løsninger, åbenhed og evaluering,” siger Johan Busse.

Læs hele høringssvaret her:

https://dataetiskraad.dk/alle-hoeringssvar/dataetisk-raads-hoeringssvar-over-styrket-indsats-mod-seksuelt-kraenkende-materiale-mv

Emnet er også omdrejningspunktet for Johan Busse seneste Kronik i Altinget:

https://www.altinget.dk/digital/artikel/dataetisk-raad-vi-stoetter-brugen-af-ai-i-kampen-mod-boernemisbrugsindhold