Dataetisk Råd: Genovervej bred hjemmel til offentlig AI

Kunstig intelligens kan frigøre ressourcer, forkorte sagsbehandlingstider og øge kvaliteten i den offentlige sektor. Men når teknologien indgår i beslutninger med betydning for borgernes liv, skal myndighederne kunne håndtere risikoen for fejl, algoritmisk bias og uigennemsigtige vurderinger.

”Det gør en forskel, hvilken opgave et system skal løse, og hvilke konsekvenser en fejl kan få for borgeren. Med en bred hjemmel bliver det vanskeligere at vurdere risiciene og fastsætte betingelser for den konkrete anvendelse,” siger Johan Busse, formand for Dataetisk Råd.

Rådet har afgivet høringssvar til et lovforslag, der skal give offentlige myndigheder en bred hjemmel til at behandle personoplysninger for at udvikle og anvende AI, blandt andet til beslutningsstøtte. Forslaget udvider ikke myndighedernes adgang til at indhente eller dele oplysninger, men deres mulighed for at behandle oplysninger, som de allerede har adgang til.

Rådet anbefaler, at regeringen og Folketinget overvejer i stedet at give hjemmel til bestemte myndigheder og konkrete anvendelser af AI. Det kan tage længere tid og kræve mere lovgivningsarbejde, men giver bedre mulighed for at belyse fordele og ulemper og stille målrettede krav, før den enkelte anvendelse tillades.

Fælles retningslinjer efterlyses

Hvis regeringen og Folketinget vælger en bred hjemmel, anbefaler rådet konkrete retningslinjer og fælles minimumsstandarder for kvalitetssikring. Myndighederne skal blandt andet have klare rammer for at vurdere, hvilke niveauer af fejl, algoritmisk bias og uigennemsigtighed der er acceptable, før et system sættes i drift.

”Fejl, algoritmisk bias og manglende gennemsigtighed er veldokumenterede risici, når myndigheder bruger AI som beslutningsstøtte. Alligevel overlader forslaget i for høj grad håndteringen af dem til den enkelte myndighed. At give en bred hjemmel uden tilstrækkelige fælles retningslinjer for kvalitetssikring er dataetisk stærkt betænkeligt,” siger Johan Busse.

Klare grænser for indgreb i borgernes rettigheder

En af rådets bekymringer handler om lovforslagets mulighed for, at ministre kan fastsætte undtagelser fra borgernes databeskyttelsesrettigheder.

Det kan være teknisk vanskeligt at sikre eksempelvis indsigt og sletning, når personoplysninger er anvendt til at udvikle et AI-system. Men efter rådets vurdering skal gevinsten ved det konkrete system afvejes mod begrænsningen af borgernes rettigheder.

“Allerede før borgernes personoplysninger bruges til at udvikle et AI-system, bør vi vurdere, om gevinsten står mål med eventuelle begrænsninger af deres rettigheder. Hvis den ikke gør det, kan konklusionen være, at systemet ikke bør udvikles eller tages i brug,” siger Johan Busse.

Rådet anbefaler, at lovteksten tydeligt angiver, at undtagelser skal være nødvendige og proportionale, hvilke hensyn der kan begrunde dem, og hvilke rettigheder og situationer der ikke kan omfattes af undtagelser.

Medarbejderen skal have reel kontrol

Rådet efterlyser også en tydeligere definition af beslutningsstøtte. Den menneskelige involvering må ikke alene være en formalitet. Medarbejderen skal have kompetence, ansvar og ressourcer til at træffe den endelige beslutning.

Lovforslagets bemærkninger omtaler allerede kravet om reel menneskelig stillingtagen. Rådet anbefaler, at kravet fremgår af selve lovens definition, så myndighederne får et tydeligere grundlag for at udvikle og anvende systemerne. Det bør desuden stå udtrykkeligt i lovteksten, at den foreslåede hjemmel ikke omfatter fuldt automatiserede beslutninger.

Dataetisk Råd anbefaler endelig, at Digitaliseringsstyrelsen udarbejder en dataetisk konsekvensanalyse af lovforslaget, så de samlede konsekvenser for borgerne bliver belyst.

Rådet afgav også høringssvar til en tidligere version af lovforslaget i foråret 2026. Efter rådets vurdering imødekommer ændringerne kun i begrænset omfang de tidligere anbefalinger.