Danmark mangler loven, der kan få AI ud af den offentlige sektors digitale kirkegård

Regeringen har en ambition om at gøre Danmark verdensførende inden for anvendelsen af kunstig intelligens. Konkret har politikerne et mål om at spare 30.000 årsværk ved at ibrugtage teknologien. Men mange af de AI-projekter, som kommuner og myndigheder har investeret millioner i, kommer aldrig i drift.

Ifølge et nyt studie fra forskere ved Det Juridiske Fakultet, skyldes det ikke nødvendigvis teknologien, men snarere manglen på klare juridiske rammer. Danmark risikerer derfor at bremse sin egen ambition om at blive blandt verdens førende lande i anvendelsen af kunstig intelligens i den offentlige sektor.

"Der er et stort ønske om at tage AI i brug i den offentlige sektor, men også usikkerhed om de retlige rammer for anvendelsen. Fra et retssikkerhedsperspektiv er det derfor vigtigt, at der er tydelighed og forudsigelighed om, hvornår og hvordan AI kan anvendes, så både myndigheder og borgere kan have tillid til den måde, teknologien bruges på," siger Aysel Küçüksu, adjunkt ved Det Juridiske Fakultet, Københavns Universitet, og fellow ved CAISA – Det Nationale Center for AI i Samfundet.

Med afsæt i begrebet ’digital kirkegård’ beskriver forskerne, hvordan lovende AI-projekter aldrig når fra udvikling til praktisk anvendelse.

Syv ud af ti projekter nåede aldrig i drift

Studiet bygger på juridiske analyser af dansk og europæisk lovgivning, Datatilsynets praksis samt erfaringer fra en række danske AI-signaturprojekter i den offentlige sektor. Forskerne peger blandt andet på, at kun seks ud af 22 afsluttede signaturprojekter blev sat i drift, mens resten blev lukket uden implementering. Juridisk usikkerhed om lovhjemmel var en af de væsentligste årsager.

Problemet opstår især, når myndigheder ønsker at bruge AI-systemer til sagsbehandling, der involverer personoplysninger. Her oplever mange myndigheder, at det er uklart, præcis hvilke lovgrundlag der kræves.

"Danmark har i dag en fragmenteret regulering, hvor enkelte sektorer har særregler, mens andre står uden et klart hjemmelsgrundlag. Det skaber usikkerhed og gør det svært at arbejde systematisk med kunstig intelligens," siger Henrik Palmer Olsen, professor ved Det Juridiske Fakultet, Københavns Universitet.

Inspiration fra Norge og Finland

Forskerne har sammenlignet den danske situation med udviklingen i Norge og Finland, som begge har opdateret deres forvaltningslovgivning for at skabe tydeligere regler for automatisering og kunstig intelligens i den offentlige sektor.

Ifølge forskerne viser erfaringerne, at det er muligt at skabe mere sammenhængende rammer uden at gå på kompromis med borgernes rettigheder. De anbefaler derfor, at Danmark indfører en samlet rammelov for kunstig intelligens i den offentlige sektor. En sådan lov skal blandt andet tydeliggøre, hvornår AI må anvendes, hvilke krav der gælder til gennemsigtighed og proportionalitet, og hvordan borgernes persondata beskyttes.

"Der er behov for politiske spilleregler, som regulerer anvendelsen af teknologien og samtidig beskytter borgernes grundlæggende rettigheder ved blandt andet at sikre proportionalitet og gennemsigtighed," siger Aysel Küçüksu.

AI er ikke løsningen på alt

Forskerne understreger samtidig, at kunstig intelligens ikke altid er den rigtige løsning.

Nogle projekter er blevet opgivet, fordi datagrundlaget var utilstrækkeligt, fordi fejlprocenten var for høj, eller fordi teknologien endnu ikke var moden nok til opgaven. Derfor bør myndigheder ikke blot spørge, om AI kan bruges, men også om det bør bruges.

"En ansvarlig digitalisering handler ikke om at indføre kunstig intelligens så mange steder som muligt. Det handler om at finde de opgaver, hvor teknologien faktisk skaber værdi, og hvor retssikkerhed, gennemsigtighed og faglig kvalitet stadig kan sikres," understreger Henrik Palmer Olsen.

Forskerne håber, at resultaterne kan bidrage til den aktuelle politiske debat om, hvordan kunstig intelligens skal implementeres i den danske offentlige sektor i de kommende år.

Studiet, der er publiceret i det videnskabelige tidsskrift Politica, bærer titlen ’AI i den offentlige sektor: fra nordiske erfaringer til en dansk lov om kunstig intelligens’. Læs det her.

Til research og argumentation har forskerne benyttet offentlig-ai.dk, Danmarks første database over brugen af kunstig intelligens i det offentlige. Den er udviklet på initiativ af adjunkt Aysel Küçüksu og lektor Zuzanna Godzimirska og hostet af Det Juridiske Fakultet.

Hovedpointer fra studiet

• Danmark mangler et samlet juridisk grundlag for brug af AI i offentlig sagsbehandling, når der behandles personoplysninger.
• Mange offentlige AI-projekter er blevet stoppet på grund af usikkerhed om lovhjemmel.
• Kun seks ud af 22 afsluttede danske AI-signaturprojekter er blevet sat i drift.
• Norge og Finland har allerede opdateret deres lovgivning på området.
• Forskerne anbefaler en dansk rammelov for kunstig intelligens i den offentlige sektor.