Hemmelige AI-systemer skal frem i lyset

Det er skadeligt for myndighedernes troværdighed og borgernes tillid, når Skattestyrelsen har valgt at mørklægge formålet med at anvende en række forskellige AI-systemer, der anvender personlige oplysninger om borgerne ved hjælp af kunstig intelligens.

Sådan lyder det fra Ingeniørforeningen, IDA, der opfordrer skatteminister Jeppe Bruus (S) til hurtigst muligt sikre fuld indsigt i de AI-systemer, der anvendes af Skattestyrelsen.

Det sker, efter at Skattestyrelsen ifølge flere medier har afvist at oplyse formålet med 14 ud af 23 AI-systemer, som benyttes af myndighederne. I syv af tilfældene vil myndighederne ikke oplyse, hvilke typer af personoplysninger, der udgør datagrundlaget.

”Det er jo en tilgang til brugen af kunstig intelligens, som er helt ude af trit med ønsket om at skabe tillid til digitalisering i den offentlige sektor, når myndighederne hemmeligholder formål og metoder til dataindsamling om borgerne. Når man går så tæt på borgernes privatliv, må man spille med åbne kort og kunne stå på mål for de metoder, der bruges”, siger Grit Munk, der er digitaliseringspolitisk chef i Ingeniørforeningen, IDA.

Hun tilføjer, at der på et så følsomt område som skattebetaling bør være høje krav til myndighederne om at levere dokumentation, så borgerne til hver en tid kan kontrollere de fakta, der lægger til grund for myndighedernes afgørelser. I modsat fald kan det gå ud over borgernes tillid og i værste fald retssikkerheden, mener Grit Munk.

”Afgørelser i alle myndighedssager skal ske på et fuldstændigt åbent og tilgængeligt grundlag. Men det er ikke den fornemmelse, man får, når Skattestyrelsen nægter indsigt i algoritmerne, dataindsamlingen og de datakilder, der benyttes. Al respekt for, at Skattestyrelsen bruger teknologi til at optimere deres arbejde, men det skal være på fair og gennemsigtige vilkår”, siger Grit Munk.

Hun peger på det paradoksale i, at myndighederne på den ene side kæmper for øget regulering af kunstig intelligens gennem den historiske EU-aftale om AI Act, og på den anden side praktiserer lukkethed om AI-systemer i den offentlige forvaltning.

”Hele tankegangen bag EU's skelsættende AI Act er at sikre transparens i AI-modeller og regulere AI-systemer, der vurderes at have en særlig risiko for eksempelvis retssikkerheden eller borgernes frihedsrettigheder. Det er et godt og bærende princip, som selvfølgelig også bør gælde alle offentlige AI-systemer”, siger Grit Munk.