Hvordan anvender vi bedst algoritmer og kunstig intelligens i velfærdssamfundet?

Algoritmer styrer en stigende del af vores samfund og hverdag. Anbefalinger og beslutninger baseret på store datamængder og algoritmer virker objektive og overbevisende. Men hvad sker der, når algoritmerne anvendes på følsomme områder? Fx til at forudsige, hvilke børn der vil blive udsat for misrøgt, eller hvilke skyldnere der sandsynligvis ikke vil betale deres gæld. Skal vi bruge algoritmiske forudsigelser som grundlag for politiske beslutninger, fordi de – måske – er mere sikre end den menneskelige mavefornemmelse? Hvilke konsekvenser får det for demokratiet? Og hvilke konsekvenser har det, hvis vi lader algoritmerne træffe beslutninger i rutinesager i de kommunale forvaltninger eller ved domstolene?

Alt det og meget mere skal et ambitiøst forsknings- og oplysningsprojekt nu kortlægge og skabe indsigt i og debat om. Projektet har navnet Algoritmer, Data og Demokrati eller forkortet ADD-projektet, og det er finansieret af VILLUM og VELUX FONDEN med 100 millioner kroner.

Forsknings- og oplysningsprojektet skal over de næste 10 år gøre os klogere på brugen af algoritmer i velfærdssamfundet, og på hvordan vi kan leve fornuftigt med anvendelsen af dem i vores samfund og vores demokrati i fremtiden. Med andre ord: Hvordan vi undgår, at algoritmerne medvirker til at skabe konflikter, utryghed og mistillid, og tværtimod kommer til at gøre en positiv forskel og give nytteværdi for mennesker.

Kunstig intelligens og dateetik i offentlig forvaltning

Fra DPU, Aarhus Universitet deltager lektor i uddannelsesvidenskab Helene Ratner, der igennem en årrække har forsket i brugen af data i offentlig forvaltning og datainformeret styring. Sammen med en ph.d. studerende og to postdocs skal hun i projektet Public administration and prediction (Offentlig forvaltning og prædiktive algoritmer) undersøge den offentlige forvaltnings brug af kunstig intelligens – herunder sammenhængen mellem den offentlige forvaltnings brug af algoritmer til at forudsige borgeres risici og adfærd – og så de dataetiske spørgsmål, der også følger med.

”Den offentlige sektor bruger i stigende grad kunstig intelligens til at lave prognoser for borgernes fremtidige adfærd og risici. Det kan være algoritmer, der forudser børns risici for mistrivsel, arbejdsløses risici for at ende i langtidsledighed eller borgeres risici for ikke at betale deres skat rettidigt,” forklarer Helene Ratner.

Hun peger på, at kunstig intelligens i form af prædiktive algoritmer ikke kun er et spørgsmål om at hjælpe den offentlige sektor til bedre at understøtte fagprofessionelles beslutningsprocesser eller til at prioritere knappe ressourcer og lave tidlige indsatser, fx i udsatte familier. Det rejser også andre vigtige spørgsmål.

”Det handler helt grundlæggende om, hvilken relationen vi ønsker mellem stat og borger. Hvilke beslutninger, der ellers træffes af fagprofessionelle, skal automatiseres? På hvilken måde? Hvilken viden ønsker vi, at staten skal have om os borgere? Og hvad betyder den øgede brug af data og kunstig intelligens for vores tillid til den offentlige forvaltning?” siger hun og fortsætter:

”Kunstig intelligens kan stigmatisere befolkningsgrupper, som allerede har stor kontakt med den offentlige sektor. Så hvordan undgår vi, at kunstig intelligens reproducerer og måske endda forstærker de fordomme, der uundgåeligt ligger i den data, som er brugt til at udvikle algoritmerne?” spørger hun og understreger vigtigheden af at forske i sammenhængen mellem det offentliges brug af kunstig intelligens i form af algoritmer, der forudser borgeres risici, og så de dataetiske diskussioner, der opstår i kølvandet herpå.

”Netop ved at undersøge samspillet mellem de to, kan vi få ny viden om, hvordan data og algoritmer ændrer relationen mellem stat og borger – og hvordan det tvinger os til at gentænke de idealer, vi har for en demokratisk velfærdsstat. Den danske velfærdsstat er dybt afhængig af borgernes tillid. Derfor er det afgørende med ny viden om, hvordan kunstig intelligens og den øgede brug af data påvirker borgernes tillid til den offentlige forvaltning.”

Fakta om ADD-projektet

Projektet er del af et større konsortium ledet af professor Sine Nørholm Just, Institut for Kommunikation og Humanistisk Videnskab på Roskilde Universitet. Derudover deltager Christina Lioma, professor ved Datalogisk Institut, Københavns Universitet; Torben Elgaard Jensen, professor ved Institut for Kultur og Læring, Aalborg Universitet; Leonard Seabrooke, professor ved Institut for Organisation, Copenhagen Business School; Helene Friis Ratner, lektor ved DPU, Aarhus Universitet og Alf Rehn, professor ved Institut for Teknologi og Innovation, Syddansk Universitet.

Projektets oplysnings- og dialogindsats kommer til at foregå under ledelse af chefredaktør Lisbeth Knudsen fra Tænketanken Mandag Morgen. Ambitionen er at skabe en stor alliance af samfundsinteressenter alle involveret i folkeoplysning, digital dannelse, digital læring og videndeling om nye teknologier på forskellige niveauer.

• Læs mere om ADD-projektet: 100 millioner til nyt forsknings- og oplysningsprojekt (veluxfoundations.dk)