Forskere sætter kritisk fokus på politi-teknologi

IT-Universitetet og de it-professionelles fagforening PROSA deltager i de kommende tre år i et af de første større, internationale forskningsprojekter, der undersøger politiets brug af big data til efterforskning og forebyggende politiarbejde – også kaldet predictive policing. Formålet er at afdække de menneskelige og samfundsmæssige konsekvenser af politiets stigende brug af teknologiske løsninger som ansigtsgenkendelse, kameraovervågning, big data og andre digitale værktøjer.

Projektet hedder CUPP (Critical Understanding of Predictive Policing) og er anført af ITU i København i samarbejde med universiteter og forskningscentre i Estland, Letland, Norge og Storbritannien. I alle disse lande står digitaliseringen af den offentlige sektor højt på den politiske dagsorden. Det gælder også politiets arbejde, hvor automatisering, overvågning og brugen af avanceret teknologi og big data vinder frem.

”Men i realiteten ved vi meget lidt om, hvad kunstig intelligens, big data og andre datadrevne teknologier betyder for politiets arbejde med hensyn til at forudsige, forhindre og efterforske kriminalitet eller for relationen mellem politi og civilsamfund. Vi har brug for indsigt i, hvordan politiet anvender værktøjerne, og hvordan disse metoder bliver opfattet af borgerne”, siger Vasilis Gallis, lektor på ITU og projektleder for det internationale forskningssamarbejde.

I Danmark er forskernes interesse rettet mod politiets it-system POL-INTEL, som er udviklet af det amerikanske firma Palantir, og som samkører information fra eksempelvis politirapporter og anmeldelser af kriminalitet fra politiets egne databaser med eksterne kilder. Systemet er ved hjælp af kunstig intelligens og data fra sociale medier bygget til at komme med forudsigelser om, hvem der har størst sandsynlighed for at begå kriminalitet – et eksempel på såkaldt intelligence-led policing.

”Derfor vil vi også beskæftige os med de sociale og etiske bekymringer, menneskerettigheder og grundlæggende frihedsrettigheder i relation til den voksende udbredelse af datadrevne værktøjer i politiets arbejde”, siger Vasilis Gallis.

Udover at forske i POL-INTEL er ITU’s rolle at koordinere det internationale forskningsprojekt, mens PROSA blandt andet bidrager med it-teknisk viden. Desuden skal PROSA afholde en række arrangementer, der inddrager civilsamfundet, og drive en hjemmeside, der samler viden om predictive policing og kommunikerer resultaterne af de enkelte forskningsprojekter.

”Forhåbentlig kan vi med dette projekt skabe grundlaget for en offentlig debat om de dilemmaer, det rejser, når magtudøvelse og overvågning i stigende grad sker på baggrund af big data og digitale løsninger”, siger Niels Bertelsen, der er formand i PROSA.

Han henviser til, at amerikanske forskere eksempelvis har påvist alvorlige svagheder og indbygget bias i den eksisterende teknologi til ansigtsgenkendelse.

”Politiets arbejde ændrer sig markant i takt med, at de får adgang til flere og flere digitale værktøjer. Men det åbner også for en række faldgruber. I et demokratisk samfund er tilliden til politiet afgørende, og derfor skal der være indsigt i politiets arbejdsmetoder og redskaber”, siger Niels Bertelsen.

FAKTA OM CUPP

Fem universiteter og et forskningscenter deltager i forskningsprojektet CUPP (Critical Understanding of Predictive Policing)

·      IT-Universitetet, Danmark

·      St. Andrews University, Storbritannien

·      University of Latvia, Letland

·      Baltic Studies Centre, Letland

·      Tallinn University of Technology, Estland

·      Oslo Universitet, Norge

CUPP er et treårigt forskningsprojektet og har modtaget en bevilling på 1 millioner euro fra Nordforsk. Projektet indledes med en lukket online-konference den 5. februar, hvor deltagerne tilrettelæger aktiviteterne i 2021.