EU indgår historisk aftale om verdens første regler for kunstig intelligens

Den nye aftale er en historisk milepæl og endnu et bevis på, at EU kan skabe et fælles indre marked, hvor potentialerne i digitalisering kan udnyttes med mennesket i centrum. De nye regler er risikobaserede og balancerede og sikrer dermed plads til stor innovationskraft og konkurrencefordele for danske og europæiske virksomheder. Og så vil reglerne være et vigtigt bolværk mod de risici, der er forbundet med kunstig intelligens.    

Digitaliseringsminister Marie Bjerre glæder sig over nyheden:

”Kunstig intelligens er i rivende udvikling og giver fantastiske muligheder, som vi skal udnytte. Jeg er derfor meget glad for og stolt over, at vi nu har skabt verdens første rammer, der giver klarhed for virksomhederne og myndighederne, når de udvikler og bruger kunstig intelligens. Reglerne tager udgangspunkt i den risiko, der er forbundet med anvendelsen af kunstig intelligens, og rammer den rigtige balance, så vi giver plads til innovation, samtidig med at vi beskytter borgerne, der hvor kunstig intelligens udgør en risiko.”

Aftalen indeholder forbud mod uacceptabel brug af kunstig intelligens. For eksempel mod såkaldt social scoring - et fænomen, vi har set i Kina, hvor borgere rangeres og gives eller nægtes ydelser alene ud fra, hvordan de har opført sig i forskellige sammenhænge.

De nye regler stiller også strenge krav til kunstig intelligenssystemer, som man bruger til for eksempel rekruttering eller til at understøtte beslutning om, hvilke sociale ydelser en borger har ret til. Her er det vigtigt med strenge krav, da der kan være en risiko for, at borgere ikke får tilbudt et job eller ret til nogle sociale ydelser, hvis der ikke er taget højde for forudindtagethed – også kaldet bias – i de data, som den kunstige intelligens er trænet på.

Reglerne sikrer også transparens for modeller til generelle formål, som for eksempel den model ChatGPT bygger på. Og aftalen kræver, at man holder skarpt øje med de mest kraftfulde kunstig intelligens modeller.

Endelig etableres der et nyt kontor i EU-Kommissionen, som skal håndhæve reglerne over for modeller til generelle formål, så reglerne bliver håndhævet effektivt i hele EU.