Ny vejledning sætter fokus på sikkerheden ved brug af kunstig intelligens i praksis

Den øgede brug af kunstig intelligens kræver et stærkt fokus på den digitale sikkerhed, da kunstig intelligens ofte er baseret på store mængder data og kan give nye angrebsflader. Derfor udsender Digitaliseringsstyrelsen, Erhvervsstyrelsen og Center for Cybersikkerhed en ny vejledning til, hvordan danske myndigheder og virksomheder kan tage de nødvendige forholdsregler, når de anvender kunstig intelligens.

Vejledningen indeholder 16 konkrete tiltag. En del af tiltagene er specifikke for brugen af kunstig intelligens, mens en række af tiltagene viser, hvordan brugen af kunstig intelligens skal tænkes ind i sikkerhedstiltag fra mere grundlæggende rammeværktøjer og vejledninger om informationssikkerhed.

"Kunstig intelligens kan hjælpe med at skabe en offentlig sektor med mere tid og bedre service til borgerne. Den nye vejledning sætter ind med en række konkrete tiltag, der skal hjælpe myndigheder og virksomheder med at sikre et fortsat højt sikkerhedsniveau. Det er både godt og vigtigt, for når vi bruger kunstig intelligens er det selvfølgelig afgørende, at borgerne kan have tillid til, at nye teknologier bruges på en ordentlig og sikker måde," siger Signe Caspersen, der er vicedirektør i Digitaliseringsstyrelsen.

”Der er stort potentiale for dansk erhvervsliv i at benytte løsninger baseret på kunstig intelligens. Det er dog vigtigt, at sikkerhed tænkes ind i både udviklingen og brugen af kunstig intelligens, da tilliden til digitale løsninger er afgørende for, at danske virksomheder også i fremtiden kan være blandt de bedste til at få gavn af digitaliseringen,” siger Torsten Andersen, der er vicedirektør i Erhvervsstyrelsen.

”Når kunstig intelligens udvikles og tages i brug, er det vigtigt, at man som organisation hele vejen opretholder et godt risikobaseret sikringsniveau, der tager højde for de traditionelle it-risici samt de nye risici, som brugen af kunstig intelligens kan introducere. En målsætning bør være, at brugen af kunstig intelligens er med til at styrke arbejdet for et sikkert digitalt Danmark,” siger Thomas Lund-Sørensen, der er chef for Center for Cybersikkerhed.

Den nye vejledning bygger på en forudgående analyse, der overordnet peger på, at selvom brugen af kunstig intelligens kan give nye sårbarheder og skabe nye angrebstyper, skal virksomheder og myndigheder stadig først og fremmest have styr på de traditionelle sikkerhedstiltag med udgangspunkt i en risikovurdering (https://sikkerdigital.dk/myndighed/risikostyring/ og https://sikkerdigital.dk/virksomhed/saadan-beskytter-du-din-virksomhed/skabeloner-og-vaerktoejer/).

Nogle sikkerhedstiltag kan dog ændre karakter ved brugen af kunstig intelligens - fx kan der være særlige overvejelser om backup-løsninger i tilfælde af angreb.