EU’s nye regler for kunstig intelligens tæller både fejlskud og en rigtig placering af et vigtigt ansvar

- EU rammer hovedet på sømmet ved at vende pladen 180 grader. Modsat GDPR, som pålægger alle virksomheder at sikre sig, at deres leverandører lever op til persondatareglerne, lægger AI-forordningen nemlig størstedelen af højrisiko-kravene på udviklerne af it-software. Det er den rigtige beslutning at placere kravene hos de, som reelt kan løfte dem, og dermed sikre at kravene i stort omfang løftes samlet ét sted. Det er markant nemmere for virksomhederne at arbejde med, fortæller Sigrid Floor Toft.

Dog er F&P ikke tilfreds med, at forordningen er uklar i forhold til fordelingen af krav hos både udviklere og brugerne. Og det er ikke tydeligt, hvor meget af en proces, hvor der ét sted indgår AI, der omfattes rammes af de nye regler. Og det bliver særligt tydeligt med generelle systemer, som indeholder AI. Hvis du nu benytter et AI-tunet Excel-ark på et højrisiko område, så er det højrisiko. Men hvor mange af de processer, som Excel-arket bagefter indgår i, er så også højrisiko selvom man slet ikke bruger AI-funktionerne? Det udestår forsat.

 - Det giver ikke mening, hvis al brug af Excel i en virksomhed er højrisiko, bare fordi virksomheden bruger det i ét højrisikoscenarie. Og hvis man på den anden side, slet ikke bruger AI-funktionerne i Excel, er programmet så stadig AI? Det har vi ikke fået svar på med aftalen. Der kan sættes meget elastik i disse afgrænsninger, og det vil være et fejlskud, hvis vi ender der, mener vi i F&P, fortæller Sigrid Floor Toft. 

F&P håber således, at der er fokus på at isolere kravene, så de ikke kan løbe hele vejen på tværs af processer der ikke er højrisiko, når man i de kommende dage skal lande de sidste tekniske tilretninger i kølvandet på den politiske aftale. Og ikke mindst, at de kommende vejledninger og harmoniserede standarder, som skal understøtte virksomhederne i at implementere forordningen, også har foks på dette.