Hvor stor er sandsynligheden for, at computeralgoritmer tager fejl?

Computeralgoritmer rammer systematisk lidt forkert, hvilket har stor betydning.

For kunstig intelligens og computeralgoritmer spiller allerede en kæmpe rolle i vores dagligdag.

Det skriver Danmarks Frie Forskningsfond.

Kunstig intelligens og computeralgoritmer sørger eksempelvis for at sortere spam fra i vores indbakke, hjælper os med at planlægge vores transport i bil eller med bus og tog, og de bestemmer hvilke opslag, vi bliver præsenteret for på sociale medier.

De kan også være med til at forudsige fremtidige aktiekurser og risikoen for, at man udvikler brystkræft.

Men nogle gange tager algoritmerne fejl, og nogle gange laver de faktisk systematiske fejl, som vi endnu mangler det teoretiske grundlag for at forstå.

Det håber postdoc på Aarhus Universitet Mikkel Slot Nielsen at lave om på i sit nye forskningsprojekt.

- Vi vil gerne forstå, i hvilke situationer de her algoritmer giver et forkert resultat, og hvorfor de skyder forkert. Med den forståelse kan vi blive bedre til at afgøre, hvor sikre vi faktisk kan være på det resultat, en algoritme er nået frem til, siger han.

Han skal køre forskningsprojektet Statistical inference in machine learning, hvor han sammen med forskere fra Columbia University skal dykke ned i den type algoritmer, der kaldes random forests.

De bliver blandt andet brugt til at forudsige fremtidige aktiekurser – til dels på baggrund af oplysninger om tidligere kurser.

- Jeg håber, at studiet her kan lede til, at vi fremover vil kunne sige mere præcist, hvor stor usikkerhed, der er i et forudsagt resultat. Det vil kunne forbedre de beslutninger, vi træffer på baggrund af resultater fra algoritmer, siger Mikkel Slot Nielsen.

En sådan viden om usikkerhed kan for eksempel have stor betydning for, hvordan en investor vil reagere, hvis en algoritme forudsiger, at aktiekursen vil falde i nær fremtid. Eller hvad patient og læge vælger at gøre, hvis en algoritme har konkluderet, at en kvinde med stor sandsynlighed vil udvikle brystkræft.

- Forhåbentlig vil forskningen også gøre os i stand til at sige mere om, hvad der er de bedste algoritmer til forskellige formål og på den måde udnytte algoritmernes fulde potentiale, afslutter han.