Kunstig intelligens skal stoppe diskrimination i sundhedsvæsenet

“Mænd bliver sjældnere deprimeret end kvinder.”

“Kvinder har højere smertetærskel end mænd.”

Fordomme og forudindtagetheder som disse spiller en større rolle, end vi selv er klar over. De kan betyde, at en læge holder tilbage med at give psykologtimer til mænd eller helt undlader at diagnosticere mænd med depression.

Men fordommene er ikke kun forbeholdt mennesker. Kunstig intelligens kan have præcis samme udfordring. Det er nemlig en prædiktiv algoritme, der er oplært til at reproducere de beslutninger, der forekommer i de data, den er trænet på.

Så hvis mænd for eksempel bliver underdiagnosticeret med depression, mens kvinder ikke gør, så vil den kunstige intelligens udøve den samme partiskhed, når den diagnosticerer depressionen. Og hvis læger holder tilbage med at give psykologtimer til mænd, vil algoritmen gøre det samme.

Derfor skal det nye forskningsprojekt Bias and fairness in medicine udvikle algoritmer for retfærdig kunstig intelligens, som skal kunne diagnosticere og prædiktere behandling i sundhedsvæsenet uden at være partisk.

Projektet har netop fået støtte fra Danmarks Frie Forskningsfond og er ledet af Aasa Feragen-Hauberg, der er professor ved Institut for Matematik og Computer Science på Danmarks Tekniske Universitet. Undersøgelsen kommer til at foregå i tæt samarbejde med etiker og lektor Sune Hannibal Holm fra Københavns Universitet, adjunkt Melanie Ganz på Rigshospitalet samt ETH, som er et teknisk universitet i Zürich i Schweiz.

- Når vi laver en veltrænet algoritme, vil den ikke have den støj, som et menneske har. En algoritme har ikke en dårlig dag, som en læge kan have. Og med en retfærdig algoritme, som vi vil lave, kan vi opnå lige god diagnostik eller behandling for alle grupper og fjerne nogle af forudindtagethederne, siger Aasa Feragen-Hauberg.

Første skridt i forskningsprojektet bliver at lave et registerstudie, hvor forskerne ser på depressionsdata hos danske patienter. Her vil de teste deres hypotese om, at der er skævheder i dataet – for eksempel i hvor tit danskerne bliver diagnosticeret og hvilken type behandling, de får, baseret på køn, alder, geografi og indkomst.

Derefter vil de i samarbejde med en etiker fra KU undersøge, hvad det overhovedet vil sige, at en algoritme skal være fair i sundhedsvæsenet og skabe nye definitioner af retfærdig kunstig intelligens. For det at være “retfærdig” i sundhedssektoren er med stor sandsynlighed anderledes end andre steder.

- Det ville være et stort problem, hvis man for eksempel ikke måtte give mænd den bedst mulige behandling for hjertesygdomme, fordi vi er dårligere til at diagnosticere kvinder for det samme. Det skal medtænkes i den etiske analyse af en fair sundhedsalgoritme, siger Aasa Feragen-Hauberg.

Afslutningsvis vil de bruge resultaterne fra registerstudiet og de nye koncepter om retfærdighed til at udvikle algoritmer for mere retfærdig kunstig intelligens i sundhedsvæsenet.

- De skal være ude af stand til at diskriminere nogle patienter. Alle har ret til en korrekt diagnosticering og en fair behandling, siger Aasa Feragen-Hauberg.

Håbet er, at de nye algoritmer for kunstig intelligens kan skabe et bedre og mere retfærdigt sundhedsvæsen.

Projektet kommer til at løbe over tre år.