Forklarlig kunstig intelligens skal øge sygehuses brug af AI
![Fotograf: Bax Lindhardt](/data/images/00094/5a99864a-3cbc-470c-857d-ccb6d8086b84-w_720.jpg)
AI (kunstig intelligens) vinder gradvist større plads i medicinske hjælpeteknologier såsom billedbaseret diagnose, hvor den kunstige intelligens med overmenneskelig præcision kan analysere skanningsbilleder. AI er derimod sjældent designet som en samarbejdspartner for lægepersonalet.
I et nyt human-AI-projekt ’EXPLAIN-ME’ - støttet af det nationale forskningscenter DIREC vil AI-forskere sammen med læger udvikle forklarlig kunstig intelligens (Explainable AI - XAI), der kan give klinikere feedback, når de uddanner sig på hospitalernes træningsklinikker.
”I den vestlige verden vurderes omkring hver tiende diagnose at være forkert, så patienterne ikke får den rette behandling. Forklaringen kan skyldes manglende erfaring og træning. Vores XAI-model vil hjælpe lægepersonalet med at træffe beslutninger og virke lidt som en mentor, der giver råd og respons, når de træner,” forklarer Aasa Feragen, projektleder og professor på DTU Compute.
I projektet samarbejder DTU, Københavns Universitet, Aalborg Universitet og Roskilde Universitet med læger på trænings- og simulationscentret CAMES på Rigshospitalet, NordSim på Aalborg Universitetshospital samt kræftlæger på Urologisk Afdeling på Sjællands Universitetshospital i Roskilde.
Ultralydsskanning af gravide
På CAMES vil DTU og Københavns Universitet udvikle en XAI-model, der kigger læger og jordemødre over skulderen, når de i træningsklinikken ultralydsskanner ’gravide’ træningsdukker.
Inden for ultralydsskanning arbejder klinikere ud fra specifikke ’standardplaner’, som viser forskellige dele af fostrets anatomi, så man kan reagere ved komplikationer. Reglerne bliver implementeret i XAI-modellen, der bliver integreret i en simulator, så lægen får feedback undervejs.
Forskerne træner den kunstige intelligens på rigtige data fra Rigshospitalets ultralydsskanninger fra 2009 til 2018, og det er primært billeder fra de almindelige nakkefolds- og misdannelsesskanninger, som alle gravide tilbydes cirka 12 og 20 uger inde i graviditeten. Når XAI-modellerne om godt et års tid vil blive anvendt på træningsklinikken, skal man først tjekke, om modellen også virker i simulatoren, eftersom EAI-modellen er trænet på rigtige data, mens træningsdukken er kunstige data.
Ifølge læger afhænger kvaliteten af ultralydsskanninger og evnen til at stille rette diagnoser af, hvor megen træning lægerne har fået.
”Hvis vores model undervejs kan fortælle lægen, at der mangler en fod i billedet for, at billedet er godt nok, vil lægen muligvis kunne lære hurtigere. Hvis vi også kan få XAI-modellen til at fortælle, at sonden på ultralydsapparatet skal flyttes lidt for at få alt med i billedet, så kan det måske anvendes i lægepraksis også. Det ville være fantastisk, hvis XAI også kan hjælpe mindre trænede læger til at lave skanninger, der er på højde med de meget trænede læger,” siger Aasa Feragen.
Forskningslektor og leder af CAMES’ forskningsgruppe inden for kunstig intelligens Martin Grønnebæk Tolsgaard understreger, at mange læger er interesserede i at få hjælp af AI-teknologien til at fastlægge den bedste behandling for patienterne. Og her er forklarlig AI vejen frem.
”Mange af de AI-modeller, der findes i dag, giver ikke særlig god indsigt i, hvorfor de kommer frem til en bestemt beslutning. Det er vigtigt for os at blive klogere på. Hvis man ikke forklarer, hvorfor den kunstige intelligens kommer frem til en given beslutning, så tror klinikerne ikke på beslutningen. Så hvis man vil bruge AI til gøre klinikerne bedre, så er det ikke nok bare at få beslutningerne, men også behov for gode forklaringer, det vil sige Explainable AI."
Løbende feedback ved robotkirurgi
Robotkirurgi giver kirurger mulighed for at udføre deres arbejde med mere præcision og kontrol end traditionelle kirurgiske værktøjer. Det reducerer fejl og øger effektiviteten, og forventningen er, at AI vil kunne forbedre resultaterne yderligere.
I Aalborg skal forskerne udvikle en XAI-model, der støtter lægerne i træningscentret NordSim, hvor både danske og udenlandske læger kan træne kirurgi og operationer i robotsimulatorer med f.eks. grisehjerter. Modellen skal give løbende feedback til klinikerne, imens de træner en operation, og uden at det forstyrrer, fortæller Mikael B. Skov, professor på Department of Computer Science ved AAU:
”I dag er det typisk sådan, at man først får at vide, hvis man skulle have gjort noget anderledes, når man er færdig med at træne en operation. Vi vil gerne se på, hvordan man kan komme med den her feedback mere kontinuerligt, således, at man bedre forstår, om man har gjort noget rigtigt eller forkert. Det skal helst gøres sådan, at personerne lærer det hurtigere og samtidig begår færre fejl, inden de skal ud og lave rigtige operationer. Vi skal derfor se på, hvordan man kan komme med forskellige typer af feedback, som f.eks. advarsler, uden at det afbryder for meget”.
Billedanalyser ved nyrekræft
Læger skal ofte træffe beslutninger under tidspres, f.eks. i forbindelse med kræftdiagnoser, fordi man vil undgå, at kræften spreder sig. En falsk positiv diagnose kan derfor betyde, at patienten får fjernet en rask nyre og påføres andre komplikationer. Selv om erfaringen viser, at AI-metoder er mere præcise i vurderingerne end lægerne, har lægerne brug for en god forklaring på, hvorfor de matematiske modeller klassificerer en tumor som godartet eller ondartet.
I DIREC-projektet vil forskere fra Roskilde Universitet udvikle metoder, hvor kunstig intelligens analyserer medicinske billeder til brug ved diagnosticering af nyrekræft. Lægerne vil hjælpe dem med at forstå, hvilken feedback der er brug for fra AI-modellerne, så man finder en balance mellem, hvad der er teknisk muligt, og hvad der er klinisk nødvendigt.
”Det er vigtigt, at teknologien skal kunne indgå i hospitalernes praksis, og derfor har vi især fokus på at designe de her metoder inden for ’Explainable AI’ i direkte samarbejde med de læger, der rent faktisk skal bruge den i deres beslutningstagning. Her trækker vi især på vores ekspertise inden for Participatory Design, som er en systematisk tilgang til at opnå den bedste synergi mellem, hvad AI-forskeren kan komme op med af teknologiske innovationer, og hvad lægerne har brug for,” siger Henning Christiansen, professor i datalogi på Institut for Mennesker og Teknologi på Roskilde Universitet.
EXPLAIN-ME:
Partnere i projektet EXPLAIN-ME: Learning to Collaborate via Explainable AI in Medical Education.
- DTU
- Københavns Universitet
- Aalborg Universitet
- Roskilde Universitet
- CAMES - Copenhagen Academy for Medical Education and Simulation på Rigshospitalet i København
- NordSim - Center for færdighedstræning og simulation på Aalborg Universitetshospital
- Urologisk Afdeling på Sjællands Universitetshospital i Roskilde.
Projektperiode: 1. oktober 2021 til 30. april 2025
Om DIREC:
Det nationale forskningscenter DIREC - Digital Research Centre Denmark - støtter digital forskning i verdensklasse, der skal bringe Danmark er i front med nye digitale teknologier.
DIREC bidrager derudover til at udbygge kapaciteten inden for både forskning og uddannelse af dataloger, så Danmark får flere højtuddannede it-specialister.
DIREC er et unikt samarbejde mellem de datalogiske institutter ved de otte danske universiteter og Alexandra Instituttet. Der er et samlet budget på 275 millioner kroner, hvoraf 100 millioner kommer fra Innovationsfonden.
DIRECs aktiviteter tager udgangspunkt i samfundets behov, og forskningen skal løbende omsættes til værdiskabende digitale løsninger i samarbejde med erhvervslivet og den offentlige sektor. Projekterne går på tværs af brancher og omhandler bl.a. kunstig intelligens, Internet of Things, algoritmer og cybersikkerhed. Læs mere på direc.dk
Kontakt:
Aasa Feragen
Professor på DTU Compute
M: +45 26 22 04 98
afhar@dtu.dk
Billeder
![Fotograf: Bax Lindhardt](/data/images/00094/5a99864a-3cbc-470c-857d-ccb6d8086b84-w_240.jpg)
Information om Alexandra Instituttet
![Alexandra Instituttet](/data/images/00753/5a3e4e75-2787-4ec3-b74e-fe1126ea3f83-w_300_h_250.png)
Åbogade 34 · Rued Langgaards Vej 7
8200 Aarhus N · 2300 København S
+45 70 27 70 12https://alexandra.dk
100 eksperter under ét tag
Alexandra Instituttet hjælper offentlige og private virksomheder med at anvende den nyeste it-forskning og -teknologi. Vores udgangspunkt er samfundsmæssige problemstillinger og behov for at omsætte den nyeste forskning til innovative løsninger.
Hos os finder du stærke kompetencer inden for blandt andet visual computing, kunstig intelligens, IoT, cybersikkerhed, interaktionsdesign og smarte produkter.
Vi arbejder i et tværfagligt miljø og er et hold af højtkvalificerede specialister, der hurtigt kan forstå din organisations og dine brugeres problemstillinger.
Følg pressemeddelelser fra Alexandra Instituttet
Skriv dig op her, og modtag pressemeddelelser på e-mail. Indtast din e-mail, klik på abonner, og følg instruktionerne i den udsendte e-mail.
Flere pressemeddelelser fra Alexandra Instituttet
Alexandra Instituttet har bragt Danmark foran digitalt i 25 år26.8.2024 08:00:00 CEST | Pressemeddelelse
Når Alexandra Instituttet fylder et kvart århundrede den 27. august, er det et klart bevis på, at missionen med at skabe forretning med anvendt it-forskning er lykkedes. Udover at stå bag forskning, der har ført til flere digitale løsninger og spin out virksomheder, så har Alexandra Instituttet frem for alt ageret teknologisk sparringspartner for et utal af virksomheder og hjulpet dem med at styrke deres konkurrenceevne.
20 virksomheders erfaring med kunstig intelligens i praksis7.8.2024 16:20:19 CEST | Pressemeddelelse
Alexandra Instituttet interviewede 20 virksomheder for at samle deres erfaringer med kunstig intelligens. I denne rapport kan andre danske virksomheder bruge dem i deres jagt på AI-potentialet.
Digitalisering og cirkularitet er en bæredygtig dobbeltsalto9.7.2024 10:00:13 CEST | Pressemeddelelse
Virksomheden PE Redskaber fremstiller trampoliner og andre gymnastikredskaber og er selv midt i et ambitiøst spring mod en mere bæredygtig produktionsmåde. Det sker sammen med Alexandra Instituttet gennem projektet Afkobling 2030, der hjælper produktionsvirksomheder med at reducere deres klima- og miljøudledninger.
Erhvervsstyrelsen har valgt Alexandra Instituttet som it-leverandør på to delaftaler4.7.2024 07:16:55 CEST | Pressemeddelelse
Erhvervsstyrelsen har udvalgt Alexandra Instituttet som leverandør på delaftale 3 UX og delaftale 5 Engineering & Data Science på den it-rammeaftale, der netop er blevet indgået.
Alexandra Instituttet er med i Cybersikkerhedsrådet2.7.2024 10:33:06 CEST | Pressemeddelelse
Det er vigtigt, at cybersikkerhed får den samme prioritering, som vi har haft på at være først med digitaliseringen, lyder det fra Gert Læssøe Mikkelsen fra Alexandra Instituttet, der er nyt medlem af Cybersikkerhedsrådet.
I vores nyhedsrum kan du læse alle vores pressemeddelelser, tilgå materiale i form af billeder og dokumenter samt finde vores kontaktoplysninger.
Besøg vores nyhedsrum