Ny forskning: Undersøger dilemmaet mellem ansvarlig - og værdiskabende kunstig intelligens (AI)

Forskning inden for kunstig intelligens (AI) har tidligere fokuseret på enten teknologiudvikling eller på etik og regulering som selvstændige områder. Det gør en gruppe forskere fra Aalborg Universitet nu op med i forskningsprojektet – ’Responsible AI for Value Creation’ – der er et nybrud inden for AI-forskningen, fordi projektet kombinerer teknologi, etik og regulering med værdiskabelse. Både den ligeværdige kombination af fagområderne samt fokus på værdiskabelse for virksomheder og organisationer er nyt.

- Teknologiudvikling kan ikke stå for sig selv. Det kan etik og regulering heller ikke. Vi er nødt til at undersøge AI fra flere sider for bedre at forstå, hvordan AI egentlig skaber værdi for både samfund og virksomheder, forklarer professor i AI Thomas B. Moeslund fra Det Tekniske Fakultet for IT og Design på Aalborg universitet (AAU).

Thomas B. Moeslund er leder af projektet, og han mener ikke, at værdiskabelse kan løsrives fra de andre områder.

- Sat på spidsen er det nok svært at sælge AI-teknologier, der ikke er socialt acceptable, eller hvor selve teknologien ikke er god nok. Samtidig bliver teknologien i stigende grad underlagt politisk regulering, siger Thomas B. Moeslund.

Thomas B. Moeslund skal sammen med professor i Data- og AI-etik Thomas Ploug og professor i Organisation og Ledelse Jeppe Agger Nielsen fra Det Humanistiske og Samfundsvidenskabelige Fakultet, AAU indgå i en fælles projektledelse for netop at sikre det tværfaglige aspekt i forskningsprojektet.

Fondsdirektør i Grundfos Fonden, Kim Nøhr Skibsted, ser et stort potentiale i projektet.

- Der er masser af værdiskabende potentiale i AI, men vi risikerer også at skade vores demokratiske samtale, menneskerettigheder og privatliv, når vi bruger det. Som virksomhedsejere føler vi os derfor kaldede til at bidrage til at udvikle en ansvarlig praksis omkring brugen af teknologierne. Derfor er vi meget glade for at kunne støtte dette projekt, siger Kim Nøhr Skibsted.

Lovgivning og etik i et eksplosivt AI-marked

AI-markedet er i eksplosiv vækst med mange aktører. Samtidig er der også mange, der er bekymrede for teknologiernes betydning for individet og samfundet.  Ifølge forskerne er der risiko for, at området vil blive overreguleret, hvilket reelt vil gøre virksomhederne handlingslammede. Konsekvensen af det kan være, at andre aktører – fx amerikanske og kinesiske – løber med markedet, fordi de har færre restriktioner.

Der er således behov for en balanceret regulering både nu og i fremtiden, og det er præcist denne problemstilling projektet beskæftiger sig med. Spørgsmålene er: Hvad kan vi teknisk? Hvad bør vi gøre etisk? Hvad kan berige samfundet og virksomhederne? Og hvordan regulerer vi området?

I forskningsprojektet undersøges derfor også, hvordan virksomheder og organisationer kan bruge og tjene penge på de nye AI-teknologier på en måde, der stadig er etisk forsvarlig, samfundsmæssig acceptabel og falder inden for lovgivningen. Lovgivningen er ligesom teknologien også under udvikling i Danmark og EU, men den kan vise sig at udgøre en udfordring for virksomheder og institutioner.

- Lovgivning på AI-området kan vise sig at underregulere ved at fejle i beskyttelsen af borgerne, forklarer professor i Data- og AI-etik Thomas Ploug fra Det Humanistiske og Samfundsvidenskabelige Fakultet på AAU og fortsætter:

- Der er imidlertid også en risiko for, at man overregulerer og lægger urimelige begrænsninger på erhvervslivets muligheder for at udvikle og anvende AI. Endelig kan lovgivningen være for kompleks, så den bliver umulig for de enkelte virksomheder at implementere. Alle tre scenarier er vigtige at undgå, hvis man ønsker at fastholde en ansvarlig og konkurrencedygtig AI-udvikling i Danmark og Europa,” slutter professor Thomas Ploug.

AI kan forbedre ældreplejen og reducere drukneulykker

Projektet tager undervejs fat i en række konkrete AI-cases for at eksemplificere de muligheder og dilemmaer, der er for at udvikle og benytte AI på en ansvarlig måde og samtidig skabe værdi for virksomheder, organisationer og borgere. De første to cases er henholdsvis Aalborg Kommunes arbejde med AI i ældreplejen og Milestone Systems arbejde med intelligente kameraer, der slår alarm, hvis nogen falder i vandet.

- Det er vigtigt, at vi får hands-on erfaringer fra virksomheder, som indfører og bruger AI teknologi. Det er ofte en enorm opgave at implementere AI, som kræver ledelsesmæssig opmærksomhed og mod. Mens der er megen snak om mulighederne og farerne ved AI, vil vi i dette forskningsprojekt gå tæt på virksomhedernes faktiske brug af AI-teknologi i en række forskellige industrier og sektorer, fortæller professor i Organisation og Ledelse Jeppe Agger Nielsen Det Humanistiske og Samfundsvidenskabelige Fakultet på AAU.

Om projektet

Projektet er båret af et stærkt ønske om at bidrage til det store arbejde med at udvikle lovgivning og politikker på AI-området. I projektet bliver der derfor også lagt stor vægt på udveksling med og formidling til en bred vifte af interessenter fra politikere til erhvervsliv. For at sikre en høj kvalitet af formidlingen sker det i partnerskab med konsulenthuset Mandag Morgen.

Genstandsfeltet for forskningsprojektet er stort og komplekst, hvilket kræver et tværfagligt projektteam der repræsenterer diverse fagligheder. Samarbejde på tværs af fagligheder er ikke trivielt, og derfor vil projektet også have særligt fokus på dette med en særskilt forskningsindsats, der sammen med to andre AI projekter, ’Algoritmer, Data og Demokrati’ og ’Pioneer Center for AI’, undersøger, hvordan samarbejdet i større AI-projekter foregår og kan forbedres.

Fakta

• Projektet udspringer af det tværfaglige AAU-center ’AI for the People’ - men er et selvstændigt projekt
• Projektet løber over fire år
• Projektet er støttet af Grundfos Fonden (Poul Due Jensens Fond) med 24 millioner kr.
• Thomas B. Moeslund er tilknyttet Institut for Arkitektur og Medieteknologi, Thomas Ploug er tilknyttet Institut for Kommunikation og Psykologi, og Jeppe Agger er tilknyttet Institut for Politik og Samfund på Aalborg Universitet.
• Projektet ledes af AAU og har partnere fra KU, AU, University of Barcelona, University of Manchester og Georgia State University.