Kan man bruge etik som AI-konkurrenceparameter?

“Hvis man havde vidst, at udbredelsen af AirBnB ville udradere hele den gamle bydel i Barcelona for faste beboere, ville man så have udviklet konceptet?”

Sådan spørger dataetisk rådgiver, Kim Escherich, næsten retorisk i et interview med PROSA og rammer dermed hovedet på sømmet, når vi taler etik og utilsigtede hændelser ved ibrugtagning af ny teknologi — eller sågar gammel teknologi i nye kontekster. Kim Escherich påpeger i artiklen, at den tredje bølge af AI accelererer disse etiske problematikker, da “kunstig intelligens er et ekstremt kraftigt værktøj, der giver mulighed for at forandre verden på godt og ondt”.

Kunstig intelligens er for alvor ved at blive udviklet, vurderet og implementeret i arbejdsgange, produkter og services i landets virksomheder og offentlige institutioner. AI-teknologierne er udråbt til at være dem med størst potentiale for vores samfund og markeder de kommende år. Men datadrevne beslutningsstøttende og automatiserende produkter og services er mere og andet end digitale værktøjer. AI-værktøjer medfører, som vi før har vist her på bloggen, en række etiske dilemmaer, der kan føre til effekter, som for os er utilsigtede, fordi vi endnu ikke har erfaring og viden nok til at designe og implementere dem.

Et eksempel er screeningsværktøjer, der er tænkt som en aflastning af sundhedspersonale, men som i praksis giver ekstra arbejde grundet alt for mange falsk positive resultater. De utilsigtede konsekvenser af disse AI-screeningsværktøjer kan dels være, at de skaber angst og bekymring hos den enkelte patient, dels kan det have samfundsøkonomiske konsekvenser, da det medfører øgede ventelister hos speciallægerne. Raske patienter tager tid fra de syge, da mange henvender sig på baggrund af en upræcis screening, foretaget af en algoritme, der ikke er trænet på data af tilstrækkelig høj kvalitet.

Etik kan være modvægten til utryghed
Etisk Råd definerer etiske spørgsmål som måden, man behandler andre mennesker og andre levende væsener på. Etik handler i deres fremlægning om, hvad det gode liv er i betydningen at tage hensyn til andre og ikke kun have blik for sig selv og sine egne behov.
Men hvorfor og hvordan er dette element overhovedet interessant for danske virksomheder, der vil skabe forretning?

Det svarer et nyt, dansk projekt på: I stedet for at vente på, at der er kommet mere erfaring på området, som man kan evaluere og bygge videre på, har Dansk Design Center valgt at gå proaktivt til værks, og arbejder nu med at udvikle en række værktøjer, hvor virksomheder kan gøre deres etiske tilgang til teknologiudvikling til et konkurrenceparameter. Projektet har virkelig fat i noget centralt, mener vi, og derfor har vi snakket med Dansk Design Centers Director of Digital & Future Thinking, Christian Villum, og forfatter og partner i projektet, Peter Svarre, om, hvorfor de mener, at det er vigtigt for danske virksomheder at arbejde med de etiske aspekter ved teknologi lige nu.

”Den teknologiske udvikling er flere steder på vej i den forkerte retning, og det er derfor, at vi ser, at der er et stort behov for, at nogen tager stilling til, hvordan danske virksomheder skal navigere i etiske problemstillinger,” fortæller Christian Villum og fortsætter:

”Nye, teknologiske produkter kan være til gavn for menneskeheden, men kan også blive brugt til at vildlede og manipulere forbrugere og gøre folk afhængige af vanedannende digitale gadgets og services og til at påvirke politiske holdninger. Hvis flere danske virksomheder skal integrere etiske hensyn i deres arbejde, i takt med, at de til fulde udnytter de vækstmuligheder, der ligger i digitalisering, kræver det, at de er i stand til at designe produkter og services på en ny måde.”

Fra teknologioptimisme til teknologibekymring
Da det blev afsløret, at virksomheden Cambridge Analytica havde høstet persondata fra millioner af Facebook-brugere, som de tegnede persona-agtige profiler af, for at bombardere udvalgte målgrupper med manipulerende anti-Hillary- og pro-Trump-budskaber, var det for mange enden på 20 års teknologioptimisme og begyndelsen på en ny samtale, hvor digital teknologi ikke bare er ubetinget godt, men også kan have skyggesider.

GDPR-lovgivning har været med til at tage vare på den problematik, men de etiske problemstillinger handler ikke kun om brug og misbrug af folks personlige data. Netflix-dokumentaren The Social Dilemma har været med til at sætte fokus på, hvordan virksomheder som Facebook og Google bevidst arbejder med manipulation og afhængighedsskabende design.

De fleste brugere af sociale medier kender nok til, at man lige skal tjekke sin profil, og pludselig har man brugt 30 minutter på at sidde og scrolle. Det er ikke alene din hang til overspringshandlinger, der er på spil her. Tristan Harris, tidligere Google-ansat og grundlægger af Center for Humane Technology, er, sammen med en række andre afhoppere, stået frem og har fortalt, hvordan dygtige designere udvikler interfaces og algoritmer, hvor blandt andet dopamin-fremkaldende likes gør dig afhængig af at tjekke, om folk har reageret på dine opslag.

Hele strukturen er bevidst designet til at få dig til at glemme tid og sted, når du scroller ned over din væg. Er det etisk design? Måske ikke, men det er nemt, og det er gratis… Eller er det? Det kan godt være, at du ikke skal have dankortet frem, men du betaler både med din tid, opmærksomhed og data. For de sociale medier som Facebook er tid = data og data = penge. Jo mere tid, de sociale medier kan lokke dig til at bruge på deres tjeneste, jo mere data kan tjenesterne samle sammen, og jo flere penge kan de tjene på at sælge data om dig til annoncørerne.

De fleste ved det godt, men det er svært at melde sig ud af det sociale fællesskab, for alle andre er der jo, og hvordan skal man ellers tøjle sin FOMO?

Ser man på problematikken med de sociale medier fra et strukturelt perspektiv, har det alvorlige konsekvenser for vores samfund, hvilket er endnu et argument for, at fokus på etik og ansvarlighed er presserende. Når folks opmærksomhed er til salg for højestbydende, bliver vores opfattelse af virkeligheden påvirket af, hvad kommercielle virksomheder vil betale.

Risikoen er, at brugere af sociale medier bliver manipuleret i ekstreme retninger, hvilket i høj grad er en trussel for den demokratiske grundtanke. En konsekvens man kan kategorisere som utilsigtet. Et andet eksempel på en utilsigtet konsekvens er det adfærdsdesign, som de sociale medier er bygget op omkring. Her er like-knappen et eksempel på, at en idé med at skabe interaktion og gode vibrationer har fået en bi-effekt, hvor særligt børn og unge bliver deprimerede og får et flosset selvværd i deres søgen efter anerkendelse og fokus på likes.

"Facebook er et eksempel på uetisk design, men hvor convenience får folk til at lukke øjnene for det. Selvom man ved, at det er designet meget bevidst efter et afhængighedsdesign, der påvirker folks primal-hjerne, så sidder mange alligevel og scroller,”
siger Christian Villum.

I forhold til AI handler det især om, at algoritmer i stigende grad anvendes til at træffe beslutninger, der har konsekvenser for menneskers liv. Det kan være en låneansøgning, som bliver afslået af en algoritme eller en selvkørende bil, som kører galt. Har man ikke styr på etikken i udviklingen af algoritmer, kan det i værste fald skabe en verden, hvor mennesker udsættes for automatiske, uretfærdige, umenneskelige eller uforståelige beslutninger, som de ikke efterfølgende kan få forklaret.

Fra gode intentioner til udvikling af en etisk ansvarlig virksomhedskultur
Der er ingen tvivl om, at danske virksomheder skåret over en kam ønsker at undgå denne form for teknologisk udvikling, der truer danske kerneværdier som demokrati og tillid til det offentlige system. Danske virksomheder og institutioner ønsker at udvikle teknologi, der er etisk og moralsk ansvarlig. Det vidner blandt andet The Tech Pledge om, hvor 1959 danske virksomheder i skrivende stund har skrevet under på en hensigtserklæring om, at de kun vil arbejde etisk og ansvarligt i deres teknologiudvikling. Hensigtserklæringen er der, men hvordan kommer man fra de gode intentioner og sikrer sig, at man arbejder ansvarligt og etisk i praksis? Og hvordan tager man højde for de utilsigtede konsekvenser, ens løsning kan have, efter at det er blevet implementeret?

Det er blandt andet med udgangspunkt i dette potentiale, at Dansk Design Center sammen med Dansk Industri og en række designvirksomheder og -rådgivere har fået funding fra Industriens Fond til at skabe nogle værktøjer, der kan støtte danske virksomheder i at designe etisk robuste produkter og services, der ruster danske virksomheder til at have etik som et fundament for deres økonomiske vækst. På lige fod med at man gerne vil vide, at de fødevarer og det tøj, man køber, er produceret under ordentlige forhold og ikke indeholder en masse giftigt stads, er der også et behov for at vide, at den teknologi man bruger, lever op til nogle etiske standarder. At imødekomme disse etiske standarder, kan derfor decideret være en konkurrencefordel for danske virksomheder.

Etik som konkurrenceparameter
For Etikkompasset er ikke bare et short cut til at blive den gode dreng i klassen. Etik er ifølge Christian Villum og Peter Svarre rent faktisk et konkurrenceparameter, der kan stille danske virksomheder stærkere i den internationale konkurrence:

”Det kan godt være, at processerne i virksomheden bliver lidt dyrere eller langsommere, men vi vurderer, at den stigende bevidsthed om etiske problemer, digitalisering medfører, vil det være et konkurrenceparameter, at man kan se, hvad der er blevet gjort for at gøre et produkt etisk, og hvad det er for en ekstraværdi, det giver.”

Etik anvendes normalt om filosofiske grundregler for ønskelig menneskelig adfærd.
De fleste tænker ikke nærmere over, hvad etik er, og vi bliver først og fremmest opmærksomme på etik, når vi er i tvivl om, hvad der er rigtigst at gøre. Det er netop derfor, at der er behov for at diskutere etikken i forbindelse med de nye teknologier. Vi vil gerne gøre det rigtige, men vi er i tvivl om, hvad det rigtige er.

I den sammenhæng fortæller Peter Svarre, at den overordnede øvelse har været at samle nogle af de mere abstrakte akademiske diskussioner og resultater for efterfølgende at transformere dem til en ekstremt praksisorienteret værktøjskasse. Christian Villum supplerer:

”Etikkompasset er udformet som en værktøjskasse med redskaber. Virksomheder, der ønsker at arbejde med deres produkter ud fra et etisk perspektiv, kan afprøve forskellige værktøjer, og derigennem få indsigt i nogle af de etiske dilemmaer, de skal tage stilling til i udviklingen og brugen af produkterne”.

Udover at udarbejde konkrete værktøjer har projektteamet også udviklet et læringsforløb, der kan hjælpe virksomhederne til at få et sprog for etiske problemstillinger, således at virksomheden fremadrettet får indarbejdet et etisk mindset i deres designprocesser.

”Vi vil gerne installere et sprog til at tale om etik i virksomhederne. De skal kunne snakke om det og rumme en tvivl. Hvis man er i tvivl om, hvorvidt et produkt er etisk, skal der ringe en klokke,” siger Peter Svarre og fortsætter:

”Man kan sagtens gå ud til virksomheder og sige, at de skal være mere etiske. Men virksomheder mangler et sprog for det. Måske overvejer man, om det ene eller det andet er i orden, men vores oplevelse er, at man famler lidt i blinde, fordi man mangler et sprog til at snakke om det i virksomhederne. Vores arbejde med virksomhederne har vist, at folk bliver bedre til at bruge værktøjerne, når de har et virksomhedsrettet sprog for etik.”

Fokus er der, hvor mennesker møder teknologien
Digital udvikling er selvfølgelig et spørgsmål om teknologi, men det er i lige så høj grad et spørgsmål om teknologiens berøring med mennesker, og den måde det påvirker vores liv, og det er her, at vi ser, at etik er vigtigt.

Peter Svarre fortæller:
”Vi arbejder både med social transformation og digital udvikling, hvor etik kobler de to emner sammen. Kunstig intelligens, etik og design er en treenighed. Vi ser ikke kun på AI, men har fokus på digital designetik, hvor vi ser på hvilke etiske aspekter, der kommer i spil. Inden for etik arbejder vi med tre områder. Dataetik, der er GPDR etc., Automatiseringsetik, der blandt andet ser på, hvilke etiske problemstillinger der er, når man sætter maskiner til at træffe beslutninger i stedet for mennesker. Og så er der Adfærdsetik, som blandt andet handler om The dark side of nudging, og hvordan man kan bruge behavioural design til at manipulere folks valg.”

At arbejde med etikkompasset
Dansk Design Center har i deres arbejde med etikkompasset gjort sig mange overvejelser, der bygger ovenpå en stor viden om feltet, som de udvikler og tester i samspil med en række danske virksomheder. Arbejdet med etikkompasset er med til at skabe en bevidsthed om, hvorvidt man kan arbejde med etik i design af en teknologi. Både hvordan man helt konkret kan bage etik ind i de teknologiske løsninger, man udvikler, og en bevidsthed om, hvordan etik og design spiller sammen.

Som en del af arbejdet med etikkompasset kører virksomhederne deres produkt igennem en proces, der er med til at teste, om der vil opstå nogle utilsigtede etiske problemstillinger i forbindelse med implementeringen. Der er blandt andet to perspektiver, der adskiller sig fra en klassisk designproces. Dels stakeholder-perspektivet, hvor der skal tænkes flere stakeholdere ind, dels tidsperspektivet. Det er vigtigt at tænke et længere tidsperspektiv ind end bare her og nu. Hvordan vil vores produkt fx påvirke markedet og folks liv om fem år og om ti år?

”En af de øvelser, vi laver, er provocatyping. Her får deltagerne opgaven: Nu skal du lave et produkt, der skal gøre så meget skade på samfundet og mennesker som muligt, og skabe så mange problemer, som du overhovedet kan forestille sig. Øvelserne er sjove, men de får også folk til at tænke over, at det faktisk er noget af det, vi gør, når vi udvikler teknologi. Vi er faktisk på vej i den retning, og det må vi tænke lidt mere over. Et eksempel kan være en selvkørende bus, hvor vi sætter hastigheden op til max og glemmer at tænke på chaufførens arbejdsforhold, fordi vi kun fokuserer på, at passagererne skal hurtigt fra A-B,”
fortæller Peter Svarre.

Så spørgsmålet er: Ville du betale for, at du og dine børn kunne have en Facebook-profil, hvor du var garanteret, at design og datahåndtering levede op til markedets højeste etiske standarder? Og hvordan ville det påvirke dit valg af forsikringsselskab, hvis du havde adgang til at se, hvor etisk de forskellige udbydere er i deres brug af beslutningsstøtteværktøjer baseret på kunstig intelligens?

Svaret på disse spørgsmål må være trykprøven på spørgsmålet om, hvorvidt etik som konkurrenceparameter er gangbart i såvel Danmark som internationalt.

Alexandra Instituttets team bag ansvarlig.ai glæder os til at følge den videre udvikling af etikkompasset og ikke mindst implementeringen af det etiske aspekt i danske tech-virksomheder. Vi kan se potentialet i, at det kan blive et konkurrenceparameter på linje med social ansvarlighed og de kvaliteter, der ellers er knyttet til dansk designs DNA.

Etikkompasset er i skrivende stund stadig under udvikling, men bliver tilgængeligt for alle virksomheder, der ønsker at bage etik ind i deres produkter og services, til efteråret 2021.
Læs mere om etikkompasset på DDC’s hjemmeside.