Kunstig intelligens skal blive bedre til at sige ”Nej…”

AI bruges i f.eks. søgemaskiner, sociale medier og hjemmesiders chatbots, og især sidstnævnte kan være roden til megen frustration, når man ikke får de svar, man gerne vil have.

Hvis man f.eks. spørger en chatbot om noget for kompliceret om sit nedbrudte internet, så kunne den svare med: "Jeg er ked af det, men jeg kan ikke hjælpe med den anmodning.” uden yderligere kommentarer.

Men sådan en blank afvisning kan nu blive fortid takket være forskning fra Aalborg Universitet.

”Vi oplever alle situationer, hvor AI ikke kan gøre det, vi beder om. Vores resultater tyder på, at en bedre tilgang ville være at omdirigere brugerne til nyttige ressourcer, som YouTube-videoer, der underviser i emnet. Det kan også være andre ressourcer, der giver brugeren en måde at komme videre på,” siger Joel Wester, der er ph.d. fellow ved Aalborg Universitet og har forsket i, hvordan store sprogmodeller siger "nej".

Han har undersøgt, hvordan folk opfatter fire forskellige afvisningsstile fra store sprogmodeller (LLM) på tværs af tre forskellige emner. Gennem to studier har han evalueret afvisningsstile både ud fra tekniske og sociale årsager til at afvise brugeranmodninger, og vist at den grundlæggende afvisningsstil opleves som mest frustrerende og mindst nyttig, passende og relevante.

Vi kan bedst lide alternative svar

Forskerne har benyttet sig af kvalitative data fra 51 mennesker med en gennemsnitsalder på 41 år i spændet 20 til 80 år og en kønsfordeling på 26 kvinder og 25 mænd.

Det viser sig, at folk typisk er mest positive over for en afledende afvisningsstil, hvor chatbotten giver alternative svar, der omgik den oprindelige anmodning, og dermed kan det være en endnu mere effektiv tilgang at lede brugerne væk fra afvisningen til at begynde med.

Det betyder dog ikke, at kunstig intelligens og chatbots fremadrettet kan hjælpe dig med alverdens spørgsmål – f.eks. ulovlige ting som skattesnyd - men det betyder, at man kan undgå frustration i lang række andre situationer, forklarer Joel Wester.

"På grund af tekniske begrænsninger kan AI-systemer nogle gange ikke levere de svar, vi ønsker. Virksomhedspolitikker begrænser også visse typer indhold, hvilket kan føre til frustrerende oplevelser for brugerne. Vores undersøgelse viser dog, at vi kan reducere denne frustration ved at ændre, hvordan AI-systemer reagerer, når de ikke kan give brugerne, hvad de ønsker," siger Joel Wester.

Bedre afvisning kan gøre en chatbot høflig
Forskningen viser, at brugerne er langt mere tilbøjelige til at acceptere uønskede svar, så længe de leder videre til noget, der har potentiale, fremfor et standardiseret svar i stil med "det kan jeg ikke gøre" – og det kan gavne både brugere og eks. de virksomheder, der bruger chatbots.

"Det at omdirigere brugere mere smidigt kan gøre chatbots mere høflige og positivt påvirke interaktionerne med brugerne, så de undgår at blive så frustrerede, at de helt opgiver interaktionen. For eksempel, hvis en AI ikke kan booke en flyrejse på grund af manglende tilgængelighed, kunne den foreslå alternative datoer eller nærliggende lufthavne," siger Joel Wester.

Joel Wester har bl.a. præsenteret forskning ved ACM Conference on Human Factors in Computing Systems, der er en serie af akademiske konferencer, som generelt anses for at være den mest prestigefyldte inden for menneske-computer interaktion og er en af ​​de toprangerede konferencer inden for datalogi.