Copenhagen Business School

Twitterbrugere har store problemer med at skelne robotprofiler fra mennesker

Del
Indtil for nylig var det svært at lave overbevisende falske profiler på sociale medier. Billederne kunne spores tilbage til kilden, og ofte klingede teksten ikke som et menneske. De tider er nu forbi, og det er nemmere at misinformere, viser ny forskning fra CBS.
Foto: Shutterstock
Foto: Shutterstock

Hurtige fremskridt inden for kunstig intelligens har gjort det vanskeligere på sociale medier at skelne robotprofiler fra mennesker. Ny forskning fra CBS viser, at brugere af et socialt medie som Twitter nu fejlbedømmer robotprofiler som menneskeægte profiler. De nye teknologiske muligheder gør det nemmere at manipulere og misinformere og er en trussel mod demokratiske samfund, siger forskerne bag.

I et eksperiment med 375 deltagere undersøgte forskerne, hvor svært det er at se forskel på menneske- og robotprofiler. Resultatet viste store problemer med at skelne ægte og kunstigt genererede profiler på Twitter fra hinanden, og faktisk opfattede mange deltagere de falske profiler som værende 'mindre sandsynligt falske’ end de ægte profiler.

”Vores resultater tyder på, at den teknologi, der anvendes til at generere falske profiler har udviklet sig i en sådan grad, at det er svært at skelne dem fra de ægte profiler,” siger Sippo Rossi, ph.d.-studerende fra grundforskningscentret Centre for Business Data Analytics ved Institut for Digitalisering på CBS.

”Lige nu er min anbefaling, at du kun bør stole på de mennesker på sociale medier, som du allerede kender,” siger Sippo Rossi.

Ægte profiler bliver opfattet som falske

Forskerne skabte deres egne falske twittertråde, hvor emnet var krigen i Ukraine. Tråden omfattede både ægte og genererede profiler samt tweets, der støttede begge sider.

De falske profiler brugte computergenererede syntetiske profilbilleder, skabt med hjælp fra StyleGAN, og opslag, som blev genereret af GPT-3; den samme sprogmodel, som står bag ChatGTP, og som fornyelig er taget i brug i versionerne 3.5 og 4.0.

”Interessant nok var de konti, der blev stillet flest spørgsmål ved i forhold til akkuratesse og sandsynlighed, dem med  mennesker bag. En af de ægte profiler blev fejlagtigt kategoriseret som falsk af 41,5% af de deltagere, som så den. Imidlertid blev en af de falske profiler, der klarede sig bedst, kun kategoriseret som robot af 10%,” siger Sippo Rossi.

Skaber udfordringer for demokratiet

Udbredelsen af såkaldt ”deep learning”-genererede profiler på sociale medier skaber markante udfordringer for samfundet og demokratiet, når de bliver brugt til politisk manipulation, misinformation eller cybermobning og cyberkriminalitet, påpeger medforfatter Raghava Rao Mukkamala, leder af Centre for Business Data Analytics ved Institut for Digitalisering på CBS. 

”Autoritære regeringer oversvømmer sociale medier med robotprofiler, der tilsyneladende støtter deres sag, for at manipulere informationsstrømmen. Det bliver afgørende for udviklingen, om samfund nøje overvejer disse teknologiers potentielle konsekvenser og arbejder på at imødegå de negative effekter,” siger han.

Forskernes næste skridt bliver at undersøge, om robotprofiler kan identificeres ud fra diskussioner i nyhedstråde, hvor falske og ægte profiler kommenterer på en specifik artikel i samme tråd.

”Vi har brug for nye måder og nye metoder til at håndtere det her, fordi det nu er stort set umuligt at få ånden tilbage i flasken. Hvis mennesker ikke længere er i stand til at opdage de falske profiler 

og opslag og anmelde dem, så må det gøres automatisk med for eksempel lukning af konti og id-verificering. Det må være de firmaer, der står bag de sociale medieplatforme, der også skal udvikle sikkerhedsforanstaltningerne,” tilføjer Sippo Rossi.

Forskningsresultaterne blev udgivet i The Hawaii International Conference on System Sciences (HICSS).

 

Om forskerne

Sippo Rossi er ph.d.-studerende ved Institut for Digitalisering. Hans forskning fokuserer på bots og misinformation på sociale medier. Inden han kom til CBS, arbejdede Sippo Rossi i den private sektor med dataanalyse.

Raghava Mukkamala er leder for Centre for Business Data Analytics og lektor ved Institut for Digitalisering på CBS. Han arbejder med en tværdisciplinær tilgang til analyse af big data.

Nøgleord

Kontakter

Billeder

Foto: Shutterstock
Foto: Shutterstock
Download

Links

Information om Copenhagen Business School

Copenhagen Business School
Copenhagen Business School
Solbjerg Plads 3
2200 Frederiksberg

http://www.cbs.dk

Copenhagen Business School (CBS) er et globalt anerkendt erhvervsuniversitet, dybt forankret i den nordiske samfundsmodel. CBS har oparbejdet et stærkt renomme i Danmark og internationalt på baggrund af forskning og uddannelse af højeste kvalitet.

Vores profil forpligter os til at adressere vigtige globale samfundsudfordringer i forskningen og til at udvikle omstillingsparatheden hos studerende, dimittender og ledere gennem vores uddannelsesaktiviteter og muligheder for livslang læring. Komplekse udfordringer kalder på fælles handling. Vores strategi er derfor fokuseret på partnerskaber med andre forskningsområder, erhvervslivet, offentlige myndigheder og civilsamfundet.

CBS ligger på Frederiksberg og har cirka 21.000 studerende på hel- og deltid, 760 fuldtidsansatte forskere, 210 Ph.d.-studerende, 680 ansatte i administrationen og en bred portefølje af bachelor- og kandidatuddannelser, samt omfattende udbud af efteruddannelse og lederuddannelse på både engelsk og dansk.

Følg pressemeddelelser fra Copenhagen Business School

Skriv dig op her, og modtag pressemeddelelser på e-mail. Indtast din e-mail, klik på abonner, og følg instruktionerne i den udsendte e-mail.

Flere pressemeddelelser fra Copenhagen Business School

I vores nyhedsrum kan du læse alle vores pressemeddelelser, tilgå materiale i form af billeder og dokumenter samt finde vores kontaktoplysninger.

Besøg vores nyhedsrum