Twitterbrugere har store problemer med at skelne robotprofiler fra mennesker

Hurtige fremskridt inden for kunstig intelligens har gjort det vanskeligere på sociale medier at skelne robotprofiler fra mennesker. Ny forskning fra CBS viser, at brugere af et socialt medie som Twitter nu fejlbedømmer robotprofiler som menneskeægte profiler. De nye teknologiske muligheder gør det nemmere at manipulere og misinformere og er en trussel mod demokratiske samfund, siger forskerne bag.
I et eksperiment med 375 deltagere undersøgte forskerne, hvor svært det er at se forskel på menneske- og robotprofiler. Resultatet viste store problemer med at skelne ægte og kunstigt genererede profiler på Twitter fra hinanden, og faktisk opfattede mange deltagere de falske profiler som værende 'mindre sandsynligt falske’ end de ægte profiler.
”Vores resultater tyder på, at den teknologi, der anvendes til at generere falske profiler har udviklet sig i en sådan grad, at det er svært at skelne dem fra de ægte profiler,” siger Sippo Rossi, ph.d.-studerende fra grundforskningscentret Centre for Business Data Analytics ved Institut for Digitalisering på CBS.
”Lige nu er min anbefaling, at du kun bør stole på de mennesker på sociale medier, som du allerede kender,” siger Sippo Rossi.
Ægte profiler bliver opfattet som falske
Forskerne skabte deres egne falske twittertråde, hvor emnet var krigen i Ukraine. Tråden omfattede både ægte og genererede profiler samt tweets, der støttede begge sider.
De falske profiler brugte computergenererede syntetiske profilbilleder, skabt med hjælp fra StyleGAN, og opslag, som blev genereret af GPT-3; den samme sprogmodel, som står bag ChatGTP, og som fornyelig er taget i brug i versionerne 3.5 og 4.0.
”Interessant nok var de konti, der blev stillet flest spørgsmål ved i forhold til akkuratesse og sandsynlighed, dem med mennesker bag. En af de ægte profiler blev fejlagtigt kategoriseret som falsk af 41,5% af de deltagere, som så den. Imidlertid blev en af de falske profiler, der klarede sig bedst, kun kategoriseret som robot af 10%,” siger Sippo Rossi.
Skaber udfordringer for demokratiet
Udbredelsen af såkaldt ”deep learning”-genererede profiler på sociale medier skaber markante udfordringer for samfundet og demokratiet, når de bliver brugt til politisk manipulation, misinformation eller cybermobning og cyberkriminalitet, påpeger medforfatter Raghava Rao Mukkamala, leder af Centre for Business Data Analytics ved Institut for Digitalisering på CBS.
”Autoritære regeringer oversvømmer sociale medier med robotprofiler, der tilsyneladende støtter deres sag, for at manipulere informationsstrømmen. Det bliver afgørende for udviklingen, om samfund nøje overvejer disse teknologiers potentielle konsekvenser og arbejder på at imødegå de negative effekter,” siger han.
Forskernes næste skridt bliver at undersøge, om robotprofiler kan identificeres ud fra diskussioner i nyhedstråde, hvor falske og ægte profiler kommenterer på en specifik artikel i samme tråd.
”Vi har brug for nye måder og nye metoder til at håndtere det her, fordi det nu er stort set umuligt at få ånden tilbage i flasken. Hvis mennesker ikke længere er i stand til at opdage de falske profiler
og opslag og anmelde dem, så må det gøres automatisk med for eksempel lukning af konti og id-verificering. Det må være de firmaer, der står bag de sociale medieplatforme, der også skal udvikle sikkerhedsforanstaltningerne,” tilføjer Sippo Rossi.
Forskningsresultaterne blev udgivet i The Hawaii International Conference on System Sciences (HICSS).
Om forskerne
Sippo Rossi er ph.d.-studerende ved Institut for Digitalisering. Hans forskning fokuserer på bots og misinformation på sociale medier. Inden han kom til CBS, arbejdede Sippo Rossi i den private sektor med dataanalyse.
Raghava Mukkamala er leder for Centre for Business Data Analytics og lektor ved Institut for Digitalisering på CBS. Han arbejder med en tværdisciplinær tilgang til analyse af big data.
Nøgleord
Kontakter
Richard SteedJournalistSekretariat for Ledelse og Kommunikation
Tlf:41852205rs.slk@cbs.dkBilleder

Links
Information om Copenhagen Business School
WE TRANSFORM SOCIETY WITH BUSINESS
CBS er et globalt anerkendt businessuniversitet med dybe rødder i den nordiske, socioøkonomiske model. Vi har et bredt fokus på erhvervslivets og samfundets udfordringer i det 21. århundrede. Derfor har vi en samlet portefølje af tværfaglig forskning og uddannelse af høj kvalitet, der har styrket generationer af fagfolk og ledere i den private sektor og andre steder.
Universitetet ligger på Frederiksberg og har ca. 20.000 fuldtids- og deltidsstuderende, 800 fuldtidsansatte videnskabelige medarbejdere, 200 ph.d.-studerende og 700 administrative medarbejdere samt en portefølje af bachelor-, kandidat-, MBA/EMBA-, ph.d.-og efter-/videreuddannelser udbudt på både dansk og engelsk.
Med vores globale profil følger en forpligtelse til at bidrage til udviklingen af transformative kompetencer hos studerende, kandidater og virksomhedsledere gennem vores uddannelsesaktiviteter og muligheder for livslang læring. Komplekse udfordringer kræver en fælles indsats, og derfor fokuserer vores strategi på at styrke nuværende og starte nye partnerskaber med andre videnskaber, erhvervslivet, myndigheder og civilsamfundet.
Følg pressemeddelelser fra Copenhagen Business School
Skriv dig op her, og modtag pressemeddelelser på e-mail. Indtast din e-mail, klik på abonner, og følg instruktionerne i den udsendte e-mail.
Flere pressemeddelelser fra Copenhagen Business School
Krigen i Ukraine: Vestens analyser af Rusland har fejlet30.4.2025 06:06:00 CEST | Pressemeddelelse
Mens politikere arbejder på et reelt gennembrud i fredsforhandlingerne, må Vesten også kigge indad. Vi har undervurderet de russiske økonomer samt befolkningens evne til at lide. Og så har vi overvurderet vores egen betydning, siger økonom.
Professor fra CBS bliver optaget i det europæiske akademi Academia Europaea23.4.2025 09:29:23 CEST | Nyhed
Det europæiske videnskabsakademi Academia Europaea har optaget den danske professor Poul Fritz Kjær
Ny rapport: Opløst verdensorden stiller nye krav til virksomhedernes rolle og ansvar19.3.2025 13:21:56 CET | Nyhed
De traditionelle ledelsesmodeller rækker ikke længere til at håndtere de komplekse og eskalerende risici, som verden står over for. Det konkluderer en ny rapport, der præsenteres torsdag på CBS, og som følger op på udmeldinger fra Mærsks topchef på generalforsamlingen onsdag
CBS-forsker: ”EU bliver klemt mellem USA og Kina, og gør vi ikke noget drastisk, vil det koste på velfærden”5.2.2025 10:08:29 CET | Nyhed
EU står over for betydelige udfordringer i forholdet til Kina. Kinas stigende konkurrenceevne, indførelsen af industripolitiske tiltag i USA og fremtidsvarslinger om en mere multipolar verdensorden kræver en mere strategisk og forskningsbaseret analyse af vores forhold til Kina. Det mener CBS-forsker Kjeld Erik Brødsgaard, som leder et stort EU-finansieret forskningsprojekt.
Studerende på CBS er blandt Europas mest entreprenante19.12.2024 06:06:00 CET | Pressemeddelelse
I en tid, hvor såvel politikere i Danmark som i EU taler om et stigende behov for nye virksomheder og mere vækst, viser en international opgørelse, at udklækkede studerende fra CBS er nogle af Europas bedste til at rejse venturekapital.
I vores nyhedsrum kan du læse alle vores pressemeddelelser, tilgå materiale i form af billeder og dokumenter samt finde vores kontaktoplysninger.
Besøg vores nyhedsrum