Twitterbrugere har store problemer med at skelne robotprofiler fra mennesker

Hurtige fremskridt inden for kunstig intelligens har gjort det vanskeligere på sociale medier at skelne robotprofiler fra mennesker. Ny forskning fra CBS viser, at brugere af et socialt medie som Twitter nu fejlbedømmer robotprofiler som menneskeægte profiler. De nye teknologiske muligheder gør det nemmere at manipulere og misinformere og er en trussel mod demokratiske samfund, siger forskerne bag.
I et eksperiment med 375 deltagere undersøgte forskerne, hvor svært det er at se forskel på menneske- og robotprofiler. Resultatet viste store problemer med at skelne ægte og kunstigt genererede profiler på Twitter fra hinanden, og faktisk opfattede mange deltagere de falske profiler som værende 'mindre sandsynligt falske’ end de ægte profiler.
”Vores resultater tyder på, at den teknologi, der anvendes til at generere falske profiler har udviklet sig i en sådan grad, at det er svært at skelne dem fra de ægte profiler,” siger Sippo Rossi, ph.d.-studerende fra grundforskningscentret Centre for Business Data Analytics ved Institut for Digitalisering på CBS.
”Lige nu er min anbefaling, at du kun bør stole på de mennesker på sociale medier, som du allerede kender,” siger Sippo Rossi.
Ægte profiler bliver opfattet som falske
Forskerne skabte deres egne falske twittertråde, hvor emnet var krigen i Ukraine. Tråden omfattede både ægte og genererede profiler samt tweets, der støttede begge sider.
De falske profiler brugte computergenererede syntetiske profilbilleder, skabt med hjælp fra StyleGAN, og opslag, som blev genereret af GPT-3; den samme sprogmodel, som står bag ChatGTP, og som fornyelig er taget i brug i versionerne 3.5 og 4.0.
”Interessant nok var de konti, der blev stillet flest spørgsmål ved i forhold til akkuratesse og sandsynlighed, dem med mennesker bag. En af de ægte profiler blev fejlagtigt kategoriseret som falsk af 41,5% af de deltagere, som så den. Imidlertid blev en af de falske profiler, der klarede sig bedst, kun kategoriseret som robot af 10%,” siger Sippo Rossi.
Skaber udfordringer for demokratiet
Udbredelsen af såkaldt ”deep learning”-genererede profiler på sociale medier skaber markante udfordringer for samfundet og demokratiet, når de bliver brugt til politisk manipulation, misinformation eller cybermobning og cyberkriminalitet, påpeger medforfatter Raghava Rao Mukkamala, leder af Centre for Business Data Analytics ved Institut for Digitalisering på CBS.
”Autoritære regeringer oversvømmer sociale medier med robotprofiler, der tilsyneladende støtter deres sag, for at manipulere informationsstrømmen. Det bliver afgørende for udviklingen, om samfund nøje overvejer disse teknologiers potentielle konsekvenser og arbejder på at imødegå de negative effekter,” siger han.
Forskernes næste skridt bliver at undersøge, om robotprofiler kan identificeres ud fra diskussioner i nyhedstråde, hvor falske og ægte profiler kommenterer på en specifik artikel i samme tråd.
”Vi har brug for nye måder og nye metoder til at håndtere det her, fordi det nu er stort set umuligt at få ånden tilbage i flasken. Hvis mennesker ikke længere er i stand til at opdage de falske profiler
og opslag og anmelde dem, så må det gøres automatisk med for eksempel lukning af konti og id-verificering. Det må være de firmaer, der står bag de sociale medieplatforme, der også skal udvikle sikkerhedsforanstaltningerne,” tilføjer Sippo Rossi.
Forskningsresultaterne blev udgivet i The Hawaii International Conference on System Sciences (HICSS).
Om forskerne
Sippo Rossi er ph.d.-studerende ved Institut for Digitalisering. Hans forskning fokuserer på bots og misinformation på sociale medier. Inden han kom til CBS, arbejdede Sippo Rossi i den private sektor med dataanalyse.
Raghava Mukkamala er leder for Centre for Business Data Analytics og lektor ved Institut for Digitalisering på CBS. Han arbejder med en tværdisciplinær tilgang til analyse af big data.
Nøgleord
Kontakter
Richard SteedJournalistSekretariat for Ledelse og Kommunikation
Tlf:41852205rs.slk@cbs.dkBilleder

Links
Information om Copenhagen Business School
Copenhagen Business School (CBS) er et globalt anerkendt erhvervsuniversitet, dybt forankret i den nordiske samfundsmodel. CBS har oparbejdet et stærkt renomme i Danmark og internationalt på baggrund af forskning og uddannelse af højeste kvalitet.
Vores profil forpligter os til at adressere vigtige globale samfundsudfordringer i forskningen og til at udvikle omstillingsparatheden hos studerende, dimittender og ledere gennem vores uddannelsesaktiviteter og muligheder for livslang læring. Komplekse udfordringer kalder på fælles handling. Vores strategi er derfor fokuseret på partnerskaber med andre forskningsområder, erhvervslivet, offentlige myndigheder og civilsamfundet.
CBS ligger på Frederiksberg og har cirka 21.000 studerende på hel- og deltid, 760 fuldtidsansatte forskere, 210 Ph.d.-studerende, 680 ansatte i administrationen og en bred portefølje af bachelor- og kandidatuddannelser, samt omfattende udbud af efteruddannelse og lederuddannelse på både engelsk og dansk.
Følg pressemeddelelser fra Copenhagen Business School
Skriv dig op her, og modtag pressemeddelelser på e-mail. Indtast din e-mail, klik på abonner, og følg instruktionerne i den udsendte e-mail.
Flere pressemeddelelser fra Copenhagen Business School
Ledelsesforsker: Den ansvarlige medarbejder betaler en høj pris for sin frihed18.4.2023 05:00:00 CEST | Nyhed
Medarbejdere udsættes i stigende grad for et ubegrænset hyperansvar. Det skaber en følelse af aldrig at have gjort sit arbejde godt nok, siger CBS-forsker.
Ledelse: Kunstig intelligens udfordrer rådhusene8.4.2023 06:00:00 CEST | Pressemeddelelse
Kunstig intelligens er et af trylleordene, når fremtidens velfærdssamfund skal sikres og kommunale medarbejdere aflastes. Men et nyt forskningsprojekt fra CBS viser, at implementeringen af ny teknologi medfører skjult arbejde på ledelsesgangene. Vi mangler den fornødne faglighed, siger kommunaldirektør.
CBS opfordrer medierne til at ringe til flere kvindelige eksperter8.3.2023 06:00:00 CET | Pressemeddelelse
Kvindelige forskere fylder mindst i medierne. Derfor har Copenhagen Business School udarbejdet en liste med kvindelige eksperter, som gerne stiller deres viden til rådighed.
Forskere fra CBS får eliteforsker-hæder20.2.2023 09:30:00 CET | Nyhed
To forskere fra CBS modtager i år EliteForsk-hæder af Uddannelses- og Forskningsministeriet. Professor Poul Fritz Kjær der forsker i, hvordan jura og økonomi påvirker hinanden, udnævnes til en af årets "fremragende" forskere, og ph.d.-studerende Charlotte Cator, der forsker i bæredygtige byer, modtager et rejsestipendium.
Ubemærkede besparelser på universiteter vil ramme virksomheders vækst og udvikling26.1.2023 10:18:20 CET | Pressemeddelelse
Dansk erhvervsliv efterlyser kvalificeret og højtuddannet arbejdskraft til at skabe økonomisk vækst. Men lige nu hersker der stor usikkerhed om fremtiden for de business- og samfundsvidenskabelige uddannelser, som er storleverandører til den private sektor.
I vores nyhedsrum kan du læse alle vores pressemeddelelser, tilgå materiale i form af billeder og dokumenter samt finde vores kontaktoplysninger.
Besøg vores nyhedsrum