Snapchats kunstige ven kræver regulering

Vi spiller hasard med børn og unges mentale helbred, når vi tillader techgiganter og sociale medier som Snapchat at invadere deres privatliv med kunstig intelligens og tvivlsomme chatbots.

Sådan lyder det fra Ingeniørforeningen, IDA, som kræver øjeblikkelig politisk handling for at indføre en aldersgrænse, der kan beskytte børn og unge mod de utilsigtede konsekvenser af den nye superteknologi.

Det sker som reaktion på, at Snapchat har tilføjet den meget omtalte ChatGPT til sin tjeneste under navnet ”My AI”, som ligger øverst på skærmen og kan fungere som samtalepartner og kunstig ven for brugerne.

”Vi har allerede set flere eksempler på, at My AI er en virkelig dårlig ven og rådgiver for børn. Vi er nødt til at sætte en stopper for dette eksperiment for at beskytte vores børn og unge mod den flodbølge af misinformation, som ChatGPT indeholder. Vores børn skal ikke være prøveklud for en ufærdig teknologi”, siger Aske Nydam Guldberg, der er fungerende formand for IDA.

Han understreger, at AI og sprogmodeller som ChatGPT er fantastiske værktøjer i professionelle sammenhænge, men at der samtidig er tale om en ekstremt kraftfuld teknologi, som vi skal lære at kende og anvende med omtanke. Ifølge TV2 anvendes Snapchat af 59 procent af de danske børn i alderen 9-14 år.

”Vi er nødt til at indføre et forsigtighedsprincip – særligt for børn og unge. Det er tydeligt for enhver, at AI-modellerne befinder sig på et forsøgsstadie, og at vi allesammen er deltagere i et kæmpe eksperiment, som vi ikke kender udfaldet af. Overordnet set er teknologien overhovedet ikke klar til at blive sluppet fri på børn og unge”, siger Aske Nydam Guldberg.

EU er på vej med en AI Act, som skal regulere brugen af kunstig intelligens, og Det Europæiske Databeskyttelsesråd (EDPB) har nedsat en taskforce, som blandt andet undersøger, om ChatGPT overholder de europæiske databeskyttelsesregler (GDPR).

På et samråd i sidste uge afviste digitaliseringsminister Marie Bjerre (V), at Danmark skulle gå dansk enegang for at regulere AI-området. Men det er nødvendigt at gribe ind nu, mener Aske Nydam Guldberg:

”AI Act træder først i kraft i 2024, og det kan vi simpelthen ikke vente på. Som demokratisk samfund er vi nødt til at sætte foden ned, når techgiganterne fuldstændig ureguleret kaster chatbots og AI-modeller i hovedet på os. Som minimum må vi indføre en aldersbegrænsning for, hvornår sociale medier må anvende kunstig intelligens”.

”Politikerne må tage børnebrillerne på og vurdere de hårrejsende eksempler, der har været fremme i medierne, hvor Snapchat giver en 13-årig pige gode råd til, hvordan hendes seksuelle debut med en 32-årig mand bliver mest hyggelig med stearinlys og musik. Det går langt udover mine etiske grænser, og jeg frygter, at My AI kan trække sårbare eller ensomme unge ned i et mørkt hul”, siger Aske Nydam Guldberg.