Børnetelefonen har allerede modtaget henvendelser fra børn, der finder Snapchats nye chatbot ”skræmmende”.

Det oplyser Kathrine Elmose Jørgensen, der er digital medieekspert hos Børns Vilkår, til TV 2.

- De føler sig overvågede og bliver bekymrede, når de ikke kan slippe af med deres AI-'ven'. Ret mange børn er forskrækkede og synes, at det føles utrygt, fortæller hun.

Chatbotten ved navn My AI er i løbet af de seneste dage begyndt at flytte ind på det sociale medie Snapchat, som er særligt populært hos børn og unge.

Og når chatbotten først er dukket op i deres Snapchat-app, kan den ikke slettes igen – medmindre man betaler 35 kroner om måneden for Snapchat+.

Forholder sig kritisk

Hos Børns Vilkår stiller man sig stærkt kritiske over for appens nye AI-funktion.

- Det lader ikke til, at den gør noget positivt, og vi har svært ved at se, hvad den skal bidrage med, siger Kathrine Elmose Jørgensen.

I stedet fylder en bekymring for, om chatbotten på sigt kommer til at erstatte et ønske om ægte vennerelationer hos børn og unge – det kan nemlig for nogle blive en glidebane, lyder det.

Samtidig er det ifølge Kathrine Elmose Jørgensen foruroligende, at Snapchat selv har oplyst, at værktøjet er under udvikling.

- Det forstår jeg sådan, at det ikke er til at vide lige nu, om den skriver noget upassende eller ufølsomt til børnene, og det er ekstremt kritisk, at vi ikke ved, hvad de bliver udsat for, siger hun.

En rapport fra DR viser, at 59 procent af de 9-14-årige bruger appen ugentligt.

Blandt de 4 til 8-årige er tallet 22 procent.

Udnytter børns følelser

Det, at man skal betale for at fjerne funktionen, vækker stor undren hos Børns Vilkår.

- Grundlæggende kan man sige, at det er et godt eksempel på, at det ikke er børnenes trivsel og sikkerhed, der fylder mest hos Snapchat, siger Kathrine Elmose Jørgensen.

Hun mener, at det er ”meget tydeligt”, at Snapchat forsøger at udnytte børns følelser for dermed at få dem til at betale for appen.

- Det kan ikke passe, at man skal købe sig ud af potentielt ubehagelige situationer, fastslår hun.

Børns Vilkår opfordrer til, at man som forælder tager en snak med sit barn om, hvad de kunne tænke sig at spørge robotten om, og om de kan få svar på de spørgsmål på anden vis.

Arbejder på forbedring

Snapchat-botten er drevet af det omdiskuterede AI-værktøj ChatGPT, som blev lanceret i slutningen af 2022.

My AI kan forsynes med en avatar – en lille tegneseriefigur med menneskelignende træk, der repræsenterer chatbotten. Brugerne kan også give den et navn og bede den om at tilegne sig særlige personlighedstræk.

Snapchat har oplyst til CNN, at de fortsat vil forsøge at forbedre My AI, og at de arbejder på at etablere bedre værn for deres brugeres sikkerhed. Virksomheden tilføjer, at man ikke behøver bruge funktionen, hvis man ikke har lyst.