header banner
Default

Børns telefon får opkald om en "skræmmende" chatbot: - Mange børn er forskrækkede og føler sig usikre


Chatbotten kan kun slettes fra Snapchat, hvis man betaler 35 kroner om måneden for Snapchat+.

Børnetelefonen har allerede modtaget henvendelser fra børn, der finder Snapchats nye chatbot ”skræmmende”.

Det oplyser Kathrine Elmose Jørgensen, der er digital medieekspert hos Børns Vilkår, til TV 2.

- De føler sig overvågede og bliver bekymrede, når de ikke kan slippe af med deres AI-'ven'. Ret mange børn er forskrækkede og synes, at det føles utrygt, fortæller hun.

Chatbotten ved navn My AI er i løbet af de seneste dage begyndt at flytte ind på det sociale medie Snapchat, som er særligt populært hos børn og unge.

Og når chatbotten først er dukket op i deres Snapchat-app, kan den ikke slettes igen – medmindre man betaler 35 kroner om måneden for Snapchat+.

Har du eller dine børn haft oplevelser med Snapchats nye chatbot, der er foruroligende, utrygge – eller bare spændende og sjove? Så er du velkommen til at henvende dig til TV 2s journalist på [email protected].

Forholder sig kritisk

VIDEO: FORÆLDRE sætter MILLIONER AF BØRN I FARE VED AT SLÅ DERES BILLEDER ONLINE | Pædofile og kriminelle bruger kunstig intelligens
R Garcia

Hos Børns Vilkår stiller man sig stærkt kritiske over for appens nye AI-funktion.

- Det lader ikke til, at den gør noget positivt, og vi har svært ved at se, hvad den skal bidrage med, siger Kathrine Elmose Jørgensen.

I stedet fylder en bekymring for, om chatbotten på sigt kommer til at erstatte et ønske om ægte vennerelationer hos børn og unge – det kan nemlig for nogle blive en glidebane, lyder det.

Samtidig er det ifølge Kathrine Elmose Jørgensen foruroligende, at Snapchat selv har oplyst, at værktøjet er under udvikling.

- Det forstår jeg sådan, at det ikke er til at vide lige nu, om den skriver noget upassende eller ufølsomt til børnene, og det er ekstremt kritisk, at vi ikke ved, hvad de bliver udsat for, siger hun.

En rapport fra DR viser, at 59 procent af de 9-14-årige bruger appen ugentligt.

Blandt de 4 til 8-årige er tallet 22 procent.

Udnytter børns følelser

VIDEO: Ai er ved at komme ud af kontrol: Dybe forfalskninger bliver skræmmende
Next Day Tech

Det, at man skal betale for at fjerne funktionen, vækker stor undren hos Børns Vilkår.

- Grundlæggende kan man sige, at det er et godt eksempel på, at det ikke er børnenes trivsel og sikkerhed, der fylder mest hos Snapchat, siger Kathrine Elmose Jørgensen.

Hun mener, at det er ”meget tydeligt”, at Snapchat forsøger at udnytte børns følelser for dermed at få dem til at betale for appen.

- Det kan ikke passe, at man skal købe sig ud af potentielt ubehagelige situationer, fastslår hun.

Børns Vilkår opfordrer til, at man som forælder tager en snak med sit barn om, hvad de kunne tænke sig at spørge robotten om, og om de kan få svar på de spørgsmål på anden vis.

Arbejder på forbedring

VIDEO: AI-genererede telefonopkald og andre svindelnumre at holde øje med
TODAY

Snapchat-botten er drevet af det omdiskuterede AI-værktøj ChatGPT, som blev lanceret i slutningen af 2022.

My AI kan forsynes med en avatar – en lille tegneseriefigur med menneskelignende træk, der repræsenterer chatbotten. Brugerne kan også give den et navn og bede den om at tilegne sig særlige personlighedstræk.

Snapchat har oplyst til CNN, at de fortsat vil forsøge at forbedre My AI, og at de arbejder på at etablere bedre værn for deres brugeres sikkerhed. Virksomheden tilføjer, at man ikke behøver bruge funktionen, hvis man ikke har lyst.

Sources


Article information

Author: Dustin Le

Last Updated: 1704620282

Views: 1156

Rating: 3.9 / 5 (35 voted)

Reviews: 81% of readers found this page helpful

Author information

Name: Dustin Le

Birthday: 1988-09-16

Address: 4974 Johnny Loaf Suite 943, Lake Kelsey, AK 66810

Phone: +3965791334192481

Job: Artificial Intelligence Specialist

Hobby: Board Games, Drone Flying, Beer Brewing, Skiing, Playing Guitar, Motorcycling, Running

Introduction: My name is Dustin Le, I am a proficient, resolved, multicolored, transparent, audacious, talented, unswerving person who loves writing and wants to share my knowledge and understanding with you.