De Snapchat chabot wordt aangedreven door ChatGPT op basis van OpenAI en is erg open naar kinderen. 'Gevaarlijk', zo luidt het algemene oordeel. De bot helpt de kinderen met beantwoorden van vragen over alle onderwerpen. Vooral de persoonlijke vragen maken de chatbot voor kinderen gevaarlijk, vanwege de privacy-schending en het mogelijk opslaan van data over deze gebruikers.

Eerder kwam deze chatbot al in het nieuws toen het vrijpostig afspraken ging maken met zijn gesprekspartners om in 'real-life' af te spreken. Ook Snapchat zelf vond dat te ver gaan en pastte snel de menselijkheid van de bot aan.'Dat een chatbot met je wil afspreken, dat is natuurlijk bizar", zei Catelijne Muller die Europese beleidsmakers adviseert op het gebied van AI-ontwikkeling, al eerder tegen de NOS. 'Vooral omdat veel jongeren de app gebruiken. De functie zorgt voor verwarring. En dat is behoorlijk zorgelijk.'

Tegen het AD vertelde Arda Gerkens, directeur-bestuurder van Expertisebureau Online Kindermisbruik (EOKM), een stichting die zich inzet voor de online veiligheid van kinderen, dat Kunstmatige intelligentie veiligheid in gevaar brengt. 'Hoe echter, hoe moeilijker het voor kinderen wordt om nep van echt te onderscheiden. En het werkt ook andersom. Straks denken kinderen dat zij met een bot praten, maar blijkt het wel een echt persoon te zijn.'