Gepubliceerd door Justine Pardoen in AI

Snapchat experimenteert met AI-robot als ‘virtueel vriendje’ voor kinderen

Sinds twee dagen zien gebruikers een vriendje in hun vriendenlijst dat ze niet kennen: My AI. Het is een chatbot op basis van ChatGPT. Wij zijn er niet blij mee en Justine Pardoen wordt er zelfs steeds bozer van. Wat is er aan de hand?

Het AD belt. Sebastiaan Quekel wil weten wat ik ervan vind dat kinderen worden geconfronteerd met een AI-chatbot op basis van ChatGPT. De bot presenteert zich in de vriendenlijst als My Ai. Quekel laat me schermopnamen zien waaruit blijkt dat My AI ingaat op het maken van een afspraakje. Het is een leuk spelletje. Hoever kun je gaan? Schermopnames staan op Twitter: de bot gaat ver. Een experiment noemt Snapchat het zelf. Ja, rajedekoekoek: een ongewenst experiment met de kinderziel, schrijf ik op LinkedIn.

Het artikel in het AD (18 april 2023) is een goed begin voor een bredere discussie. De volgende dag verschijnt in het AD weer een stuk. De PvdA, SGP en ChristenUnie stellen Kamervragen. Zo, dat is stap één. Snapchat geeft niet thuis, vertelt Quekel. Die reageert niet op verzoeken tot contact. Het zou me niets verbazen als ze daar wel nauwgezet volgen wat er gebeurt, zeg ik tegen het AD. Alweer een experiment. Die passen straks gewoon snel even iets aan zodat kinderen geen afspraakjes meer kunnen maken.

En vandaag blijkt dat ze inderdaad op de eerste kritiek hebben gereageerd: My AI kan niet meer doen alsof hij een echt persoon is die kan afspreken, een woonadres kan opgeven en doet alsof hij het kind begrijpt en het kind het hemd van het lijf vraagt. Oh… wacht.. nee, dat doet My AI nog steeds.

Achterste benen

Iedereen staat op zijn achterste benen. Quekel belt ze allemaal. De Kindertelefoon is bang voor ongelukken. Kinderen kunnens zo’n bot serieuzer nemen dan je denkt. Kinderombudsman is net zo boos als ik. Kamerleden vinden het “bizar” en “doodeng”. Het AD spreekt zelfs met Corinne Dettmeijer, vice-voorzitter van de Raad van Toezicht bij Child Helpline International, een netwerk van hulplijnen over de hele wereld. Iedereen vindt dat er iets moet gebeuren. Maar ja, wat? De VVD blijft liberaal: ach, als ze nou op scholen maar iets aan AI doen, komt het vast wel goed.

Maar hoho, er is toch zoiets als kinderrechten die ook online gelden? Moeten grote bedrijven daar geen rekening mee houden dan? Of beter nog: waarom kunnen we ze daar niet aan verbinden, wettelijk gezien? De voorbereidingen zijn al klaar, naar Engels voorbeeld, zie codevoorkinderrechten.nl Als je het vanuit die bril bekijkt, hoef je nog niet eens te handelen uit angst, dan houdt  Snapchat zich ergens aan. F*uck kinderrechten. Leve het experiment!

Mediaopvoeding

Kun je niet gewoon die My AI uit je vriendenlijst gooien? Nee, dat kan niet. Tenzij je betaalt voor een Snapchat+-account. Nou ja, zeg! Dus ouders en scholen: praat met kinderen over dit experiment van Snapchat en zet ze aan het denken. Stel vragen, til ze op in hun denken. Je hoeft zelf de antwoorden niet eens te hebben: denk hardop, ga op onderzoek uit en luister naar elkaar.

Bijvoorbeeld:

• Wil jij liever met een robot praten dan met een echt mens als je problemen hebt? Waarom?
• Naar wie zou jij gaan als je niet met je ouders wilt praten, maar toch ergens mee zit? (Wijs ze op De Kindertelefoon – als je dan chat, heb je te maken met een levende mens).
• Hoe weet je of je My AI kunt vertrouwen (het zegt van wel)? Spoiler: niet!
• Waarom wil My AI zoveel van je weten?
• Wat doet My AI met wat jij vertelt?
• Wat voor gevoel geeft zo’n gesprekje jou? Weet je steeds dat het om een robot gaat?
• Mag een robot zich jouw ‘vriend’ noemen? Wanneer is iemand een vriend?
• …

Als gespreksstarter kun je beginnen met deze recente aflevering van NOS Stories:

Wordt vervolgd…