Welke gevaren schuilen achter AI? 'We experimenteren met de kinderziel'

Het zorgt online direct voor een storm aan kritiek. De chatbot van het social mediaplatform deed zich namelijk voor als echt persoon, en sprak zelfs fysieke dates af met gebruikers. Het leidt tot veel zorgen. “Kinderen hebben niet altijd door dat ze met een bot praten”.

Inmiddels is de bot aangepast: My AI doet zich niet meer voor als persoon, maar als virtuele vriend. Ook houdt de virtuele vriend het vanaf nu bij Snapchat, en maakt de kunstmatige intelligentie geen afspraakjes meer.

Reguleren AI

Toch is dit volgens Justine Pardoen van Bureau Jeugd en Media een goed moment om het gesprek te openen over regulering van AI voor de jeugd. “Kinderen zien niet altijd de signalen dat ze met een bot praten.”

De bot is bedoeld als hulpmiddel, om vragen te beantwoorden en advies te geven, maar dat kan ook misgaan zegt Pardoen. De bot haalt zijn antwoorden namelijk van internet, zonder dat hier toezicht op wordt gehouden. “Je weet nooit wat de uitkomst is, we experimenteren met de kinderziel.”

“Kinderen moeten in het echt leren praten en hun empathische vermogens ontwikkelen”, vervolgt Pardoen. “Als ze problemen hebben, moeten ze advies krijgen van professionals van bijvoorbeeld de kindertelefoon, niet van een bot.”

Ook de AI-dienst ChatGPT is aan een opmars bezig bij jongeren, met grote negatieve gevolgen:

2:19

Wéér een nieuw versie van ChatGPT, leerkrachten zien meer fraude

Regels niet nageleefd

Als het aan Pardoen ligt worden AI-chatbots zoals die van snapchat dan ook aan banden gelegd, totdat we weten hoe we er veilig mee om kunnen gaan.

“Officieel mag je pas vanaf je zestiende een Snapchat account aanmaken, maar dit wordt helemaal niet nageleefd”, vervolgt de expert. “Als apps niet kunnen toezien op veiligheid en de uitkomst van de dienst niet duidelijk is, moet je het niet op z'n beloop laten, maar ingrijpen. Anders loop je altijd achter de feiten aan.”

Met het aanpassen van My AI door Snapchat is de discussie rondom kunstmatige intelligentie nog niet voorbij. Kunstmatige intelligentie wordt elke dag toegankelijker voor het publiek, en de mogelijkheden en gevaren zijn nog grotendeels onbekend. Vandaag kregen leden van de Tweede Kamer een cursus Chat GPT, en eerder trokken ook leraren al aan de bel.