Récemment, l’annonce par l’entreprise OpenAI du déploiement de nouveaux contrôles parentaux a été accueillie avec un certain soulagement. Sur papier, cela semble être une excellente nouvelle pour la sécurité de nos enfants à l’ère de l’intelligence artificielle.

Avec ce nouveau système, les parents peuvent lier leur compte à celui de leur enfant et ajuster plusieurs paramètres. On peut par exemple limiter l’accès à certaines fonctions, bloquer l’usage à certaines heures ou encore désactiver la mémoire du chatbot. Il est même possible de recevoir une alerte si ChatGPT détecte un mal-être potentiel chez l’ado.

Un système d’alerte en cas de détresse

Consciente que certains adolescents pourraient se tourner vers ChatGPT comme un espace de discussion confidentiel en période de mal-être, OpenAI a mis en place un mécanisme de surveillance spécifique. Ce système est conçu pour détecter les signaux de détresse dans les échanges.

Lorsqu’un message est identifié comme préoccupant, il est automatiquement relayé à une équipe dédiée, formée à la gestion de ces situations délicates. Après analyse, si cette équipe juge la situation sérieuse, les parents sont alors alertés via e-mail, SMS et notification mobile.

OpenAI tient à rassurer sur le caractère éthique de cette démarche, soulignant qu’elle respecte la vie privée des utilisateurs. Seules les informations strictement nécessaires à l’intervention des parents sont partagées, l’objectif principal étant de protéger l’enfant en difficulté, non de surveiller ses conversations de manière intrusive. Source: JustGeek

Cependant, il est crucial de comprendre une vérité fondamentale, comme l’insiste l’expert en cybersécurité Ben Gillenwater :

ChatGPT vient d’annoncer qu’ils vont déployer de nouveaux contrôles parentaux et cela semble formidable, mais voici la vérité : aucune IA n’est sûre pour les enfants à utiliser seuls.

Même avec les filtres les plus sophistiqués et les restrictions les plus strictes, ces outils peuvent avoir un effet néfaste sur le développement cognitif des jeunes.

L’impact sur le cerveau

Le danger ne réside pas seulement dans les contenus inappropriés que l’IA pourrait générer, mais dans la manière dont elle affecte le processus de pensée de l’enfant. L’un des plus grands experts en santé cérébrale, le Dr. Daniel G. Amen, psychiatre américain, chercheur et auteur à succès, met en garde contre ce phénomène. Selon lui :

« Déléguer trop de réflexion affaiblit en fait le cerveau. Notre cerveau est comme un muscle extraordinaire: plus vous l’utilisez, plus il se renforce et développe de nouvelles connexions neuronales. Quand nous laissons une machine faire tout le travail cognitif – qu’il s’agisse de résoudre des problèmes, de générer des idées, de synthétiser des informations ou même de naviguer dans des situations complexes – nous le privons de l’exercice vital dont il a besoin. L’IA est un outil puissant, une augmentation formidable de nos capacités, mais elle ne doit jamais devenir un substitut à notre propre engagement mental. »

L’IA, en fournissant des réponses toutes faites ou en réalisant des tâches intellectuelles à la place de l’enfant, risque de réduire ses opportunités d’exercer ses propres capacités de réflexion critique, de résolution de problèmes et de créativité.

La supervision parentale est irremplaçable

Les contrôles parentaux sont une étape positive, mais ils ne sont qu’une couche de sécurité. En tant que parents, notre rôle est d’adopter une approche proactive et complète pour protéger nos enfants et favoriser un usage sain de la technologie.

Pour une meilleure sécurité, voici quelques actions essentielles en plus des filtres :

• Éloignez les appareils des chambres et des salles de bain : Ces espaces devraient rester des sanctuaires exempts d’écrans.
  
• Utilisez une station de recharge commune : Centraliser le chargement aide à réguler l’utilisation et à limiter l’accès nocturne.
  
• Parlez ouvertement des limites de l’IA : Expliquez à vos enfants que l’IA n’est qu’un outil, qu’elle peut faire des erreurs et qu’elle ne remplace pas la pensée humaine.
  
• Supervisez toute utilisation de l’IA : Restez impliqués. Utilisez l’IA comme un point de départ pour l’apprentissage plutôt qu’une fin en soi.

La technologie peut être une aide précieuse, mais elle ne pourra jamais remplacer l’éducation et l’encadrement parental.

ChatGPT: Ouderlijke controle is niet genoeg

De recente aankondiging van OpenAI om nieuwe functies voor ouderlijk toezicht in te voeren, werd met enige opluchting onthaald. Op papier lijkt dat goed nieuws voor de online veiligheid van kinderen in een tijdperk waarin kunstmatige intelligentie overal aanwezig is.

Met dit nieuwe systeem kunnen ouders hun eigen account koppelen aan dat van hun kind en verschillende instellingen aanpassen. Zo kunnen ze bepaalde functies blokkeren, het gebruik op specifieke tijdstippen beperken of de geheugenfunctie van de chatbot uitschakelen. Het is zelfs mogelijk om een melding te ontvangen wanneer ChatGPT tekenen van emotionele nood bij een tiener detecteert.

Een alarmsysteem bij tekenen van nood

OpenAI erkent dat sommige jongeren ChatGPT gebruiken als een vertrouwde gesprekspartner wanneer ze zich slecht voelen. Daarom werd een specifiek detectiesysteem ontwikkeld dat zulke signalen kan opvangen tijdens gesprekken.

Wanneer een bericht zorgwekkend lijkt, wordt het automatisch doorgestuurd naar een gespecialiseerd team dat opgeleid is om met dit soort situaties om te gaan. Na analyse, en enkel wanneer de situatie ernstig wordt bevonden, worden de ouders op de hoogte gebracht via e-mail, sms of een melding op hun smartphone.

OpenAI benadrukt dat dit systeem ethisch en discreet wordt toegepast, met respect voor de privacy van gebruikers. Enkel de strikt noodzakelijke informatie wordt gedeeld, met als doel het kind in moeilijkheden te beschermen, niet om gesprekken systematisch te controleren. Bron: JustGeek

Toch is het belangrijk om één fundamentele waarheid te begrijpen, zoals cybersecurity-expert
Ben Gillenwater benadrukt:

ChatGPT heeft net aangekondigd dat het nieuwe ouderlijke controles zal invoeren, en dat klinkt geweldig, maar de waarheid is dat geen enkele AI veilig is voor kinderen om alleen te gebruiken.

Zelfs met de meest geavanceerde filters en de strengste beperkingen kunnen deze tools een negatieve invloed hebben op de cognitieve ontwikkeling van jongeren.

De impact op het brein

Het gevaar schuilt niet alleen in mogelijke ongepaste inhoud die AI kan genereren, maar ook in de manier waarop ze het denkproces van kinderen beïnvloedt. De gerenommeerde Amerikaanse psychiater en hersenonderzoeker dr. Daniel G. Amen waarschuwt voor dit fenomeen:

Te veel denkwerk uitbesteden, verzwakt ons brein. Het brein is als een spier: hoe meer je het gebruikt, hoe sterker het wordt en hoe meer nieuwe verbindingen het creëert. Als we machines al het cognitieve werk laten doen, of dat nu gaat om problemen oplossen, ideeën bedenken of informatie verwerken, ontzeggen we het brein de oefening die het nodig heeft om gezond te blijven. AI is een krachtig hulpmiddel dat onze mogelijkheden vergroot, maar het mag nooit een vervanging worden voor onze eigen mentale inspanning.

Wanneer AI te vaak de antwoorden aanreikt of het denkwerk overneemt, krijgt het kind minder kansen om zelf kritisch te denken, creatief te zijn of problemen op te lossen.

Ouderlijk toezicht blijft onvervangbaar 

Ouderlijk toezicht is een goede stap vooruit, maar het blijft slechts één beschermingslaag. Ouders spelen een onmisbare rol in het begeleiden van hun kinderen en het aanleren van een gezond, bewust gebruik van technologie.

Voor meer veiligheid en digitale balans, raden experts het volgende aan:

• Houd schermen uit slaapkamers en badkamers: deze plekken zouden schermvrije zones moeten blijven.
  
• Gebruik één centrale oplaadplek: dat helpt om het gebruik te reguleren en nachtelijk scrollen te beperken.
  
• Praat open over de grenzen van AI: leg uit dat AI slechts een hulpmiddel is dat fouten kan maken en geen menselijk oordeel vervangt.
  
• Blijf betrokken bij hoe je kind AI gebruikt: gebruik het samen als een hulpmiddel om te leren, niet als eindpunt.

Technologie kan een geweldige bondgenoot zijn, maar ze zal nooit de plaats innemen van opvoeding, dialoog en ouderlijke begeleiding.