Des crash-tests pour les IA ?

Voiture lors d'un crash-test, l'avant écrasé contre un mur

đź•’ 4 min

Aucune voiture n’est vendue sans avoir passé des crash-tests. Les outils d’IA que nos enfants utilisent chaque jour, eux, arrivent sur le marché sans évaluation indépendante. Tom Siegel, ancien responsable de la sécurité chez Google, veut que cela change.

Comprendre

Le 23 septembre 2026, l’agence Reuters a publié un entretien avec Tom Siegel. Ancien vice-président de trust and safety chez Google, il dirige aujourd’hui le Youth AI Safety Institute, lancé en mai par l’organisation américaine Common Sense Media pour étudier l’usage de l’IA par les jeunes.

Son constat est sévère. Selon lui, l’IA pourrait nuire davantage aux enfants que les réseaux sociaux. Il cite des risques allant du suicide et de la psychose à la
« délégation cognitive », c’est-à-dire la perte d’esprit critique quand on laisse la machine réfléchir à notre place.

Il ajoute que croire que le secteur réglera le problème seul, sans contrôle extérieur, n’est « pas réaliste ». Sa proposition : des normes indépendantes, comparables aux crash-tests automobiles, pour mesurer les risques des outils d’IA accessibles au public.

Cette comparaison reste un avis d’expert, pas un résultat scientifique.

Ce que répondent les entreprises

Google affirme que ses fonctions de recherche par IA sont un moyen utile pour les jeunes d’apprendre et de s’informer, et rappelle que les parents peuvent bloquer l’accès au moteur de recherche. OpenAI explique utiliser des signaux liés au compte et au comportement, en plus de l’âge déclaré, pour repérer les utilisateurs mineurs, et dit tester en continu ses protections.

Ces réponses décrivent des outils internes. Elles ne répondent pas à la question posée : qui vérifie, de manière indépendante, que ces protections fonctionnent ?

Prévenir

En attendant des crash-tests pour l’IA, les parents peuvent déjà faire leur propre
« contrôle technique » :

Protéger

Une IA n’est pas une personne de confiance. Si votre enfant va mal, s’il a des idées noires ou s’il vit une situation difficile, il doit pouvoir parler à un humain.

C’est vers eux que nous orientons les enfants, pas vers un chatbot.

En résumé. Nous ne laissons pas nos enfants monter dans une voiture qui n’a jamais été testée. Pourquoi accepterions-nous qu’ils utilisent des IA qui n’ont jamais été évaluées de manière indépendante ? Comprendre, prévenir, protéger : c’est aussi exiger des comptes.

Sources : Reuters, 23/09/2026 (via Claims Journal) · Version française sur Boursorama, 24/09/2026. Image générée par IA.

Laisser un commentaire