OpenAI annonce un renforcement des protections de ChatGPT pour les utilisateurs de moins de 18 ans. Dans les prochaines semaines, l’assistant devrait limiter davantage les réponses fournissant des informations pratiques sur les armes ou sur certains systèmes de sécurité lorsqu’elles pourraient être utilisées à des fins dangereuses. D’après Reuters, relayé par informat.ro le 31 octobre 2026, cette évolution vise à réduire le risque qu’une conversation avec un chatbot contribue à une violence dans le monde réel.
Des restrictions déclenchées même sans intention explicite
Le changement annoncé ne concernera pas uniquement les demandes exprimant clairement une volonté de commettre une violence. Pour les comptes identifiés comme appartenant probablement à des adolescents, ChatGPT réduira aussi l’accès à des explications concrètes sur les armes et les dispositifs de sécurité susceptibles d’être détournés. L’objectif affiché par OpenAI est donc de traiter le risque lié au contenu demandé, mais aussi le contexte particulier d’un utilisateur mineur, même lorsque son message ne permet pas de conclure à une intention dangereuse.
Cette approche devrait modifier la manière dont l’assistant répond à certaines questions techniques. OpenAI prévoit également de diminuer le niveau de précision fourni au sujet d’attaques armées de masse ayant eu lieu dans le passé. Les réponses pourraient notamment être moins détaillées concernant les armes impliquées et les moyens de se les procurer. L’entreprise ne présente toutefois pas ces mesures comme définitives : leur déploiement sera progressif et leur fonctionnement pourra être ajusté ultérieurement.
OpenAI indique que les nouvelles protections seront mises en œuvre progressivement et feront l’objet d’ajustements ultérieurs.
Une détection de l’âge renforcée
Pour appliquer ces règles, OpenAI veut améliorer son système d’estimation de l’âge. Les personnes que le service considérera comme ayant probablement moins de 18 ans seront orientées vers une version de ChatGPT destinée aux adolescents. Cette édition comprend déjà des protections supplémentaires, mais le contenu fourni par informat.ro ne précise pas les critères techniques utilisés pour estimer l’âge ni la procédure permettant de corriger une éventuelle erreur.
La mesure soulève ainsi un enjeu de fonctionnement pour les plateformes d’IA : elles doivent distinguer les utilisateurs mineurs des adultes sans que les informations disponibles ne permettent toujours de le faire avec certitude. L’annonce ne détaille pas non plus les données qui seront utilisées par OpenAI pour cette estimation. Elle confirme seulement que l’entreprise souhaite s’appuyer davantage sur cette catégorisation pour différencier les réponses et les niveaux de protection.
Fermeture des conversations et information des parents
Le dispositif ne s’arrêtera pas aux demandes portant sur les armes. Pour l’ensemble des utilisateurs, ChatGPT pourra interrompre automatiquement une discussion si le service détecte une préoccupation persistante pour la violence. Une suspension temporaire pourrait ensuite être appliquée aux comptes qui multiplient ce type d’échanges. Lorsqu’un compte d’enfant sera suspendu pour ce motif, les parents en seront informés, selon les modalités annoncées par OpenAI.
- Adolescents : accès réduit aux informations pratiques sur les armes et certains systèmes de sécurité ;
- Tous les comptes : possibilité de mettre fin à une conversation présentant une préoccupation durable pour la violence ;
- Comptes concernés à répétition : suspension temporaire possible ;
- Parents : notification prévue lorsque le compte d’un enfant est suspendu pour ce motif.
Une annonce dans un contexte de surveillance accrue
OpenAI intervient alors que les risques liés à l’utilisation de chatbots par des mineurs font l’objet d’une attention croissante. L’entreprise indiquait dans un rapport publié au début du mois d’octobre que les adolescents utilisaient ChatGPT en moyenne moins de 15 minutes par jour. Ce chiffre, communiqué par OpenAI pour cette période, ne mesure pas à lui seul la nature des conversations ni leur niveau de risque.
De son côté, Common Sense Media a constaté que la version destinée aux adolescents avait parfois averti les parents tardivement, voire ne les avait pas alertés, dans des situations associées au suicide, à l’automutilation ou à des troubles dont l’extrait fourni ne précise pas davantage la nature. Ces observations donnent un relief particulier à l’annonce : OpenAI cherche à renforcer ses barrières sur les contenus violents, tout en étant confronté à des questions plus larges sur la détection des situations de danger, la fiabilité des alertes et l’information des familles.
| Mesure annoncée | Public concerné | Calendrier |
|---|---|---|
| Restrictions sur les informations liées aux armes | Utilisateurs probablement mineurs | Dans les prochaines semaines, progressivement |
| Interruption ou suspension pour discussions violentes répétées | Tous les utilisateurs | Déploiement progressif |
| Amélioration de l’estimation de l’âge | Utilisateurs de ChatGPT | Déploiement progressif |
