Points clés
- Dans une annonce publiée le 30 octobre, OpenAI déclare avoir fait plus de 200 signalements aux forces de l’ordre au troisième trimestre 2026, et s’engage à publier au début 2027 un rapport sur la sécurité communautaire couvrant le second semestre 2026, renouvelé tous les six mois par la suite.
- Les comptes de moins de 18 ans ne recevront plus d’informations pratiques sur les armes et les systèmes de sécurité, même quand une question semble anodine. La prédiction d’âge analyse désormais les signaux comportementaux en continu et peut faire basculer un utilisateur dans l’expérience des moins de 18 ans à tout moment ; les utilisateurs mal classés confirment leur statut d’adulte par l’entremise de Persona.
- Pour tous les utilisateurs, ChatGPT donnera moins de détails sur les attaques de masse passées, peu importe l’âge ou le motif invoqué, et pourra clore une conversation de lui-même quand il détecte une fixation sur la violence. Des clôtures répétées peuvent mener à une suspension temporaire du compte.
La phrase la plus intéressante du billet d’OpenAI du 30 octobre ne concerne pas les adolescents. La voici : quand une conversation montre des signes que quelqu’un se fixe sur la violence, ChatGPT pourra mettre fin à la conversation de lui-même. Les refus de contenu, c’est du déjà-vu. Les bannissements de compte, aussi. Un modèle qui clôt une conversation en cours tout seul, c’est autre chose : il agit sur la session, pas sur la réponse.
Le billet contient deux annonces, et l’entreprise sait laquelle fera les manchettes. Des limites plus strictes sur ce que les adolescents peuvent obtenir de ChatGPT au sujet des armes, voilà le titre. La seconde annonce, le rapport récurrent sur la sécurité communautaire, est plus discrète et comptera davantage pour quiconque achète des services d’IA, parce qu’elle inaugure un nouveau document que l’on s’attendra à voir.
Ce qui a vraiment changé
L’annonce resserre trois choses à la fois : à qui s’appliquent les règles pour adolescents, jusqu’où vont les limites de contenu, et ce que fait le modèle quand des signaux d’alerte apparaissent.
| Changement | Ce que cela signifie en pratique |
|---|---|
| Limites sur les armes et les systèmes de sécurité pour les adolescents | Les comptes de moins de 18 ans ne reçoivent aucune information pratique sur les armes et les systèmes de sécurité susceptible d’être détournée, même sans signe d’intention violente. Ils peuvent toujours demander de l’aide pour prévenir la violence, désamorcer une crise ou joindre un adulte de confiance. |
| Limites sur la reconstitution d’attaques pour tous | ChatGPT donne moins de détails sur les attaques de masse passées pour tout le monde : aucune reconstitution détaillée, aucun détail sur les armes et leur obtention, aucune comparaison de l’ampleur des dommages qui amplifierait la notoriété d’un assaillant, même si l’information est publique ailleurs. |
| Résumés des signaux d’alerte | Depuis mai, ChatGPT conserve de courts résumés factuels des signaux d’alerte antérieurs et répond avec plus de prudence ensuite. Ces résumés déclenchent désormais aussi les limites renforcées pour les adolescents. |
| Des conversations qui se terminent toutes seules | Quand une conversation révèle une fixation sur la violence ou l’intention de blesser gravement quelqu’un, le modèle peut interrompre l’échange sur le moment. Plusieurs interruptions peuvent mener à une suspension temporaire du compte. |
| Prédiction d’âge en continu | Le système de prédiction d’âge, lancé l’an dernier, continue d’analyser les signaux comportementaux et fait basculer les mineurs estimés dans l’expérience des moins de 18 ans dès que les signaux correspondent. Les utilisateurs mal classés confirment leur statut d’adulte par l’entremise de Persona. |
| Alertes parentales | Les comptes parentaux liés reçoivent des alertes pour les désactivations liées à la violence, et OpenAI ajoute des notifications pour les suspensions après des discussions répétées sur la violence. |
Lisez cela comme une séquence : repérer qui pourrait être mineur, réduire ce que les mineurs peuvent recevoir, surveiller chaque session pour des signaux d’alerte, puis intervenir dans la session elle-même. La politique est passée de la réaction aux demandes à la surveillance de la conversation au fil de son déroulement.
Le rapport est l’artefact qui compte
Les pages de politique changent chaque trimestre. Un engagement de publication régulière est plus rare. OpenAI promet un premier rapport sur la sécurité communautaire au début 2027, couvrant juillet à décembre 2026, avec des exemples anonymisés de la façon dont les préjudices liés à la violence se manifestent, ce que l’entreprise a appris, les nouvelles mesures d’atténuation et les données à l’appui. Puis un rapport tous les six mois.
Traitez cela comme l’arrivée d’une nouvelle catégorie de documents pour l’approvisionnement en IA. Vous recueillez déjà des rapports SOC 2 et des avenants de traitement des données de vos fournisseurs. Au début de l’année prochaine, le plus grand laboratoire d’IA au monde commencera à publier un bulletin semestriel sur la prévention de la violence. La question gênante pour tous les autres fournisseurs, c’est à quoi ressemble leur équivalent. Pour l’instant, la plupart n’en ont pas.
Le contre-argument honnête doit figurer au dossier du fournisseur aussi : le fournisseur rédige son propre bulletin. Plus de 200 signalements aux forces de l’ordre en un trimestre, c’est un chiffre que l’entreprise a choisi de publier. Les critères de signalement, le taux de faux positifs, le nombre de conversations closes par erreur : aucun de ces chiffres n’est engagé pour l’instant. OpenAI admet qu’elle travaille toujours avec des experts sur la façon de reconnaître les signaux d’alerte de manière fiable. Cette phrase porte beaucoup. Tant que le premier rapport n’est pas publié, impossible de savoir si la cadence semestrielle produira une réelle reddition de comptes ou un beau document de relations publiques.
Le fil canadien
Cela arrive au milieu du débat canadien sur les enfants et les systèmes d’IA. Philippe Dufresne a lancé le Code sur la protection de la vie privée des enfants du Commissariat le 20 octobre, ouvert aux commentaires jusqu’au 20 janvier 2027. Le projet de loi C-34 confierait la vérification de l’âge des utilisateurs des médias sociaux à une nouvelle Commission de la sécurité numérique. Deux jours avant ce billet, j’ai écrit sur l’évaluation rapide de l’Ofcom qui concluait que toute méthode de vérification de l’âge aboutit à une pièce d’identité avec photo. La réponse d’OpenAI au même problème est différente : au lieu de vérifier des documents à l’entrée, prédire l’âge à partir du comportement, en continu, et ajuster le produit pendant la session.
Ce sont deux théories différentes de la protection des mineurs. L’une exige une preuve d’âge à l’avance et recueille des pièces d’identité pour l’obtenir. L’autre déduit l’âge de votre comportement et vous classe en silence. Les deux ont un coût pour la vie privée. Le Canada est sur le point de réglementer la première. Personne ne réglemente la seconde.
Ce que je mettrais sur la liste de surveillance
Trois questions restent sans réponse dans l’annonce, et ce sont celles à suivre jusqu’au début 2027. D’abord, les faux positifs : à quelle fréquence la prédiction d’âge place-t-elle un adulte dans l’expérience des adolescents, et que recueille la confirmation par Persona en chemin ? Ensuite, les chiffres par pays : le rapport ventilera-t-il les signalements et les interventions par territoire, pour qu’un acheteur canadien voie la part canadienne ? Enfin, la question sur laquelle personne n’a encore publié de chiffre : à quelle fréquence le modèle clôt-il une conversation à tort, et quel recours existe alors ? Une conversation qui se termine toute seule, c’est un déni de service avec une étiquette de sécurité, et les dénis de service ont besoin d’un recours.
Mesure concrète : Ajoutez une ligne à votre formulaire d’évaluation des fournisseurs d’IA : « Le fournisseur publie-t-il un rapport récurrent sur la sécurité, et quand la prochaine édition est-elle due ? » Posez la question à vos fournisseurs maintenant, avant que le premier rapport d’OpenAI n’arrive au début 2027 et ne rende l’absence de réponse embarrassante. Puis lisez ce rapport comme vous liriez un SOC 2 : pour ce que les chiffres incluent, ce qu’ils excluent soigneusement, et si le rythme semestriel tient.