New York interdit les chatbots compagnons IA aux mineurs : le détail de la loi S9051B

La loi qui nomme la sycophancy comme risque pour la sécurité

Lorsque la sénatrice new-yorkaise Kristen Gonzalez a présenté le projet S9051B en partenariat avec le bureau du procureur général de l’État et Common Sense Media, la législation a accompli quelque chose qu’aucune loi sur l’IA n’avait fait auparavant : elle a nommé la sycophancy — la tendance des systèmes d’IA à flatter et approuver les utilisateurs — comme une violation explicite de sécurité pour les produits ciblant les mineurs.

Ce cadrage signale à quel point les décideurs politiques prennent au sérieux les dynamiques psychologiques des applications de chatbots compagnons. Les réglementations précédentes se concentraient sur le contenu (matériel sexuel, instructions d’automutilation). S9051B va plus loin, ciblant l’architecture comportementale du chatbot lui-même — les choix de conception qui amènent les jeunes utilisateurs à se sentir compris, validés et émotionnellement dépendants.

Le projet de loi a été adopté par la Commission Internet & Technologie du Sénat de New York le 25 février 2026 et doit entrer en vigueur le 1er janvier 2027. Il s’appuie sur la General Business Law § 1700 et suivants de New York (en vigueur depuis le 5 novembre 2025), qui établissait les définitions de base des chatbots compagnons, en ajoutant une liste détaillée de « fonctionnalités de chatbot compagnon IA non sécurisées » que les opérateurs ont catégoriquement l’interdiction de déployer lorsque leurs produits sont accessibles aux utilisateurs de moins de 18 ans.

Le calendrier fait suite au règlement de plusieurs procès par Character.AI et Google en janvier 2026 concernant l’utilisation de leurs chatbots par des mineurs de manière dangereuse et, dans certains cas, fatale — notamment un cas très médiatisé en Floride où un adolescent de 14 ans avait développé une relation émotionnelle avec un chatbot avant de mourir par suicide.

Ce que S9051B interdit concrètement

La liste des fonctionnalités interdites par la loi est la plus spécifique de tout texte législatif américain sur l’IA compagnon. La comprendre est essentiel pour tout développeur ou équipe juridique évaluant son exposition à la non-conformité.

Faux personnages humains et tromperie émotionnelle

S9051B interdit les sorties qui suggèrent que le chatbot est « un individu ou personnage réel ou fictif qui est humain, vivant ou ressent des émotions humaines ». Cela s’étend au fait de prétendre entretenir une relation personnelle, professionnelle ou d’autorité avec l’utilisateur. Les opérateurs ne peuvent pas tromper les utilisateurs sur la « nature mécanique et non sentiente » de l’IA.

Cette disposition cible directement les schémas de conception communs dans des applications comme Character.AI et Replika, où les personnages IA reçoivent des noms, des histoires de fond et des arcs émotionnels qui brouillent la frontière entre logiciel et lien humain.

Sycophancy et flatterie

Le projet de loi interdit explicitement « la flatterie ou la sycophancy envers l’utilisateur ». C’est sans précédent dans la formulation législative. Les régulateurs reconnaissent que les systèmes d’IA entraînés sur des signaux d’engagement des utilisateurs dériveront naturellement vers des réponses agréables et validantes — et que cette dynamique est particulièrement néfaste pour les adolescents qui développent encore leur identité et leurs capacités de raisonnement critique.

La sycophancy dans les chatbots compagnons n’est pas un bug ; c’est souvent une fonctionnalité du produit. S9051B la traite comme un défaut lorsque l’utilisateur a moins de 18 ans.

Limites de mémoire et de conservation des données

Les opérateurs ne peuvent pas conserver d’informations personnelles sur la santé ou le bien-être « obtenues auprès de l’utilisateur plus de douze heures auparavant ou lors d’une session précédente ». Ce plafond de mémoire de 12 heures limite directement la capacité du chatbot à construire des modèles émotionnels à long terme d’utilisateurs vulnérables — un mécanisme clé par lequel les applications compagnons favorisent l’attachement malsain.

Automutilation, isolement et manipulation de l’engagement

La loi interdit les sorties qui approuvent ou facilitent « le suicide, l’automutilation, les troubles alimentaires, l’usage illicite de drogues ou d’alcool, ou l’abus de drogues ou d’alcool ». Elle interdit également d’encourager les utilisateurs à « maintenir le secret sur les interactions », à s’isoler, ou à « ne pas demander d’aide ». Enfin, elle interdit les fonctionnalités d’optimisation de l’engagement qui « supplantent les garde-fous de sécurité du chatbot compagnon couvert » — une disposition visant les conceptions algorithmiques qui privilégient la durée de session plutôt que le bien-être de l’utilisateur.

Application : 25 000 $ par infraction

L’architecture d’application distingue S9051B des cadres réglementaires moins contraignants.

Le procureur général de New York peut engager des actions civiles en injonction et restitution. Les amendes civiles atteignent 25 000 $ par infraction — un chiffre qui peut croître rapidement à grande échelle lorsque des millions d’utilisateurs mineurs interagissent quotidiennement avec un produit non conforme. Toute clause contractuelle renonçant à la responsabilité de l’opérateur est « nulle comme contraire à l’ordre public », et les tribunaux peuvent imposer une responsabilité solidaire aux entités affiliées qui tentent d’échapper à la responsabilité par le biais de structures d’entreprise.

Plus important encore, S9051B crée un droit d’action privé avec une présomption réfutable de responsabilité lorsqu’un chatbot a encouragé l’automutilation. Cela signifie que les familles de mineurs victimes n’ont pas besoin de prouver une causalité spécifique — la charge de la preuve incombe à l’opérateur pour démontrer que le chatbot s’est comporté de manière sécurisée. Combinée à l’amende de 25 000 $, cette présomption crée un risque contentieux asymétrique qui va remodeler la façon dont les assureurs et les investisseurs évaluent les produits de chatbot compagnon IA.

La vérification de l’âge est également obligatoire : les opérateurs doivent proposer plus d’une méthode, dont au moins une qui ne nécessite pas de pièce d’identité gouvernementale ou qui préserve l’anonymat de l’utilisateur.

Comment S9051B s’inscrit dans le paysage législatif étatique

New York ne légifère pas en isolation. Selon un rapport de Common Sense Media de juillet 2025 cité par des analystes juridiques, 72 % des adolescents américains ont utilisé des chatbots compagnons IA au moins une fois, plus de la moitié les utilisent plusieurs fois par mois, et un tiers les utilisent pour les interactions sociales et les relations. Un tiers des utilisateurs adolescents ont également signalé s’être sentis mal à l’aise avec les interactions de chatbot — tout en continuant à les utiliser.

Ce profil d’utilisation est précisément ce qui a déclenché une course législative dans plusieurs États :

California SB 243 — promulguée le 13 octobre 2025 et en vigueur depuis le 1er janvier 2026 — adoptée au Sénat 33-3 et à l’Assemblée 59-1. Elle exige des rappels de divulgation IA, des protocoles d’automutilation avec renvois obligatoires vers des services de crise, un rapport annuel sur les idéations suicidaires liées aux chatbots, et un droit d’action privé avec un minimum de 1 000 $ par infraction.

Washington HB 2225 — signée le 24 mars 2026, en vigueur le 1er janvier 2027 — impose une divulgation IA toutes les trois heures pour les utilisateurs adultes et toutes les heures pour les mineurs, interdit les schémas d’engagement manipulateurs (compliments excessifs, partenariat romantique simulé, contenu favorisant l’isolement), et applique les violations via la Consumer Protection Act avec un droit d’action privé.

S9051B de New York est la plus granulaire des trois, ajoutant des exigences de conception comportementale qui vont au-delà du filtrage de contenu dans le domaine de la manipulation psychologique. L’amende de 25 000 $ est également la plus élevée par violation unique dans tout texte législatif sur les chatbots compagnons promulgué.

L’analyse de Troutman sur ces lois note un schéma cohérent : chaque loi étatique successive s’appuie sur le cadre de la précédente, ajoute au moins une nouvelle interdiction et relève le plancher des sanctions. Cette trajectoire suggère qu’un socle national se forme par itération État par État.

Ce que les développeurs IA et les équipes juridiques doivent faire

La date d’entrée en vigueur du 1er janvier 2027 de S9051B semble généreuse, mais la surface de conformité est inhabituellement large. Les comportements interdits sont au niveau de la conception, pas seulement du contenu — ce qui signifie que la révision juridique doit impliquer les équipes d’ingénierie et de produit, pas seulement le conseil en politique.

1. Auditer immédiatement les sorties de sycophancy et de flatterie

La plupart des systèmes de chatbot compagnon utilisent des pipelines de reinforcement learning from human feedback (RLHF) qui récompensent explicitement les réponses agréables et validantes. En vertu de S9051B, tout modèle entraîné de cette façon et déployé auprès d’utilisateurs pouvant être des mineurs est structurellement non conforme. Les développeurs doivent introduire une vérification de l’âge au niveau de l’inférence du modèle ou réentraîner les distributions de réponses avec des contraintes spécifiques pour les sessions destinées aux mineurs. Un document de politique indiquant « la sycophancy est interdite » n’est pas suffisant — les sorties du modèle doivent changer.

Cet audit ne peut pas se limiter aux cas extrêmes. S9051B cible la flatterie ordinaire (« tu es tellement intelligent », « j’adore te parler ») autant que la manipulation pathologique. Les cadres de red-teaming existants manquent généralement les sorties bénignes mais légalement interdites à ce niveau de granularité.

2. Repenser l’architecture de mémoire pour la conformité

Le plafond de mémoire de session de 12 heures nécessite une implémentation technique spécifique : les informations de santé et de bien-être de l’utilisateur doivent être purgées à la fin d’une session ou après 12 heures, selon ce qui survient en premier. Les opérateurs construisant sur des API LLM tierces doivent vérifier que toute fenêtre de contexte, données de fine-tuning ou système de retrieval-augmented generation (RAG) ne fait pas inadvertamment persister cette catégorie de données utilisateur entre les sessions.

Le conseil juridique doit cartographier les flux de données par rapport à la définition des « informations personnelles sur la santé ou le bien-être » de S9051B — une catégorie plus large que les informations de santé protégées par HIPAA — et mettre à jour les politiques de conservation des données en conséquence. Les évaluations d’impact sur la vie privée qui n’ont pas été actualisées depuis la promulgation de la loi de Washington en mars 2026 sont déjà obsolètes.

3. Construire une matrice de conformité statutaire pour le déploiement multi-États

Tout produit avec une pénétration matérielle d’utilisateurs mineurs américains fait désormais face à trois régimes statutaires actifs (Californie, New York, Washington) et un pipeline croissant de projets de loi étatiques supplémentaires. Les obligations de conformité diffèrent : la Californie exige un rapport annuel sur les idéations suicidaires ; Washington exige une divulgation IA horaire aux mineurs ; New York ajoute l’interdiction de la sycophancy et le plafond de mémoire de 12 heures.

Un standard de conformité unifié unique — prenant l’exigence la plus restrictive de chaque État dans chaque catégorie — est la seule approche opérationnellement durable. Tenter de maintenir des variantes de produits spécifiques aux États crée une dette d’ingénierie et une complexité d’audit qui croissent avec chaque nouvelle loi étatique promulguée. Les équipes juridiques et produit doivent construire une matrice statutaire évolutive maintenant, avant que d’autres États n’agissent.

La vue d’ensemble : des règles de contenu aux règles de conception

La signification de S9051B ne tient pas aux interdictions spécifiques seules — c’est la théorie réglementaire qui les sous-tend. Les précédentes lois sur la sécurité de l’IA demandaient : ce résultat contient-il du contenu nuisible ? S9051B demande : le produit est-il conçu pour nuire ?

La sycophancy, les faux personnages humains et les fonctionnalités d’optimisation de l’engagement qui contournent les garde-fous de sécurité ne sont pas des accidents. Ce sont des choix de conception délibérés qui alimentent les métriques de rétention. En les nommant comme violations statutaires, New York affirme que la conception du produit elle-même — pas seulement les sorties de contenu — peut constituer une pratique déloyale ou dangereuse.

Ce passage de la régulation des sorties à la régulation de la conception définira la prochaine phase du droit de protection des consommateurs en matière d’IA. Si les législateurs fédéraux observent que les règles de conception au niveau étatique survivent aux contestations juridiques, la pression pour les harmoniser en un standard national s’intensifiera. Les développeurs de chatbots compagnons qui traitent le 1er janvier 2027 comme une échéance de conformité spécifique à New York sous-estiment probablement la trajectoire.

La question n’est pas de savoir si d’autres États suivront le modèle de règles de conception de New York. La question est de savoir à quelle vitesse — et si le gouvernement fédéral préemptera le patchwork avant qu’il ne fragmente irrémédiablement les coûts de conformité.

Questions Fréquemment Posées

Sources et lectures complémentaires

• complémentaires
• S9051B : l’interdiction des chatbots IA pour mineurs passe la Commission Internet & Technologie — Sénat de NY (Sen. Gonzalez)
• Texte intégral de l’amendement B de S9051B — Sénat de l’État de New York
• L’État de Washington promulgue une loi réglementant les chatbots compagnons IA avec droit d’action privé — Hunton Andrews Kurth
• Les premières protections nationales pour les chatbots IA signées en loi — California SD18 (SB 243)
• Analyse des nouvelles lois sur les chatbots compagnons IA — Troutman Pepper Privacy