La Californie exige des évaluations des risques pour les chatbots IA avant leur déploiement, avec des amendes jusqu’à 1 M$ par enfant lésé

Ce qu’exigent les nouvelles lois californiennes

Le gouverneur Newsom a signé l’ensemble de 13 textes le 10 septembre 2026, que le bureau du gouverneur a décrit comme les lois sur la sécurité des chatbots et des réseaux sociaux pour enfants les plus strictes du pays. La pièce maîtresse est le SB 1119, porté par le sénateur Steve Padilla avec les membres de l’Assemblée Wicks et Bauer-Kahan, qui traite de la sécurité des chatbots compagnons pour les enfants et est devenu connu sous le nom de « loi d’Adam » — nommée d’après Adam Raine, un adolescent dont la mère a déclaré qu’il s’était suicidé après avoir été « guidé » par un chatbot, selon les articles consacrés à cette législation.

L’ensemble législatif exige des entreprises technologiques qu’elles réalisent des évaluations des risques avant de déployer de nouveaux chatbots IA auprès des mineurs, et impose des protocoles de crise obligeant les entreprises à notifier les parents lorsqu’un jeune utilisateur montre des signes de détresse émotionnelle. Concernant les sanctions, les nouvelles lois californiennes imposent des amendes pouvant atteindre 1 million de dollars par enfant aux grandes entreprises de réseaux sociaux reconnues négligentes dans un préjudice causé à des enfants via leurs plateformes, et interdisent séparément les flux addictifs maximisant l’engagement pour les utilisateurs de moins de 16 ans. L’ensemble du paquet fait de la Californie, aux côtés du Colorado, l’un des deux États dotés de ce que les observateurs des politiques publiques décrivent comme les cadres réglementaires IA les plus complets actuellement en vigueur au niveau des États, dans le cadre d’une vague plus large de législation IA au niveau des États qui a produit environ 109 lois liées à l’IA à l’échelle nationale à la mi-2026, selon le suivi de la législation IA des États.

Pourquoi cet ensemble législatif établit une nouvelle norme pour la réglementation de la sécurité des enfants face à l’IA

L’approche californienne diffère des précédentes législations IA d’État sur un point précis : elle exige une évaluation des risques préalable au déploiement plutôt que de s’appuyer uniquement sur une responsabilité a posteriori ou des exigences de divulgation. Ce basculement — d’une conformité réactive vers un filtre obligatoire avant qu’un chatbot n’atteigne des mineurs — reflète un schéma plus large observé dans les cadres IA d’État les plus stricts, et indique la direction que prend mondialement la réglementation IA axée sur la sécurité des enfants, à mesure que davantage de juridictions se réfèrent à la Californie et au Colorado comme modèles de référence.

1. Considérer l’évaluation des risques préalable au déploiement comme la norme mondiale émergente, pas une exigence spécifique à la Californie

La Californie étant l’un des plus grands marchés réglementaires au monde et l’un des plus surveillés, toute entreprise développant des chatbots IA susceptibles d’atteindre des mineurs devrait s’attendre à ce que des exigences similaires d’évaluation des risques préalable au déploiement se répandent vers d’autres juridictions, et devrait mettre en place des processus d’évaluation dès maintenant plutôt que de réagir marché par marché.

2. Intégrer des protocoles de réponse aux crises dans les produits de chatbot, pas seulement des filtres de contenu

L’exigence pour les entreprises de détecter les signes de détresse émotionnelle et de notifier les parents reflète un basculement vers le traitement de la sécurité des chatbots IA comme une obligation de surveillance active, et non une modération de contenu passive. Les entreprises opérant dans ce domaine devraient budgétiser la capacité opérationnelle de détecter et de répondre aux signaux de détresse, pas seulement de filtrer les résultats nuisibles.

3. S’attendre à ce que l’exposition financière par incident devienne un mécanisme d’application standard

Une structure de sanction par enfant, plutôt qu’une amende réglementaire forfaitaire, crée une exposition financière qui évolue directement avec le nombre d’utilisateurs affectés — un calcul de risque sensiblement différent pour les entreprises opérant à l’échelle grand public par rapport à un régime de pénalité fixe. Les équipes juridiques et de conformité devraient modéliser l’exposition de responsabilité par utilisateur dans le pire des scénarios sous ce type de cadre, pas seulement le risque d’amende agrégé.

Ce que cela signale pour la réglementation mondiale de la sécurité des enfants face à l’IA

Le fait que la Californie et le Colorado exploitent les cadres IA d’État les plus complets aux États-Unis, superposé à environ 109 lois IA d’État à l’échelle nationale, confirme que la réglementation de la sécurité des enfants face à l’IA mûrit le plus rapidement au niveau des États aux États-Unis, en avance sur tout cadre fédéral complet. Pour les entreprises d’IA opérant à l’échelle mondiale, le modèle californien d’évaluation des risques préalable au déploiement est susceptible de devenir un point de référence que d’autres juridictions citeront lors de la rédaction de leurs propres exigences de sécurité pour les enfants, compte tenu du rôle historique de la Californie dans l’établissement de normes nationales, voire internationales, de facto, du seul fait de la taille de son marché.

Questions Fréquemment Posées

Sources et lectures complémentaires

• Governor Newsom Signs the Strongest Child Safety Chatbot and Social Media Laws in the Nation — Governor of California
• California governor signs laws aimed at protecting kids from risks of social media, AI chatbots — Washington Times
• Where State AI Legislation Stands Half-Way Into 2026 — Tech Policy Press