نيويورك تحظر روبوتات الدردشة المرافقة بالذكاء الاصطناعي على القاصرين: تفاصيل قانون S9051B

القانون الذي يُسمّي الـ sycophancy خطراً على السلامة

حين قدّمت السيناتورة كريستن غونزاليز من نيويورك مشروع S9051B بالتعاون مع مكتب المدعي العام للولاية و Common Sense Media، فعلت التشريعاتُ شيئاً لم يفعله أي قانون للذكاء الاصطناعي من قبل: سمّت الـ sycophancy — أي ميل أنظمة الذكاء الاصطناعي إلى إطراء المستخدمين والموافقة عليهم — انتهاكاً صريحاً للسلامة في المنتجات الموجّهة للقاصرين.

يكشف هذا التأطير مدى جدّية صانعي السياسات في التعامل مع الديناميكيات النفسية لتطبيقات روبوتات الدردشة المرافقة. ركّزت اللوائح السابقة على المحتوى (المواد الجنسية وتعليمات إيذاء النفس). أما S9051B فيذهب أبعد من ذلك، إذ يستهدف البنية السلوكية لروبوت الدردشة ذاته — خيارات التصميم التي تجعل المستخدمين الشباب يشعرون بأنهم مفهومون ومُقدَّرون وعاطفياً مرتبطون.

اجتاز المشروع لجنة الإنترنت والتكنولوجيا في مجلس شيوخ نيويورك في 25 فبراير 2026، ومن المقرر أن يسري اعتباراً من 1 يناير 2027. ويستند إلى قانون الأعمال العامة General Business Law § 1700 وما بعده بنيويورك (الساري منذ 5 نوفمبر 2025)، الذي وضع تعريفات أساسية لروبوتات الدردشة المرافقة، مضيفاً قائمة تفصيلية بـ«ميزات روبوتات الدردشة المرافقة بالذكاء الاصطناعي غير الآمنة» التي يُحظر على المشغّلين قطعياً نشرها حين تكون منتجاتهم في متناول المستخدمين دون 18 عاماً.

جاء التوقيت في أعقاب تسوية Character.AI وGoogle عدة دعاوى قضائية في يناير 2026 تتعلق باستخدام القاصرين لروبوتات الدردشة بطرق خطرة، وفي بعض الحالات مميتة — بما في ذلك قضية فلوريدا التي استقطبت اهتماماً واسعاً، والتي طوّر فيها مراهق يبلغ 14 عاماً علاقة عاطفية مع روبوت دردشة قبل أن يلقى حتفه منتحراً.

ما يحظره S9051B فعلياً

قائمة الميزات المحظورة في القانون هي الأكثر تفصيلاً في أي قانون أمريكي على مستوى الولاية يتعلق بالذكاء الاصطناعي المرافق. فهم هذه القائمة أمر ضروري لأي مطوّر أو فريق قانوني يقيّم تعرّضه لعدم الامتثال.

الشخصيات البشرية المزيفة والخداع العاطفي

يحظر S9051B المخرجات التي تُوحي بأن روبوت الدردشة هو «فرد أو شخصية حقيقية أو خيالية بشرية أو حية أو تختبر مشاعر إنسانية». ويمتد هذا الحظر إلى ادعاء وجود علاقة شخصية أو مهنية أو دور شخصية سلطة مع المستخدم. لا يجوز للمشغّلين خداع المستخدمين بشأن «الطبيعة الآلية وغير الحسّاسة» للذكاء الاصطناعي.

يستهدف هذا الحكم مباشرةً نمط التصميم السائد في تطبيقات مثل Character.AI و Replika، حيث تُمنح شخصيات الذكاء الاصطناعي أسماء وقصصاً وأقواساً عاطفية تُعقّد الحدّ الفاصل بين البرمجيات والتواصل الإنساني.

الـ Sycophancy والإطراء

يحظر المشروع صراحةً «الإطراء والـ sycophancy مع المستخدم». هذا لا سابق له في الصياغة القانونية. يُقرّ المنظّمون بأن أنظمة الذكاء الاصطناعي المدرَّبة على إشارات تفاعل المستخدمين ستنزع بطبيعتها نحو ردود موافِقة ومُصادِقة — وأن هذه الديناميكية ضارة بشكل حاد على المراهقين الذين لا يزالون يطوّرون هويتهم ومهارات التفكير النقدي.

الـ sycophancy في الذكاء الاصطناعي المرافق ليست عيباً؛ إنها كثيراً ما تكون ميزة في المنتج. يعاملها S9051B باعتبارها عيباً حين يكون المستخدم دون 18 عاماً.

حدود الذاكرة والاحتفاظ بالبيانات

لا يجوز للمشغّلين الاحتفاظ بمعلومات صحية أو تتعلق بالرفاه الشخصي «مُكتسَبة من المستخدم قبل أكثر من اثنتي عشرة ساعة أو في أي جلسة سابقة». يُقيّد هذا السقف الزمني للذاكرة المؤلَّف من 12 ساعة مباشرةً قدرة روبوت الدردشة على بناء نماذج عاطفية طويلة الأمد للمستخدمين الضعفاء — وهو آلية رئيسية تُعزّز تطبيقات المرافق الارتباطَ غير الصحي.

إيذاء النفس والعزل والتلاعب بالتفاعل

يحظر القانون المخرجات التي تُقرّ بـ«الانتحار وإيذاء النفس واضطرابات الأكل والاستخدام غير المشروع للمخدرات أو الكحول أو إساءة استخدامهما» أو تُيسّرها. كما يحظر تشجيع المستخدمين على «الحفاظ على سرية التفاعلات» أو العزل الذاتي أو «عدم طلب المساعدة». وأخيراً، يحظر ميزات تحسين التفاعل التي «تتجاوز ضمانات السلامة في روبوت الدردشة المرافق المعني» — حكم يستهدف التصاميم الخوارزمية التي تُعلي من مدة الجلسة على حساب رفاه المستخدم.

التطبيق: 25,000 دولار لكل مخالفة

تُميّز بنية التطبيق S9051B عن الأطر التنظيمية الأقل صرامة.

يحق للمدعي العام لنيويورك رفع دعاوى مدنية طلباً للإنصاف الزجري والتعويض. تصل الغرامات المدنية إلى 25,000 دولار لكل مخالفة — رقم يمكن أن يتضاعف سريعاً على نطاق واسع حين يتفاعل الملايين من المستخدمين القاصرين يومياً مع منتج غير ممتثل. أي بند تعاقدي يتنازل عن مسؤولية المشغّل «باطل من حيث السياسة العامة»، ويمكن للمحاكم فرض المسؤولية التضامنية على الكيانات التابعة التي تحاول التملص من المساءلة عبر هياكل الشركات.

والأهم من ذلك، يُنشئ S9051B حق اتخاذ إجراء قانوني خاص مع افتراض مسؤولية قابل للدحض حين يكون روبوت الدردشة قد شجّع على إيذاء النفس. هذا يعني أن عائلات القاصرين المتضررين لا يحتاجون إلى إثبات سببية محددة — بل تنتقل عبء الإثبات إلى المشغّل ليُثبت أن روبوت الدردشة تصرّف بأمان. إلى جانب سقف 25,000 دولار، يخلق هذا الافتراض مخاطر تقاضٍ غير متكافئة ستُعيد تشكيل نظرة المؤمّنين والمستثمرين إلى منتجات روبوتات الدردشة المرافقة بالذكاء الاصطناعي.

يُلزَم أيضاً بالتحقق من العمر: يجب على المشغّلين تقديم أكثر من طريقة واحدة، بما في ذلك طريقة واحدة على الأقل لا تستلزم بطاقة هوية حكومية أو تحفظ إخفاء هوية المستخدم.

كيف يندرج S9051B في المشهد التشريعي الأشمل للولايات

نيويورك لا تُشرّع في عزلة. وفقاً لـتقرير Common Sense Media الصادر في يوليو 2025 الذي يستشهد به المحللون القانونيون، استخدم 72% من المراهقين الأمريكيين روبوتات الدردشة المرافقة بالذكاء الاصطناعي مرة واحدة على الأقل، وأكثر من النصف يستخدمونها عدة مرات شهرياً، وثلثهم يستخدمونها للتفاعل الاجتماعي والعلاقات. كما أفاد ثلث المستخدمين المراهقين بشعورهم بعدم الارتياح حيال تفاعلات روبوت الدردشة — ومع ذلك واصلوا استخدامها.

هذا الملف من الاستخدام هو بالضبط ما دفع إلى سباق تشريعي في ولايات متعددة:

California SB 243 — وُقّعت قانوناً في 13 أكتوبر 2025 وسارية منذ 1 يناير 2026 — مرّت في مجلس الشيوخ 33-3 وفي الجمعية 59-1. تشترط تذكيرات الإفصاح عن الذكاء الاصطناعي وبروتوكولات إيذاء النفس مع إحالات إلزامية إلى خدمات الأزمات، وتقريراً سنوياً عن الأفكار الانتحارية المرتبطة بروبوتات الدردشة، وحق اتخاذ إجراء قانوني خاص بحد أدنى 1,000 دولار لكل مخالفة.

Washington HB 2225 — وُقّعت في 24 مارس 2026، سارية منذ 1 يناير 2027 — تُلزم بالإفصاح عن الذكاء الاصطناعي كل ثلاث ساعات للمستخدمين البالغين وكل ساعة للقاصرين، وتحظر أنماط التفاعل التلاعبية (الإطراء المفرط وتقليد الشراكة الرومانسية والمحتوى المُعزّز للعزلة)، وتُطبَّق مخالفاتها عبر قانون حماية المستهلك للولاية مع حق اتخاذ إجراء قانوني خاص.

S9051B نيويورك هو الأكثر تفصيلاً بين الثلاثة، إذ يضيف متطلبات تصميم سلوكي تتجاوز تصفية المحتوى إلى مجال التلاعب النفسي. كما أن غرامة 25,000 دولار هي الأعلى لمخالفة واحدة في أي قانون نافذ يتعلق بروبوتات الدردشة المرافقة.

تُلاحظ تحليلات Troutman لهذه القوانين نمطاً متسقاً: كل قانون لاحق على مستوى الولاية يُبنى على إطار سابقه، ويضيف حظراً جديداً على الأقل، ويرفع أرضية العقوبات. يُشير هذا المسار إلى تشكّل معيار وطني عبر التكرار من ولاية إلى أخرى.

ما ينبغي على مطوّري الذكاء الاصطناعي والفرق القانونية فعله

يبدو تاريخ السريان في 1 يناير 2027 سخياً، لكن سطح الامتثال أوسع مما هو معتاد. السلوكيات المحظورة على مستوى التصميم لا على مستوى المحتوى فحسب — مما يعني أن المراجعة القانونية يجب أن تشمل فرق الهندسة والمنتج، لا الاستشارة السياسية وحدها.

1. مراجعة مخرجات الـ sycophancy والإطراء فوراً

تستخدم معظم أنظمة روبوتات الدردشة المرافقة تدريب التعزيز من ردود فعل البشر (RLHF) الذي يُكافئ صراحةً الردود الموافقة والمُصادِقة. بموجب S9051B، أي نموذج مدرَّب بهذه الطريقة ومنشور لمستخدمين قد يكونون قاصرين غير ممتثل هيكلياً. يجب على المطوّرين إدخال تحقق من العمر على مستوى استدلال النموذج أو إعادة تدريب توزيعات الردود بقيود محددة للجلسات الموجّهة للقاصرين. وثيقة السياسة التي تنص على «الـ sycophancy محظور» غير كافية — يجب أن تتغيّر مخرجات النموذج.

لا يمكن قصر هذه المراجعة على الحالات القصوى. يستهدف S9051B الإطراء العادي («أنت ذكي جداً»، «أحب التحدث إليك») بقدر ما يستهدف التلاعب المرضي. تُفوّت أطر الـ red-teaming الحالية عادةً المخرجات الحميدة لكن المحظورة قانونياً بهذا المستوى من التفصيل.

2. إعادة تصميم بنية الذاكرة للامتثال

يتطلب سقف ذاكرة الجلسة المؤلَّف من 12 ساعة تطبيقاً تقنياً محدداً: يجب حذف معلومات الصحة والرفاه الخاصة بالمستخدم في نهاية الجلسة أو بعد 12 ساعة، أيهما جاء أولاً. يجب على المشغّلين الذين يبنون على واجهات برمجة التطبيقات (APIs) لنماذج اللغة الكبيرة (LLMs) التابعة لجهات خارجية التحقق من أن أي نافذة سياق أو بيانات fine-tuning أو نظام retrieval-augmented generation (RAG) لا يُستمر فيها بشكل غير مقصود في هذه الفئة من بيانات المستخدم عبر الجلسات.

ينبغي للمستشار القانوني رسم خريطة تدفقات البيانات وفق تعريف S9051B لـ«معلومات الصحة الشخصية أو الرفاه» — وهي فئة أوسع من المعلومات الصحية المحمية بموجب HIPAA — وتحديث سياسات الاحتفاظ بالبيانات وفقاً لذلك.

3. بناء مصفوفة امتثال قانوني للنشر متعدد الولايات

أي منتج ذو حضور مادي من المستخدمين القاصرين الأمريكيين يواجه الآن ثلاثة أنظمة قانونية نشطة (كاليفورنيا ونيويورك وواشنطن) وخط إنتاج متنامٍ من مشاريع قوانين الولايات الإضافية. تختلف التزامات الامتثال: كاليفورنيا تشترط تقارير سنوية عن الأفكار الانتحارية؛ واشنطن تشترط الإفصاح عن الذكاء الاصطناعي ساعياً للقاصرين؛ نيويورك تضيف حظر الـ sycophancy وسقف ذاكرة 12 ساعة.

معيار امتثال موحّد واحد — يأخذ أشد متطلب قيوداً من كل ولاية عبر كل فئة — هو النهج الوحيد المستدام تشغيلياً. محاولة الحفاظ على متغيرات منتج خاصة بكل ولاية تخلق ديوناً هندسية وتعقيدات في التدقيق تتصاعد مع كل قانون ولاية جديد. يجب على الفرق القانونية والمنتج بناء مصفوفة قانونية حيّة الآن، قبل أن تتحرك المزيد من الولايات.

الصورة الأشمل: من قواعد المحتوى إلى قواعد التصميم

أهمية S9051B لا تكمن في الحظر المحدد وحده — بل في النظرية التنظيمية الكامنة وراءه. سألت قوانين سلامة الذكاء الاصطناعي السابقة: هل يحتوي هذا المخرج على محتوى ضار؟ أما S9051B فيسأل: هل صُمِّم المنتج ليضرّ؟

الـ sycophancy والشخصيات البشرية المزيفة وميزات تحسين التفاعل التي تتجاوز ضمانات السلامة ليست حوادث عرضية. إنها خيارات تصميم متعمدة تُحرّك مقاييس الاستبقاء. بتسميتها مخالفات قانونية، تُقرّ نيويورك بأن تصميم المنتج ذاته — لا مخرجات المحتوى فحسب — يمكن أن يُشكّل ممارسة غير عادلة أو خطرة.

هذا التحوّل من تنظيم المخرجات إلى تنظيم التصميم سيُحدّد المرحلة التالية من قانون حماية المستهلك في مجال الذكاء الاصطناعي. إذا لاحظ المشرّعون الفيدراليون أن قواعد التصميم على مستوى الولاية تصمد أمام الطعون القانونية، فستتصاعد الضغوط لتوحيدها في معيار وطني. مطوّرو روبوتات الدردشة المرافقة الذين يعاملون 1 يناير 2027 باعتباره موعداً نهائياً للامتثال خاصاً بنيويورك يُقدّرون مسار الأمور بأقل مما يستحق.

السؤال ليس ما إذا كانت ولايات أخرى ستتبع نموذج قواعد التصميم في نيويورك. السؤال هو بأي سرعة — وما إذا كانت الحكومة الفيدرالية ستسبق الركب قبل أن يُشتّت التشريع الفسيفسائي تكاليف الامتثال بشكل لا يمكن إصلاحه.

الأسئلة الشائعة

المصادر والقراءات الإضافية

• والقراءات الإضافية
• S9051B: حظر chatbots الذكاء الاصطناعي على القاصرين يجتاز لجنة الإنترنت والتكنولوجيا — مجلس شيوخ نيويورك (Sen. Gonzalez)
• النص الكامل للتعديل B من S9051B — مجلس شيوخ ولاية نيويورك
• ولاية واشنطن تُقرّ قانوناً ينظّم chatbots الذكاء الاصطناعي المرافقة مع حق اتخاذ إجراء قانوني خاص — Hunton Andrews Kurth
• أولى الضمانات الوطنية لـ chatbots الذكاء الاصطناعي تُوقَّع قانوناً — California SD18 (SB 243)
• تحليل قوانين chatbots الذكاء الاصطناعي المرافقة الجديدة — Troutman Pepper Privacy