على مدى العقد الماضي، عمل مطوّرو الذكاء الاصطناعي في منطقة رمادية من الناحية التنظيمية. كان بإمكانهم نشر أنظمة تُقرّر من يحصل على قرض، أو من يجتاز فلترة التوظيف، أو من يتلقى إحالة طبية — دون أي رقابة خارجية على ما إذا كانت هذه الأنظمة تعمل فعلاً كما هو مُدّعى. هذا العصر يقترب من نهايته. باتت حكومات في قارات متعددة تشترط التحقق المستقل من أنظمة ذكاء اصطناعي بعينها قبل نشرها، وأن يستمر هذا التحقق طوال الدورة التشغيلية للنظام.
هذا التحول ليس مجرد رمز. فهو يُنشئ مسؤولية قانونية، وبنية تحتية للامتثال، ومهنة تدقيق ناشئة، وتكاليف حقيقية للشركات التي تبني أنظمة الذكاء الاصطناعي أو تستخدمها. إن فهم آليات عمل هذه الأطر التنظيمية أمر لا غنى عنه لكل من يعمل في — أو يبيع إلى — أسواق خاضعة للتنظيم.
ما الذي تعنيه عمليات تدقيق الذكاء الاصطناعي الإلزامية فعلياً
تدقيق الذكاء الاصطناعي، بالمفهوم التنظيمي، هو تقييم مستقل ومنظَّم لنظام ذكاء اصطناعي وفق معايير محددة: هل يفعل النظام ما تدّعيه وثائقه؟ هل أداؤه متسق عبر الفئات الديموغرافية المختلفة؟ هل يحتفظ بسجلات كافية لدعم التحقيق في الحوادث اللاحقة؟ هل آليات تدخل الإنسان موجودة وتعمل بكفاءة؟
كلمة “إلزامية” بالغة الأهمية. الاعتماد الذاتي — حيث تُعلن الشركة ببساطة أن نظامها آمن — كان هو النهج الافتراضي السائد. يستبدل التدقيق الإلزامي من قِبَل جهات خارجية هذا الإعلان الذاتي أو يُكمله بتحقق مستقل من هيئات معتمدة لا تربطها أي علاقة تجارية بالمطوّر.
القياس هنا على التدقيق المالي وارد تماماً. لا تستطيع الشركات المدرجة في البورصات أن تؤكد ببساطة دقة حساباتها؛ يجب أن يتحقق منها مدقق مستقل. يطبّق المنظمون المنطق ذاته على أنظمة الذكاء الاصطناعي ذات المخاطر العالية.
EU AI Act: أول إطار ملزم في العالم
يُعدّ EU AI Act الصادر عن الاتحاد الأوروبي، الذي دخل حيز التنفيذ الكامل على مراحل اعتباراً من أغسطس 2024، أشمل تنظيم ملزم للذكاء الاصطناعي في العالم حالياً. يصنّف هذا القانون أنظمة الذكاء الاصطناعي وفق سلّم للمخاطر، مع فرض أثقل الاشتراطات على التطبيقات “عالية المخاطر”.
تشمل الفئات عالية المخاطر أنظمة الذكاء الاصطناعي المستخدمة في البنية التحتية الحيوية، والتعليم، وفلترة التوظيف، والتسجيل الائتماني، وإنفاذ القانون، وضبط الحدود، وإدارة العدالة. تواجه الأنظمة الواقعة ضمن هذه الفئات مجموعة من الالتزامات قبل أن توضع قانونياً في السوق الأوروبية.
يتمحور الإطار حول تقييم المطابقة — وهو تقييم منظَّم يجب إتمامه قبل النشر. بالنسبة لمعظم أنظمة الذكاء الاصطناعي عالية المخاطر، يمكن للمطوّرين إجراء هذا التقييم ذاتياً وفق المعايير التقنية المنسّقة، ثم تقديم إعلان مطابقة للاتحاد الأوروبي وتسجيل النظام في قاعدة بيانات الذكاء الاصطناعي الأوروبية. غير أن أنظمة الذكاء الاصطناعي في المجالات الحساسة بشكل خاص — التعرف البيومتري مثلاً — تستلزم تقييماً إلزامياً من “هيئة مُخطَر بها” معتمدة.
الهيئات المُخطَر بها هي منظمات مُعيَّنة رسمياً من قِبَل الدول الأعضاء في الاتحاد الأوروبي ومُعترَف بها بصورة متبادلة عبر الكتلة. ويستلزم الحصول على هذا الوضع إثبات الكفاءة التقنية، والاستقلالية التنظيمية عن الشركات المصنّعة التي تُقيّمها، والامتثال المستمر لمعايير الاعتماد. ومطلع عام 2026، لا يزال مسار اعتماد هيئات الذكاء الاصطناعي المُخطَر بها قيد التطوير.
مراقبة ما بعد التسويق هي الالتزام الجوهري الثاني. يجب على موردي الذكاء الاصطناعي عالي المخاطر جمع بيانات أداء النظام بصورة نشطة بعد النشر، والإبلاغ عن الحوادث الجسيمة عبر نظام الإبلاغ الأوروبي المخصص، وإطلاق إعادة تقييم عند إجراء تغييرات جوهرية على النظام. هذه ليست شهادة مرة واحدة — بل هي مراقبة تنظيمية متواصلة.
ما الذي يفحصه المدقّقون فعلاً
سواء أكان التقييم ذاتياً مع مراجعة خارجية أم من جهة خارجية بالكامل، تتقارب قائمة الفحص نحو مجموعة مشتركة من الأبعاد:
جودة بيانات التدريب وسلسلة استيفائها. يفحص المدقّقون ما إذا كانت مجموعات بيانات التدريب تمثّل فعلاً السكان المستهدفين من النشر، وما إذا احتوت على تحيزات معروفة، وما إذا كانت سلسلة استيفاء البيانات موثّقة بما يكفي لدعم التحقيق في حال صدور مخرجات تمييزية.
اختبارات التحيز والإنصاف. اختبارات التكافؤ الإحصائي عبر الفئات الديموغرافية — الجنس، والعمر، والأصل العرقي، والإعاقة — معيارية. لا يفرض EU AI Act مقياساً واحداً للإنصاف، لكن المدقّقين يبحثون عن دليل على أن المطوّر درس تعريفات متعددة واتخذ خيارات مدروسة وموثّقة.
مقاييس الدقة والأداء. يجب إمكانية إعادة إنتاج أرقام الأداء المُعلنة على مجموعات اختبار يتحكم فيها المدقّق، لا على معايير قياسية انتقائية من المطوّر. كثيراً ما يوفر المدقّقون مجموعات بيانات التقييم الخاصة بهم للتحقق مما إذا كان الأداء يتراجع في ظروف توزيع مختلفة.
آليات الإشراف البشري. يجب أن يُصمَّم الذكاء الاصطناعي عالي المخاطر بموجب EU AI Act بحيث يتيح التدخل البشري. يتحقق المدقّقون من وجود ضوابط التجاوز، وإمكانية وصول المشغّلين إليها، واختبارها في الوثائق التقنية.
التسجيل والقابلية للتدقيق. يجب أن تولّد الأنظمة سجلات كافية لإعادة بناء المدخلات التي أنتجت المخرجات عبر الفترة التشغيلية ذات الصلة. يدعم هذا الاشتراط مباشرةً التحقيق الجنائي اللاحق للحوادث وحق المنظّمين في الوصول.
إعلان
صناعة في طور التشكّل
كان تدقيق الذكاء الاصطناعي من جهات خارجية مهنةً نادرة قبل ثلاث سنوات. اليوم، أصبح قطاع سوقياً سريع النمو. أطلقت شركات المراجعة الأربع الكبرى — Deloitte وPwC وEY وKPMG — جميعها ممارسات تدقيق في مجال الذكاء الاصطناعي. نشرت KPMG مثلاً أطراً لتدقيق أنظمة الذكاء الاصطناعي تُكيّف منهجية التدقيق المالي مع الأنظمة الخوارزمية، متناولةً حوكمة النماذج وسلامة البيانات وإدارة التغييرات.
إلى جانب الشركات الشاملة، ظهرت منظمات متخصصة في تدقيق الذكاء الاصطناعي. تُجري AI Now Institute بجامعة New York عمليات تدقيق قائمة على البحث بتركيز خاص على تأثيرات الحقوق المدنية. يُقدّم O’Neil Risk Consulting and Algorithmic Auditing، الذي أسسته عالمة الرياضيات Cathy O’Neil، تدقيقاً كمياً للتحيز. توفّر Monitaur بنية تحتية لتدقيق النماذج وجمع الأدلة.
السوق ليست موحّدة بعد. يستخدم المدقّقون منهجيات مختلفة وتعريفات إنصاف مختلفة ومتطلبات أدلة مختلفة، مما يُصعّب مقارنة نتائج التدقيق بين الشركات. تعمل هيئات التقييس — بما فيها ISO وIEEE — بنشاط على تطوير معايير تدقيق الذكاء الاصطناعي، لكن التنسيق سيستغرق سنوات.
تشريعات المساءلة الخوارزمية على مستوى الولايات الأمريكية
لم تُصدر الولايات المتحدة تشريعاً فيدرالياً للذكاء الاصطناعي مقارناً بـ EU AI Act. غير أن تشريعات المساءلة الخوارزمية تتراكم على مستوى الولايات. القانون المحلي رقم 144 لمدينة New York، الذي يشترط إجراء تدقيق التحيز لأدوات اتخاذ القرار الوظيفي الآلي، ساري المفعول منذ عام 2023 وأسفر عن الجيل الأول من تقارير التدقيق الخوارزمي المنشورة من قِبَل أصحاب العمل في ولاية قضائية كبرى.
سنّت Illinois وMaryland وCalifornia أو تُعجّل بتشريعات تشترط تقييمات الأثر أو التدقيق لأنظمة الذكاء الاصطناعي المستخدمة في التوظيف. يشترط قانون ذكاء اصطناعي التأمين الصادر في Colorado عام 2023 اختبارات التحيز للنماذج المستخدمة في الاكتتاب التأميني. تدرس عدة ولايات مشاريع قوانين أشمل للمساءلة الخوارزمية على غرار الإطار الأوروبي.
تُفضي الفسيفساء التشريعية على مستوى الولايات إلى تعقيدات في الامتثال للشركات العاملة على الصعيد الوطني — إذ تواجه اشتراطات متداخلة وأحياناً متضاربة بين الولايات القضائية.
إشكالية النماذج الاحتكارية
يواجه تدقيق الذكاء الاصطناعي توتراً بنيوياً لا يستوعبه القياس على التدقيق المالي بالكامل: غموض النماذج. يستطيع المدقق المالي فحص المعاملات ودفاتر الأستاذ والعقود. أما المدقق في مجال الذكاء الاصطناعي الساعي إلى تقييم نموذج لغوي كبير أو شبكة عصبية احتكارية، فيواجه نظاماً لا يمكن تفسير منطقه الداخلي بشرياً، وقد يُقاوم المطوّرون إتاحة الوصول الكامل إلى الكود المصدري بحجة السرية التجارية.
يسعى EU AI Act إلى حل هذا الإشكال باشتراط وثائق تقنية شاملة وإن لم تكن عامة بالضرورة، ومنح سلطات مراقبة السوق حق الاطلاع على الوثائق والكود المصدري عند الطلب. لكن الحدود العملية لتدقيق نظام معتم تظل مسألة بحثية وسياسية حية.
بالنسبة للنماذج التأسيسية، يُدخل EU AI Act فئة مستقلة لـ”الذكاء الاصطناعي للأغراض العامة” مع التزامات الشفافية الخاصة بها، لكن نظام تقييم المطابقة يسري على الجهة المُستخدِمة في المرحلة الأدنى التي تدمج النموذج في تطبيق عالي المخاطر، لا على مورد النموذج التأسيسي بالضرورة. وهذا يطرح تساؤلات حول توزيع المسؤولية ستجيب عليها المحاكم والجهات التنظيمية لسنوات قادمة.
كيف تبدو تكاليف الامتثال
تتراوح التقديرات القطاعية لتقييمات مطابقة EU AI Act للأنظمة عالية المخاطر بين 50,000 و300,000 يورو لكل نظام عن التقييم الأولي، وفقاً للتعقيد ومستوى التوثيق الموجود مسبقاً. تضيف مراقبة ما بعد التسويق المستمرة تكاليف متكررة. بالنسبة للمؤسسات الكبرى ذات نشرات الذكاء الاصطناعي المتعددة، تبدو ميزانيات الامتثال الإجمالية بملايين اليوروات واقعية.
بالنسبة للشركات الناشئة وصغار مطوّري الذكاء الاصطناعي، قد تكون هذه التكاليف باهظة بشكل يُعيق الدخول إلى السوق، مما يُثير مخاوف بشأن الحواجز التنظيمية التي تعزز مكانة اللاعبين الكبار الراسخين. يتضمن EU AI Act بعض أحكام التناسب للمؤسسات الصغيرة والمتوسطة، لكن المنتقدين يرون أنها غير كافية للتعويض عن عبء الامتثال.
الشركات التي استثمرت مبكراً في توثيق النماذج وحوكمة البيانات والبنية التحتية للاختبار الداخلي تجد أن تكاليف الامتثال أدنى بكثير — لأن التوثيق الذي يتطلبه المنظّمون يعكس ممارسات الهندسة الجيدة. الدرس للشركات التي تبني الذكاء الاصطناعي اليوم: معالجة قابلية التدقيق كمتطلب تصميمي من اليوم الأول أقل تكلفة بكثير من إضافتها لاحقاً تحت ضغط المواعيد التنظيمية.
الأسئلة الشائعة
ما المقصود بـ Mandatory AI Audits؟
يتناول هذا المقال الجوانب الأساسية لهذا الموضوع، ويستعرض الاتجاهات الحالية والجهات الفاعلة الرئيسية والتداعيات العملية على المهنيين والمؤسسات في عام 2026.
لماذا يُعد هذا الموضوع مهمًا؟
يكتسب هذا الموضوع أهمية كبيرة لأنه يؤثر بشكل مباشر على كيفية تخطيط المؤسسات لاستراتيجيتها التقنية وتخصيص مواردها وتموضعها في مشهد سريع التطور.
ما أبرز النقاط المستخلصة من هذا المقال؟
يحلل المقال الآليات الرئيسية والأطر المرجعية والأمثلة الواقعية التي تشرح كيفية عمل هذا المجال، مستندًا إلى بيانات حديثة ودراسات حالة عملية.
