الذكاء الاصطناعي الخفي وكسر قيود نماذج LLM: الضوابط الأمنية التي تفتقدها فرق تقنية المعلومات الجزائرية

فجوة ضبط أوسع مما تعترف به معظم فرق تقنية المعلومات

حزمة الأمن المعيارية في المؤسسات — جدران الحماية، ومنع تسرب البيانات، واكتشاف نقاط الطرف، وأنظمة SIEM — لم تُصمَّم لأحمال عمل الذكاء الاصطناعي. لا تستطيع هذه الأنظمة فحص طلب مرسل إلى واجهة API لنموذج LLM، ولا اكتشاف رفع موظف لعقد عميل حساس إلى أداة ذكاء اصطناعي استهلاكية، ولا التنبيه حين ينفّذ وكيل ذكاء اصطناعي منشور استدعاء API غير مصرح به مُثار بحقنة طلب مُضمَّنة في مستند طُلب من الوكيل تلخيصه.

هذه الفجوة ليست افتراضية. كشف استطلاع Dark Reading في مطلع 2026 أن 34% فقط من المؤسسات طبّقت ضوابط أمنية خاصة بالذكاء الاصطناعي، في حين يحدّد قرابة نصف محترفي الأمن السيبراني الذكاءَ الاصطناعي الوكيل كأبرز ناقلات هجوم ناشئة. وتتوقع Gartner أن 40% من تطبيقات المؤسسات ستدمج وكلاء ذكاء اصطناعي متخصصة بنهاية 2026، مقارنةً بأقل من 5% في 2025. منحنى النشر يسبق منحنى نضج الأمان بما يتراوح بين ثمانية وعشرة أضعاف.

بالنسبة للمؤسسات الجزائرية، تتضاعف الفجوة بغياب إطار تنظيمي محلي يتناول أمن الذكاء الاصطناعي تحديداً. البنوك خاضعة لتعاميم الأمن السيبراني لبنك الجزائر؛ مشغلو الاتصالات يخضعون لإشراف ARPCE؛ لكن لا تنظيم جزائري حالي يحدّد حد أدنى من ضوابط الأمن لأنظمة LLM المنشورة. هذا لا يُقلل من المخاطر — بل يُقلل من إشارة الاستعجال.

الذكاء الاصطناعي الخفي هو البُعد الأكثر إلحاحاً في هذه المسألة. تُظهر بيانات ManageEngine أن أكثر من 60% من موظفي المكاتب زادوا اعتمادهم على أدوات ذكاء اصطناعي غير معتمدة خلال العام الماضي. وتُشير بيانات WalkMe إلى أن قرابة 80% من الموظفين أقرّوا باستخدام أدوات ذكاء اصطناعي لم تُعتمد رسمياً من قِبل تقنية المعلومات. في الجزائر، حيث تتاح ChatGPT وClaude وGemini بحرية دون أي ضوابط وصول مؤسسية في معظم المنظمات، يُلقي موظفو الموارد البشرية والمالية والقانون وخدمة العملاء بصفة منتظمة بمستندات داخلية حساسة — تضم بيانات شخصية للعملاء وأسعاراً داخلية وشروطاً تعاقدية وخططاً استراتيجية — إلى واجهات API ذكاء اصطناعي استهلاكية دون علم تقنية المعلومات.

تهديد كسر قيود نماذج LLM: ليس مجرد مشكلة بحثية

تجاوزت هجمات كسر قيود نماذج LLM — الطلبات التي تتجاوز مرشحات الأمان وسياسات المحتوى لنماذج الذكاء الاصطناعي — حدود البحث الأكاديمي لتصبح أدوات هجوم عملياتية. في 2026، ارتفعت هذه الهجمات بأكثر من 400% سنوياً. هجمات كسر القيود متعددة الأدوار (التي يُصعّد فيها المهاجم المحادثة تدريجياً لتجاوز المرشحات) تحقق الآن معدلات نجاح 97% على نماذج LLM المتطورة. ويحتاج المهاجمون في المتوسط من 5 إلى 7 تكرارات فحسب لكسر قيود نموذج LLM حديث بنجاح.

بالنسبة للمنظمات التي تنشر روبوتات دردشة ذكاء اصطناعي للعملاء أو خطوط معالجة مستندات داخلية، يُفرز كسر القيود فئتين من المخاطر. أولاً، تجاوز سياسة المحتوى: يُجبر المهاجم الذكاءَ الاصطناعي على إنتاج مخرجات ضارة أو مضللة أو سرية. ثانياً، حقن الطلبات عبر المحتوى الخبيث: مستند مُصمَّم خصيصاً يحتوي على تعليمات خفية تختطف سلوك الوكيل حين يقرأ المستند.

ثغرات CVE الفعلية تؤكد أن بنية ذكاء اصطناعي الوكيل عرضة للاستغلال في بيئات الإنتاج. CVE-2025-3248 (Langflow، CVSS 9.8) تُتيح حقن كود غير مصادَق — ما يمنح أي مستخدم غير مصادَق تنفيذ كود عن بُعد على منصة سير عمل ذكاء اصطناعي. وCVE-2025-64496 (Open WebUI) تسمح لخوادم نماذج خبيثة بتنفيذ JavaScript عشوائي في متصفحات الضحايا.

إطار أربعة ضوابط لفرق تقنية المعلومات الجزائرية

1. جرد جميع أدوات الذكاء الاصطناعي المستخدمة — المعتمدة وغير المعتمدة

قبل تطبيق الضوابط، يجب على فرق تقنية المعلومات معرفة ما تُسيطر عليه. يجب أن يشمل جرد أصول الذكاء الاصطناعي: جميع أدوات الذكاء الاصطناعي المقتناة رسمياً، وجميع تكاملات الذكاء الاصطناعي المضافة إلى مجموعات الإنتاجية، وأي واجهات API للذكاء الاصطناعي تستدعيها التطبيقات الداخلية، وبشكل حيوي — تعداد الذكاء الاصطناعي الخفي.

يمكن إجراء تعداد الذكاء الاصطناعي الخفي عبر تحليل سجلات DNS والوكيل (تحديد الحركة نحو openai.com وclaude.ai وgemini.google.com)، ومراجعة إضافات المتصفح على الأجهزة المُدارة، وإجراء استطلاع مجهول قصير للموظفين. يجب أن يكون الناتج جرداً مصنّفاً: المستوى 1 (معتمد من المؤسسة، تُديره تقنية المعلومات)، المستوى 2 (معتمد من الإدارة لكن لم تتحقق منه تقنية المعلومات)، المستوى 3 (استخدام فردي، غير معتمد). المستويان 2 و3 هما مصدر التعرّض لتسريب البيانات.

2. تفعيل تسجيل الطلبات ومراقبة المخرجات لنماذج LLM المنشورة

يجب أن يُفعَّل تسجيل الطلبات في كل نشر LLM إنتاجي — سجل بما أُرسل للنموذج وما رجع منه. يُتيح ذلك وظيفتين أمنيتين حيويتين: اكتشاف كسر القيود، ومنع تسرب البيانات. بالنسبة للمنظمات التي تستخدم نماذج LLM سحابية (Azure OpenAI وAWS Bedrock وGoogle Vertex AI)، يتوفر تسجيل الطلبات كميزة مضمّنة يجب تفعيلها فور النشر. إذا لم تستطع منظمة جزائرية إخبارك بالطلبات التي أُرسلت إلى أنظمة الذكاء الاصطناعي لديها خلال الـ30 يوماً الماضية، فهي لا تمتلك أي وضع أمني للذكاء الاصطناعي.

3. تطبيق نطاق الصلاحية الأدنى على كل وكيل ذكاء اصطناعي

يُعالج هذا الضابط الذكاءَ الاصطناعي الوكيل تحديداً — أنظمة الذكاء الاصطناعي القادرة على تنفيذ إجراءات (استدعاء API، قراءة الملفات، إرسال بريد إلكتروني، استعلام قواعد البيانات). رقم الـ80% — محترفو تقنية المعلومات الذين شهدوا تنفيذ وكلاء ذكاء اصطناعي لإجراءات غير متوقعة أو غير مصرح بها — يُوضّح مدى سرعة انحراف الوكلاء المُزوَّدين بصلاحيات زائدة عن التصرف.

يجب منح كل وكيل ذكاء اصطناعي الحد الأدنى من أذونات الأدوات اللازمة لوظيفته المحددة فحسب. وكيل ذكاء اصطناعي يُلخّص تقارير داخلية يجب أن يمتلك صلاحية قراءة فحسب لمخزن المستندات، دون صلاحية كتابة، ودون قدرة إرسال بريد إلكتروني، ودون مفاتيح API سوى نقطة وصول نموذج LLM ذاتها. يجب على المؤسسات الجزائرية التي تستخدم منصات مثل n8n أو LangChain أو Microsoft Copilot Studio معاملة مجموعة أذونات كل وكيل بنفس صرامة حسابات الخدمة في Active Directory.

4. وضع سياسة استخدام مقبول للذكاء الاصطناعي مع آليات تطبيق تقني

سياسة الاستخدام المقبول للذكاء الاصطناعي المكتوبة وغير المُطبَّقة تقنياً هي وثيقة امتثال لا ضابط أمني. يجب أن تُحدّد السياسة: أي أدوات ذكاء اصطناعي معتمدة لأي مستويات تصنيف بيانات، ومن يملك صلاحية نشر وكلاء ذكاء اصطناعي في الإنتاج، وأي أنواع البيانات محظور إرسالها إلى واجهات API ذكاء اصطناعي خارجية.

التطبيق التقني يعني نشر CASB أو بروكسي DLP قادر على اعتراض وفحص الحركة نحو نقاط وصول API ذكاء اصطناعي معروفة، وحجب رفع الملفات المُصنَّفة ببيانات حساسة، والتنبيه حين يُطابق محتوى الطلب أنماط تسريب البيانات. تُقدّم Prisma Access وNetskope وZscaler قدرات فحص مخصصة للذكاء الاصطناعي اعتباراً من 2026. بالنسبة للمؤسسات الجزائرية التي لا تمتلك CASB بعد، يُعدّ تصفية DNS على مستوى الشبكة لحجب نقاط الوصول غير المعتمدة إجراءً مؤقتاً منخفض التكلفة.

ما ينتظر أمن الذكاء الاصطناعي الجزائري

البيئة التنظيمية ستلحق بالواقع. قانون الذكاء الاصطناعي الأوروبي، الذي دخل حيز التنفيذ على مراحل خلال 2025–2026، يضع المعيار العالمي لتصنيف مخاطر الذكاء الاصطناعي ويُشكّل نموذجاً من المرجح أن تتبناه الجهات التنظيمية الإقليمية بما فيها الجزائر. أبدى بنك الجزائر استعداداً لإصدار تعاميم أمن إلكتروني قطاعية في أقصر وقت حين تتحول المعايير الدولية؛ وملحق أمن الذكاء الاصطناعي للتوجيهات القائمة خطوة تالية متوقعة عقب أول حادثة كبرى تطال نشر ذكاء اصطناعي بمؤسسة جزائرية.

يجب على فرق أمن تقنية المعلومات الجزائرية ألا تنتظر تلك الحادثة. الضوابط الأربعة — جرد أصول الذكاء الاصطناعي، وتسجيل الطلبات، ونطاق الصلاحية الأدنى للوكلاء، وسياسة الاستخدام المقبول المُطبَّقة تقنياً — يمكن تطبيقها في ربع سنة واحد بالأدوات والفرق القائمة.

الأسئلة الشائعة

المصادر والقراءات الإضافية

• AI Security Risks: How Enterprises Manage LLM, Shadow AI and Agentic Threats — FireTail / Security Boulevard
• AI Jailbreak Attacks: LLM Security Statistics 2026 — HexonBot Blog
• AI Agents Hacking in 2026: Defending the New Execution Boundary — Penligent
• Agentic AI: Cybersecurity Nightmare 2026 — JazzCyberShield
• AI Security Statistics 2026: Latest Data, Trends and Research — Practical DevSecOps
• Shadow AI Agent Problem in Enterprise Environments — Cloud Security Alliance