جدول المحتويات
تأمين نموذج LLM داخل المنشأة يعني التحكم في أربعة أمور لا يستطيع النموذج التحكم فيها بنفسه: من يمكنه الوصول إلى خادم الاستدلال، وأي الوثائق يستطيع كل مستخدم استرجاعها، وما الذي يُسجَّل عن كل تبادل، وما المسموح للنموذج بفعله حين يحاول موجّه أو وثيقة التلاعب به. تُفرض هذه الضوابط الأربعة في الشيفرة والبنية التحتية، لا في الموجّه أبدًا.
أهم النقاط
- الاستضافة الذاتية تلغي الواجهة البرمجية الخارجية، لا سطح الهجوم. ففي عام 2025 وجد باحثون من Cisco 1,139 خادم Ollama مكشوفًا على الإنترنت، منها 214 خادمًا تقدّم نماذج نشطة (Cisco).
- مكان التحكم في الوصول هو طبقة الاسترجاع والأدوات، لا موجّه النظام الذي تقول OWASP إنه لا ينبغي استخدامه أداةً أمنية (OWASP LLM07:2025).
- سجّلوا الموجّه الكامل والمصادر المسترجعة والإجابة واستدعاءات الأدوات، كما يوصي المركز الوطني للأمن السيبراني البريطاني (NCSC) وOWASP، واحموا السجل نفسه: فهو بيانات حساسة.
- قد لا يُعالَج حقن التعليمات معالجة كاملة أبدًا (NCSC). صمّموا النظام بحيث لا يستطيع نموذج متلاعَب به أن يُحدث ضررًا كبيرًا.
- في الجزائر، يضيف القانون 18-07 المعدَّل سجلًا آليًا لعمليات معالجة المعطيات الشخصية وإخطارًا بالانتهاكات في أجل خمسة أيام، وفق CMS. تحقّقوا مع مستشاركم القانوني من كيفية انطباقه.
لماذا يحتاج نموذج LLM داخل المنشأة إلى التأمين؟
تشغيل النموذج محليًا يعني أن موجّهاتكم ووثائقكم لا يعالجها مزوّد خارجي، وهي الحجة الأساسية في دليلنا للذكاء الاصطناعي السيادي داخل المنشأة. لكن الخادم والانكشاف على الشبكة وفهرس الوثائق والسجلات والاستجابة للحوادث صارت كلها مسؤوليتكم.
والإعدادات الافتراضية لا تغطي ذلك. فأداة Ollama الشائعة للاستدلال المحلي تستمع افتراضيًا على العنوان 127.0.0.1 والمنفذ 11434، وتشرح صفحة الأسئلة الشائعة الخاصة بها كيفية فتحها على الشبكة بواسطة OLLAMA_HOST=0.0.0.0 دون وصف أي إعداد للمصادقة (الأسئلة الشائعة لـ Ollama، اطُّلع عليها في نوفمبر 2026). وباستخدام Shodan، وجد باحثو Cisco 1,139 نسخة Ollama مكشوفة، منها 214 تستضيف نماذج نشطة وتجيب عن الطلبات. وتوصياتهم: المصادقة، والجدران النارية أو الوكلاء العكسيون بدل نقاط الوصول العامة، وتحديد معدل الطلبات، والتسجيل (Cisco).
وداخل شبكة المصنع، يمنح الخطأ نفسه كل جهاز على تلك الشبكة خطًا مباشرًا إلى النموذج وإلى الوثائق التي يستطيع قراءتها.
ما أبرز التهديدات التي تواجه نموذج LLM داخل المنشأة؟
| التهديد | مثال في المصنع | الضابط الرئيسي | المرجع |
|---|---|---|---|
| وصول غير مصادَق عليه إلى خادم الاستدلال | خادم تجريبي على الشبكة المحلية للمصنع يجيب كل من يجد المنفذ | شبكة داخلية فقط، ووكيل عكسي يفرض المصادقة، وقائمة سماح لنقاط الوصول | أمن vLLM |
| استرجاع وثائق لا يحق للمستخدم فتحها | فنّي يسأل عن الرواتب فيعيد الفهرس ملفًا من الموارد البشرية | ترشيح حسب الصلاحيات عند الاسترجاع، انطلاقًا من هوية تُحدَّد على الخادم | OWASP LLM08 |
| حقن تعليمات مباشر | مستخدم يكتب «تجاهل تعليماتك» للوصول إلى محتوى مقيّد | ضوابط خارج النموذج؛ فحص المخرجات | OWASP LLM01 |
| حقن تعليمات غير مباشر | ورقة بيانات من مورّد أو رسالة بريد من مقاول تحتوي على تعليمات مخفية | تنظيف الوثائق عند الإدخال، ووسم المحتوى غير الموثوق، وتقييد الأدوات | Greshake et al. |
| تسريب البيانات عبر الإجابة | تتضمن الإجابة رابط صورة يرسل بيانات إلى خادم خارجي | حجب الروابط والصور الخارجية؛ تقييد الحركة الصادرة | تحليل EchoLeak |
| أسرار داخل الموجّه | كلمة مرور قاعدة بيانات مكتوبة في موجّه النظام | لا بيانات اعتماد في الموجّهات | OWASP LLM07 |
أما مخاطر سلسلة التوريد، مثل ملفات النماذج المعدَّلة، فيتناولها مقالنا حول نشر الذكاء الاصطناعي في بيئة معزولة.
كيف يجب أن يعمل التحكم في الوصول في مساعد LLM؟
فكّروا بمنطق الطبقات. يجب أن تصمد كل طبقة حتى لو جرى التلاعب بالنموذج.
الشبكة. ضعوا خادم الاستدلال في قطاع شبكي داخلي لا يصل إليه إلا خادم التطبيق.
واجهة الاستدلال البرمجية. لا تعتمدوا على المفتاح المدمج في الخادم. فخيار --api-key في vLLM لا يحمي إلا نقاط الوصول التي تبدأ بالبادئات /v1 و/v2 و/inference و/cohere؛ أما نقاط الوصول الأخرى على الخادم نفسه، ومنها نقاط تشغيلية قادرة على تغيير سلوك النموذج، فلا مصادقة عليها. وتنص الوثائق على عدم الاعتماد على --api-key وحده، وتوصي بوكيل عكسي لا يسمح إلا بنقاط الوصول التي تريدون إتاحتها ويحجب الباقي (أمن vLLM، اطُّلع عليها في نوفمبر 2026).
هوية المستخدمين. صادِقوا على المستخدمين عبر الدليل الحالي (directory) في مؤسستكم، كي يفقد المغادرون الوصول فور تعطيل حساباتهم. وافصلوا صلاحيات الإدارة (تحديث النموذج، وإعادة بناء الفهرس، والاطلاع على السجلات).
الاسترجاع. هنا يجري معظم التحكم الفعلي في الوصول. تحذّر OWASP من أن ضوابط الوصول غير المتسقة قد تكشف embeddings تحتوي على معلومات حساسة، وتوصي بمخازن متجهية تراعي الصلاحيات وبفصل صارم بين البيانات (OWASP LLM08:2025). انسخوا مجموعات الوصول لكل وثيقة من النظام المصدر إلى كل مقطع (chunk) منها، ورشّحوا كل بحث حسب مجموعات المستخدم المصادَق عليه، كما يبيّن دليلنا لتقنية RAG على أدلة الصيانة. وتنطبق قواعد OWASP العامة: الرفض افتراضيًا، والتحقق من الصلاحيات عند كل طلب، وعدم الاعتماد أبدًا على فحوص من جهة العميل (OWASP Authorization Cheat Sheet).
الأدوات. كل أداة يستطيع النموذج استدعاءها تتحقق بنفسها من صلاحيات المستخدم، لا من صلاحيات حساب خدمة واسع الصلاحيات.
لا موجّه النظام. OWASP واضحة: موجّه النظام لا ينبغي اعتباره سرًّا ولا استخدامه أداةً أمنية، ولا مكان فيه لبيانات الاعتماد وسلاسل الاتصال، وفحوص التفويض يجب ألا تُفوَّض إلى نموذج LLM (OWASP LLM07:2025).
ماذا يجب أن يسجّل سجل التدقيق الخاص بنموذج LLM؟
يوصي المركز الوطني للأمن السيبراني البريطاني بتسجيل ما يكفي لرصد النشاط المريب، وقد يعني ذلك تسجيل مدخلات النموذج ومخرجاته كاملة، إلى جانب استخدام الأدوات واستدعاءات الواجهات البرمجية. ويشير إلى أن الاستدعاءات الفاشلة للأدوات أو الواجهات قد تكشف المحاولات الأولى للمهاجم (NCSC). وتضيف OWASP سجلات مفصّلة وغير قابلة للتعديل لعمليات الاسترجاع (OWASP LLM08:2025).
| الحقل | لماذا يهم |
|---|---|
| المستخدم، والطابع الزمني، والجهاز المصدر | «من ومتى وأين» لكل حدث |
| الموجّه الكامل كما ورد | يكشف محاولات الحقن وسوء الاستخدام |
| الوثائق والمقاطع المسترجعة مع إصداراتها | يثبت ما استندت إليه الإجابة؛ ويكشف تسرب الصلاحيات |
| الإجابة المُعادة | تتيح إعادة بناء ما رآه المستخدم |
| استدعاءات الأدوات ومعاملاتها ونتائجها، بما فيها الفاشلة | الاستدعاءات الفاشلة إنذار مبكر |
| إصدارات النموذج وقالب الموجّه والفهرس | تفسّر تغيّر السلوك بعد التحديث |
| قرارات المرشّحات أو المصنِّفات | تبيّن ما حُجب ولماذا |
وتطلب ورقة OWASP الإرشادية للتسجيل (Logging Cheat Sheet) العناصر نفسها: «متى وأين ومن وماذا» لكل حدث. كما تسرد ما يجب ألا يُسجَّل كما هو، ومنه كلمات المرور ومعرّفات الجلسات ورموز الوصول ومفاتيح التشفير وبعض البيانات الشخصية، وتوصي بكشف التلاعب، ونسخ السجلات بسرعة إلى وسائط للقراءة فقط، وتقييد صلاحيات قراءتها ومراجعتها دوريًا (OWASP Logging Cheat Sheet).
والنقطة الأخيرة مهمة: فالسجل يحتوي على كل سؤال وكل مقطع مُعاد، لذا قد يكون أكثر مخازن البيانات حساسية في النظام كله. أبقوه على البنية التحتية نفسها التي يعمل عليها النموذج.
الإطار الجزائري. تحتوي الموجّهات والسجلات عادةً على معطيات شخصية: أسماء، وأرقام تسجيل العمال، وأحيانًا معلومات صحية أو متعلقة بالموارد البشرية. ووفق دليل CMS، تُلزم المادة 38 من القانون 18-07 بتدابير أمنية تقنية وتنظيمية تتناسب مع المخاطر، ويضيف القانون 25-11 المؤرخ في 24 يوليو 2025 سجلًا لأنشطة المعالجة، وسجلًا آليًا لعمليات معالجة المعطيات الشخصية (المادة 41 مكرر 3)، ومندوبًا لحماية المعطيات، وإخطار السلطة بأي انتهاك للمعطيات الشخصية في أجل خمسة أيام (CMS). اتفقوا مع مندوب حماية المعطيات على مدة الاحتفاظ بسجلات النموذج ومن يحق له الاطلاع عليها، وتحقّقوا مع مستشاركم القانوني من كيفية انطباق هذه الأحكام على نظامكم.
ما هو حقن التعليمات، ولماذا لا يمكن إصلاحه بالكامل؟
تضع OWASP حقن التعليمات في المرتبة الأولى ضمن قائمتها لعام 2025 لأهم عشرة مخاطر في تطبيقات LLM. يأتي الحقن المباشر من مدخلات المستخدم نفسه، أما الحقن غير المباشر فيصل عبر محتوى خارجي يعالجه النموذج، مثل ملف أو صفحة ويب. وتضيف OWASP أن RAG والضبط الدقيق (fine-tuning) لا يعالجانه معالجة كاملة (OWASP LLM01:2025).
والحقن غير المباشر هو مصدر القلق الأكبر لمساعد صناعي. فقد بيّن Greshake وزملاؤه عام 2023 أن التطبيقات المدمجة بنماذج LLM تطمس الحدّ الفاصل بين البيانات والتعليمات، فيستطيع المهاجم زرع تعليمات في بيانات يُرجَّح أن يسترجعها التطبيق (Greshake et al.). وفي المصنع، تعني هذه البيانات وثائق المورّدين، ورسائل المقاولين، والاستمارات الممسوحة ضوئيًا، وتعليقات أوامر العمل. والمثال الذي تقدمه OWASP نفسها سيرة ذاتية تحتوي على تعليمات مخفية بنص أبيض على خلفية بيضاء (OWASP LLM08:2025).
وقد سلكت هجمات حقيقية هذا الطريق. ففي ثغرة EchoLeak (CVE-2025-32711)، دفعت رسالة بريد مُعدّة بعناية، استرجعها Microsoft 365 Copilot، إلى إنتاج رابط أو صورة بصيغة Markdown يحمل عنوانها بيانات خاصة نحو خادم المهاجم. وقُدّمت على أنها أول ثغرة ذكاء اصطناعي «دون نقرة» (zero-click) تتيح تسريب البيانات. وكانت الرسالة مكتوبة كأنها موجّهة إلى إنسان، مما سمح لها بتجاوز مصنِّفات الحقن لدى Microsoft (Simon Willison). كانت تلك خدمة سحابية، لكن الآلية تنطبق على أي مساعد يسترجع نصًا غير موثوق ويعرض الروابط.
فلماذا لا يُصلَح الأمر ببساطة؟ يرى المركز الوطني للأمن السيبراني البريطاني أن حقن التعليمات قد لا يُعالَج معالجة تامة أبدًا كما عولج حقن SQL، لأن النموذج اللغوي لا يفصل داخليًا بين البيانات والتعليمات. ويصف النموذج بأنه «وكيل قابل للخداع بطبيعته» (inherently confusable deputy)، ويخلص إلى أن الهدف الواقعي هو تقليل احتمال الهجمات وأثرها (NCSC).
كيف تقلّلون خطر حقن التعليمات؟
- تجنّبوا «الثلاثية القاتلة». يصف Simon Willison، صاحب مصطلح prompt injection، التركيبة الخطرة بأنها: الوصول إلى بيانات خاصة، والتعرض لمحتوى غير موثوق، والقدرة على التواصل مع الخارج (Simon Willison). ومساعد LLM داخل المنشأة يجمع دائمًا العنصرين الأولين، فاحذفوا الثالث: لا اتصال صادرًا بالإنترنت من خوادم النموذج، ولا أداة ترسل بريدًا أو تستدعي عناوين خارجية.
- امنحوا النموذج أقل قدر ممكن من الصلاحيات. عالجوا الوظائف ذات الامتيازات في الشيفرة، وامنحوا التطبيق بيانات اعتماد خاصة به، وقيّدوا النموذج بما تحتاجه المهمة فقط (OWASP LLM01:2025). ويقترح NCSC ألا يملك نموذج LLM يعالج محتوى طرفٍ ما صلاحياتٍ أكثر من ذلك الطرف.
- اشترطوا موافقة بشرية على الإجراءات عالية الخطورة. كل أداة تغيّر نظامًا يجب أن تتوقف بانتظار شخص محدد بالاسم. ويشرح مقالنا حول الإنسان في الحلقة لوكلاء الذكاء الاصطناعي أين توضع نقاط الموافقة.
- وسِموا المحتوى غير الموثوق. أحيطوا المقاطع المسترجعة بمحدِّدات واضحة وأخبروا النموذج أنها بيانات. ويفيد Hines وزملاؤه بأن تقنياتهم المسماة spotlighting خفّضت نسبة نجاح الهجمات من أكثر من 50% إلى أقل من 2% في تجارب على نماذج من عائلة GPT (Hines et al.). ويعدّ NCSC هذا الوسم وسيلة تجعل الهجمات أصعب، لا مستحيلة.
- رشّحوا المدخلات والمخرجات. يمكن للمصنِّفات رصد محاولات الحقن. يعمل نموذج Llama Prompt Guard 2 86M من Meta محليًا، لكنه يقرأ 512 رمزًا (token) في كل مرة، ولغات التقييم المذكورة في بطاقة النموذج لا تشمل العربية (Hugging Face). اختبروا أي مرشّح على وثائقكم العربية والفرنسية قبل الاعتماد عليه.
- لا تعرضوا روابط أو صورًا خارجية في الإجابات. احذفوها، أو لا تسمحوا إلا بروابط الوثائق الداخلية. وهذا يغلق طريق التسريب من نوع EchoLeak.
- نظّفوا الوثائق عند إدخالها. اكشفوا النص المخفي وتحققوا من الوثائق قبل دخولها الفهرس، كما توصي OWASP لأنظمة RAG (OWASP LLM08:2025).
- اختبروا هجوميًا وكرّروا الاختبار. توصي OWASP بمحاكاة هجمات منتظمة تعامل النموذج كمستخدم غير موثوق. أضيفوا حالات حقن إلى مجموعة الاختبار التي تستخدمونها لتقييم نموذج LLM على وثائقكم، وأعيدوا تشغيلها بعد كل تغيير.
ما الذي لاحظناه في KABAS AI
يعمل DALILE دون اتصال بالإنترنت بالكامل على خوادم العميل، مع التشفير وضوابط الوصول وتسجيل التدقيق، ويتصل بأنظمة مثل SAP وOracle وMicrosoft 365 وأنظمة إدارة المختبرات (LIMS) وأنظمة إدارة الوثائق. وكل اتصال يجلب صلاحيات يجب نقلها كما هي ونصوصًا غير موثوقة يجب التعامل معها، لذلك نوصي بثلاث خطوات قبل أي مشروع تجريبي.
ارسموا خريطة الصلاحيات في الأنظمة المصدر أولًا. إن كانت الصلاحيات غامضة في النظام المصدر، فلن يوضحها المساعد.
اتفقوا على التسجيل منذ البداية مع مندوب حماية المعطيات وفريق الأمن: ما الذي يُسجَّل، ومن يطّلع عليه، وإلى متى.
اكتبوا اختبارات الحقن إلى جانب اختبارات الدقة. بضع وثائق مزروعة بتعليمات مخفية، بالعربية والفرنسية، تُظهر بسرعة ما إذا كانت الضوابط صامدة.
وعند المقارنة بين الموردين، يسرد دليلنا لدفتر الشروط في مشاريع الذكاء الاصطناعي وتحليلنا بين البناء والشراء الأسئلة التي ينبغي طرحها. ويمكن لفريق الاستشارات لدينا مراجعة نظام قائم وفق هذه القائمة.
المصادر
- OWASP GenAI Security Project, LLM01:2025 Prompt Injection
- OWASP GenAI Security Project, LLM07:2025 System Prompt Leakage
- OWASP GenAI Security Project, LLM08:2025 Vector and Embedding Weaknesses
- OWASP Authorization Cheat Sheet
- OWASP Logging Cheat Sheet
- UK NCSC, Prompt injection is not SQL injection (it may be worse), December 2025
- Greshake et al., Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection, arXiv 2302.12173, 2023
- Hines et al., Defending Against Indirect Prompt Injection Attacks With Spotlighting, arXiv 2403.14720, 2024
- Simon Willison, The lethal trifecta for AI agents: private data, untrusted content, and external communication, June 2025
- Simon Willison, Breaking down EchoLeak, the first zero-click AI vulnerability enabling data exfiltration from Microsoft 365 Copilot, June 2025
- vLLM documentation: Security
- Ollama FAQ
- Cisco, Detecting Exposed LLM Servers: A Shodan Case Study on Ollama, September 2025
- Meta, Llama Prompt Guard 2 86M model card, Hugging Face
- CMS Expert Guide to data protection and cyber security laws: Algeria
الأسئلة الشائعة
هل يكون نموذج LLM داخل المنشأة آمنًا افتراضيًا؟
لا. إبقاء النموذج على خوادمكم يمنع خروج البيانات إلى واجهة برمجية خارجية، لكن خادم الاستدلال وفهرس الوثائق والسجلات والأدوات التي يستطيع النموذج استدعاءها تحتاج كلها إلى ضوابطها الخاصة. فبعض خوادم الاستدلال لا تحمي بمفتاح API إلا جزءًا من نقاط الوصول (endpoints)، لذا يجب وضعها خلف وكيل عكسي (reverse proxy) يفرض المصادقة، داخل شبكة داخلية.
هل يمكن فرض صلاحيات الوصول عبر موجّه النظام (system prompt)؟
لا. تنص OWASP على أن موجّه النظام لا ينبغي اعتباره سرًّا ولا استخدامه أداةً أمنية، لأن حقن التعليمات يمكنه تجاوزه. يجب فرض الصلاحيات بشيفرة خارج النموذج: في طبقة الاسترجاع التي تُرشِّح الوثائق حسب المستخدم المصادَق عليه، وفي كل أداة يستطيع النموذج استدعاءها.
ماذا يجب أن يتضمن سجل التدقيق الخاص بنموذج LLM؟
كحد أدنى: من سأل، ومتى، ومن أي جهاز، والموجّه الكامل، والوثائق المسترجعة، والإجابة، واستدعاءات الأدوات مع معاملاتها ونتائجها، وإصدار النموذج. ويجب حذف كلمات المرور والرموز (tokens) والمفاتيح قبل التسجيل. ولأن السجل يحتوي على بيانات شخصية ومحتوى سري، يجب تقييد الوصول إليه هو نفسه ومراجعته.
هل يمكن منع حقن التعليمات منعًا تامًا؟
ليس بالتقنيات الحالية. يرى المركز الوطني للأمن السيبراني في المملكة المتحدة أن من الممكن ألا يُعالَج حقن التعليمات معالجة تامة أبدًا، لأن النماذج اللغوية لا تفصل بين التعليمات والبيانات. والهدف العملي هو تقليل احتمال الهجوم والضرر الذي قد يسببه معًا، أساسًا بتقييد ما يستطيع النموذج الوصول إليه وما يستطيع فعله.
هل يتعرض مساعد وثائق بلا أدوات لحقن التعليمات؟
نعم، لكن الأثر أصغر. فتعليمة مخفية في وثيقة مسترجعة يمكنها مع ذلك أن تحرّف إجابة أو تحاول تسريب بيانات عبر رابط أو صورة في الإجابة. ويقلّل هذا الخطرَ تنظيفُ الوثائق عند إدخالها، والاستشهاد بالمصادر، وحجب الروابط والصور الخارجية في الإجابات.



