تدقيق أمان وجاهزية وكلاء الذكاء الاصطناعي

وكيل الذكاء الاصطناعي ليس نافذة محادثة تكتب نصًا فحسب. إنه يستعلم من قواعد البيانات، ويستدعي واجهات API، ويرسل رسائل البريد، وينشئ السجلات ويحذفها. في مرحلة التجربة تُربط هذه القدرات عادةً عبر حساب خدمة واحد بصلاحيات واسعة، ومفتاح API واحد، وقائمة أدوات لم يقرأها أحد سطرًا بسطر. يعمل الوكيل، ويقتنع الفريق، وينتقل الإعداد نفسه بهدوء إلى الإنتاج. وهنا تبدأ المشكلة: النظام الذي لا يستطيع أن يبيّن كتابةً ما الذي يصل إليه الوكيل، وأي بيانات يرسلها إلى أي نموذج، وبموافقة من ينفّذ عملياته، إما أن يتعثر عند مراجعة فرق الأمن والامتثال، وإما أن يمرّ ثم يتعذر تفسير ما حدث بعد أول حادثة. صُمم تدقيق أمان وجاهزية وكلاء الذكاء الاصطناعي كعمل بنطاق ثابت للإجابة عن هذه الأسئلة قبل الإطلاق. في النهاية لا تحصلون على قائمة ملاحظات، بل على ملف جاهزية يوضح أي وكيل يعمل بأي صلاحيات، وضمن أي حدود للبيانات، ومن خلال أي بوابات موافقة. تناولنا الخلفية بالتفصيل في مقالنا عن العائق الحقيقي أمام نقل الوكلاء إلى الإنتاج.

لمن هذا التدقيق

يفيد في ثلاث حالات. الأولى: مشروع وكيل اكتملت تجربته وينتظر الانتقال إلى الإنتاج، لكنه لم يحصل بعد على موافقة فريق الأمن أو الفريق القانوني. الثانية: شركات أنشأت فيها فرق مختلفة وكلاءها وأتمتتها واتصالات MCP الخاصة بها، ولم يعد أحد يرى من مكان واحد من ربط ماذا. الثالثة: فرق طلب منها عميل أو مدقق أو مستثمر وصفًا مكتوبًا لطريقة استخدامها للذكاء الاصطناعي. يسير التدقيق بالنطاق نفسه سواء بنى الوكيل فريقكم أو مورّد خارجي أو منصة جاهزة. وإذا لم يكن لديكم وكيل بعد وما زلتم في مرحلة الفكرة، فهذا التدقيق مبكر، والأنسب أن تبدأوا بجلسة تحديد نطاق ضمن حلول الذكاء الاصطناعي.

نطاق التدقيق

يتكون النطاق من ستة محاور، وهي ثابتة في كل مشروع. ثبات المحاور مهم، لأن قيمة التدقيق تأتي من ألا يُنسى شيء: صلاحية حذف واحدة في قائمة أدوات لا يتذكرها أحد قد تُفرغ كل الإجراءات الوقائية الأخرى من معناها.

جرد الوكلاء

نبدأ بتحديد ما هو موجود فعلًا: أي الوكلاء يعمل، وأي نموذج يستخدمه كل منها، وبأي أدوات وأنظمة يرتبط، وتحت أي هوية يعمل، ومن أنشأه، ومن المسؤول عنه. لا يعتمد الجرد على ما تصرّح به الفرق فقط، بل يُتحقق منه عبر حسابات الخدمة ومفاتيح API وإعدادات خوادم MCP والاتصالات داخل منصات الأتمتة. في كثير من المؤسسات تظهر المفاجأة الأولى هنا: نادرًا ما يتطابق عدد الوكلاء المعلن مع عدد الاتصالات العاملة فعلًا.

خريطة الصلاحيات وحدود البيانات

نضع لكل وكيل ما يقوم به إلى جانب ما يُسمح له به. وكيل يحتاج إلى القراءة فقط لكنه يستطيع الكتابة، ووكيل يحتاج إلى جدول واحد لكنه يرى قاعدة البيانات كلها، ووكيل يُفترض أن يعمل نيابة عن مستخدم لكنه متصل بحساب مدير: كل ذلك يصبح مرئيًا على الخريطة. المخرَج هو مجموعة صلاحيات مقترحة لكل وكيل وفق مبدأ الحد الأدنى من الصلاحيات، وتعريف لحدود البيانات يحدد ما يجوز أن يغادر أنظمتكم، أي ما يصل إلى مزوّد النموذج. شرحنا لماذا تُعد طبقة الصلاحيات هذه أهم من البروتوكول نفسه في مقالنا عن MCP.

تقييم مخاطر البيانات الشخصية

نحدد بندًا بندًا أنواع البيانات الشخصية التي يعالجها الوكيل، والغرض من معالجتها، وهل تُنقل إلى مزوّد نموذج خارج البلد، وهل يستخدمها المزوّد في التدريب، وكم تُحفظ السجلات. وتُميَّز البيانات ذات الطبيعة الخاصة، كالبيانات الصحية، بعلامة منفصلة. هذا تقييم تقني في ضوء متطلبات KVKK وGDPR: لا نكتب إشعارات خصوصية ولا نقدّم آراء قانونية، لكننا نضع أمام فريقكم القانوني مخطط تدفق البيانات الكامل والمكتوب الذي يحتاجه لاتخاذ القرار.

سجل التدقيق وبوابات الموافقة البشرية

بعد أي حادثة يكون السؤال الأول دائمًا: ماذا فعل الوكيل، ولماذا، ومن وافق؟ نتحقق مما إذا كان النظام يسجل الأداة التي استدعاها الوكيل ومعاملاتها، ونيابة عن أي مستخدم عمل، وما النتيجة. ثم نفصل العمليات غير القابلة للتراجع، مثل المدفوعات والحذف والرسائل المرسلة خارج الشركة وتعديل سجلات العملاء، ونحدد بوابة الموافقة البشرية المناسبة أمام كل منها. فرض الموافقة على كل عملية يجعل الوكيل عديم الفائدة، وعدم فرضها على أي عملية يجعل المخاطر غير مرئية. يُضبط التوازن عملية بعملية.

حقن الأوامر وإساءة استخدام الأدوات

كل محتوى يقرؤه الوكيل، سواء كان رسالة بريد أو صفحة ويب أو ملف PDF أو رسالة عميل، قد يحاول أن يعطيه تعليمات. في هذا الهجوم، المعروف بحقن الأوامر غير المباشر (indirect prompt injection)، يظن الوكيل أن أمرًا مخفيًا داخل النص هو مهمته فينفذه بالأدوات المتاحة له. نحدد كل نقطة يلتقي فيها الوكيل بمحتوى غير موثوق، وننظر في الأدوات التي يمكن لذلك المحتوى تشغيلها، ونختبر ذلك بسيناريوهات مضبوطة. وضمن المحور نفسه نتحقق مما إذا كانت تعريفات الأدوات واسعة أكثر من اللازم، وهل لدى الوكيل طريق لتوسيع صلاحياته بنفسه، وهل توجد حدود للتكلفة وعدد الاستدعاءات.

خارطة طريق الانتقال إلى الإنتاج

المخرَج الأخير خطة مكتوبة ترتب الملاحظات حسب التكلفة والأثر: أي تغيير إلزامي قبل الإنتاج، وأيها يمكن تنفيذه خلال الشهر الأول، وأيها يمكن تسجيله كمخاطرة مقبولة، مع تحديد الدور المسؤول ومعيار القبول لكل بند. تُكتب الخطة بتفصيل يسمح لفريقكم بتنفيذها بنفسه، ولا يُشترط أن ننفذها نحن.

كيف يسير العمل

يستغرق التدقيق من أسبوعين إلى أربعة أسابيع بحسب عدد الوكلاء واتساع الأنظمة المرتبطة بها. يُخصص الأسبوع الأول لاجتماع تحديد النطاق وإعداد الوصول وإعداد الجرد. لا نطلب صلاحية كتابة على أنظمة الإنتاج لديكم: يكفي وصول للقراءة إلى الإعدادات ومستودع الكود والسجلات، وإلى بيئة اختبار إن أمكن. تُجرى اختبارات الحقن وإساءة استخدام الأدوات في بيئة اختبار فقط أو ضمن نطاق محدود توافقون عليه كتابةً. وفي نهاية كل أسبوع تُرسل مذكرة حالة قصيرة، فتصل أي ملاحظة حرجة إلى فريقكم دون انتظار نهاية التدقيق. وفي الأسبوع الأخير تُعرض النتائج في جلستين منفصلتين، واحدة للفريق التقني وأخرى لصنّاع القرار.

ما الذي تستلمونه

• جرد الوكلاء: النموذج والأدوات والهوية والأنظمة المرتبطة والمسؤول لكل وكيل.
• خريطة الصلاحيات وحدود البيانات: مقارنة الصلاحيات الحالية بالحد الأدنى المقترح، مع تعريف البيانات التي يجوز أن تغادر أنظمتكم.
• وثيقة تدفق البيانات الشخصية: البيانات المعالجة والغرض والنقل ومدة الحفظ، جاهزة لمراجعة فريقكم القانوني.
• تصميم بوابات الموافقة: قائمة العمليات غير القابلة للتراجع، ولكل منها بنية الموافقة البشرية والتسجيل المقترحة.
• نتائج اختبار الحقن وإساءة استخدام الأدوات: السيناريوهات المختبرة ونتائجها والإصلاحات المقترحة.
• خارطة طريق الإنتاج: قائمة أعمال مرتبة حسب الأولوية مع المسؤولين ومعايير القبول.

ما الذي لا يقوم به هذا التدقيق

لا يحل محل اختبار الاختراق: أمن الشبكة والتطبيقات في بنيتكم التحتية خارج النطاق، والتركيز على الوكيل واتصالاته. ولا يقدّم رأيًا قانونيًا ولا يشهد بالامتثال لـKVKK أو GDPR، بل يرسم تدفق البيانات التقني. ولا يقيس جودة إجابات النموذج أو دقتها، فذلك تقييم منفصل. ولا يمنح شهادة بأن النظام «آمن»، بل يقدم تقييمًا مكتوبًا للوضع وقائمة بما يجب عمله. وإذا كان كود الوكيل مكتوبًا بأدوات مدعومة بالذكاء الاصطناعي واحتاجت طبقة التطبيق أيضًا إلى مراجعة، فنتناول ذلك بشكل منفصل ضمن خدمة Vibe-Code to Production.

بعد التدقيق

يمكنكم تنفيذ خارطة الطريق بفريقكم، فالوثيقة مكتوبة لهذا الغرض. وإن فضّلتم إسناد التنفيذ إلينا، يُخطط لتضييق الصلاحيات وبوابات الموافقة والتسجيل والحماية من الحقن كعمل منفصل. ومع ازدياد عدد الوكلاء يكبر سؤال من يتخذ هذه القرارات ووفق أي مبادئ؛ ومع الفرق التي تحتاج إلى قيادة تقنية مستمرة نواصل هذا العمل عبر نموذج CTO as a Service.