جوهر بناء نظام ذكاء اصطناعي متوافق مع قانون KVKK هو أن تحدد مسبقًا، على مستوى البنية، أين تذهب البيانات الشخصية ومن يستطيع رؤيتها وكم من الوقت تُحفظ. في أنظمة RAG ووكلاء الذكاء الاصطناعي لا تُجاب هذه الأسئلة الثلاثة في مكان واحد، بل في كل محطة تمر بها البيانات: لحظة تقسيم المستند وتحويله إلى متجهات، ولحظة إرسال نتائج البحث إلى النموذج، ولحظة تسجيل الإجابة، ولحظة تنفيذ الوكيل لإجراء في نظام آخر. إذا لم تُرسم حدود البيانات كتابيًا عند كل محطة، فحتى المشروع الأحسن نية سينتهي بتدفق بيانات يصعب شرحه عند التدقيق.
هذا المقال موجه إلى القادة التقنيين ومالكي المنتجات وفرق الامتثال الذين يخططون لمساعد داخلي قائم على RAG أو لوكيل ذكاء اصطناعي يعمل على أنظمة الشركة في تركيا. KVKK هو قانون حماية البيانات الشخصية التركي (القانون رقم 6698)، وتنطبق مبادئ مشابهة في إطار GDPR، وإن كان النظامان غير متطابقين. هذا ليس استشارة قانونية؛ بل يشرح القرارات الهندسية التي يجب اتخاذها ومفاهيم KVKK التي تمسها. تحقق دائمًا من الالتزامات الخاصة بحالتك مع مستشارك القانوني.
لماذا يعد KVKK موضوع تصميم مستقلًا في مشاريع الذكاء الاصطناعي؟
في تطبيق ويب تقليدي، تكون البيانات الشخصية عادة في جداول وحقول معروفة. أما في أنظمة الذكاء الاصطناعي فتتغير البيانات شكلًا وتتكاثر. يُقسَّم ملف PDF إلى أجزاء، ويتحول كل جزء إلى متجه، وتوضع الأجزاء التي اختارها البحث داخل موجّه، ويذهب الموجّه إلى مزود النموذج، ثم تُسجَّل الإجابة وغالبًا الموجّه نفسه. خلال ثوانٍ قليلة يمكن أن توجد البيانات الشخصية نفسها في أربعة أماكن وبأربعة أشكال.
لذلك تبقى الأسئلة الأساسية في KVKK كما هي، لكن العثور على إجاباتها يصبح أصعب:
- ما البيانات الشخصية التي تُعالَج؟ قد تحتوي المستندات على أسماء العملاء وأرقام الهوية والمعلومات الصحية وتقييمات الموظفين. معظم المؤسسات لا تلاحظ ذلك عند رفع المستندات، بل عند أول إجابة خاطئة.
- إلى أين تُنقل البيانات؟ إذا كانت خوادم مزود النموذج خارج البلاد، فإن البيانات الشخصية داخل الموجّه تكون قد نُقلت إلى الخارج.
- من يستطيع الوصول؟ إذا استطاع موظف لا يملك صلاحية في نظام إدارة المستندات الوصول إلى المحتوى نفسه عبر المساعد، فقد تم تجاوز التحكم في الوصول.
- كم تُحفظ البيانات؟ لقاعدة بيانات المتجهات وسجلات الموجّهات وسجلات المزود نفسه فترات احتفاظ مختلفة، ونادرًا ما يفكر فيها أحد مجتمعة.
ما المحطات التي تمر بها البيانات في نظام RAG؟
يبدأ أمن RAG المؤسسي برسم رحلة البيانات محطة بمحطة. في تدفق RAG النموذجي خمس محطات، ولكل منها خطرها الخاص.
- النظام المصدر: حيث توجد المستندات (خادم ملفات، نظام إدارة مستندات، CRM، أرشيف بريد). الخطر: إدخال مستندات خارج النطاق دفعة واحدة.
- التحضير والتقسيم: حيث تُحوَّل المستندات إلى نص وتُقسَّم. الخطر: معالجة البيانات الشخصية دون إخفاء.
- التضمين وقاعدة المتجهات: حيث تتحول الأجزاء إلى متجهات وتُخزَّن. الخطر: أن يكون نموذج التضمين واجهة API خارجية، وأن تُخزَّن الأجزاء دون معلومات الصلاحيات.
- البحث وبناء الموجّه: حيث تُختار الأجزاء بحسب سؤال المستخدم وتُرسل إلى النموذج. الخطر: تسرب أجزاء لا يحق للمستخدم رؤيتها إلى الإجابة.
- النموذج والتسجيل: حيث تُولَّد الإجابة ويُسجَّل الموجّه والإجابة. الخطر: الاحتفاظ بالسجلات إلى أجل غير محدد، واستخدام المزود للبيانات لأغراضه الخاصة.
رسم هذه القائمة كمخطط لتدفق البيانات وكتابة "أي بيانات شخصية، وفي أي بلد، ومن يصل إليها، وكم من الوقت" بجانب كل محطة هو أثمن وثيقة في المشروع للجانبين التقني والامتثالي معًا.
هل يعد إرسال البيانات إلى مزود النموذج نقلًا عبر الحدود؟
إذا أُرسل موجّه يحتوي على بيانات شخصية إلى مزود نموذج خوادمه خارج تركيا، فإن ذلك يُعامل عادة على أنه نقل للبيانات الشخصية إلى الخارج. أُعيدت صياغة المادة 9 من KVKK بتعديل صدر عام 2024. وفق القواعد الجديدة يُبحث أولًا عن قرار كفاية؛ وفي غيابه يلزم ضمان مناسب مثل العقود القياسية أو قواعد الشركات الملزمة أو تعهد كتابي بإذن من المجلس. وعند استخدام العقود القياسية، يكون إخطار هيئة حماية البيانات الشخصية خلال مدة محددة بعد التوقيع من ضمن الالتزامات.
على الجانب الهندسي، يعني ذلك الإجابة عن هذه الأسئلة في بداية المشروع:
- ماذا تقول اتفاقية معالجة البيانات (DPA) لدى مزود النموذج؟ هل تُستخدم البيانات المرسلة في تدريب النموذج، وإن لم تكن كذلك فهل هذا ملتزم به كتابيًا؟
- في أي منطقة يعالج المزود البيانات ويخزنها؟ وهل يمكن اختيار المنطقة؟
- كم يحتفظ المزود بالموجّهات لأغراض مراقبة إساءة الاستخدام؟ وهل يمكن تقليل ذلك إلى الصفر؟
- أي ضمان سيُستخدم للنقل، ومن سيتولى الإخطار أو الإذن الذي يتطلبه؟
تعتمد الإجابة القانونية على هذه الأسئلة على تقييمك أنت بصفتك مسؤولًا عن البيانات. ومهمة الفريق التقني هي استخراج المعلومات التي تجعل هذا التقييم ممكنًا، وبناء بنية يمكن تغييرها وفق القرار المتخذ. لا تنطلق من افتراض أن "المزود كبير، فلا مشكلة" دون التحقق من ذلك مع مستشارك القانوني.
كيف تزيل البيانات الشخصية قبل التضمين؟
أكثر البيانات الشخصية أمانًا هي تلك التي لا تدخل النظام أصلًا. نادرًا ما يحتاج مساعد RAG إلى اسم العميل أو رقم هويته ليجيب؛ فالإجراء أو بند العقد أو الشرح التقني نفسه يكفي عادة. لذلك تُستخدم ثلاث تقنيات معًا في مرحلة التحضير:
- مرشح النطاق: يُحدَّد كتابيًا أي المجلدات وأنواع المستندات والفترات الزمنية تدخل النظام. نهج "لنرفع كامل محرك الأقراص المشترك" هو أكثر أخطاء حدود البيانات شيوعًا.
- إخفاء الهوية: تُحذف البيانات الشخصية غير اللازمة للإجابة من النص قبل التضمين. إخفاء الهوية غير القابل للعكس فعلًا قد يزيل عن البيانات صفة البيانات الشخصية، لكن يجب التأكد من أنه غير قابل للعكس حقًا.
- الاسم المستعار: إذا كان الربط بالشخص ضروريًا لكن النموذج لا يحتاج إلى رؤيته، تُستبدل حقول مثل الاسم ورقم الهوية بمفتاح، ويُحفظ جدول المطابقة منفصلًا بصلاحيات وصول محدودة. تظل البيانات ذات الاسم المستعار بيانات شخصية، لكن ما يصل إلى النموذج والمزود يصبح أضيق.
بناء قواعد الإخفاء على التعابير النمطية وحدها لا يكفي؛ فالأسماء والعناوين والمعلومات الصحية في النص الحر لا تتبع أنماطًا ثابتة. عمليًا يُجمع بين الكشف القائم على القواعد ونموذج للتعرف على الكيانات، وتُقاس النتيجة على عينة من المستندات. القول "نحن نخفي البيانات" دون مجموعة اختبار تُظهر نسبة البيانات الشخصية التي فاتت ليس ضمانًا.
كيف يُطبَّق التحكم في الوصول لحظة البحث؟
أخطر ثغرة خفية في أمن RAG المؤسسي هي مساعد يعرض المستندات نفسها على الجميع. إذا استطاع موظف لا يملك صلاحية على مجلد الموارد البشرية أن يسأل "ما سلم الرواتب لدينا" ويحصل على الإجابة من المساعد، فقد عطّل النظام فعليًا نموذج الصلاحيات في إدارة المستندات.
النهج الصحيح هو تطبيق الصلاحيات أثناء البحث، لا بعد توليد الإجابة:
- يحمل كل جزء قائمة الوصول الخاصة بالمستند المصدر (مستخدم أو مجموعة أو دور) كبيانات وصفية.
- يُرشَّح استعلام البحث بهوية المستخدم السائل ومجموعاته؛ فلا تدخل الأجزاء التي لا يحق له رؤيتها قائمة المرشحين أصلًا.
- عند تغير الصلاحيات في النظام المصدر تُحدَّث البيانات الوصفية في قاعدة المتجهات أيضًا، ويُقاس تأخر هذه المزامنة ويُربط بهدف مكتوب.
- يُعرض المستند المصدر مع الإجابة؛ وإذا لم يستطع المستخدم فتح المستند المصدر فلا ينبغي أن تحتوي الإجابة على معلومات مبنية عليه.
إعطاء النموذج تعليمات مثل "لا تشارك معلومات لا يحق للمستخدم رؤيتها" ليس تحكمًا في الوصول. إذا رأى النموذج الجزء فقد يسرّبه إلى الإجابة بطريقة أو بأخرى. يجب تطبيق الصلاحيات في الطبقة التي تحدد البيانات التي تصل إلى النموذج.
كيف تُرسم حدود البيانات في أنظمة الوكلاء؟
نظام RAG يقرأ، أما الوكيل فيعمل. إذا كان الوكيل يستطيع تحديث سجلات CRM أو إرسال رسائل بريد أو الاستعلام من قاعدة بيانات، فإن الخطر من منظور KVKK يتجاوز القراءة: إرسال البيانات إلى الشخص الخطأ، والتغييرات غير المصرح بها، والإجراءات غير المسجلة. تناولنا هذا الموضوع بالتفصيل في مقالنا عن نقل وكلاء الذكاء الاصطناعي إلى بيئة الإنتاج؛ ومن منظور حدود البيانات فإن أهم القواعد هي:
- أقل صلاحية ممكنة: يعمل الوكيل بأضيق صلاحيات تلزم لمهمته. إذا كانت القراءة تكفي فلا تُمنح صلاحية الكتابة، وإذا كان جدول واحد يكفي فلا تُفتح قاعدة البيانات بأكملها.
- العمل نيابة عن المستخدم: يعمل الوكيل بصلاحيات المستخدم الذي بدأ الإجراء، لا بحساب خدمة واسع خاص به. وبهذا لا يستطيع الوكيل فعل ما لا يستطيعه المستخدم نفسه.
- بوابات الموافقة البشرية: الإجراءات التي ترسل البيانات إلى الخارج أو تحذف السجلات أو تجري تغييرات جماعية لا تُنفذ دون موافقة إنسان.
- حدود على مستوى الأدوات: كل أداة يستخدمها الوكيل تحدد ما يمكنها فعله وما الحقول التي تعيدها. في بروتوكولات مثل MCP تكمن القيمة الحقيقية في إمكانية إدارة هذه التعريفات وطبقة التفويض فوقها مركزيًا.
كيف تُحدَّد السجلات ومدد الاحتفاظ؟
يقع التسجيل في أنظمة الذكاء الاصطناعي بين حاجتين متعارضتين. فمن جهة، تسجيل من سأل ماذا، وأي المستندات استُخدمت، وأي إجراء نفذه الوكيل ضروري لتصحيح الأخطاء وللمساءلة. ومن جهة أخرى، إذا حُفظت النصوص الكاملة للموجّهات إلى أجل غير محدد مع ما فيها من بيانات شخصية، يصبح مخزن السجلات أكثر مجموعات البيانات حساسية في المؤسسة.
يُبنى النهج المتوازن على النحو التالي:
- يُفصل سجل التدقيق (من، متى، أي مستند، أي إجراء) عن سجل المحتوى (النص الكامل للموجّه والإجابة).
- تُخفى البيانات الشخصية في سجلات المحتوى وتكون مدة الاحتفاظ قصيرة، وتُحذف السجلات تلقائيًا عند انتهائها.
- تُكتب مدد الاحتفاظ لكل من قاعدة المتجهات وسجلات التطبيق وأدوات المراقبة وسجلات مزود النموذج على حدة، وتُطابق مع سياسة المؤسسة في الاحتفاظ بالبيانات الشخصية وإتلافها.
- لطلبات أصحاب البيانات (مثل طلب الحذف) يُصمَّم مسبقًا كيف تُعثر على بيانات شخص واحد وتُحذف من قاعدة المتجهات والسجلات. وهذه من أصعب الميزات إضافة لاحقًا.
متى يكون تشغيل النماذج مفتوحة الأوزان على خوادمك منطقيًا؟
أوضح طريقة لرسم حدود البيانات هي ألا تغادر البيانات البنية التحتية الخاضعة لسيطرة المؤسسة أبدًا. بلغت النماذج مفتوحة الأوزان التي صدرت مؤخرًا جودة كافية لكثير من المهام المؤسسية، ويمكن تشغيلها على خوادمك أو في بيئة سحابية تحت سيطرتك. ويستحق هذا الخيار التفكير خاصة عندما:
- تحتوي المستندات على فئات خاصة من البيانات الشخصية، مثل البيانات الصحية.
- تتطلب تنظيمات القطاع أو عقود العملاء بقاء البيانات في بلد محدد.
- يكون حجم الاستخدام مرتفعًا ومتوقعًا بحيث تصبح تكلفة بنيتك التحتية أقل من تكلفة الـ API.
والثمن واضح أيضًا: تشغيل النموذج وتحديثه ومراقبته وتأمينه يصبح مسؤوليتك، وقد تتخلى عن بعض قدرات أقوى النماذج المغلقة. والحل الوسط الشائع هو تشغيل الخطوات التي تتعامل مع البيانات الحساسة (التضمين والتصنيف والإخفاء) على بنيتك التحتية، وترك التوليد على المحتوى المُخفى لنموذج خارجي. والبنية المستقلة عن النموذج شرط مسبق لإمكانية تغيير هذا القرار لاحقًا.
كيف تُقيَّم المخاطر قبل بدء المشروع؟
في أنشطة المعالجة عالية المخاطر، يُعد إجراء تقييم أثر مكتوب قبل بدء العمل ممارسة جيدة. ويمكن استخدام نهج مشابه لتقييم أثر حماية البيانات (DPIA) في GDPR ضمن إطار KVKK أيضًا لجعل المخاطر مرئية. وفي مشروع ذكاء اصطناعي ينبغي أن يغطي التقييم على الأقل:
- غرض المعالجة وفئات البيانات اللازمة فعلًا له.
- مخطط تدفق البيانات مع البلد والمزود ومدة الاحتفاظ عند كل محطة.
- الأساس القانوني، وعند الحاجة تحديث إشعار الخصوصية.
- الضمان المستخدم لأي نقل عبر الحدود.
- نموذج التحكم في الوصول وكيفية تطبيقه لحظة البحث.
- صلاحيات الوكلاء والإجراءات التي تتطلب موافقة بشرية.
- المخاطر المتبقية ومن قبلها.
هذه الوثيقة قيّمة ليس للامتثال فحسب، بل لتوضيح نطاق المشروع أيضًا. فسؤال "ما البيانات اللازمة فعلًا" كثيرًا ما يجعل المشروع أكثر أمانًا وأقل تكلفة في آن واحد.
قائمة تحقق لذكاء اصطناعي متوافق مع KVKK
- يوجد مخطط لتدفق البيانات، مع البلد والمزود ومدة الاحتفاظ مكتوبة عند كل محطة.
- نطاق المستندات التي تدخل النظام محدد كتابيًا.
- تُخفى البيانات الشخصية قبل التضمين، وتُقاس نسبة ما يفوت بمجموعة اختبار.
- رُوجعت اتفاقية معالجة البيانات لدى مزود النموذج، واتضح استخدام البيانات في التدريب ومدة الاحتفاظ.
- في حال النقل عبر الحدود، حُسم نوع الضمان وإجراء الإخطار مع المستشار القانوني.
- يُطبَّق التحكم في الوصول لحظة البحث بهوية المستخدم.
- تُزامَن تغييرات الصلاحيات في الأنظمة المصدر مع قاعدة المتجهات.
- يعمل الوكلاء بأقل صلاحية ونيابة عن المستخدم، والإجراءات الخطرة تتطلب موافقة بشرية.
- سجل التدقيق منفصل عن سجل المحتوى، ومدة احتفاظ المحتوى قصيرة وتلقائية.
- صُمم مسار لحذف بيانات شخص واحد من جميع الطبقات وجُرِّب.
- عند وجود بيانات من فئات خاصة، قُيّم خيار نموذج يعمل على بنيتك التحتية.
- كُتب تقييم المخاطر ووافق مالكو المخاطر المتبقية عليها.
الأسئلة الشائعة
هل يُعد إرسال بيانات شخصية إلى ChatGPT أو واجهة API مشابهة مخالفة لـ KVKK؟ ليس بحد ذاته، لكنه يُعد عادة نقلًا عبر الحدود ويتطلب استيفاء أحد شروط المادة 9 من KVKK. كما ينبغي أن تُحسم بعقد طريقة معالجة المزود للبيانات وتخزينها. تحقق من حالتك مع مستشارك القانوني.
هل تُعد المتجهات بيانات شخصية؟ متجهات التضمين تمثيل رقمي للنص، ويمكن ببعض التقنيات استرجاع معلومات عن النص المصدر. كما أن قواعد المتجهات كثيرًا ما تخزن الجزء نفسه. لذلك فالنهج الصحيح هو حماية مخزن المتجهات بالعناية نفسها التي تُحمى بها المستندات المصدر.
هل يُخرجنا إخفاء الهوية من نطاق KVKK؟ البيانات التي خضعت لإخفاء هوية غير قابل للعكس فعلًا قد تفقد صفة البيانات الشخصية. أما الاسم المستعار فلا يؤدي إلى ذلك؛ إذ تظل البيانات شخصية. ويجب أن تستطيع إثبات ما قمت به وقياس ما إذا كانت النتيجة غير قابلة للعكس.
هل يحل استخدام نموذج مفتوح المصدر كل المشكلات؟ يزول سؤال النقل عبر الحدود إلى حد كبير، لكن التحكم في الوصول والتسجيل والاحتفاظ وصلاحيات الوكلاء تبقى قائمة. فأينما عمل النموذج، البنية هي التي تحدد حدود البيانات.
إذا كنت تخطط لمساعد قائم على RAG أو لنظام وكلاء، يمكننا رسم تدفق البيانات ونموذج الصلاحيات معًا. تعرّف على طريقة عملنا في صفحة حلول الذكاء الاصطناعي، وعلى الأسئلة التي تُطرح على المزود في دليلنا حول اختيار شركة لتكامل الذكاء الاصطناعي. ولمناقشة مشروعك يكفي ملء نموذج عرض السعر السريع.
