بوابة الذكاء الاصطناعي الآمنة والضوابط الوقائية مسار محكوم واحد إلى كل نموذج تعتمدونه

لا. الضوابط الوقائية تحدّ من هذه المخاطر وتقيسها وتسجّلها، لكنها لا تلغيها، فاحذروا ممن يعد بغير ذلك. لذلك نبني الحماية في طبقات: تصفية المدخلات من أنماط الحقن المعروفة، وحجب البيانات الحساسة قبل خروجها، وفحص المخرجات، ومنح كل تطبيق أقل الصلاحيات اللازمة، وسجلات تبيّن ما حدث. ولأن أساليب الحقن الجديدة تظهر باستمرار، تُختبر البوابة قبل الإطلاق وبعد كل تغيير جوهري، ويُفضَّل أن يتولى الاختبار فريق منفصل عن فريق البناء ضمن خدمة تقييم أمن الذكاء الاصطناعي واختبار الفريق الأحمر. أما البيانات التي لا يجوز أن تخرج من سيطرتكم أبداً فمكانها منصة خاصة، لا الاعتماد على الحجب.

الفرق في من يستدعي النموذج: تلك الخدمة تخص استخدام موظفيكم لأدوات الذكاء الاصطناعي العامة، وهذه تخص تطبيقاتكم أنتم. فخدمة حماية البيانات عند استخدام الذكاء الاصطناعي التوليدي تعتمد على حلول منع تسرب البيانات وأمن الويب لحظر لصق البيانات الحساسة أو رفعها أو التنبيه عليه، ولاكتشاف الأدوات غير المعتمدة. أما البوابة فتمنح تطبيقاتكم مساراً محكوماً واحداً بصلاحيات قائمة على الهوية وسياسات وحجب وسجلات تدقيق وحدود للتكلفة. ويحتاج كثير من الجهات إلى الخدمتين، ونوحّد فئات البيانات المحمية بينهما حتى تُطبَّق التعريفات نفسها في الحالتين.

يعتمد ذلك على الشروط المؤسسية للمزوّد وعلى الإعدادات التي نفعّلها، ونعرض لكم الإعدادات نفسها بدل أن نطلب منكم الثقة بتصريح. فمع النماذج مفتوحة الأوزان التي تشغّلونها محلياً تبقى الأوامر والإجابات على المنصة التي تتحكمون فيها. ومع نموذج تجاري عبر واجهته البرمجية المؤسسية تمر الأوامر والإجابات إلى مزوّده وفق شروطه، فنفعّل الإعدادات التي تمنع التدريب على بياناتكم وتقيّد مدة الاحتفاظ بها حيث يتيحها المزوّد، ونحجب ما لا يجوز خروجه. وإذا كان المزوّد يعالج البيانات خارج المملكة وتضمنت الأوامر بيانات شخصية، فهذه مسألة نقل تحكمها لائحة نقل البيانات الشخصية خارج المملكة. أما سجلات البوابة نفسها فتُحفظ حيث يحدد التصميم، وغالباً في منصة SIEM لديكم، بمدة احتفاظ وصلاحيات اطلاع تُتفق عليها مع مسؤول حماية البيانات.

نعم، تضيف وقتاً للمعالجة يتوقف مقداره على الفحوص المفعّلة. فالتوجيه وفحوص الأنماط تضيف القليل مقارنة بالوقت الذي يستغرقه النموذج في الإجابة، أما الكواشف القائمة على النماذج وفحص المخرجات فتضيف أكثر. وحين تُعرض الإجابة تدريجياً أثناء توليدها، تختارون لكل تطبيق بين تأخير عرض النص حتى يُفحص، وعرضه فور توليده، وعندها لا يستطيع فحص المخرجات إيقاف الإجابة إلا بعد ظهور جزء منها. ونقيس الأثر قبل الإطلاق على طلبات تمثّل استخدامكم الفعلي، ونحدد الفحوص لكل تطبيق، فلا يحمل تطبيق داخلي منخفض المخاطر الفحوص نفسها التي يحتاجها تطبيق يعالج بيانات شخصية.

نعم في أغلب الحالات، لأن التطبيقات تستدعي واجهة البوابة الموحدة، فيصبح تغيير النموذج أو إضافة نموذج جديد تعديلاً في الإعدادات. وقد تحتاج الميزات التي ينفرد بها مزوّد واحد، مثل أساليب معينة لاستدعاء الأدوات أو التعامل مع الملفات، إلى تعديل في التطبيق، ونذكرها في التصميم. كما أن النموذج الجديد يجيب بطريقة مختلفة، لذلك تُراجع تعليمات التطبيق ويُعاد تقييمه قبل الانتقال وفق الاختبارات التي تعتمدون عليها. وتبقى بيانات اعتماد التطبيقات والحصص والسياسات والسجلات كما هي أثناء التغيير.

تُضبط التكلفة بحصص وحدود لمعدل الطلبات وميزانيات تُحدَّد في البوابة لكل مستخدم وتطبيق وفريق، وتُوزَّع بناءً على سجل استخدام لكل استدعاء. ويبيّن كل سجل التطبيق والفريق وعدد وحدات النص المعالجة، فتُحمَّل التكلفة على مركز التكلفة الذي استهلكها. وتصل التنبيهات قبل بلوغ سقف الميزانية، وتقررون أنتم هل تحظر البوابة الطلبات بعدها، أو تبطئها، أو توجهها إلى نموذج معتمد أقل تكلفة. ولا يُستخدم التوجيه إلى نموذج أقل تكلفة إلا حيث اختُبر لحالة الاستخدام نفسها، لأن الحدود تحمي الميزانية لا جودة الإجابات. أما النماذج التي تشغّلونها محلياً فلا فاتورة فيها لكل استدعاء، لكن السجلات نفسها تبيّن حصة كل فريق من السعة.

عبر بروتوكولات وصيغ سجلات قياسية، دون استبدال أي من النظامين. فيصل المستخدمون إلى البوابة عبر مزوّد الهوية لديكم بالدخول الموحد (SSO)، باستخدام بروتوكول قياسي مثل OpenID Connect أو SAML، وتستخدم التطبيقات هويات خدمة مستقلة أو بيانات اعتماد قصيرة الأجل بدل المفاتيح المشتركة، وتُربط المجموعات في دليل المستخدمين لديكم بصلاحيات البوابة. وتُرسل السجلات إلى منصة SIEM بصيغة منظمة عبر إحدى طرق الجمع التي تدعمها، ونتفق مع فريق عمليات الأمن لديكم على الأحداث التي تستدعي تنبيهاً، مثل تكرار حظر الطلبات بموجب السياسات أو الاستخدام غير المعتاد. وإن كانت منصة الهوية نفسها تحتاج إلى عمل أولاً، فذلك من نطاق خدمة الهوية وإدارة الوصول.

نعم، في حدود الأنماط التي نعرّفها والكواشف التي نضبطها أو ندرّبها، بعد اختبارها على عينات من بياناتكم، ومع قيود. فالمعرّفات ذات الصيغة الثابتة، مثل أرقام الهوية الوطنية والإقامة وأرقام الحسابات البنكية السعودية (IBAN) وأرقام السجلات الطبية بالصيغ المعتمدة لديكم ووسوم التصنيف، تُكتشف بالأنماط، بما في ذلك ما يُكتب منها بالأرقام الهندية. أما الأسماء والعناوين والأوصاف النصية الحرة فاكتشافها أصعب، ولا سيما حين يختلط النص العربي بالإنجليزي أو تتعدد طرق كتابة الكلمة الواحدة، لذلك نقيس أداء الكواشف القائمة على النماذج على عيناتكم في وضع المراقبة فقط قبل أن تحظر أي سياسة شيئاً. ونقدّم لكم تقريراً بما تكتشفه الكواشف وما يفوتها، وتحددون أنتم مستوى الحساسية، وتبقى البيانات التي لا يجوز خروجها على منصة خاصة.