التشغيل المُدار لمنصات الذكاء الاصطناعي (LLMOps) منصات ذكاء اصطناعي سليمة، أداؤها مقيس، وتكلفتها ضمن الميزانية

يتوقف ذلك على النطاق الذي تختارونه، ويُنص على الأمرين في العقد. يشمل تشغيل المنصة المراقبة، والتحديثات والتصحيحات، والنسخ الاحتياطي وتمارين الاستعادة، ومراجعة الصلاحيات، والتعامل مع الحوادث، وتقارير السعة والتكلفة، وفحص كل تغيير على مجموعة اختبار الانحدار قبل إطلاقه. وحين يُضاف التقييم والتحسين، نوسّع كذلك مجموعات اختبار الانحدار مع المراجعين لديكم، ونقترح تغييرات تحسّن الجودة أو تخفض التكلفة ونختبرها. ويحدد العقد لكل منصة ساعات الدعم والأولويات والتصعيد، ولا تشمل الخدمة التغطية خارج ساعات العمل إلا إذا نص العقد عليها. أما تطبيقات الأعمال فتبقى مسؤولية الفرق المالكة لها لديكم: فنحن نشغّل منصة الذكاء الاصطناعي التي تستخدمها هذه التطبيقات، لا التطبيقات نفسها.

لا. فمصطلح LLMOps يعني تشغيل المنصات المبنية على النماذج اللغوية الكبيرة: النماذج والتعليمات والفهارس والتقييم والسعة والتكلفة. أما AIOps فيعني استخدام الذكاء الاصطناعي في تشغيل تقنية المعلومات، كالربط بين التنبيهات أو رصد الأنماط غير المعتادة في مراقبة البنية التحتية، وهو ليس جزءاً من هذه الخدمة. ومراقبة توافر شبكاتكم وخوادمكم وروابط الاتصال وأدائها من نطاق خدمة مركز عمليات الشبكة (NOC) لدينا، والتشغيل اليومي لتقنية المعلومات من نطاق خدمات تقنية المعلومات المُدارة. ويلتقي النطاقان عند البنية التي تعمل عليها منصة الذكاء الاصطناعي: فإذا كان مركز عمليات الشبكة يراقب تلك الخوادم والروابط أصلاً، حددت مصفوفة المسؤوليات أي التنبيهات تذهب إلى أي فريق.

بمجموعة اختبار الانحدار، في بيئة اختبار، قبل أن يصل أي شيء إلى المستخدمين. فكل تغيير في نموذج أو تعليمات أو فهرس أو إعداد يُشغَّل على المجموعة نفسها من الأسئلة والمهام بالعربية والإنجليزية التي نُعدّها مع المراجعين لديكم، وتُقارن نتائجه بخط الأساس وفق المقاييس المتفق عليها، مثل نسبة الإجابات المستندة إلى المصادر، وجودة الاسترجاع، وحالات الامتناع عن الإجابة، وصيغة المخرجات، وزمن الاستجابة، وتكلفة الطلب الواحد. وتُرفق النتائج بسجل التغيير، ويعتمد المسؤول الذي تعيّنونه الإطلاق، وتكون خطوة التراجع جاهزة قبل البدء. ولأن المجموعة لا تغطي إلا الحالات التي تتضمنها، نضيف إليها باستمرار حالات من الحوادث وملاحظات المستخدمين. أما التغييرات الكبيرة، مثل اعتماد نموذج جديد أو منح النظام أدوات جديدة، فقد تتطلب أيضاً اختباراً مستقلاً ضمن خدمة تقييم أمن الذكاء الاصطناعي واختبار الفريق الأحمر.

يمر التغيير بالإجراء نفسه، فيُقيَّم البديل قبل أن يصل إلى المستخدمين. فمزوّدو النماذج التجارية يُنهون العمل ببعض الإصدارات ويحدّثون أخرى، ونحن نتابع إعلاناتهم، ونثبّت الإصدار حيث يتيح المزوّد ذلك، ونشغّل البديل المرشح على مجموعة اختبار الانحدار، ونعدّل التعليمات عند الحاجة، ونخطط للإطلاق. وإذا تغيّر النموذج الذي يحوّل النصوص إلى متجهات (embedding model)، لزم إعادة بناء فهارس المستندات، وهذا يستهلك سعة، فيُجدوَل بوصفه تغييراً مستقلاً. والنماذج مفتوحة الأوزان التي تشغّلونها محلياً تمر إصداراتها الجديدة بالمسار نفسه، ويراجع فريقكم القانوني أي تغيير في ترخيصها. وإذا غيّر مزوّد شروطه أو مكان معالجته للبيانات، نعرض ذلك عليكم وعلى مسؤول حماية البيانات لديكم، فإرسال بيانات شخصية إلى نموذج يعمل خارج المملكة مسألة نقل تحكمها لائحة نقل البيانات الشخصية خارج المملكة.

باستعادة المنصة فعلياً في تمارين، لا بالتحقق من اكتمال مهام النسخ الاحتياطي. فنستعيدها في بيئة معزولة وفق الجدول المحدد في العقد، ثم نشغّل مجموعة اختبار الانحدار للتحقق من أن المنصة المستعادة تجيب كما كانت تجيب، ونسجّل الوقت المستغرق مقارنةً بأهداف التعافي التي تحددها جهتكم. وقد تكون إعادة بناء الفهارس الكبيرة من المستندات الأصلية أسرع أو أكثر موثوقية من استعادتها، والتمرين يبيّن أي الطريقتين تحقق أهدافكم. ويصدر عن كل تمرين تقرير بما نجح وما فشل وما تجري معالجته، ويمكنكم الاستناد إليه دليلاً لأغراض استمرارية الأعمال والتدقيق.

بتقارير شهرية بحسب التطبيق وحالة الاستخدام، وبحدود تُطلق تنبيهاً قبل بلوغ الميزانية. فنقيس من المنصة والبوابة عدد الطلبات، ووحدات النص التي تعالجها النماذج (tokens) أو قدرة المعالجة المستهلكة، واستخدام وحدات المعالجة الرسومية، والتخزين، ونطابق تقديراتنا مع فواتير المزوّدين التي تبقى المرجع في النماذج التجارية. أما الحدود التي توقف الإنفاق عند بلوغها فتُطبَّق في البوابة حيث توجد، وتصميم البوابة من نطاق خدمة بوابة الذكاء الاصطناعي الآمنة والضوابط الوقائية. وتوصيات خفض التكلفة، مثل التخزين المؤقت للإجابات، أو نموذج أصغر للمهام الأبسط، أو تقليص السعة غير المستخدمة، تُقيَّم أولاً على مجموعة اختبار الانحدار، لأن الخيار الأرخص قد يخفض الجودة أيضاً. وفي المنصات التي تعمل محلياً، تبيّن توقعات السعة المبنية على اتجاهات الاستخدام متى ستحتاجون إلى عتاد إضافي ولماذا. والميزانية تحددها جهتكم، ونحن نرفع التقارير مقارنةً بها.

أنتم، باستثناء النماذج والبرمجيات التابعة لأطراف أخرى، فهي تبقى خاضعة لتراخيصها. بياناتكم تبقى ملكاً لكم، والإعدادات والوثائق والمخرجات تُسلَّم وفق ما يحدده العقد. ونحفظ الإعدادات والتعليمات والسياسات في صورة شيفرة في مستودع تحت سيطرتكم حيثما أمكن، مع مجموعات اختبار الانحدار وتعريفات لوحات المتابعة وأدلة التشغيل، ليتمكن أي فريق آخر من تولي العمل. وعند انتهاء العقد تغطي خطة الخروج المتفق عليها فيه نقل المعرفة إلى فريقكم أو إلى مزوّد آخر، وتُلغى الحسابات التي استخدمناها أو تُغيَّر بيانات الدخول إليها. وإذا كانت جهتكم في نطاق الضوابط الأساسية للأمن السيبراني، فإن ECC-2:2024 تُلزمها بأن تنص عقودها مع الأطراف الخارجية، ومنها عقود الخدمات المُدارة، على الإزالة الآمنة لبياناتها عند انتهاء الخدمة، ونُدرج هذه الخطوة في خطة الخروج.

بإجراء مشترك نتفق عليه عند الاستلام: نتولى نحن منصة الذكاء الاصطناعي، وتحتفظ فرقكم بأدوارها. فأعطال المنصة نعالجها وفق أدلة الإجراءات ونصعّدها كما يحدد العقد، وأعطال البنية التي تعمل عليها، كالشبكات والخوادم والتخزين، تُحال إلى من يشغّلها، سواء أكان فريق تقنية المعلومات لديكم أم مركز عمليات الشبكة أم خدمات تقنية المعلومات المُدارة. أما الأحداث الأمنية، مثل الاشتباه في حقن الأوامر أو احتمال كشف بيانات أو وصول غير معتاد أو تسرب مفتاح، فتُرسل عبر منصة SIEM لديكم إلى مركز العمليات الأمنية، وننفّذ على المنصة خطوات الاحتواء التي يوجّه بها المركز، مثل إلغاء مفتاح أو التراجع عن تغيير أو إيقاف خاصية مؤقتاً. وإذا احتُمل تأثر بيانات شخصية، فقرار الإبلاغ وفق نظام حماية البيانات الشخصية يعود إلى جهتكم ومسؤول حماية البيانات لديها، ونحن نقدّم الوقائع والسجلات. وهذه الخدمة لا تحل محل مركز العمليات الأمنية لديكم.