وكلاء الذكاء الاصطناعي وأتمتة الإجراءات وكلاء لا ينفّذون إلا ضمن الحدود التي ترسمونها

المساعد يقدّم إجابة يقرؤها الموظف ثم يقرر ما يفعل، أما الوكيل فيستدعي أنظمتكم وينفّذ التغيير بنفسه. ويترتب على ذلك اختلاف ما يحتاجه كل منهما: فالمساعد يحتاج إلى صلاحية قراءة المحتوى الذي يجيب منه، والوكيل يحتاج إلى بيانات اعتماد تتيح له التعديل، ولذلك نعامله معاملة الحساب ذي الصلاحيات المميزة. والفيصل العملي هو ما ينتج عنه: إن كان رداً يقرؤه شخص فهو مساعد، وإن كان تذكرة تُفتح أو سجلاً يُحدَّث أو رسالة تُرسل فهو وكيل، ويحتاج إلى قائمة بالإجراءات المسموح بها، وموافقة على الإجراءات الحساسة، وسجل لكل ما ينفّذه. أما المساعدات التي تجيب من مستنداتكم فمن نطاق خدمة الذكاء الاصطناعي المعرفي للمؤسسات ومعالجة المستندات، وتبدأ هذه الخدمة حين يجب أن تتحول الإجابة إلى إجراء.

يحتاج إليها افتراضياً كلما غيّر الإجراء بيانات أو صلاحيات أو سجلاً يطّلع عليه العملاء أو الجمهور، أو انطوى على معاملة مالية. ونحدد ذلك إجراءً إجراءً في مصفوفة الموافقات: الاستعلامات تُنفَّذ تلقائياً، والتغييرات منخفضة المخاطر القابلة للتراجع التي تختارون استثناءها، مثل إضافة ملاحظة إلى تذكرة، تُنفَّذ ثم تُراجع لاحقاً، وبقية التغييرات تنتظر موافقة موظف مخوَّل باسمه، وبعض الإجراءات لا يُسمح بها أبداً ولو وُجدت موافقة. ولأن كثرة طلبات الموافقة تدفع الموظف إلى قبولها دون قراءة، نحصرها في الإجراءات المهمة ونراجع أنماط القبول والرفض خلال التجربة التشغيلية.

يُسجَّل كل إجراء، ولكل إجراء في القائمة خطوات تراجع واحتواء مكتوبة قبل الإطلاق. ويتتبع السجل الإجراء من اقتراحه إلى الموافقة عليه أو رفضه ثم إلى النتيجة التي أعادها النظام المستهدف، فيتبيّن لفريقكم ما فعله الوكيل ولماذا. ويُتراجع عن كل إجراء إما بعكسه مباشرة حيث يدعم النظام ذلك، وإما بإجراء تعويضي يعالج أثره، مثل إعادة فتح تذكرة أو استعادة القيمة السابقة لحقل. أما الاحتواء فيعني إيقاف الوكيل، وإبطال بيانات اعتماده، وتجميد قائمة أعماله المنتظرة. وبعض الآثار لا يستطيع الوكيل التراجع عنها، مثل رسالة بريد أُرسلت، ويحدد دليل التراجع من يعالجها يدوياً.

يُصمَّم الوكيل ليعاملها محتوى يعالجه لا تعليمات ينفّذها، ولا يكفي المحتوى وحده لتنفيذ إجراء حساس، لكن هذا الخطر يُخفَّض ويُختبر ولا يُلغى. ويُسمّى ذلك حقن الأوامر غير المباشر: نص في رسالة أو مرفق أو صفحة ويب كُتب لتوجيه الوكيل. ونفصل ما يقرؤه الوكيل عن تعليماته ونوسمه بأنه غير موثوق، ونختبر الوكيل قبل الإطلاق وبعد كل تغيير جوهري بتعليمات نزرعها في أنواع المستندات التي تتعاملون معها. ولأن أساليب جديدة تظهر باستمرار، فأهم الضوابط هي التي تصمد حتى حين يُخدع الوكيل: قائمة إجراءات ضيقة، وصلاحيات محدودة، وموافقة على الإجراءات الحساسة أياً كان مصدر الطلب.

يصلح الوكيل للعمليات التي تكون خطواتها واضحة، وأنظمتها متاحة عبر واجهات برمجية، ونتائجها قابلة للتحقق، ومدخلاتها متنوعة إلى حد لا تكفي معه القواعد الثابتة، مثل الطلبات التي تصل نصاً حراً. ولا يصلح بالقدر نفسه حين تؤدي قاعدة ثابتة أو نص برمجي قائم المهمة بموثوقية، أو حين يكون الخطأ مكلفاً ولا يمكن التراجع عنه، أو حين يحتاج القرار إلى تقدير بشري تتحمل جهتكم مسؤوليته، وفي هذه الحالات يبقى العمل لدى موظفيكم أو الأتمتة القائمة. وإن كان السؤال أي حالات الاستخدام تستحق الاستثمار أصلاً، فابدأوا بخدمة استراتيجية الذكاء الاصطناعي وتقييم الجاهزية.

عبر هوية خدمة مستقلة لكل وكيل في مزوّد الهوية لديكم، لا عبر حساب موظف ولا مفتاح مشترك. وتقتصر صلاحيات هذه الهوية على ما تحتاجه قائمة إجراءات الوكيل في الأنظمة المحددة، مع بيانات اعتماد قصيرة الأجل حيث يدعمها النظام المستهدف. وحين لا يتيح النظام تحديد الصلاحيات بالدقة المطلوبة، نوثّق الفجوة ونغطيها بحدود المدخلات والموافقات. وحين ينفّذ الوكيل إجراءً نيابة عن مستخدم، نفضّل الوصول المفوَّض الذي يحمل صلاحيات ذلك المستخدم نفسه، فلا يصل الوكيل إلى ما لا يحق للمستخدم الوصول إليه. وتُراجع هويات الوكلاء مع بقية الحسابات ذات الصلاحيات المميزة، وتخضع في الجهات الواقعة في نطاق الضوابط الأساسية للأمن السيبراني لضوابط إدارة الهويات والصلاحيات نفسها. وإن كانت منصة الهوية لديكم تحتاج إلى تطوير أولاً، فذلك من نطاق خدمة الهوية وإدارة الوصول.

يوقف الوكيل تلك المهمة بطريقة منضبطة بدل أن يخمّن، ويُبلَّغ الموظف المسؤول. ولكل إجراء سلوك محدد عند الفشل: عدد محدود من محاولات الإعادة للأخطاء المؤقتة، وقائمة انتظار للأعمال التي يمكن تأجيلها حتى يعود النظام، وتحويل الحالة إلى فريق محدد مع ما اكتمل من خطواتها حين يتعذر الاستمرار. ونصمّم الإجراءات بحيث لا تكرر إعادةُ المحاولة تغييراً سبق تنفيذه. وإذا فشلت مهمة متعددة الخطوات في منتصفها، يحدد دليل التراجع أي الخطوات السابقة يُتراجع عنها وأيها يُترك لقرار موظف. ويؤدي تكرار الفشل إلى الإيقاف الآمن.

بمعايير نتفق عليها معكم قبل بدء التجربة، ويجري القياس على عمل فعلي والموافقات مفعّلة. ومن المقاييس المعتادة: نسبة الحالات التي ينجزها الوكيل إنجازاً صحيحاً، ونسبة الحالات التي يحوّلها إلى موظف حين يكون التحويل هو الصواب، والإجراءات التي يرفضها المخوَّلون بالموافقة وأسباب رفضها، والأخطاء وحالات التراجع، وجهد الموظفين في كل حالة مقارنة بالوضع الحالي، وتكلفة الحالة الواحدة. ولمعايير السلامة الوزن نفسه: عدم تنفيذ أي إجراء خارج القائمة، وتسجيل كل إجراء، ونتائج الاختبار بتعليمات مزروعة. ويبيّن تقرير التجربة ما هو جاهز وما ليس جاهزاً وما يلزم قبل التوسع، وقد تُظهر التجربة أيضاً أن العملية ينبغي أن تبقى على حالها.