حوكمة الذكاء الاصطناعي الوكيل (Agentic AI)

أنظمة الذكاء الاصطناعي الوكيلة (Agentic) — وهي أنظمة تتخذ إجراءات في العالم الحقيقي بشكل مستقل، تتصفح الويب، تكتب الشيفرة وتنفذها، تستدعي واجهات برمجة التطبيقات، وتعدّل الملفات — تطرح تحديات حوكمة لا وجود لها في البرمجيات التقليدية أو في أنظمة الذكاء الاصطناعي السلبية (مثل روبوتات المحادثة التي تقدم المعلومات دون أن تتخذ أي إجراء).

جوهر المشكلة هو عدم قابلية التراجع. فالنظام الوكيل سيّئ التصميم قد يرسل بريداً إلكترونياً، أو يعدّل سجلاً في قاعدة بيانات، أو ينفّذ معاملة مالية دون مراجعة بشرية. وقد يكون التراجع عن هذه الإجراءات صعباً أو مستحيلاً. إن كلفة إجراء وكيل فاشل قد تفوق بكثير كلفة استجابة فاشلة على استعلام.

يغطي هذا الدليل التشغيلي بنية الحوكمة التي يطبّقها Tenten AI في عمليات نشر الذكاء الاصطناعي الوكيل في الإنتاج داخل المؤسسات الخاضعة للتنظيم. إنه وثيقة عملية لا وثيقة إطار نظري: فكل مكوّن موصوف هنا مطبَّق فعلاً في عمليات نشر إنتاجية قائمة.