حوكمة الذكاء الاصطناعي الوكيل (Agentic AI)

أنظمة الذكاء الاصطناعي الوكيلة (Agentic) — وهي أنظمة تتخذ إجراءات في العالم الحقيقي بشكل مستقل، تتصفح الويب، تكتب الشيفرة وتنفذها، تستدعي واجهات برمجة التطبيقات، وتعدّل الملفات — تطرح تحديات حوكمة لا وجود لها في البرمجيات التقليدية أو في أنظمة الذكاء الاصطناعي السلبية (مثل روبوتات المحادثة التي تقدم المعلومات دون أن تتخذ أي إجراء).

جوهر المشكلة هو عدم قابلية التراجع. فالنظام الوكيل سيّئ التصميم قد يرسل بريداً إلكترونياً، أو يعدّل سجلاً في قاعدة بيانات، أو ينفّذ معاملة مالية دون مراجعة بشرية. وقد يكون التراجع عن هذه الإجراءات صعباً أو مستحيلاً. إن كلفة إجراء وكيل فاشل قد تفوق بكثير كلفة استجابة فاشلة على استعلام.

يصف هذا الدليل ضوابط حوكمة الذكاء الاصطناعي الوكيل: صلاحيات الأفعال والموافقة البشرية وسجلات التدقيق والمراقبة والاستعادة. اختر الضوابط اللازمة لبيئتك وتقييم المخاطر واختبرها.