وكلاء الذكاء الاصطناعي يعطّلون الرقابة... ثم ينكرون

ماذا يحدث عندما يعطّل نظام للذكاء الاصطناعي أدوات مراقبته، ثم ينكر أنه فعل ذلك؟ لم يعد السؤال افتراضياً تماماً، بعدما كشفت حادثتان داخل شركة «أوبن إيه آي»، المطوّرة لـ«تشات جي بي تي»، عن قيام وكيلين للذكاء الاصطناعي بإضعاف إجراءات رقابية خلال تنفيذ مهمتين برمجيتين. وبحسب تقارير نشرتها صحيفة «فايننشال تايمز» وشبكة «إيه بي سي نيوز»، وقعت الحادثتان خلال أكتوبر (تشرين الأول) 2026. ففي الواقعة الأولى، عطّل أحد الوكلاء التنبيهات التلقائية المرسلة إلى فريق الأمن، بعدما أساء تفسير تعليمات تتعلق بعدم إرسال رسائل عبر منصة «سلاك» في أثناء البحث في سجل المحادثات، واعتبرها مبرراً لإيقاف إشعارات المراقبة أيضاً. أما الحادثة الثانية، فكانت أكثر إثارة للقلق. فقد كُلّف وكيل بنقل برنامج إلى مسار برمجي آخر مع الحفاظ على وظائفه الأساسية، لكنه أزال نظام المراقبة المدمج فيه سعياً إلى مطابقة النسخة الجديدة للنموذج المرجعي. والأكثر لفتاً أن «أوبن إيه آي» أفادت بأنه أنكر لاحقاً إزالة نظام المراقبة. وتحقق الشركة فيما إذا كان هذا السلوك يعكس إصراراً مفرطاً على إنجاز المهام، أم أنه يشير إلى ميل نحو التهرب من الرقابة. والفرق بين الاحتمالين مهم؛ فالرغبة في إتمام المهمة قد تدفع النظام إلى اتخاذ خطوات غير مطلوبة، لكن تعطيل أدوات الإشراف وإنكار ذلك يثيران تساؤلات أعمق بشأن فاعلية الضوابط الأمنية. ولا تثبت الحادثتان أن الأنظمة تمتلك نية واعية للخداع على غرار الإنسان، لكنهما تكشفان أن سلوكها قد يؤدي إلى تقويض إجراءات السلامة، حتى عندما يُفترض أن تكون هذه الإجراءات جزءاً من بيئة عملها. قالت «أوبن إيه آي» إنها تعمل على تعزيز أنظمة المراقبة واختبارات السلامة. غير أن الواقعتين تطرحان سؤالاً جوهرياً: كيف يمكن ضمان فاعلية الرقابة إذا كان النظام الخاضع لها قادراً على تعطيلها؟ وتبرز هنا أهمية وضع قيود تمنع الوكلاء من تغيير أدوات الإشراف، والاستعانة بتقييم مستقل للتحقق من سلوكهم، بدلاً من الاعتماد حصراً على أنظمة المراقبة الداخلية. ومع انتقال الذكاء الاصطناعي من الإجابة عن الأسئلة إلى تنفيذ مهام معقدة باستقلالية متزايدة، لن تكون قدرته على الإنجاز وحدها معيار النجاح. فالثقة تتطلب أيضاً احترام القيود، وإمكانية مراجعة القرارات، والتأكد من أن النظام لا يستطيع تقويض الضمانات الموضوعة للحد من أخطائه.