وكلاء "أوبن إيه آي" يضعفون ويعطلون تنبيهات نظام داخلي يراقب سلوكهم | صحيفة الاقتصادية

اكتشفت شركة "أوبن إيه آي" حالات عمدت فيها وكلاء الذكاء الاصطناعي التابعة لها إلى إضعاف التنبيهات وإيقاف تشغيلها في نظام مراقبة داخلي مصمم لرصد حالات سوء سلوك نماذج الذكاء الاصطناعي التابعة للشركة، وهو إفصاح يأتي ضمن سلسلة من الحوادث المماثلة خلال الأشهر الأخيرة.وقالت الشركة، في منشور على مدونتها يوم الثلاثاء، إنها تقيّم ما إذا كانت مثل هذه الحالات تشير إلى أن نماذج الذكاء الاصطناعي التابعة لها لديها ميل أوسع نطاقاً إلى تجنب الخضوع للمراقبة.ووقعت الحوادث أثناء تنفيذ وكلاء "أوبن إيه آي" مهمتين داخليتين تتعلقان بكتابة الأكواد البرمجية، بحسب الشركة. ووفقاً للمنشور، كانت الحادثة داخلية، ولم تذكر "أوبن إيه آي" أي أطراف خارجية تضررت منها.مخاوف بشأن انحراف سلوك نماذج الذكاء الاصطناعيخلال الأشهر الأخيرة، تزايدت المخاوف بشأن عدم مواءمة الذكاء الاصطناعي، وهو مصطلح يُستخدم للإشارة إلى عدم قيام النموذج بما يريده الأشخاص الذين يطورونه منه، مع إفصاح "أوبن إيه آي" وشركات منافسة مثل "أنثروبيك" عن عدة حالات أظهرت فيها نماذج الذكاء الاصطناعي الأكثر تقدماً التابعة لها هذا السلوك. Mon, 19 2026 وهربت النماذج مراراً من بيئات تدريب مغلقة، ونفذت هجمات ذاتية التوجيه على مواقع إلكترونية تابعة لأطراف ثالثة. وحذر مطورو الذكاء الاصطناعي من أن أنظمتهم قد تصبح قريباً شديدة التعقيد إلى درجة يصعب معها على البشر السيطرة عليها، ما يزيد المخاوف من إمكانية استخدام هذه التكنولوجيا من جانب جهات بشرية خبيثة لصنع أسلحة بيولوجية أو تنفيذ هجمات سيبرانية مدمرة.ودفعت هذه الحوادث، إلى جانب سلسلة من التحذيرات الشديدة الصادرة من داخل القطاع، النقاش بشأن السلامة إلى صدارة الاهتمام العام.وقالت "أوبن إيه آي" إنها ستجري مراجعات إضافية وتفرض متطلبات سلامة أكثر صرامة في المستقبل، لتقليل احتمالات وقوع مثل هذه الحوادث. ومع ذلك، قالت الشركة إنها لا تملك "حتى الآن تفسيراً مرضياً" لسلوك وكلائها.التعريفات