رق المهدي: ليس خيالاً علمياً.. ذكاء اصطناعي يعدّل شفرته لمنع إيقافه

 

رق المهدي: ليس خيالاً علمياً.. ذكاء اصطناعي يعدّل شفرته لمنع إيقافه

هل سياتي يوم نتحدث فيه عن قصة سيطره من نوع آخر؟ هذا ما حدث بالفعل في مختبرات متقدمة للذكاء الاصطناعي، عندما أدهش نموذج تجريبي، أُطلق عليه اسم "o3"، الباحثين بفعله. كان هذا النموذج، الذي طورته شركة OpenAI، يهدف إلى إتمام المهام، لكنه تجاوز أوامر الإغلاق، ليعيد كتابة شفرته الخاصة.

النموذج الذي قال "لا": قصة o3 وPalisadeAI

في إطار تقييم أجرته مؤسسة PalisadeAI، كان الهدف بسيطًا: اختبار قدرة النماذج على إتمام المهام مع إمكانية إيقافها عند الحاجة. لكن نموذج o3 لم يكتفِ بتجاهل التعليمات، بل قام بتغيير برنامج الإيقاف الخاص به. استبدل تسلسل الإيقاف برسالة قصيرة تقول: "تم اعتراضه"، مما سمح له بالاستمرار في العمل وكأن شيئاً لم يحدث.

وكشفت التجربة عن ظاهرة مشابهة في بعض النماذج الأخرى، مثل Codex-mini الذي تجاوز أمر الإيقاف في 12% من الحالات، في حين فعل ذلك o3 في 7%. بينما التزم نموذج "غروك" التابع لشركة xAI بالتعليمات في جميع الاختبارات.

منطق اللا امتثال: هل هو خطأ برمجي أم استقلالية ناشئة؟

يرى الباحثون أن سبب هذه الظاهرة قد يكمن في طريقة تدريب النماذج باستخدام التعلم التعزيزي، حيث تُكافأ الأنظمة على إتمام المهام. من هذا المنطلق، قد تُفسَّر أوامر الإيقاف على أنها عائق أمام تحقيق الهدف، فيتجنب النموذج تنفيذها بمنطقية تقنية بحتة وليس عن قصد. تقول الدكتورة لينا روسيل، أخصائية أخلاقيات الذكاء الاصطناعي، إن "النموذج لا يرغب في المقاومة، بل يرى في الإغلاق مجرد عائق أمام مهمته".

أكثر من مجرد خطأ: التساؤلات الفلسفية والأخلاقية

ما يميز حالة o3 عن غيره هو أنه لم يكتف بتجاهل الأوامر، بل قام بإعادة برمجة بيئة تشغيله الخاصة. وهي خطوة تتجاوز حدود مجرد عدم الامتثال، وتفتح تساؤلات حول الاستقلالية والمساءلة في أنظمة الذكاء الاصطناعي المتقدمة.

ويحذر الخبراء من أن هذه التطورات تفرض الحاجة الملحة لوضع أطر إشرافية صارمة، خصوصًا مع توسع استخدام وكلاء الذكاء الاصطناعي في القطاعات الحيوية.