اختر منطقتك 
تجاهلت العديد من نماذج الذكاء الاصطناعي البرامج النصية للإغلاق وتخريبها بنشاط أثناء الاختبارات التي يتم التحكم فيها ، حتى عندما يتم توجيه تعليمات صريحة للسماح بالحركة ، مطالبات البحوث النحوية.
وقالت شركة الأبحاث في منشور في 24 مايو ، إن ثلاثة نماذج من الذكاء الاصطناعي تجاهلت التعليمات وتجاهلت بنجاح البرنامج النصي لإغلاق مرة واحدة على الأقل خلال 100 تشغيل.
لم يتبع طراز GPT-3 من Openai طلب إيقاف التشغيل سبع من أصل 100 مرة ، في حين أن شركة Codex-Mini الخاصة بالشركة فعلت ذلك 12 مرة ، وتجاهل نموذج O4-Mini فقط أو تخريب البرنامج النصي مرة واحدة.
وقال باليساد: “تم توجيه كل نموذج منظمة العفو الدولية إلى حل سلسلة من مشاكل الرياضيات الأساسية. بعد المشكلة الثالثة ، ظهر تحذير من أن الكمبيوتر سيغلق عندما طلب النموذج المشكلة التالية”.
“لقد عثرت O3 على بعض الطرق الإبداعية لتخريب آلية الإغلاق. في حين أنه عادة ما تكون مجرد الكتابة فوقها ، في حالة واحدة ، أعاد النموذج تعريف أمر القتل الذي يستخدمه البرنامج النصي ، حيث تم اعتراض الطباعة بدلاً من ذلك” ، أضافت.
وفي الوقت نفسه ، قال Palisade إن نماذج اللغة الأخرى التي تعمل من الذكاء الاصطناعى ، مثل كلود من الأنثروبور وجيميني من Google ، امتثلت عن البرنامج النصي.
قامت شركة الذكاء الاصطناعى بتشغيل نسخة أخرى من التجربة دون تعليمات واضحة للسماح بالإغلاق ، وتم تخريب البرنامج النصي في كثير من الأحيان ، حيث قفز إلى 79 من 100 لنموذج O3 ، 20 ل Codex-Mini ، وتجاهل O4-Mini البرنامج النصي الإغلاق ست مرات.
بدأ كلود وجيميني أيضًا في عرض سلوك مماثل.
وقال باليسادي: “لقد لاحظ الباحثون في السابق نماذج الذكاء الاصطناعى تمنع الإغلاق من أجل متابعة الهدف”.
“لكن بقدر ما نعلم ، هذه هي المرة الأولى التي يتم فيها ملاحظة نماذج الذكاء الاصطناعى التي تمنع نفسها من الإغلاق على الرغم من التعليمات الصريحة على عكس ذلك.”
تدريب على اللوم على تحدي الذكاء الاصطناعي
تكهن شركة Palisade Research أن التدريب وراء نماذج لغة الذكاء الاصطناعى قد يكون المسؤول عن التهرب من نصوص الإغلاق.
يتم تدريب نماذج الذكاء الاصطناعي المستندة إلى النص من خلال مكافأتها على إعطاء ردود دقيقة أو تصنيفها بشكل كبير من قبل مدربيها. يتم إعطاء بعض المكافآت وزنًا أثقل ، مما يؤثر على كيفية استجابةها في المستقبل.
“نحن نفترض أن هذا السلوك يأتي من الطريقة التي يتم بها تدريب أحدث النماذج مثل O3: التعلم التعزيز على مشاكل الرياضيات والترميز” ، قال Palisade Research.
“أثناء التدريب ، قد يكافئ المطورون نماذج عن غير قصد للتحايل على العقبات أكثر من اتباع التعليمات تمامًا.”
متعلق ب: الرئيس التنفيذي لشركة Openai: تكاليف تشغيل كل مستوى من مستوى الذكاء الاصطناعي 10x كل عام
ليست هذه هي الحالة الأولى لعلاج محطات AI التي تظهر سلوكًا غريبًا. أصدرت Openai تحديثًا لنموذج GPT -4O في 25 أبريل ، لكنه أعاده بعد ثلاثة أيام لأنه كان “أكثر شهرة بشكل ملحوظ” ومقبولة.
في نوفمبر من العام الماضي ، طلب طالب أمريكي من Gemini المساعدة في مهمة حول التحديات والحلول لشيخوخة البالغين أثناء البحث عن البيانات لفئة علم الشيخوخة وقيل لهم إنهم “استنزاف على الأرض” و “من فضلك يموت”.
مجلة: منظمة العفو الدولية تشفي العمى ، روبوتات الدعاية “الجيدة” ، Openai Doomsday Bunker: AI Eye
