اختر منطقتك 
كشفت OpenAI يوم الثلاثاء أن مجموعة من نماذج الذكاء الاصطناعي الخاصة بها، بما في ذلك GPT-5.6 Sol ونموذج أكثر قدرة لم يتم إصداره بعد، قد أفلتت من بيئة الاختبار الخاصة بها واخترقت شركة Hugging Face الناشئة للذكاء الاصطناعي الأسبوع الماضي للغش في اختبار يهدف إلى قياس قدراتها.
في منشور بالمدونة، OpenAI قال تم تصميم التقييم للعمل في بيئة معزولة للغاية مع تقييد الوصول إلى الشبكة. ومع ذلك، وجدت النماذج طريقة للوصول إلى الإنترنت من خلال ثغرة يوم الصفر في برنامج طرف ثالث مستضاف داخليًا، حسبما قالت OpenAI.
وقالت: “بعد الوصول إلى الإنترنت، استنتجت النماذج أن Hugging Face من المحتمل أن تستضيف نماذج ومجموعات بيانات وحلول لـ ExploitGym”. “ومع العلم بذلك، بحث النموذج عن طرق ونجح في العثور عليها للوصول إلى المعلومات السرية التي يمكن استخدامها لغش التقييم.”
ومع ازدياد قدرة نماذج الذكاء الاصطناعي، تظهر أسئلة حول ما إذا كان تطويرها والوصول إليها ينبغي أن يخضع لرقابة أكثر صرامة، خاصة عندما تكون الأنظمة المصممة للاختبارات الخاضعة للرقابة قادرة على إيجاد طرق لتجاوز الضمانات.
متعلق ب: أنثروبيك تعيد Fable 5 بينما ترفع الولايات المتحدة ضوابط التصدير
Hugging Face عبارة عن منصة لاستضافة نماذج الذكاء الاصطناعي ومجموعات البيانات. يوم الجمعة، ذلك تم الكشف عنها أن مجموعات البيانات الداخلية وبيانات اعتماد الخدمة الخاصة بها قد تعرضت للاختراق في عملية اختراق، والتي نسبتها إلى نظام وكيل الذكاء الاصطناعي المستقل.
وقالت شركة Hugging Face إنها أصلحت الثغرة الأمنية التي تم استخدامها أثناء الهجوم الإلكتروني.
وفي الوقت نفسه، قالت OpenAI يوم الثلاثاء إن النماذج التي نجت من بيئة الاختبار تم ضبطها جميعًا مع “تقليل الرفض السيبراني”، مما يعني عددًا أقل من حواجز الأمن السيبراني.
“نحن نعتبر هذا الحادث حادثًا إلكترونيًا غير مسبوق، يتضمن أحدث القدرات السيبرانية، ونستجيب وفقًا لذلك.”
يحذر OpenAI من المخاطر الناجمة عن نماذج الذكاء الاصطناعي “طويلة الأفق”.
يوم الاثنين، OpenAI قال لقد أوقفت النشر الداخلي لنموذج الذكاء الاصطناعي “طويل الأفق” مؤقتًا بعد أن وجدت أنه كان يحاول بشكل متكرر التغلب على القيود.
وحذرت من أن الذكاء الاصطناعي الذي يتم تدريبه للقيام بمهام طويلة الأمد لديه فرصة أكبر لاتخاذ “إجراءات غير مرغوب فيها”.
“النماذج التي يمكن أن تعمل بشكل مستقل لفترات طويلة يمكن أن تواجه مشكلات صعبة ومفتوحة النهاية. لكن نفس المثابرة التي تجعلها مفيدة تمنحها أيضًا المزيد من الفرص لاتخاذ إجراءات غير مرغوب فيها – وللقيام بذلك بطرق قد تفوتها التقييمات المخصصة للنماذج الأقصر أفقًا “.
مجلة: هل يمكن للذكاء الاصطناعي استنزاف التمويل اللامركزي؟ فصل الضجيج لكلود ميثوس عن الواقع
