اختر منطقتك 
من المقرر أن تستعيد شركة الذكاء الاصطناعي Anthropic وصول الجمهور إلى أقوى نماذج الذكاء الاصطناعي لديها، Claude Fable 5 وMythos 5، بعد أسابيع من سحبهما من وضع عدم الاتصال بموجب توجيهات من الحكومة الأمريكية.
تم حظر أحدث نموذجين من Anthropic من الوصول العام منذ 12 يونيو، عندما طبقت الحكومة ضوابط التصدير في أعقاب تقرير تجاوز فيه الباحثون ضمانات Fable 5، مما أجبر Anthropic على سحب كل إمكانية الوصول إلى النماذج على الفور. ورفعت الحكومة تلك القيود يوم الأربعاء، ذكر أنثروبي.
“بعد سلسلة من المحادثات المثمرة مع حكومة الولايات المتحدة، نقوم بإعادة نشر النموذج بمجموعة جديدة من المصنفات لاستهداف ومنع المزيد من مهام الأمن السيبراني،” Anthropic قال.
وأثار تعليق النماذج مخاوف بشأن سيطرة الدولة على الحدود تكنولوجيا الذكاء الاصطناعي و يشكل سابقة خطيرةبحسب خبراء وتقنيين. كما سلطت ضوابط التصدير الضوء على مخاوف البيت الأبيض بشأن التهديد المحتمل للأمن السيبراني الوطني إذا تم كسر حماية هذه النماذج القوية واستخدامها لأغراض ضارة.
يظل نشر أفضل التقنيات هو الأولوية
وزير التجارة الأمريكي هوارد لوتنيك قال على X يوم الأربعاء، “على مدى الأسبوعين الماضيين، عملنا بشكل وثيق مع Anthropic لتحليل Fable 5 والموافقة عليه لضمان التوافق عبر الحكومة الأمريكية ولتعزيز قيادة أمريكا في الذكاء الاصطناعي.”
وفي الوقت نفسه، رئيسة موظفي البيت الأبيض سوزي ويلز قال على X أن أولوية الحكومة تظل هي “نشر أفضل تقنيات (الذكاء الاصطناعي) بأسرع ما يمكن وبأمان قدر الإمكان.”
متعلق ب: يدعي باحث الذكاء الاصطناعي أنه تجاوز بالفعل حواجز الحماية الخاصة بلعبة Anthropic’s Fable 5
وجاءت القيود بعد أن علمت الحكومة بتقرير وجد فيه باحثون في أمازون طريقة لتجاوز ضمانات Fable 5، مما دفع النموذج إلى تحديد العديد من نقاط الضعف البرمجية.
في أ مشاركة مدونة، جادل Anthropic بأن هذا لم يكن خطرًا فريدًا بالنسبة لـ Fable 5، حيث يمكن للنماذج الأضعف أيضًا تحديد نفس نقاط الضعف وإنتاج نفس الاستغلال.
تصنيفات الهروب من السجن لمنظمة العفو الدولية المقترحة
بدأت Anthropic أيضًا في صياغة إطار عمل توافقي مع Amazon وMicrosoft وGoogle وشركاء آخرين في مشروعها مشروع غلاسوينغ – وهو تعاون تم الإعلان عنه في أبريل للحماية من تهديدات الأمن السيبراني للذكاء الاصطناعي – من أجل “تقييم مدى خطورة عمليات كسر الحماية للذكاء الاصطناعي”.
مصنفات أمان الأمن السيبراني في Anthropic وكيفية تفاعل عمليات كسر الحماية مع مصنفات الأمان. مصدر: أنثروبي
تعمل الشركة أيضًا على توسيع نطاق التعاون مع حكومة الولايات المتحدة بشأن اختبار نماذج الذكاء الاصطناعي والضمانات. “سيشمل ذلك الوصول قبل الإصدار إلى النماذج والضمانات للتقييم، ومشاركة المعلومات حول عمليات كسر الحماية وإساءة الاستخدام، والموارد المخصصة للبحث المشترك”.
ادعى أحد الباحثين المعروفين في مجال الذكاء الاصطناعي ذلك الهروب من السجن الخرافة 5 في غضون 48 ساعة من إطلاقه في يونيو، قبل القيود الحكومية، وشارك لقطات شاشة توضح كيف تجاوز حواجز السلامة الخاصة بالنموذج.
مجلة: يقوم الذكاء الاصطناعي بمعاملة الأشخاص الذين ليس لديهم حسابات مصرفية في أفريقيا… بشكل أسرع من العملات المشفرة
