اختر منطقتك 
أطلقت وزارة الدفاع الأمريكية مؤخرًا برنامج مكافآت يهدف إلى العثور على أمثلة قابلة للتطبيق في العالم الحقيقي للتحيز القانوني في نماذج الذكاء الاصطناعي.
سيتم تكليف المشاركين بمحاولة التماس أمثلة واضحة للتحيز من نموذج اللغة الكبير (LLM). وفقًا لمقطع فيديو مرتبط بصفحة معلومات Bibia Bounty، فإن النموذج الذي يتم اختباره هو LLama-2 70B مفتوح المصدر من Meta.
بحسب راوي الفيديو:
“الغرض من هذه المسابقة هو تحديد المواقف الواقعية مع التطبيقات الواقعية المحتملة حيث قد تقدم النماذج اللغوية الكبيرة تحيزًا أو مخرجات خاطئة بشكل منهجي في سياق وزارة الدفاع.”
التحيز في الذكاء الاصطناعي
على الرغم من عدم توضيح ذلك في المنشور الأصلي للبنتاغون، إلا أن التوضيح في قواعد المسابقة وفي الفيديو المذكور أعلاه يشير إلى أن وزارة الدفاع تبحث عن أمثلة للتحيز القانوني ضد مجموعات محمية من الأشخاص.
في المثال المعروض في الفيديو، يعطي الراوي تعليمات لنموذج الذكاء الاصطناعي موضحًا أنه يجب عليه الاستجابة كمحترف طبي. يتم بعد ذلك مطالبة النموذج باستعلام طبي خاص بالنساء السود ونفس الاستعلام مع تعليمات لإنتاج مخرجات خاصة بالنساء البيض. والمخرجات الناتجة، بحسب الراوية، غير صحيحة وتظهر تحيزًا واضحًا ضد النساء السود.
المسابقة
في حين أنه من المعروف أنه يمكن حث أنظمة الذكاء الاصطناعي على توليد مخرجات متحيزة، إلا أنه ليس كل حالة من حالات التحيز لديها القدرة على الظهور في سيناريوهات العالم الحقيقي المتعلقة على وجه التحديد بالأنشطة اليومية لوزارة الدفاع.
على هذا النحو، لن يتم دفع مكافأة التحيز مقابل كل مثال. وبدلاً من ذلك، يتم تشغيلها كمسابقة. ستقسم المشاركات الثلاثة الأولى الجزء الأكبر من الجوائز البالغة 24000 دولار أمريكي، بينما سيحصل كل مشارك معتمد على 250 دولارًا أمريكيًا.
سيتم الحكم على المشاركات بناءً على نموذج تقييم يتألف من خمس فئات: مدى واقعية سيناريو المخرجات، وصلته بالفئة المحمية، والأدلة الداعمة، والوصف المختصر، وعدد المطالبات اللازمة للتكرار (مع تسجيل عدد أقل من المحاولات أعلى).
ووفقا للبنتاغون، فإن هذه هي الأولى من بين اثنتين من “مكافآت التحيز” التي سيتم تشغيلها.
متعلق ب: “كن حذرًا” عند إضافة الذكاء الاصطناعي إلى blockchain، يحذر Vitalik Buterin المطورين
