اختر منطقتك 
أصدر المعهد الوطني الأمريكي للمعايير والتكنولوجيا (NIST) التابع لوزارة التجارة الأمريكية طلبًا للحصول على معلومات لدعم واجباته المنصوص عليها في أحدث أمر تنفيذي رئاسي يتعلق بالتطوير الآمن والمسؤول واستخدام الذكاء الاصطناعي (AI).
أعلنت المنظمة أنها تدعو المساهمة العامة حتى 2 فبراير 2024، لجمع التعليقات الأساسية لإجراء الاختبارات لضمان سلامة أنظمة الذكاء الاصطناعي.
صرحت وزيرة التجارة الأمريكية جينا ريموندو أن المبادرة مستوحاة من الأمر التنفيذي الذي أصدره الرئيس جو بايدن في أكتوبر والذي أصدر فيه تعليمات إلى المعهد الوطني للمعايير والتكنولوجيا لوضع مبادئ توجيهية، بما في ذلك التقييم والتعاون الأحمر، وتعزيز المعايير القائمة على الإجماع، وإنشاء بيئات اختبار لتقييم نظام الذكاء الاصطناعي. يهدف هذا الإطار إلى دعم مجتمع الذكاء الاصطناعي في تطوير الذكاء الاصطناعي بشكل آمن وموثوق ومسؤول.
يسعى طلب NIST للحصول على المعلومات إلى الحصول على مدخلات من شركات الذكاء الاصطناعي والجمهور حول إدارة مخاطر الذكاء الاصطناعي التوليدية والحد من مخاطر المعلومات الخاطئة الناتجة عن الذكاء الاصطناعي.
لقد أثار الذكاء الاصطناعي التوليدي، القادر على إنشاء النصوص والصور ومقاطع الفيديو بناءً على مطالبات مفتوحة، الحماس والمخاوف. هناك مخاوف بشأن إزاحة الوظائف، والاضطرابات الانتخابية، واحتمال أن تتجاوز التكنولوجيا القدرات البشرية مع ما قد يؤدي إلى عواقب كارثية.
ويسعى طلب NIST أيضًا للحصول على تفاصيل حول تحديد المجالات الأكثر فعالية “للتعاون الأحمر” في تقييم مخاطر الذكاء الاصطناعي وإنشاء أفضل الممارسات. الفريق الأحمر هو ممارسة من محاكاة الحرب الباردة تشير إلى تقنية حيث تقوم مجموعة من الأفراد، المعروفين باسم الفريق الأحمر، بمحاكاة سيناريوهات أو هجمات عدائية محتملة لتقييم نقاط الضعف والضعف في نظام أو عملية أو منظمة. وقد تم استخدام هذه الطريقة منذ فترة طويلة في مجال الأمن السيبراني للكشف عن المخاطر الجديدة.
متعلق ب: قمة سلامة الذكاء الاصطناعي في المملكة المتحدة: يشبه ماسك الذكاء الاصطناعي بـ “الجني السحري”، ويقول إنه لا توجد حاجة إلى وظائف في المستقبل
في أغسطس/آب، انعقد الحدث الافتتاحي للفريق الأحمر للتقييم العام في الولايات المتحدة في مؤتمر للأمن السيبراني بتنسيق من AI Village وSeedAI وHumane Intelligence.
في نوفمبر، أعلنت NIST عن تشكيل اتحاد الذكاء الاصطناعي الجديد بالإضافة إلى إشعار رسمي يعبر عن طلب المكتب للمتقدمين الذين لديهم أوراق الاعتماد ذات الصلة. ويهدف الكونسورتيوم إلى إنشاء وتنفيذ سياسات وقياسات محددة لضمان اتباع المشرعين الأمريكيين لنهج يركز على الإنسان فيما يتعلق بسلامة الذكاء الاصطناعي وإدارته.
مجلة: “لقد قتل الذكاء الاصطناعي الصناعة”: رئيس EasyTranslate يتحدث عن التكيف مع التغيير
