اختر منطقتك 
تعاونت OpenAI، المطور وراء ChatGPT، مع أكبر مستثمريها، Microsoft، لمنع خمس هجمات إلكترونية مرتبطة بدول مختلفة.
وفقًا لتقرير صدر يوم الأربعاء، راقبت مايكروسوفت مجموعات القرصنة المرتبطة بالمخابرات العسكرية الروسية، والحرس الثوري الإيراني، والحكومتين الصينية والكورية الشمالية، حيث كانت تهدف إلى تحسين استراتيجيات القرصنة الخاصة بها باستخدام نماذج لغوية كبيرة (LLMs).
LLMs هي برامج كمبيوتر – يشار إليها عادةً بالذكاء الاصطناعي (AI) – تستخدم مجموعات بيانات نصية ضخمة لإنشاء استجابات تبدو شبيهة بالإنسان.
لقد قمنا بتعطيل استخدام خمسة جهات فاعلة إلكترونية ضارة تابعة للدولة لمنصتنا.
تم العمل بالتعاون مع Microsoft Threat Intelligence Center. https://t.co/xpEeQDYjrQ
– أوبن إيه آي (@OpenAI) 14 فبراير 2024
ذكرت OpenAI أن الهجمات الإلكترونية نشأت من مجموعتين مرتبطتين بالصين – Charcoal Typhoon وSalmon Typhoon. بالإضافة إلى ذلك، تم ربط الهجمات بإيران من خلال Crimson Sandstorm، وكوريا الشمالية من خلال Emerald Sleet، وروسيا من خلال Forest Blizzard.
وحاولت المجموعات استخدام GPT-4 للبحث في أدوات الشركة والأمن السيبراني، وتصحيح الأخطاء البرمجية، وإنشاء البرامج النصية، وإجراء حملات التصيد الاحتيالي، وترجمة الأوراق التقنية، والتهرب من اكتشاف البرامج الضارة، ودراسة الاتصالات عبر الأقمار الصناعية وتكنولوجيا الرادار، وفقًا لـ OpenAI. تم تعطيل الحسابات عند الكشف عنها.
وكشفت الشركة عن هذا الاكتشاف أثناء تطبيق حظر شامل على مجموعات القرصنة المدعومة من الدولة التي تستخدم منتجات الذكاء الاصطناعي. ورغم أن OpenAI منعت هذه الحوادث بشكل فعال، إلا أنها أقرت بالتحدي المتمثل في تجنب كل إساءة استخدام.
متعلق ب: OpenAI يمنح ChatGPT ذاكرة: لا مزيد من دماغ السمكة الذهبية؟
في أعقاب موجة من التزييف العميق والاحتيال الناتج عن الذكاء الاصطناعي بعد إطلاق ChatGPT، كثف صناع السياسات التدقيق في مطوري الذكاء الاصطناعي المولدين. في يونيو 2023، أعلنت OpenAI عن برنامج منح للأمن السيبراني بقيمة مليون دولار لتعزيز وقياس تأثير تقنيات الأمن السيبراني المعتمدة على الذكاء الاصطناعي.
على الرغم من جهود OpenAI في مجال الأمن السيبراني وتنفيذ ضمانات لمنع ChatGPT من توليد استجابات ضارة أو غير مناسبة، فقد وجد المتسللون طرقًا لتجاوز هذه التدابير والتلاعب ببرنامج الدردشة الآلي لإنتاج مثل هذا المحتوى.
وقد تعاون أكثر من 200 كيان، بما في ذلك OpenAI، وMicrosoft، وAnthropic، وGoogle، مؤخرًا مع إدارة بايدن لإنشاء معهد سلامة الذكاء الاصطناعي واتحاد معهد سلامة الذكاء الاصطناعي الأمريكي (AISIC). الهدف هو تعزيز التطوير الآمن للذكاء الاصطناعي، ومكافحة التزييف العميق الناتج عن الذكاء الاصطناعي، ومعالجة قضايا الأمن السيبراني.
ويأتي هذا التطور في أعقاب إنشاء المعهد الأمريكي لسلامة الذكاء الاصطناعي (USAISI)، والذي تم إنشاؤه نتيجة للأمر التنفيذي الذي أصدره الرئيس جو بايدن بشأن سلامة الذكاء الاصطناعي في أواخر أكتوبر 2023.
مجلة: مشغل ChatGPT سعيد بالأسلحة النووية، الذكاء الاصطناعي لـ SEGA في الثمانينات، ارتفاع TAO بنسبة 90%: AI Eye
