يترك باحثو سلامة الذكاء الاصطناعي OpenAI بسبب مخاوف تتعلق بتحديد الأولويات

فريق OpenAI بأكمله الذي ركز على المخاطر الوجودية للذكاء الاصطناعي إما استقال أو تم استيعابه في مجموعات بحثية أخرى.

بعد أيام من إعلان إيليا سوتسكيفر، كبير العلماء في OpenAI وأحد مؤسسي الشركة، رحيله، أعلن جان لايكي، الباحث السابق في DeepMind والذي كان القائد المشارك الآخر لفريق OpenAI الفائق، نشر على X أنه استقال.

ووفقا لـ Leike، فإن رحيله عن الشركة كان بسبب مخاوفه بشأن أولوياتها، والتي يعتقد أنها تركز على تطوير المنتجات أكثر من سلامة الذكاء الاصطناعي.

صرح Leike، في سلسلة من المنشورات، أن قيادة OpenAI كانت مخطئة في اختيارها للأولويات الأساسية ويجب عليها التركيز على السلامة والاستعداد مع تقدم تطوير الذكاء العام الاصطناعي (AGI) للأمام.

AGI هو مصطلح يشير إلى ذكاء اصطناعي افتراضي يمكنه أداء نفس أداء البشر أو أفضل منه في مجموعة من المهام.

بعد قضاء ثلاث سنوات في OpenAI، انتقدت Leike الشركة لإعطاء الأولوية لتطوير منتجات مبهرجة على تعزيز ثقافة وعمليات سلامة الذكاء الاصطناعي القوية. وشدد على الحاجة الملحة لتخصيص الموارد، وخاصة القدرة الحاسوبية، لدعم أبحاث السلامة الحيوية لفريقه، والتي تم تجاهلها.

“…لقد كنت أختلف مع قيادة OpenAI حول الأولويات الأساسية للشركة لبعض الوقت حتى وصلنا أخيرًا إلى نقطة الانهيار. خلال الأشهر القليلة الماضية، كان فريقي يبحر ضد الريح…”

شكلت OpenAI فريقًا بحثيًا جديدًا في يوليو من العام الماضي للتحضير لظهور ذكاء اصطناعي ذكي للغاية يمكنه التفوق على مبدعيه والتغلب عليهم. تم تعيين كبير العلماء والمؤسس المشارك لشركة OpenAI، إيليا سوتسكيفر، كقائد مشارك لهذا الفريق الجديد، الذي حصل على 20% من الموارد الحسابية لشركة OpenAI.

متعلق ب: أسهم Reddit تقفز بعد ساعات العمل على صفقة OpenAI لمشاركة البيانات

بعد الاستقالات الأخيرة، اختارت OpenAI حل فريق “Superalignment” ودمج وظائفه في مشاريع بحثية أخرى داخل المنظمة. ويقال إن هذا القرار هو نتيجة لإعادة الهيكلة الداخلية المستمرة، والتي بدأت استجابة لأزمة الحوكمة في نوفمبر 2023.

كان Sutskever جزءًا من جهد أدى بنجاح إلى قيام مجلس إدارة OpenAI بطرد Altman لفترة وجيزة من منصب الرئيس التنفيذي في نوفمبر من العام الماضي قبل إعادة تعيينه لاحقًا في هذا المنصب بعد رد فعل عنيف من الموظفين.

وفقًا للمعلومات، أبلغ Sutskever الموظفين أن قرار مجلس الإدارة بإزالة Sam Altman يفي بمسؤوليتهم في ضمان قيام OpenAI بتطوير الذكاء الاصطناعي العام الذي يفيد البشرية جمعاء. بصفته أحد أعضاء مجلس الإدارة الستة، أكد Sutskever على التزام مجلس الإدارة بمواءمة أهداف OpenAI مع الصالح العام.

مجلة: كيفية الحصول على تنبؤات أفضل للعملات المشفرة من ChatGPT، انتقد دبوس Humane AI: AI Eye