"Sic AI's على بعضها البعض" لحل تهديد الذكاء الاصطناعي: ديفيد برين، مؤلف

ديفيد برين، مؤلف الخيال العلمي الحائز على جائزة هوغو ونيبولا رفع روايات و ساعي البريد، ابتكرت خطة لمكافحة التهديد الوجودي من الذكاء الاصطناعي المارق.

ويقول إن شيئًا واحدًا فقط نجح في التاريخ للحد من السلوك السيئ للأشرار. ولا نطلب منهم ذلك بشكل جيد، ولا ننشئ قواعد أخلاقية أو مجالس أمان.

وهذا ما يسمى بالمساءلة المتبادلة، ويعتقد أنها ستعمل مع الذكاء الاصطناعي أيضًا.

“تمكين الأفراد من مساءلة بعضهم البعض. ونحن نعرف كيفية القيام بذلك بشكل جيد إلى حد ما. وإذا تمكنا من جعل الذكاء الاصطناعي يقوم بذلك، فقد يكون هناك هبوط سلس في انتظارنا.

“كذا على بعضهم البعض. اجعلهم يتنافسون، أو حتى يثرثرون أو يطلقون الصافرة على بعضهم البعض.

وبطبيعة الحال، فإن قول ذلك أسهل من فعله.

تحدثت المجلة مع برين بعد أن قدم عرضًا تقديميًا حول فكرته في مؤتمر الذكاء العام الاصطناعي المفيد (AGI) الأخير في بنما. إنه بسهولة أفضل خطاب تم تلقيه من المؤتمر، حيث تم الترحيب به بالتصفيق والتصفيق.

يضع برين “العلم” في كتاب الخيال العلمي – فهو حاصل على درجة الدكتوراه في علم الفلك ويعمل مستشارًا لوكالة ناسا. ويقول إن كوني مؤلفًا كان “خيار حياتي الثاني” بعد أن أصبحت عالمًا، “لكن يبدو أن الحضارة أصرت على أنني كاتب أفضل من أن أكون فيزيائيًا”.

تمت ترجمة كتبه إلى 24 لغة، على الرغم من أن اسمه سيظل مرتبطًا إلى الأبد بقنبلة شباك التذاكر لكيفن كوستنر. ساعي البريد. لكن هذا ليس خطأه؛ فازت الرواية الأصلية بجائزة Locus لأفضل رواية خيال علمي.

مؤيد الخصوصية والشفافية

يتحدث برين، وهو مؤلف يتبع قلب مجتمع العملات المشفرة، عن الشفافية والمراقبة منذ منتصف التسعينيات، لأول مرة في مقالة مؤثرة لمجلة Wired والتي حولها إلى كتاب واقعي بعنوان المجتمع الشفاف في العام 1998.

يقول: “إنها تعتبر كلاسيكية في بعض الدوائر”.

في عمله، توقع برين أن التكنولوجيا الجديدة ستؤدي إلى تآكل الخصوصية وأن الطريقة الوحيدة لحماية الحقوق الفردية هي منح الجميع القدرة على اكتشاف متى يتم انتهاك حقوقهم.

لقد اقترح إنشاء “مجتمع شفاف” يعرف فيه أغلب الناس ما يجري في أغلب الأوقات، مما يسمح للمراقبين بمراقبة المراقبين. تنبأت هذه الفكرة بشفافية وثبات blockchain.

في قدرٍ من التناسق الأنيق، تم طرح أفكاره الأولية حول تحفيز الذكاء الاصطناعي لمراقبة بعضهم البعض لأول مرة في مقال آخر على موقع Wired العام الماضي، والذي شكل أساس حديثه والذي يعمل حاليًا على تحويله إلى كتاب.

يُظهر التاريخ كيفية هزيمة طغاة الذكاء الاصطناعي

يعتقد برين، وهو طالب متحمس للتاريخ، أنه يجب إعادة تسمية الخيال العلمي بـ “التاريخ التأملي”.

ويقول إن هناك قصة واحدة مؤثرة للغاية ودرامية ومرعبة: معركة البشرية الطويلة لشق طريقها للخروج من الوحل، و6000 عام من الإقطاع، والناس “يضحون بأطفالهم للبعل” التي ميزت الحضارة المبكرة.

ولكن مع الديمقراطية المبكرة في أثينا ثم في فلورنسا، ومع التنظير السياسي لآدم سميث في اسكتلندا، ومع الثورة الأمريكية، طور الناس أنظمة جديدة سمحت لهم بالتحرر.

“وما هو الأساسي؟ لا تدع السلطة تتراكم. إذا وجدت طريقة ما لإثارة الصراع بين النخب، فسيكونون مشغولين جدًا بحيث لا يمكنهم قمعك.

الذكاء الاصطناعي: كائنات مفترسة شديدة الذكاء

بغض النظر عن التهديد الذي يشكله الذكاء الاصطناعي، “لدينا بالفعل حضارة مليئة بالكائنات المفترسة فائقة الذكاء”، كما يقول برين، متوقفًا للحظة قبل أن يضيف: “إنهم يطلق عليهم محامون”.

بصرف النظر عن النكتة الصغيرة اللطيفة، فهي أيضًا تشبيه جيد لأن الأشخاص العاديين لا يضاهيون المحامين، وعدد أقل بكثير من الذكاء الاصطناعي.

“ماذا تفعل في هذه الحالة؟ أنت تقوم بتعيين محاميك المفترس شديد الذكاء. أنت كذاهم على بعضهم البعض. ليس عليك أن تفهم القانون كما يفهمه المحامي حتى يكون لديك وكيل محامٍ يقف إلى جانبك.

وينطبق الشيء نفسه على الأقوياء والأغنياء. في حين أنه من الصعب على الشخص العادي محاسبة إيلون ماسك، فإن مليارديرًا آخر مثل جيف بيزوس سيكون لديه فرصة.

لذا، هل يمكننا تطبيق نفس النظرية لجعل أنظمة الذكاء الاصطناعي تحاسب بعضها البعض؟ وفي الواقع، يمكن أن يكون هذا هو خيارنا الوحيد، حيث أن ذكائهم وقدراتهم قد تنمو إلى ما هو أبعد بكثير مما يمكن أن تتصوره العقول البشرية.

“إنه النموذج الوحيد الذي نجح على الإطلاق. لا أضمن أنه سيعمل مع الذكاء الاصطناعي. لكن ما أحاول قوله هو أن هذا هو النموذج الوحيد القادر على ذلك».

تفرد الذكاء الاصطناعي

لكن هناك مشكلة كبيرة في الفكرة. وتعتمد جميع آليات المساءلة لدينا في نهاية المطاف على تحميل الأفراد المسؤولية.

لذا، لكي تنجح فكرة برين، يجب أن يكون لدى أنظمة الذكاء الاصطناعي إحساس بفرديتها، أي أن يكون لديها ما تخسره من السلوك السيئ وشيء تكسبه من مساعدة الشرطة المارقة التي تخرق قواعد الذكاء الاصطناعي.

“يجب أن يكونوا أفرادًا يمكن محاسبتهم فعليًا. يقول: “من يمكن تحفيزه بالمكافآت وتثبيطه بالعقوبات”.

ليس من الصعب جدًا معرفة الحوافز. من المرجح أن يسيطر البشر على العالم المادي لعقود من الزمن، لذلك يمكن مكافأة الذكاء الاصطناعي بمزيد من الذاكرة أو قوة المعالجة أو الوصول إلى الموارد المادية.

“وإذا كانت لدينا هذه القوة، فيمكننا مكافأة البرامج الفردية التي تبدو على الأقل أنها تساعدنا ضد الآخرين الحاقدين”.

ولكن كيف يمكننا أن نجعل كيانات الذكاء الاصطناعي “تتحد في أفراد منفصلين ومحددين بشكل منفصل يتمتعون بقوة تنافسية متساوية نسبيا؟”

ومع ذلك، فإن إجابة برين تنجرف إلى عالم الخيال العلمي. فهو يقترح أن بعض المكونات الأساسية للذكاء الاصطناعي – “نواة الروح”، كما يسميها – يجب الاحتفاظ بها في موقع مادي محدد حتى لو كانت الغالبية العظمى من النظام تعمل في السحابة. سيكون لنواة الروح معرف تسجيل فريد مسجل على blockchain، والذي يمكن سحبه في حالة حدوث سلوك سيئ.

سيكون من الصعب للغاية تنظيم مثل هذا المخطط في جميع أنحاء العالم، ولكن إذا رفض عدد كافٍ من الشركات والمنظمات ممارسة الأعمال التجارية مع أنظمة الذكاء الاصطناعي غير المسجلة، فقد يكون النظام فعالاً.

أي ذكاء اصطناعي بدون نواة روح مسجلة سيصبح خارجًا عن القانون ويتجنبه المجتمع المحترم.

وهذا يؤدي إلى المشكلة الكبيرة الثانية المتعلقة بالفكرة. بمجرد أن يصبح الذكاء الاصطناعي خارجًا عن القانون (أو بالنسبة لأولئك الذين لم يسجلوا مطلقًا)، فسنفقد أي نفوذ عليه.

هل الفكرة هي تحفيز أنظمة الذكاء الاصطناعي “الجيدة” لمحاربة الأنظمة المارقة؟

“أنا لا أضمن أن أيًا من هذا سينجح. كل ما أقوله هو أن هذا هو ما نجح.”

ثلاثة قوانين للروبوتات ومواءمة الذكاء الاصطناعي

واصل برين عمل إسحاق أسيموف مع انتصار المؤسسة في عام 1999، لذلك قد تعتقد أن الحل الذي قدمه لمشكلة المحاذاة كان يتضمن ربط قوانين الروبوتات الثلاثة لأسيموف بالذكاء الاصطناعي.

تنص القواعد الثلاثة بشكل أساسي على أن الروبوتات لا يمكنها إيذاء البشر أو السماح بإلحاق الأذى بالبشر. لكن برين لا يعتقد أن القوانين الثلاثة للروبوتات لديها أي فرصة للعمل. بداية، لا أحد يبذل أي جهد جدي لتنفيذها.

“افترض إسحاق أن الناس سيكونون خائفين جدًا من الروبوتات في السبعينيات والثمانينيات – لأنه كان يكتب في الأربعينيات – لدرجة أنهم سيصرون على تخصيص مبالغ هائلة من المال لإنشاء برامج التحكم هذه. الناس ليسوا خائفين كما توقع إسحاق منهم. ولذلك، فإن الشركات التي تخترع أنظمة الذكاء الاصطناعي هذه لا تنفق هذه الأموال.

المشكلة الأكثر جوهرية هي أن برين يقول إن أسيموف نفسه أدرك أن القوانين الثلاثة لن تنجح.

ابتكر أحد شخصيات الروبوت التي ابتكرها أسيموف ويدعى جيسكارد قانونًا إضافيًا يُعرف باسم قانون زيروث، والذي يمكّن الروبوتات من فعل أي شيء يبررونه على أنه في مصلحة البشرية على المدى الطويل.

“لا يجوز للروبوت أن يؤذي الإنسانية، أو، من خلال التقاعس عن العمل، قد يسمح للبشرية بأن تلحق الأذى.”

لذا، مثل المحامين البيئيين الذين نجحوا في تفسير حق الإنسان في الخصوصية بطرق إبداعية لفرض العمل بشأن تغير المناخ، تستطيع الروبوتات المتقدمة بالقدر الكافي تفسير القوانين الثلاثة بأي طريقة تختارها.

لذلك هذا لن ينجح.

في حين أنه يشك في نجاح مناشدة الطبيعة الأفضل للروبوتات، يعتقد برين أننا يجب أن نقنع الذكاء الاصطناعي بفوائد إبقائنا في الجوار.

يقول: “أعتقد أنه من المهم جدًا أن ننقل لأطفالنا الجدد، الذكاء الاصطناعي، أن حضارة واحدة فقط هي التي صنعتهم”، مضيفًا أن حضارتنا تقف على الحضارات التي سبقتها، تمامًا كما يقف الذكاء الاصطناعي عليها. أكتافنا.

“إذا كان لدى الذكاء الاصطناعي أي حكمة على الإطلاق، فسوف يعلمون أن إبقائنا بالقرب من أكتافنا ربما يكون فكرة جيدة. بغض النظر عن مدى ذكاءهم أكثر منا. ليس من الحكمة الإضرار بالنظام البيئي الذي خلقك.”

أندرو فنتون

أندرو فينتون، المقيم في ملبورن، هو صحفي ومحرر يغطي العملات المشفرة والبلوكتشين. لقد عمل كاتبًا ترفيهيًا وطنيًا في News Corp Australia، وفي SA Weekend كصحفي سينمائي، وفي The Melbourne Weekly.

اتبع المؤلف @أندروفنتون