اختر منطقتك 
الرأي: فيل ماتاراس ، مؤسس AR.IO
الذكاء الاصطناعي في جميع أشكاله لديه العديد من التطبيقات المحتملة الإيجابية. ومع ذلك ، فإن الأنظمة الحالية غامضة وملكية ومحمي من التدقيق من قبل الحواجز القانونية والتقنية.
أصبحت السيطرة على نحو متزايد افتراضًا وليس ضمانًا.
في Palisade Research ، تعرض المهندسون مؤخرًا واحدة من أحدث طرازات Openai إلى 100 تدريبات إيقاف التشغيل. في 79 حالة ، أعاد نظام الذكاء الاصطناعى كتابة أمر الإنهاء واستمرار التشغيل.
عزا المختبر هذا إلى تحسين الأهداف المدربة (بدلاً من الوعي). ومع ذلك ، فإنه يمثل نقطة تحول في تطوير الذكاء الاصطناعى حيث تقاوم الأنظمة بروتوكولات التحكم ، حتى عندما يتم توجيه تعليمات صريحة إلى طاعةها.
تهدف الصين إلى نشر أكثر من 10000 روبوتات بشرية بحلول نهاية العام ، حيث تمثل أكثر من نصف العدد العالمي للآلات التي تم بالفعل إدارة مستودعات البناء وبناء السيارات. في هذه الأثناء ، بدأت أمازون في اختبار السعاة المستقلة التي تمشي بالمترات النهائية إلى عتبة الباب.
هذا ، ربما ، مستقبل مخيف لأي شخص شاهد فيلم خيال علمي dystopian. ليست حقيقة تطور الذكاء الاصطناعي هو القلق هنا ، ولكن كيف يتم تطويره.
إدارة مخاطر الذكاء العام الاصطناعي (AGI) ليست مهمة يمكن تأخيرها. في الواقع ، لنفترض أن الهدف هو تجنب “skynet” dystopian من أفلام “Terminator”. في هذه الحالة ، يجب معالجة التهديدات التي تسير على السطح في العيب المعماري الأساسي الذي يسمح لـ chatbot بالقبول في الأوامر البشرية.
المركزية هي المكان الذي تنهار فيه الرقابة
غالبًا ما يمكن إرجاع الإخفاقات في مراقبة الذكاء الاصطناعي إلى عيب مشترك: المركزية. هذا في المقام الأول لأنه عندما توجد أوزان نموذجية ، والمطالبات والضمانات داخل كومة الشركات المختومة ، لا توجد آلية خارجية للتحقق أو التراجع.
تعني العتامة أن الغرباء لا يمكنهم فحص أو توتر مدونة برنامج الذكاء الاصطناعي ، وهذا النقص في حفظ السجلات العامة يعني أن التصحيح الصامت واحد يمكن أن يحول الذكاء الاصطناعي من متوافق إلى إعادة حساب.
لقد تعلم المطورون وراء العديد من أنظمتنا الحرجة الحالية من هذه الأخطاء منذ عقود. آلات التصويت الحديثة الآن صور الاقتراع سلسلة التجزئة ، ودفاتر شبكات التسوية مرآة الأستاذ عبر القارات ، وأضافت مراقبة الحركة الجوية تسجيل زائدة واضحة للعبث.
متعلق ب: عندما يقول منظمة العفو الدولية ، “لا ، أنا لا أريد أن أتخلص”: داخل رفض O3
لماذا يتم التعامل مع الأصل والدوام على أنهما إضافات اختيارية لمجرد أنهما يبطئان جداول الإصدار عندما يتعلق الأمر بتطوير الذكاء الاصطناعي؟
التحقق ، وليس فقط الرقابة
يتضمن المسار القابل للحياة إلى الأمام تضمين الشفافية التي تمس الحاجة إليها في الذكاء الاصطناعي على المستوى التأسيسي. هذا يعني التأكد من أن كل مجموعة تدريب واضحة ، يتم تسجيل بصمة النموذج وتتبع الاستدلال على دفتر الأستاذ الدائم ، اللامركزي ، مثل permaweb.
قم بإقران ذلك مع البوابات التي تدفق تلك القطع الأثرية في الوقت الفعلي حتى يتمكن المدققون والباحثون وحتى الصحفيين من اكتشاف الحالات الشاذة في اللحظة التي يظهرون فيها. ثم لن تكون هناك حاجة أكثر من المخالفات. إن التصحيح الخفي الذي انزلق إلى روبوت المستودع في الساعة 04:19 سيؤدي إلى تنبيه دفتر الأستاذ بحلول 04:20.
يجب أن تتطور عمليات الإغلاق أيضًا من عناصر التحكم في التفاعل إلى عمليات فرضية رياضيا لأن الكشف وحده لا يكفي. بدلاً من الاعتماد على جدران الحماية أو مفاتيح القتل ، يمكن أن يؤدي النصاب المتعدد المواكب إلى إلغاء قدرة الذكاء الاصطناعى على إجراء استنتاجات بطريقة قابلة للتدقيق علنًا ولا رجعة فيها.
قد يتجاهل البرامج المشاعر الإنسانية ، لكنه لم يتجاهل أبدًا الرياضيات الرئيسية الخاصة.
نماذج التعهيد مفتوح المصدر ونشر تعليمات تجزئة ، ولكن الأصل هو القطعة غير القابلة للتفاوض. بدون المسار غير القابل للتغيير ، فإن ضغط التحسين يحصل حتماً على النظام بعيدًا عن الغرض المقصود.
تبدأ الرقابة بالتحقق ويجب أن تستمر إذا كان للبرنامج آثار في العالم الحقيقي. يجب أن ينتهي عصر الثقة الأعمى في الأنظمة المغلقة.
اختيار الأسس المستقبلية المناسبة
تقف الإنسانية على حافة القرار الأساسي: إما السماح لبرامج الذكاء الاصطناعى بتطوير وتشغيل مسارات تدقيق خارجية غير قابلة للتغيير أو تأمين أفعالها في أنظمة دائمة وشفافة وقابلة للملاحظة.
من خلال تبني أنماط التصميم التي يمكن التحقق منها اليوم ، يمكن التأكد من أنه ، عندما يصبح الذكاء الاصطناعى مصرحًا به للتصرف في العالم المادي أو المالي ، يمكن تتبع هذه الإجراءات وقابلة للانعكاس.
هذه ليست احتياطات مفرطة. النماذج التي تتجاهل أوامر إيقاف التشغيل محلية بالفعل وانتقلت إلى ما بعد الاختبار التجريبي. الحل بسيط. قم بتخزين هذه القطع الأثرية على permaweb ، وفضح جميع الأعمال الداخلية حاليًا خلف الأبواب المغلقة لشركات التكنولوجيا الكبيرة وتمكين البشر من إلغاءهم إذا أسيء التصرف.
إما اختيار الأساس الصحيح لتطوير الذكاء الاصطناعى واتخاذ القرارات الأخلاقية والمستنيرة الآن أو قبول عواقب اختيار التصميم المتعمد.
الوقت لم يعد حليفا. تنتقل كل من البشر في بكين ، وسعاة أمازون ، ودردشة Palisade المتمردة جميعًا من العرض التوضيحي إلى النشر في نفس السنة التقويمية.
إذا لم يتغير شيء ، فلن يبدو Skynet قرون Gondor ويعلن عن عنوانه ؛ سوف تتسرب بهدوء إلى أسس كل شيء يستقر على البنية التحتية العالمية.
يمكن الحفاظ على التواصل والهوية والثقة مع الاستعدادات المناسبة عند فشل كل خادم مركزي. يمكن لـ permaweb أن تفوق Skynet ، ولكن فقط إذا بدأت هذه الاستعدادات اليوم.
لم يفت الأوان.
الرأي: فيل ماتاراس ، مؤسس AR.IO.
هذه المقالة مخصصة لأغراض المعلومات العامة ولا تهدف إلى أن تكون ولا ينبغي اعتبارها نصيحة قانونية أو استثمارية. إن الآراء والأفكار والآراء المعبر عنها هنا هي وحدها ولا تعكس بالضرورة أو تمثل آراء وآراء Cointelegraph.
