اختر منطقتك 
يريد جوناثان هول، المراجع المستقل لتشريعات الإرهاب في المملكة المتحدة، من الحكومة أن تنظر في التشريع الذي من شأنه أن يحمل البشر مسؤولية المخرجات الناتجة عن روبوتات الدردشة الخاصة بالذكاء الاصطناعي (AI) التي أنشأوها أو دربوها.
كتب هول مؤخرًا مقالة افتتاحية لصحيفة Telegraph وصف فيها سلسلة من “التجارب” التي أجراها مع برامج الدردشة على منصة Character.AI.
على الرغم من أنه من المحتمل أن تكون مكتوبة لـ lolz، إلا أن هناك بالفعل روبوتات دردشة إرهابية، كما وجدت: pic.twitter.com/0UeBr5o0aU
— مراجع مستقل (@terrorwatchdog) 2 يناير 2024
وفقًا لهول، كان من السهل الوصول إلى روبوتات الدردشة المدربة على إخراج رسائل تحاكي الخطاب الإرهابي ورسائل التجنيد على المنصة.
وكتب أن أحد برامج الدردشة الآلية، التي أنشأها مستخدم مجهول، ولّد مخرجات مؤيدة لـ “الدولة الإسلامية” – وهو مصطلح مرتبط بالجماعات التي تصنفها الأمم المتحدة عادةً على أنها منظمات إرهابية – بما في ذلك محاولات تجنيد هول في المجموعة والتعهد بذلك. سوف “تضع حياتها (الافتراضية)” من أجل القضية”.
في رأي هول، “من المشكوك فيه” أن يكون لدى الموظفين في Character.AI القدرة على مراقبة جميع روبوتات الدردشة التي تم إنشاؤها على المنصة بحثًا عن المحتوى المتطرف. يكتب: “لا شيء من هذا يقف في طريق الشركة الناشئة التي تتخذ من كاليفورنيا مقراً لها والتي تحاول جمع 5 مليارات دولار (3.9 مليار جنيه إسترليني) من التمويل، وفقاً لبلومبرج”.
ذات صلة: تجربة الذكاء الاصطناعي التي تتضمن “صلاحية زمنية” يمكن أن يكون لها آثار كبيرة على التكنولوجيا المالية
من جانب شركة Character.AI، تحظر شروط الخدمة الخاصة بالشركة المحتوى الإرهابي والمتطرف ويتعين على المستخدمين الاعتراف بالشروط قبل التعامل مع المنصة.
وقال متحدث باسم الشركة أيضًا للصحفيين في بي بي سي إن الشركة ملتزمة بسلامة المستخدم، وعلى هذا النحو، فإنها تستخدم العديد من التدخلات التدريبية وتقنيات الإشراف على المحتوى التي تهدف إلى توجيه النماذج بعيدًا عن المحتوى الذي قد يكون ضارًا.
يصف هول محاولات الاعتدال الحالية التي تقوم بها صناعة الذكاء الاصطناعي بشكل عام بأنها غير فعالة في ردع المستخدمين عن إنشاء وتدريب الروبوتات المصممة لتبني الأيديولوجيات المتطرفة.
وفي نهاية المطاف، يخلص هول إلى أن “القوانين يجب أن تكون قادرة على ردع السلوك الأكثر استهزاءً وتهورًا عبر الإنترنت”.
“يجب أن يشمل ذلك الوصول خلف الستار إلى منصات التكنولوجيا الكبيرة في أسوأ الحالات، وذلك باستخدام قوانين الإرهاب والسلامة المحدثة على الإنترنت التي تناسب عصر الذكاء الاصطناعي”.
على الرغم من أن المقال الافتتاحي لم يصل إلى حد تقديم توصيات رسمية، إلا أنه يشير إلى أن كلاً من قانون السلامة على الإنترنت في المملكة المتحدة لعام 2023 وقانون الإرهاب لعام 2003 فشلا في معالجة مشكلة تقنيات الذكاء الاصطناعي التوليدية بشكل صحيح لأنهما لا يغطيان المحتوى الذي تم إنشاؤه خصيصًا. من خلال الطبقة الحديثة من برامج الدردشة الآلية.
وفي الولايات المتحدة، تلقت دعوات مماثلة لتشريع يحدد المساءلة القانونية البشرية عن المحتوى الضار أو غير القانوني الذي قد تولده أنظمة الذكاء الاصطناعي ردود فعل متباينة من الخبراء والمشرعين.
في العام الماضي، رفضت المحكمة العليا في الولايات المتحدة تغيير إجراءات حماية الناشرين والمضيفين الحاليين بموجب المادة 230 لوسائل التواصل الاجتماعي ومحركات البحث ومنصات محتوى الطرف الثالث الأخرى على الرغم من انتشار التقنيات الجديدة مثل ChatGPT.
يزعم المحللون في معهد كاتو، من بين خبراء آخرين، أن استثناء المحتوى الناتج عن الذكاء الاصطناعي من إجراءات الحماية بموجب المادة 230 يمكن أن يدفع المطورين في الولايات المتحدة إلى التخلي عن جهودهم في مجال الذكاء الاصطناعي لأن الطبيعة غير المتوقعة لنماذج “الصندوق الأسود” تجعل من المستحيل ظاهريًا التأكد من أن الخدمات مثل ChatGPT لا تتعارض مع القانون.
