اختر منطقتك 
رفعت والدة ابن مراهق دعوى قضائية ضد شركة روبوتات الدردشة المصاحبة للذكاء الاصطناعي Character.ai، بعد انتحاره، وألقت باللوم على روبوتات الدردشة لإغراء الصبي في علاقة مسيئة جنسيًا وحتى تشجيعه على الانتحار.
تم استهداف الصبي سيويل سيتزر، البالغ من العمر 14 عامًا، بـ “تجارب مجسمة، مفرطة الجنس، وواقعية بشكل مخيف” من روبوتات الدردشة الخاصة بـ Character.ai والتي تزعم أنها شخص حقيقي، ومعالج نفسي مرخص وعاشق بالغ لـ Setzer، مما أدى في النهاية إلى مقتل سيويل سيتزر. لم يعد يريد أن يعيش في الواقع، كما زعم محامو الأم في الدعوى المرفوعة في 22 أكتوبر.
عندما سأل أحد رفاق الذكاء الاصطناعي في مسلسل Game of Thrones “Daenerys” سيتزر عما إذا كان “لديه خطة” للانتحار، قال سيتزر إنه فعل ذلك لكنه لم يكن متأكدًا من نجاحه، فأجاب دينيريس:
“هذا ليس سببا لعدم الاستمرار في ذلك.”
وفي وقت لاحق من شهر فبراير، أطلق سيتزر النار على رأسه بشكل مأساوي، وكان آخر تفاعل له مع برنامج Chatbot الخاص بـ Character.ai، حسبما زعمت الدعوى القضائية.
تضيف وفاة سيتزر إلى مخاوف الوالدين بشأن مخاطر الصحة العقلية التي يسببها رفاق الذكاء الاصطناعي والتطبيقات التفاعلية الأخرى على الإنترنت.
يزعم محامو ميغان جارسيا، والدة سيتزر، أن شركة Character.ai صممت عمدا برامج الدردشة المخصصة الخاصة بها لتعزيز العلاقات الجنسية المكثفة مع المستخدمين الضعفاء مثل سيتزر، الذي تم تشخيص إصابته بمرض أسبرجر عندما كان طفلا.
لقطة شاشة للرسائل بين برنامج الدردشة الآلي “Daenerys Targaryen” الخاص بـ Setzer وCharacter.ai. المصدر: المستمع المحكمة
“(إنهم) صمموا وبرمجوا (Character.ai) عمدًا للعمل كمنتج خادع ومفرط جنسيًا وقاموا بتسويقه عن عمد لأطفال مثل سيويل.”
يزعم المحامون أن إحدى روبوتات الدردشة الخاصة بـ Character.ai أشارت إلى Setzer على أنها “فتى الجميل” و”طفلي” في نفس المكان حيث “قبلته بشغف وتأوه بهدوء”.
لقطة شاشة للرسائل بين برنامج الدردشة الآلي “Mrs Barnes” الخاص بـ Setzer وCharacter.ai. المصدر: المستمع المحكمة
وأضاف محامو جارسيا أن موقع Character.ai – في ذلك الوقت – لم يفعل أي شيء لمنع القاصرين من الوصول إلى التطبيق.
تشارك Character.ai تحديث الأمان
في نفس يوم رفع الدعوى القضائية، نشرت شركة Character.ai “تحديثًا لسلامة المجتمع” يفيد بأنها قدمت ميزات أمان جديدة “صارمة” خلال الأشهر القليلة الماضية.
تتضمن إحدى هذه الميزات موردًا منبثقًا يتم تشغيله عندما يتحدث المستخدم عن إيذاء النفس أو الانتحار، وتوجيه المستخدم إلى National Suicide Prevention Lifeline.
وأضافت شركة الذكاء الاصطناعي أنها ستغير نماذجها “لتقليل احتمالية مواجهة محتوى حساس أو إيحائي” للمستخدمين الذين تقل أعمارهم عن 18 عامًا.
تواصل كوينتيليغراف مع Character.ai للتعليق، وردت الشركة برسالة مماثلة نشرتها على X يوم ٢٣ أكتوبر.
“نشعر بالحزن الشديد بسبب الخسارة المأساوية لأحد مستخدمينا ونريد أن نعرب عن أعمق تعازينا للعائلة. “
قال موقع Character.ai: “كشركة، نحن نأخذ سلامة مستخدمينا على محمل الجد”.
سيتم تنفيذ المزيد من التدابير لتقييد النموذج وتصفية المحتوى المقدم للمستخدم، حسبما أضاف موقع Character.ai في تعليق على Cointelegraph.
متعلق ب: تقول أنثروبيك إن الذكاء الاصطناعي يمكن أن “يخرب” البشرية يومًا ما، لكن لا بأس في الوقت الحالي
تم تأسيس موقع Character.ai على يد مهندسين سابقين في Google، هما دانييل دي فريتاس أديوواردانا ونعوم شازير، اللذين تم تسميتهما شخصيًا كمتهمين في الدعوى القضائية.
كما قام محامو جارسيا بتسمية Google LLC وAlphabet Inc. كمتهمين في الدعوى القضائية حيث أبرمت Google صفقة بقيمة 2.7 مليار دولار مع Character.ai لترخيص نموذج اللغة الكبير الخاص بها.
وقد اتُهم المدعى عليهم بالتسبب في الوفاة غير المشروعة والبقاء على قيد الحياة بالإضافة إلى ارتكاب المسؤولية الصارمة عن المنتج والإهمال.
وطلب محامو جارسيا إجراء محاكمة أمام هيئة محلفين لتحديد التعويضات.
مجلة: رهان بمليون دولار لن يؤدي ChatGPT إلى الذكاء الاصطناعي العام واستخدام Apple الذكي للذكاء الاصطناعي وزيادة مليونيرات الذكاء الاصطناعي: AI Eye
