شركة محاماة أمريكية تعتذر عن هلوسة الذكاء الاصطناعي في تقديم الملفات

قال أندرو ديتديريتش من سوليفان وكرومويل إن الشركة لديها سياسات ذكاء اصطناعي لمنع الاستشهادات غير الصحيحة والأخطاء الأخرى، ولكن لم يتم اتباع الإجراءات في هذه المناسبة.

اعتذرت شركة المحاماة في وول ستريت سوليفان آند كرومويل لقاضٍ فيدرالي بعد تقديم ملف للمحكمة يحتوي على حوالي 40 اقتباسًا غير صحيح وأخطاء أخرى ناجمة عن هلوسة الذكاء الاصطناعي.

وكتب أندرو ديتديريتش، الرئيس المشارك لفريق إعادة الهيكلة العالمي لشركة سوليفان وكرومويل، يوم الجمعة في رسالة إلى رئيس القضاة مارتن جلين من محكمة الإفلاس الأمريكية للمنطقة الجنوبية من نيويورك: “نأسف بشدة لحدوث ذلك”.

وقال عن طلب طارئ تم تقديمه قبل تسعة أيام: “أنا والشركة ندرك تمامًا مسؤوليتنا لضمان دقة جميع الطلبات بما في ذلك بموجب قاعدة الإفلاس المحلية 9011-1 (د)، وأنا أتحمل مسؤولية الفشل في القيام بذلك”.

مقتطف من رسالة أندرو ديتديريتش إلى رئيس القاضي مارتن جلين. مصدر: سوليفان وكرومويل

يسلط الحادث الضوء على المخاطر التي يمكن أن تشكلها أدوات الذكاء الاصطناعي في العمل المهني عالي المخاطر دون إشراف مناسب. سجلت قاعدة البيانات التي يديرها عالم التكنولوجيا القانوني داميان شارلوتين 1334 حادثة هلوسة بالذكاء الاصطناعي في ملفات المحكمة حول العالم، بما في ذلك أكثر من 900 حالة في الولايات المتحدة.

وأشار شارلوتين إلى أن معظم هذه الهلوسة تنطوي على استشهادات ملفقة، على الرغم من أنه تم أيضًا تحديد الحجج القانونية التي يولدها الذكاء الاصطناعي في بعض الأحيان.

وقال ديديريش إن شركة سوليفان وكرومويل لديها سياسات معمول بها لاستخدام أدوات الذكاء الاصطناعي، والتي تتضمن مراجعة الاستشهادات التي تستخدمها، لكنه قال إن السياسات لم يتم اتباعها.

“للأسف، لم تحدد عملية المراجعة هذه الاستشهادات غير الدقيقة الناتجة عن الذكاء الاصطناعي، كما أنها لم تحدد الأخطاء الأخرى التي يبدو أنها نتجت كليًا أو جزئيًا عن خطأ يدوي.”

تعد Sullivan & Cromwell واحدة من أكبر شركات المحاماة في الولايات المتحدة من حيث الإيرادات، حيث احتلت المرتبة 30 في AmLaw Global 200. كما مثلت الشركة أيضًا بورصة العملات المشفرة FTX في قضية إفلاسها.