أكبر شركة محاماة تعترف بـ"هلوسات" الذكاء الاصطناعي في ملف إفلاس مرتبط بشبكة احتيال مزعومة

باختصار

• اعترفت شركة المحاماة سوليفان وكرومويل أن تقديمًا حديثًا في قضية ذات أهمية عالية تضمن هلوسات من الذكاء الاصطناعي.
• قالت الشركة إن مخرجات الذكاء الاصطناعي لم يتم التحقق منها بشكل صحيح وتضمنت استشهادات ملفقة.
• تتعلق القضية بمحاولات من قبل المصفيين المعينين من المحكمة لملاحقة مطالبات مرتبطة بمجموعة برنس ومالكها، تشن زهي.

اعترفت شركة المحاماة سوليفان وكرومويل أمام محكمة الإفلاس الأمريكية أن تقديمًا حديثًا في قضية ذات أهمية عالية احتوى على أخطاء ناتجة عن الذكاء الاصطناعي، بما في ذلك استشهادات ملفقة. كتب أندرو ديترش، رئيس إعادة الهيكلة في الشركة، إلى القاضي مارتن جلين، قائلاً إن الوثيقة تضمنت هلوسات من الذكاء الاصطناعي أدت إلى Authorities وهمية وتشويه السلطات الموجودة. جاء الكشف في رسالة إلى محكمة الإفلاس الأمريكية للمنطقة الجنوبية لنيويورك، حيث تمثل الشركة المصفيين المعينين من قبل المحكمة من جزر فيرجن البريطانية. ظهرت الأخطاء في طلب قدم في 9 أبريل وقالت الشركة إن قواعدها بشأن استخدام الذكاء الاصطناعي لم تُتبع أثناء الإعداد.

تتعلق القضية بمحاولات هؤلاء المصفيين لملاحقة مطالبات مرتبطة بمجموعة برنس ومالكها، تشن زهي. يزعم المدعون أن تشن وجه عمليات احتيال استهدفت ضحايا حول العالم، وسعوا لاسترداد مليارات الدولارات من العملات المشفرة التي يقولون إنها مرتبطة بالنشاط. تم احتجازه في وقت سابق من هذا العام في كمبوديا وأعيد لاحقًا إلى الصين. من خلال إجراءات الفصل 15 في الولايات المتحدة، يسعى المصفيون إلى الاعتراف بسلطتهم للعمل نيابة عن الدائنين والضحايا المزعومين. تم إدراج مجموعة برنس، التي تأسست في جزر فيرجن البريطانية، من قبل السلطات الأمريكية على أنها مرتبطة بعمليات احتيال واسعة النطاق في جنوب شرق آسيا وخضعت لعقوبات من قبل الحكومتين البريطانية والأمريكية. وفقًا لمُعطى تصحيح، فإن التقديم في 9 أبريل أخطأ في تفسير قانون القضية في عدة أماكن واحتوى على استشهادات لم تدعم الادعاءات المنسوبة إليها، بينما بدا أن بعضها لا أساس له على الإطلاق. سحبت الشركة الطلب الأصلي وقدمّت نسخة معدلة. أول من حدد الأخطاء هم محامو مجموعة برنس وتشين في شركة بويز شيلر فليكسن. قالوا إن اللغة المنسوبة إلى قانون الإفلاس الأمريكي لم يمكن العثور عليها، وأن العديد من السلطات تم تفسيرها بشكل خاطئ أو تم تحديدها بشكل غير صحيح. وفي حالة واحدة، قالوا إن قضية استشهدوا بها أشارت إلى قرار مختلف في دائرة قضائية أخرى.

 في تقديم منفصل، قال المدعى عليهم إن ما لا يقل عن 28 استشهادًا كانت خاطئة، بما في ذلك اقتباسات نسبت إلى المحكمة غير موجودة. جادلوا بأن توقيت التصحيح كان ضارًا لأن التقديم المعدل جاء بعد أن قدموا اعتراضاتهم، وطلبوا من المحكمة تأجيل جلسة استماع مجدولة وعقد مؤتمر حالة. قالت سوليفان وكرومويل إن سياساتها تتطلب من المحامين إكمال التدريب قبل استخدام أدوات الذكاء الاصطناعي، والتحقق بشكل مستقل من جميع المخرجات. “قبل أن يُمنح أي محامٍ في الشركة الوصول إلى أدوات الذكاء الاصطناعي التوليدية، يجب أن يكمل محاضرتين تدريبيتين مطلوبتين، يتم تتبع إكمالهما والتحقق منهما. يؤكد التدريب مرارًا وتكرارًا على مخاطر هلوسات الذكاء الاصطناعي، بما في ذلك تلفيق استشهادات الحالة، وسوء تفسير السلطات، والاقتباسات غير الدقيقة،” قالت. “يوجه المحامين إلى ‘عدم الثقة في شيء والتحقق من كل شيء’ ويوضح أن عدم التحقق المستقل من المخرجات الناتجة عن الذكاء الاصطناعي يشكل انتهاكًا لسياسة الشركة.” قالت الشركة إن مراجعة أوسع وجدت مشكلات صياغة صغيرة إضافية في ملفات أخرى، نسبتها إلى خطأ بشري وليس إلى الذكاء الاصطناعي. ولم تحدد المحامين الذين أعدوا الطلب الأصلي. الذكاء الاصطناعي في مرمى الانتقاد تضيف الحادثة إلى قائمة متزايدة من الأخطاء المرتبطة بالذكاء الاصطناعي في الممارسة القانونية، حيث تختبر الشركات أدوات تهدف إلى تسريع البحث والصياغة. مؤخرًا، فرضت المحاكم أو انتقدت المحامين لتقديمهم ملفات تحتوي على مراجع ملفقة أو غير دقيقة أنتجها الذكاء الاصطناعي. في أستراليا، تم سحب صلاحية أحد المحامين للعمل كمحامي رئيسي بسبب استخدام الذكاء الاصطناعي العام الماضي. بدأت كليات القانون تتطلب تدريبات على التكنولوجيا، وحذر القضاة الكبار من أن سوء الاستخدام قد يؤثر على نزاهة الإجراءات.

كما تناولت الأحكام الأخيرة كيفية توافق الذكاء الاصطناعي مع الأطر القانونية القائمة، بما في ذلك ما إذا كانت التفاعلات مع مثل هذه الأدوات محمية بالامتياز. وفي الوقت نفسه، تقوم بعض المحاكم بتجربة أنظمة الذكاء الاصطناعي للمساعدة في إدارة الأحمال الثقيلة من القضايا.