Enligt The Guardian bad Andrew Dietderich, medchef för Sullivan & Cromwells globala omstruktureringsgrupp, i ett brev till den federala domaren Martin Glenn i New York på lördag om ursäkt för en rad misstag, som inkluderade felaktiga hänvisningar. Felen, som upptäcktes av advokatbyrån Boies Schiller Flexner (BSF), som också arbetade med fallet, innefattade felcitering av den amerikanska konkurslagen och felaktiga hänvisningar till fall i ett dokument som lämnades in den 9 april. I flera fall lämnade Sullivan & Cromwell in felaktigt sammanfattade slutsatser från andra fall med hjälp av AI.
Sullivan & Cromwell uppgav att de har omfattande policyer och utbildningskrav som reglerar användningen av AI-verktyg i juridiskt arbete, utformade för att fånga upp eventuella fel. Brevet indikerade dock att dessa AI-policyer inte följdes och att en sekundär granskningsprocess inte heller identifierade de felaktiga hänvisningarna som genererats av AI. Byrån lämnade senare in en korrigerad version till domstolen.
Vi beklagar djupt att detta har inträffat. Jag ber om ursäkt på hela vårt teams vägnar. Jag ringde också BSF på fredag för att tacka dem för att de uppmärksammade oss på denna sak och bad om ursäkt till dem direkt också.
Advokater är inte förbjudna att använda AI men är etiskt bundna att säkerställa riktigheten i domstolsdokument. Denna incident belyser riskerna med att förlita sig på AI-genererat innehåll i rättsliga förfaranden utan korrekt tillsyn. Fallet involverade Sullivan & Cromwells representation av likvidatorer utsedda av rättsliga myndigheter på Brittiska Jungfruöarna som är engagerade i åtgärder mot Prince Group, som ägs av den kinesiskfödde affärsmannen Chen Zhi. Förra åt åtalade amerikanska åklagare Chen Zhi för bedrägeri via telekommunikation och penningtvätt, med påståenden om att han ledde Prince Groups verksamhet med tvångsarbetsbedrägerianläggningar i Kambodja som stal miljarder dollar från offer i USA och runt om i världen.
I ett uttalande förra året förnekade Prince Group att Chen Zhi hade begått fel och kallade anklagelserna grundlösa. Separat lämnade amerikanska åklagare också in en rättslig åtgärd för att beslagta nästan 9 miljarder dollar i bitcoin som amerikanska myndigheter påstod representerade intäkterna från Prince Groups kriminella verksamhet. Chen Zhi greps tidigare i år i Kambodja och utlämnades till Kina på begäran av kinesiska myndigheter.