У Каліфорнії суддя розкритикував дві юридичні компанії за приховане використання штучного інтелекту, після того як отримав додатковий документ з “безліччю неправдивих, неточних і оманливих юридичних посилань та цитат”. У постанові, поданій минулого тижня, суддя Майкл Вінер наклав штраф у 31 тисячу доларів на залучені юридичні фірми, зазначивши, що “жоден компетентний адвокат не повинен делегувати дослідження та написання документів штучному інтелекту”, як підкреслили професори права Ерік Голдман і Блейк Рейд.

Суддя Вінер пише: “Я прочитав їхній документ, був переконаний (або принаймні зацікавлений) авторитетами, яких вони цитували, і перевірив рішення, щоб дізнатися більше про них – тільки щоб виявити, що їх не існує. Це страшно. Це майже призвело до ще більш страшного результату (з моєї точки зору) – включення цих фальшивих матеріалів до судового наказу”.

У поданні зазначено, що юридичний представник позивача у цивільному позові проти State Farm використовував штучний інтелект для створення структури додаткового документа. Однак ця структура містила “фальшиві дані, згенеровані штучним інтелектом”, коли її надіслали іншій юридичній фірмі, K&L Gates, яка додала цю інформацію до свого документа. “Жоден адвокат або співробітник жодної з фірм, очевидно, не перевіряв або не переглядав це дослідження перед поданням”, – пише суддя Вінер.

Коли суддя Вінер переглянув документ, він виявив, що “принаймні два з вказаних авторитетів взагалі не існують”. Після звернення до K&L Gates для уточнень, фірма повторно подала документ, в якому, за словами судді Вінера, було “значно більше вигаданих цитат і посилань, крім двох початкових помилок”. Він потім видав наказ, у результаті якого адвокати надали під присягою свідчення, що підтверджують використання штучного інтелекту. Адвокат, який створив структуру, зізнався, що використовував Google Gemini та інструменти юридичного дослідження на Westlaw Precision з CoCounsel.

Це не перший випадок, коли адвокати були впіймані при використанні штучного інтелекту в суді. Колишній адвокат Трампа Майкл Коен згадував вигадані судові справи в юридичному документі, помилково вважаючи Google Gemini, раніше відомий як Bard, “суперзарядженим пошуковим двигуном”, а не чат-ботом. Суддя також виявив, що адвокати, які подали позов проти колумбійської авіакомпанії, включили безліч фальшивих справ, згенерованих ChatGPT, у свій документ.

Суддя Вінер наголосив: “Початкове, непросвітлене використання продуктів штучного інтелекту для створення першого розділу документа було абсолютно неправильним. А надсилання цього матеріалу іншим адвокатам без розкриття його сумнівного походження дійсно поставило цих професіоналів у небезпеку”.