Судебный приказ в Джорджии содержит юридические ссылки, сгенерированные искусственным интеллектом с ошибками

Заседание по апелляции в Верховном суде Джорджии выявило серьёзные ошибки в цитировании в постановлении суда первой инстанции, причём есть основания полагать, что к ним привели галлюцинации искусственного интеллекта. Во время слушаний по апелляции на обвинительный приговор по делу об убийстве председатель Верховного суда Нэлс С.Д. Петерсон указал на серьёзные проблемы в постановлении суда первой инстанции об отказе в новом судебном разбирательстве.

Ключевые детали слушания

Согласно исходному материалу, председатель Верховного суда Петерсон заявил, что постановление содержало:

• «Как минимум пять ссылок на дела, которых не существует»
• «Как минимум ещё пять ссылок на дела, которые не подтверждают положения, для подтверждения которых они приведены»
• «Три цитаты, которых не существует»

Прокурор Лесли ответила, что первоначально представленный ею проект постановления был переработан, и она не несёт ответственности за ошибочные ссылки. Однако председатель Верховного суда Петерсон возразил: «Эти несуществующие дела были указаны в вашем первоначальном меморандуме, возражающем против ходатайства о новом судебном разбирательстве».

Доступная документация

Источник указывает, что для изучения доступны два ключевых документа:

• 33-страничное постановление об отказе в новом судебном разбирательстве
• 37-страничный проект постановления от штата

Этот инцидент подчёркивает риски использования инструментов искусственного интеллекта для юридических исследований и цитирования без тщательной проверки. Хотя источник не указывает, какой именно инструмент ИИ был использован, характер галлюцинированных дел и неправильно приписанных цитат соответствует известным ограничениям современных больших языковых моделей в юридическом контексте.