ChatGPT выдумал свидетелей в апелляции: судебные ошибки стоили адвокату 40 лет карьеры

Верховный суд штата Нью-Мексико признал адвоката виновным в неуважении к суду за то, что тот подал апелляционную жалобу, сгенерированную ChatGPT и содержавшую показания полностью вымышленных свидетелей.

Случай стал одним из самых жёстких примеров того, как chatgpt судебные ошибки приводят к реальным профессиональным последствиям: 40 лет практики не спасли юриста от дисциплинарного разбирательства.

Источник события: Ars Technica со ссылкой на ордер Верховного суда Нью-Мексико от среды. Адвокат Стивен Ааронс, уголовный защитник с более чем 40-летним стажем, был нанят родственниками осуждённого Оскара Рене Сандовала для обжалования приговора по делу об убийстве. Сандовал был приговорён к пожизненному заключению в феврале 2025 года. Примерно в августе 2025 года Ааронс подал апелляционную жалобу, которую он создал, загрузив стенограмму судебного заседания в ChatGPT.

Что именно произошло?

• Адвокат скормил стенограмму процесса в ChatGPT и на основе ответа нейросети составил апелляционную жалобу по делу об убийстве.
• ChatGPT выдумал свидетелей целиком. Суд перечислил конкретные имена несуществующих людей: офицер Мишель Амарильо, офицер Санчес, Маналь Аль-Джибьюри и Тереза Маркез. Ни одного из этих свидетелей не существовало в материалах дела.
• Нейросеть сфабриковала показания реальных людей. Дэнни Стэнтону были приписаны показания об угрозах, которых он не давал. Его жене Линде Стэнтон приписаны слова о тех же угрозах. Мария Чавез и вымышленная Тереза Маркез якобы описывали одежду и внешность стрелка.
• Ааронс исказил юридические ссылки: цитаты из прецедентов, на которые он ссылался, также оказались недостоверными.
• Адвокат признал, что не проверял ни факты, ни юридические ссылки перед тем, как подписать и подать документ в суд. Он также не сообщил своему клиенту, что жалоба содержит множественные фактические и правовые искажения.
• Суд заключил, что Ааронс «продемонстрировал отсутствие раскаяния и отсутствие заботы о своём клиенте».

Почему chatgpt судебные ошибки опасны именно в юридических документах?

Через несколько недель после подачи жалобы штат Нью-Мексико подал ходатайство об исключении её частей. Суд провёл разбирательство и установил, что документ содержал «ложные показания полностью сфабрикованных свидетелей». Это не опечатка и не неточная формулировка. Нейросеть создала правдоподобные, но полностью выдуманные показания с конкретными именами, деталями и контекстом.

Для клиента последствия катастрофичны: человек, осуждённый за убийство и приговорённый к пожизненному заключению, лишился шанса на корректную апелляцию. Суд прямо указал, что адвокат не заботился об интересах своего подзащитного.

Что это значит для российских юристов и авторов?

• Юристам в РФ и СНГ. Пока в России нет прямого регулирования использования ИИ в судебных документах. Но принцип ответственности тот же: подпись под документом означает, что вы ручаетесь за каждый факт. Если YandexGPT или GigaChat выдумают ссылку на несуществующее постановление Пленума Верховного Суда, отвечать будет не нейросеть, а адвокат.
• Авторам и копирайтерам на Дзене. Механизм галлюцинаций одинаков в юриспруденции и в контенте. Если ChatGPT или другая модель выдумывает свидетелей в судебном деле, она с тем же успехом выдумает исследование, цитату эксперта или статистику в вашей статье. Проверка каждого факта обязательна, не потому что правила площадки, а потому что вы подписываете текст своим именем.
• Предпринимателям. Если ваши сотрудники используют ИИ для подготовки договоров, претензий, жалоб, нужен внутренний регламент проверки. Случай Ааронса показывает: 40 лет опыта не компенсируют слепое доверие к генератору текста.

Как не повторить эту ошибку?

1. Никогда не подавайте и не публикуйте текст ИИ без ручной проверки каждого факта, имени и ссылки. Ааронс признал, что не сделал ни одной проверки.
2. Перепроверяйте ссылки на источники. Откройте каждый цитируемый документ, убедитесь, что он существует и говорит то, что указано в тексте.
3. Сообщайте клиенту или заказчику, если документ создан с помощью ИИ. Ааронс не сообщил своему клиенту, суд расценил это как отягчающее обстоятельство.

Частые вопросы

Может ли суд в России наказать за использование ChatGPT в документах?

Прямого запрета на использование ИИ в юридических документах в РФ пока нет. Но ответственность за содержание документа несёт тот, кто его подписал. Если адвокат подаст жалобу с вымышленными ссылками на постановления, последствия наступят по действующим нормам профессиональной этики и процессуального законодательства, вне зависимости от того, кто написал текст.

Почему ChatGPT выдумывает свидетелей и судебные прецеденты?

Языковая модель не «знает» фактов. Она генерирует статистически вероятное продолжение текста. Если контекст требует имени свидетеля или номера дела, модель создаст правдоподобное, но несуществующее имя или номер. Это называется галлюцинацией. Модель не отличает реальный факт от сгенерированного.

Как проверить, не выдумал ли ChatGPT факт?

Единственный надёжный способ: найти первоисточник вручную. Откройте базу судебных решений, проверьте имя свидетеля по материалам дела, найдите цитируемую статью. Если источник не находится, факт с высокой вероятностью выдуман. Никакой промпт и никакая настройка модели не гарантируют отсутствие галлюцинаций.