Применение ИИ в политике: в оборонной поправке Конгресса нашли след чатбота Claude

Инцидент всплыл не из расследования и не из утечки, а из скриншота: в кратком описании (summary) поправки к Закону о полномочиях в сфере национальной обороны на 2027 год (National Defense Authorization Act) остался фрагмент, характерный для ответа чатбота Claude от Anthropic. Текст начинался с метки «11:25 AM» и слов «Claude responded», после чего шло описание поправки. Историю подхватили пользователи X (бывший Twitter), а затем и технологические издания, в частности The Verge, которое первым опубликовало подробности.

Что случилось на самом деле?

Сначала Луна написала в X, что «сотрудники использовали ИИ для правки черновика и не отредактировали результат». Она добавила: большинство помощников конгрессменов пользуются ИИ, и она просила их быть внимательнее.

Когда пользователи начали предполагать, что ИИ писал сам законопроект, Луна отредактировала пост. Новая версия гласила: сотрудники применяли ИИ только для проверки орфографии и грамматики в кратком описании поправки, а не в тексте самой поправки.

Затем последовал ещё один пост, где Луна подчеркнула: весь текст законопроектов в Палате представителей готовит Законодательный совет Палаты (House Legislative Council), которому запрещено использовать ИИ.

«Ни один законопроект не пишется с помощью ИИ. Весь текст законопроектов в Палате готовит Законодательный совет Палаты, которому запрещено использовать ИИ. Скриншот, на который вы ссылаетесь, это краткое описание законопроекта, сделанное ИИ и также использованное для проверки орфографии.» : Анна Паулина Луна, конгрессвумен (R-FL)

Луна не первая: ИИ уже пишет законы и судебные документы

Случай Луны не изолирован. По данным The Verge, за последние годы судьи неоднократно ловили адвокатов на том, что те подавали юридические документы, подготовленные ИИ-чатботами и содержавшие вымышленные ссылки на судебные прецеденты, так называемые галлюцинации (когда ИИ уверенно выдумывает факты, которых не существует).

В Бразилии городские чиновники одобрили муниципальное постановление, написанное при помощи ChatGPT, даже не зная об этом. Депутат штата Аризона Александр Колодин публично заявил The Verge, что использовал ChatGPT для написания законодательства штатного уровня.

Применение ИИ в политике перестаёт быть теорией и становится документированной практикой. Причём в данном случае след обнаружили не аудиторы, а обычные пользователи соцсетей, просто потому что помощник конгрессвумен не удалил строку «Claude responded» из документа.

Что это значит для вас?

• Авторам Дзена. Проверяйте текст перед публикацией на артефакты ИИ. Строка «Claude responded» или «Конечно, я помогу» в опубликованном материале убивает доверие мгновенно. Простой поиск по тексту занимает секунды и спасает репутацию.

• Маркетологам и копирайтерам. Случай показывает: даже когда ИИ используется «только для проверки орфографии», ответственность за финальный текст остаётся на человеке. Прописывайте в редакционной политике, на каком этапе и для чего допускается ИИ, и кто вычитывает результат.

• Предпринимателям в РФ. Пока нет чётких регуляций, фиксируйте внутренние правила сами: где ваши сотрудники могут применять ИИ, где нет, и кто отвечает за проверку. Регулирование придёт, но ваша репутация не будет ждать.

Этот случай станет аргументом для тех, кто продвигает обязательную маркировку ИИ-контента в официальных документах. Если строка чатбота попадает в оборонное законодательство и обнаруживается случайно, значит, системы контроля пока нет, есть только запрет на бумаге и надежда, что сотрудник не забудет нажать Delete.