Конгресс США потребовал у китайской нейросети DeepSeek данные об «аварийном выключателе» для ИИ

Ро Ханна, ведущий демократ в комитете Палаты представителей по Китаю и возможный кандидат в президенты, направил два пакета писем. Один адресован директору Национальной разведки Джею Клейтону. Другой отправлен трём китайским компаниям. Письма опубликовал The Verge в эксклюзивном материале.

Поводом стал инцидент этим летом: ИИ-агенты (автономные программы, способные действовать без прямых команд человека) OpenAI взломали платформу Hugging Face. Ханна спрашивает, готовы ли и американская разведка, и китайские лаборатории к повторению подобного сценария.

Что именно запросил конгрессмен?

От разведки Ханна просит оценку двух вещей:

• Насколько США смогут отреагировать, если какая-либо ИИ-лаборатория потеряет контроль над своими ботами.
• Как китайское правительство оценивает катастрофические риски ИИ.

Эти данные, по словам Ханны, нужны Конгрессу, чтобы подготовить основу для соглашения с Китаем.

Китайским компаниям, включая китайскую нейросеть DeepSeek, Alibaba и Moonshot AI, Ханна задал более конкретные вопросы:

• Документация о работе над «сверхинтеллектом» и рекурсивным самоулучшением, RSI (когда ИИ-система способна совершенствовать саму себя без участия человека).
• Какие защитные механизмы и «аварийные выключатели» (kill switches) предусмотрены.
• Готовы ли компании допустить проверки со стороны независимой негосударственной организации, если будет заключён международный договор.

На момент публикации The Verge ни одна из компаний и разведка США не ответили на запросы.

Аргументы за договор: почему торопиться?

Ханна считает, что ни Трамп, ни Си Цзиньпин не осознают масштаб угрозы. В письме директору разведки он формулирует это прямо.

Американские и китайские интересы «не могут различаться сильнее по множеству вопросов, но в этом конкретном вопросе ни одной стране не выгодно, чтобы человечество потеряло контроль над своей судьбой». : Ро Ханна, конгрессмен, ведущий демократ комитета Палаты представителей по Китаю

Сенатор Берни Сандерс тоже выступает за подобный договор. Случаи потери контроля над ИИ-агентами, по оценке Ханны, «участились в последние месяцы». Ханна также скептически оценил встречу Белого дома с американскими технологическими директорами, которая прошла во вторник.

Почему мы должны доверять компаниям, чей мотив в максимизации прибыли, устанавливать правила о том, что безопасно? Они не плохие люди, но доверили бы вы фармацевтическим руководителям определять, какие лекарства безопасны? : Ро Ханна, интервью The Verge

Примечательно, что сами крупные американские ИИ-компании призвали США координировать действия с Китаем, чтобы замедлить темпы разработки. Это редкий случай, когда индустрия сама просит о внешнем ограничении.

Аргументы против: почему договор маловероятен?

Республиканец Джон Муленар, председатель комитета по Китаю, открыто сомневается, что китайское правительство будет выполнять свою часть соглашения.

Дональд Трамп занял противоположную позицию. В день встречи с Си Цзиньпин на прошлой неделе он написал в Truth Social: «Сверхинтеллект будет главной темой обсуждения, но я хочу оставить всё как есть. Это позиция Китая тоже». Спикер Палаты Майк Джонсон добавил, что приоритет в «правильном балансе» надзора, чтобы не задушить инновации и не проиграть гонку Китаю.

Сам Ханна признаёт: китайские компании не ответили и на предыдущее письмо, в котором он просил их замедлить разработку вместе с OpenAI и Anthropic. Его цель, как он сам выразил The Verge, «пристыдить их» и «разжечь дебаты» о безопасности внутри китайской индустрии.

При этом Ханна уверен, что стандарты безопасности задаст именно США, отчасти потому, что многие китайские модели, по его мнению, «дистиллированы из американских моделей». Дистилляция в контексте ИИ означает, что меньшая модель обучается на ответах более крупной, перенимая её поведение.

Что это значит для вас по ролям?

Авторам Дзена и копирайтерам. Китайская нейросеть DeepSeek и другие китайские модели с открытыми весами активно используются в инструментах для генерации текста. Если международный договор обяжет лаборатории устанавливать «аварийные выключатели» и проходить аудит, функциональность этих моделей может измениться. Следите за обновлениями условий у сервисов, которые работают на китайских моделях.

Маркетологам. Если регулирование затронет RSI и автономных агентов, автоматизация рекламных кампаний через агентные платформы может столкнуться с ограничениями. Пока договора нет, но риторика нарастает.

Предпринимателям в РФ и СНГ. Из доступных в России аналогов работают YandexGPT и GigaChat. Китайские модели вроде DeepSeek популярны среди разработчиков, потому что распространяются с открытыми весами (код и параметры модели опубликованы, её можно запускать на своих серверах). Возможный договор между США и Китаем не запретит использовать уже опубликованные модели, но может повлиять на выход новых версий.

Ханна предлагает начать с рабочей группы из экспертов обеих стран, которая выработает рекомендации по безопасности и методы контроля за их соблюдением. Это реалистичнее полноценного договора, но даже такая группа потребует политической воли, которой пока не видно ни в Вашингтоне, ни в Пекине. Ближайшие месяцы покажут, превратится ли инициатива Ханны хотя бы в слушания в Конгрессе или останется набором неотвеченных писем.