Безопасность ИИ моделей в США держится на личных переговорах: публичных критериев нет

Издание TechCrunch опубликовало расследование о том, как OpenAI получила разрешение на широкий публичный доступ к своей новой модели Sol. Параллельно похожий путь прошла модель Fable от Anthropic, которую Белый дом на короткое время запрещал из-за опасений по поводу её возможностей. Оба случая обнажили одну и ту же проблему: в США спустя полтора года работы администрации Трампа так и не появилось понятной процедуры оценки безопасности ИИ моделей перед их выпуском.

Что именно выяснили журналисты?

TechCrunch опросил исследователей, бывших советников Белого дома и основателей крупных технологических компаний, чтобы понять, каким образом OpenAI и Anthropic получили разрешение на выпуск своих моделей.

Суть проста: обе компании показали модели правительству и отдельным пользователям до широкого релиза, но ни состав тестировщиков, ни критерии оценки, ни само ведомство, принявшее решение, публично не названы.

Глава OpenAI Сэм Альтман заявил на CNBC, что вёл переговоры с министром торговли Говардом Лутником, министром финансов Скоттом Бессентом и национальным кибердиректором Шоном Кэйнкроссом. OpenAI отказалась раскрыть TechCrunch детали государственного процесса, но указала на результаты внешних оценок от организаций U.K. AISI, SecureBio и Irregular, включённых в карту безопасности модели.

Почему эксперты бьют тревогу?

Ключевые выводы расследования лучше всего передают прямые цитаты участников.

• Процесс непрозрачен даже для инсайдеров. Дин Болл, бывший советник Трампа по политике, ныне работающий в OpenAI, написал в своей рассылке: «Никто не знает, каковы требования для получения лицензии».

• Исследователи не имеют доступа к процедуре. Энди Конвински, учёный-информатик, сооснователь Databricks и Perplexity, заявил TechCrunch, что ни разу не говорил с человеком, который понимает этот процесс, включая сотрудников ведущих лабораторий.

• Нет согласия, какие модели вообще требуют проверки. По данным TechCrunch, до сих пор не определено, какие именно модели подлежат государственному контролю и какое ведомство проводит оценку.

• Регулирования «по типу FDA» не будет. Шрирам Кришнан, бывший старший советник Белого дома по ИИ, заявил Financial Times: «Не будет FDA для ИИ» (FDA, это Управление по контролю качества продуктов и лекарств, главный регулятор безопасности в США).

«Безопасность или нет, речь о том, у кого власть принимать решения, кто становится привратником и распределяет разрешения?» : Энди Конвински, сооснователь Databricks, в интервью TechCrunch

Политическое давление и конфликт интересов

Расследование TechCrunch обращает внимание на фон, в котором происходят переговоры. Альтман, по данным издания, предлагал до 5% акций OpenAI для так называемых «Счетов Трампа» (Trump Accounts). Президент OpenAI Грег Брокман назван крупнейшим публично известным донором политической кампании Трампа к промежуточным выборам.

Внешним наблюдателям трудно отделить эти действия от мягкого подхода правительства к регулированию Sol, отмечает TechCrunch. Модель Fable от Anthropic, напротив, на время лишили широкого доступа: правительство запретило её использование иностранными гражданами, частично из-за рисков «джейлбрейка» (обхода ограничений модели для доступа к хакерским возможностям), частично из-за личных конфликтов между Anthropic и администрацией.

Угроза экспортного запрета, вероятно, сделала OpenAI более сговорчивой, полагает TechCrunch.

Что с этого российскому читателю?

Авторам Дзена и копирайтерам. Когда вы пишете об ИИ-инструментах, полезно понимать: даже в США, где сосредоточены крупнейшие лаборатории, безопасность ИИ моделей не подтверждена независимой публичной процедурой. Ссылка на «одобрение правительством» в тексте про нейросеть сейчас значит гораздо меньше, чем кажется.

Маркетологам. Любой продукт на базе Sol, Fable или аналогичных моделей выходит на рынок без формализованного аудита. Это стоит учитывать при оценке рисков для клиентских проектов.

Предпринимателям в РФ и СНГ. В России прозрачного процесса допуска мощных нейросетей к широкому использованию тоже нет. Из доступных в РФ моделей с локальным регулированием работают YandexGPT и GigaChat, но публичных критериев оценки их безопасности перед релизом не публиковалось. Американский пример показывает: даже при наличии политической воли процесс превращается в кулуарные переговоры, а не в стандартизированную проверку.

Конвински и Болл сходятся в одном: выходом могут стать независимые аудиторские организации, лицензированные государством, и «открытые площадки» по модели национальных лабораторий или FDA, где исследователи, чиновники и компании вырабатывают консенсус. Пока ни один из этих форматов не запущен, каждая следующая модель будет выходить к пользователям тем же путём: через закрытые переговоры, итог которых не может проверить никто.

По данным TechCrunch