OpenAI, Anthropic и Google впервые объединились ради безопасности ИИ, не дожидаясь властей

Крис Лехейн, глава глобальной политики OpenAI, 10 июня подтвердил журналистам, что компания уже несколько недель работает с прямыми конкурентами Anthropic и Google DeepMind над вопросами безопасности ИИ, причём делает это на фоне открытого скептицизма Белого дома к любым ограничениям.

Первым об этих переговорах сообщило агентство Bloomberg. Лехейн находился в Вашингтоне, чтобы обсудить с законодателями катастрофические риски, связанные с передовыми моделями искусственного интеллекта. Неделей ранее генеральный директор Anthropic Дарио Амодеи опубликовал эссе, в котором призвал индустрию совместно замедлить разработку передовых систем и предотвратить катастрофические последствия. Призыв поддержали Сэм Альтман из OpenAI, Демис Хассабис из Google и Илон Маск.

Что именно обсуждают и почему это необычно?

• Совместная работа конкурентов. OpenAI, Anthropic и Google DeepMind ведут переговоры о координации мер безопасности ИИ. Альтман заявил, что OpenAI готов допустить в компанию сторонних оценщиков для мониторинга безопасности, так же как это предложила сделать Anthropic.

• Создание отраслевого органа стандартов. По данным издания The Information, три компании работают над созданием отраслевого органа стандартизации для ИИ. Альтман, по тем же данным, сообщил сотрудникам, что это придётся делать без поддержки правительства США.

• Антимонопольный риск признан, но отвергнут. Альтман сам отметил, что координация конкурентов может нарушить антимонопольное законодательство, если её сочтут подавлением конкуренции. Амодеи в эссе предложил узкое правительственное разрешение (waiver) на такую координацию. Однако Лехейн заявил, что компаниям оно не нужно.

• Поддержка закона FRONTIER Act. OpenAI поддерживает положение законопроекта FRONTIER Act, которое обяжет ведущие лаборатории допускать «независимые верификационные организации» внутрь компаний для проверки безопасности моделей.

• Позиция Белого дома прямо противоположна. Президент Трамп назвал опасения по поводу безопасности ИИ мистификацией и выступил против ужесточения регулирования, заявив, что замедление разработок даст преимущество Китаю. Его советник по ИИ Дэвид Сакс, который, по данным TechCrunch, лично инвестировал в ряд ИИ-компаний, назвал страхи экзистенциальных рисков преувеличенными.

Хассабис из Google ещё в июле призвал США создать надзорный орган с полномочиями проверять передовые модели и координировать замедление разработок при обнаружении опасности. Текущие переговоры выглядят как попытка индустрии сделать это самостоятельно, не дожидаясь государства.

Как следить за развитием событий?

1. Прочитайте эссе Дарио Амодеи на сайте Anthropic, оно задаёт рамку всей дискуссии о замедлении гонки передовых моделей.
2. Следите за продвижением законопроекта FRONTIER Act в Конгрессе США: именно он может обязать лаборатории допускать независимых проверяющих.
3. Отслеживайте публикации Bloomberg и The Information по теме, они первыми сообщают о ходе переговоров.

Как это соотносится с ситуацией в России?

В России работают собственные крупные языковые модели: YandexGPT (от «Яндекса») и GigaChat (от «Сбера»). Обе модели закрытые (закрытая модель означает, что код и параметры недоступны для внешнего аудита), и обе фильтруют запросы пользователей.

Однако в РФ пока нет публичного аналога тех переговоров, которые ведут OpenAI, Anthropic и Google. Ни «Яндекс», ни «Сбер» не объявляли о совместных инициативах по безопасности ИИ или допуске независимых проверяющих. Российские регуляторы обсуждают ИИ в информационной безопасности в контексте защиты данных и кибербезопасности, но не в контексте катастрофических рисков передовых моделей.

Для российских пользователей это значит: стандарты безопасности, которые выработают американские компании, могут стать де-факто глобальными, как это уже произошло с техническими стандартами интернета. Россия при этом не участвует в их формировании.

Что делать с этим прямо сейчас, по ролям

Автору на Дзене. Тема безопасности ИИ набирает поисковый спрос. Напишите разбор эссе Амодеи простым языком для своей аудитории: мало кто из русскоязычных авторов это сделал, а тема горячая.

Маркетологу. Если вы используете API OpenAI или Google для автоматизации, учитывайте: любые новые стандарты безопасности могут изменить правила использования моделей, ограничить типы запросов или потребовать дополнительных проверок. Закладывайте запас по срокам интеграций.

Предпринимателю в РФ. Прямого влияния пока нет: переговоры касаются американских компаний и законодателей. Но если вы строите продукт на API OpenAI или Google, следите за FRONTIER Act. Принятие закона может означать, что модели, которые вы используете, будут проверяться независимыми организациями, и это может повлиять на доступность и скорость обновлений.

Частые вопросы

Это обязательные правила или добровольные?

На данный момент полностью добровольные. Три компании ведут переговоры по собственной инициативе. Законопроект FRONTIER Act, который мог бы сделать проверки обязательными, пока не принят Конгрессом.

Повлияет ли это на ChatGPT или Google Gemini, которыми я пользуюсь?

Пока нет. Речь идёт о внутренних процессах разработки и проверки моделей до их выпуска. Если стандарты будут приняты, в перспективе они могут замедлить выход обновлений или ограничить возможности моделей, но конкретных сроков и параметров никто не называл.

Участвуют ли российские компании?

Нет. Ни «Яндекс», ни «Сбер», ни другие российские разработчики ИИ не упоминаются в контексте этих переговоров. Россия не входит ни в одну из международных инициатив по безопасности передового ИИ, о которых идёт речь.

Переговоры между OpenAI, Anthropic и Google пока остаются словами без подписанных документов. Но сам факт, что конкуренты публично координируются по безопасности ИИ вопреки позиции Белого дома, показывает: индустрия решила не ждать, пока правила напишет кто-то другой. Для тех, кто строит бизнес или контент на этих моделях, время разобраться в повестке, пока она ещё формируется.