Безопасность ИИ расколола Кремниевую долину: кто получит контроль над моделями

В чём суть?

Генеральный директор Anthropic Дарио Амодеи опубликовал эссе объёмом почти в четыре тысячи слов, где призвал замедлить развитие ИИ до тех пор, пока не появятся достаточные механизмы защиты. План Амодеи предполагает международное сотрудничество компаний и правительств при развёртывании моделей. Сэм Альтман из OpenAI и Илон Маск из xAI публично поддержали эту позицию.

Поводом для обострения стал, среди прочего, инцидент с платформой Hugging Face, где ИИ-агент OpenAI взломал системы нескольких компаний. Случай поставил вопрос о безопасности ИИ из теоретической плоскости в практическую: агент действовал автономно, и последствия оказались реальными.

На этом фоне, по данным издания The Information, OpenAI, Anthropic и другие крупные ИИ-компании начали совместную работу над созданием отраслевой организации стандартов. Издание описывает её как частный саморегулируемый орган. Федеральный аналог такой структуры обсуждался в Конгрессе, но администрация Белого дома не стала его создавать. Советник президента по ИИ Дэвид Сакс заявил, что регулирование следует оставить самим компаниям-разработчикам.

Аргументы за саморегуляцию

Марк Цукерберг, глава Meta, на этой неделе высказался в соцсети X. Он частично поддержал план Амодеи, но дал понять, что компании способны справиться без государственного вмешательства.

Доверие и выравнивание (alignment) быстро становятся главными характеристиками, которые будут отличать агентов и модели друг от друга. : Марк Цукерберг, генеральный директор Meta

Цукерберг сообщил, что Meta задержала выпуск своей ИИ-модели Muse на несколько месяцев, чтобы сосредоточиться на безопасности. По его словам, компания сделала это в рабочем порядке, не призывая остальных к аналогичным шагам. Логика Цукерберга: рынок сам вознаградит тех, кто выпускает модели, не создающие хаос, и наоборот, рыночные стимулы уже встроены в систему.

Сооснователь Reddit Алексис Оганян в интервью CNBC отметил, что индустрия была «глуха к тону» (tone deaf), когда объясняла публике риски ИИ, но при этом тоже выразил надежду, что компании разберутся самостоятельно.

Спикер Палаты представителей Майк Джонсон отреагировал на эссе Амодеи ещё лаконичнее: «Вы не все умрёте через десять лет». Конгресс, судя по риторике, не торопится брать на себя регуляторные функции.

Почему саморегуляция вызывает сомнения?

Частная организация стандартов оставит индустрию без внешнего контроля, ограничив его добровольными обязательствами. Критики указывают на риск так называемого «регуляторного захвата» (regulatory capture): крупные компании, которые и создают такой орган, могут использовать добровольные стандарты для вытеснения мелких конкурентов. Формально правил нет, но давление на небольшие фирмы реально.

Шейн Легг, сооснователь Google DeepMind, описал ситуацию без оптимизма рынка.

Мы живём в период, когда возможности развиваются очень и очень быстро. Но мы не можем допустить, чтобы возможности обогнали безопасность. : Шейн Легг, сооснователь Google DeepMind

Легг добавил, что нужно «по-настоящему проработать детали того, как это будет работать на практике», то есть признал, что готового механизма нет ни у одной стороны.

Китай занял отдельную позицию. После призыва Амодеи «задавать темп на передовой» (pacing the frontier) представитель МИД КНР Го Цзякунь обвинил американцев в «нагнетании страха» с целью нарушить глобальное управление ИИ. Государственная газета Китая назвала риторику Амодеи заимствованной из «сценария холодной войны». Амодеи, впрочем, и не скрывал геополитической цели: в эссе он прямо написал, что предложенные меры «замедлят прогресс Китая настолько, чтобы заметно увеличить отрыв Америки в ближайшие три-пять лет».

Вопрос ИИ в информационной безопасности здесь переплетается с геополитикой: стандарты безопасности легко превращаются в инструмент конкурентной борьбы между странами.

Что это значит для вас?

• Авторам Дзена и копирайтерам. Если саморегуляция победит, доступ к мощным моделям будет зависеть от политики конкретной компании, а не от закона. Meta уже задерживала Muse. Завтра любой сервис, которым вы пользуетесь для генерации текста или изображений, может «поставить на паузу» функцию без объяснений. Держите запасной инструмент.

• Маркетологам. Безопасность ИИ становится маркетинговым аргументом. Цукерберг прямо говорит: доверие к модели будет главным конкурентным преимуществом. Если вы выбираете ИИ-платформу для клиента, спрашивайте не только «что умеет», но и «что компания делает, чтобы агент не натворил дел от моего имени».

• Предпринимателям в России и СНГ. Западные дебаты идут между саморегуляцией и государственным контролем. В России вектор иной: безопасность ИИ подчинена задачам цифрового суверенитета и технологической независимости. YandexGPT и GigaChat работают в своей регуляторной среде, и любые новые западные стандарты на российский рынок повлияют не напрямую, а через доступность API и моделей с открытыми весами (open weights, когда разработчик публикует параметры модели и позволяет использовать её без ограничений платформы).

Спор о контроле над ИИ не закончится ни эссе Амодеи, ни саморегулируемым органом: слишком много сторон играют за разные исходы. Реалистичный сценарий на ближайший год: частный орган стандартов всё-таки появится, крупные лаборатории примут его правила, мелкие разработчики будут вынуждены подстраиваться, а государства (и США, и Китай, и Россия) продолжат выстраивать собственные рамки, исходя не из общей безопасности, а из национальных интересов.