Anthropic не против открытых моделей ИИ: Амодеи предложил глобальное тестирование вместо запретов

Спор разгорелся после того, как в пятницу Дженсен Хуанг, основатель Nvidia, опубликовал на платформе X открытое письмо. Его подписали Nvidia, Meta, Microsoft, Mistral, Hugging Face и другие компании. Письмо призывало законодателей не вводить «преждевременных ограничений» на модели с открытыми весами (open weights, то есть модели, чей код и параметры доступны для скачивания и запуска). Имя Anthropic в списке подписантов не значилось, и в индустрии пошли слухи, что компания поддерживает запрет. Амодеи ответил в понедельник отдельным постом в блоге.

Что именно заявил Амодеи?

• Anthropic никогда не выступала за запрет открытых моделей ИИ. Амодеи подчеркнул это прямым текстом, выделив фразу в оригинале.
• Открытые модели ИИ без опасных возможностей он называет «общественным благом»: они ничего не стоят, кроме вычислительных мощностей для запуска, и приносят пользу бизнесу, разработчикам и исследователям.
• Использование открытых моделей бизнесом, даже китайских, не входит в список его опасений. Амодеи прямо об этом написал.
• Реальная угроза, по его словам, в другом: авторитарные правительства могут создать модели мощнее американских, чтобы получить «постоянное военное превосходство» или подавлять собственных граждан. Китайскую коммунистическую партию он назвал «наиболее сильным» из таких режимов, но не единственным.
• Ещё одно опасение: биологические атаки. Амодеи считает, что открытые модели ИИ в таком сценарии рискованнее закрытых (закрытая модель, это модель, код которой не публикуется, например ChatGPT), потому что к ним сложнее применить защитные ограничения и отследить использование. Он сослался на отчёт Института безопасности ИИ Великобритании (UK AI Security Institute): после публикации открытых весов отозвать их невозможно.
• Он поддержал ограничение доступа Китая к мощным чипам (это давняя политика США) и призвал к формальной борьбе с дистилляцией (distillation, метод, при котором один ИИ засыпает другую модель промптами, чтобы «выучить» её поведение и воспроизвести результаты). США уже угрожали Китаю санкциями, если подтвердится кража интеллектуальной собственности через дистилляцию американских моделей.
• Главное предложение: международная организация по тестированию безопасности моделей. Амодеи написал, что тестирование должно распространяться на самые мощные модели вне зависимости от страны происхождения и от того, открытые они или закрытые, и при этом не затрагивать менее мощные модели стартапов и академических проектов.

Почему Амодеи верит, что Китай может согласиться?

Амодеи допустил, что даже КПК может пойти на ограниченное сотрудничество, потому что предотвращение биологического оружия на базе ИИ в интересах и самого Китая. Он также отметил, что и администрация Трампа, и недавние отраслевые инициативы двигаются в сторону такого глобального тестирования.

Сторонники открытых моделей ИИ с этим не вполне согласны: по их логике, доступ к мощным открытым моделям помогает защитникам (кибербезопасникам, исследователям) не хуже, чем атакующим. Амодеи этот аргумент не отверг, но и не поддержал.

Как это соотносится с ситуацией в России?

В России тоже идёт дискуссия о балансе между открытостью и безопасностью ИИ. Отечественные модели (YandexGPT от «Яндекса», GigaChat от «Сбера») работают как закрытые сервисы: пользователь обращается к ним через интерфейс или API, но не скачивает веса. При этом российские разработчики активно используют зарубежные открытые модели ИИ (Llama от Meta, Mistral) для своих проектов.

Как попробовать открытые модели ИИ самому?

1. Зайдите на Hugging Face (huggingface.co): это крупнейший каталог открытых моделей ИИ. Найдите модель по задаче (генерация текста, перевод, классификация) и запустите демо прямо в браузере.
2. Если нужна модель локально, установите Ollama (ollama.com) на свой компьютер: она позволяет запускать открытые модели (Llama, Mistral и другие) без облака, на собственном железе.
3. Для бизнес-задач в России попробуйте API YandexGPT (cloud.yandex.ru) или GigaChat (developers.sber.ru): они работают без VPN и принимают оплату в рублях.

Частые вопросы

Anthropic хочет запретить открытые модели ИИ?

Нет. Амодеи в понедельничном посте заявил прямо: «Anthropic никогда не выступала за запрет моделей с открытыми весами». Он считает, что модели без опасных возможностей приносят пользу.

Чем открытые модели ИИ отличаются от закрытых?

Открытая модель (open weights) позволяет скачать её параметры, запустить на своём оборудовании, изучить и модифицировать. Закрытая модель (например, Claude от Anthropic или ChatGPT от OpenAI) доступна только через интерфейс или API компании, код и веса не публикуются.

Что такое глобальное тестирование безопасности, о котором говорит Амодеи?

Амодеи предлагает создать организацию, которая будет проверять самые мощные модели на наличие опасных возможностей (биологическое оружие, кибератаки) независимо от страны происхождения модели и от того, открытая она или закрытая. Менее мощные модели, по его предложению, тестировать не нужно. Пока такой организации не существует.