Создатель нейросети Claude призвал замедлить ИИ: OpenAI и Маск поддержали

Дарио Амодеи, глава Anthropic, компании-разработчика нейросети Claude (claude нейросеть, официальный сайт claude.ai), опубликовал развёрнутый пост о необходимости «снизить темп» развития мощнейших ИИ-моделей. Поводом он назвал две вещи: недавний взлом инфраструктуры OpenAI и HuggingFace и «резко ускорившийся» прогресс ИИ, особенно способность моделей «строить следующее поколение самих себя». На фоне этого заявления исследователь Джейкоб Коксон уволился из Anthropic, заявив, что компании «играют нашими жизнями», а их собственные сотрудники «искренне верят, что ИИ может убить всех нас до конца десятилетия».

Издание TechCrunch собрало реакции ключевых фигур: Сэм Альтман из OpenAI подтвердил, что тема замедления «была главной в обсуждениях последних недель», а Илон Маск коротко написал: «Дарио прав».

Что предлагает Амодеи?

Стратегия состоит из трёх уровней, каждый сложнее предыдущего.

Уровень 1: внешние наблюдатели внутри компании. Независимые эксперты из организаций вроде METR (организация, которая тестирует ИИ-модели на опасные способности) получают бейджи, рабочие места и ноутбуки компании. Их доступ к данным «в основном сопоставим с тем, что имеют внутренние команды оценки рисков». Амодеи сравнил это с банковскими регуляторами, которые сидят прямо в офисе банка. Именно к этому шагу Anthropic обязалась в одностороннем порядке и призвала правительства обязать к тому же остальных разработчиков.

Уровень 2: координация между компаниями демократических стран. Ведущие разработчики должны согласовать общие стандарты безопасности и ограничить скорость «неконтролируемого прогресса ИИ». Амодеи понимает, что совместные переговоры конкурентов вызовут подозрения антимонопольных органов, и предлагает выход: правительство США выдаёт узкое разрешение на определённые виды «разговоров о безопасности», не участвуя в них напрямую.

Уровень 3: глобальная координация, включая Китай. Амодеи признаёт «жёсткие ограничения» возможного, но считает, что даже с авторитарными правительствами можно договориться хотя бы о запрете «узких и очевидно опасных применений ИИ», например использования нейросетей для создания биологического оружия.

Что говорят о геополитике чипов?

Амодеи затронул главный контраргумент: «Если мы замедлимся, Китай обгонит». Его ответ: если США и союзники прекратят продажу мощных чипов и оборудования для производства полупроводников китайским компаниям и одновременно будут бороться с дистилляцией моделей (когда меньшую модель обучают на ответах большой, фактически копируя её знания), отрыв Америки «значительно увеличится в ближайшие 3-5 лет».

Это прямой сигнал для российских разработчиков: западные ограничения на экспорт чипов рассматриваются не как побочная мера, а как центральный элемент стратегии безопасности. Любая компания, зависящая от западного «железа», попадает в зону этого давления.

Какую критику вызвал план?

Критика идёт с двух сторон.

• Исследователи-алармисты (вроде уволившегося Коксона) считают, что слов уже недостаточно: компании «играют нашими жизнями».
• Скептики индустрии возражают, что апокалиптические предупреждения отвлекают от вреда, который ИИ причиняет прямо сейчас. Журналист Брайан Мерчант написал, что не видел «достоверного, пошагового описания» того, как ИИ перейдёт от самоулучшения к «убийству каждого человека на планете», и что подобные предложения «выглядят как регуляторный захват»: правила, выгодные именно Anthropic и OpenAI.

Сам Амодеи называет происходящее «кризисом доверия»: люди перестали верить технологическим компаниям, индустрии и правительствам.

Что это значит для вас?

Если вы автор на Дзене или копирайтер. Claude (нейросеть, официальный сайт claude.ai) остаётся одним из лучших инструментов для текста. Стратегия замедления не означает, что модель перестанет обновляться. Она означает, что каждое обновление будет проходить через дополнительные проверки. Для вас это может выразиться в более длинных паузах между версиями, но и в меньшем количестве «галлюцинаций» (когда нейросеть уверенно выдумывает несуществующие факты).

Если вы маркетолог или предприниматель в РФ. План Амодеи можно использовать как шаблон для переговоров с российскими регуляторами. Идея «внешних наблюдателей» универсальна: если ваша компания разрабатывает или внедряет ИИ, добровольное приглашение аудитора звучит убедительнее для чиновника, чем любой внутренний отчёт. Из доступных в РФ нейросетей, аналогичных Claude, работают YandexGPT и GigaChat.

Если вы следите за регулированием. Упоминание ограничений на экспорт чипов как части стратегии безопасности означает, что эти ограничения будут усиливаться. Для российских компаний, зависящих от западных GPU, это ещё один аргумент в пользу диверсификации поставок и развития собственной инфраструктуры.

Амодеи завершил пост словами: «Я по-прежнему верю, что ИИ может колоссально улучшить качество жизни людей. Но выгоды будут достигнуты, только если мы будем строить технологию правильно». Проверить, подкреплены ли эти слова действиями, мы сможем, когда Anthropic назовёт имена первых внешних наблюдателей и покажет, что именно им открыли.

По данным TechCrunch