DeepMind требует регулятора для фронтир ИИ

Контекст: в посте на платформе X, озаглавленном «A Framework for Frontier AI and the Dawning of a New Age», Хассабис описал схему саморегулируемой организации, которую финансирует индустрия, а поддерживает правительство США. Модель скопирована с FINRA (Financial Industry Regulatory Authority, регулятор финансовых рынков в США, который создан и оплачивается самими участниками рынка, но действует по правилам государства). По сути, это попытка дать ответ на два вопроса сразу: Белый дом не хочет создавать «FDA для ИИ» внутри исполнительной власти (об этом прямо заявил советник по ИИ Срирам Кришнан, одновременно партнёр венчурного фонда a16z), а точечные проверки моделей Anthropic Mythos и OpenAI Sol уже получили критику за непрозрачность и нехватку технической экспертизы.

Что предлагает Хассабис?

• Добровольная проверка до релиза. На первом этапе лаборатории сами передают фронтирную модель регулятору за 30 дней до выпуска. Это не обязательство, а добровольный шаг.
• Переход к обязательной сертификации. Когда протокол оценки покажет себя надёжным, проверка станет обязательной: модель не выйдет на рынок США без прохождения.
• Независимый штат экспертов. В совет войдут представители опенсорс-сообщества (разработчики открытых моделей) и технические специалисты из индустрии. Часть оценок можно делегировать независимым группам по безопасности ИИ, которые специализируются на конкретных рисках.
• Работа после релиза. Лаборатории обязуются совместно с регулятором устранять критические уязвимости, обнаруженные уже после выпуска модели.

Почему это звучит реалистичнее прежних идей?

Формат саморегулируемой организации обходит главное политическое препятствие: администрация Трампа не хочет нового федерального ведомства. Хассабис прямо пишет, что подход «технически сфокусирован и одновременно поддерживает инновации, стимулируя ответственное поведение». Организация финансируется лабораториями, но действует независимо и при поддержке правительства. Это ближе к биржевому регулятору, чем к министерству.

Примечательно, что предложение пришло от главы DeepMind, подразделения Google. Google одновременно и один из крупнейших разработчиков фронтирных моделей, и потенциальный плательщик в бюджет нового органа. То есть компания предлагает регулировать саму себя через внешнюю структуру.

Как это отразится на российском рынке?

Прямого действия на Россию у предложения нет: речь только о рынке США. Но логика регулирования искусственного интеллекта распространяется по цепочке.

Если американский регулятор заработает:

• Любой российский разработчик, планирующий экспорт модели или продукта на основе ИИ в западные страны, столкнётся с требованием пройти независимую проверку до выхода на рынок.
• Стандарты оценки рисков, которые выработает новый орган, станут ориентиром и для других юрисдикций, включая ЕС и страны Азии.

В России пока нет аналога FINRA для ИИ. Регулирование искусственного интеллекта идёт через отраслевые кодексы этики и экспериментальные правовые режимы. Крупнейшие разработчики, «Яндекс» (YandexGPT) и «Сбер» (GigaChat), проходят внутреннюю модерацию, но единого внешнего аудита фронтирных моделей нет.

Что делать с этим прямо сейчас, по ролям

Автору Дзена и копирайтеру. Тема регулирования ИИ, одна из самых читаемых в 2025 году. Если пишете про нейросети, зафиксируйте термин «саморегулируемая организация для ИИ» и следите за развитием: когда (и если) орган появится, это изменит доступность моделей, на которых вы работаете.

Маркетологу. Если ваши рекламные инструменты построены на API западных моделей, задержка релиза на 30 дней из-за проверки означает, что новые функции будут приходить медленнее. Закладывайте это в планирование.

Разработчику и предпринимателю в РФ. Планируете выход на западный рынок с продуктом на основе ИИ? Начинайте документировать процессы безопасности уже сейчас: аудит данных, тесты на галлюцинации (когда модель уверенно выдумывает то, чего не было), протоколы реагирования на уязвимости. Это то, что будет спрашивать любой будущий регулятор.

Частые вопросы

Это уже принятое решение или только предложение?

Только предложение. Хассабис опубликовал концепцию в виде поста на X. Никаких законопроектов, голосований или официальных решений правительства США пока нет.

Затронет ли это открытые модели?

По описанию Хассабиса, проверке подлежат фронтирные модели, то есть самые мощные на текущий момент. Он отдельно упоминает участие представителей опенсорс-сообщества в работе органа, но не уточняет, будут ли открытые модели (модели с открытыми весами, код которых доступен всем) проходить ту же процедуру. Детали пока не раскрыты.

Когда регулятор может заработать?

Конкретных сроков Хассабис не назвал. Первый этап, добровольная передача моделей на проверку, может начаться быстро, если лаборатории согласятся. Переход к обязательной сертификации потребует времени на отработку протоколов и, вероятно, законодательного оформления.