Google DeepMind предложила глобальное регулирование ИИ: модели будут проверять до релиза

Демис Хассабис, сооснователь и глава Google DeepMind, опубликовал блог-пост «A Framework for Frontier AI and the Dawning of a New Age», в котором призвал создать глобального регулятора ИИ по образцу финансовых надзорных органов. По данным издания Axios, Хассабис несколько месяцев продвигал идею в администрации Трампа, среди других ИИ-лабораторий и европейских чиновников. Он рассчитывает, что организация заработает до конца 2025 года.

Что именно предлагает Хассабис?

• Оценка моделей до релиза. Новый орган получит право проверять фронтирные модели (самые продвинутые ИИ-системы, работающие на переднем крае возможностей) перед тем, как их откроют для пользователей.
• Право на торможение. Если модель признают слишком рискованной, регулятор сможет координировать замедление разработки по всей отрасли.
• Независимые эксперты плюс опенсорс-сообщество. В состав войдут ведущие независимые специалисты и представители сообществ открытых моделей, а не только корпорации.
• Образец: финансовый надзор. Хассабис сравнивает будущую структуру с FINRA (Financial Industry Regulatory Authority, саморегулируемая организация финансовой индустрии в США), где отрасль контролирует сама себя под государственным зонтиком.
• Лидерство США. По словам Хассабиса, именно США подходят на роль лидера «с учётом их экономического и технического положения».

Почему именно сейчас?

Хассабис в блог-посте заявляет, что AGI (искусственный общий интеллект, то есть ИИ, способный решать любые интеллектуальные задачи на уровне человека) «вероятно, всего в нескольких коротких годах от нас». Он добавляет: «Когда мы оглянемся на это время через десятилетия, мы поймём, что стояли у подножия сингулярности».

Сигналы, которые я слышу от администрации Трампа, очень позитивные. : Демис Хассабис, глава Google DeepMind, в интервью Axios

Предложение появилось на фоне двух событий. В мае группа экономистов и технологических лидеров, включая сооснователя Anthropic Джека Кларка и бывшего главу Google Эрика Шмидта, призвала мировых лидеров отнестись к экономическим последствиям ИИ серьёзнее. А месяцем ранее сам Хассабис, лауреат Нобелевской премии по химии 2024 года за работу над ИИ-предсказанием структуры белков, подписал заявление с призывом ужесточить защиту от использования ИИ для создания биологического оружия.

Как следить за развитием этой инициативы?

1. Прочитайте оригинальный блог-пост Хассабиса «A Framework for Frontier AI and the Dawning of a New Age» на сайте Google DeepMind, там изложена полная аргументация.
2. Подпишитесь на обновления Axios по теме ИИ-политики: издание первым получило детали о переговорах с администрацией Трампа и обещает отслеживать создание новой структуры.
3. Следите за реакцией других ИИ-лабораторий: Хассабис уже провёл брифинги с конкурентами, и их публичная позиция покажет, есть ли у инициативы шансы.

Что это значит для России?

В России регулирование ИИ пока строится через отдельные указы и отраслевые кодексы этики, единого надзорного органа с правом блокировать выпуск моделей нет. Если структура под руководством США действительно заработает и начнёт оценивать фронтирные модели до релиза, это затронет любую страну, которая использует западные ИИ-платформы или экспортирует собственные разработки.

Для контекста: российские модели YandexGPT и GigaChat развиваются внутри собственной регуляторной среды, но международный стандарт, если он появится, создаст давление и на них при выходе на внешние рынки.

Что с этого прямо сейчас, по ролям?

Авторам Дзена. Тема регулирования ИИ станет одной из главных до конца года. Разбирайтесь в терминах сейчас: «фронтирная модель», AGI, саморегулирование, они будут в каждом втором заголовке.

Маркетологам и предпринимателям. Если регулятор получит право задерживать выпуск моделей, это прямо повлияет на график появления новых инструментов. Закладывайте в планы не только «когда выйдет GPT-следующая», но и «выпустят ли её вовремя».

Предпринимателям из РФ и СНГ. Следите, войдёт ли Россия в переговоры: если новая структура заработает без участия РФ, доступ к фронтирным моделям для российского рынка может дополнительно сузиться.

Частые вопросы

Этот регулятор уже создан?

Нет. Пока это предложение Демиса Хассабиса, опубликованное в блог-посте. По данным Axios, он провёл переговоры с администрацией Трампа, другими ИИ-лабораториями и европейскими чиновниками и рассчитывает на запуск до конца 2025 года, но официального решения о создании структуры нет.

Сможет ли этот орган запретить ChatGPT или другие модели?

По предложению Хассабиса, регулятор сможет оценивать фронтирные модели до выпуска и координировать замедление разработки, если модель признают опасной. Речь не о запрете существующих сервисов, а о проверке новых, ещё не выпущенных систем.

Как это касается пользователей из России?

Напрямую пока никак: структура ещё не существует. Но если она заработает и установит стандарты для фронтирных моделей, это повлияет на то, какие западные ИИ-инструменты и когда станут доступны по всему миру, включая Россию и СНГ.