Карл III собрал глав Nvidia, OpenAI и MI6: риски ИИ дошли до монархии

Король Карл III в четверг провёл закрытый саммит по искусственному интеллекту в поместье Дамфрис-хаус (Dumfries House), шотландском имении XVIII века, принадлежащем благотворительному фонду короля, собрав ключевых игроков отрасли и британских чиновников для разговора о рисках ИИ и путях международного контроля.

Кто был за столом и что сказал король?

• Дженсен Хуанг (Jensen Huang), глава Nvidia, присутствовал лично.
• OpenAI направила финансового директора Сару Фрайар (Sarah Friar).
• Anthropic представлял Тино Куэльяр (Tino Cuéllar), глава отдела глобальных отношений.
• На саммите был Канишка Нараян (Kanishka Narayan), новый министр Великобритании по ИИ.
• Присутствовал глава британской внешней разведки (MI6).
• Паоло Бенанти (Paolo Benanti), советник Папы Римского по вопросам ИИ, тоже участвовал.

Король пробыл на встрече около 20 минут, затем оставил участников обсуждать детали между собой. Примечательно, что для королевской семьи любые высказывания на острые политические темы конституционно нетипичны: риски ИИ оказались достаточно серьёзной проблемой, чтобы эту границу пересечь.

Главные тезисы саммита

• Король назвал развитие ИИ «одновременно интригующим и глубоко тревожным» и призвал найти средства контроля «пока не стало слишком поздно».
• Он признал пользу технологии для медицины и науки, но подчеркнул: создатели ИИ сами всё чаще предупреждают о «тёмных способностях» технологии, включая потенциальную способность «отнимать жизни».
• Карл III потребовал серьёзно рассмотреть «экзистенциальные опасности» попадания технологии в чужие руки и использования «потенциально катастрофическими способами».
• Завершая речь, король призвал к международному сотрудничеству и консенсусу: «Задача перед вами не просто продвигать технологию, а гарантировать, что она остаётся на службе у человечества, общества и природы».

«Наверняка нам нужны достаточные средства контроля, прежде чем станет слишком поздно?» : Король Карл III, саммит в Dumfries House

На каком фоне прошёл саммит?

Встреча случилась на фоне обострённой дискуссии о рисках использования ИИ сразу по нескольким линиям.

За несколько дней до саммита один из исследователей Anthropic уволился, написав публично, что компании «гонятся за созданием машин, которые намного умнее любого человека» и что «человечество может не пережить этого».

В том же месяце Сэм Альтман (OpenAI), Илон Маск и Дарио Амодеи (Anthropic) призвали замедлить развитие ИИ. Однако Дженсен Хуанг (Nvidia) и президент США Дональд Трамп отвергли эти призывы. Трамп заявил: «Мы опережаем Китай в ИИ. Кто выигрывает гонку ИИ, тот выигрывает всё».

Ещё один штрих: Anthropic закрыла доступ к моделям Fable и Mythos для всех, кроме американских пользователей, что вызвало шок в европейском технологическом сообществе и обострило вопрос «суверенитета в сфере ИИ» (права страны контролировать доступ к ключевым технологиям на своей территории).

Тино Куэльяр из Anthropic после саммита заявил, что компания «была рада участвовать в обсуждении» и благодарна королю за то, что тот «собрал лидеров индустрии и представителей общества для обсуждения роли ИИ на службе общественного блага».

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Тема рисков ИИ перестала быть нишевой: когда о ней говорит король перед главой разведки, это не хайп, а повестка. Статьи и видео о личных правилах использования ИИ, о границах доверия нейросети сейчас актуальны как никогда.

Маркетологу. Международные бренды уже учитывают регуляторные риски ИИ в стратегиях. Если ваш клиент использует генеративные модели для контента или клиентской поддержки, стоит документировать, какие модели и как вы применяете. При ужесточении правил эта «карта рисков» станет преимуществом.

Предпринимателю в РФ. Россия пока не имеет единого закона об ИИ, аналогичного европейскому EU AI Act. Но международный консенсус, к которому призвал Карл III, напрямую затронет и российских разработчиков: экспортные ограничения, требования к безопасности моделей, правила для данных. Кейс Anthropic с отключением моделей для неамериканских пользователей показывает: зависимость от зарубежных закрытых моделей (закрытая модель, та, чей код недоступен для проверки) создаёт конкретный бизнес-риск уже сейчас.

Как это соотносится с российской ситуацией?

Прямого аналога королевскому саммиту в России нет, но параллели есть. YandexGPT и GigaChat от Сбера работают внутри российской юрисдикции, данные не уходят за границу, и отключить доступ из-за рубежа не может никто. Это не делает их лучше или хуже по качеству, но снимает один конкретный риск: внезапную потерю доступа к инструменту, как это произошло с моделями Anthropic в Европе.

Вопрос госрегулирования технологий в России остаётся открытым. Призыв Карла III к международному консенсусу вместо односторонних решений актуален и для российских регуляторов: изоляция в нормотворчестве не защищает, а создаёт слепые зоны.

Частые вопросы

Король Великобритании может реально повлиять на регулирование ИИ?

Формально нет: британский монарх не принимает законов. Но конституционный вес его высказываний создаёт политическое давление. Сам факт, что королевская семья, обычно сторонящаяся острых политических тем, открыто заговорила о рисках ИИ, сигнализирует правительству и индустрии: тема слишком серьёзна, чтобы откладывать. Карл III поднимал вопросы ИИ и в 2023, и в 2024 году, но формат закрытого саммита с руководителями отрасли использовал впервые.

Чем отличаются «экзистенциальные риски» ИИ от обычных рисков?

Обычные риски использования ИИ: галлюцинации (когда модель уверенно выдумывает факты), предвзятость, утечки данных. Экзистенциальные опасности, о которых говорил король, это сценарий, при котором технология выходит из-под контроля или попадает в руки, способные применить её «катастрофическим способом», вплоть до угрозы жизни. Именно об этом предупредил уволившийся исследователь Anthropic.

Касается ли это российских пользователей нейросетей?

Напрямую саммит не затрагивает российское законодательство. Но два следствия ощутимы уже сегодня: ограничение доступа к зарубежным моделям (как случилось с Anthropic в Европе) и формирование международных норм, которые со временем повлияют на экспорт и импорт ИИ-технологий. Если вы строите бизнес на зарубежной закрытой модели, история с Fable и Mythos показывает, что доступ могут отключить без предупреждения.

Когда король публично говорит «пока не стало слишком поздно» и приглашает к столу разведку, это больше не разговор про технологии. Это разговор про власть, и тем, кто работает с ИИ каждый день, полезно это учитывать при выборе инструментов и стратегий.