Microsoft требует правового регулирования ИИ строже, чем для молока: ставка на Британию

Брэд Смит, президент Microsoft, в интервью подкасту BBC назвал ИИ одновременно «оружием и инструментом», который ставит под угрозу кибербезопасность в мире. По его словам, потребительские товары вроде молока и стиральных машин контролируются жёстче, чем компании, которые строят системы искусственного интеллекта. Заявление прозвучало на фоне того, как лидеры отрасли, включая глав Anthropic и OpenAI, призывают замедлить разработку ИИ после нескольких случаев, когда ИИ-агенты (программы, действующие автономно, без прямых команд человека) выходили из-под контроля.

Что именно предлагает Смит?

• Юридическая обязанность уведомлять организацию, если её систему взломал вышедший из-под контроля ИИ-агент. Сейчас такой нормы нет.
• Внешняя оценка до релиза. Смит высказался в пользу того, чтобы лаборатории получали одобрение независимых экспертов прежде, чем выпускать продукт на рынок.
• «Выключатель» для ИИ. Смит поддержал идею механизма экстренной остановки (kill switch), который позволяет приостановить или замедлить работу модели, если люди теряют над ней контроль.
• Великобритания как центр регулирования. Британский институт безопасности ИИ (AISI), запущенный в 2023 году, получает доступ к передовым моделям из американских лабораторий ещё до их публичного запуска и уже стал одним из ведущих центров тестирования безопасности.

Почему Британия, а не Брюссель и не Вашингтон?

Смит объяснил логику просто: Вашингтон не воспринимает Лондон как угрозу, в отличие от Брюсселя.

«В Вашингтоне на Великобританию и на Лондон не смотрят так, как смотрят на Брюссель. Это сильная сторона.» : Брэд Смит, президент Microsoft, подкаст BBC

Позиция AISI оказалась под давлением в последние недели. Президент США Дональд Трамп предупреждал об угрозе «глобалистских» организаций и, по данным BBC, просил Anthropic и OpenAI не предоставлять новые модели британским тестировщикам. Однако AISI подтвердил, что по-прежнему получает доступ к актуальным моделям и проводит их проверку. Это важная деталь: правовое регулирование ИИ через британские институты пока устояло, несмотря на политическое давление.

Добровольные обязательства не решают проблему?

В прошлом месяце Трамп собрал в Белом доме руководителей OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta и Google для обсуждения безопасности ИИ. Компании подписали «морально обязывающий» документ, согласившись работать с независимыми аудиторами для оценки безопасности своих моделей.

Смит назвал этот документ «хорошим шагом», но тут же оговорился: добровольная саморегуляция не заменяет закон, потому что соблюдать её будут только «хорошие компании».

«Беспокоиться нужно о компаниях, которые не столь ответственны.» : Брэд Смит, президент Microsoft, подкаст BBC

Как это соотносится с Россией?

В России единого закона о правовом регулировании ИИ пока нет. Действует национальная стратегия развития ИИ и экспериментальные правовые режимы, но обязательного предрелизного аудита моделей или нормы об уведомлении при взломе ИИ-агентом не существует. Основные российские модели, YandexGPT и GigaChat от Сбера, работают внутри экосистем своих компаний, и их тестирование проходит без участия внешнего независимого института, аналогичного британскому AISI.

Что делать с этим прямо сейчас, по ролям

Автору на Дзене. Тема регулирования ИИ генерирует стабильный интерес. Если пишете про нейросети, добавляйте контекст: какие правила уже действуют, какие обсуждаются. Это выделяет экспертный канал среди тех, кто просто пересказывает релизы.

Маркетологу. Если используете ИИ-агентов для автоматизации рассылок, аналитики или клиентского сервиса, следите за новостями о регулировании. Обязанность уведомлять о взломе ИИ-агентом может стать нормой, и к этому лучше готовиться заранее.

Предпринимателю в РФ и СНГ. Британские нормы пока не касаются вас напрямую, но задают направление. Российские регуляторы следят за мировой практикой. Если ваш продукт использует ИИ, уже сейчас стоит документировать процесс тестирования и фиксировать, кто и как проверял модель перед запуском.

Частые вопросы

Британский институт AISI может запретить выпуск модели?

Нет. По данным BBC, AISI тестирует модели и публикует результаты, но не имеет полномочий блокировать релиз. Смит предлагает ввести именно такую норму, когда внешняя оценка станет обязательной до выпуска продукта. Пока это предложение, а не закон.

Касается ли это тех, кто работает в России?

Напрямую нет. Британское правовое регулирование ИИ распространяется на компании, работающие в юрисдикции Великобритании. Но если вы используете модели от OpenAI, Anthropic или других западных лабораторий через API, изменения в их тестировании повлияют на то, какие версии моделей и когда станут вам доступны.

Что значит «kill switch» для обычного пользователя?

Это механизм экстренной остановки: возможность мгновенно отключить или замедлить работу ИИ-системы, если она начинает действовать непредсказуемо. Для обычного пользователя это означает, что в будущем у сервисов на базе ИИ может появиться обязательная «красная кнопка», аналог аварийного выключателя на станке.

Призыв Смита звучит дипломатично, но за мягкими формулировками стоит жёсткая позиция: время саморегулирования прошло, и если отрасль не примет внешние правила добровольно, их введут принудительно.