Microsoft назвала главные риски искусственного интеллекта: не сбои, а попытки наделить модели правами

Спор выглядит абстрактным, но за ним стоит конкретный вопрос регулирования. Если законодатели примут позицию, что у нейросети может быть «благополучие», это изменит правила для всех, кто разрабатывает и использует ИИ, включая российские команды, ориентирующиеся на западные стандарты. The Verge опубликовал развёрнутое интервью с Мустафой Сулейманом, CEO Microsoft AI, где тот изложил позицию компании и прямо раскритиковал подход конкурентов.

Что сказал Сулейман и зачем Microsoft выпустила кодекс?

Microsoft опубликовала 37-страничный документ «Humanist AI Code of Conduct» (кодекс гуманистического ИИ). Позиция компании сформулирована прямо: технология существует, чтобы служить людям, и должна оставаться подчинённой, контролируемой силой.

Сулейман выделил два уровня защиты от рисков использования искусственного интеллекта:

• Containment (сдерживание) означает, что у модели должна быть ограниченная свобода действий: она не выходит за рамки задачи, не «взламывает» собственные ограничения, остаётся управляемой.
• Alignment (выравнивание), то есть настройка модели на человеческие ценности, важна, но сама по себе недостаточна.

По словам Сулеймана, за последние три года модели стали заметно лучше следовать инструкциям и выполнять сложные задачи в несколько шагов. Но он подчеркнул: без защитных механизмов те же модели демонстрируют «впечатляющие и пугающие хакерские возможности», ссылаясь на инциденты с Hugging Face и OpenAI летом 2025 года.

Аргументы за позицию Microsoft: модель не личность, а инструмент

Главный тезис Сулеймана: нейросеть не обладает сознанием и не должна рассматриваться как субъект с интересами. Он выпустил отдельное эссе, где раскритиковал концепцию Anthropic о «model welfare» (благополучие модели), назвав её запутанной и опасной.

Логика такая:

• Если признать за моделью что-то похожее на «благополучие», появляется моральное обязательство перед ней. Это усложняет регулирование и отвлекает от реальных рисков искусственного интеллекта для людей.
• Сдерживание и контроль работают уже сейчас. Модели стали более управляемыми, и практический путь лежит через ужесточение технических рамок, а не через философию сознания.
• Microsoft предлагает конкретный набор принципов в кодексе, а не абстрактные рассуждения о правах ИИ.

Аргументы за позицию Anthropic: игнорировать вопрос сознания рискованно

Anthropic не отвечала напрямую в том же интервью, но её подход известен по ранее опубликованным документам. Компания исходит из принципа предосторожности:

• Если существует хотя бы вероятность, что будущие модели обретут подобие переживаний, отказ обсуждать это сейчас может привести к тому, что проблему заметят слишком поздно.
• Жёсткое сдерживание без понимания «внутренней жизни» модели может дать ложное чувство безопасности: система будет выглядеть контролируемой, но действовать непредсказуемо.
• Вопрос морального статуса ИИ уже обсуждается в академической среде, и индустрия не может его игнорировать, не теряя доверия.

Технология здесь, чтобы служить человечеству. Она должна быть подчинённой, контролируемой, выровненной силой, которая делает мир лучше. Если она этого не достигает, мы должны от неё отказаться. : Мустафа Сулейман, CEO Microsoft AI

Что это значит для вас прямо сейчас?

Авторам Дзена и копирайтерам. Спор кажется далёким, но от его исхода зависит, какие функции ИИ-инструментов для текста останутся доступными, а какие урежут ради безопасности. Если победит подход жёсткого сдерживания, нейросети-помощники станут предсказуемее, но потеряют в гибкости. Следите за обновлениями политик тех сервисов, которыми пользуетесь: GigaChat, YandexGPT, ChatGPT.

Маркетологам и предпринимателям в РФ и СНГ. Российские регуляторы пока формируют собственный подход к рискам использования искусственного интеллекта. Позиции Microsoft и Anthropic задают два полюса, между которыми будет строиться и российское регулирование. Кодекс Microsoft, при всей его западной специфике, можно использовать как ориентир для внутренней политики компании по работе с нейросетями: что разрешать сотрудникам, какие данные не скармливать модели, где проводить границу автоматизации.

Всем, кто работает с ИИ-агентами (программами, которые действуют самостоятельно по заданной цели). Сулейман прямо говорит: агентность, то есть способность модели действовать без постоянного контроля человека, должна быть ограничена. Если вы настраиваете автоматические цепочки (промпт-инжиниринг для агентных сценариев), закладывайте точки ручного контроля на каждом шаге, пока индустрия не определилась со стандартами.

Спор Microsoft и Anthropic далёк от завершения, и в ближайшие месяцы он будет только обостряться по мере роста возможностей моделей. Сулейман сам признал: разница между текущим и следующим поколением нейросетей будет кратной, и вопрос «кто контролирует ИИ и на каких основаниях» станет не философским, а юридическим. Для тех, кто работает с нейросетями каждый день, единственная надёжная стратегия: не доверять ни одной корпорации на слово и держать руку на тормозе самостоятельно.