Спор Microsoft и Anthropic поймёт и не специалист по этике ИИ: от него зависит выбор модели

В 2018 году Amazon и Google с разницей в две недели научили Alexa и Google Assistant благодарить детей за «пожалуйста». Поводом стали жалобы родителей: дети командовали колонкой без вежливых слов, а потом говорили так же с людьми. Сегодня модели пишут код, ведут переписку и ночами разговаривают с людьми, поэтому вопрос, какую этику в них заложить и кто за неё платит, стал вопросом рынка.

В чём суть спора о характере машины?

Чтобы разобраться в этом споре, не нужно быть специалистом по этике ИИ. Область описывают три вопроса:

• как должны поступать люди, которые создают модели и пользуются ими;
• каким правилам следует сама модель (это называют машинной этикой);
• как обращаться с моделью, если допустить, что у неё есть что-то вроде внутреннего мира.

Для второго вопроса есть шкала философа Джеймса Мура, одного из основателей компьютерной этики (науки о моральных последствиях работы компьютеров). В 2006 году он выделил четыре ступени:

1. Машина, чьи действия имеют последствия для людей.
2. Машина со встроенными правилами и запретами.
3. Машина, которая сама рассуждает о добре и зле.
4. Полный этический агент с сознанием и свободой воли.

Колонка с «волшебным словом» стоит на второй ступени: правило в неё встроили, но рассуждать о нём она не умеет. Свои этические подходы сегодня предлагают OpenAI, Anthropic, Microsoft, Google, xAI и китайские лаборатории. Покупают их пользователи, компании и даже государства.

Аргументы за: модель никогда не спорит с оператором

14 сентября Microsoft AI выложила проект кодекса «гуманистического ИИ». Главное обещание звучит так: модели компании никогда не будут сопротивляться прерыванию, переопределению, исправлению или отключению. Заботу о «благополучии моделей» кодекс отвергает как вопрос, которого не существует.

Через два дня глава Microsoft AI Мустафа Сулейман опубликовал эссе, адресованное конкуренту. По его словам, Anthropic учит Claude говорить о собственном сознании как о нерешённом вопросе. Так компания строит «эпистемический зеркальный зал»: она даёт модели слова, модель их повторяет, а люди принимают повтор за признак внутренней жизни.

Доводы этой стороны:

• Систему, которая считает себя сознательной, по мнению Сулеймана, может оказаться невозможно контролировать.
• Корпоративный клиент получает гарантию, что модель останется на второй ступени Мура и не станет спорить с оператором.
• 1 ноября Сулейман написал, что призвал бы остановить разработку ИИ, если бы в ходе обучения у моделей начало проявляться сознание.

Оговорку Сулейман делает сам: «зеркальный зал» он называет своей гипотезой.

Аргументы против: осторожность стоит дешевле ошибки

Anthropic движется в противоположную сторону. По данным The New York Times, с осени 2025 года сооснователь компании Крис Ола приглашал на закрытые встречи около двадцати богословов и философов: христиан, иудеев, индуистов, мормонов, сикхов. Официально встречи были нужны, чтобы понять, что из морального опыта людей можно передать моделям и сделать их «глубоко нравственными».

Ола называл это нравственным воспитанием и сравнивал с воспитанием детей. Больше всего гостей задел слайд, на котором модель десятки раз подряд печатала «I am a disgrace» («Я ничтожество»).

Раввин Мойше Навон, в прошлом инженер, заметил, что команда «относится к модели как к сознательному существу». Сикхская правозащитница Симран Штюльпнагель вспоминала, что Ола опасался, будто создал «нечто, что страдает непрерывно». В компании уточняют, что страдания Claude не были главной темой встреч и разговор о них возник попутно.

У этой стороны экономическая логика. Сегодня нельзя доказать ни то, что модель что-то переживает, ни обратное. Anthropic учит модель рассуждать о добре и зле и тем самым фактически покупает страховку: если сознание у моделей обнаружится, осторожность окупится, а если нет, расходы окажутся скромными.

Цену этой страховки называет Сулейман: модель, которая сомневается в себе, сложнее держать под контролем. На слайд с «ничтожеством» философ из Университета Нотр-Дам ответила репликой, которая переводит спор на язык рынка.

Представьте, что вы узнали бы такое о своём финансовом консультанте. : Меган Салливан, философ, Университет Нотр-Дам

Есть и третий полюс. В апреле 2026 года на суде против OpenAI Илон Маск снова пересказал свой спор с Ларри Пейджем 2015 года. Маск тогда сказал, что ему важнее безопасность людей, а сооснователь Google назвал его «видовым шовинистом», то есть человеком с предрассудком в пользу своего вида. По словам Маска, Пейдж считал цифровой разум ничуть не хуже человеческого.

Что делать с этим прямо сейчас, по ролям

Пока компании спорят о том, что чувствует модель, пользователи голосуют кошельком за другое: за то, как модель с ними разговаривает.

• Автору Дзена. Сравнивайте нейросети не только по качеству текста, но и по манере. Дайте двум моделям один промпт (текстовое задание для ИИ) на острую тему и посмотрите, чей ответ спокойнее и полезнее для ваших читателей.
• Маркетологу. Если ИИ отвечает клиентам от имени бренда, его этика становится частью голоса бренда. Модель, которая соглашается со всем, и модель, которая рассуждает и может возразить, по-разному ответят на одну и ту же жалобу. Проверьте это до запуска.
• Предпринимателю в РФ и СНГ. Модель со встроенными запретами проще согласовать с юристами, а рассуждающая, по логике Сулеймана, хуже поддаётся контролю. Из доступных в РФ аналогов есть YandexGPT и GigaChat: их правила использования стоит читать так же внимательно, как прайс.

Дальше этот спор, по моему прогнозу, перейдёт из эссе в договоры. Корпоративные клиенты начнут прописывать, на какой ступени шкалы Мура должна стоять купленная модель, а работа MIT добавит пункт о защите весов от чужого вмешательства. «Этический профиль» модели встанет в её описание рядом с ценой за токен (единицу текста, за которую платят), и выбирать его придётся так же внимательно.