ИИ-агенты: это инструмент, а не коллега, иначе люди пропускают на 18% больше ошибок

Эмма Уайлс, профессор бизнес-школы Бостонского университета, опубликовала результаты исследования, в котором участвовал 1 261 менеджер. Главный вывод: ИИ-агенты это программные инструменты, и стоит называть их именно так. Когда компании представляют агентный ИИ (систему, запрограммированную работать в цикле, пока не достигнет цели) как «цифрового коллегу», качество контроля падает, а ответственность размывается. На фоне того, что Microsoft, OpenAI, Anthropic и Google с апреля 2025 года выпустили инструменты для управления командами ИИ-агентов, проблема из теоретической стала практической.

Что показало исследование?

• Люди ловят меньше ошибок. Когда ИИ-инструмент представляли как «ИИ-сотрудника», участники находили на 18% меньше ошибок по сравнению с группой, где тот же инструмент называли чат-ботом. ИИ-агенты это просто софт, но этикетка «коллега» усыпляет критическое мышление.

• Ответственность уплывает наверх. Участники были на 44% чаще склонны перекидывать сомнительные результаты ИИ на менеджера вместо того, чтобы исправить самим. По данным того же исследования Уайлс, это обнуляет экономию времени, ради которой агента и подключали.

• Почти четверть компаний уже «очеловечивают» ИИ. Среди опрошенных менеджеров 23% заявили, что их компании включают ИИ-агентов в организационные схемы наравне с людьми.

• Люди считают себя менее ответственными. Когда инструмент подавался как «сотрудник», участники воспринимали себя как менее ответственных за итоговый результат его работы.

Почему исследователи бьют тревогу?

Дарон Аджемоглу, экономист MIT, нобелевский лауреат 2024 года, изучающий влияние ИИ на экономику, прокомментировал ситуацию прямо:

ИИ-агентов сейчас продвигают как то, что может заменить людей, и я считаю, что это проигрышная стратегия. Вместо этого их нужно оптимизировать так, чтобы они улучшали возможности людей, чего пока не происходит. : Дарон Аджемоглу, экономист MIT, нобелевский лауреат 2024 года

Исследователи из Стэнфорда подошли к вопросу с другой стороны. Они показали 1 500 работникам из 104 профессий информацию о задачах, которые ИИ потенциально может выполнять, и спросили, что реально было бы полезно. Результат: работники хотели автоматизации в одних областях (например, юристы хотели, чтобы ИИ отслеживал прогресс по делам), но категорически не хотели отдавать другие задачи, которые технические эксперты считали идеальными для ИИ. Стэнфордское исследование не называет конкретных цифр разрыва, но вывод ясен: те, кто работает с клиентами и пациентами, лучше понимают, где машина поможет, а где навредит.

Публикация в MIT Technology Review отдельно напоминает о рисках в критически важных сферах. Когда ИИ-агенты встраиваются в медицину, образование и госуправление, они становятся удобным объектом для перекладывания вины за провалы, которые на деле вызваны человеческими решениями и плохим контролем.

Как это касается работы в России?

Тенденция называть ИИ-инструменты «сотрудниками» добралась и до российского рынка. Если ваша компания использует YandexGPT, GigaChat или любую другую модель и при этом говорит сотрудникам «это ваш новый коллега», по данным исследования Уайлс, вы получаете скрытый налог на качество: люди реже перепроверяют выдачу и чаще перекидывают ответственность.

Для медицины и госучреждений в РФ это особенно болезненно. Врач, который воспринимает ИИ-систему как «ассистента-коллегу», а не как инструмент для перепроверки, рискует пропустить ошибку в диагнозе. Чиновник, получивший «рекомендацию цифрового сотрудника», с меньшей вероятностью будет её оспаривать.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Если вы используете нейросеть для генерации черновиков, не называйте её «соавтором» даже мысленно. Это инструмент. Перечитывайте каждый абзац так, как перечитывали бы текст стажёра, которому не доверяете.

Маркетологу. Пересмотрите, как ваша команда говорит об ИИ-инструментах внутри компании. «Наш ИИ-менеджер подготовил отчёт» звучит современно, но по данным исследования Уайлс, такая формулировка снижает критичность проверки на 18%.

Предпринимателю в РФ. Если вы внедряете ИИ-агентов в процессы, особенно в медицине, образовании, работе с документами, зафиксируйте в регламенте: ИИ-агенты это инструмент, ответственность за результат несёт конкретный человек. Не включайте нейросеть в оргсхему, даже в шутку.

Частые вопросы

ИИ-агенты это то же самое, что чат-боты?

Не совсем. Чат-бот отвечает на один запрос и ждёт следующий. ИИ-агент (agent) запрограммирован работать в цикле: он получает цель, разбивает её на шаги, выполняет их, проверяет результат и продолжает, пока задача не решена. Но и то, и другое остаётся программным инструментом, не коллегой.

Исследование проводилось на российских компаниях?

Нет. Исследование Эммы Уайлс из Бостонского университета охватило 1 261 менеджера, но о географии выборки источник не сообщает. Аналогичных исследований на российском рынке пока не проводилось, однако механизм «очеловечивания снижает критичность» не зависит от языка или страны.

Что делать, если руководство уже назвало ИИ «сотрудником»?

Предложите разделить: пусть у инструмента будет удобное внутреннее имя для обращения, но в регламентах и зонах ответственности он остаётся именно инструментом. Ключевое: в каждом процессе должен быть человек, который подписывается под итоговым результатом, а не ссылается на «решение ИИ-коллеги».

Результаты Уайлс ставят простой вопрос каждому, кто внедряет нейросети: вы хотите, чтобы люди работали лучше с помощью ИИ или хуже из-за красивой этикетки на нём.