Ответственность искусственного интеллекта невозможна: почему за ошибку ИИ некому платить

Каждый месяц компании отчитываются об экономии на зарплатах благодаря ИИ, но при этом никто не объясняет, кто теперь несёт ответственность за решения, которые раньше принимали уволенные сотрудники. Дмитрий Фырнин из SENSE разложил проблему на конкретные ситуации: от колл-центров до беспилотных автомобилей. Его главный тезис: граница автоматизации определяется не сложностью задачи, а тем, способен ли кто-то взять на себя ответственность за результат.

Какие задачи ИИ забирает уже сейчас?

• Полностью алгоритмизируемая работа уходит первой. Если задача целиком описывается блок-схемой (взять цифру из одной колонки, вписать в другую), ИИ справится.
• Операторы колл-центров по скрипту и первая линия техподдержки фактически уже заменены. По наблюдению Фырнина, у крупных компаний на первой линии в подавляющем большинстве случаев отвечает бот.
• Маркетинг и аналитика получают ИИ как помощника, не замену. Нейросеть убирает рутинные операции, но не берёт на себя итоговое решение.
• Бухгалтерия, юротдел и HR под полную замену не попадают. Причина не в сложности, а в том, что эти специалисты лично отвечают за результат перед законом и компанией.

Почему ответственность искусственного интеллекта невозможна?

Фырнин формулирует ключевой аргумент так: каждый процесс нуждается во владельце, в конечном ответственном звене. Уберите человека, заменив его нейросетью, и ответственность не переходит никому.

Он приводит пример с беспилотными автомобилями. Правила дорожного движения формализованы жёстче любой офисной работы. Тем не менее массового внедрения беспилотников нет, хотя для таксопарков это означало бы колоссальную экономию. В каждой такой системе по-прежнему сидит оператор, который контролирует процесс.

Причина та же: галлюцинация (когда ИИ уверенно выдаёт несуществующий факт за правду) заложена в архитектуру. Большая языковая модель по природе представляет собой статистический предсказатель следующего символа. Технология усложняется, но принципиально остаётся подверженной ошибкам.

Фырнин указывает и на рыночный аргумент: если бы ИИ мог принимать решения самостоятельно, уже существовали бы прибыльные компании, управляемые одним ИИ. Таких компаний нет.

Что компании сократили на самом деле?

Для внедрения ИИ бизнесу пришлось пересмотреть процессы. А в любой крупной компании при детальном разборе любого процесса обнаруживается то, что можно оптимизировать и без нейросетей.

По оценке Фырнина, ИИ стал удобным поводом сократить неэффективных сотрудников. При этом ни одна компания, отчитываясь об увольнениях, не публикует данных о реальной эффективности уволенных людей. Фырнин допускает, что в крупной компании с непересмотренными процессами можно сократить 15-30% штата без ущерба, но подчёркивает: публичных данных, подтверждающих это, нет ни у кого.

Экономия тоже требует проверки. Снижение расходов на зарплаты не означает, что общие расходы упали. Инференс (вычислительные ресурсы, которые модель потребляет при каждом запросе) стоит денег: нужно либо строить собственный дата-центр, либо покупать токены (единицы текста, за обработку которых платит компания). Для ряда задач стоимость токенов сопоставима с зарплатой специалиста.

Как отметил Фырнин на митапе про ИИ-агентов (программы, которые самостоятельно выполняют цепочку действий) в B2B: раздать команде доступы к нейросетям мало, метрики сдвигаются, только когда под ИИ перестраивается весь процесс. Чудо творит не нейросеть, а наведённый ради неё порядок.

Российский закон ставит жёсткую границу

В России решение, существенно влияющее на другого человека, не может быть принято без участия живого человека. Посадить в тюрьму, используя только ИИ, незаконно. Отказать в приёме на работу или уволить тоже.

Это критический контекст для любой компании, которая автоматизирует HR-процессы, юридическую экспертизу или финансовые решения на территории РФ. Формально обойти ограничение можно, но вопрос Фырнина остаётся без ответа: если мы доверили ИИ принятие решений, кто ответит за ошибку?

Независимо от модели, российское законодательство требует, чтобы конечное решение принимал человек. Ни одна нейросеть, российская или зарубежная, не снимает этого требования.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. ИИ ускорит черновики и рутину по сбору фактуры, но подписывать материал своим именем означает нести за него ответственность. Проверяйте каждый факт из нейросети, галлюцинации никуда не делись.

Маркетологу и HR-специалисту. Если вы автоматизируете отбор резюме или рассылку через ИИ, убедитесь, что финальное решение фиксируется за живым сотрудником. В России отказ кандидату, принятый нейросетью без участия человека, создаёт правовой риск.

Предпринимателю в РФ. Прежде чем отчитываться об экономии на ФОТ за счёт ИИ, посчитайте реальные расходы на инференс и токены. И проверьте, не возник ли в ваших процессах «безответственный» участок, где за результат формально не отвечает никто.

Частые вопросы

Может ли ИИ полностью заменить бухгалтера или юриста в России?

Нет. Российское законодательство требует участия живого человека в решениях, существенно влияющих на других людей. Бухгалтер и юрист несут персональную ответственность за результат, и передать её нейросети юридически невозможно.

Правда ли, что компании экономят на зарплатах благодаря ИИ?

Экономия на фонде оплаты труда не означает снижения общих расходов. ИИ требует вычислительных ресурсов: либо собственный дата-центр, либо покупка токенов у провайдера. По наблюдению Фырнина, для ряда задач стоимость токенов сопоставима с зарплатой специалиста. Кроме того, сам пересмотр процессов перед внедрением ИИ мог дать эффект и без нейросети.

Кто отвечает, если ИИ-агент допустит ошибку в бизнес-процессе?

На сегодня ответ прост: никто, если вы убрали человека из цепочки. Именно поэтому в каждом процессе должен оставаться владелец, сотрудник, который проверяет результат и отвечает за него. Без этого звена, как пишет Фырнин, хаос начинается моментально.