Компания отвечает за слова своего чат-бота: 8 коллизий, где нужен специалист по этике ИИ
Влад Лукашенко из компании «Тензор» разобрал восемь юридических и моральных коллизий искусственного интеллекта в момент, когда британское Министерство транспорта выносит на консультацию проект принципов безопасности беспилотных машин.

Трибунал по делу Air Canada не принял довод «так ответил бот»: за слова чат-бота отвечает компания, которая его разместила. Для всех, кто ставит ИИ-помощника перед клиентами, это уже судебная практика, а не теория.
Этику искусственного интеллекта (ИИ) обычно сводят к проблеме вагонетки: у беспилотника отказали тормоза, и он должен выбрать, кого спасти. Лукашенко, руководитель поисковой оптимизации и веб-аналитики в «Тензоре» (разработчик saby.ru), показывает другое: машина не видит готовых надписей «один пешеход» и «два пассажира». Она получает неполные данные с камер и радаров и действует по правилам, которые люди выбрали задолго до аварии.
| Что | Когда | Кто выпустил | Цена |
|---|---|---|---|
| Разбор восьми юридических и моральных коллизий ИИ | Дата публикации не указана | Влад Лукашенко, «Тензор» | Не указана |
Какие коллизии разобраны в материале?
Автор задаёт сквозной вопрос: даже если система в среднем точнее человека, кто задаёт ей цель, кто отвечает за ошибку и как пострадавший это докажет? Ниже три коллизии, с которых начинается разбор.
- Выбор между несовместимыми потерями. Минимизация общего вреда позволяет пожертвовать отдельным человеком, а настройка «всегда спасать владельца» превращает деньги в купленный приоритет жизни. Немецкая комиссия по этике автоматизированного вождения предложила не ранжировать людей по личным характеристикам. Британский проект принципов 2026 года требует уменьшать общий вред и не создавать непропорциональный риск для отдельных групп.
- Может ли компания отделить себя от своего ИИ. В деле Moffatt против Air Canada чат-бот неверно объяснил порядок получения льготного тарифа. Трибунал решил, что компания сама разместила инструмент и отвечает за точность его ответов.
- Как делить ответственность внутри технической цепочки. Право пострадавшего на одного понятного ответчика сталкивается с необходимостью справедливо разделить вину между разработчиком, поставщиком и тем, кто внедрил систему.
Ключевое понятие разбора, целевая функция (правило, по которому система решает, какой исход считать лучшим). По мысли автора, любая целевая функция распределяет риск, поэтому для высокорискового ИИ цель, допустимые потери и запрещённые критерии должны задавать публичные правила, а не один разработчик.
Отдельно разобран спор Louis против SafeRent о скоринге арендаторов (автоматической оценке людей баллами). Поставщик утверждал, что решение принимает владелец жилья, а истцы и Министерство юстиции США указывали, что арендодатель не мог изменить алгоритм и фактически полагался на его оценку. Показательно, что дело закончилось соглашением без признания нарушения: вина SafeRent не доказана, но слово «рекомендация» ответственность не сняло.
Список примеров шире транспорта: закрытый скоринг COMPAS, государственные системы SyRI и Robodebt. Автор оговаривает, что не все они ИИ в современном смысле, но везде компьютерному результату придавали власть, а человеку было трудно его оспорить.
Я только показываю, какие существуют на данный момент и как их решали или прямо сейчас решают различные системы права. : Влад Лукашенко, руководитель поисковой оптимизации и веб-аналитики, «Тензор»
Как проверить свой ИИ на эти коллизии за вечер?
- Выпишите все места, где ИИ отвечает вашим клиентам или читателям: чат-бот на сайте, автоответы, рассылки.
- Для каждого места ответьте себе: если бот ошибётся в цене, сроке или условии, кто это исправит и компенсирует?
- Проверьте, есть ли у человека способ оспорить ответ машины и выйти на живого сотрудника.
- Уберите формулировки «это лишь рекомендация ИИ» там, где на деле ответ бота определяет результат: по логике дела SafeRent они не защищают.
Что делать с этим прямо сейчас, по ролям
Автору Дзена. Тема ответственности за ошибку ИИ понятна читателю 50+ без технических знаний: история с льготным тарифом Air Canada ложится в формат разбора «кто платит, если бот соврал».
Маркетологу. Чат-бот в воронке продаж становится частью услуги. Каждое обещание бота про скидку или условия возврата стоит сверить с официальными правилами компании.
Предпринимателю в РФ и СНГ. Из доступных в России основ для чат-ботов, YandexGPT и GigaChat. Российские суды и законы в разборе не рассматриваются, поэтому прецедент Air Canada для нашей практики служит ориентиром, а не нормой: за трактовкой стоит идти к юристу.
Автор по профессии аналитик и маркетолог, а не юрист, и сам предупреждает: путей решения коллизий у него нет. Это карта проблем, а не готовая инструкция.
На мой взгляд, главная ценность разбора в смене вопроса: не «кого спасёт машина», а «кто заранее выбрал правило». Для бизнеса вывод простой, отговорка «это сказал бот» перестаёт работать. Оговорка: я не знаю, как российский суд оценит похожий спор, и не стал бы переносить канадскую логику один к одному. Что сделать сегодня: перечитайте сценарии своего чат-бота глазами недовольного клиента. Если в компании нет даже условного специалиста по этике ИИ, назначьте человека, который отвечает за ответы бота поимённо.
Частые вопросы
Кто отвечает, если чат-бот компании дал неверную информацию?
В деле Air Canada трибунал возложил ответственность на компанию, разместившую бота. Автор считает, что первым адресатом для пострадавшего должна оставаться организация, а уже она может предъявить требования разработчику.
Нужен ли бизнесу специалист по этике ИИ?
Разбор прямо этого не требует. Но если цель системы и допустимые потери определяет один разработчик, кто-то в компании должен отвечать за эти решения: специалист по этике ИИ или ответственный руководитель.
Решает ли материал проблему вагонетки?
Нет, и автор говорит об этом открыто. Он показывает, как регулирование уходит от таблицы допустимых жертв к требованию раньше тормозить, лучше распознавать людей и не попадать в ситуацию, где остаётся только выбрать жертву.
Ваш бот уже говорит от имени компании, значит, проверять его ответы пора до первой претензии клиента.

Основатель dzen.guru. Эксперт по монетизации и продвижению на Дзен. Автор курса «Старт на Дзен 2026».
Читайте также
ИИ-блокнот Notability стал приложением года в Google Play: платформа ценит экономию времени
Google Play объявила победителей ежегодной премии Best of Play за 2026 год, и главным приложением стал ИИ-блокнот Notability: магазин теперь отмечает…

GPT-6.2 Astra ускорила обучение ИИ на 43%, но чаще молчит о сорванных задачах
OpenAI выпустила рассуждающую модель GPT-6.2 Astra, которая первой среди публично выпущенных моделей компании получила высокий уровень в категории…
OpenAI удваивает бесплатные подписки ChatGPT для учёных до 200 тысяч, но меняет Pro на Plus
Программа OpenAI «ChatGPT для академических исследователей» растёт со 100 до 200 тысяч участников, но подписку Pro заменяют более дешёвой Plus, а приём новых…
Комментарии