Есть ли у ИИ сознание: треть людей отвечает «нет», и доверие к машинам остаётся низким

Вопрос «есть ли у ИИ сознание» здесь решают не философы, а обычные люди-наблюдатели. Исследователи проверяли, по каким признакам мы приписываем машине сознание и почему даже безупречная имитация человека не убеждает нас ей довериться.

Что измеряли

Сегодня машины всё чаще ведут себя «по ситуации». Большие языковые модели (нейросети вроде ChatGPT, которые учатся на огромных массивах текста) удерживают нить разговора, а автономные роботы ориентируются в меняющейся обстановке. Учёные спросили: видит ли человек в таком поведении машины то же, что и в поведении другого человека?

Авторы сравнили два возможных способа рассуждать. Первый они назвали функционалистской атрибуцией: чем точнее существо реагирует на обстановку, тем больше сознания мы ему приписываем, и неважно, человек это или машина. Второй, эссенциалистская атрибуция, устроен иначе: сознание мы оставляем за «своими», и машина, ведущая себя как человек, всё равно считается менее сознательной.

Отдельно исследователи разделили два близких понятия. Сознание связано с субъективным опытом, то есть с тем, каково это, быть кем-то. Осведомлённость (awareness) означает способность замечать важное в ситуации и реагировать на это, без обязательного внутреннего переживания. Учёные проверяли, одинаково ли люди приписывают машине и то, и другое.

Что обнаружили

Ключевые выводы, которые приводит доклад:

• Доверие к ИИ остаётся очень низким, даже если его поведение не отличить от человеческого.
• Треть людей в прежних опросах полностью отказывает ИИ в сознании.
• Остальные две трети приписывают машине сознание лишь отчасти и с большой долей неуверенности.
• Большинство не считает, что ИИ можно причинить страдания так же, как человеку.
• Люди охотнее признают за роботами агентность (способность планировать и действовать), но отказывают им в способности чувствовать.
• Признание за машиной агентности, или «интеллекта», связано с ростом доверия к ней, а признание способности чувствовать, наоборот, снижает готовность следовать её советам.

Последний пункт выглядит парадоксально, но авторы дают объяснение. Машина, у которой будто бы есть чувства, воспринимается как субъект со своими интересами, а не как «пустой» инструмент, и полагаться на её суждения людям становится неуютно.

С этим же связан эффект «зловещей долины» (uncanny valley): когда почти человекоподобная машина вызывает тревогу. По данным доклада, тревога появляется именно тогда, когда наблюдатель приписывает машине способность чувствовать, а не способность действовать.

Деталь, мимо которой легко пройти: доклад опирается не только на собственный эксперимент, но и на массив прежних исследований. Цифры про треть и две трети относятся именно к ним, а не к новому опыту мюнхенской команды.

Что это значит для вас

Исследование касается тех сценариев, в которых мы уже живём: выбор товара с подсказки нейросети, собеседование с ИИ вместо будущего начальника, краткий пересказ чужого исследования. Для всех трёх ситуаций вывод один: человекоподобность сама по себе доверия не добавляет.

Автору Дзена. Не очеловечивайте ИИ в текстах ради эффекта. Если вы пишете обзор нейросети, подавайте её как инструмент, который что-то делает: планирует, сравнивает, сокращает. По данным доклада, именно «агентность» связана с доверием, а рассказы о «чувствующей» машине скорее насторожат читателя.

Маркетологу. Чат-бот, который изображает эмоции и «переживает» за клиента, может работать против вас. Безопаснее делать акцент на точности и пользе, а не на том, какой ассистент «живой».

Предпринимателю в РФ и СНГ. Если вы внедряете ИИ в общение с клиентами или в найм, учитывайте исходное недоверие людей. Из доступных в России инструментов, на которых можно собрать такого помощника, это YandexGPT и GigaChat. Честно предупреждайте человека, что с ним работает машина, и давайте возможность перейти к живому сотруднику.

Проверьте свои последние три материала про ИИ: если в них машина «думает», «понимает» и «чувствует», замените эти глаголы на «подбирает», «сравнивает» и «сокращает», и посмотрите, как изменится реакция читателей.

По данным доклада учёных Мюнхенского университета