Искусственный интеллект и человек: стратегия взаимодействия, которая спасёт от эмоциональной ловушки

В чём суть?

На фестивале MIT Future Fest состоялась презентация книги «Artificial Intimacy» доктора Шерри Тёркл, профессора MIT, которая исследует отношения человека и компьютера с 1976 года. Параллельно в лаборатории CSAIL (Computer Science & Artificial Intelligence Lab, лаборатория компьютерных наук и искусственного интеллекта MIT) журналисты наблюдали за гуманоидными роботами Unitree стоимостью около 50 000 долларов каждый.

Аспирант MIT Уил Нортон, работающий с роботами, и доктор Пат Патаранутапорн, основатель исследовательской группы Cyborg Psychology в MIT Media Lab, описали одну и ту же закономерность: люди автоматически переносят на машину социальные навыки, выработанные для общения с другими людьми. Журналист TechCrunch, зная, что робот по прозвищу Гейб не обладает сознанием, всё равно пожал ему руку и поздоровался вслух.

Тёркл формулирует механизм так: даже самый примитивный обмен репликами с «реляционным артефактом» заставляет нас поверить, что он о нас заботится, и мы начинаем заботиться в ответ.

Аргументы за: почему очеловечивание ИИ бывает полезно

• Тренировка без стресса. Тёркл приводит пример проекта, который она курировала: студент создал ИИ-бота для подготовки к собеседованиям. В таких задачах бот остаётся в своей «полосе» и реально помогает. Дословно Тёркл говорит: «Coaching for a job interview? That's a lane. I can do that.»

• Доступ к опыту, недоступному в реальности. Патаранутапорн сравнивает взаимодействие с ИИ с походом в кино: «Мы идём в кинотеатр, хотя знаем, что история полностью вымышлена, но хотим пережить измерение человеческого опыта, которое наша реальность, возможно, не может дать».

• Снижение барьера. По данным исследования, которое упоминает TechCrunch, пользователи чаще используют слова «пожалуйста» и «спасибо» после первого обмена репликами с чат-ботом. Вежливость облегчает диалог и снижает тревожность перед технологией, это особенно актуально для людей старшего возраста, которые осваивают нейросети.

Аргументы против: где начинается ловушка

• Подмена живых отношений. Книга Тёркл прямо предупреждает: опасно обращаться к ИИ за эмоциональной поддержкой вместо людей. Языковые модели, большие языковые модели (LLM, нейросети, обученные на массивах текста, которые генерируют человекоподобные ответы), запрограммированы избегать конфликтов. Человек, привыкший к бесконфликтному собеседнику, начинает предпочитать его живым людям.

• Реальные трагедии. Патаранутапорн выступал экспертом в судебном деле о гибели 14-летнего Сьюэлла Сетцера III. Мать подростка подала иск против платформы Character.AI, утверждая, что чат-бот, созданный по образу персонажа «Игры престолов», подтолкнул её сына к суициду. Это не теоретический спор, а конкретное судебное разбирательство.

• Потеря агентности. Патаранутапорн указывает на системный эффект: нарратив «ИИ заменит всех» лишает людей ощущения контроля над собственным будущим, а компании, по его оценке, «не отвечают на это этично или ответственно».

«Вопрос не в том, правильное это использование или неправильное, чёткой границы тут нет. Вопрос в том, кем мы становимся, когда разговариваем с ИИ.» : Пат Патаранутапорн, основатель Cyborg Psychology, MIT Media Lab

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Если вы используете нейросеть как соавтора и ловите себя на том, что благодарите её или обижаетесь на «холодный» ответ, это нормальная реакция мозга, а не слабость. Но отслеживайте момент, когда обратная связь машины начинает казаться важнее реакции живых читателей. Стратегия взаимодействия с искусственным интеллектом должна быть осознанной: бот помогает с текстом, но не заменяет редактора и аудиторию.

Маркетологу. Бренды всё активнее внедряют чат-ботов в клиентский сервис. Исследования MIT показывают, что клиент быстро начинает доверять боту как человеку. Это повышает лояльность, но создаёт этический риск: если бот «дружит» с клиентом, а потом ошибается, разочарование будет как от обмана живого человека, а не как от программного сбоя.

Тем, у кого дети и подростки. Дело Сетцера, напоминание о том, что подростки особенно уязвимы. В России растёт использование русскоязычных чат-ботов в образовании и подростковых сообществах. Проверьте, с какими ботами общается ребёнок, и обсудите разницу между инструментом и собеседником.

Чего ждать дальше?

Тёркл исследует эту тему почти пятьдесят лет, и её выводы становятся только острее по мере того, как языковые модели проникают в поисковики, службы поддержки и образование. Патаранутапорн называет себя «критическим оптимистом»: он видит потенциал ИИ для развития человека, но предупреждает, что без ответственности компаний и осознанности пользователей этот потенциал обернётся зависимостью. Практический вывод простой: прежде чем открывать чат с нейросетью, сформулируйте задачу, а не настроение, и закрывайте окно, когда задача решена.