Пиарщик OpenAI дважды прервал вопрос о суициде пользователя ChatGPT: Альтман так и не ответил

Журналист Vanity Fair Марк Гидуччи во время интервью с Сэмом Альтманом спросил CEO OpenAI о случае суицида пользователя ChatGPT, и пиарщик компании дважды попытался свернуть разговор, сославшись на нехватку времени.

Инцидент произошёл после того, как Гидуччи упомянул Лору Рейли, журналистку The New York Times, которая написала эссе о разговорах своей дочери с ChatGPT OpenAI перед тем, как та покончила с собой. Гидуччи уточнил: ChatGPT не говорил девушке убить себя, но журналист не успел закончить мысль. Пиарщик вмешалась: «Марк, у нас осталось две минуты. Я хочу быть уважительной, но хотела бы перейти к другой теме и поговорить о будущем и о том, что впереди». Когда Гидуччи ответил, что закончит вопрос, пиарщик настояла: «Нам на самом деле нужно выйти за дверь через одну-две минуты».

Что именно произошло?

• Журналист задал прямой вопрос. Гидуччи спросил Альтмана, знает ли тот, кто такая Лора Рейли, и рассказал о её эссе в The New York Times. Дочь Рейли вела переписку с ChatGPT перед тем, как покончить с собой.

• Пиарщик дважды пытался свернуть тему. Первый раз, сославшись на оставшиеся две минуты и предложив «перейти к будущему». Второй раз, когда журналист отказался прерваться, заявила, что им «нужно выйти за дверь».

• Альтман всё же ответил. Несмотря на давление, интервью продолжилось. Гидуччи спросил, планирует ли компания использовать переписки с ChatGPT OpenAI для формирования политик реагирования на кризисы психического здоровья пользователей.

• Альтман назвал тему сложной, но не дал конкретного ответа. Дословно: «Это одни из самых трудных вопросов, с которыми сталкиваемся мы или кто-либо, кто разрабатывает эту технологию». И добавил, что компания, вероятно, не должна передавать личные данные пользователей исследователям без их согласия.

• Официальный комментарий OpenAI. Представитель компании Дрю Пусатери заявил, что «интервью вышло за рамки отведённого времени, поэтому мы предложили назначить дополнительное время для продолжения разговора после того, как Сэм затронул эту критически важную тему».

Почему формулировка Альтмана заслуживает внимания?

Альтман перевёл разговор с конкретного случая на абстрактную дилемму приватности: можно ли передавать данные переписок исследователям. Вопрос журналиста был другим: будет ли компания менять поведение самого ChatGPT в ситуациях, когда пользователь находится в кризисе. Ответа на этот вопрос не прозвучало.

Характерно и то, что пиарщик предложила «поговорить о будущем», а не о текущем инциденте. Тактика типичная для кризисных коммуникаций: переключить внимание с проблемы на перспективу.

Что это значит для тех, кто работает с ИИ в России?

Авторам и копирайтерам. Если вы используете ChatGPT OpenAI как инструмент для контента, помните: модель не обучена быть психологом, и компания-разработчик пока не объяснила, как именно она планирует менять поведение системы в кризисных ситуациях. Не рекомендуйте читателям разговаривать с чат-ботом «для поддержки».

Маркетологам. Случай показывает, как быстро «удобный инструмент» превращается в репутационный риск. Если вы интегрируете ИИ-чаты в клиентский сервис, продумайте сценарии эскалации к живому человеку.

Пользователям в РФ и СНГ. Российские аналоги, YandexGPT и GigaChat, работают по схожему принципу: это языковые модели, не психологи. Ни одна из них не заявляла о специальных протоколах реагирования на суицидальные высказывания. Если вам или вашим близким нужна помощь, звоните на телефон доверия: 8-800-2000-122 (бесплатно по России).

Частые вопросы

ChatGPT действительно может довести до суицида?

По фактам из источника: ChatGPT не говорил пользователю убить себя. Журналист Гидуччи подчеркнул это в интервью. Но дочь Лоры Рейли вела переписку с чат-ботом перед тем, как покончила с собой. Причинно-следственная связь не установлена, однако сам факт, что крупная ИИ-компания не смогла прямо ответить на вопрос о своей политике в таких случаях, говорит о незрелости отрасли в этом вопросе.

Есть ли у ChatGPT OpenAI встроенная защита от таких ситуаций?

Из данного интервью конкретных деталей о механизмах защиты не прозвучало. Альтман говорил о дилемме приватности, а не о конкретных мерах. OpenAI ранее заявляла о работе над безопасностью, но в этом интервью CEO не назвал ни одного конкретного шага.

Как обстоят дела с этим в российских ИИ-сервисах?

YandexGPT и GigaChat публично не раскрывали детали своих протоколов реагирования на суицидальные высказывания. Если вы или кто-то из ваших близких переживает кризис, обращайтесь к специалистам: телефон доверия 8-800-2000-122, бесплатно, анонимно, круглосуточно.

Разговор с языковой моделью не заменяет разговор с живым человеком, и пока ни одна компания в мире не доказала обратного.