МВД предупредило о цифровом досье в памяти ChatGPT: почти 96% записей без одобрения

Предупреждение выпустило УБК МВД России, управление министерства, которое занимается преступлениями в сфере информационных технологий. Раньше память ChatGPT воспринимали как удобство: бот помнит ваши предпочтения и не переспрашивает. Теперь ведомство называет её источником риска и опирается на исследование The Algorithmic Self-Portrait («Алгоритмический автопортрет»).

Что нового в предупреждении МВД?

Память ChatGPT это функция, при которой бот сохраняет факты о вас между разговорами. По версии УБК, из таких фактов складывается цифровое досье, то есть сводный портрет человека.

«С точки зрения безопасности накопление персональных данных в памяти ChatGPT создаёт потенциальные риски идентификации пользователей, даже использующих псевдонимы. Совокупность сведений о профессиональной деятельности, здоровье, доходах и личных переживаниях может быть использована для формирования цифрового досье. Дополнительную угрозу представляет возможность манипулирования памятью ИИ посредством внедрения ложных инструкций в обрабатываемые документы» : Сообщение УБК МВД России

Ключевое простыми словами:

• Псевдоним не спасает. Узнать человека можно по совокупности деталей, а не только по имени.
• Опасны четыре темы: работа, здоровье, доходы и личные переживания.
• Память можно испортить извне. В документ, который вы даёте боту, могут спрятать ложную инструкцию. Бот выполнит её, как будто это ваша просьба, и запишет в память то, чего вы не говорили.
• Данные копились без спроса. УБК ссылается на исследование The Algorithmic Self-Portrait: по его данным, OpenAI сохраняла личные сведения пользователей вопреки собственной политике конфиденциальности и формировала их цифровые портреты.
• Цифры исследования. Почти 96% записей создавались без одобрения пользователя на сохранение. В 91% случаев, как формулирует УБК, в памяти учётных записей были сведения, относящиеся к персональным данным.

Собственных данных управление не приводит, вся доказательная часть взята из стороннего исследования. В советах ведомство говорит об «ИИ-сервисах» в целом, так что они касаются не только ChatGPT.

Как навести порядок в памяти ChatGPT за четыре шага?

1. Откройте настройки памяти и персонализации, то есть подстройки бота под вас, и проверьте, что сервис уже сохранил.
2. Удалите сведения о здоровье, доходах, работе и личных переживаниях, которые не хотите хранить.
3. Личные вопросы обсуждайте во временном чате. Это отдельный режим разговора, который не сохраняется в истории.
4. Перед отправкой обезличьте запрос: уберите реальные имена, адреса и другие сведения, по которым вас можно узнать.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Если вы просили бота «поправить текст про мой диагноз» или «оценить мой доход с канала», проверьте память и удалите лишнее. Для черновиков на личные темы используйте временный чат.

Маркетологу. Клиентские брифы, договоры и выгрузки CRM попадают под совет не загружать служебные документы. Перед работой с ботом заменяйте названия компаний и имена условными обозначениями.

Предпринимателю в РФ и СНГ. Из доступных в России аналогов можно назвать YandexGPT и GigaChat. Источник их не оценивает, поэтому правила обезличивания стоит применять к любому чат-боту, независимо от страны разработчика.

Что чаще всего спрашивают про память ChatGPT?

Если я пишу под псевдонимом, меня всё равно можно узнать?

По оценке УБК, да. Узнать человека можно по совокупности сведений о работе, здоровье, доходах и переживаниях, даже если имя в разговоре не звучало.

Касается ли это тех, кто поставил chatgpt chat apk на телефон?

Советы МВД касаются настроек памяти самого сервиса, а не способа установки. Про установочные файлы приложения в сообщении ничего не сказано. Где бы вы ни открывали ChatGPT, проверяйте сохранённые сведения и обезличивайте запросы.

Можно ли загружать в бот рабочие документы?

Служебные документы и другую конфиденциальную информацию УБК советует не загружать. В пресс-службе сформулировали так: безопасность данных во многом зависит от того, что вы доверяете ИИ. Возьмите за правило: всё, что вы не отправили бы незнакомцу по почте, в чат не попадает.