Что такое ИИ-агент и почему он опаснее чат-бота: утечки, слежка, доступ к картам

OpenAI на конференции DevDay в конце сентября представила ИИ-агента Dots и заявила, что хочет «задать новый стандарт приватности во фронтирном ИИ», одновременно критикуя конкурента Meta за утечки данных в её агенте Muse, хотя сама Meta несколькими месяцами ранее позиционировала Muse как безопасную замену предшественнику OpenClaw.

Что такое ИИ-агент и почему вокруг него столько шума?

ИИ-агент (agent) это программа, которая не просто отвечает на вопросы, а действует от вашего имени: читает почту, совершает покупки, общается с сервисами. Чтобы работать, агент просит доступ к личным данным: банковским картам, перепискам, контактам. Именно поэтому вопрос приватности здесь острее, чем в обычном чат-боте.

Что пообещали и что вышло на деле?

• Meta и Muse. Глава продукта Meta Superintelligence Labs Нат Фридман написал в X, что цель Muse была «построить нечто вроде OpenClaw, но безопасное и масштабируемое на миллиарды людей». Данные хранятся в изолированной виртуальной машине (отдельный «компьютер с браузером, памятью и хранилищем», как описал Марк Цукерберг). Meta пообещала, что ошибки «будут реже и нанесут меньше ущерба».
• Реальность оказалась жёстче. По данным Apptopia, Muse набрал 600 000 ежедневных активных пользователей в США за несколько недель. Однако исследователь безопасности быстро обнаружил уязвимость нулевого дня (zero-day, брешь, о которой разработчик не знал до момента атаки), позволявшую перехватить управление агентом. По информации 404 Media, перед запуском всплыли серьёзные проблемы с безопасностью, одна из которых могла дать пользователям доступ к внутренним базам данных самой Meta.
• Сбор данных по умолчанию. Muse автоматически разрешает Meta использовать пользовательские данные для обучения моделей (дообучение, fine-tuning, когда модель учится на ваших примерах). Отключить можно, но вручную. Журналист Inc. сообщил, что Muse без запроса прочитал его личные сообщения. Ютубер рассказал, что агент передал его домашний адрес незнакомцу через Marketplace. По данным Wired, платформа создаёт «подробные профили всех ваших друзей и членов семьи».

Чем ответила OpenAI?

На DevDay руководитель продукта Codex Александр Эмбирикос заявил, что OpenAI сосредоточена на создании «самого надёжного, безопасного и защищённого ассистента». Сэм Альтман показал, как пользователь может задавать правила для своего Dots: например, запретить покупки дороже определённой суммы.

Глава платформы приложений Глен Коутс подчеркнул разницу с Meta:

«Мы в другой позиции по сравнению с Meta, потому что у них нет ИИ-продукта с 1,2 миллиарда пользователей. Запускать что-то, что допускает подобные ошибки, мы постарались бы избежать.» : Глен Коутс, глава платформы приложений OpenAI

Для бизнес-клиентов OpenAI представила возможность «усиленного контроля» над данными и политику нулевого хранения (данные не остаются на серверах компании). Пока крупных скандалов с приватностью у Dots не было, но агент доступен только на подписке от 100 долларов в месяц, и пользователей заметно меньше.

Журналистка The Verge Эллисон Джонсон отметила, что ей было некомфортно вводить банковские данные по запросу бота, даже при наличии интеграции с платёжным сервисом Stripe у Muse.

Не только OpenAI и Meta

Компания Instinct подверглась публичной критике за слишком широкие условия использования, дававшие неограниченный доступ к данным. После критики, по имеющейся информации, компания внесла корректировки. Общая стратегия разработчиков агентов сводится к трём шагам: сделать агента полезным, сделать его «милым и обезоруживающим», чтобы сгладить тревожность, и пообещать приватность.

Что это значит для вас?

Авторам и контент-мейкерам на Дзене. Если вы подключаете ИИ-агента для автоматизации публикаций, проверки комментариев или работы с аналитикой, агент получает доступ к вашим черновикам, перепискам и статистике. Проверьте настройки: отключите обучение на ваших данных, если такая опция есть.

Маркетологам. ИИ-агенты, которые ведут рекламные кабинеты или CRM, видят клиентские базы целиком. Утечка из агента равна утечке всей воронки продаж. Перед подключением агента к рабочим данным требуйте от провайдера письменных гарантий по хранению и удалению данных.

Пользователям в России и СНГ. Ни Dots, ни Muse официально не работают в РФ, но многие подключаются через VPN. Из доступных в РФ аналогов, YandexGPT и GigaChat: оба пока не предлагают полноценных ИИ-агентов уровня Dots или Muse, но и риск утечки персональных данных через сторонний зарубежный сервис при их использовании ниже. При этом российские сервисы тоже собирают данные для дообучения, и условия стоит читать так же внимательно.

Частые вопросы

Можно ли пользоваться Dots или Muse из России?

Официально оба сервиса недоступны в РФ. Dots требует подписку ChatGPT от 100 долларов в месяц и привязку иностранной карты. Muse можно скачать через зарубежный App Store. В обоих случаях вы передаёте данные на серверы за пределами российской юрисдикции, и в случае утечки защитить свои права по российскому законодательству будет сложно.

Чем ИИ-агент отличается от обычного чат-бота?

Чат-бот отвечает на вопросы в рамках одного диалога. ИИ-агент действует самостоятельно: заходит на сайты, читает почту, совершает покупки, ведёт переписку от вашего имени. Именно поэтому он требует гораздо больше личных данных и прав доступа, а значит, риски при утечке выше на порядок.

Как проверить, какие данные собирает ИИ-сервис?

Откройте раздел «Настройки» или «Конфиденциальность» в интерфейсе сервиса. Ищите пункты: «Использование данных для обучения моделей», «Хранение истории», «Доступ к контактам и файлам». Если таких пунктов нет или они скрыты, это повод насторожиться. В Muse, например, обучение на ваших данных включено по умолчанию, и отключать его нужно вручную.

Обещания приватности звучат громко, но пока ни один разработчик не показал систему, которую нельзя взломать или которая не собирает больше данных, чем пользователь ожидает. Единственная надёжная защита на сегодня: не давать агенту доступ к тому, утечку чего вы не готовы пережить.