Мета ИИ собирал данные о детях из удалённых фото: компания признала сбой

Инцидент стал публичным после того, как пользовательница Instagram Кали Робинс выложила видео с разбором работы Meta ИИ. Ролик стал вирусным, а издание Futurism первым обратило на него внимание. Позже представительница Meta Дина Эль-Кассаби подтвердила изданию The Verge, что компания «промахнулась» и что «функция никогда не должна была предлагать пользователю подобные вопросы». Meta изменила систему подсказок, но не отключила сам ИИ-ассистент, встроенный в Facebook, Instagram, WhatsApp и Messenger.

Что именно произошло?

• ИИ сам предложил идентифицировать ребёнка. Кали Робинс опубликовала на Facebook видео, где она с дочерью поёт в машине. Под видео Meta ИИ автоматически вывел промпт (подсказку, которую алгоритм генерирует сам): «Кто этот ребёнок-пассажир?»
• Алгоритм собрал досье из разных постов. Когда Робинс нажала на подсказку, Meta ИИ скомпилировал информацию о её дочерях из её собственных публикаций и постов её родственников. Затем система предложила дополнительные вопросы: сколько лет детям и где живёт семья.
• Всплыли удалённые фотографии. По словам Робинс, Meta ИИ показал фотографии её дочерей, включая снимок, который она удалила несколько лет назад.
• Meta признала ошибку, но ограничила масштаб проблемы. Эль-Кассаби заявила, что Meta ИИ возвращает только тот контент, к которому пользователь и так имеет доступ. Если пользователь не видит пост, алгоритм его не покажет. Информация о детях, вероятно, была взята из видео, где Робинс сама называла их имена.
• Подсказки на личные темы отключены. Meta сообщила, что исправила проблему, из-за которой ИИ предлагал промпты, связанные с личными темами.

Почему Meta ИИ опасен именно для родителей?

Ключевой момент, который стоит понять: Meta ИИ не просто отвечает на вопросы. Он сканирует ваши публикации, публикации ваших друзей и родственников, а затем сам генерирует подсказки.

Для русскоязычных родителей это означает конкретный риск. Даже если вы удалили фотографию ребёнка, она может сохраниться в памяти алгоритма и всплыть в ответ на чей-то запрос. При этом Meta ИИ встроен во все основные продукты компании: достаточно пользоваться WhatsApp или Messenger, чтобы ваши данные попали в систему.

Случай Робинс показывает ещё один нюанс: не только ваши посты подпитывают алгоритм, но и посты ваших родственников. Бабушка выложила фото внука, Meta ИИ может связать его с вашим профилем.

Как проверить и защититься?

1. Откройте настройки конфиденциальности в Facebook и Instagram. Проверьте, кто видит ваши публикации с детьми, и ограничьте аудиторию до «Только друзья» или «Только я».
2. Проверьте публикации родственников. Попросите близких, которые публикуют фотографии ваших детей, ограничить доступ к этим постам или удалить их.
3. Отключите взаимодействие с Meta ИИ. В Facebook и Instagram при появлении подсказок от ИИ не нажимайте на них, каждое нажатие подтверждает алгоритму, что тема вам интересна, и провоцирует новые предложения.

Есть ли аналогичная проблема в России?

В российских соцсетях (ВКонтакте, Одноклассники) и мессенджерах пока нет встроенного ИИ-ассистента, который автоматически анализирует посты и генерирует подсказки о личной жизни пользователей. YandexGPT и GigaChat работают как отдельные сервисы: они отвечают на ваши вопросы, но не сканируют вашу ленту и посты друзей.

Однако стоит помнить: если вы используете WhatsApp (принадлежит Meta), Meta ИИ уже встроен в приложение. Альтернатива для тех, кого это беспокоит: Telegram, где подобного механизма нет.

Частые вопросы

Meta ИИ видит мои личные сообщения?

По заявлению компании, Meta ИИ возвращает только тот контент, к которому пользователь и так имеет доступ. О доступе к личным сообщениям в рассматриваемом инциденте речь не шла, только о публикациях и видео в ленте.

Можно ли полностью отключить Meta ИИ в Instagram или WhatsApp?

Meta не предоставила возможности полностью отключить ИИ-ассистент в своих приложениях. Можно не взаимодействовать с подсказками и ограничить видимость своих публикаций через настройки конфиденциальности, но сам алгоритм продолжает работать.

Если я удалил фото, оно точно исчезло из Meta ИИ?

Случай Робинс показывает, что нет. Она утверждает, что Meta ИИ показал фотографию, удалённую несколько лет назад. Meta этот конкретный момент публично не прокомментировала, а значит, гарантий удаления из памяти алгоритма компания не даёт.