Глава Signal назвала ИИ чатботы системами слежки: доступ к переписке равен бэкдору

Уиттакер ответила на вопросы Bloomberg в контексте дискуссии о приватности, политике и будущем Signal. Её слова прозвучали как прямой ответ на обещание Мустафы Сулеймана, главы подразделения ИИ в Microsoft, что ИИ-ассистент Copilot сможет сам закупить рождественские подарки за пользователя. Уиттакер разобрала этот сценарий по деталям и показала, какой объём личных данных потребуется отдать машине.

Что именно сказала Уиттакер?

• ИИ чатбот не друг и не собеседник. Дословно: «Это не ваши друзья. Это не сознательные существа. Это не разумные собеседники». Фраза адресована пользователям ChatGPT и Claude, которые общаются с ИИ как с живым человеком.

• Она сама пользуется ИИ, но строго ограниченно. Уиттакер признала, что использует ИИ-инструменты «чтобы отформатировать документ тут и там», но не задаёт им вопросов. Причина: она не хочет, чтобы процесс продумывания идеи «был вытеснен ответом системы, которая усредняет то, что уже существует».

• Сценарий Microsoft Copilot с покупкой подарков означает тотальный доступ. Чтобы Copilot сам выбрал подарки, ему нужны: кредитная карта, браузер, переписка в Signal, возможность писать родственникам от вашего имени, домашний адрес, календарь. По словам Уиттакер, «то, что вы описали, это система с очень широким доступом к нескольким приложениям и сервисам».

• В контексте Signal такой доступ равен бэкдору. Бэкдор (backdoor) означает скрытый вход в систему, лазейку, через которую можно читать данные в обход шифрования. Уиттакер прямо сказала, что допуск ИИ-ассистента к зашифрованной переписке «представлял бы собой своего рода бэкдор».

Почему это касается самостоятельного мышления?

Замечание Уиттакер про «усреднение того, что уже есть» выходит за рамки приватности. Она описывает конкретный механизм: когда вы просите ИИ чатбот ответить на сложный вопрос, вы пропускаете этап, на котором сами формулируете мысль. Система выдаёт компиляцию чужих идей, а ваша собственная так и не появляется.

Для авторов, копирайтеров и экспертов это не абстракция. Если вы регулярно просите нейросеть «написать пост» или «сформулировать тезис», вы отдаёте ей именно ту работу, которая делает вас экспертом.

Как проверить, сколько данных вы уже отдали ИИ-ассистентам?

1. Откройте настройки ChatGPT (или другого ИИ чатбота) и найдите раздел «Управление данными» (Data Controls). Посмотрите, включена ли опция «Улучшать модель по моим диалогам». Если да, ваши переписки используются для обучения.
2. Проверьте, каким приложениям вы давали доступ к календарю, почте, контактам. На iPhone: «Настройки» и «Конфиденциальность». На Android: «Настройки», «Приложения», «Разрешения».
3. Решите для себя границу: что вы готовы поручить ИИ (форматирование, перевод, рутина), а что нет (формулирование позиции, переписка от вашего имени, доступ к финансам).

Сравнение с российскими ИИ-ассистентами

Критика Уиттакер адресована западным ИИ чатботам, но логика распространяется на любые аналоги. В России работают YandexGPT (встроен в Алису и Браузер) и GigaChat (Сбер). Оба требуют авторизации, оба собирают историю диалогов.

Принцип тот же: чем больше функций вы передаёте ассистенту, тем больше данных о вас он накапливает. Разница в юрисдикции (данные хранятся в РФ), но не в самом механизме.

Частые вопросы

Уиттакер призывает полностью отказаться от ИИ?

Нет. Она сама использует ИИ-инструменты для форматирования документов. Её позиция: применять ИИ для рутины, но не отдавать ему мышление и не давать доступ к личным данным сверх необходимого.

Что значит «бэкдор» в контексте Signal?

Бэкдор (от английского backdoor, «чёрный ход») означает способ обойти шифрование и получить доступ к переписке. Уиттакер говорит, что если ИИ-ассистент читает ваши сообщения в Signal, чтобы «помочь» с покупками, это фактически и есть такой чёрный ход, даже если вы сами его открыли.

Касается ли это российских пользователей?

Напрямую Signal и ИИ-ассистенты Microsoft не пересекаются для большинства пользователей в РФ. Но принцип универсален: любой ИИ чатбот, которому вы дали доступ к переписке, контактам или финансам, получает те же возможности, о которых предупреждает Уиттакер. Проверьте разрешения Алисы и GigaChat так же, как и ChatGPT.

Позиция главы Signal ценна не запретом, а чёткой границей: пусть ИИ форматирует, считает и переводит, но думать и решать, кому что написать, оставьте себе.