Безопасность роботов Eilik оказалась нулевой: фото и записи владельцев лежали в открытом доступе

Материал The Verge вышел в два этапа. Сначала журналист Шон Холлистер и исследователь безопасности Сэмми Аздуфаль опубликовали расследование, в котором описали масштаб уязвимостей. Затем Energize Lab прервала молчание, но её ответ, неподписанное письмо с общего почтового ящика, позже атрибутированное техническому директору Ду Сяоюй, оказался неполным: часть заявленных исправлений на момент публикации не работала.

Как проверяли безопасность роботов Eilik?

Исследователь Сэмми Аздуфаль изучал серверную инфраструктуру Energize Lab, через которую роботы Eilik и Eiliko обмениваются данными с облаком. Облако здесь ключевое слово: сам робот-компаньон не обрабатывает речь локально, а отправляет аудио на серверы компании, где ИИ генерирует ответ.

Аздуфаль обнаружил, что стенограммы всех диалогов, аудиозаписи и даже фотографии владельцев хранились по обычным публичным веб-адресам. Любой, кто знает ссылку, мог открыть файл и увидеть, например, лицо владельца робота. Никакой аутентификации (проверки, что запрос делает именно владелец, а не посторонний) не было.

Помимо чтения данных, у исследователя был полный SSH-доступ (SSH, это протокол удалённого управления устройством, как если бы вы сели за чужой компьютер). Через него можно было не только читать стенограммы, но и менять поведение робота, то есть заставить игрушку говорить владельцу что угодно.

Что обнаружили?

• Полная открытость личных данных. Аудиозаписи и фотографии владельцев лежали на публичных адресах без защиты. По словам журналиста The Verge, достаточно было перейти по ссылке, чтобы увидеть лицо владельца.
• Удалённая модификация поведения. Исследователь мог менять ответы робота, то есть подставлять любой текст в диалог с ничего не подозревающим пользователем.
• Заявления компании расходились с реальностью. Energize Lab заявила, что «закрыла весь внешний доступ к серверным системам». Однако Аздуфаль подтвердил The Verge, что на момент получения этого письма у него по-прежнему сохранялся полный SSH-доступ и возможность читать стенограммы.
• Удаление данных обещано, но не завершено. Компания пообещала удалить сохранённые записи разговоров, профили пользователей и аватары. При этом функции долговременной памяти и пользовательских аватаров отключены временно: Energize Lab планирует вернуть их после аудита, что означает повторный сбор персональных данных в будущем.
• Месяц молчания. The Verge и Аздуфаль отправляли письма, в том числе основателю и генеральному директору Шоу Юну. Ответа не было больше месяца. Компания объяснила задержку тем, что «не смогла вовремя передать информацию технической команде».

Что делать прямо сейчас, по ролям?

Если вы купили Eilik или Eiliko (или аналогичную ИИ-игрушку). Отключите робота от сети до появления результатов независимого аудита. Проверьте, какие разрешения вы давали приложению: доступ к микрофону, камере, контактам. Если вы или ваш ребёнок рассказывали роботу личное, считайте эту информацию скомпрометированной.

Авторам Дзена и контент-маркетологам. Тема безопасности роботов с ИИ-диалогом пока почти не раскрыта на русском языке. Кейс Eilik подходит для разбора: конкретный продукт, конкретные уязвимости, понятная мораль. Аудитория родителей и гик-покупателей откликнется.

Предпринимателям, которые продают или импортируют ИИ-гаджеты в России. В РФ действует 152-ФЗ о персональных данных. Если устройство записывает голос и хранит его на зарубежных серверах без согласия пользователя, это прямой юридический риск для продавца. Перед закупкой любого облачного робота-компаньона запрашивайте у производителя документацию: где именно хранятся данные, как шифруются, есть ли возможность полного удаления по запросу пользователя.

Случай с Eilik показывает простое правило: безопасность роботов с облачным диалогом проверяется не обещаниями на коробке, а тем, что происходит, когда исследователь пытается вскрыть сервер, и насколько быстро компания закрывает дыру после звонка журналиста. Energize Lab не справилась ни с тем, ни с другим.

По данным The Verge