Fireworks AI потеряла данные второй раз за два месяца: пострадал 1% клиентов Notion

Fireworks AI служит посредником. Через неё разработчики получают доступ к открытым моделям (нейросетям, которые создатели выкладывают в свободное пользование) и встраивают их в свои продукты. В свежем бюллетене безопасности компания сообщила: злоумышленник взломал её облачного провайдера, то есть компанию, у которой Fireworks арендует серверы, и оттуда попал в систему разработки Fireworks. Notion отдельно раскрыла, что инцидент затронул около 1% её клиентов.

Что украли: платёжные данные, датасеты и чаты Notion AI

Fireworks заявляет о десятках тысяч клиентов по всему миру. Среди них юридическая компания Harvey и ИИ-компания Cursor, но затронуты ли они, источник не сообщает.

• У клиентов Fireworks: платёжная информация, то есть данные для выставления счетов.
• Там же: часть датасетов (наборов данных, на которых работают или обучаются модели). Какие именно, компания не уточнила.
• У Notion: расшифровки чатов пользователей Notion AI, встроенного в редактор ИИ-помощника, которые работали с функцией «Insights».
• Оговорка Notion: многие записи невозможно привязать к конкретному клиенту.

Notion описала содержимое расшифровок так:

Любой ввод в модель или вывод из неё, который был записан в чат. : Notion, раскрытие об инциденте

Хронология со стороны Notion такая. Сначала Fireworks предупредила компанию об инциденте и позже подтвердила кражу данных клиентов Notion. 3 ноября Notion отключила свои системы от Fireworks, удалила хранившиеся данные и прекратила любое соединение между сервисами.

Взломщики охотились за доступом к нейросетям, а не за документами

По оценке Fireworks, у атакующих финансовый мотив. Их цель в том, чтобы продавать токены, полученные через взломанный доступ к большим языковым моделям (LLM, нейросетям того же типа, что стоят за чат-ботами). Токены здесь работают как единицы оплаты: модель считает в них объём обработанного текста, и за них платит владелец доступа.

Такие схемы держатся на перепродаже посторонним покупателям. Те тратят ресурсы ИИ-моделей, не платя за собственный доступ. Для Fireworks это второй взлом за два месяца, предыдущий инцидент случился в октябре.

Российские сервисы зависят от таких же цепочек

В части российских сервисов и корпоративных проектов похожая схема уже типична: продукт снаружи свой, а внутри он обращается к сторонней платформе с открытыми моделями через API (электронный «пропуск», по которому одна программа подключается к другой). Из доступных в РФ решений чаще упоминают YandexGPT и GigaChat. Об их защищённости источник ничего не говорит, поэтому сравнивать их с Fireworks по этим данным нельзя.

Как проверить, не задело ли вас?

1. Если вы пользуетесь Notion AI и функцией «Insights», найдите официальное сообщение Notion об инциденте и проверьте, относится ли оно к вашему аккаунту.
2. Вспомните, что вы писали в чат Notion AI. Утечь могло всё, что вы отправляли в модель и получали от неё.
3. Если вы разработчик на Fireworks AI, сверьтесь с бюллетенем компании и перевыпустите ключи доступа к API.
4. Спросите подрядчиков, через какие платформы работает ИИ в их сервисах и куда уходят ваши тексты.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Не вставляйте в ИИ-чаты черновики с личными данными героев, неопубликованные расследования и пароли. Считайте, что любая переписка с моделью может храниться у третьей стороны.

Маркетологу. В брифы для ИИ-сервисов не стоит класть клиентские базы и коммерческие условия. Под ударом оказалась именно переписка с моделью, а не только файлы.

Предпринимателю в РФ и СНГ. Попросите разработчиков составить список всех внешних платформ, через которые идут запросы к нейросетям. Проверьте, какие пользовательские данные туда уходят и можно ли быстро отключиться, как Notion отключилась 3 ноября.

Частые вопросы о взломе Fireworks AI

Notion сама была взломана?

Нет. По данным Notion, атаковали облачного провайдера Fireworks AI, а данные клиентов Notion утекли через систему разработки Fireworks.

Каких пользователей Notion это касается?

Тех, кто пользовался Notion AI с функцией «Insights». По словам компании, это около 1% её клиентов.

Зачем хакерам чужой доступ к ИИ?

Fireworks считает, что взломщики хотят продавать токены доступа к языковым моделям посторонним покупателям. Поэтому главное правило простое: в ИИ-чат пишите только то, что готовы однажды увидеть опубликованным.