ZeroDrift получила инвестиции на защиту ИИ

Зачем нужен «надзиратель» над нейросетью?

Компании всё чаще ставят ИИ-чатботов на передний край общения с клиентами. Проблема в том, что языковая модель может выдать ответ, нарушающий закон о персональных данных, стандарт безопасности или внутреннюю политику. Одна неудачная фраза чатбота способна обернуться штрафом или репутационным ущербом.

ZeroDrift предлагает решение: отдельный слой между моделью и конечным пользователем. Этот слой сначала проверяет каждый ответ обычными, детерминированными программами, а не нейросетью, по известным стандартам, таким как SOC 2 (набор требований к безопасности данных в облачных сервисах) или GDPR (европейский регламент защиты персональных данных). Языковая модель подключается только на втором шаге: если ответ помечен как проблемный, она переписывает его в соответствии с нормами.

Принципиально, что первичная проверка не зависит от «настроения» нейросети. Детерминированный алгоритм (программа, которая при одинаковых входных данных всегда даёт одинаковый результат) не галлюцинирует (галлюцинация, это когда ИИ уверенно выдумывает то, чего не было). Именно это ZeroDrift противопоставляет подходу крупных лабораторий вроде OpenAI и Anthropic, чьи модели часто уже стоят в основе проверяемой системы.

Раунд закрыли за три недели, и спрос оказался втрое больше предложения

По словам CEO компании Кумеша Арумугана, раунд был закрыт за три недели, а заявки инвесторов превысили доступный объём в три раза. Структурировать сделку помогла Andreessen Horowitz (a16z).

Пока основной сценарий применения, ИИ-чатботы, обслуживающие конечных потребителей. Но Арумуган описывает и более широкий рынок: сообщения, которые генерируются внутри автоматизированных систем и которые человек вообще не видит. По его оценке, этот сегмент пока невелик, но будет расти по мере распространения ИИ в бизнес-процессах.

Мы способны детерминированно определить все регулируемые области и конкретное нарушение, а затем языковые модели переписывают ответ в соответствии с нормами. : Кумеш Арумуган, CEO ZeroDrift

Это был, наверное, самый быстрый сбор инвестиций в моей жизни. Мы закрылись за три недели, и заявок было втрое больше, чем нам было нужно. : Кумеш Арумуган, CEO ZeroDrift

Почему рынку нужен именно такой подход?

Безопасность нейросетей до сих пор решалась в основном «изнутри»: разработчики модели сами настраивали фильтры, дообучение (обучение модели на специальных примерах под узкую задачу) и ограничения. Но когда модель одновременно генерирует ответ и контролирует себя, надёжность падает: нейросеть может «проскочить» собственный фильтр.

ZeroDrift выносит контроль наружу. Раунд закрыт при участии a16z Speedrun, ускорителя, который обычно фокусируется на продуктах с быстрым путём к выручке. Трёхкратная переподписка на посевном этапе показывает, что инвесторы видят конкретный спрос со стороны корпораций, а не абстрактный «потенциал».

Для компаний, уже внедривших чатботов на базе моделей OpenAI или Anthropic, важна деталь: ZeroDrift, по заявлению компании, работает с меньшей задержкой и большей надёжностью, чем стандартная языковая модель. Это существенно, потому что дополнительный слой проверки не должен замедлять ответ чатбота до раздражающих пауз.

Что это значит для вас?

Авторам Дзена и копирайтерам. Если вы используете ИИ для генерации текстов и публикуете их от имени бренда, задумайтесь: кто проверяет, что модель не выдала чужие персональные данные или не нарушила рекламное законодательство? Пока внешних сервисов для русского языка нет, ручная проверка каждого ответа остаётся единственным надёжным вариантом.

Маркетологам. Чатботы в поддержке и продажах, это уже реальность. ZeroDrift показывает направление: слой комплаенса между моделью и клиентом станет стандартом. Закладывайте бюджет не только на саму модель, но и на контроль её ответов.

Предпринимателям в РФ и СНГ. Сервис ZeroDrift пока ориентирован на западные стандарты. Из доступных в России инструментов для контроля ИИ-ответов стоит присмотреться к встроенным фильтрам YandexGPT и GigaChat, но полноценного внешнего «надзирателя» по российским нормам, по моим наблюдениям, пока нет. Это ниша.

Рынок безопасности нейросетей только формируется, и 10 миллионов долларов посевного раунда за три недели говорят громче любых прогнозов: бизнес готов платить за контроль над тем, что говорят его ИИ-системы.

По материалам TechCrunch AI