MacPaw и Liquid AI строят on-device inference: ИИ-агенты заработают офлайн

Пока крупные игроки продвигают облачные ИИ-сервисы по подписке, MacPaw пошла в обратном направлении. Компания привлекла стартап Liquid AI, чтобы построить систему on-device inference под названием Elix и локальную систему памяти для своего ИИ-ассистента Eney, анонсированного годом ранее. Об этом сообщает TechCrunch.

Что Elix делает на устройстве без облака?

• Локальный инференс. Модели Liquid AI подбираются и оптимизируются под конкретное «железо» ещё до обучения. По словам сооснователя и CEO Liquid AI Рамина Хасани, это даёт максимально эффективную версию «интеллекта», работающую прямо на устройстве.
• Офлайн-режим для ИИ-агентов. CEO MacPaw Александр Косован подтвердил, что локальные модели позволят запускать ассистентов и агентные сценарии (agentic workflows, цепочки действий, которые ИИ выполняет сам, шаг за шагом) без интернета.
• Адаптация к пользователю. Liquid AI строит стек кастомизации: модель учится на данных конкретного пользователя и со временем становится точнее. Хасани уточнил, что модели должны «адаптироваться и становиться умнее со временем».
• Единая платформа для разработчиков. После отладки локальной архитектуры MacPaw планирует открыть её сторонним разработчикам. Платформа также даст доступ к облачным моделям других компаний, включая Google.
• Кредитная модель оплаты в SetApp. Магазин приложений SetApp, у которого, по данным TechCrunch, более 150 000 платящих подписчиков, уже экспериментирует с кредитами: пользователь получает определённое количество ИИ-операций в зависимости от сложности задачи.

Примечательно, что Apple уже предоставляет разработчикам собственные локальные модели. Хасани на это возражает: модели Liquid AI сфокусированы на производительности для разных типов задач, а не на универсальном решении от платформодержателя.

Как попробовать?

1. Следить за обновлениями Eney. Ассистент был анонсирован в прошлом году, локальная версия на базе Elix пока в разработке. Дату публичного запуска компания не называла.
2. Проверить подписку SetApp. Если вы уже подписчик SetApp, кредитная модель для ИИ-приложений может появиться в вашем аккаунте в рамках эксперимента. Подробности на setapp.com.
3. Разработчикам: дождаться открытия платформы. MacPaw обещает дать доступ к локальному инференсу и облачным моделям через единый интерфейс, но сроков пока нет.

Есть ли аналоги в России?

Для российских пользователей ситуация отличается. YandexGPT и GigaChat от Сбера работают через облако: запрос уходит на сервер, ответ приходит обратно. Локального инференса, при котором данные вообще не покидают устройство, ни один из них не предлагает.

Apple Intelligence, ближайший по духу конкурент Elix, в России официально недоступен. Поэтому для русскоязычных разработчиков, которым критична приватность (медицинские данные, персональная информация, корпоративные документы), платформа MacPaw может оказаться одним из немногих вариантов встроить ИИ в приложение без отправки данных наружу.

Оговорка: MacPaw, украинская компания, и доступность её сервисов для пользователей из РФ зависит от политики компании и текущих ограничений. На момент публикации MacPaw не комментировала региональные ограничения для Elix.

Частые вопросы

Elix уже можно скачать и использовать?

Нет. Elix, система локального инференса от Liquid AI, находится в разработке. MacPaw не называла ни дату публичного запуска, ни условия доступа.

Чем локальный инференс отличается от обычного облачного ИИ?

При облачной обработке ваш запрос (текст, изображение, голос) отправляется на удалённый сервер, там обрабатывается моделью, и ответ возвращается. При локальном инференсе модель работает прямо на вашем устройстве: данные никуда не уходят, а ИИ доступен даже без интернета. Минус: для работы нужно достаточно мощное устройство.

Будет ли Elix работать на Windows или только на Mac?

MacPaw исторически выпускает продукты для macOS. О поддержке Windows или других платформ для Elix компания не сообщала.