ИИ-агенты без облака: скачать локальную установку на смартфон и получить ответ за 13 мс

Cortiq Mobile превратила обычный Android-смартфон в локальный сервер для ИИ-агентов, который классифицирует клиентские запросы без облачных API, без подписок и без доступа в интернет.

Приложение уже доступно в Google Play, исходный код открыт на GitHub (репозиторий infosave2007/cmfmobile), а документация по Decision API лежит в файле docs/mobile-decision.md того же репозитория. Для тех, кто давно хотел скачать локальную установку ИИ-агента и запустить её на своём устройстве, это рабочий вариант прямо сейчас.

Чем Cortiq Mobile отличается от облачных ИИ-сервисов?

Обычная языковая модель генерирует текст токен (минимальная единица текста, которую обрабатывает модель) за токеном. Cortiq Mobile работает иначе: это не чат-бот, а классификатор. Модель решений не сочиняет ответ, а сопоставляет входящий текст с заранее заданными метками и возвращает результат в формате JSON.

• Скорость. Нативное решение внутри телефона занимает 13-22 миллисекунды. Полный HTTP-запрос по Wi-Fi, включая сеть, разбор JSON и очередь, укладывается в 63 миллисекунды. По данным разработчиков, облачному API за это время обычно хватает лишь на установку соединения.
• Честный отказ вместо галлюцинации. Галлюцинация (когда ИИ уверенно выдумывает то, чего не было) здесь исключена конструктивно. Если модель не уверена, она возвращает accepted: false и пустой choice. Это штатный ответ, а не ошибка.
• Фиксированный контракт ответа. Всегда три поля: accepted, choice, confidence. Никаких регулярных выражений для разбора свободного текста.
• Готовые навыки. Модель поставляется с наборами меток: banking77 (77 типов банковских запросов), clinc150 (150 бытовых намерений), massive (команды голосового ассистента). Список навыков и их описания можно запросить у самого телефона через API.
• Устойчивость к нагрузке. При 16 параллельных клиентах телефон не зависает, а возвращает код 429 («подождите») лишним запросам, обрабатывая остальные с прежней скоростью. Для интеграции разработчики рекомендуют 1-4 клиента: этого хватает на десятки решений в секунду.
• Двухуровневая схема с оракулом. Если локальная модель отказала, можно вручную включить внешний запрос к облачному провайдеру (по умолчанию предлагается MiMo через OpenRouter, но подойдёт любой OpenAI-совместимый сервис). Оракул выключен по умолчанию, каждый внешний вызов требует подтверждения, а ключ хранится в защищённом хранилище телефона. Через API телефона потратить ключ невозможно.

Как попробовать за пять минут?

1. Установите Cortiq Mobile на Android из Google Play (на iPhone через TestFlight). Это и есть способ скачать локальную установку ИИ-агента на смартфон.
2. Скачайте модель решений. В приложении: «Модели» → «Hugging Face» → «Готовые» → infosave/cmf-decision. Нажмите «Скачать», затем «Загрузить в движок». Первая вкладка станет «Решения», там можно сразу проверить модель вручную: выбрать навык, нажать «Подставить пример» и «Принять решение».
3. Запустите сервер. Вкладка «Сервер» → включите «Требовать bearer-токен» → «Запустить сервер». На экране появятся адрес телефона, токен и QR-код. Порт по умолчанию 8080.
4. Отправьте первый запрос. С ноутбука в той же Wi-Fi-сети выполните curl-запрос или вызов из Python (примеры есть в документации репозитория).

Телефон стал сервером принятия решений для локальной сети. Все 22 проверки контракта (включая корректные коды ошибок 400, 401, 404) пройдены на Xiaomi с Android 14 по обычному домашнему Wi-Fi. Полный протокол тестирования опубликован в репозитории.

Есть ли аналоги в России?

Прямых аналогов Cortiq Mobile, работающих локально на смартфоне как классификатор с API, на российском рынке пока нет. YandexGPT и GigaChat решают задачу классификации намерений, но через облачные API: нужен интернет, каждый вызов тарифицируется, данные уходят на сервер.

Для предпринимателя в РФ и СНГ это важное различие: персональные данные клиентов не покидают устройство, а значит, проще соблюдать требования 152-ФЗ о персональных данных.

Частые вопросы

Cortiq Mobile заменяет ChatGPT или YandexGPT?

Нет. Cortiq Mobile не генерирует тексты и не ведёт диалог. Это классификатор: он определяет тип запроса (жалоба, вопрос о доставке, команда) и возвращает метку. Для генерации ответов нужен отдельный инструмент.

Нужны ли технические знания для запуска?

Установка самого приложения и модели не сложнее установки обычной программы из Google Play. Но для интеграции с ботом или CRM-системой нужно уметь отправлять HTTP-запросы (curl или Python). Примеры кода есть в документации репозитория.

Безопасно ли хранить данные клиентов на смартфоне?

Все данные обрабатываются локально и не покидают устройство. Оракул (внешний облачный запрос) выключен по умолчанию и требует ручного включения, а каждый внешний вызов запрашивает подтверждение. API-ключ хранится в защищённом хранилище Android, и удалённый клиент не может его использовать.

Для тех, кому критична автономность и конфиденциальность, Cortiq Mobile уже работает: поставьте приложение на запасной смартфон и проверьте на своих данных, прежде чем строить вокруг него процесс.