Новый процессор Qualcomm тянет модель на 30 млрд параметров без облака

Qualcomm на ежегодном саммите Snapdragon Summit представила два флагманских мобильных процессора, Snapdragon 8 Elite Gen 6 и Snapdragon 8 Elite Extreme Gen 6, которые переносят тяжёлые ИИ-задачи прямо на устройство, и для российских пользователей, где облачные ИИ-сервисы доступны с ограничениями, это особенно практичная новость.

Qualcomm уже несколько лет двигает вычисления для нейросетей из облака на устройство. Новые чипы продолжают эту линию, но с заметным скачком: старшая версия Extreme тянет модель на 30 миллиардов параметров локально. Для сравнения: Apple на WWDC в июне показала свою самую продвинутую модель третьего поколения на 20 миллиардов параметров. Motorola уже анонсировала смартфон Motorola Signature 27 на старшем чипе, по данным Qualcomm, он выйдет в продажу до конца года.

Что умеют новые чипы?

• Локальный ИИ-агент (программа, которая сама выполняет задачи по вашему запросу, без ручного управления). Процессор Qualcomm Snapdragon 680 предыдущих поколений такого не позволял: теперь чип обрабатывает голосовой ввод и голосовой вывод целиком на устройстве. Смартфон может вести «личного писца», распознавать разных говорящих и накапливать память о ваших привычках, чтобы предлагать автоматизацию задач.

• Сенсорный хаб для малых моделей. Отдельный блок внутри чипа постоянно работает в фоне и запускает модели до 200 миллионов параметров (параметры, это «знания» модели; 200 миллионов достаточно для распознавания голоса и простых команд).

• Новый ускоритель для больших моделей. В базовой версии Gen 6 появился ускоритель, который эффективнее расходует энергию при работе с нейросетями. Версия Extreme запускает MoE-модель (mixture-of-experts, «смесь экспертов», архитектура, где для каждой задачи активируется только часть параметров) на 30 миллиардов параметров. Вся модель большая, но в каждый момент работает лишь нужный фрагмент, поэтому батарея не садится мгновенно.

• Камера с пиксельным ИИ-контролем. Чип управляет каждым пикселем отдельно, улучшает стабилизацию и понимание движения. Версия Extreme поддерживает запись 8K при 60 кадрах в секунду и 4K при 240 кадрах для сверхзамедленного видео, плюс новый кодек APV (Advanced Professional Video) для съёмки профессионального уровня.

• Шумоподавление и «голосовой пузырь». Оба чипа используют нейросеть для усиления голоса и подавления фонового шума. Технология «голосового пузыря» (voice bubble) изолирует голос владельца во время звонков, убирая окружающие звуки.

Как попробовать?

1. Дождитесь устройств. Первый подтверждённый смартфон на новом чипе, Motorola Signature 27, выйдет до конца года. Qualcomm работает более чем над 40 ИИ-устройствами, но конкретные модели и сроки пока не названы.

2. Проверьте, какой чип в вашем телефоне. Если у вас процессор Qualcomm Snapdragon 680 или другой чип прошлых поколений, локальные модели на 30 миллиардов параметров он не потянет. Обновление железа потребует покупки нового аппарата.

3. Следите за приложениями с локальным ИИ. Когда устройства появятся, производители начнут выпускать ИИ-функции, работающие без интернета. Именно офлайн-режим делает эти чипы полезными там, где облачные сервисы ограничены или медленны.

Есть ли аналоги в России?

Прямого российского аналога процессору Qualcomm Snapdragon 8 Elite Gen 6 на рынке нет. Российские процессоры «Байкал» и «Эльбрус» разрабатываются для серверов и ноутбуков, но не для смартфонов и не с фокусом на локальный ИИ.

Что касается программной стороны: YandexGPT и GigaChat работают через облако, то есть требуют подключения к интернету и передачи данных на сервер. Новые чипы Qualcomm позволяют запускать сопоставимые по размеру модели прямо на телефоне, без отправки запросов на внешний сервер. Для тех, кто ценит приватность или живёт в регионе с нестабильным интернетом, разница принципиальная.

Что с этим делать прямо сейчас, по ролям

Авторам Дзена. Когда телефон сможет вести заметки, расшифровывать интервью и подсказывать формулировки без интернета, рабочий процесс упростится. Пока чипы не вышли в продажу, полезно привыкать к голосовому вводу и диктовке, эти навыки пригодятся первыми.

Маркетологам. Локальный ИИ на устройстве означает, что персонализация дойдёт до уровня, где телефон сам предлагает действия на основе привычек владельца. Рекламные стратегии, построенные на облачных данных, придётся пересматривать: часть аналитики уйдёт на устройство и станет недоступна извне.

Предпринимателям в РФ и СНГ. Офлайн-ИИ снимает две боли: зависимость от VPN для доступа к зарубежным сервисам и передачу чувствительных данных на чужие серверы. Следите за появлением устройств на новом чипе в официальной российской рознице.

Частые вопросы

Когда можно будет купить смартфон с новым процессором Qualcomm?

Motorola Signature 27 на Snapdragon 8 Elite Extreme Gen 6 выйдет до конца года, точную дату производитель не назвал. Остальные устройства Qualcomm пока не анонсировала поимённо.

Будет ли новый чип работать без интернета?

Да, в этом главный смысл. Процессор Qualcomm запускает нейросетевые модели локально, на самом устройстве. Голосовой ассистент, шумоподавление, распознавание говорящих, всё это работает без подключения к серверу.

Заменит ли локальный ИИ на телефоне облачные сервисы вроде ChatGPT?

Не полностью. Модели на 30 миллиардов параметров справляются с рядом задач, но самые мощные облачные модели содержат сотни миллиардов параметров и обучены на несравнимо большем объёме данных. Локальный ИИ закроет повседневные задачи: диктовку, заметки, автоматизацию рутины. Для сложных запросов облако останется нужным.