Локальные нейросети против облака: эксперимент с Gemini Nano показал границу возможностей

Дискуссию подогрел практический эксперимент SEO-специалиста Дэна Тейлора, опубликованный в Search Engine Journal. Тейлор разрабатывал расширение для Chrome, которое помогает разбирать технические проблемы сайтов, и сознательно выбрал Gemini Nano (компактная модель Google, встроенная прямо в браузер) вместо обращения к облачным ChatGPT или Claude. Цель была не доказать, что маленькая модель заменит большую, а выяснить: какой объём полезной работы можно перенести ближе к пользователю?

Что показал эксперимент с Gemini Nano?

Тейлор строил расширение Chrome для технического SEO. Задача: сравнить исходный HTML страницы с тем, что браузер отрисовывает после выполнения скриптов, и понять, есть ли реальная проблема. Например, ссылка в коде ведёт на один адрес, а после рендеринга (отрисовки страницы браузером) на другой.

Сбор данных, сравнение HTML, проверка HTTP-ответов, сопоставление элементов, всё это код делал детерминированно, без ИИ. Локальные нейросети подключались на следующем шаге: превратить сухой набор технических фактов в читаемый вывод для человека.

Gemini Nano справилась с «лёгкой интерпретацией»: взяла пачку JSON-данных и пересказала их понятным языком. Но когда от модели потребовалось принять решение, действительно ли разница между исходным и отрисованным HTML является проблемой, результат оказался ненадёжным. Облачная модель (ChatGPT или Gemini через API) на тех же данных справлялась заметно лучше.

Аргументы за локальные нейросети

• Нет зависимости от внешних сервисов. Локальные нейросети работают на вашем устройстве. Сервер упал, API поменял условия, подписка подорожала, вас это не касается.

• Данные не уходят наружу. Для тех, кто работает с клиентскими сайтами, внутренними документами или персональными данными, это не абстрактный плюс. Запрос к облачному ИИ означает передачу информации на чужой сервер.

• Экономия на API. Парсинг XML-карт сайта, дедупликация (удаление повторов) списка ссылок, форматирование данных, всё это не требует «фронтирной» (самой мощной) модели. Как пишет Тейлор, для таких задач дешевле написать скрипт или использовать компактную локальную модель, чем платить за каждый запрос к облаку.

• Предсказуемость. Код, который парсит и сравнивает, выдаёт одинаковый результат каждый раз. Вероятностная модель может ответить по-разному на один и тот же вопрос, и для задач, где нужна точность, это минус.

Где локальные модели пока проигрывают?

• Сложные решения им не по силам. Gemini Nano не смогла надёжно определить, является ли расхождение HTML реальной проблемой. Это задача на рассуждение (reasoning): нужно учесть контекст, совместить несколько сигналов и не выдумать объяснение, которого нет в данных. Компактная модель с этим не справляется.

• Ожидания против реальности. Тейлор прямо предупреждает: если вы ждёте от локальной модели опыта уровня Claude или ChatGPT, вас ждёт разочарование. Даже после настройки мощного железа и выбора подходящей модели разрыв в качестве ответов остаётся.

• Порог входа выше, чем кажется. Какую модель выбрать? Хватит ли мощности ноутбука? Эти вопросы Тейлор называет «сложными и важными», и для нетехнического пользователя они превращаются в барьер.

• Галлюцинации (когда ИИ уверенно выдумывает факты, которых не было) никуда не делись. Маленькая модель галлюцинирует не реже большой, а на сложных задачах чаще.

Цель была не доказать, что маленькая локальная модель заменит большую, потому что для многих задач она правда не может. Цель была исследовать более интересный вопрос: какой объём полезной работы мы можем перенести ближе к пользователю? : Дэн Тейлор, SEO-специалист, автор Exactly Matchy

Три слоя: архитектура, которая работает

Главный практический вывод эксперимента Тейлора: не выбирать между локальным и облачным, а разнести задачи по трём уровням.

1. Код без ИИ обрабатывает всё, что должно быть точным: загрузку страниц, сравнение HTML, проверку ответов сервера, сопоставление ссылок. Просить языковую модель отвечать на эти вопросы рискованно.

2. Локальные нейросети берут уже собранные факты и превращают их в понятный текст. Nano не принимает решение, она переводит «сырые» данные на человеческий язык. Тейлор считает это не слабостью, а преимуществом: меньше шансов на ошибку.

3. Облачная модель подключается, когда нужно настоящее суждение: технически сложный случай, неоднозначные данные, необходимость учесть контекст. Здесь API оправдан.

Что это значит для вас?

SEO-специалисту и веб-разработчику. Локальные нейросети уже встроены в Chrome. Gemini Nano скачивается по запросу и работает без API-ключа и без оплаты. Для рутины (переформатирование данных аудита, краткие пояснения к техническим находкам) этого хватает. Для финального вердикта «это проблема или нет» пока нужен облачный ИИ.

Автору Дзена и копирайтеру. Если вы используете ИИ для черновиков или рерайта, локальная модель на ноутбуке (через Ollama или LM Studio) сохраняет ваши тексты на вашем диске. Качество генерации ниже, чем у Claude или GPT-4o, но для коротких задач (заголовки, структура, сокращение абзаца) может хватить.

Предпринимателю в РФ. Облачные сервисы OpenAI и Anthropic в России доступны с ограничениями. Локальные нейросети снимают эту проблему: модель работает на вашем железе, без VPN и без привязки карты. Из российских облачных альтернатив есть YandexGPT и GigaChat, но они тоже облачные, со своими ограничениями по приватности.

Реалистичный прогноз: локальные модели будут расти, Gemini Nano получит следующие версии, Apple и Microsoft встраивают свои компактные модели в операционные системы, но заменить облачный ИИ полностью они не смогут ещё долго, и самая рабочая схема на ближайший год та самая трёхслойная архитектура, которую Тейлор обкатал на практике: код для точности, локальная модель для оформления, облако для суждений.