Underdog уместил речевую нейросеть в 32 МБ: Woof озвучивает текст без интернета

Крупные компании наращивают размер моделей, и всем им нужны огромные вычислительные мощности. Параллельно часть исследователей и стартапов делает маленькие модели для локальных устройств (edge devices), то есть для вашего телефона или компьютера. Демо Underdog описал TechCrunch.

Параметры здесь означают внутренние настройки, которые модель выучила при обучении. Грубая аналогия: это объём словаря и опыта. Чем их больше, тем больше модель умеет, но тем тяжелее она для обычного устройства.

Что Underdog показал в игре-демо?

Свою модель компания упаковала в браузерную игру. Действие идёт в комнате в стиле ретро-техники: на столе печатная машинка, CRT-монитор (старый кинескопный экран) и настольная лампа, которая щёлкает при нажатии на выключатель.

С машинкой и музыкальным тюнером можно взаимодействовать. Набираете на клавиатуре любой текст, и игра произносит его вслух. Если покрутить тюнер, модель генерирует разную музыку.

Всё это работает в браузере на модели синтеза речи Underdog. По словам компании, она запускается на большинстве устройств без подключения к интернету. Модель открытая: скачать её может любой.

Заставка игры предупреждает о «назойливых» облачных провайдерах в городе. Если верить TechCrunch, это шпилька в адрес облачных моделей, и для демо локального ИИ такой ход выглядит программным заявлением.

Underdog собирает линейку моделей, которые живут на вашем устройстве

Woof стала не первой и не единственной разработкой компании. Вот что Underdog выпустил на сегодня:

• Woof, модель синтеза речи (превращает текст в голос) на 32 МБ и 31 млн параметров.
• Bark, модель распознавания речи (speech-to-text, превращает голос в текст) на 167 МБ для расшифровки и диктовки. Она вышла за несколько недель до Woof.
• Модель на 27 млрд параметров, которая, по данным TechCrunch, запускается на ноутбуках.
• Приложение с листом ожидания, которое компания позиционирует как локальную альтернативу Muse и Instinct.

Woof озвучивает текст, Bark его распознаёт. Вместе эти речевые нейросети закрывают оба направления голосовой работы прямо на устройстве.

Основатель Underdog Сигил Вэнь (Sigil Wen) рассказал TechCrunch, откуда взялся проект. Вместо сервисов для заметок со встреч вроде Granola он захотел собрать собственную систему на моделях, которые работают у пользователя, чтобы данные оставались у их владельца.

Думаю, уже через несколько месяцев большинство способных моделей сегодняшнего дня можно будет запускать на устройствах, которые у вас уже есть. Мы просто хотим обучать лучшие открытые модели американского производства: открытые, способные и позволяющие людям иметь приватный ИИ. : Сигил Вэнь, основатель Underdog

Что это значит для вас?

Автору Дзена. Откройте демо и прогоните через Woof абзац своего текста. Если звучит приемлемо, модель годится для черновой озвучки и проверки текста на слух. Русский язык сначала проверьте сами на коротком фрагменте.

Маркетологу. Локальная модель снимает вопрос передачи данных стороннему сервису. Это важно, если вы озвучиваете внутренние материалы клиента. TechCrunch называет персональные подкасты одним из возможных применений, и этот сценарий стоит примерить к рассылкам и обучающему контенту.

Предпринимателю в РФ и СНГ. Модель открытая, работает в браузере и не зависит от облака. Значит, западные сервисы не смогут отключить её по региону. Для голосового ассистента на сайте или в офлайн-киоске это повод протестировать её сейчас, пока проект в начале пути.

Эксперту и преподавателю. Bark пригодится для расшифровки собственных лекций и диктовки, если вы не хотите отправлять запись на чужие серверы. Качество на русской речи проверьте до того, как строить на модели рабочий процесс.

Из доступных в РФ сервисов синтеза речи есть Yandex SpeechKit и SaluteSpeech от Сбера. Оба работают через облако, то есть ваш текст уходит на серверы компании.

Мой совет простой: потратьте десять минут на демо Woof сегодня. Через полгода вы будете понимать разницу между облачной и локальной озвучкой по собственному опыту, а не по чужим обзорам.

По данным TechCrunch