Как работают нейросети на локальном GPU: почему видеокарта пищит и что с этим делать

Автор оригинальной публикации описывает собственный опыт: при работе с локальными языковыми моделями на MacBook Pro он регулярно слышал тонкий писк на грани восприятия. Звук появлялся даже когда, казалось бы, ничего не запущено. Причина нашлась в фоновом процессе: плагин для заметок втихую отправлял новые записи на эмбеддинг (числовое представление текста для поиска) через LM Studio, а видеокарта честно считала и звенела.

Что понадобится

• Видеокарта NVIDIA (или встроенный GPU ноутбука), на которой вы запускаете локальную модель
• Смартфон с бесплатным приложением для анализа звука, например Spectroid (Android) или аналог для iOS
• Терминал (командная строка) с доступом к утилите nvidia-smi, если хотите ограничить мощность карты
• 10 минут на диагностику и ещё 10 на настройку, если писк мешает

Откуда берётся звук?

Явление называется coil whine. Катушки индуктивности и керамические конденсаторы в модуле питания видеокарты (VRM) вибрируют на частоте переключения преобразователя напряжения. Два физических эффекта работают одновременно: магнитострикция (материал меняет форму в магнитном поле) и пьезоэффект (керамика деформируется под напряжением).

Частота вибрации обычно попадает в диапазон от 5 до 15 кГц. Это верхний край слышимого спектра. Люди старше сорока часто физически не воспринимают звуки выше 12 кГц, поэтому «никто вокруг не слышит» ничего не доказывает.

Важный нюанс: coil whine не признак дешёвого железа. В обзоре RTX 4090 карты ASUS с мощными индукторами на 70A электрически превосходили аналоги на 50-55A, но пищали заметнее. Чем производительнее обвязка питания, тем громче она реагирует на нагрузку.

Почему нейросеть заставляет карту петь?

Именно так работают нейросети при локальном инференсе: нагрузка рваная. Матричные умножения, пауза на синхронизацию, снова матричные умножения. Ток скачет с периодичностью, кратной темпу генерации токенов.

Для сравнения: в играх нагрузка тоже высокая, но более равномерная. При инференсе ритм дёрганый, и катушки воспроизводят его как крохотный динамик. На форуме r/LocalLLaMA пользователи пишут, что на слух определяют, генерирует модель текст или простаивает.

Автор оригинала точно подмечает: облачный API молчит, потому что вычисления происходят на чужом сервере. Локальный инференс звенит. Приватность буквально имеет свой звук.

Пошаговая инструкция: найти и убрать писк

1. Убедитесь, что это железо, а не слух. Откройте Spectroid на смартфоне, поднесите к корпусу компьютера, запустите генерацию текста в LM Studio или Ollama. На спектрограмме должен появиться узкий пик в диапазоне от 5 до 15 кГц, синхронный с нагрузкой. Пик есть: это coil whine. Пика нет, а звук остаётся: стоит обратиться к ЛОР-врачу, постоянный ровный писк при выключённом компьютере может быть тиннитусом.

2. Проверьте фоновые процессы. Писк «из ниоткуда» часто означает, что какой-то плагин или сервис втихую использует GPU. Проверьте запущенные процессы:

nvidia-smi

Если видите процесс, который не запускали явно (LM Studio в headless-режиме, фоновый индексатор), вы нашли источник.

1. Ограничьте потребляемую мощность карты. Это самый простой способ снизить писк без потери функциональности:

nvidia-smi -pl 200

Число 200 означает ватты. Подберите значение, при котором писк уходит, а скорость генерации остаётся приемлемой.

1. Попробуйте андервольтинг. По данным обзора RTX 4090: снижение напряжения до 900 мВ при частоте 2600 МГц почти убирало писк ценой нескольких процентов производительности. Для инференса потеря обычно незаметна.

2. Проверьте блок питания. Часто пищит именно он, а не сама видеокарта. Замена БП на модель другого производителя может решить проблему полностью.

3. Для записи и анализа звука из терминала (Linux):

arecord -f cd -d 10 test.wav
sox test.wav -n spectrogram

Это запишет 10 секунд звука и построит спектрограмму. Метод полезен, если хотите документировать проблему или сравнить «до» и «после» настройки.

Что с этого вам?

Автору Дзена, который запускает нейросети локально. Теперь вы понимаете, как работают нейросети на физическом уровне: каждый сгенерированный токен создаёт скачок тока, и карта это озвучивает. Если писк мешает записывать голосовой контент или подкаст, ограничьте мощность карты на время записи командой nvidia-smi -pl.

Маркетологу, который выбирает между облаком и локальным ИИ. Локальный инференс даёт приватность, но требует железа и приносит побочные эффекты вроде шума. Облачные API (в том числе доступные в России YandexGPT и GigaChat) работают бесшумно, но данные уходят на чужой сервер. Это честный компромисс, а не недостаток одного из подходов.

Предпринимателю, который строит рабочее место с ИИ. Если в офисе несколько машин с GPU для локальных моделей, coil whine складывается. Закладывайте это в планировку: серверную лучше выносить в отдельное помещение не только из-за тепла, но и из-за звука.

Писк видеокарты при генерации текста не баг и не паранойя. Это побочный канал, через который железо честно рассказывает о нагрузке, не спрашивая разрешения. Можно заглушить, можно использовать как подсказку. Главное, теперь вы знаете, что слышите именно физику, а не собственные галлюцинации.