FPGA для нейросетей за $50: инженер запустил LLM без GPU на плате с AliExpress

Инженер купил на AliExpress плату FPGA (программируемая логическая матрица, микросхема, которую можно перенастроить под любую задачу) Xilinx Kintex-7 с 4 ГБ оперативной памяти примерно за 50 долларов, подключил её к мини-ПК MINISFORUM через шину PCIe и запустил полноценный инференс (выполнение нейросетью задач на готовых весах) языковых моделей. Без GPU, без CUDA, без экосистемы NVIDIA.

В основе лежит openTPU, открытый проект AI-ускорителя Фелипе Сенса Бонетто (Felipe Sens Bonetto), разработанный при участии ИИ-агентов (программ, которые сами выполняют цепочку действий без пошаговых команд человека).

Что здесь принципиально нового?

• FPGA для нейросетей без видеокарты. Языковая модель работает не на GPU, а на перепрограммируемой микросхеме. Это значит, что архитектуру процессора можно менять под конкретную модель, а не подстраивать модель под готовое железо.
• Открытая архитектура. Проект openTPU лежит на GitHub. Любой разработчик может скачать его, собрать прошивку (bitstream) в среде Vivado и загрузить в физическую плату.
• Реальные скорости на дешёвом железе. По замерам автора проекта openTPU на аналогичной плате: Qwen3-0.6B выдаёт 31 токен в секунду, Qwen3.5-2B даёт 12 токенов в секунду, компактная LFM2.5-230M разгоняется до 86 токенов в секунду. Модель Qwen3.5-35B с 35 миллиардами параметров работает на плате с 4 ГБ памяти со скоростью 4 токена в секунду.
• ИИ проектирует собственное железо. Архитектура openTPU разработана при активном участии ИИ-агентов. Получается замкнутый цикл: нейросеть помогает создавать процессор, на котором сама потом работает.

Как попробовать?

1. Купить плату Xilinx Kintex-7 XC7K480T с 4 ГБ оперативной памяти на AliExpress (автор ссылается на эту конкретную модель, цена около 50 долларов).
2. Подключить FPGA к мини-ПК или обычному компьютеру через PCIe, установить драйверы и настроить PCIe DMA (прямой доступ к памяти, способ передачи данных в обход процессора).
3. Скачать проект openTPU с GitHub, собрать прошивку в среде Xilinx Vivado, загрузить веса нужной модели (автор использовал Qwen) и запустить инференс.

Автор подтвердил, что все этапы прошли: FPGA определяется системой, PCIe DMA передаёт данные, подсистема памяти работает, тесты инструкций процессора проходят, языковая модель выполняет инференс на FPGA.

Это не замена NVIDIA H100, и автор это признаёт

Автор прямо оговаривает: текущая плата пока не конкурент NVIDIA H100, а работающий прототип далеко не серийный ASIC (специализированная микросхема, которую уже нельзя перепрограммировать, зато она быстрее и экономичнее). Но ценность эксперимента в другом: раньше проектирование собственного AI-ускорителя было задачей масштаба Google или NVIDIA, а теперь прототип может собрать и испытать один инженер.

Следующие шаги, которые автор обозначил: более быстрая память, более мощная FPGA и оценка архитектуры для собственного серийного чипа.

Есть ли аналоги в России?

Прямого аналога openTPU в российской экосистеме автор не называет, и публичных проектов такого уровня открытости для FPGA-ускорителей нейросетей на русскоязычном GitHub пока нет.

Для тех, кому важна практическая работа с нейросетями здесь и сейчас, в РФ доступны облачные LLM: YandexGPT и GigaChat от Сбера. Но это закрытые облачные модели, а не инструменты для создания собственного железа, то есть задачи разные.

Если же речь именно о FPGA для нейросетей как направлении, то российские компании (например, разработчики ПЛИС серии «Эльбрус» и другие производители) пока не предлагают открытых проектов уровня openTPU для самостоятельной сборки AI-ускорителя.

Что делать с этим прямо сейчас, по ролям?

Автору Дзена и копирайтеру. Эксперимент показывает: инференс нейросетей возможен на железе за 50 долларов. Пока это путь для технически подкованных, но тренд на удешевление ИИ-инфраструктуры стоит отслеживать и объяснять своей аудитории.

Инженеру и разработчику. Проект openTPU на GitHub даёт реальную возможность экспериментировать с архитектурой AI-процессора на физическом оборудовании. Порог входа: знание Vivado, базовое понимание FPGA и около 50 долларов на плату.

Предпринимателю в РФ. Зависимость от NVIDIA и санкционные ограничения делают тему собственных AI-ускорителей не академической, а практической. Проект показывает, что один инженер может собрать прототип, а значит, малая команда может оценить архитектуру для специализированного чипа.

Частые вопросы

Можно ли использовать FPGA вместо видеокарты для повседневной работы с нейросетями?

Пока нет. Скорость инференса на плате за 50 долларов в разы ниже, чем на современной GPU. Но для прототипирования собственной архитектуры AI-процессора и экспериментов с FPGA для нейросетей это рабочий инструмент уже сейчас.

Нужно ли уметь программировать, чтобы повторить эксперимент?

Да. Потребуется опыт работы с FPGA, знание среды Xilinx Vivado, понимание PCIe и драйверов. Для автора Дзена без инженерного бэкграунда это пока не «скачал и запустил», а проект для технического специалиста.

Где взять плату и проект?

Плата Xilinx Kintex-7 XC7K480T продаётся на AliExpress примерно за 50 долларов. Проект openTPU доступен на GitHub. Автор обещает подробные результаты со своего стенда во второй части публикации.