Запуск больших моделей ИИ на четырёх Mac Studio: 1,5 ТБ памяти за $40 000 без облака

До сих пор объединение нескольких компьютеров Apple в вычислительный кластер оставалось скорее экспериментом. Последний серьёзный заход Apple в область высокопроизводительных вычислений (HPC, High Performance Computing) датируется началом 2000-х, когда компания выпускала серверы Xserve и предлагала собственную систему кластеризации Xgrid. Оба продукта не получили широкого признания и были свёрнуты. Теперь, как следует из теста, проведённого изданием ServeTheHome, технология RDMA в macOS 26.2 в сочетании с открытым инструментом Exo 1.0 (опенсорс, то есть с открытым кодом) возвращает Mac в эту нишу на совершенно ином уровне.

Зачем это нужно и какие цифры за этим стоят?

Один Mac Studio на чипе M3 Ultra с 512 ГБ унифицированной памяти стоит 11 699 долларов. Модель с 256 ГБ обходится в 8 099 долларов. Четыре машины в стойке суммарно дают 1,5 ТБ памяти и обходятся примерно в 40 000 долларов.

Для сравнения: конкурирующие решения от Nvidia (DGX Spark) и AMD (платформы на чипах AI Max+ 395) ограничены 128 ГБ памяти на одну систему. По данным ServeTheHome, одиночный Mac Studio на M3 Ultra по вычислительной мощности сопоставим с четырьмя системами уровня DGX Spark или AI Max+ 395.

При этом весь кластер из четырёх Mac Studio потребляет менее 250 Вт и работает почти бесшумно. Это не серверная комната, а угол рабочего стола.

Что понадобится

• Mac Studio на чипе M3 Ultra (от двух машин; оптимально четыре для полного кластера)
• macOS 26.2 или новее (именно в этой версии появилась поддержка RDMA через Thunderbolt)
• Кабели Thunderbolt 5 (Apple продаёт фирменные по 70 долларов за штуку; каждая машина соединяется с каждой напрямую, потому что коммутаторов Thunderbolt 5 пока не существует)
• Exo 1.0 (открытый инструмент для распределения задач ИИ по локальной сети; именно он позволяет объединить память нескольких машин в единый пул)
• Стойка или полка для размещения (автор теста использовал открытую мини-стойку DeskPi TL1 формата 10 дюймов; готовых корпусов для монтажа Mac Studio в такую стойку на рынке практически нет)
• Время: базовая сборка и настройка занимают один рабочий день

Пошаговая инструкция

1. Обновите macOS до версии 26.2. Именно эта версия активирует поддержку RDMA через Thunderbolt 5. Без неё объединение памяти работать не будет.

2. Соедините машины кабелями Thunderbolt 5 напрямую. Каждый Mac Studio подключается к каждому. При четырёх машинах получается шесть кабелей (схема «каждый с каждым»). На текущий момент по такой круговой схеме можно связать максимум четыре компьютера, хотя Apple заявляет, что RDMA поддерживается на всех пяти портах Thunderbolt 5.

3. Установите Exo 1.0. Это открытый инструмент, который автоматически обнаруживает подключённые машины в локальной сети и распределяет нагрузку между ними:

# Установка Exo (пример для macOS, актуальную команду проверяйте в репозитории проекта)
pip install exo

1. Запустите Exo на каждом узле кластера. После запуска Exo сам определит доступную память на каждой машине и объединит её в общий пул.

2. Загрузите нужную языковую модель и запустите инференс (инференс, это процесс, когда обученная модель генерирует ответы на ваши запросы). Exo распределит модель по памяти всех подключённых машин.

# Запуск модели через Exo (конкретная команда зависит от модели)
exo run --model <имя_модели>

1. Проверьте задержку. После активации RDMA задержка обращения к памяти соседней машины должна составлять менее 50 микросекунд (вместо прежних 300). Если задержка выше, убедитесь, что macOS обновлена и кабели Thunderbolt 5 исправны.

Что это значит для вас?

Авторам Дзена и копирайтерам. Запуск больших моделей ИИ локально означает, что вы можете экспериментировать с открытыми языковыми моделями (Llama, Mistral и другими) без подписок на облачные сервисы и без отправки текстов на чужие серверы. Если у вас уже есть Mac Studio, обновление до macOS 26.2 бесплатно.

Маркетологам и предпринимателям. Кластер за 40 000 долларов, это дорого для физлица, но в разы дешевле аренды GPU-серверов с сопоставимым объёмом памяти на горизонте года. Для малого бизнеса, который обрабатывает конфиденциальные данные клиентов и не хочет загружать их в облако, это рабочий вариант.

Пользователям из РФ и СНГ. Mac Studio официально продаётся в ряде стран СНГ, но в России с прямыми поставками Apple ситуация сложная. Параллельный импорт работает, однако цены выше. Из альтернатив для локального запуска моделей: связки из нескольких ПК на Linux с видеокартами Nvidia (дешевле по входу, сложнее в настройке), а также облачные GPU-сервисы от Yandex Cloud и SberCloud. Функция RDMA через Thunderbolt привязана к macOS 26.2 и не работает на других операционных системах.

Запуск больших моделей ИИ на кластере из Mac Studio пока остаётся решением для тех, кто готов разбираться в кабелях, мириться с отсутствием коммутаторов и вложить серьёзную сумму. Но сам факт, что Apple добавила RDMA в обычную настольную macOS, а не в серверную линейку (которой у компании давно нет), говорит о направлении: локальный ИИ без облака перестаёт быть экзотикой и становится инженерной задачей с конкретным набором железа и софта.