Альтман хочет отдать память дата-центрам, пока из-за дефицита дорожают ноутбуки

Альтман высказался в подкасте Cheeky Pint, когда его спросили о перебоях в цепочках поставок, включая нынешнюю нехватку оперативной памяти. В том же разговоре он говорил о влиянии ИИ на математику. Спор, который он затронул, давний: запускать нейросети у себя или арендовать мощности в облаке.

Что именно сказал Альтман?

Альтман отвечал тем, кто хочет локальный инференс (запуск готовой нейросети прямо на своём компьютере, без обращения к серверу компании). По его словам, многие считают проблему решённой: открытые модели (нейросети, которые любой может скачать и запустить сам) появятся, их поставят на домашние машины, и дата-центры станут не нужны.

С точки зрения глобального распределения ресурсов довольно ужасно, когда у каждого в компьютере лежит часть ограниченного мирового запаса DRAM, а используется она пять процентов времени. : Сэм Альтман, генеральный директор OpenAI

DRAM здесь означает обычную оперативную память, ту самую, что стоит в ноутбуке и телефоне. Альтман добавил, что в условиях дефицита нужна максимальная загрузка облака, а интуиция у многих людей обратная.

Почему облако выигрывает по загрузке памяти?

Доводы Альтмана сводятся к экономике общего ресурса:

• Домашний компьютер простаивает большую часть времени, по оценке Альтмана память в нём занята около пяти процентов времени.
• Сервер в дата-центре обслуживает многих пользователей по очереди, поэтому та же память работает почти без перерыва.
• Мировой выпуск памяти ограничен, и при дефиците выгоднее отдать её туда, где она загружена сильнее.

Логика понятна любому, кто сравнивал личную машину с такси: машина стоит во дворе почти весь день, такси возит пассажиров постоянно. Для производителя памяти и для отрасли в целом такси эффективнее.

Какие доводы есть у сторонников своего компьютера?

Первый довод касается самого Альтмана. Источник прямо пишет, что закупки OpenAI сокращают мировое предложение памяти. Когда главный покупатель дефицитного ресурса объясняет, что ресурс лучше отдать ему, у слушателя есть право на скепсис.

Второй довод касается цены для обычного человека. Samsung и SK Hynix, крупнейшие производители памяти, заключили долгосрочные договоры с облачными операторами и проектами вроде Stargate от OpenAI. Эти договоры резервируют значительную часть мирового выпуска памяти на несколько лет вперёд.

Миллиарды, которые облачные компании готовы платить за чипы, по данным источника, объясняют рост цен на ноутбуки, телефоны и другую технику. Получается, что эффективность облака оплачивает покупатель домашнего компьютера.

Третий довод практический, и Альтман его не обсуждал. Модель на своём компьютере работает без интернета, не отправляет тексты на чужой сервер и не зависит от того, продлится ли подписка или откроется ли сервис в вашей стране. Для работающих из России последний пункт часто решающий.

Что делать автору, маркетологу и предпринимателю?

Автору Дзена. Не спешите покупать дорогой компьютер ради нейросетей: память дорожает, а для текстов, планов статей и заголовков хватает облачных сервисов. Из доступных в РФ облачных вариантов, YandexGPT и GigaChat.

Маркетологу. Заложите в бюджет на технику рост цен. Если команда обрабатывает данные клиентов, взвесьте, что важнее: дешевле работать в облаке или держать данные у себя.

Предпринимателю. Если нужна своя нейросеть под задачи компании, сравните покупку сервера с арендой мощностей. Дата-центр в Москве избавляет от закупки памяти по нынешним ценам и решает вопрос с хранением данных внутри страны.

Договоры производителей памяти расписаны на несколько лет вперёд, поэтому быстрого снижения цен на ноутбуки и телефоны ждать не стоит. Облачные компании будут и дальше скупать память, а сторонники локальных моделей будут платить за свою независимость всё дороже. Выбор между облаком и своим компьютером превращается из технического в денежный, и делать его стоит заранее, а не в момент поломки старого ноутбука.