Meta FAIR ускорила оптимизацию экспериментов AI в 1,5 раза: модель отсеивает слабых кандидатов до запуска

Исследование формализует задачу, которая до сих пор решалась интуитивно или случайным выбором. Когда ИИ-агент (программа, которая сама предлагает, пишет код и оценивает машинно-обучающие эксперименты) генерирует десятки кандидатов, кто-то должен решить, какой из них запускать первым. Именно этот выбор, по мнению авторов, и есть настоящий рычаг ускорения исследований. Статья опубликована в открытом доступе, инструменты выложены как опенсорс.

Как устроена оптимизация экспериментов AI?

Представьте, что у вас одна лаборатория и двадцать заявок на опыт. Запускать все подряд слишком долго. Нужен «рецензент», который прочитает план каждого опыта и скажет: «Вот этот самый перспективный, начните с него».

RPM работает именно так. ИИ-агент применяет оператор (генерирует новый вариант эксперимента) не один раз, а пятнадцать раз параллельно. Получается пятнадцать кандидатов, ни один из которых ещё не запущен. Модель сравнивает их попарно в формате «нокаут-турнира» и отправляет на выполнение только победителя.

При сравнении модель видит контекст: узлы уже выполненного «дерева поиска» вместе с полученными оценками. Это важно: RPM никогда не пытается предсказать абсолютный балл. Авторы обнаружили, что языковые модели ненадёжны в прогнозировании точных метрик, поэтому RPM только ранжирует, а не угадывает числа.

Два варианта модели с разным бюджетом

Авторы предложили два варианта RPM. Оба используют «замороженную» (без дообучения) модель Qwen3.6-27B с открытыми весами (open weights, когда параметры модели доступны для скачивания и запуска на своём железе).

Инференс-RPM (инференс, это процесс, когда модель выдаёт ответ, а не обучается). Модель выступает «судьёй»: читает планы кандидатов, их код и историю поиска, затем выбирает лучшего. Промпт (prompt, текстовая инструкция для модели) оптимизирован методом MIPROv2 из фреймворка DSPy. В итоге модель использует «рубрику главного исследователя»: терпит исправимые баги, вознаграждает расширяемость, штрафует за повтор уже проверенных направлений. Точность отбора на офлайн-тестах составила от 57,7% до 59,0%.

Агентный RPM. Тот же «судья» плюс песочница, которая клонирует окружение агента, включая один GPU H200. Модель запускает короткие «пилотные» эксперименты (не более 30 штук, каждый до 60 секунд), а затем решает, нужен ли ещё один пилот или пора выбирать. Любопытная деталь: модели намеренно сообщают завышенный остаток времени (2700 секунд вместо реальных 300), чтобы она не останавливалась раньше времени.

Что обнаружили?

• Качество выросло. Средний нормализованный балл поднялся с 0,684 (без RPM) до 0,711 (инференс-вариант) и 0,729 (агентный вариант) на 20 задачах AIRS-Bench, по данным статьи.
• Скорость выросла заметнее. Инференс-RPM достигает базового результата 0,684 за 14,88 часа вместо 24, то есть быстрее в 1,61 раза. Агентный RPM делает то же за 15,50 часа (быстрее в 1,55 раза). Именно оптимизация экспериментов AI через ранжирование, а не более мощная модель, даёт этот эффект.
• Вероятность улучшения относительно варианта без RPM составляет 0,5923 (инференс) и 0,5913 (агентный), нижняя граница 95%-го доверительного интервала выше 0,50 в обоих случаях.
• Два новых лучших результата на бенчмарках. WinoGrande: 94,1% (агентный RPM) против прежнего агентного рекорда 90,4%. SVAMP: 95,7% (инференс-RPM) против прежнего рекорда 94,2%.

Что это значит для вас?

Исследователям и ML-инженерам. Если ваша команда работает с ограниченным парком GPU (а в России это типичная ситуация), подход RPM предлагает конкретный способ сократить перебор. Код инструмента AIRA-dojo и бенчмарк AIRS-Bench выложены в открытый доступ. Базовая модель Qwen3.6-27B доступна как открытые веса, то есть её можно развернуть локально. Никакого дообучения не требуется: модель используется «как есть».

Авторам Дзена и контент-маркетологам. Прямого применения в контенте у RPM нет, это инструмент для ML-исследований. Но сам принцип «ранжируй идеи до того, как потратишь ресурсы на проверку» переносится на работу с контентом: прогнать десять вариантов заголовка через тест, прежде чем запускать трафик на все десять.

Предпринимателям. Если вы финансируете ML-команду или R&D-подразделение, экономия 35% GPU-времени при сопоставимом качестве, это прямая экономия на вычислительных ресурсах. Инструмент бесплатный, железо остаётся вашим.

Код и бенчмарк доступны прямо сейчас: если ваша команда уже использует агентный подход к ML-экспериментам, добавить слой ранжирования можно без смены инфраструктуры, а выигрыш в полтора раза по времени окупит день на интеграцию.

По данным Marktechpost.