Игорь Градов
Игорь Градов
6 мин
ai

Что такое ИИ-агент без самоконтроля: AutoHarness запрещает пропускать подготовку

ИИ-агент (программа, которая сама решает, какие шаги предпринять для выполнения задачи) получает всё больше свободы: ищет информацию, ставит расширения, пишет код. Но чем шире полномочия, тем чаще результат непредсказуем. Разработчик с авиационным бэкграундом собрал открытый инструмент AutoHarness, который заставляет агента перед работой выстроить себе полноценную обвязку: найти документацию, достать референс, прописать критерии приёмки и передать проверку второму агенту, который работу не делал.

Что такое ИИ-агент без самоконтроля: AutoHarness запрещает пропускать подготовку
Почему это важно

Впервые появился публичный опенсорс-скрипт, который не учит агента новым трюкам, а запрещает ему пропускать подготовку и самому же оценивать результат, два главных источника ошибок при работе с ИИ-агентами.

Автор AutoHarness начал с визуальной задачи: попросил Claude Code (Opus 5.5) нарисовать кадр из «Бегущего по лезвию 2049» средствами SVG без внешних генераторов. Все протестированные агенты провалились одинаково: ни один не посмотрел на настоящий кадр, рисовали по «памяти» модели и на просьбу улучшить чинили одно место, ломая другое. Когда автор вручную подсказывал агенту контрольные вопросы («где референс?», «как проверить результат?», «когда остановиться?»), качество росло, но через пару шагов агент забывал вопросы. Из этого и вырос AutoHarness.

Что понадобится?

  • Терминал с доступом к одному из поддерживаемых CLI-клиентов: Claude Code, Codex CLI, Gemini CLI, Antigravity CLI, Qwen Code или GigaCode
  • Git для клонирования репозитория
  • Аккаунт и API-ключ выбранного провайдера (у Claude Code, Gemini CLI и Codex CLI есть бесплатные лимиты, у GigaCode доступ через российский Сбер)
  • Время: первый запуск с полной подготовкой занимает ощутимо больше, чем обычный промпт, автор предупреждает, что подготовка съедает токены и минуты

Пошаговая инструкция

  1. Клонируйте репозиторий.
git clone https://github.com/D-Shey/autoharness.git
cd autoharness
  1. Изучите структуру. Внутри две части: инструкция для агента (текстовый промпт) и скрипт autoharness, который агент сам запускает в терминале. Скрипт контролирует каждый шаг: если агент не записал шаг в журнал, скрипт не пустит дальше.

  2. Дайте агенту задачу. Опишите её так, как описали бы стажёру: что должно получиться, какие ограничения, где искать образец. Автор использовал промпт вида:

Draw a scene from the movie Blade Runner 2049 using SVG graphics,
where Ryan Gosling's character is looking at a hologram of an AI girl
in purple light. Don't use external SVG generators.
  1. Агент разбирает задачу на области знаний. Для кадра из фильма это фигура человека, свет и композиция. По каждой области он ищет готовый скилл (навык, оформленный как переиспользуемый модуль) или MCP-сервер (внешний инструмент, подключаемый к агенту по стандартному протоколу) из источников, которым вы доверяете.

  2. Проверка безопасности скиллов. Каждый найденный скилл сначала скачивается во временную папку. Скрипт проверяет его на опасные команды: чтение ~/.ssh, конструкции вроде curl | sh. Скилл с подозрительным кодом ставится только после вашего явного подтверждения. После выполнения задачи агент удаляет всё, что поставил.

  3. Агент достаёт референс и замеряет его. В случае с кадром из фильма агент нашёл сам кадр, измерил пропорции фигур, положение голограммы, цветовую гамму. Эти замеры становятся критериями приёмки.

  4. Агент пишет себе бриф. Три пункта: каким должен быть результат (пропорции, цвет, расположение), ваши условия дословно и способ проверки. Пока бриф не готов, хук (автоматический скрипт-ограничитель) запрещает агенту создавать и менять файлы.

  5. Работа и слепая проверка. Агент выполняет задачу, затем передаёт результат второму агенту-критику. Критик видит две версии под буквами A и B, не зная, какая новая. Каждая проверка получает одноразовый идентификатор: агент-исполнитель сохраняет отзыв целиком, а скрипт сам читает оценку, так что подменить «blocker» на «minor» невозможно.

  6. Цикл исправлений. Если критик нашёл серьёзную проблему, агент сначала ищет, как должно быть по правилам, дописывает это в скилл и только потом исправляет. Одна и та же проблема держится три раунда, агент обязан сменить подход.

  7. Лёгкий режим для мелочей. Для простых задач вроде опечатки есть режим без поиска скиллов и брифа, чтобы не тратить токены на подготовку.

Как это применить

Автор описывает показательный случай не с картинкой, а с безопасностью самого AutoHarness. Агент-исполнитель пять раз подряд оценил собственные исправления как «minor» (незначительные). Отдельный агент-критик в первом же раунде нашёл два способа обойти защитный хук и назвал это блокером. Потом обнаружил ещё три проблемы. Вывод: без внешнего критика агент систематически занижает серьёзность собственных ошибок.

Частые ошибки
  • Пропускать проверку скиллов. Скилл из публичного каталога может содержать команды, читающие ваши ключи или отправляющие данные наружу. AutoHarness проверяет скилл перед установкой, но если вы подтвердите установку подозрительного модуля не глядя, защита не сработает.
  • Доверять самооценке агента. Агент, который сам писал код, склонен оценивать свои ошибки мягче. Именно поэтому в AutoHarness оценку выносит второй агент вслепую.
  • Ждать магии на мелких задачах. Подготовка съедает токены. Для правки опечатки полный цикл со скиллами и брифом избыточен, используйте лёгкий режим.
  • Игнорировать журнал. Скрипт пишет каждый шаг в журнал. Если вы не заглядываете в него, вы не знаете, какие скиллы агент поставил и что нашёл критик.

Что делать с этим прямо сейчас?

Автору на Дзене. Если вы используете ИИ-агентов для генерации иллюстраций, подводок или исследования темы, AutoHarness показывает принцип: заставьте агента сначала найти образец хорошего результата, а потом сверяться с ним. Даже без установки скрипта сам список контрольных вопросов из статьи («где референс?», «по каким критериям принимаем?», «новый результат лучше старого?») можно вписать в системный промпт (постоянная инструкция, которую агент получает до вашего запроса).

Разработчику и маркетологу. AutoHarness совместим с GigaCode от Сбера, это единственный из поддерживаемых CLI-клиентов, работающий через российскую инфраструктуру. Проверка скиллов на опасные команды и обязательное подтверждение перед установкой особенно важны, когда вы даёте ИИ-агенту доступ к рабочим файлам и ключам.

Предпринимателю в РФ. Сам инструмент бесплатный и открытый. Но API-вызовы к Claude, Gemini или Codex оплачиваются отдельно, а полный цикл подготовки потребляет ощутимо больше токенов (единица тарификации запросов к модели), чем обычный промпт. Перед внедрением в рабочий процесс посчитайте стоимость на тестовых задачах.

Мнение редакции dzen.guru

Идея не нова: разделение исполнителя и контролёра работает в авиации, строительстве, аудите. Новизна в том, что AutoHarness превращает это в скрипт, который агент запускает сам и не может обойти. По моим наблюдениям, главная проблема ИИ-агентов сегодня не в том, что модель слабая, а в том, что она не знает, когда остановиться и к чему сравнивать. AutoHarness атакует именно эту точку. Честная оговорка: автор сам признаёт, что бенчмарка у него пока нет, результат «по ощущениям» предсказуемее, но не замерен. Инструмент молодой, и полагаться на него в продакшене рано. Но как шаблон мышления, «сначала бриф и критик, потом работа», он полезен уже сейчас, даже если вы просто впишете контрольные вопросы в свой промпт.

Хотите писать промпты, после которых агент не «забывает» задание?

В dzen.guru мы разбираем приёмы промпт-инжиниринга для авторов и маркетологов, без кода и на русском языке.

Попробовать dzen.guru

Контрольные вопросы из AutoHarness стоит распечатать и повесить рядом с монитором, даже если вы никогда не откроете терминал. Потому что главное, чему учит этот проект: ИИ-агент работает ровно настолько хорошо, насколько честно вы описали ему, что считается «хорошо».

Поделиться:TelegramVK
Игорь Градов
Игорь Градов

Основатель dzen.guru. Эксперт по монетизации и продвижению на Дзен. Автор курса «Старт на Дзен 2026».

Комментарии

Читайте также

ai

Модель синтеза речи Phonon весит 64,5 МБ и работает без интернета быстрее облака

Почему это важно Впервые открытая модель синтеза речи размером 64,5 МБ работает прямо на телефоне или ноутбуке без интернета, без видеокарты и без платы за…

6 мин
Canva выпустила свою нейросеть: модель учили на дизайнах, а не на фото
ai

Canva выпустила свою нейросеть: модель учили на дизайнах, а не на фото

Canva выпустила собственную нейросеть для генерации изображений, обученную не на фотографиях, а на дизайнерских шаблонах, и сразу открыла доступ всем…

5 мин
Нейросети Liquid AI отвечают за 50 мс: Shopify уже заменяет классические алгоритмы
ai

Нейросети Liquid AI отвечают за 50 мс: Shopify уже заменяет классические алгоритмы

Почему это важно Впервые движок инференса (исполнения запросов к нейросети) обещает ответ генеративной модели быстрее 50 миллисекунд, это скорость, при которой…

6 мин