10 пользователей выявили сбои GoClaw: разработчик пишет свою среду для ИИ-агентов

Автор статьи разбирает, почему отказался от доработки открытого проекта и что требуется от среды, где ИИ-агентам доверяют рабочие процессы. Если коротко, что такое ИИ-агент: программа на основе языковой модели, которая сама выполняет цепочку действий. Ниже его выводы, собранные в пошаговую схему, которую можно приложить к своей команде.

Позиция автора жёсткая. По его словам, за локальные харнесы (оболочки, в которых агент запускается на машине конкретного программиста) в любой компании больше «3,5 человек» надо «отрубать руки». Причин три: с уходом сотрудника пропадают опыт и инструменты, часы уходят на настройку интеграций с MCP-серверами (MCP, стандарт подключения агента к внешним сервисам), а агент с правами локального администратора рано или поздно что-то натворит.

Готовых взрослых мультитенантных систем (одна система, где много команд работают раздельно), по словам автора, «раз-два и обчёлся», и все требуют сборки из отдельных частей. Он взял за основу GoClaw и долго его дорабатывал. Показательно, что сам автор оговаривает: десять пользователей не нагрузочный тест, и всё же их хватило, чтобы система начала вести себя «как капризный ребёнок».

Что понадобится для процесса с контролем человека?

• Описание реального процесса: кто участвует, кто утверждает, что считается доказательством готовности.
• Языковая модель. Из доступных в РФ, YandexGPT и GigaChat.
• Место, где хранится состояние задачи, а не только история чата.
• Отдельная среда для агента вместо машины разработчика с правами администратора.
• Разговор с теми, кто реально согласует: начальником отдела, заказчиком, юристом.

Как собрать процесс с гейтами по шагам?

Гейт здесь, это точка, где агент не может идти дальше без решения человека. HITL (human-in-the-loop, участие человека в процессе) автор называет частью модели исполнения, а не кнопкой «Одобрить».

1. Распишите процесс целиком, как в примере автора: собрать информацию у коллег, оформить артефакт (документ с требованиями и источниками), согласовать с начальником отдела, получить утверждение, разработать, пройти проверки и автотесты, отдать на согласование, вернуться с итогом.
2. Отметьте гейты. Разработка не начинается без утверждения, даже если модель решила, что «в целом всё понятно».
3. Для каждого гейта задайте поведение при отказе, молчании и изменении требований. Начальник вернул требования: начинаем сначала или продолжаем с нужного шага?
4. Привязывайте решение к версии данных. Согласие на старую версию плана не распространяется на новую.
5. Сделайте отказ обязательным для исполнения. «Нет» в ответ на опасную операцию блокирует её и под другим названием.
6. Требуйте результат с доказательствами: итоги автотестов, историю процесса, отметки о прохождении гейтов.
7. Проверьте восстановление: перезапуск агента, обновление сервиса, ошибку подагента, ответ человека через несколько часов.
8. Пустите в систему несколько живых пользователей, прежде чем масштабировать.

Шаблон описания гейта для промпта или технического задания:

Гейт: утверждение требований
Кто решает: руководитель проекта
Версия: артефакт v2
При «да»: переход к разработке
При «нет»: возврат на шаг сбора требований
При молчании: напоминание, задача остаётся на паузе
Запрещено: начинать разработку до решения

Что делать с этим прямо сейчас, по ролям

Автору Дзена: если отдаёте черновики ИИ, поставьте гейт до написания. Утвердите план и список источников, и только потом текст.

Маркетологу: перенесите согласование макетов и смет из чата в процесс со статусами. Решение должно относиться к конкретной версии макета.

Предпринимателю в РФ и СНГ: о доступности Temporality и условиях в приведённой части статьи не сообщается. Начните с описания одного процесса с гейтами на бумаге, его можно реализовать и на российских моделях.