Microsoft открыла стандарт контроля ИИ-агентов: один файл на девять фреймворков

Зачем это нужно и что было до сих пор?

TechCrunch описывает проблему так: компании торопятся внедрить ИИ-агентов (программы, которые сами выполняют цепочки задач без постоянного контроля человека) в рабочие процессы, продукты и приложения. Но чем больше агент умеет, тем выше риск, что он сделает не то: вызовет не тот инструмент, отправит лишние данные или запустит цепочку ошибок.

До ACS единого способа описать «что агенту можно, а что нельзя» не существовало. Каждая команда изобретала свой набор ограничений, привязанный к конкретному фреймворку. Аудит таких ограничений превращался в ручную работу, а переиспользовать политики между проектами было сложно.

Что понадобится

• Один из поддерживаемых фреймворков: LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI или MCP tools (протокол вызова инструментов).
• SDK от Microsoft с плагином под ваш фреймворк (ACS распространяется как опенсорс).
• Базовое понимание, как ваш агент вызывает инструменты и возвращает ответ пользователю.
• Примерно 30 минут на первую политику, если агент уже работает.

Пошаговая инструкция

1. Определите границы агента. Выпишите, какие действия агент выполняет сейчас: какие инструменты вызывает, какие данные получает на входе, что отдаёт пользователю. Без этого списка политика будет неполной.

2. Опишите политику в файле ACS. Файл определяет четыре типа правил:

3. что агент может делать;
4. что агент не должен делать;
5. когда нужно одобрение человека;

6. что нужно записать в лог для проверки.

7. Расставьте точки перехвата. ACS проверяет поведение агента в четырёх местах:

8. до получения входных данных;
9. перед вызовом инструмента;
10. после того как инструмент вернул результат;
11. перед отправкой финального ответа пользователю.

На каждой точке политика решает: пропустить действие, заблокировать, отредактировать (например, убрать персональные данные) или запросить подтверждение у человека.

1. Добавьте классификаторы и LLM-судью, если нужно. ACS позволяет подключить классификаторы для входов и выходов, чтобы категоризировать информацию или предсказывать результат. Можно также поставить отдельную языковую модель с промптом, которая выступает «судьёй» и проверяет, соответствует ли действие агента политике.

2. Подключите SDK-плагин к вашему фреймворку. Установите плагин ACS для LangChain, OpenAI Agents SDK или другого фреймворка из списка. Файл политики прикрепляется к агенту и путешествует с ним между средами.

3. Протестируйте на реальном сценарии. Запустите агента с политикой, попробуйте подать запрос, который нарушает одно из правил, и убедитесь, что точка перехвата сработала.

Что делать с этим прямо сейчас, по ролям

Автору Дзена и копирайтеру. Если вы используете ИИ-агентов для генерации черновиков или исследования тем, ACS позволяет зафиксировать правило: «не выдумывай цитаты, не обращайся к определённым источникам, каждый факт записывай в лог с указанием, откуда взят». Это не панацея от галлюцинаций (случаев, когда модель уверенно выдумывает несуществующее), но добавляет проверяемый слой контроля.

Маркетологу. ИИ-агенты для бизнеса всё чаще встраиваются в CRM, чат-боты, рассылки. ACS даёт возможность один раз описать, что агент не имеет права обещать скидки выше утверждённого порога или отправлять персональные данные клиента третьей стороне, и перенести эту политику между каналами без переписывания кода.

Предпринимателю в РФ и СНГ. Спецификация открытая (опенсорс), её можно использовать без лицензионных ограничений. Из российских фреймворков прямой поддержки пока нет, но если ваши разработчики работают с LangChain или Semantic Kernel, подключить ACS можно уже сейчас. Для тех, кто строит агентов на базе YandexGPT или GigaChat, стандарт полезен как образец архитектуры: единый файл политик вместо разрозненных проверок в коде.

Факт, который стоит держать в голове: Microsoft выпустила ACS с поддержкой не только своих инструментов (Semantic Kernel, AutoGen), но и конкурирующих SDK от OpenAI и Anthropic. Для открытого стандарта это правильный ход, потому что стандарт без охвата остаётся просто спецификацией.

Если вы строите ИИ-агентов и до сих пор держите ограничения в системных промптах или в коде, попробуйте вынести хотя бы одну политику в файл ACS и прогнать через тестовый сценарий. Это самый быстрый способ понять, нужен ли вам этот стандарт на практике.

По материалам TechCrunch AI