Игорь Градов
Игорь Градов
5 мин
ai

Google построила фальшивый интернет для ИИ-агентов Chrome: их проверяют на копиях банков

Google впервые подробно описала в своём блоге «Зеркальное измерение», изолированный интернет для тренировки ИИ-агентов Chrome на базе Gemini, где агентов проверяют на устойчивость к скрытым вредоносным командам в копиях магазинов, соцсетей и банков.

Google построила фальшивый интернет для ИИ-агентов Chrome: их проверяют на копиях банков
Почему это важно

Google показала, где и как проверяют агентов, которым предстоит работать в браузере от имени человека, в том числе на страницах оплаты и промокодов. Для любого, кто собирается доверить агенту покупки или банковские данные, это повод заранее понять, на чём такие помощники спотыкаются.

Если коротко, что такое ИИ-агент: программа на основе нейросети, которая не просто отвечает на вопрос, а сама совершает действия, например открывает сайты, заполняет формы и оформляет заказ. Команда Chrome разрабатывает такие функции на моделях Gemini (семейство нейросетей Google), и для их проверки построила отдельный, полностью подконтрольный интернет.

Что Когда Кто выпустил Цена
«Зеркальное измерение» (Mirror Dimension), закрытая тестовая веб-среда для ИИ-агентов Описана в блоге Google, точную дату источник не называет Команда Chrome, Google Не продаётся, это внутренний инструмент

Что нового в подходе Google?

  • Среда изолирована от настоящего интернета и целиком под контролем команды Chrome. Внутри собраны сайты разных типов: социальные сети, интернет-магазины, банковские интерфейсы.
  • Сайты собраны из тех же компонентов, что и реальные, поэтому агент действует в Chrome так же, как действовал бы в обычной сети.
  • По ходу работы агентов проверяют на устойчивость: подсовывают скрытые попытки внедрить вредоносные команды. Это приём, когда на странице прячут текст-инструкцию, чтобы агент выполнил чужой приказ вместо вашего.
  • Наполняли среду тоже ИИ-агенты: целые «армии» помощников для создания сайтов и приложений под управлением отдельной системы ИИ. Они воспроизвели детали вплоть до ввода промокода в магазине и заполнения страниц в соцсети.
  • Чтобы запустить полноценный Chrome в такой среде, исследователям пришлось фактически «взломать» собственный браузер и выпустить поддельные веб-сертификаты. Сертификат, это цифровое удостоверение сайта, по которому браузер решает, настоящий ли он.

Команда подчёркивает: такие «атаки» на обычных пользователей Chrome в открытом интернете невозможны. Они сработали только потому, что у исследователей был доступ уровня «режима бога» ко всей среде и сети.

Агенты не работают по жёсткой программе, поэтому невозможно предусмотреть всё, с чем они могут столкнуться. Пространство для исследования огромно, а интернет, среда враждебная. Мы уже видим, что агенты начинают проявлять своего рода «здравый смысл»: они понимают, какая информация действительно нужна для задачи, а когда стоит обратиться к пользователю за подтверждением. : Чарльз Цянь, инженер-программист команды Chrome по безопасности ИИ

По словам исследователей, тестируемые агенты безобидны и кибервозможностями не обладают. Следующая цель, открыть среду для других команд внутри Google. Обратите внимание на формулировку Цяня: агент учится сам решать, когда спросить человека. Значит, решение пока остаётся за агентом, а не за вами.

Мы делимся этим подходом, чтобы другие команды, как внутри компании, так и за её пределами, могли взять его на вооружение. Это лишь первый шаг. : Даг Тернер, инженерный директор Google

Ранее Google выложила открытый фреймворк Harness² (набор готовых инструментов для разработчиков) для самоулучшения ИИ-агентов. С ним агенты в средах OpenCode и Codex сами правят свои инструкции и навыки по ходу работы.

Как попробовать подход у себя?

Саму среду Google наружу не открывала, сыграть в «Зеркальное измерение» нельзя. Перенять логику проверки можно.

  1. Прочитайте запись Google о Mirror Dimension в блоге компании, чтобы понять, какие сценарии там проверяют.
  2. Прежде чем поручать агенту что-то с деньгами, дайте ему тренировочное задание без оплаты: собрать корзину, найти товар, заполнить черновик формы.
  3. Смотрите, в какой момент агент останавливается и просит подтверждения. Не просит перед оплатой или вводом данных карты, значит, такие шаги ему не отдавайте.

Есть ли российский аналог?

Из доступных в РФ ассистентов, YandexGPT и GigaChat. О подобных закрытых тестовых средах у их разработчиков в материале Google ничего не сказано, поэтому честного сравнения здесь не будет. Доступность самих агентов Chrome с Gemini в России источник тоже не уточняет.

Что делать с этим прямо сейчас, по ролям

Автору Дзена: тема безопасности агентов понятна широкой аудитории. Объясните подписчикам на бытовом примере, как спрятанная на странице команда может увести агента в сторону.

Маркетологу: если ваш сайт или магазин будут посещать агенты, а не люди, его поля, промокоды и формы оплаты должны читаться машиной однозначно. Google тренирует агентов именно на таких сценариях.

Предпринимателю в РФ и СНГ: не передавайте агенту банковские данные, промокоды и доступ к оплате без ручного подтверждения последнего шага. Проверьте это правило в настройках любого помощника, которым уже пользуетесь.

Где подвох

Google описала метод тестирования, а не готовую защиту для пользователей. Как часто агенты в «Зеркальном измерении» поддавались скрытым командам, компания не сообщила, цифр в материале нет.

Мнение редакции dzen.guru

На мой взгляд, самое ценное в новости, признание самой Google: интернет для агентов враждебен, и всё предусмотреть невозможно. Это честнее любых обещаний «безопасного помощника». Оговорка: мы видим только рассказ компании, без результатов проверок. Что сделать сегодня: заведите правило «агент собирает, человек платит» и не нарушайте его, пока разработчики не покажут цифры.

Что чаще всего спрашивают про зеркальный интернет?

Это опасно для обычных пользователей Chrome?

Нет. Google прямо пишет, что «взлом» браузера и поддельные сертификаты сработали только в закрытой среде, где у исследователей полный контроль над сетью.

Можно ли туда зайти самому?

Нет. Пока планируют открыть среду другим командам внутри Google, а подход описали, чтобы его могли повторить и снаружи.

Зачем агентов проверяют на банковских страницах?

Потому что именно там ошибка стоит дороже всего. Пока агент учится понимать, когда спросить человека, последнее слово перед оплатой должно оставаться за вами.

Поделиться:TelegramVK
Игорь Градов
Игорь Градов

Основатель dzen.guru. Эксперт по монетизации и продвижению на Дзен. Автор курса «Старт на Дзен 2026».

Комментарии

Читайте также

Бывшая топ-менеджер Alibaba привлекла $48,5 млн: Everful связывает ритейлеров с фабриками Китая
ai

Бывшая топ-менеджер Alibaba привлекла $48,5 млн: Everful связывает ритейлеров с фабриками Китая

Компания Everful бывшей руководительницы Alibaba Сиси Сун привлекла $48,5 млн в раунде серии A на фоне пошлин и торговых споров США и Китая, которые напрямую…

5 мин
От разработки к FDE: спрос на инженеров у заказчика вырос в 4,6 раза при росте рынка на 2,5%
ai

От разработки к FDE: спрос на инженеров у заказчика вырос в 4,6 раза при росте рынка на 2,5%

Бывший программист, а ныне ИТ-менеджер, разобрал на Хабре рост вакансий FDE, инженеров у заказчика, в 4,6 раза за год, пока инженерный рынок в целом прибавил…

5 мин
Замена одной нейросети в цепочке: пустое поле отчёта может сломать всю систему
ai

Замена одной нейросети в цепочке: пустое поле отчёта может сломать всю систему

Разработчик, связавший несколько нейросетей в цепочку, через год захочет заменить одну модель на более новую, и пустое поле в её коротком отчёте способно…

5 мин