Применение ИИ в робототехнике получило независимого аудитора: Safeworld привлёк $12 млн на тесты

Стартап Safeworld, основанный директором лаборатории безопасного ИИ в Университете Карнеги-Меллона Дин Чжао совместно с Кайлом Вонгом и Симо Рашиди, 10 июня 2025 года вышел из скрытого режима с посевным раундом более 12 миллионов долларов, чтобы решить одну из самых острых проблем применения ИИ в робототехнике: как убедиться, что робот, управляемый генеративной моделью, не навредит человеку рядом.

Раунд возглавили Shine Capital и a16z Speedrun. Среди инвесторов также Box Group, эндаумент Университета Карнеги-Меллона, Innovation Endeavors и SV Angel. Компания строит платформу, которая тестирует роботов в цифровых симуляциях с реалистичными моделями людей, прежде чем те окажутся рядом с живыми работниками.

Зачем роботам с ИИ отдельный аудитор безопасности?

Традиционные промышленные роботы работают по жёсткому алгоритму: инженер точно знает, что машина сделает в каждой ситуации. Генеративный ИИ (модель, которая принимает решения на основе вероятностей, а не заранее прописанных правил) ведёт себя иначе: его реакции вероятностны, и предсказать каждый шаг заранее нельзя. Именно поэтому применение ИИ в робототехнике порождает задачу, которую раньше не приходилось решать в таком масштабе.

Как объяснил Чжао в интервью TechCrunch, проблема двойная: нужно и оценить вероятностные риски самой модели, и добиться доверия к системе со стороны людей, которые работают рядом с роботом.

Как Safeworld тестирует роботов?

Компания строит цифровую копию конкретного помещения, будь то заводской цех, склад или строительная площадка, в симуляторах вроде Genesis или MuJoCo (открытые физические движки для моделирования среды и движений). Внутрь помещают виртуальную копию робота, которая управляется его реальным программным обеспечением, и запускают тысячи сценариев с участием виртуальных людей.

Сценарии намеренно нештатные:

• Человек несёт коробки и частично скрыт за ними, распознает ли его робот?
• Человек спотыкается и падает прямо перед роботом.
• Слепой поворот на складе, с какой скоростью робот должен остановиться, чтобы не столкнуться с человеком за углом?
• Люди разного роста, телосложения, в разной одежде, стоят, сидят, бегут.

Кайл Вонг пояснил, что без симуляции пришлось бы заставлять реальных людей падать перед роботом снова и снова, что абсурдно и опасно.

Почему производители роботов не справятся сами?

У крупных разработчиков роботов есть собственные внутренние инструменты тестирования. Основатели Safeworld признают это сходство, но делают ставку на независимость: производителям нужна третья сторона, чтобы подтвердить безопасность, особенно когда речь идёт о работе рядом с людьми, которые никогда не управляли роботом.

Визхал Дугар, технический директор Gritt Robotics (компания разрабатывает ИИ-управление для роботов, которые помогают устанавливать солнечные панели на промышленных объектах), уже стал партнёром Safeworld. Он подтвердил: формально доказать безопасность такой системы уравнениями невозможно, проверка обязана быть эмпирической, через тысячи прогонов.

Мы, вероятно, станем первой прибыльной компанией в этой области. Потому что если кто-то хочет развернуть робота, ему придётся заплатить нам за обработку ситуации. : Дин Чжао, сооснователь Safeworld

Как попробовать?

1. Перейдите на сайт Safeworld (safeworld.ai), компания объявила о выходе из скрытого режима, но пока не раскрыла публичную модель доступа (платформа для внешних пользователей или сервисный подход).
2. Если вы разрабатываете или внедряете роботов, оставьте заявку на партнёрство: Gritt Robotics уже работает с Safeworld на этапе разработки симуляций.
3. Следите за обновлениями: команда пока определяется с финальным форматом продукта.

Есть ли аналог в России?

Прямого аналога Safeworld на российском рынке нет. Применение ИИ в робототехнике в России развивается в основном на крупных производствах и в логистике (склады, сортировочные центры), но независимых платформ для аудита безопасности роботов с генеративным ИИ пока не существует.

В РФ компании, внедряющие роботов на складах и производствах, фактически остаются в слепой зоне: стандарты безопасности для роботов с генеративным ИИ не выделены, а независимых аудиторов нет. Для тех, кто уже работает с промышленной робототехникой, это повод следить за международной практикой и не ждать, пока инцидент случится первым.

Что делать с этим прямо сейчас, по ролям?

Автору Дзена. Тема применения ИИ в домашней робототехнике и на производстве будет расти: пишите разборы конкретных кейсов безопасности, а не абстрактных страхов. Аудитории интересно, как робот «видит» человека и почему может ошибиться, а не просто «роботы опасны».

Маркетологу. Если ваш клиент продаёт или внедряет роботизированные решения, аргумент «прошли независимый аудит безопасности» станет конкурентным преимуществом раньше, чем появится регуляторное требование. Начинайте закладывать этот месседж.

Предпринимателю в РФ. Safeworld пока работает с американскими партнёрами, доступа для российских компаний нет. Но сам подход (цифровая симуляция нештатных ситуаций) можно реализовать на открытых движках Genesis и MuJoCo уже сейчас. Если вы внедряете роботов рядом с людьми, задокументированное тестирование снизит риски до того, как регулятор спросит.

Частые вопросы

Safeworld тестирует готовых роботов или только софт?

Компания тестирует систему управления роботом (его программное обеспечение) внутри цифровой симуляции. Физического робота на тестирование присылать не нужно: в симулятор загружается реальный софт, а виртуальная среда воспроизводит конкретное помещение и нештатные ситуации с людьми.

Подходит ли это для домашних роботов?

Пока Safeworld работает с промышленными партнёрами (установка солнечных панелей, складская логистика). Партнёр a16z Speedrun Джонатан Лай прямо упомянул сценарий, когда роботы окажутся в домах рядом с детьми, и призвал создать стандарты до этого момента. Применение ИИ в домашней робототехнике пока на горизонте, но платформа проектируется с расчётом на неструктурированные среды, к которым относится и жилое пространство.

Можно ли использовать Safeworld из России?

На момент публикации компания не объявляла о доступности за пределами США. Симуляторы Genesis и MuJoCo, на которых строится платформа, имеют открытый код и доступны для самостоятельного использования.