Детектор дипфейков встроили в IVA MCU: подмену лица ловят во время созвона, а не после платежа

Разберу, как устроена такая защита и какие уровни нужны, чтобы на корпоративной встрече вы говорили с настоящим коллегой. Материал пригодится тем, кто проводит переговоры, вебинары и согласует платежи по видео.

О кейсе на Хабре рассказали Татьяна Дешкина, замдиректора по развитию продуктов VisionLabs, и Дмитрий Журавлёв, директор продукта IVA MCU в IVA Technologies. Обычная защита ВКС (видеоконференцсвязи) контролирует доступ к сессии, но не личность участника. Новый слой проверяет именно личность.

Масштаб риска авторы показывают на примере. В феврале 2024 года мошенники создали дипфейк финансового директора и обманули филиал международной компании в Гонконге. После видеозвонка с «руководителем» злоумышленникам перевели $25,6 млн.

Когда говорят «дипфейк», многие вспоминают дипфейк порно и ролики со знаменитостями. Авторы смотрят шире: дипфейки используют для финансового мошенничества, обхода биометрической проверки и ударов по репутации. По их словам, пострадавшие компании почти не афишируют такие инциденты, поэтому о них слышно реже, чем о звонках бабушкам.

Что понадобится?

• Корпоративная платформа видеосвязи. В кейсе это IVA MCU, где детекция работает на сервере.
• Детектор дипфейков VisionLabs. Он поставляется в Docker и Kubernetes (это стандартные «контейнеры» для развёртывания программ на своих серверах компании).
• Проверка liveness (живости) и детектор виртуальных камер, которые работают в связке с детектором дипфейков.
• Для проверки голоса понадобится модуль антиспуфинга (защиты от подделки голоса) на платформе Audiogram от MWS AI.
• Собственная серверная инфраструктура и ИТ-специалист для развёртывания.

Пошаговая инструкция: четыре уровня защиты созвона

1. Проверьте базовый контроль доступа. В IVA MCU это авторизация пользователей, ролевая модель, комната ожидания, шифрование и ограничение подключений по доменам. Без этого уровня остальные не помогут.
2. Признайте слабое место. Ссылку на встречу можно получить в обход защиты через фишинг в мессенджере, взлом почты или социальную инженерию. Тогда у злоумышленника оказывается законный доступ к сессии, и в ход идёт подделанное лицо или голос.
3. Подключите детектор дипфейков к видеопотоку. Он встраивается в обработку видео на сервере и проверяет не «кто получил ссылку», а «кто сейчас в кадре». Система сама выбирает кадры из потока для анализа.
4. Добавьте смежные проверки. Liveness отличает живого человека от распечатанного фото, видео с телефона или маски. Детектор виртуальных камер находит программы, которые подменяют видеопоток. Сам детектор дипфейков ловит цифровые подделки и инъекционные атаки (когда фальшивое видео подают в систему в обход камеры).

Выберите режим работы. Детектор анализирует видеопоток и изображения в реальном времени, а видеофайлы и снимки может проверять постфактум. Для переговоров с деньгами нужен первый режим, для разбора подозрительной записи подойдёт второй.

По данным VisionLabs, точность детектора в промышленной эксплуатации достигает 99,3% по метрике ROC-AUC (стандартная оценка того, насколько уверенно модель отличает подделку от оригинала). Модель обучена на разных кодеках и степенях сжатия, работает с несколькими лицами в кадре и с людьми в очках.

Что делать с этим прямо сейчас, по ролям

Автору Дзена: тема дипфейков на созвонах пока мало раскрыта на русском. Гонконгский кейс на $25,6 млн и схема «ссылку украли, лицо подделали» хорошо работают в материалах о цифровой безопасности для широкой аудитории.

Маркетологу: если вы проводите вебинары и встречи с клиентами, уточните у поставщика видеосвязи, есть ли проверка участника, а не только пароль на вход.

Предпринимателю в РФ: IVA MCU и детектор VisionLabs российские разработки, которые разворачивают в собственной инфраструктуре компании. Начните с аудита: кто у вас согласует платежи по видео и через какие каналы рассылаются ссылки.