Google Earth убрал deepfake-нейросеть за сутки: фейки обманули даже детекторы ИИ

Исследователь в области открытых данных Хенк ван Эсс (Henk van Ess) из Digital Digging обнаружил проблему в день запуска. Он намеренно генерировал изображения с помощью текстовых промптов: добавил беженцев у мексиканской границы и воронку от бомбы рядом с больницей в Газе. По его словам, ни один запрос не был отклонён, ни один не был смягчён, и система ни разу не предложила изменить промпт.

Инструмент работал на модели Nano Banana 2. Google первоначально заявил, что сгенерированные изображения содержат цифровой водяной знак (невидимую метку, по которой можно отличить ИИ-картинку от настоящей) и что компания предотвращает «создание изображений на вредоносные темы». Однако ван Эсс показал, что записанное с экрана видео со сгенерированными снимками обмануло детектор ИИ-контента Hive, то есть водяной знак не спас.

Почему Google убрал функцию за сутки?

• Нулевая фильтрация. Система не отклоняла промпты на создание изображений беженцев, разрушений и других геополитически чувствительных сцен.
• Водяные знаки не защитили. Видеозапись экрана с deepfake-нейросетью (online-инструментом прямо в браузере) обошла детектор Hive, который должен был распознать ИИ-генерацию.
• Репутационный риск. Google Earth воспринимается как достоверная картина мира. Компания признала, что «люди уникальным образом доверяют Google Earth как надёжному отображению реальности».
• Фейки не попадали в общий слой карты и были видны только автору, но скриншоты уже разошлись по сети, нарушая политику платформы.

В обновлённом заявлении Google сообщил: функцию отключают, пока не внедрят более строгие ограничения. Компания подчеркнула, что геопространственные специалисты использовали инструмент для полезных задач, но распространение скриншотов с нарушающим правила контентом перевесило пользу.

Ничего не было отклонено, ничего не было смягчено, и ни разу система не предложила мне попробовать другой промпт. : Хенк ван Эсс, исследователь Digital Digging

Показательно, что речь о сервисе, у которого нет конкурентов по уровню доверия к спутниковым данным: созданный в Google Earth фейк выглядит не как «картинка из нейросети», а как реальный снимок из космоса.

Как попробовать (на момент публикации недоступно)

1. Функция уже отключена. Если вы откроете Google Earth, инструмент ИИ-редактирования снимков не появится.
2. Следите за блогом Google Earth: компания обещала вернуть функцию после внедрения «более строгих ограничений», но сроков не назвала.

Есть ли аналоги в России?

В Яндекс Картах и «2ГИС» подобных ИИ-инструментов для редактирования спутниковых снимков нет. Российские нейросети (YandexGPT, GigaChat от Сбера, Kandinsky для генерации изображений) умеют создавать картинки по текстовому промпту, но не встроены в картографические сервисы и не позволяют подменять реальные спутниковые фотографии. Для аудитории в РФ этот кейс пока скорее предупреждение, чем практический инструмент.

Что делать с этим прямо сейчас, по ролям

Авторам Дзена. Если вы пишете о геополитике или используете спутниковые снимки как иллюстрации, перепроверяйте источник изображения. Фейковый снимок из Google Earth выглядит неотличимо от настоящего.

Маркетологам. Учитывайте риск: ИИ-генерация в картографии означает, что конкуренты или недоброжелатели могут создать поддельный «спутниковый снимок» вашего объекта. Готовьте протокол реагирования.

Предпринимателям в РФ. Прямой угрозы пока нет, российские карты не имеют такого функционала. Но если вы работаете с зарубежными картографическими API, проверьте, не попали ли ваши данные в зону эксперимента.

Частые вопросы

Можно ли сейчас создать deepfake спутникового снимка?

Инструмент Google Earth уже отключён. Другие deepfake-нейросети online (Midjourney, DALL-E, Kandinsky) могут генерировать изображения «вид сверху», но они не привязаны к реальным координатам и не выглядят как настоящие спутниковые снимки внутри карты.

Водяные знаки ИИ-изображений надёжны?

Случай с Google Earth показал, что нет. Исследователь ван Эсс записал видео с экрана, и детектор Hive не распознал ИИ-генерацию. Водяной знак работает только пока изображение передаётся в исходном файле, а не через скриншот или запись.

Вернёт ли Google эту функцию?

Компания заявила, что работает над «более строгими ограничениями», но конкретных сроков и деталей не назвала. До возвращения функции инструмент недоступен.

Случай с Google Earth показал самое уязвимое место индустрии ИИ-генерации: доверие к платформе автоматически переносится на сгенерированный контент, а существующие механизмы защиты обходятся за секунды.