Ложный ответ ИИ из точных фактов: суды Германии возлагают ответственность на платформы

Германия не единственная страна, где поиск отвечает текстом вместо списка ссылок, но здесь до суда дошли первые конкретные споры. Автор отраслевой колонки о поиске разобрал три немецких дела. Суды в Мюнхене и Ахене возложили ответственность на Google, суд в Берлине пришёл к противоположному выводу. Высший суд вопрос пока не решил.

В чём суть дела в Ахене?

Врач до конца июня работал главным врачом и профессором нейрорадиологии. Люди искали в Google, почему он ушёл. Режим ИИ в поиске Google (AI Mode, где вместо ссылок пользователь получает связный ответ) выдавал серьёзное уголовное обвинение. На уточняющие запросы со словами «отстранение», «увольнение», «судебное разбирательство» он писал развёрнутые рассказы о последствиях на несколько абзацев.

Разбирательство действительно было, но касалось другого человека, тоже бывшего университетского профессора. Путаницу суд подтвердил по собственным архивам.

Хронология такая:

• в конце августа врач направил Google подробное объяснение;
• в середине сентября Google ответил, что ничего делать не будет, и в тот же день оставил без последствий официальное требование юристов;
• суд вынес срочное решение, не выслушав Google, и запретил три версии ответа под угрозой штрафа до 250 000 евро за каждое нарушение.

Google ещё может оспорить это решение.

Аргументы за: ответ ИИ сочиняет сама платформа

Ахен опирался на майское решение Земельного суда Мюнхена. Там обзоры ИИ (AI Overviews, сводка нейросети над обычными ссылками) связали двух издателей с мошенничеством и навязанными подписками. Таких утверждений не было ни в одном из приведённых источников.

Google возражал, что пользователи могут проверить источники сами. Мюнхенский суд этот довод отклонил: обзор читается как законченное самостоятельное высказывание.

«самостоятельные, новые и содержательные утверждения», созданные путём объединения материалов сторонних сайтов : Земельный суд Мюнхена, о том, что производит ИИ Google

Ахен перенёс эту формулировку в своё решение напрямую. Google объявил, что обжалует мюнхенское решение, но, по данным The Decoder, урегулировал спор до того, как его рассмотрел вышестоящий суд.

Аргументы против: Берлин видит в обзорах ИИ обычную выдачу

В начале июня суд в Берлине рассматривал спор о товарных знаках. Парфюмерная компания возражала против обзоров ИИ, где её марки стояли рядом со ссылками на дешёвые подделки. Берлинский суд счёл обзор новым форматом поисковой выдачи, который собирает информацию с чужих сайтов, а не высказыванием Google, и нарушения не нашёл.

Ситуации при этом разные. В Берлине сводка точно пересказала то, что писали другие сайты, а в Мюнхене и Ахене ответы выстроили связи, которых не было ни в одном источнике. Но суды одной страны описали один и тот же продукт несовместимыми словами. Единственное дело, которое могло дойти до высшей инстанции, закончилось мировым соглашением.

Как правдивый факт прилипает к чужому имени?

Механизм прост. Система ищет документы, совпадающие по имени и соседним признакам: должность, учреждение, город, отрасль, недавнее событие. Из найденного она пишет один гладкий рассказ.

Если у двух людей или компаний много общих признаков, у системы нет надёжного способа понять, что факты относятся к разным героям. Автор колонки называет это склейкой сущностей: ИИ сливает двух людей в одного и уверенно рассказывает о результате. Это родственник галлюцинации (когда ИИ уверенно выдумывает то, чего не было), только здесь не выдумано ни одного факта.

Примеры повторяются:

• в Ахене совпали признаки «университетский профессор» и «ушёл с должности»;
• в Мюнхене издателей смешали с сомнительными компаниями, которые, согласно показаниям под присягой, с ними не связаны;
• в 2024 году Copilot от Microsoft назвал немецкого судебного репортёра преступником по делам, о которых тот писал годами, потому что его имя стояло рядом с ними в подписях к статьям.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Спросите ИИ-поиск о себе по имени и псевдониму, добавляя к запросу «почему ушёл», «скандал», «суд». Если в вашей публичной биографии есть необъяснённые переходы и паузы, закройте их коротким абзацем в профиле или статье «обо мне».

Маркетологу. Составьте список компаний и продуктов, с которыми бренд легко спутать: похожие названия в той же отрасли, франшизы, однофамильцы руководителей. В списке ссылок сортировку делал читатель, в ответе ИИ её делает машина.

Предпринимателю в РФ и СНГ. Немецкие решения в России не действуют, но механизм склейки от страны не зависит. Из доступных в РФ аналогов проверьте ответы ИИ в поиске Яндекса и GigaChat. Скриншоты ошибочных ответов сохраняйте с датой: в Ахене дело выиграл тот, кто письменно предупредил платформу заранее.

Ближайшие месяцы ясности не дадут: пока ни одно дело не дошло до высшего суда, правила будут разными в разных залах заседаний. Больше всего рискует тот, кто ждёт определённости, ведь его имя и бренд попадают в ответы ИИ каждый день. Пока практика не устоялась, следить за этими ответами придётся самим авторам и компаниям.