Что такое галлюцинации нейросетей в науке: инструмент ловит фальшивые ссылки в PDF

Выпускница российского вуза защитила дипломный проект на отлично (работу отметили лучшей в день защиты) и продолжила развивать систему автоматической проверки подлинности источников в научных публикациях. Первая версия была учебным прототипом, теперь это инженерный инструмент с OCR (распознаванием текста из сканов), кэшированием запросов, офлайн-режимом и классификацией типов ошибок. Проект опубликован на Хабре и описывает, что такое галлюцинации нейросетей применительно к научной библиографии: когда ИИ уверенно генерирует несуществующие ссылки на статьи, а рецензент принимает их за настоящие.

Зачем это нужно автору или исследователю?

Проблема выглядит так: вы пишете статью, используете нейросеть для поиска источников, а она подставляет красивую, но выдуманную ссылку. Или наоборот: рецензируете чужую работу и не можете вручную проверить 40 записей в списке литературы.

Система берёт PDF или DOCX, извлекает список литературы, разбирает каждую запись на поля (авторы, название, год, журнал, DOI, URL) и сверяет с внешними базами: Crossref, OpenAlex, Wikidata, ORCID, PubMed, Google Scholar. На выходе не просто «найдено» или «не найдено», а развёрнутый статус с объяснением, что именно не сходится.

Что понадобится

• Научный документ в формате PDF или DOCX
• Доступ к веб-интерфейсу системы (проект описан на Хабре, код открыт)
• Подключение к интернету для проверки по внешним базам (есть и офлайн-режим для работы с кэшированными результатами)
• Около 10 минут на загрузку и анализ документа средней длины

Пошаговая инструкция

1. Загрузите документ. Система принимает PDF и DOCX через веб-интерфейс. Если в PDF нет текстового слоя (например, это скан), автоматически запускается OCR.

2. Дождитесь извлечения текста. Система удаляет повторяющиеся шапки и футеры, ищет библиографический блок не только по очевидным заголовкам вроде «Литература» или «References», но и по структуре документа.

3. Проверьте разбивку на записи. Каждая библиографическая запись разбирается на поля: авторы, название, год, журнал или издатель, том, номер, страницы, DOI, URL. На этом этапе система нормализует текст: исправляет разорванные переносом строки DOI, сломанные форматированием URL, смешение кириллицы и латиницы.

4. Запустите проверку. Система последовательно обращается к DOI-резолверу, проверяет URL, ищет данные в Crossref, OpenAlex, Wikidata, ORCID, PubMed, Google Scholar и через обычный веб-поиск. Результаты кэшируются в SQLite, чтобы повторные проверки не дёргали внешние сервисы.

5. Прочитайте результат. Каждая запись получает статус и перечень конкретных проблем. Возможные статусы:

6. Источник подтверждён
7. Источник, вероятно, существует, но данных недостаточно
8. Источник не удалось подтвердить
9. Источник найден, но в записи есть ошибки

10. Запись плохо разобрана и требует ручной проверки

11. Изучите типы ошибок. Система выделяет конкретную причину: ошибка DOI, ошибка URL, несовпадение авторов, несовпадение названия, несовпадение года, несовпадение журнала, риск OCR-искажения, риск некорректного парсинга (разбора записи).

Что делать с этим прямо сейчас, по ролям

Автору Дзена или копирайтеру. Если вы ссылаетесь на исследования в своих текстах (а это повышает доверие читателей), проверяйте ссылки до публикации. Нейросеть могла «нагаллюцинировать» красивую цитату с несуществующим источником. Этот инструмент покажет, реален ли источник, до того, как комментаторы уличат вас в ошибке.

Исследователю или аспиранту. Перед подачей статьи прогоните список литературы через систему. Она найдёт опечатки в DOI, расхождения в годах, неработающие URL. Для русскоязычных источников это актуальнее, чем для англоязычных: автоматические средства проверки библиографии на русском языке практически отсутствуют.

Рецензенту или редактору журнала. Проверка 30-50 ссылок вручную занимает часы. Система сокращает эту работу до минут и указывает конкретно, какие записи требуют внимания. Это не замена экспертизы, а фильтр первого уровня.

Предпринимателю в EdTech. Если вы строите продукт вокруг научных публикаций или образования, интеграция подобной проверки повышает качество контента. Проект с открытым кодом, можно изучить архитектуру.

Кто работает с научными текстами на русском языке, впервые получает инструмент, который не просто говорит «ссылка битая», а объясняет почему: OCR сломал DOI, год не совпадает с каталогом, или источника действительно нет ни в одной базе. Для авторов Дзена, которые ссылаются на исследования, это способ не оказаться в одном ряду с нейросетью, которая уверенно цитирует то, чего не существует.