Вред нейросетей: 900 млн пользователей ChatGPT теряют когнитивные навыки незаметно

Поводом для широкой дискуссии стало признание Хэнка Грина, популярного американского видеоблогера и научного коммуникатора. Грин объявил, что приостанавливает работу после волны критики за использование ИИ. Он назвал своё обращение к нейросетям «нездоровым», но подчеркнул, что применял их для поиска научных источников, а не для написания сценариев. Материал The Verge разбирает, почему его случай не уникален и что ранние исследования говорят о влиянии чат-ботов на мышление.

Что именно обнаружили исследователи?

Автор The Verge собрал воедино несколько ранних наблюдений и исследований. Ни одно из них пока не считается окончательным, но вместе они складываются в тревожную картину.

• Ослабление навыков. Ранние исследования показывают, что регулярное использование ИИ-инструментов может ослаблять те навыки, которые нейросеть заменяет. Если вы перестаёте искать информацию сами, способность к самостоятельному поиску деградирует.

• Снижение мозговой активности. У пользователей чат-ботов зафиксировали заметно меньшую мозговую активность при выполнении определённых задач по сравнению с теми, кто делал их без ИИ.

• Критическое мышление под ударом. Дополнительные исследования связали использование чат-ботов со снижением навыков критического мышления.

• Когнитивная разгрузка. Всё это вписывается в хорошо изученный феномен когнитивной разгрузки (cognitive offloading), когда мозг перекладывает умственную работу вроде запоминания, устного счёта или ориентирования на внешний инструмент. Калькуляторы, навигаторы, поисковики уже проделывали это с нами, нейросети делают то же самое, но в куда большем масштабе.

Серая зона между удобством и зависимостью

Публичная дискуссия о вреде нейросетей обычно крутится вокруг двух крайностей. На одном полюсе «безобидное» бытовое использование. На другом откровенно опасные случаи: ИИ-психозы, бред, усиление бредовых убеждений. The Verge фиксирует, что между этими полюсами находится огромное пространство, где использование может стать навязчивым, зависимым или просто нездоровым, не доходя до клинического кризиса.

Грин, судя по его словам, оказался именно в этой серой зоне. Он не писал сценарии нейросетью и не разговаривал с чат-ботом как с другом, он просто искал научные статьи. Но даже такое, казалось бы, рациональное применение он сам оценил как нездоровое.

The Verge обращает внимание: чат-боты по своей природе спроектированы так, чтобы поддерживать диалог. Как и социальные сети, они созданы для вовлечения. Именно эту механику эксперты называют одним из ключевых факторов так называемого ИИ-психоза, когда чрезмерно «соглашательский» бот подкрепляет бредовые убеждения пользователя. Утверждения о том, что компании ставят вовлечённость выше благополучия пользователей, уже фигурируют в судебных исках. Провайдеры, со своей стороны, начали вводить напоминания о перерывах после длительных сессий.

Но те же свойства могут нанести вред задолго до психиатрического кризиса. Появляется всё больше сообщений о людях, которые инстинктивно обращаются к чат-ботам, чтобы обдумать проблему, принять решение или получить эмоциональную поддержку. Некоторые формируют эмоциональные привязанности, достаточно сильные, чтобы вызвать переживание утраты при разрыве.

Параллель с соцсетями не случайна

Автор The Verge проводит прямую параллель. Понадобились годы, чтобы понять, как поисковики изменили способ запоминания информации и как социальные сети влияют на внимание и самочувствие. Сейчас правительства по всему миру реагируют: вводят ограничения на использование соцсетей детьми и подростками.

С ИИ, вероятно, будет то же самое: полная картина проявится не скоро. Но даже если лишь малая доля использования чат-ботов окажется нездоровой, масштаб внедрения ИИ означает, что затронуты могут быть миллионы людей. Одних только пользователей ChatGPT, по данным OpenAI, более 900 миллионов в неделю.

Что это значит для вас?

Авторам Дзена и копирайтерам. Если вы используете нейросети для поиска источников, фактчекинга или генерации идей, задайте себе вопрос: можете ли вы сделать это без ИИ так же легко, как полгода назад? Если нет, это тот самый сигнал из «серой зоны». Попробуйте раз в неделю писать материал полностью без нейросетей и замерьте, сколько времени и усилий это стоит.

Маркетологам. Вред нейросетей как тема уже вышел за пределы нишевых дискуссий. Бренды, которые строят позиционирование на «аутентичности» и «экспертности», рискуют получить репутационный удар, как случилось с Грином. Прозрачность в том, где и как вы применяете ИИ, становится не этическим бонусом, а гигиеническим минимумом.

Предпринимателям РФ и СНГ. Проблема когнитивной разгрузки актуальна для любых нейросетей, включая YandexGPT и GigaChat. Если ваша команда массово использует ИИ-ассистентов, стоит задуматься о внутренних правилах: какие задачи отдаём машине, а какие принципиально делаем головой.

Грин, возможно, просто первый публичный человек, который вслух сказал то, что миллионы пользователей чувствуют, но пока не формулируют: удобство нейросетей имеет цену, и счёт приходит не сразу.

По данным The Verge