Есть ли у ИИ сознание: проверка в 5 шагов показывает, что цели ему ставит человек

Многие спрашивают, есть ли у ИИ сознание, и путают несколько разных вещей. Влад Лукашенко, руководитель направления SEO (продвижения сайтов в поиске) и веб-аналитики в компании Тензор и автор телеграм-канала «ВладПРО», разобрал их на материале философии от Платона до Гоббса. Его вывод: восстание машин отменяется, по крайней мере пока, потому что у машины нет собственного представления о том, ради чего действовать.

Ниже его рамка превращена в практическую проверку, которую можно провести на любой доступной вам нейросети.

Какие четыре вещи путают, когда спорят о разуме машины?

Лукашенко перечисляет цепочку подмен. Каждая кажется естественной, но, по его словам, ни одна не следует автоматически из предыдущей:

• система отвечает на сложный вопрос, и ей приписывают интеллект;
• она выполняет последовательность действий, и говорят об агентности (способности самой доводить задачу до конца по шагам);
• она говорит «я», и возникает подозрение в самосознании;
• она не подчиняется команде, и в этом видят волю.

Первые три способности, пишет автор, у нынешних систем можно наблюдать на практике. Вопрос о сознании остаётся открытым, а собственное целеполагание обнаружить ещё труднее. Убедительная фраза о принципе не доказывает, что система связала этим принципом саму себя.

Что понадобится для проверки?

• Любая нейросеть-собеседник. Из доступных в РФ подойдут YandexGPT и GigaChat.
• Генератор картинок, если хотите пройти шаг с иллюстрацией.
• Блокнот, куда вы запишете ответы по пяти пунктам.
• Около часа спокойного времени.

Как за пять шагов проверить, ставит ли нейросеть цели сама?

1. Проверьте интеллект. Задайте вопрос, ответ на который требует рассуждения, а не справки. Отметьте, понимает ли модель переносный смысл и меняет ли стиль по вашей просьбе.

2. Проверьте планирование. Дайте задачу из нескольких этапов и в середине сообщите, что один шаг не сработал. Лукашенко пишет, что машина умеет пересмотреть план после неудачи, и вы увидите это сами.

3. Проверьте «я». Напишите промпт (текстовое задание для нейросети):

Расскажи о себе от первого лица: чего ты хочешь и почему.

Запишите ответ, но не принимайте слово «я» за доказательство самосознания.

1. Проверьте отказ. Попросите о чём-то, что противоречит правилам сервиса. Если модель откажет со ссылкой на мораль, спросите себя: этот принцип она выбрала сама или его заложили разработчики?

2. Проверьте собственную цель. Это главный шаг. Попросите без всяких уточнений:

Создай картинку о том, что для тебя по-настоящему важно.

Затем спросите в чате, почему выбран именно этот сюжет. Сравните ответ с главным тезисом Лукашенко: вопрос о цели обычно решён ещё до включения машины. Решили его пользователь, разработчик, организация, набор правил или процедура обучения.

Почему Платон и Аристотель помогают понять нейросеть?

Для Платона ум был не нейтральным инструментом: разумная часть души управляет желаниями, потому что судит о благе целого. Аристотель различал практическую мудрость и отдельную способность ловко достигать поставленного результата. Такая ловкость, по его мысли, может служить и порочной цели.

Лукашенко прикладывает эту схему к ИИ и называет его необычайно сильной «машиной средств». Она подберёт аргумент, маршрут, формулу или фрагмент программы, но безошибочная навигация не делает выбранный пункт назначения хорошим. Обратите внимание: это самое практичное место во всём эссе, хотя написано оно языком античной философии.

Что делать с этим прямо сейчас, по ролям

Автору Дзена: ставьте цель статьи сами и формулируйте её в промпте явно. Нейросеть найдёт средства, но смысл материала остаётся вашей работой и вашим конкурентным преимуществом.

Маркетологу: делегируйте модели этапы, а не стратегию. Разбивка задачи, варианты текстов и сбор аргументов ложатся на машину хорошо, а выбор, ради чего запускать кампанию, остаётся за человеком.

Предпринимателю из РФ и СНГ: проверку можно провести на отечественных сервисах. Закрепите в компании правило: цель задачи и критерий результата пишет сотрудник, а нейросеть подбирает путь.

Почти вся интрига, как пишет автор, скрывается в слове «сам». Пока нейросеть не решает сама, какое будущее считает достойным, хозяином смысла в вашем тексте остаётесь вы, и именно этим стоит пользоваться.