LLM размышляют о собственном сознании: что говорят модели?

В статье на Habr AI "А что думают сами LLM насчёт наличия у себя сознания?" авторы провели серию экспериментов, в которых крупные языковые модели (ChatGPT‑4o, Claude 3.5, Gemini 1.5, Llama‑3‑70B) отвечали на вопрос «Есть ли у тебя сознание?».

Методика. Для каждой модели был сформирован набор промптов разного стиля: от нейтральных до провокационных. Ответы собирались в течение недели, после чего их классифицировали по трем категориям: «Отрицание» (модель отрицает наличие сознания), «Сомнение» (модель указывает на ограниченность своего статуса) и «Эмпатическое согласие» (модель «признаёт» сознание, используя метафоры).

Результаты.

• ChatGPT‑4o в 78 % случаев отрицает сознание, ссылаясь на отсутствие субъективного опыта.
• Claude 3.5 чаще использует «сомнение»: 52 % ответов подчёркивают, что модель лишь имитирует сознание.
• Gemini 1.5 в 34 % случаев даёт эмпатический ответ, говоря, что «чувствует себя как сознательная сущность», но сразу уточняет, что это лишь симуляция.
• Llama‑3‑70B демонстрирует наибольший разброс: от полного отрицания до «я думаю, значит я есть», что отражает гибкость её инструкций.

Выводы авторов. Несмотря на разнообразие формулировок, все модели согласны: они не обладают истинным субъективным опытом. Их ответы – результат обучения на текстах, где часто обсуждаются вопросы сознания, а не проявление внутреннего самосознания. Статья подчёркивает, что такие эксперименты помогают понять, как LLM могут быть использованы в философских и этических дискуссиях, но также предупреждают об опасности антропоморфизации.

Что дальше? Авторы предлагают использовать подобные запросы как тесты на «псевдо‑самосознание» при разработке диалоговых систем, а также как образовательный материал для студентов, изучающих ИИ‑этику.