Три уровня причинности: почему ИИ пока не понимает простые действия
Профессор Elias Bareinboim из Columbia University объяснил на ICML 2026, почему современные модели ИИ ошибаются в простых сценариях, таких как падение вазы котом, и как три уровня причинности помогают решить проблему.
На конференции ICML 2026 профессор Elias Bareinboim, директор лаборатории CausalAI при Columbia University, представил доклад «Кот, ваза и три уровня причинности: что ИИ пока не умеет». В центре внимания – фундаментальная проблема современных больших языковых моделей (LLM): они способны предсказывать ассоциации, но часто дают неверные результаты, когда требуется понять причинно‑следственные связи.
Bareinboim выделил три уровня причинности, предложенные Джудом Пирсом и развиваемые в современной каузальной инференции: 1️⃣ Ассоциативный уровень – наблюдение корреляций (например, «кот часто находится рядом с вазой»). 2️⃣ Интервенционный уровень – понимание последствий действий (что произойдет, если кот ударит вазу). 3️⃣ Контрфактический уровень – способность отвечать на вопросы «что было бы, если…» (если бы кот не тронул вазу, что изменилось бы в комнате).
В примерах из доклада ИИ часто «удалял» одну из подушек в сцене, потому что модель связывала её с «неправильным» результатом, хотя в реальном мире подушка не участвовала в событии. Это происходит из‑за обучения на больших датасетах, где причинно‑следственные связи размыты, а модели оптимизируются лишь под предсказание следующего токена.
Bareinboim подчеркнул, что без интеграции каузального мышления LLM будут продолжать делать такие ошибки, особенно в задачах планирования, робототехники и медицинской диагностики. Он предложил направления развития: построение гибридных систем, комбинирующих нейронные сети и формальные каузальные модели, а также создание новых датасетов, явно размеченных по уровням причинности.
Подробнее о докладе и примерах можно прочитать в статье на Habr ML: https://habr.com/ru/articles/1076292/
Для разработчиков ИИ это сигнал: простые задачи требуют каузального понимания, а не только статистических корреляций. Студентам стоит изучать основы причинно‑следственного вывода и экспериментировать с гибридными архитектурами. Появление специализированных датасетов и библиотек (например, CausalAI) открывает новые возможности для построения более надёжных систем. Однако пока большинство готовых фреймворков не поддерживают контрфактическое мышление, поэтому будьте готовы к экспериментам и дополнительной разметке данных.
