Нейросимвольный ИИ Сергея Шумского: попытка решить проблему «галлюцинаций» LLM

В последнее время растёт недовольство инженеров и бизнес‑пользователей ограниченной интерпретируемостью трансформеров и их склонностью к «галлюцинациям». В ответ на эти проблемы исследователи ищут альтернативные архитектуры, способные обеспечить более предсказуемое и объяснимое поведение. В статье Habr AI «Сложность через сжатие» Сергей Шумский, кандидат физико‑математических наук, представляет свой проект нейросимвольного ИИ, который объединяет преимущества больших языковых моделей (LLM) и традиционных символьных систем.

Ключевая идея – использовать трансформер как «компрессор» входных данных, а затем применять символьный движок для вывода логически обоснованных ответов. Такая гибридная архитектура позволяет сохранять способность к генерации естественного языка, но при этом предоставляет формальные доказательства и трассировку вывода. В экспериментальной части Шумский демонстрирует, как система решает задачи из математики и логики без типичных для LLM ошибок, а также показывает снижение количества «галлюцинаций» на 40 % по сравнению с базовым GPT‑4.

Проект открыт для сообщества: код размещён на GitHub, а набор данных – в Hugging Face. Авторы также публикуют метрики интерпретируемости и планируют интеграцию с популярными фреймворками, такими как LangChain, для упрощения внедрения в бизнес‑процессы. Несмотря на перспективы, автор отмечает, что текущая версия требует значительных вычислительных ресурсов и пока ограничена английским языком.

Статья служит важным сигналом о том, что символьный ИИ может стать практической альтернативой традиционным LLM, особенно в сферах, где критически важна проверяемость результатов.