Первый обучаемый нейронный reasoner на 16 KB VSA без LLM
Новый reasoner на основе векторно‑символической архитектуры достигает 90 % точности в multi‑hop QA, работает полностью на CPU, занимая всего 16 KB памяти.
Что случилось?
Исследователи из [Habr AI] представили VSA‑Reasoner – первый обучаемый нейронный reasoner, построенный поверх Vector‑Symbolic Architecture (VSA) и работающий без привлечения больших языковых моделей (LLM). В отличие от привычных подходов, где для логических выводов используют трансформеры с миллионами параметров и GPU, VSA‑Reasoner помещается в 16 KB тернарного резонатора и полностью исполняется на CPU.
Ключевые показатели
- Точность: 90 % правильных ответов в среднем по задачам multi‑hop QA. При 1‑2 hop – 100 % правильных, при 3‑hop – 70 %.
- Размер модели: 16 KB (тернарный резонатор), что в 10‑100 раз меньше типичных LLM‑решений.
- Аппаратные требования: 100 % вычислений на CPU, без необходимости в GPU, что открывает возможности для встраиваемых систем и edge‑устройств.
- Обучаемость: модель обучается на небольших датасетах, поддерживая online‑learning без полного переобучения.
Почему это важно?
Традиционные reasoner‑подходы полагаются на огромные трансформеры, требующие значительных ресурсов и энергии. VSA‑Reasoner демонстрирует, что логический вывод можно реализовать в микроскопическом масштабе, сохраняя при этом высокую точность. Это открывает путь к интеллектуальному анализу данных на периферии, где ограничения по памяти и вычислительной мощности являются критичными.
Ссылка на оригинал
Подробный разбор доступен в статье на Habr AI: https://habr.com/ru/articles/1050606/
Для разработчиков AI‑систем это шанс внедрять reasoning‑модули в устройства с ограниченными ресурсами – IoT, мобильные гаджеты, микроконтроллеры. Однако пока точность падает при более глубокой цепочке выводов, так что для сложных задач LLM остаются предпочтительнее.
