AGI как когнитивная ОС: искать программы вместо весов
В статье рассматривается идея представить большие языковые модели как когнитивную операционную систему, где вместо оптимизации весов ищут «программы» — наборы инструкций, управляющие интеллектом.
Статья «AGI как когнитивная ОС: что если искать программы, а не веса» (Habr ML, 25 сентября 2026) предлагает переосмыслить современные большие языковые модели (LLM) как когнитивные операционные системы. Вместо привычного подхода, где исследователи «тюнят» миллиарды параметров, авторы предлагают искать программы – абстрактные наборы инструкций, которые могут быть извлечены, проанализированы и модифицированы.
Ключевые идеи:
- Бинарный «чёрный ящик»: современные LLM часто поставляются лишь как огромные бинарники без открытого кода. Это затрудняет понимание внутренней логики и отладку.
- Программный слой: авторы предполагают, что внутри модели существует слой «программ», отвечающих за конкретные когнитивные функции (генерацию кода, перевод, рассуждения). Выявление этих программ может дать более прозрачный доступ к интеллекту.
- Поиск вместо обучения: вместо того, чтобы обучать модели с нуля, можно искать готовые программы в уже обученных системах, комбинировать их и адаптировать под новые задачи.
- Методы поиска: предлагаются техники, основанные на промпт-инжиниринге, интерпретируемых представлениях и анализе активаций, которые могут выявлять повторяющиеся паттерны – потенциальные программы.
- Влияние на безопасность: если программы могут быть изолированы, их можно проверять, ограничивая непредсказуемое поведение LLM.
Автор подчеркивает, что такой подход требует новых инструментов для выделения, визуализации и тестирования программ внутри нейросетей. В статье также обсуждаются первые эксперименты, где удалось обнаружить небольшие «модули» в GPT‑4, отвечающие за синтаксический разбор.
Ссылка на оригинал: https://habr.com/ru/articles/1086854/
Для разработчиков это открывает путь к более прозрачному управлению LLM: вместо «чёрного ящика» можно будет подбирать готовые программные блоки, ускоряя прототипирование. Студентам стоит обратить внимание на методы анализа активаций и промпт‑инжиниринг как инструменты поиска таких программ. Однако пока это гипотеза – потребуется новые библиотеки и стандарты, чтобы сделать поиск программ практичным.
