Самосовершенствующийся ИИ от Anthropic: как машины учатся создавать свои версии

В статье на Habr ML [Перевод] «Самосовершенствующийся ИИ: что происходит внутри Anthropic» (https://habr.com/ru/articles/1044008/) команда Anthropic делится результатами исследований, направленных на создание систем, способных самостоятельно улучшать свои архитектуры и обучать новые модели.

Главный драйвер – перенос части инженерных задач с человека на ИИ. В рамках проекта «Self‑Improvement Loop» старые версии Claude используют мета‑обучение, чтобы генерировать архитектурные предложения, подбирать гиперпараметры и даже формировать наборы данных для обучения своих «детей». Для контроля качества Anthropic внедряет «Constitutional AI», где набор правил (конституций) проверяет, что генерируемые модели соответствуют требованиям безопасности и этики.

По словам исследователей, текущий уровень автоматизации позволяет сократить время разработки новой модели с нескольких месяцев до нескольких недель. Однако полностью автономный процесс – рекурсивное самосовершенствование, когда система полностью проектирует и обучает своего преемника без человеческого вмешательства – ещё далёк. Ключевыми ограничениями остаются вычислительные ресурсы и гарантии безопасности. Anthropic оценивает, что при условии экспоненциального роста доступных GPU‑часов и строгих протоколов контроля, такой сценарий может стать реальностью в ближайшие 5–10 лет.

Статья также подчёркивает риски: быстрый рост возможностей ИИ без достаточного надзора может привести к появлению моделей, чьи свойства трудно предсказать. Поэтому команда разрабатывает системы мониторинга и «rollback», позволяющие быстро откатываться к предыдущим версиям в случае обнаружения отклонений.

Для разработчиков и студентов это открывает новые возможности – инструменты, которые помогут автоматизировать подбор архитектур и гиперпараметров, а также новые вызовы в области контроля качества и этики.