Как по весам 2500‑слойной нейросети восстановили скрытый MD5‑хеш
Исследователи разобрали черный ящик из 2500 слоёв, используя механистическую интерпретируемость и SAT‑решатели, и извлекли скрытую программу с MD5‑хешем. Подробности методики и результаты.
В статье на Habr ML "Что спрятано в 2500 слоях: как по весам нейросети восстановили MD5" авторы рассказывают о попытке «взломать» нейросетевой черный ящик, состоящий из 2500 слоёв, и найти в нём скрытую программу.
Что заставило искать ответ?
Обычные методы анализа (градиентные визуализации, активационные карты) не дали никаких подсказок. Команда решила подойти к задаче с позиции механистической интерпретируемости: рассматривать модель как набор детерминированных вычислений, а не как абстрактную функцию.
Как проходил процесс?
- Анализ весов и структуры – исследователи построили граф вычислений, выделив повторяющиеся паттерны и потенциальные «модули» кода.
- Гипотезы о скрытой логике – сформулированы несколько вариантов того, что может быть зашифровано (шифр, хеш, простая программа).
- SAT‑решатели – каждую гипотезу формализовали как булеву задачу и использовали SAT‑solver для проверки выполнимости.
- Тупиковые ветки – отбрасывали варианты, не приводящие к согласованным результатам, пока не нашли единственное решение.
Итог
В результате удалось восстановить небольшую программу, генерирующую MD5‑хеш, который был зашифрован в весах модели. Авторы продемонстрировали, что даже без доступа к обучающим данным можно извлечь конфиденциальную информацию из сложных нейросетей.
Что дальше?
Работа открывает новые вопросы о безопасности моделей, необходимости аудита весов и разработки методов защиты от подобных «стеганографических» атак.
Источник: Habr ML, 17 авг. 2026
Для разработчиков это сигнал, что простое скрытие кода в весах уже не гарантирует конфиденциальность. Необходимо включать аудит моделей в пайплайн, использовать инструменты механистической интерпретируемости и планировать защиту от стеганографии.
