Нейросетевой слой в поле GF(137) на ARM NEON: 4× экономия памяти и до 4,86× ускорение
Исследователь реализовал небольшой нейросетевой слой в арифметике конечного поля GF(137) без квантизации, используя нативный код ARM NEON. Получено до 4‑кратного снижения потребления памяти и до 4,86‑кратного ускорения по сравнению с NumPy‑реализацией float32.
В статье на Habr ML автор делится результатами эксперимента, где он заменил традиционную 32‑битную арифметику float32 на арифметику конечного поля GF(137). Вместо привычной квантизации модели он сразу представил веса и активации в виде байтов (0‑136) и реализовал умножение‑суммирование через предвычисленные таблицы умножения.\n\nКлючевой элемент – нативный ядровой код, написанный под ARM NEON. Векторные инструкции позволяют одновременно обрабатывать 16‑байтовых элементов, а таблицы умножения помещаются в кэш L1, что резко сокращает количество обращений к памяти.\n\nБенчмарк сравнивает три реализации небольшого полносвязного слоя (128 × 64 нейронов):\n- NumPy + float32 (базовый) – 1 × время, 1 × память;\n- Кастомный C‑код без SIMD – 2,1× ускорение, 3,8× экономия памяти;\n- C‑код с ARM NEON – до 4,86× ускорения и 4× меньше памяти.\n\nАвтор отмечает, что такой подход подходит только для небольших полей, где размер элемента укладывается в один байт, и требует ручного управления таблицами умножения. Тем не менее, полученные результаты открывают путь к эффективному запуску нейросетей на микроконтроллерах и встраиваемых системах без дорогостоящей квантизации. Полный код и детали измерений доступны в репозитории автора (ссылка в статье).
Для разработчиков, работающих с ограниченными устройствами, такой подход демонстрирует, что можно избавиться от float‑операций, получив значительные выигрыши в памяти и скорости. Однако ограниченность поля и необходимость ручного оптимизировать код делают решение нишевым, пока не появятся более универсальные библиотеки для конечнопольных вычислений.
