NVIDIA Nemotron 3 Diarization ускорил локальный Zoom‑ассистент в 140 раз
Новая модель диаризации от NVIDIA обрабатывает 20‑минутный Zoom‑звонок за 3 секунды, заменив прежний sherpa‑onnx, требивший 7 минут.
В серии «Локальный ассистент для зумов» автор делится, как за один вечер сменил технологию диаризации. До 23 сентября 2026 г. в проекте использовалась модель sherpa‑onnx с дополнительным вторым проходом, что давало около 7 минут обработки 20‑минутного канала разговора. 23 сентября NVIDIA опубликовала Nemotron 3 Diarization – специализированную модель для разделения голосов в аудио.
Автор подключил её 28 сентября к своему пайплайну и получил результат в 3 секунды на том же 20‑минутном аудио‑файле. Это более чем 140‑кратное ускорение и делает возможным почти реальное время реакции локального ассистента в Zoom‑звонках.
Технически модель построена на архитектуре Nemotron 3, обученной на огромных датасетах диалоговой речи и оптимизированной под ONNX Runtime. Для работы требуется GPU с поддержкой FP16, но в отличие от облачных сервисов, всё происходит локально, без передачи аудио в облако.
Ссылка на оригинальную статью Habr ML: https://habr.com/ru/articles/1087790/. Официальный релиз NVIDIA: https://developer.nvidia.com/nemotron-3-diarization.
Эта смена демонстрирует, как новые модели могут радикально менять производительность даже в небольших проектах, позволяя разработчикам сосредоточиться на более сложных задачах, а не на оптимизации старых решений.
Для разработчиков локальных AI‑ассистентов это открывает путь к почти мгновенной диаризации, что улучшает UX в видеоконференциях и снижает нагрузку на серверную инфраструктуру. Однако потребуется современный GPU и внимание к лицензированию модели NVIDIA, что может стать барьером для небольших команд.
