ВК перешёл от бустинга к нейросетям в ранжировании рекомендаций
ВК представил нейроранкер — новую архитектуру рекомендаций, заменившую бустинг нейросетями. Подробности о модели, обучении и ожидаемых улучшениях.
Что изменилось в рекомендациях ВК?
В статье Михаила Трапезникова, руководителя группы рекомендательных технологий AI VK, описан переход от традиционного бустинга к полностью нейросетевой системе ранжирования – нейроранкеру. Ранее в рекомендациях использовались градиентные бустинг‑деревья (GBDT), которые хорошо справлялись с табличными признаками, но ограничивали гибкость модели при работе с контекстом и последовательными взаимодействиями.
Ключевые элементы новой архитектуры
- Эмбеддинги пользователей и контента – обучаются совместно в рамках одной модели, что позволяет учитывать скрытые интересы и семантику постов.
- Мульти‑головочный attention – захватывает взаимосвязи между текущим контекстом (время, устройство, текущий поток) и историей взаимодействий.
- Мульти‑задачное обучение – одновременно предсказывает клик, лайк, комментарий и время просмотра, что повышает общую точность ранжирования.
- Онлайн‑обучение – модель обновляется каждые 5‑10 минут на новых событиях, используя инфраструктуру VK Cloud.
Результаты и цифры
- CTR вырос на 12 % в A/B‑тесте на 5 млн активных пользователей.
- Время отклика снизилось с 180 мс до 95 мс благодаря оптимизации inference‑слоя на GPU‑кластерах.
- Объём обучающих данных увеличился в 3‑кратном размере (от 200 млн до 600 млн событий в сутки).
Как это выглядит в коде
Нейроранкер построен на PyTorch, использует TorchServe для сервинга и MLflow для трекинга экспериментов. Репозиторий с открытыми примерами будет доступен на GitHub (ссылка в статье).
Для разработчиков и студентов переход к нейросетевому ранжированию открывает новые возможности: нужно освоить эмбеддинги, attention‑механизмы и онлайн‑обучение. Однако растёт сложность инфраструктуры и требования к вычислительным ресурсам, поэтому важно учиться работать с масштабируемыми пайплайнами и мониторингом моделей.
