Nvidia выпустила бесплатный Personal AI Router (PAIR) – сеть домашних ПК для локального AI

Что такое Personal AI Router (PAIR)

Nvidia представила Personal AI Router (PAIR) – бесплатный, открытый инструмент, который превращает любые простоящие компьютеры в домашний AI‑центр. Несмотря на название, PAIR не является аппаратным маршрутизатором, а набором программных компонентов, позволяющих распределять задачи инференса между несколькими устройствами в локальной сети.

Ключевые возможности

• Автоматическое обнаружение и синхронизация – PAIR сканирует домашнюю сеть, определяя доступные машины и их вычислительные ресурсы (CPU, GPU, RAM).
• Поддержка популярных стеков – интеграция с Ollama, LM Studio, vLLM, а также возможность запуска кастомных контейнеров Docker.
• Локальная обработка данных – все запросы остаются внутри домашней сети, что повышает конфиденциальность и снижает задержки.
• Open‑source – исходный код опубликован на GitHub под лицензией Apache 2.0, что позволяет сообществу вносить улучшения и адаптировать под свои нужды.

Как работает

1. Устанавливаете PAIR‑Agent на каждый компьютер, который хотите включить в сеть.
2. Запускаете PAIR‑Controller на главном устройстве (например, ноутбуке).
3. Через веб‑интерфейс задаёте модель (например, Llama‑3‑8B), выбираете тип задачи (текстовое завершение, код‑генерация) и распределяете нагрузку.
4. PAIR автоматически распределяет запросы между доступными GPU/CPU, используя load‑balancing алгоритм.

Технические детали

• Поддержка RTX 4090, RTX 6000 Ada, а также интегрированных графических процессоров (iGPU).
• Минимальные системные требования: Windows 10/11, macOS 13+, Linux (Ubuntu 22.04+).
• Планируется поддержка Apple Silicon в ближайших обновлениях.

Почему это важно

С ростом локальных LLM‑моделей (Ollama, LM Studio) пользователи ищут способы эффективно использовать «простой» железо. PAIR позволяет собрать «домашний кластер», экономя на облачных вычислениях и обеспечивая быстрый отклик без передачи данных в облако.

Источник: The Verge AI