La beta de Personal AI Router coordina solicitudes de inferencia entre PC y Mac compatibles, trabaja con Ollama y LM Studio y mantiene el procesamiento dentro de la red local cuando todos los componentes utilizados son locales.
Nvidia presentó Personal AI Router, PAIR, una herramienta que distribuye solicitudes de inferencia de inteligencia artificial entre equipos compatibles conectados a una misma red local. La versión beta está disponible como proyecto de código abierto bajo la licencia Apache 2.0, según el repositorio oficial.
PAIR funciona como una capa de coordinación. Descubre los nodos participantes, comprueba qué motores y modelos están disponibles y dirige cada nueva solicitud hacia un equipo elegible. Ollama o LM Studio continúan siendo los responsables de cargar y ejecutar el modelo.
La herramienta no fusiona las GPU de la vivienda ni crea una GPU virtual. Tampoco suma su memoria, fragmenta modelos entre máquinas o divide una inferencia en curso. Cada solicitud independiente se asigna a un único nodo y permanece allí hasta finalizar.
Distribución dinámica del trabajo
PAIR utiliza el descubrimiento de servicios en la red local y mantiene información sobre la disponibilidad de cada nodo, los motores activos, la presencia del modelo solicitado, los trabajos en ejecución y la utilización de la GPU. Los equipos pueden incorporarse o dejar de aportar capacidad cuando se apagan, entran en suspensión o se destinan a otras tareas.
Este enfoque está orientado principalmente a agentes y aplicaciones que generan varias solicitudes independientes en paralelo. El artículo técnico de Nvidia explica que las aplicaciones pueden utilizar interfaces compatibles con Ollama y OpenAI mientras PAIR decide en qué máquina se procesa cada petición.
La beta cuenta con versiones para Windows, Linux y macOS, con soporte para arquitecturas x64 y arm64. Nvidia identifica como hardware compatible las GPU GeForce RTX serie 20 y posteriores, estaciones RTX PRO basadas en Turing o arquitecturas más recientes, DGX Spark y equipos Apple con chips M4 o posteriores. La compatibilidad final también depende de los requisitos del motor, el modelo, los controladores y la memoria disponible.
Seguridad dentro de la red local
El emparejamiento inicial utiliza un código de seis dígitos y, una vez establecida la confianza, el tráfico entre los miembros del clúster está diseñado para emplear certificados y autenticación TLS mutua. Sin embargo, la propia documentación de seguridad advierte que el código tiene poca entropía y solo debe utilizarse cuando los dispositivos y la red sean de confianza.
Nvidia también señala que la protección TLS mutua no cubre automáticamente todos los metadatos de descubrimiento, las interfaces de motores externos ni el tráfico generado fuera de PAIR. La compañía recomienda no exponer los puertos de la herramienta a internet y tratar las redes inalámbricas compartidas o no confiables como entornos potencialmente hostiles.
Una beta con límites de rendimiento
En una demostración realizada por Nvidia, una carga con cinco subagentes tardó 18 minutos en un solo portátil RTX Spark y 8 minutos con 48 segundos en una configuración de tres dispositivos. La empresa aclara que se trata de una prueba específica y no de un indicador general de rendimiento.
La ganancia dependerá del paralelismo de la carga, los modelos, el hardware y la disponibilidad de los nodos. Un análisis de Tom’s Hardware observa que la capacidad libre de los equipos domésticos puede cambiar de manera impredecible, por lo que una instalación de PAIR no garantiza una calidad de servicio constante.
PAIR no proporciona capacidad informática externa ni sustituye el hardware necesario para ejecutar los modelos. Su función es reutilizar de forma coordinada los recursos compatibles que el usuario ya tiene en su red local.
Fuentes
- NVIDIA Technical Blog, presentación y funcionamiento de PAIR
- Repositorio oficial de NVIDIA Personal AI Router
- Política y arquitectura de seguridad de PAIR
- Página oficial de NVIDIA PAIR en español
- Tom’s Hardware, análisis independiente de PAIR
Ilustración: captura del sitio de Nvidia
📬 Newsletter gratuito
