NVIDIA a profité de l'IFA 2026 pour lancer la bêta de Personal AI Router, ou PAIR, un outil gratuit et open source destiné à l'inférence locale.

Le principe est assez différent d'un cluster GPU traditionnel. PAIR détecte les ordinateurs compatibles présents sur le même réseau puis leur confie des requêtes d'inférence indépendantes en fonction de leur disponibilité.

Une machine peut donc continuer à faire tourner le jeu ou l'application principale pendant qu'un deuxième PC récupère une partie du travail d'un agent.

PAIR ne fusionne pas vos cartes graphiques

C'est la nuance la plus importante de l'annonce. Deux RTX 5090 connectées par PAIR ne deviennent pas une carte graphique virtuelle disposant de deux fois plus de VRAM.

Chaque machine reste un nœud indépendant avec sa propre mémoire, son propre moteur d'inférence et sa propre copie éventuelle du modèle.

PAIR distribue les requêtes qui peuvent être exécutées parallèlement.

Cela correspond particulièrement bien aux systèmes multi-agents. Un agent principal peut diviser une tâche en plusieurs sous-problèmes, puis envoyer simultanément ces demandes vers différentes machines au lieu de les faire patienter devant le même GPU.

Trois machines ont divisé presque par deux le temps d'une démonstration

NVIDIA donne un exemple avec Hermes Desktop et cinq sous-agents exécutés via Ollama.

Sur un seul portable RTX Spark, la démonstration aurait demandé environ 18 minutes. Avec trois appareils raccordés à PAIR, le même workflow a été terminé en 8 minutes et 48 secondes.

Cela représente un peu plus de deux fois moins de temps, mais pas trois fois plus de performances malgré trois machines.

Le résultat rappelle la limite fondamentale de ce genre de parallélisation : toutes les parties d'un workflow ne peuvent pas forcément être exécutées simultanément, et le routage lui-même ne rend pas chaque requête individuelle plus rapide.

PAIR regarde aussi où se trouve déjà le modèle

Le routeur ne choisit pas uniquement la machine dont le GPU semble le moins occupé.

NVIDIA explique qu'il prend en compte l'état du nœud, le moteur d'inférence disponible, la présence du modèle demandé et l'utilisation du GPU avant d'envoyer une requête.

La découverte des machines utilise mDNS et les communications entre appareils sont protégées par mTLS.

NVIDIA insiste aussi sur le fait que prompts, fichiers et contexte peuvent rester sur le réseau local. Une connexion Internet n'est pas nécessaire pour l'utilisation une fois les modèles téléchargés.

Une RTX 20 peut rejoindre le cluster, tout comme un Mac M4

La compatibilité est volontairement plus large que la seule nouvelle génération RTX Spark.

PAIR prend en charge les GeForce RTX série 20 et ultérieures, les GPU professionnels NVIDIA RTX basés sur Turing ou plus récents, les systèmes DGX Spark ainsi que les Mac équipés d'une puce Apple M4 ou plus récente.

Les systèmes peuvent fonctionner sous Windows, Linux ou macOS.

Ollama et LM Studio constituent actuellement les deux principaux moteurs pris en charge, ce qui évite de construire tout le workflow autour d'un runtime NVIDIA propriétaire.

Les nouveaux PC RTX Spark arrivent en octobre

PAIR accompagne surtout la prochaine étape matérielle de NVIDIA. Les premiers PC Windows utilisant RTX Spark sont maintenant confirmés pour octobre.

La configuration la plus élevée du superchip RTX Spark N1X combine un GPU Blackwell RTX de 6 144 cœurs, un CPU Grace à 20 cœurs et jusqu'à 128 Go de mémoire LPDDR5X unifiée.

NVIDIA annonce jusqu'à 1 pétaflop de calcul IA FP4.

Une variante moins puissante descend à 5 120 cœurs GPU, 18 cœurs CPU et jusqu'à 64 Go de mémoire unifiée.

Le TDP annoncé se situe entre 45 et 80 W selon les configurations.

Les 128 Go sont probablement plus importants que le pétaflop

Un pétaflop FP4 produit un chiffre beaucoup plus spectaculaire sur une diapositive. Pour l'IA locale, les 128 Go de mémoire unifiée peuvent pourtant être la caractéristique la plus déterminante.

Les grands modèles sont souvent limités par la quantité de mémoire disponible avant de l'être par le nombre maximal d'opérations théoriques.

NVIDIA affirme que RTX Spark peut faire fonctionner localement des modèles de langage atteignant 120 milliards de paramètres ainsi que des contextes pouvant aller jusqu'à un million de tokens dans certains workflows.

La mémoire étant partagée entre CPU et GPU, elle évite également d'enfermer toute la charge IA dans une quantité de VRAM séparée beaucoup plus petite.

PAIR n'additionne toujours pas cette mémoire

Le logiciel peut répartir dix requêtes entre plusieurs machines, mais il ne permet pas automatiquement de charger un modèle de 200 Go en utilisant 100 Go sur un PC et 100 Go sur le suivant.

C'est une différence majeure avec les systèmes distribués conçus pour découper directement un même modèle entre plusieurs accélérateurs.

PAIR vise d'abord les workflows où de nombreuses inférences indépendantes doivent être exécutées en même temps.

Pour les agents, c'est loin d'être un cas marginal. Les architectures récentes multiplient précisément les sous-agents chargés de recherche, de planification, de code, d'analyse ou de vérification.

llama.cpp gagne jusqu'à 1,9 fois, mais uniquement dans certaines conditions

NVIDIA a également annoncé de nouvelles optimisations pour llama.cpp et vLLM.

Sur une GeForce RTX 5090, llama.cpp atteint selon NVIDIA jusqu'à 1,9 fois plus de débit grâce à des optimisations de kernels, un speculative decoding amélioré et un prefill plus rapide.

vLLM gagne 1,2 fois sur une RTX PRO 6000 Blackwell Workstation Edition et jusqu'à 1,4 fois sur un cluster de deux DGX Spark dans les mesures publiées.

Ces chiffres ne signifient pas que chaque modèle, chaque prompt et chaque PC devient soudain 1,9 fois plus rapide. Ils correspondent à des configurations et backends précis.

Le PC local commence à ressembler à une petite infrastructure

NVIDIA présente RTX Spark comme un PC pour jouer, créer et exécuter des agents en permanence. PAIR étend cette logique à toutes les machines déjà présentes dans la maison ou le studio.

L'intérêt est moins exotique qu'un supercalculateur domestique. Beaucoup de foyers et de professionnels possèdent déjà plusieurs ordinateurs qui restent inutilisés une partie de la journée.

PAIR essaie simplement de transformer cette capacité fragmentée en file de calcul disponible.

Le résultat ne remplace pas le cloud, ni un vrai cluster GPU lorsqu'un modèle doit être distribué entre plusieurs accélérateurs. Mais pour une armée de petits agents exécutant dix tâches en parallèle, le PC qui prend la poussière dans la chambre d'à côté vient soudainement de retrouver un emploi.