Le centre de données se déplace vers votre machine

L'objectif adéquat pour un système d'IA est d'offrir la valeur par jeton la plus élevée par watt, pour chaque utilisateur. Cela semble simple. Ce n'est pas le cas, car trois éléments entrent en conflit.

La précision exige les modèles les plus performants, qui sont coûteux à exploiter. La confidentialité impose que certaines opérations ne quittent jamais votre machine. Le coût et l'énergie exigent de ne pas consacrer la puissance de calcul d'un modèle de pointe à une tâche qu'un modèle plus modeste peut gérer. On ne peut maximiser l'un sans respecter les autres.

L'équilibre entre ces trois aspects est un problème d'orchestration. Et l'orchestration est ce que Perplexity a toujours fait.

Nous avons annoncé aujourd'hui la prochaine étape pour Personal Computer : le premier orchestrateur d'inférence hybride local-serveur. Il analyse les tâches devant être exécutées sur votre appareil de celles devant être dirigées vers des agents dans le cloud, et il achemine automatiquement chaque partie d'une tâche au bon endroit.

Perplexity a commencé par orchestrer des outils et des sources pour produire des réponses précises et citées. Computer a étendu cela à une infrastructure pour des centaines d'agents, déployés dans plus de vingt modèles de pointe, en choisissant le plus approprié pour chaque tâche. Nous pouvons désormais appliquer la même idée au calcul lui-même : quel modèle, où il s'exécute, et pourquoi.

L'inférence agentique hybride est destinée aux travaux impliquant des données sensibles nécessitant une IA puissante. Il s'agit notamment de dossiers financiers, d'informations médicales et de fichiers personnels. Le modèle compact s'exécute localement sur votre appareil pour déterminer quand les données sensibles doivent également être conservées localement.

Parallèlement, les travaux nécessitant toute la puissance d'un modèle de pointe s'exécutent sur le serveur. La plupart des tâches réelles étant mixtes, Personal Computer les divise et coordonne les parties. Contrairement aux outils qui demandent de choisir entre le local ou le cloud au préalable, cela se produit automatiquement, tâche par tâche.

Pendant des années, des processeurs plus performants signifiaient surtout des applications plus rapides et une meilleure autonomie. Cela change lorsque la puce peut exécuter une inférence réelle. Plus le matériel local est performant, plus l'orchestrateur peut maintenir de données sur votre machine, et plus il peut réserver le serveur aux tâches qui le nécessitent réellement.

Nous avons dévoilé cela avec Intel, et la même architecture agnostique aux modèles s'exécute sur d'autres processeurs locaux, notamment RTX Spark de NVIDIA. La course au calcul local est lancée. À mesure que les puces progressent, seul Perplexity dispose de l'architecture agentique et de l'ingénierie d'inférence appliquée pour une orchestration véritablement fluide.

Cela modifie également le calcul pour tous ceux qui observent la pénurie de puissance de calcul. Lorsque les travaux sensibles et routiniers sont transférés sur les appareils que les gens possèdent déjà, il n'est plus nécessaire de construire autant d'infrastructures centralisées pour les traiter. Cela change également la notion de souveraineté : les données importantes peuvent rester sous leur propre juridiction sans qu'un pays n'ait à construire un centre de données pour les y maintenir.

Les gens préfèrent posséder un centre de données sur leur ordinateur portable plutôt que de dépendre d'un centre qu'ils ne contrôlent pas.

Il y a une raison pour laquelle cette architecture convient à Perplexity. Notre activité a toujours été une IA précise, et non la maximisation des jetons que nous vendons. C'est l'incitatif adéquat pour optimiser la valeur par watt : nous sommes gagnants lorsque la réponse est correcte et que le travail est accompli, et non lorsqu'il consomme davantage de puissance de calcul.

L'IA hybride est une ambition industrielle depuis longtemps. Personal Computer avec inférence locale, disponible en juillet, est le premier produit à concrétiser cela, et le premier à considérer le calcul comme une ressource supplémentaire à orchestrer intelligemment, entre votre machine et le cloud.

Des modèles au calcul

L'appareil devient le centre de données

L'architecture adaptée à l'efficacité