Sécuriser l'IA avec Perplexity

Ressources de sécurité mentionnées dans cette Session

FAQ

Construire la sécurité à travers la pile d'IA

Comment Perplexity aborde-t-il la sécurité lorsqu'il développe des applications sur de si nombreuses couches de la pile d'IA ? Tout ce que construit Perplexity commence par un Raisonnement axé sur la sécurité, et nous traitons la sûreté et la sécurité comme des missions liées mais distinctes. La sûreté consiste à protéger les humains contre les agents. La sécurité consiste à protéger les agents contre les humains. Construire à travers la pile signifie que nous pouvons placer les bons contrôles au bon niveau pour les bonnes tâches, plutôt que d'ajouter une protection à une boîte noire que nous ne possédons pas.

SPACE, le bac à sable d'agents de Perplexity

Qu'est-ce qu'un bac à sable et comment protège-t-il les utilisateurs et les agents ? Un bac à sable offre au code un espace confiné pour s'exécuter sans atteindre vos systèmes ni vos données. Les agents augmentent les enjeux, c'est pourquoi dans Computer, chaque tâche obtient son propre bac à sable.

Pourquoi Perplexity a-t-il construit son propre bac à sable (SPACE) au lieu d'en utiliser un existant ? Les outils prêts à l'emploi ne pouvaient pas garantir la sécurité que Perplexity souhaite assurer à nos clients. Les agents remettent en cause l'hypothèse selon laquelle les bacs à sable sont réservés à l'exécution de code à courte durée de vie. Cela introduit deux besoins contradictoires : l'environnement doit être jetable, mais le travail doit être persistant. Les plates-formes existantes vous obligeaient à choisir deux éléments sur trois entre la fonctionnalité, l'efficacité et la sécurité. SPACE a été conçu pour offrir les trois.

Comment fonctionne réellement SPACE et de quels contrôles de sécurité dispose-t-il ? SPACE fait de la Session l'objet durable plutôt que le bac à sable. Une Session est une chaîne d'instantanés continus, et ces instantanés activent l'ensemble des contrôles de SPACE. Mettre en pause revient simplement à arrêter le bac à sable. Reprendre consiste à restaurer le dernier instantané sur n'importe quelle machine. Le clonage consiste à restaurer deux fois le même instantané et à laisser les copies diverger. Les utilisateurs obtiennent une continuité, ainsi qu'un bouton de machine à remonter le temps si quelque chose tourne mal.

Où résident mes informations d'identification lorsqu'un agent agit en mon nom ? Les bacs à sable sont l'endroit où s'exécute le travail non vérifié, c'est donc le dernier endroit où les clés devraient résider. Si un agent était détourné, l'attaquant hériterait de tout ce que détient l'agent, c'est pourquoi nos agents ne détiennent rien. Les informations d'identification arrivent de l'extérieur du bac, au moment exact où elles sont nécessaires, pour cette seule tâche.

RBAC, connecteurs et fonctionnalités de sécurité de Perplexity

À quoi Perplexity a-t-il réellement accès lorsqu'un connecteur tel que Snowflake ou Outlook est connecté, et que peut désactiver un administrateur ? Contrairement aux outils d'agents qui commencent par un accès à l'ensemble de votre ordinateur, Computer commence sans aucun accès. L'accès s'effectue via OAuth avec des autorisations exactes, de sorte que si vous ne pouvez pas le voir, votre agent ne peut pas le voir. Les administrateurs peuvent désactiver un connecteur entier ou seulement des outils spécifiques au sein de celui-ci.

Comment le RBAC de Perplexity s'intègre-t-il à notre fournisseur d'identité ?

Le fournisseur d'identité d'une organisation répond déjà à la question de savoir qui peut toucher quoi. Perplexity s'y connecte et ces limites se prolongent directement dans le produit. Votre source de référence reste la source de référence, et votre piste d'audit reste exacte. Les équipes obtiennent le contexte dont elles ont besoin, et les entreprises gardent le contrôle sur qui voit quoi.

Comment Perplexity protège-t-il les agents contre l'injection de requêtes sur le Web ouvert ? L'injection de requêtes est de l'ingénierie sociale, ciblant les agents plutôt que les employés, et le Web ouvert est l'endroit où des étrangers peuvent interagir avec lui. BrowseSafe traite chaque page lue par l'agent comme non vérifiée et l'analyse en parallèle, avant que le contenu ne puisse influencer le comportement de l'agent. La recherche en matière de sécurité gardée pour soi ne protège que vous. Les agents de tout le monde lisant le même Web, nous avons rendu le benchmark public.

Quels outils Perplexity utilise-t-il pour protéger les machines sur lesquelles s'exécutent les agents et les employés ? Bumblebee répond à la première question après chaque incident lié à la chaîne d'approvisionnement : le paquet malveillant est-il présent sur nos systèmes ? Numbat surveille la couche de l'agent elle-même et lit le comportement en séquence. Parce qu'il se trouve là où l'agent agit, il peut stopper une action avant qu'elle ne s'exécute.

Utiliser Computer pour sécuriser Computer

Peut-on confier des travaux de sécurité réels à Computer ? L'équipe de sécurité interne de Perplexity a développé son infrastructure de sécurité en interne sur Computer plutôt que d'attendre que les outils externes se mettent à niveau. L'exécution agnostique par rapport aux modèles, la mémoire persistante et le reste de la feuille de route étaient déjà en place, de sorte que l'équipe pouvait se concentrer sur l'agent de sécurité lui-même. Développer le meilleur agent de sécurité implique d'avoir besoin du meilleur environnement sous-jacent.

Où Computer prend-il en charge la tâche la plus répétitive pour l'équipe de sécurité ? Computer peut aider à trier les alertes manquées et les rapports d'incidents de suivi. Chaque triage dans Computer est documenté par défaut, de sorte que les analystes partent d'une enquête écrite plutôt que d'une alerte brute.

Découvrir d’autres ateliers

Perplexity Computer for Counsel

Introducing Perplexity Computer

Prêt à passer à l'étape suivante ?