Sécuriser l'IA avec Perplexity

Ressources de sécurité mentionnées dans cette Session

FAQ

Intégrer la sécurité dans toute la pile d'IA

Comment Perplexity aborde-t-il la sécurité lorsqu'il conçoit des solutions à travers tant de couches de la pile d'IA ? Tout ce que Perplexity développe commence par une réflexion axée sur la sécurité, et nous traitons la sûreté et la sécurité comme des rôles liés mais distincts. La sûreté consiste à protéger les humains contre les agents. La sécurité consiste à protéger les agents contre les humains. Concevoir à travers toute la pile signifie que nous pouvons placer les bons contrôles au bon niveau pour les bonnes tâches, plutôt que d'ajouter de force une protection à une boîte noire que nous ne possédons pas.

SPACE, le bac à sable d'agents de Perplexity

Qu'est-ce qu'un bac à sable et comment protège-t-il les utilisateurs et les agents ? Un bac à sable offre au code un espace confiné pour s'exécuter sans atteindre vos systèmes ni vos données. Les agents augmentent les risques ; par conséquent, dans Computer, chaque tâche dispose de son propre bac à sable.

Pourquoi Perplexity a-t-il créé son propre bac à sable (SPACE) au lieu d'en utiliser un existant ? Les outils prêts à l'emploi ne pouvaient pas fournir le niveau de sécurité que Perplexity souhaite garantir à nos clients. Les agents battent en brèche l'hypothèse selon laquelle les bacs à sable sont conçus pour l'exécution de code à courte durée de vie. Cela introduit deux besoins contradictoires : l'environnement doit être jetable, mais le travail doit être persistant. Les plateformes existantes obligeaient à choisir deux options sur trois entre la fonctionnalité, l'efficacité et la sécurité. SPACE a été conçu pour offrir les trois.

Comment fonctionne réellement SPACE et de quels contrôles de sécurité dispose-t-il ? SPACE fait de la Session l'objet durable plutôt que le bac à sable. Une Session est une chaîne d'instantanés continus, et ces instantanés activent l'ensemble des contrôles de SPACE. Mettre en pause revient simplement à arrêter le bac à sable. Reprendre consiste à restaurer le dernier instantané sur n'importe quelle machine. Créer une bifurcation consiste à restaurer le même instantané deux fois et à laisser les copies diverger. Les utilisateurs bénéficient ainsi d'une continuité, ainsi que d'un bouton de machine à remonter le temps en cas de problème.

Où résident mes informations d'identification lorsqu'un agent agit en mon nom ? Les bacs à sable sont le lieu où s'exécute le travail non vérifié, c'est donc le dernier endroit où devraient se trouver les clés. Si un agent était détourné, l'attaquant hériterait de tout ce que détient l'agent, c'est pourquoi nos agents ne détiennent rien. Les informations d'identification proviennent de l'extérieur, au moment exact où elles sont nécessaires, et ce uniquement pour cette tâche.

RBAC, connecteurs et fonctionnalités de sécurité de Perplexity

À quoi Perplexity a-t-il réellement accès lorsqu'un connecteur comme Snowflake ou Outlook est connecté, et qu'est-ce qu'un administrateur peut désactiver ? Contrairement aux outils pour agents qui commencent par avoir accès à l'ensemble de votre ordinateur, Computer commence sans aucun accès. L'accès s'obtient via OAuth avec des autorisations précises ; par conséquent, si vous ne pouvez pas le voir, votre agent ne peut pas le voir. Les administrateurs peuvent désactiver un connecteur entier ou simplement des outils spécifiques au sein de celui-ci.

Comment le RBAC de Perplexity s'intègre-t-il à notre fournisseur d'identité ?

Le fournisseur d'identité d'une organisation détermine déjà qui peut accéder à quoi. Perplexity s'y connecte et ces limites se transmettent directement dans le produit. Votre source de vérité reste la source de vérité, et votre journal d'audit demeure exact. Les équipes obtiennent le contexte dont elles ont besoin et les entreprises conservent le contrôle sur qui voit quoi.

Comment Perplexity protège-t-il les agents contre l'injection de requêtes sur le web public ? L'injection de requêtes est de l'ingénierie sociale ciblant les agents plutôt que les employés, et le web public est l'endroit où des inconnus peuvent interagir avec eux. BrowseSafe traite chaque page lue par l'agent comme non vérifiée et l'analyse en parallèle, avant que le contenu ne puisse influencer les actions de l'agent. Garder pour soi ses recherches en matière de sécurité ne protège que soi-même. Les agents de tout le monde lisant le même web, nous avons rendu le banc d'essai public.

Quels outils Perplexity utilise-t-il pour protéger les machines sur lesquelles s'exécutent les agents et les employés ? Bumblebee répond à la première question qui se pose après chaque incident lié à la chaîne d'approvisionnement : ce paquet malveillant est-il présent sur nos systèmes ? Numbat surveille la couche des agents elle-même et lit les comportements en séquence. Puisqu'il se trouve là où l'agent agit, il peut interrompre une action avant qu'elle ne s'exécute.

Utiliser Computer pour sécuriser Computer

Peut-on confier des tâches de sécurité réelles à Computer ? La propre équipe de sécurité de Perplexity a développé son infrastructure de sécurité à l'interne sur Computer au lieu d'attendre que les outils externes rattrapent leur retard. L'exécution agnostique des modèles, la mémoire persistante et le reste de la feuille de route étaient déjà en place, ce qui a permis à l'équipe de se concentrer sur l'agent de sécurité lui-même. Concevoir le meilleur agent de sécurité implique d'avoir besoin du meilleur environnement sous-jacent.

Dans quels domaines Computer soulage-t-il le plus une équipe de sécurité des tâches répétitives ? Computer peut aider à trier les alertes manquées et à rédiger les rapports d'incidents de suivi. Chaque triage dans Computer est documenté par défaut, de sorte que les analystes commencent à partir d'une enquête écrite plutôt que d'une alerte brute.

Explorer plus d’ateliers

Perplexity Computer for Counsel

Introducing Perplexity Computer

Prêt à passer à l’étape suivante?