Comment nous avons intégré la sécurité dans Comet dès le début

Comet dote les assistants IA de capacités puissantes pour parcourir des sites web, interagir avec du contenu et accomplir des tâches complexes au nom des utilisateurs. Ces capacités exigent des garanties tout aussi puissantes. Avant le lancement public de Comet, nous avons fait appel à Trail of Bits pour tester la résistance de nos défenses par le biais d’audits formels. Leur travail nous a aidés à identifier les vulnérabilités et à renforcer nos mesures d’atténuation avant que les utilisateurs ne commencent à se reposer sur Comet pour des tâches sensibles.

Construire la défense dès la base

Les attaques par injection de requêtes (prompt injection) évoluent constamment, et s’en défendre exige une approche multicouche. Nous savions dès le départ qu’un mécanisme de défense unique ne suffirait pas. Notre principe fondamental est simple : des protections qui se chevauchent garantissent que si une couche est contournée, les autres restent en place pour assurer la sécurité des utilisateurs. Voici comment nous mettons cela en pratique.

Notre parcours en matière de sécurité : étapes clés

Avril 2025 : Audit de sécurité pré-lancement

Avant le lancement public de Comet, nous avons fait appel à Trail of Bits pour mener une modélisation systématique des menaces pesant sur notre architecture. Leur équipe a testé des scénarios d’attaque réels, tentant de contourner nos défenses en utilisant des techniques que des adversaires pourraient employer en situation réelle. L’audit a identifié des lacunes spécifiques dans notre système de protection et a initié un processus de remédiation itératif. Nous avons affiné nos mesures d’atténuation et corrigé les vulnérabilités avant qu’elles ne puissent affecter les utilisateurs.

Octobre 2025 : Publication de notre architecture de défense

Nous avons publié un article technique détaillé expliquant notre cadre d’architecture de défense à quatre couches et le raisonnement derrière chaque composant. L’article décrivait les types d’attaques spécifiques contre lesquels nous nous défendons, allant des injections HTML et CSS cachées à la confusion de contenu et au détournement d’objectifs. Nous avons également annoncé notre programme de prime aux bugs (bug bounty), invitant les chercheurs en sécurité à tester nos défenses et à signaler les vulnérabilités. La transparence a toujours été au cœur de notre approche en matière de sécurité : nous pensons que le partage de notre méthodologie renforce l’ensemble du secteur de l’IA.

Décembre 2025 : Mise en open-source de BrowseSafe

La sécurité s’améliore lorsque l’ensemble de la communauté de l’IA peut tirer des leçons des recherches partagées. Nous avons publié BrowseSafe, notre modèle de détection et notre référentiel d’évaluation, en tant qu’outils open-source. BrowseSafe-Bench comprend 14 719 exemples couvrant 11 types d’attaques, 9 stratégies d’injection et 3 styles linguistiques. En publiant notre méthodologie et nos jeux de données, nous aidons d’autres développeurs d’IA à construire des systèmes plus sûrs et contribuons aux normes de sécurité à l’échelle de l’industrie. La réponse de la communauté des développeurs a été encourageante, des équipes utilisant déjà BrowseSafe pour améliorer la sécurité de leurs propres assistants IA.

Ce que nous avons appris

Construire la sécurité pour les assistants IA nous a appris des leçons cruciales sur l’évolution du paysage des menaces. Les tests contradictoires externes révèlent des angles morts que les équipes internes peuvent manquer, quel que soit leur niveau de compétence. La modélisation des menaces n’est pas un exercice ponctuel mais une discipline continue qui doit évoluer à mesure que les techniques d’attaque progressent. Plus important encore, la sécurité exige une collaboration à travers l’industrie. En partageant nos recherches, en engageant des experts externes et en contribuant aux normes ouvertes, nous aidons à construire un écosystème plus sûr.

Notre engagement continu

Nous maintenons des évaluations de sécurité régulières au fur et à mesure que Comet évolue, en veillant à ce que les nouvelles fonctionnalités soient soumises à un examen rigoureux avant leur lancement. Pour aider à réduire la désinformation dans la recherche en sécurité de l’IA, nous investissons dans des pratiques d’évaluation robustes et des rapports transparents afin que les conclusions sur les défenses de Comet soient précises, reproductibles et non déformées par des allégations de sécurité sensationnalistes ou incomplètes.

Notre équipe gère également un Programme de divulgation des vulnérabilités actif et un programme privé de prime aux bugs, invitant les chercheurs en sécurité du monde entier à tester nos défenses. À mesure que les assistants IA deviennent plus performants et traitent des tâches de plus en plus sensibles, nos investissements en sécurité continueront de s’adapter en conséquence.