Como construímos a segurança no Comet desde o primeiro dia

O Comet oferece aos assistentes de IA capacidades poderosas para navegar em websites, interagir com conteúdo e realizar tarefas complexas em nome dos usuários. Tais capacidades exigem salvaguardas igualmente poderosas. Antes do lançamento público do Comet, contratamos a Trail of Bits para realizar testes de estresse em nossas defesas por meio de auditorias formais. O trabalho deles nos ajudou a identificar vulnerabilidades e fortalecer nossas mitigações antes que os usuários começassem a confiar no Comet para tarefas sensíveis.

Construindo a defesa desde a base

Ataques de injeção de prompt estão em constante evolução, e a defesa contra eles exige uma abordagem em várias camadas. Sabíamos desde o início que um único mecanismo de defesa não seria suficiente. Nosso princípio fundamental é simples: proteções sobrepostas garantem que, se uma camada for contornada, outras permaneçam para manter os usuários seguros. Veja como colocamos isso em prática.

Nossa jornada de segurança: Marcos principais

Abril de 2025: Auditoria de segurança pré-lançamento

Antes do lançamento público do Comet, contratamos a Trail of Bits para realizar a modelagem de ameaças sistemática de nossa arquitetura. A equipe deles testou cenários de ataque do mundo real, tentando contornar nossas defesas usando técnicas que adversários poderiam empregar na prática. A auditoria identificou lacunas específicas em nosso sistema de proteção e iniciou um processo iterativo de remediação. Refinamos nossas mitigações e fechamos vulnerabilidades antes que pudessem afetar os usuários.

Outubro de 2025: Publicação de nossa arquitetura de defesa

Publicamos um post técnico detalhado explicando nossa estrutura de arquitetura de defesa de quatro camadas e o raciocínio por trás de cada componente. O post delineou tipos de ataque específicos contra os quais nos defendemos, desde injeções ocultas de HTML e CSS até confusão de conteúdo e sequestro de metas. Também anunciamos nosso programa de recompensa por bugs, convidando pesquisadores de segurança a testar nossas defesas e relatar vulnerabilidades. A transparência sempre foi fundamental em nossa abordagem de segurança: acreditamos que compartilhar nossa metodologia torna toda a indústria de IA mais forte.

Dezembro de 2025: Abertura do código-fonte do BrowseSafe

A segurança melhora quando toda a comunidade de IA pode aprender com pesquisas compartilhadas. Lançamos o BrowseSafe, nosso modelo de detecção e benchmark de avaliação, como ferramentas de código aberto. O BrowseSafe-Bench inclui 14.719 exemplos cobrindo 11 tipos de ataque, 9 estratégias de injeção e 3 estilos linguísticos. Ao publicar nossa metodologia e conjuntos de dados, estamos ajudando outros desenvolvedores de IA a construir sistemas mais seguros e contribuindo para os padrões de segurança em toda a indústria. A resposta da comunidade de desenvolvedores tem sido encorajadora, com equipes já utilizando o BrowseSafe para melhorar a segurança de seus próprios assistentes de IA.

O que aprendemos

Construir segurança para assistentes de IA nos ensinou lições críticas sobre o cenário de ameaças em evolução. Testes adversariais externos revelam pontos cegos que equipes internas podem ignorar, não importa quão qualificadas sejam. A modelagem de ameaças não é um exercício único, mas uma disciplina contínua que deve evoluir à medida que as técnicas de ataque avançam. Mais importante ainda, a segurança exige colaboração em toda a indústria. Ao compartilhar nossa pesquisa, envolver especialistas externos e contribuir para padrões abertos, estamos ajudando a construir um ecossistema mais seguro.

Nosso compromisso contínuo

Mantemos avaliações regulares de segurança à medida que o Comet evolui, garantindo que novos recursos passem por um escrutínio rigoroso antes do lançamento. Para ajudar a reduzir a desinformação em pesquisas de segurança de IA, investimos em práticas robustas de avaliação e relatórios transparentes, de modo que as descobertas sobre as defesas do Comet sejam precisas, reproduzíveis e não distorcidas por alegações de segurança sensacionalistas ou incompletas.

Nossa equipe também opera um Programa de Divulgação de Vulnerabilidades ativo e um programa privado de recompensa por bugs, convidando pesquisadores de segurança de todos os lugares a testar nossas defesas. À medida que os assistentes de IA se tornam mais capazes e lidam com tarefas cada vez mais sensíveis, nossos investimentos em segurança continuarão a ser escalonados adequadamente.