Como construímos a segurança no Comet desde o primeiro dia

O Comet oferece aos assistentes de IA recursos poderosos para navegar em sites, interagir com conteúdos e concluir tarefas complexas em nome dos usuários. Esses recursos exigem salvaguardas igualmente potentes. Antes de lançar o Comet publicamente, contratamos a Trail of Bits para testar rigorosamente nossas defesas por meio de auditorias formais. O trabalho deles nos ajudou a identificar vulnerabilidades e fortalecer nossas mitigações antes que os usuários começassem a confiar no Comet para realizar tarefas confidenciais.

Construindo a segurança desde o início

Os ataques de injeção de comandos estão em constante evolução, e defender-se deles exige uma abordagem em camadas. Sabíamos desde o início que um único mecanismo de defesa não seria suficiente. Nosso princípio fundamental é simples: proteções sobrepostas garantem que, se uma camada for contornada, outras permaneçam para manter os usuários seguros. Veja como colocamos isso em prática.

Nossa jornada de segurança: Marcos principais

Abril de 2025: Auditoria de segurança pré-lançamento

Antes de lançar o Comet publicamente, contratamos a Trail of Bits para realizar uma modelagem de ameaças sistemática de nossa arquitetura. A equipe deles testou cenários de ataque do mundo real, tentando burlar nossas defesas usando técnicas que adversários poderiam empregar na prática. A auditoria identificou lacunas específicas em nosso sistema de proteção e iniciou um processo de remediação iterativo. Aprimoramos nossas mitigações e eliminamos vulnerabilidades antes que pudessem afetar os usuários.

Outubro de 2025: Publicação da nossa arquitetura de defesa

Publicamos uma postagem técnica detalhada explicando nossa estrutura de arquitetura de defesa de quatro camadas e o raciocínio por trás de cada componente. A postagem delineou tipos específicos de ataques contra os quais nos defendemos, desde injeções ocultas de HTML e CSS até confusão de conteúdo e sequestro de objetivos. Também anunciamos nosso programa de recompensa por bugs, convidando pesquisadores de segurança a testar nossas defesas e relatar vulnerabilidades. A transparência sempre foi fundamental para nossa abordagem de segurança: acreditamos que compartilhar nossa metodologia torna toda a indústria de IA mais forte.

Dezembro de 2025: Disponibilização do BrowseSafe como código aberto

A segurança melhora quando toda a comunidade de IA pode aprender com pesquisas compartilhadas. Lançamos o BrowseSafe, nosso modelo de detecção e benchmark de avaliação, como ferramentas de código aberto. O BrowseSafe-Bench inclui 14.719 exemplos abrangendo 11 tipos de ataques, 9 estratégias de injeção e 3 estilos linguísticos. Ao publicar nossa metodologia e conjuntos de dados, estamos ajudando outros desenvolvedores de IA a criar sistemas mais seguros e contribuindo para os padrões de segurança de todo o setor. A resposta da comunidade de desenvolvedores tem sido animadora, com equipes já utilizando o BrowseSafe para aprimorar a segurança de seus próprios assistentes de IA.

O que aprendemos

Construir segurança para assistentes de IA nos ensinou lições cruciais sobre o cenário de ameaças em evolução. Testes adversariais externos revelam pontos cegos que as equipes internas podem deixar passar, não importa quão qualificadas sejam. A modelagem de ameaças não é um exercício único, mas uma disciplina contínua que deve evoluir à medida que as técnicas de ataque avançam. Mais importante ainda, a segurança exige colaboração em todo o setor. Ao compartilhar nossas pesquisas, envolver especialistas externos e contribuir para padrões abertos, estamos ajudando a construir um ecossistema mais seguro.

Nosso compromisso contínuo

Mantemos avaliações regulares de segurança à medida que o Comet evolui, garantindo que novos recursos passem por um escrutínio rigoroso antes do lançamento. Para ajudar a reduzir a desinformação na pesquisa de segurança de IA, investimos em práticas de avaliação robustas e relatórios transparentes, de modo que as descobertas sobre as defesas do Comet sejam precisas, reproduzíveis e não distorcidas por alegações de segurança sensacionalistas ou incompletas.

Nossa equipe também administra um Programa de Divulgação de Vulnerabilidades próspero e um programa privado de recompensas por bugs, convidando pesquisadores de segurança de todo o lugar a testarem nossas defesas. À medida que os assistentes de IA se tornam mais capazes e lidam com tarefas cada vez mais confidenciais, nossos investimentos em segurança continuarão a crescer proporcionalmente.