Como construímos a seguridade en Comet dende o primeiro día

Comet ofrece aos asistentes de intelixencia artificial potentes capacidades para navegar por sitios web, interactuar co contido e completar tarefas complexas en nome dos usuarios. Estas capacidades requiren salvagardas igualmente potentes. Antes de lanzar Comet publicamente, contratamos a Trail of Bits para probar a fondo as nosas defensas mediante auditorías formais. O seu traballo axudouos a identificar vulnerabilidades e fortalecer as nosas mitigacións antes de que os usuarios comezasen a depender de Comet para tarefas sensibles.

Construíndo a defensa dende os cimentos

Os ataques de inxección de comandos están en constante evolución, e defenderse deles require un enfoque en varias capas. Sabíamos dende o principio que un único mecanismo de defensa non sería suficiente. O noso principio fundamental é sinxelo: as proteccións superpostas garanten que se se pasa por alto unha capa, outras permanecen para manter os usuarios seguros. Así é como pomos isto en práctica.

A nosa traxectoria de seguridade: Fitos clave

Abril de 2025: Auditoría de seguridade previa ao lanzamento

Antes de lanzar Comet publicamente, contratamos a Trail of Bits para realizar unha modelaxe de ameazas sistemática da nosa arquitectura. O seu equipo probou escenarios de ataque do mundo real, intentando saltar as nosas defensas usando técnicas que os adversarios poderían empregar na natureza. A auditoría identificou lagoas específicas no noso sistema de protección e iniciou un proceso de correción iterativo. Melloramos as nosas mitigacións e pechamos as vulnerabilidades antes de que puidesen afectar aos usuarios.

Outubro de 2025: Publicación da nosa arquitectura de defensa

Publicamos unha publicación técnica detallada que explica o noso marco de arquitectura de defensa de catro capas e a lóxica detrás de cada compoñente. A publicación detallaba os tipos de ataque específicos contra os que nos defendemos, dende inxeccións de HTML e CSS ocultas ata a confusión de contidos e o secuestro de obxectivos. Tamén anunciamos o noso programa de recompensas por erros, convidando aos investigadores de seguridade a probar as nosas defensas e informar de vulnerabilidades. A transparencia foi sempre fundamental para o noso enfoque de seguridade: cremos que compartir a nosa metodoloxía fai que toda a industria da intelixencia artificial sexa máis forte.

Decembro de 2025: Apertura do código de BrowseSafe

A seguridade mellora cando toda a comunidade de intelixencia artificial pode aprender da investigación compartida. Lanzamos BrowseSafe, o noso modelo de detección e punto de referencia de avaliación, como ferramentas de código aberto. BrowseSafe-Bench inclúe 14 719 exemplos que abarcas 11 tipos de ataque, 9 estratexias de inxección e 3 estilos lingüísticos. Ao publicar a nosa metodoloxía e conxuntos de datos, estamos a axudar a outros desenvolvedores de intelixencia artificial a construír sistemas máis seguros e a contribuír aos estándares de seguridade de toda a industria. A resposta da comunidade de desenvolvedores foi alentadora, cos equipos xa usando BrowseSafe para mellorar a seguridade do seu propio asistente de intelixencia artificial.

O que aprendemos

Construír seguridade para asistentes de intelixencia artificial enseñounos leccións fundamentais sobre o panorama de ameazas en evolución. As probas adversarias externas revelan puntos cegos que os equipos internos poden pasar por alto, sen importar o expertos que sexan. A modelaxe de ameazas non é un exercicio único, senón unha disciplina continua que debe evolucionar a medida que avanzan as técnicas de ataque. O máis importante é que a seguridade require colaboración en toda a industria. Ao compartir a nosa investigación, involucrar a expertos externos e contribuír a estándares abertos, estamos a axudar a construír un ecosistema máis seguro.

O noso compromiso continuo

Mantemos avaliacións regulares de seguridade a medida que Comet evoluciona, garantindo que as novas características se sometan a un exame rigoroso antes do lanzamento. Para axudar a reducir a desinformación na investigación de seguridade de intelixencia artificial, investimos en prácticas de avaliación sólidas e informes transparentes para que os descubrimentos sobre as defensas de Comet sexan precisos, reproducibles e non distorsionados por reclamacións de seguridade sensacionalistas ou incompletas.

O noso equipo tamén executa un Programa de Divulgación de Vulnerabilidades próspero e un programa privado de recompensas por erros, convidando aos investigadores de seguridade de todas partes a probar as nosas defensas. A medida que os asistentes de intelixencia artificial se fan máis capaces e xestionan tarefas cada vez máis sensibles, os nosos investimentos en seguridade continuarán escalando en consecuencia.