Cómo integramos la seguridad en Comet desde el primer día

Comet ofrece a los asistentes de inteligencia artificial potentes capacidades para explorar sitios web, interactuar con el contenido y completar tareas complejas en nombre de los usuarios. Estas capacidades requieren salvaguardas igualmente potentes. Antes de lanzar Comet al público, contratamos a Trail of Bits para realizar pruebas de estrés en nuestras defensas a través de auditorías formales. Su trabajo nos ayudó a identificar vulnerabilidades y fortalecer nuestras mitigaciones antes de que los usuarios comenzaran a depender de Comet para tareas confidenciales.

Construyendo la defensa desde cero

Los ataques de inyección de comandos evolucionan constantemente y defenderse de ellos requiere un enfoque de múltiples capas. Sabíamos desde el principio que un solo mecanismo de defensa no sería suficiente. Nuestro principio fundamental es simple: las protecciones superpuestas garantizan que si una capa se vulnera, otras permanezcan para mantener seguros a los usuarios. Así es como ponemos esto en práctica.

Nuestra trayectoria de seguridad: Hitos clave

Abril de 2025: Auditoría de seguridad previa al lanzamiento

Antes de lanzar Comet al público, contratamos a Trail of Bits para realizar un modelado de amenazas sistemático de nuestra arquitectura. Su equipo probó escenarios de ataques del mundo real, intentando eludir nuestras defensas utilizando técnicas que los adversarios podrían emplear en la naturaleza. La auditoría identificó brechas específicas en nuestro sistema de protección e inició un proceso de remediación iterativo. Refinamos nuestras mitigaciones y cerramos las vulnerabilidades antes de que pudieran afectar a los usuarios.

Octubre de 2025: Publicación de nuestra arquitectura de defensa

Publicamos una publicación técnica detallada que explica nuestro marco de arquitectura de defensa de cuatro capas y el razonamiento detrás de cada componente. La publicación detalló los tipos de ataques específicos contra los que nos defendemos, desde inyecciones ocultas de HTML y CSS hasta la confusión de contenido y el secuestro de objetivos. También anunciamos nuestro programa de recompensas por errores, invitando a los investigadores de seguridad a probar nuestras defensas e informar vulnerabilidades. La transparencia siempre ha sido fundamental para nuestro enfoque de seguridad: creemos que compartir nuestra metodología hace que toda la industria de la IA sea más fuerte.

Diciembre de 2025: Apertura del código fuente de BrowseSafe

La seguridad mejora cuando toda la comunidad de IA puede aprender de la investigación compartida. Lanzamos BrowseSafe, nuestro modelo de detección y punto de referencia de evaluación, como herramientas de código abierto. BrowseSafe-Bench incluye 14,719 ejemplos que cubren 11 tipos de ataques, 9 estrategias de inyección y 3 estilos lingüísticos. Al publicar nuestra metodología y conjuntos de datos, ayudamos a otros desarrolladores de IA a crear sistemas más seguros y contribuimos a los estándares de seguridad de toda la industria. La respuesta de la comunidad de desarrolladores ha sido alentadora, con equipos que ya utilizan BrowseSafe para mejorar la seguridad de su propio asistente de IA.

Lo que hemos aprendido

Construir seguridad para los asistentes de inteligencia artificial nos ha enseñado lecciones fundamentales sobre el panorama de amenazas en evolución. Las pruebas de adversarios externos revelan puntos ciegos que los equipos internos pueden pasar por alto, sin importar cuán capacitados estén. El modelado de amenazas no es un ejercicio de una sola vez, sino una disciplina continua que debe evolucionar a medida que avanzan las técnicas de ataque. Lo más importante es que la seguridad requiere colaboración en toda la industria. Al compartir nuestra investigación, involucrar a expertos externos y contribuir a estándares abiertos, estamos ayudando a construir un ecosistema más seguro.

Nuestro compromiso continuo

Mantenemos evaluaciones de seguridad regulares a medida que Comet evoluciona, asegurando que las nuevas características se sometan a un escrutinio riguroso antes del lanzamiento. Para ayudar a reducir la desinformación en la investigación de seguridad de IA, invertimos en prácticas de evaluación sólidas y reportes transparentes para que los hallazgos sobre las defensas de Comet sean precisos, reproducibles y no estén distorsionados por afirmaciones de seguridad sensacionalistas o incompletas.

Nuestro equipo también administra un próspero Programa de Divulgación de Vulnerabilidades y un programa privado de recompensas por errores, invitando a investigadores de seguridad de todas partes a probar nuestras defensas. A medida que los asistentes de IA se vuelven más capaces y manejan tareas cada vez más sensibles, nuestras inversiones en seguridad continuarán escalando en consecuencia.