Cómo integramos la seguridad en Comet desde el primer día

Comet brinda a los asistentes de IA capacidades poderosas para navegar por sitios web, interactuar con contenido y completar tareas complejas en nombre de los usuarios. Estas capacidades requieren salvaguardas igualmente potentes. Antes del lanzamiento público de Comet, contratamos a Trail of Bits para realizar pruebas de estrés en nuestras defensas mediante auditorías formales. Su trabajo nos ayudó a identificar vulnerabilidades y fortalecer nuestras mitigaciones antes de que los usuarios comenzaran a depender de Comet para tareas confidenciales.

Construyendo la defensa desde los cimientos

Los ataques de inyección de prompts evolucionan constantemente, y defenderse contra ellos requiere un enfoque de múltiples capas. Supimos desde el principio que un único mecanismo de defensa no sería suficiente. Nuestro principio fundamental es simple: las protecciones superpuestas garantizan que si una capa es evadida, otras permanezcan para mantener a los usuarios seguros. Así es como lo ponemos en práctica.

Nuestro recorrido de seguridad: hitos clave

Abril de 2025: Auditoría de seguridad previa al lanzamiento

Antes del lanzamiento público de Comet, contratamos a Trail of Bits para realizar un modelado de amenazas sistemático de nuestra arquitectura. Sus equipos probaron escenarios de ataque del mundo real, intentando eludir nuestras defensas utilizando técnicas que los adversarios podrían emplear en entornos reales. La auditoría identificó brechas específicas en nuestro sistema de protección e inició un proceso de remediación iterativo. Refinamos nuestras mitigaciones y cerramos vulnerabilidades antes de que pudieran afectar a los usuarios.

Octubre de 2025: Publicación de nuestra arquitectura de defensa

Publicamos una publicación técnica detallada explicando nuestro marco de arquitectura de defensa de cuatro capas y el razonamiento detrás de cada componente. La publicación describió tipos de ataques específicos contra los cuales nos defendemos, desde inyecciones ocultas de HTML y CSS hasta confusión de contenido y secuestro de objetivos. También anunciamos nuestro programa de recompensas por errores (bug bounty), invitando a investigadores de seguridad a probar nuestras defensas y reportar vulnerabilidades. La transparencia siempre ha sido fundamental para nuestro enfoque de seguridad: creemos que compartir nuestra metodología fortalece a toda la industria de la IA.

Diciembre de 2025: Lanzamiento en código abierto de BrowseSafe

La seguridad mejora cuando toda la comunidad de IA puede aprender de la investigación compartida. Lanzamos BrowseSafe, nuestro modelo de detección y punto de referencia de evaluación, como herramientas de código abierto. BrowseSafe-Bench incluye 14,719 ejemplos que cubren 11 tipos de ataques, 9 estrategias de inyección y 3 estilos lingüísticos. Al publicar nuestra metodología y conjuntos de datos, estamos ayudando a otros desarrolladores de IA a construir sistemas más seguros y contribuyendo a los estándares de seguridad de toda la industria. La respuesta de la comunidad de desarrolladores ha sido alentadora, con equipos que ya están utilizando BrowseSafe para mejorar la seguridad de sus propios asistentes de IA.

Lo que hemos aprendido

Construir seguridad para asistentes de IA nos ha enseñado lecciones críticas sobre el panorama de amenazas en evolución. Las pruebas adversarias externas revelan puntos ciegos que los equipos internos pueden pasar por alto, sin importar cuán capacitados estén. El modelado de amenazas no es un ejercicio de una sola vez, sino una disciplina continua que debe evolucionar a medida que avanzan las técnicas de ataque. Lo más importante es que la seguridad requiere colaboración en toda la industria. Al compartir nuestra investigación, involucrar a expertos externos y contribuir a estándares abiertos, estamos ayudando a construir un ecosistema más seguro.

Nuestro compromiso continuo

Mantenemos evaluaciones de seguridad periódicas a medida que Comet evoluciona, asegurando que las nuevas funciones se sometan a un escrutinio riguroso antes de su lanzamiento. Para ayudar a reducir la desinformación en la investigación de seguridad de la IA, invertimos en prácticas de evaluación sólidas y reportes transparentes para que los hallazgos sobre las defensas de Comet sean precisos, reproducibles y no se vean distorsionados por afirmaciones de seguridad sensacionalistas o incompletas.

Nuestro equipo también gestiona un próspero Programa de Divulgación de Vulnerabilidades y un programa privado de recompensas por errores, invitando a investigadores de seguridad de todas partes a probar nuestras defensas. A medida que los asistentes de IA se vuelven más capaces y manejan tareas cada vez más confidenciales, nuestras inversiones en seguridad seguirán escalando en consecuencia.