我们如何从第一天起就将安全融入 Comet
深入了解 Comet 的安全工作：外部审计、分层提示词注入防御及开源研究。
Comet 为 AI 助手提供了强大的功能，使其能够浏览网站、与内容交互并代表用户完成复杂的任务。这些功能需要同样强大的保障措施。在 Comet 公开发布之前，我们聘请了 Trail of Bits 通过形式化审计对我们的防御系统进行压力测试。他们的工作帮助我们在用户开始依赖 Comet 处理敏感任务之前，识别出了漏洞并加强了我们的缓解措施。
从零开始构建防御体系
提示词注入攻击在不断演变，防御这些攻击需要多层面的方法。从一开始我们就知道，单一的防御机制是不够的。我们的核心原则很简单：重叠的保护措施确保了如果某一层被绕过，其他层依然能保障用户安全。以下是我们如何将这一原则付诸实践。
我们的安全历程：关键里程碑
2025 年 4 月：发布前的安全审计
在 Comet 公开发布之前，我们聘请了 Trail of Bits 对我们的架构进行系统性的威胁建模。他们的团队测试了现实世界的攻击场景，试图使用对手在野外可能采用的技术来绕过我们的防御。此次审计确定了我们保护系统中存在的具体缺口，并开启了一个迭代的修复过程。我们在漏洞影响用户之前，完善了缓解措施并消除了这些漏洞。
2025 年 10 月：发布我们的防御架构
我们发布了一篇详细的技术文章，解释了我们的四层防御架构框架及其背后的逻辑。这篇文章概述了我们防御的具体攻击类型，从隐藏的 HTML 和 CSS 注入到内容混淆和目标劫持。我们还宣布了漏洞赏金计划，邀请安全研究人员测试我们的防御系统并报告漏洞。透明度始终是我们安全方法的核心：我们相信，分享我们的方法论会使整个 AI 行业变得更加强大。
2025 年 12 月：开源 BrowseSafe
当整个 AI 社区能够从共享研究中学习时，安全性就会得到提升。我们将我们的检测模型和评估基准 BrowseSafe 作为开源工具发布。BrowseSafe-Bench 包含 14,719 个示例，涵盖 11 种攻击类型、9 种注入策略和 3 种语言风格。通过发布我们的方法论和数据集，我们正在帮助其他 AI 开发者构建更安全的系统，并为行业范围内的安全标准做出贡献。开发者社区的反应令人鼓舞，团队已经在使用 BrowseSafe 来提升其自身 AI 助手的安全性。
我们的经验教训
为 AI 助手构建安全性使我们对不断演变的威胁环境有了深刻的认识。无论内部团队多么专业，外部对抗性测试总能发现他们可能忽略的盲点。威胁建模不是一次性的工作，而是一项必须随着攻击技术进步而不断发展的持续性学科。最重要的是，安全性需要全行业的协作。通过分享我们的研究、聘请外部专家以及为开放标准做出贡献，我们正在帮助构建一个更安全的生态系统。
我们持续的承诺
随着 Comet 的演进，我们保持定期的安全评估，确保新功能在发布前经过严格的审查。为了减少 AI 安全研究中的错误信息，我们致力于稳健的评估实践和透明的报告，确保关于 Comet 防御措施的发现准确、可复现，且不会因夸大或不完整的安全主张而失真。
我们的团队还运营着一个蓬勃发展的漏洞披露计划和私有漏洞赏金计划，邀请各地的安全研究人员测试我们的防御系统。随着 AI 助手变得功能更强大并处理日益敏感的任务，我们的安全投入也将持续相应地扩大。