我們如何從第一天起就在 Comet 中建立安全性
深入了解 Comet 的安全工作：外部審計、分層提示詞注入防禦以及開源研究。
Comet 為 AI 助手賦予強大功能，能夠代表用戶瀏覽網站、與內容互動並完成複雜任務。這些功能需要同樣強大的防護措施。在公開推出 Comet 之前，我們聘請了 Trail of Bits透過正式審計來對我們的防禦進行壓力測試。他們的工作幫助我們在用戶開始依賴 Comet 執行敏感任務之前，識別出漏洞並加強緩解措施。
從零開始建立防禦
提示詞注入攻擊不斷演變，防禦這些攻擊需要採用多層次的方法。我們從一開始就知道，單一防禦機制是不夠的。我們核心原則很簡單：重疊的防護確保了如果一個層級被繞過，其他層級仍然能夠保障用戶安全。以下是我們如何將其實踐。
我們的安全之旅：重要里程碑
2025 年 4 月：推出前安全審計
在公開推出 Comet 之前，我們聘請了 Trail of Bits對我們的架構進行系統化的威脅建模。他們的團隊測試了真實世界的攻擊情境，嘗試使用對手在野外可能採用的技術來繞過我們的防禦。審計識別出我們防護系統中的特定漏洞，並啟動了反覆修復的過程。我們在漏洞可能影響用戶之前，就已經完善了緩解措施並消除了漏洞。
2025 年 10 月：公佈我們的防禦架構
我們發表了一篇詳細的技術文章，解釋我們的四層防禦架構框架以及每個組件背後的原理。這篇文章概述了我們所防禦的特定攻擊類型，從隱藏的 HTML 和 CSS 注入到內容混淆和目標劫持。我們還宣佈了我們的漏洞賞金計劃，邀請安全研究人員測試我們的防禦並回報漏洞。透明度一直是我們安全方法的核心：我們相信分享我們的方法會使整個 AI 行業變得更強大。
2025 年 12 月：開源 BrowseSafe
當整個 AI 社群能夠從共享研究中學習時，安全就會有所改善。我們推出了 BrowseSafe（我們的檢測模型和評估基準）作為開源工具。BrowseSafe-Bench 包含 14,719 個範例，涵蓋 11 種攻擊類型、9 種注入策略和 3 種語言風格。透過發布我們的方法論和數據集，我們正在協助其他 AI 開發者建立更安全的系統，並為全行業的安全標準做出貢獻。開發者社群的反應令人鼓舞，各團隊已經在使用 BrowseSafe 來改善他們自己的 AI 助手安全性。
我們所學到的
為 AI 助手建立安全性教會了我們關於不斷演變的威脅環境的重要教訓。外部對抗性測試揭示了內部團隊無論多麼熟練都可能忽略的盲點。威脅建模不是一次性的活動，而是一門持續的學問，必須隨著攻擊技術的進步而演進。最重要的是，安全需要整個行業的協作。透過分享我們的研究、邀請外部專家參與並貢獻於開放標準，我們正在協助建立一個更安全的生態系統。
我們持續的承諾
隨著 Comet 的發展，我們會定期進行安全性評估，確保新功能在推出前經過嚴格審查。為了協助減少 AI 安全研究中的錯誤資訊，我們投資於穩健的評估實踐和透明的報告，以便關於 Comet 防禦的研究結果是準確、可重現的，且不會遭到聳人聽聞或不完整的安全聲明所扭曲。
我們的團隊還營運著蓬勃發展的漏洞披露計劃和私人漏洞賞金計劃，邀請各地的安全研究人員測試我們的防禦。隨著 AI 助手功能變得更加強大並處理日益敏感的任務，我們的安全投資將繼續相應擴展。