使用 Perplexity 保護 AI

此工作階段中提述的安全資源

• 我們如何在 Computer 中內建安全性
• 適用於代理程式的安全沙箱
• 在 Comet 中減輕提示詞隱碼攻擊
• BrowseSafe 研究論文
• 使用 Numbat 保護代理程式
• 開源 Bumblebee
• 安全智能研究所
• 信任中心

常見問題

在整個 AI 技術堆疊中建構安全性

當 Perplexity 在 AI 技術堆疊的多個層級進行建構時，它會採取什麼方法來確保安全性？Perplexity 建構的所有內容都始於安全性優先的思維，我們將安全防護和安全性視為相關但不同的工作。安全防護是為了保護人類免受代理程式侵害。安全性則是為了保護代理程式免受人類侵害。跨堆疊建構意味著我們可以在正確的層級為正確的工作放置正確的控制項，而不是將保護措施外掛到我們不擁有的黑箱中。

SPACE，Perplexity 的代理程式沙箱

什麼是沙箱，它如何保護使用者和代理程式？沙箱為程式碼提供了一個受控的執行場所，而不會接觸您的系統或資料。代理程式提高了風險，因此在 Computer 中，每個工作都有自己的沙箱。

為什麼 Perplexity 要建構自己的沙箱 (SPACE)，而不是使用現有的沙箱？現成工具無法提供 Perplexity 希望確保給客戶的安全性。代理程式打破了「沙箱僅用於短暫程式碼執行」的假設。這引出了兩個互相拉扯的需求：環境應該是一次性的，但工作應該是持久的。現有平臺讓你在功能、效率和安全性三者中任選其二。SPACE 的建構旨在同時提供這三者。

SPACE 實際如何運作，它有哪些安全控制？SPACE 將工作階段變成持久物件，而不是沙箱。工作階段是一連串的滾動快照，這些快照支援 SPACE 的完整控制項。暫停只是停止沙箱。恢復是在任何機器上還原最新的快照。分支則是將同一個快照還原兩次，並讓複本分歧。使用者可以獲得連續性，如果出錯，還有時光機按鈕。

當代理程式代表我採取行動時，我的憑證儲存在哪裡？沙箱是進行不受信任工作的地方，因此它是金鑰最不應該存放的地方。如果代理程式遭到騎劫，攻擊者將繼承代理程式擁有的所有內容，這就是為什麼我們的代理程式什麼都不持有。憑證從箱外到達，在剛好需要的確切時刻，僅用於該項工作。

RBAC、連接器與 Perplexity 的安全性功能

當連接 Snowflake 或 Outlook 等連接器時，Perplexity 實際上可以存取什麼，管理員可以關閉什麼？不同於一開始就能存取整臺電腦的代理程式工具，Computer 在開始時沒有任何存取權。存取權是透過具有精確權限的 OAuth 獲得的，因此如果您看不到它，您的代理程式也看不到它。管理員可以關閉整個連接器，或僅關閉其中的特定工具。

Perplexity 的 RBAC 如何與我們的識別提供者整合？

組織的識別提供者已經解答瞭誰可以觸碰什麼。Perplexity 接入其中，這些界線直接延伸到產品中。您的真實來源保持為真實來源，並且您的稽核記錄保持準確。團隊可以獲得所需的上下文，而公司則可以控制誰能看到什麼。

Perplexity 如何保護代理程式免受公開網路上的提示詞隱碼攻擊？提示詞隱碼攻擊是一種針對代理程式而非員工的社會工程學，而公開網路則是陌生人可以與之對話的地方。BrowseSafe 將代理程式讀取的每一頁都視為不受信任，並在內容影響代理程式的操作之前進行平行掃描。留給您自己的安全研究只會保護您自己。每個人的代理程式都在讀取相同的網路，因此我們將基準測試公開了。

Perplexity 使用哪些工具來保護代理程式和員工執行的機器？Bumblebee 解答了每一次供應鏈事件後的第一個問題：我們的系統上有任何不良套件嗎？Numbat 監控代理程式層本身並依序讀取行為。由於它位於代理程式執行操作的位置，因此可以在操作執行之前將其停止。

使用 Computer 來保護 Computer

可以信任 Computer 來執行真正的安全性工作嗎？Perplexity 自己的安全性團隊在 Computer 之上自行建構了其安全性基礎設施，而不是等待外部工具迎頭趕上。模型無關的執行、持久記憶體和路線圖的其餘部分都已經存在，因此團隊可以專注於安全性代理程式本身。建構最好的安全性代理程式意味著需要在其下方擁有最好的工具。

Computer 在哪裡為安全性團隊省去了最多重複性工作？Computer 可以協助分流錯過的警報和後續事件報告。Computer 中的每一次分流預設都會帶有記錄，因此分析人員從書面調查開始，而不是原始警報。