使用 Perplexity 保護 AI

此工作階段中參照的安全性資源

• 我們如何在 Computer 中建構安全性
• 代理程式的安全沙箱
• 減輕 Comet 中的提示詞隱碼攻擊
• BrowseSafe 研究論文
• 使用 Numbat 保護代理程式
• 開源 Bumblebee
• 安全智慧研究所
• 信任中心

常見問題集

在 AI 技術堆疊中建構安全性

Perplexity 在跨越 AI 技術堆疊的眾多層級進行建構時，如何處理安全性問題？ Perplexity 建構的一切都始於安全性優先的思維，我們將安全和安全性視為相關但截然不同的工作。安全是為了保護人類免受代理程式侵害。安全性則是為了保護代理程式免受人類侵害。跨堆疊建構意味著我們可以在正確的層級為正確的任務設置正確的控制措施，而不是將保護措施外掛在我们未擁有的黑箱上。

SPACE，Perplexity 的代理程式沙箱

什麼是沙箱？它如何保護使用者和代理程式？ 沙箱為程式碼提供了一個受控的執行場所，而不會觸及您的系統或資料。代理程式提高了風險，因此在 Computer 中，每個任務都有其自己的沙箱。

為什麼 Perplexity 要建構自己的沙箱 (SPACE)，而不是使用現有的沙箱？ 現成工具無法提供 Perplexity 為了確保客戶安全所期望的安全性。代理程式打破了沙箱僅用於短暫程式碼執行的假設。這帶來了兩個互相拉扯的需求：環境應該是一次性的，但工作應該是持久的。現有平台讓你在功能、效率和安全性三者之中只能選其二。SPACE 的建構旨在同時實現這三者。

SPACE 實際上是如何運作的？它有哪些安全性控制措施？ SPACE 將工作階段（而不是沙箱）作為持久物件。工作階段是一連串滾動快照，這些快照賦予了 SPACE 完整的控制功能。暫停只是停止沙箱。恢復則是在任何機器上還原最新的快照。分岔則是將同一個快照還原兩次，並讓複本分歧。使用者獲得了連續性，如果出錯，還有時光機按鈕。

當代理程式代表我採取行動時，我的憑據存放在哪裡？ 沙箱是不受信任的工作發生的地方，因此它是金鑰最不該存放的地方。如果代理程式遭到劫持，攻擊者將繼承代理程式所擁有的一切，這就是為什麼我們的代理程式不保留任何東西。憑據從箱子外部傳入，在需要的確切時刻，僅用於該任務。

RBAC、連接器以及 Perplexity 的安全性功能

當連接 Snowflake 或 Outlook 等連接器時，Perplexity 實際上可以存取什麼？管理員可以關閉什麼？ 不同於一開始就能存取您整個電腦的代理程式工具，Computer 在開始時沒有任何存取權限。存取權限是透過具有精確權限的 OAuth 獲得的，因此如果您看不到它，您的代理程式也看不到它。管理員可以關閉整個連接器，或僅關閉其中的特定工具。

Perplexity 的 RBAC 如何與我們的身分識別提供者整合？

組織的身分識別提供者已經回答了誰可以觸碰什麼。Perplexity 接入其中，這些界線直接延伸到產品中。您的真實資料來源保持不變，您的稽核軌跡保持準確。團隊獲得所需的上下文，而公司則保留對誰可以看到什麼的控制權。

Perplexity 如何保護代理程式免受開放網路上的提示詞隱碼攻擊？ 提示詞隱碼攻擊是一種社會工程學，針對的是代理程式而非員工，而開放網路則是陌生人可以與其對話的地方。BrowseSafe 將代理程式讀取的每一頁都視為不受信任的頁面，並在內容塑造代理程式的行為之前進行平行掃描。留給您自己的安全性研究只能保護您自己。每個人的代理程式都在讀取相同的網路，因此我們將基準測試公諸於世。

Perplexity 使用哪些工具來保護代理程式和員工執行的機器？ Bumblebee 回答了每次供應鏈事件後的第一個問題：我們的系統上是否有任何不良套件？Numbat 監視代理程式層本身並依序讀取行為。由於它位於代理程式採取行動的位置，因此它可以在行動執行之前予以阻止。

使用 Computer 來保護 Computer

可以信任 Computer 來從事真正的安全性工作嗎？ Perplexity 自己的安全性團隊在 Computer 之上自行建構了其安全性基礎設施，而不是等待外部工具迎頭趕上。模型無關的執行、持久性記憶體以及路線圖的其餘部分已經存在，因此團隊可以專注於安全性代理程式本身。建構最好的安全性代理程式意味著需要其下方最好的基礎設施。

Computer 在哪裡為安全性團隊分擔了最多重複性的工作？ Computer 可以協助分診錯過的警報和後續事件報告。Computer 中的每一個分診預設都會以文件化方式返回，因此分析人員是從書面調查開始，而不是從原始警報開始。