使用 Perplexity 保护 AI 安全

在此会话中引用的安全资源

• 我们如何在 Computer 中内置安全性
• 面向智能体的安全沙盒
• 在 Comet 中缓解提示词注入
• BrowseSafe 研究论文
• 使用 Numbat 保护智能体安全
• 开源 Bumblebee
• 安全智能研究所
• 信任中心

常见问题解答

在整个 AI 技术栈中构建安全性

Perplexity 在构建涵盖如此多层级 AI 技术栈的产品时，是如何采取安全方法的？ Perplexity 构建的一切内容都始于“安全第一”的思考，我们将安全防护与信息安全视为相关但又不同的工作。安全防护旨在保护人类免受智能体侵害，而信息安全则旨在保护智能体免受人类侵害。跨技术栈构建意味着我们能够在正确的层级为正确的任务部署正确的控制措施，而不是将保护措施生硬地套用在我们无法掌控的黑盒上。

SPACE，Perplexity 的智能体沙盒

什么是沙盒，它如何保护用户和智能体？ 沙盒为代码运行提供了一个受控隔离的环境，使其不会触及您的系统或数据。智能体会增加风险，因此在 Computer 中，每个任务都会获得其专属的沙盒。

为什么 Perplexity 要构建自己的沙盒 (SPACE) 而不是使用现有的沙盒？ 现成的工具无法提供 Perplexity 期望向客户保证的安全性。智能体打破了“沙盒仅适用于短期代码执行”的固有假设。这就带来了两个相互冲突的需求：环境应当是一次性的，但工作应当是持久的。现有平台往往迫使你在功能、效率和安全性这三者中做出妥协、二选其一。而 SPACE 的构建旨在同时实现这三点。

SPACE 实际是如何运作的，它具有哪些安全控制措施？ SPACE 将会话（而不是沙盒）作为持久对象。会话是一系列滚动快照链，这些快照使 SPACE 能够实现全套控制措施。暂停只是停止沙盒，恢复则是在任何机器上还原最新的快照，而分支则是将同一快照还原两次并使副本产生分叉。用户既能获得连续性，又能在出错时拥有一键“时间机器”按钮。

当智能体代表我执行操作时，我的凭据存储在哪里？ 沙盒是执行不受信任工作的地方，因此它应当是密钥存储的最末端。如果智能体遭到劫持，攻击者将继承智能体所持有的所有内容，正因如此，我们的智能体不持有任何内容。凭据从外部传入，仅在精确需要该任务时按需抵达。

RBAC、连接器与 Perplexity 的安全功能

当连接 Snowflake 或 Outlook 等连接器时，Perplexity 实际上能够获得哪些访问权限，管理员可以关闭哪些权限？ 与那些默认拥有访问整台计算机权限的智能体工具不同，Computer 默认不授予任何访问权限。访问权限是通过具有精确权限的 OAuth 获得的，因此如果您无法查看，您的智能体也无法查看。管理员可以关闭整个连接器，也可以仅关闭其中的特定工具。

Perplexity 的 RBAC 如何与我们的身份提供商集成？

组织的身份提供商已经明确了谁可以触及什么内容。Perplexity 与其无缝对接，这些边界将直接延伸到产品之中。您的单一真实数据源依然是真实数据源，您的审计线索依然准确无误。团队能够获得所需的上下文，而公司则能保持对谁能看到什么的控制。

Perplexity 如何保护智能体免受开放网络上的提示词注入攻击？ 提示词注入是一种社会工程学攻击，针对的是智能体而非员工，而开放网络则是陌生人与其对话的场所。BrowseSafe 将智能体读取的每个页面均视为不受信任的内容，并在内容塑造智能体行为之前对其进行并行扫描。仅将安全研究留给自己只会保护你自己。所有人的智能体都在阅读相同的网络内容，因此我们公开了基准测试。

Perplexity 使用哪些工具来保护运行智能体和员工的机器？ Bumblebee 能够解答每次供应链事件后的首要问题：我们的系统上是否存在任何恶意软件包？Numbat 则负责监控智能体层本身并按顺序读取行为。由于它位于智能体执行操作的位置，因此它可以在操作执行之前将其阻止。

使用 Computer 保护 Computer

Computer 是否值得信赖以执行真正的安全工作？ Perplexity 自身的安全团队在 Computer 的基础之上自主构建了其安全基础设施，而不是等待外部工具迎头赶上。模型无关执行、持久内存以及路线图的其余部分已经就绪，因此团队可以专注于安全智能体本身。构建最优秀的安全智能体意味着需要其下方拥有最优秀的底层架构。

Computer 在哪里能为安全团队分担最多重复性工作？ Computer 可以协助对漏报的警报进行分类以及跟进事件报告。Computer 中的每一次分类默认都带有完整文档记录，因此分析人员可以从书面调查报告入手，而不是直接面对原始警报。