PerplexityによるAIのセキュリティ保護

このセッションで言及されているセキュリティリソース

よくある質問

AIスタック全体におけるセキュリティの構築

Perplexityは、AIスタックの非常に多くのレイヤーにまたがって構築を行う際、どのようにセキュリティに取り組んでいますか？ Perplexityが構築するすべてのものは、セキュリティファーストの思考から始まります。当社では、安全性（セーフティ）とセキュリティを、関連しつつも別個の業務として扱っています。安全性は人間をエージェントから保護することであり、セキュリティはエージェントを人間から保護することです。スタック全体にわたる構築とは、私たちが所有していないブラックボックスに保護機能を追加するのではなく、適切なタスクに対して適切なレイヤーに適切な制御を配置できることを意味します。

SPACE（Perplexityのエージェント・サンドボックス）

サンドボックスとは何ですか？また、どのようにユーザーやエージェントを保護するのですか？ サンドボックスは、システムやデータにアクセスすることなくコードを実行できる隔離された場所を提供します。エージェントによりリスクが高まるため、Computerではすべてのタスクに独自のサンドボックスが割り当てられます。

Perplexityはなぜ既存のサンドボックスを使用せず、独自のサンドボックス（SPACE）を構築したのですか？ 市販のツールでは、Perplexityが顧客に保証したいセキュリティを提供できませんでした。エージェントは、サンドボックスが短期間のコード実行のためのものであるという前提を覆します。これにより、環境は使い捨てでなければならないが作業は永続的でなければならないという、相反する2つのニーズが生じます。既存のプラットフォームでは、機能性、効率性、セキュリティの3つのうち2つを選択せざるを得ませんでした。SPACEは、その3つすべてを実現するために構築されました。

SPACEは実際どのように機能し、どのようなセキュリティ制御を備えていますか？ SPACEでは、サンドボックスではなくセッションが永続的なオブジェクトとなります。セッションはローリングスナップショットのチェーンであり、それらのスナップショットによってSPACEのすべての制御が可能になります。一時停止は単にサンドボックスを停止することです。再開は、どのマシン上でも最新のスナップショットを復元することです。フォークは、同じスナップショットを2回復元し、コピーを分岐させることです。ユーザーは、何か問題が発生した場合のタイムマシンボタンとともに、継続性を確保できます。

エージェントが私の代理で行動する場合、私の資格情報はどこに保存されますか？ サンドボックスは信頼性の低い作業が行われる場所であるため、鍵が保管されるべき最も不適切な場所です。エージェントがハイジャックされた場合、攻撃者はエージェントが保持しているすべてを継承することになります。これが、当社のエージェントが何も保持していない理由です。資格情報は、ボックスの外から、必要な正確な瞬間に、そのタスクのみのために提供されます。

RBAC、コネクタ、およびPerplexityのセキュリティ機能

SnowflakeやOutlookなどのコネクタが接続されている場合、Perplexityは実際に何にアクセスでき、管理者は何を無効にできますか？ コンピューター全体へのアクセスから始まるエージェントツールとは異なり、Computerはアクセス権なしで開始されます。アクセスは正確な権限を持つOAuthを通じて行われるため、ユーザーに表示されないものはエージェントにも表示されません。管理者はコネクタ全体、またはその中の特定のツールのみを無効にすることができます。

PerplexityのRBACは、当社のアイデンティティプロバイダーとどのように統合されますか？

組織のアイデンティティプロバイダーは、誰が何にアクセスできるかをすでに定義しています。Perplexityはそのプロバイダーに接続し、その境界線が製品にそのまま引き継がれます。信頼できるデータソース（情報源）はそのまま維持され、監査証跡も正確に保たれます。チームは必要なコンテキストを取得し、企業は誰が何にアクセスできるかを制御し続けます。

Perplexityは、オープンウェブ上のプロンプトインジェクションからどのようにエージェントを保護しますか？ プロンプトインジェクションは、従業員ではなくエージェントをターゲットにしたソーシャルエンジニアリングであり、オープンウェブは見知らぬ人々がエージェントと対話する場所です。BrowseSafeは、エージェントが読み取るすべてのページを信頼できないものとして扱い、コンテンツがエージェントの動作を形作る前に、並行してスキャンします。自分だけで保持するセキュリティ研究は自分しか保護しません。誰もが同じウェブを読み取るエージェントを使用しているため、当社はベンチマークを公開しました。

Perplexityは、エージェントや従業員が実行されているマシンを保護するためにどのようなツールを使用していますか？ Bumblebeeは、すべてのサプライチェーンインシデントの後に最初に生じる疑問、すなわち「悪質なパッケージが当社のシステムのどこかに入り込んでいないか？」に答えます。Numbatはエージェントレイヤー自体を監視し、動作をシーケンスで読み取ります。エージェントが動作する場所に位置しているため、アクションが実行される前にそれを停止することができます。

Computerを使用してComputerを保護する

Computerに実際のセキュリティ業務を任せても信頼できますか？ Perplexity自身のセキュリティチームは、外部ツールの追いつくのを待つのではなく、Computerの上に独自のセキュリティインフラストラクチャを社内で構築しました。モデル非依存の実行、永続的なメモリ、およびロードマップの残りの部分はすでに揃っていたため、チームはセキュリティエージェント自体に集中することができました。最高のセキュリティエージェントを構築するということは、その下層に最高のハーネス（基盤）が必要になることを意味します。

Computerは、セキュリティチームの負担となる最も反復的な作業をどこで軽減しますか？ Computerは、見逃されたアラートのトリアージや、それに続くインシデントレポートの作成を支援できます。Computerにおけるすべてのトリアージはデフォルトで文書化されて返されるため、アナリストは生のいわゆるアラートからではなく、文書化された調査から作業を開始できます。

他のワークショップを見る

Perplexity Computer for Counsel

Introducing Perplexity Computer

次のステップに進む準備はできましたか？