Agent API:代理工作流程的託管運行時

今天,我們發布了 Perplexity Agent API,這是一個託管運行時,用於構建具有整合搜尋、工具執行和多模型編排功能的代理工作流程。

今天,我們發布了 Perplexity Agent API,這是一個託管運行時,用於構建具有整合搜尋、工具執行和多模型編排功能的代理工作流程。

它將模型路由、搜尋層、嵌入提供程序、沙箱服務和監控堆疊替換為單一整合點。

作為計算模型的代理循環

傳統 CPU 執行確定性循環:提取指令、解碼、執行並儲存結果。程式計數器隨之推進。處理器從不自行決定要做什麼。

Agent API 實現了不同的計算模型。其處理器是一個前沿語言模型。它接收目標並確定如何達成該目標。它將目標分解為計劃,從可用工具集中選擇要使用的工具,執行、觀察結果、評估目標是否達成,並進行反覆運算。上下文視窗充當暫存器,而推理和編排則充當調度器。

試想您正準備與一位曾交談過幾次的潛在客戶進行銷售通話。您向 Agent API 發送單一請求,並使用三種工具:一個用於搜尋內部 CRM 的工具、web_search 和 fetch_url。模型首先呼叫您的 CRM 工具,從過去的對話中擷取上下文。然後,它呼叫 web_search 查找近期新聞和競爭情報,並返回數個相關頁面。它判斷其中兩個頁面值得深入閱讀,並對每個頁面呼叫 fetch_url。在三個步驟中,模型將內部歷史記錄、廣泛的網路上下文和全頁詳細資訊組合成一個單一的、有憑據的回應。這就是代理循環。

完整代理循環的編排

區分 Agent API 與模型路由服務非常重要。Agent API 是一個託管運行時,用於編排完整的代理循環:檢索、工具執行、推理、多模型備援,以及您授予其存取權限的任何自定義工具。它將模型路由器、搜尋層、嵌入提供程序、沙箱服務和監控堆疊替換為單一端點、帳戶和 API 金鑰。

該 API 與所有前沿模型提供程序無關。對於高可用性應用程式,該 API 支援模型備援鏈:指定多個模型,如果一個模型不可用,API 會自動嘗試下一個模型。這確保了接近 100% 的可用性。

強大的內建工具

提供兩種內建工具:web_search 和 fetch_url。web_search 支援網域篩選(允許名單和禁止名單,最多 20 個網域)、時效篩選、日期範圍篩選、語言篩選以及每頁可配置的內容預算。fetch_url 可從特定 URL 檢索並提取完整頁面內容。

除了內建工具外,自定義函數還允許開發人員將代理連接到他們自己的後端、資料庫和 API。

持續優化的前沿模型預設設定

從頭開始構建有效的代理配置需要選擇合適的模型、校準推理深度、選擇工具並調整 Token 預算。Perplexity 通過內部的評估團隊針對真實工作負載對配置進行基準測試,從而為其自身的產品持續執行此操作。

預設設定分享了這些專業知識。每個預設設定都是一個完全透明、預先配置的設定,針對特定用例進行了優化:快速事實查找、平衡研究、深入的多來源分析以及機構級研究。我們發布了每個預設設定的建議系統提示詞、工具和成本配置檔。隨著模型領域的發展,我們會更新底層配置,以便預設設定始終反映當前的技術水準,且成本可預測。所有預設參數均可覆寫:開發人員可以將預設設定作為起點,並在單一請求中調整模型、工具、步驟數或 Token 預算。

透過 advanced-deep-research 預設設定提供的「深入研究 2.0」是支援 Perplexity 消費級產品的相同多步驟推理引擎。它針對每個查詢執行數十次搜尋,閱讀數百份來源文件,並反覆優化其分析。在 DRACO、Scale AI 的 ResearchRubrics 和 Google DeepMind 的 DeepSearchQA 上的效能詳見我們的 DRACO 基準測試文章

Agent API 現已推出。文件和快速入門指南請參閱 docs.perplexity.ai