隆重介紹全新 Sonar:為 Perplexity 搜尋優化的極速模型

為 Perplexity 搜尋優化的極速模型

由今天開始,所有 Perplexity Pro 用戶都可以試用最新版本的 Sonar,這是 Perplexity 自家研發的模型,針對答案質素與用戶體驗進行了優化。Sonar 建基於 Llama 3.3 70B,經過進一步訓練,提升了 Perplexity 預設搜尋模式下答案的真實性與可讀性。

透過全面的線上 A/B 測試,我們發現 Sonar 在用戶滿意度方面明顯優於同級模型(如 GPT-4o mini 和 Claude 3.5 Haiku),同時緊貼或超越 GPT-4o 和 Claude 3.5 Sonnet 等前沿模型的表現。在 Cerebras 推理基礎設施的支援下,Sonar 以每秒 1,200 個 Token 的極快速度運行,實現近乎即時的答案生成。

Perplexity 用戶更偏愛 Sonar

我們對 Sonar 進行了廣泛的線上 A/B 測試以衡量用戶滿意度——這是一項與產品使用率和留存率高度相關的關鍵指標。此指標反映了用戶在 Perplexity 上提問時的滿意度與互動程度。

我們的評估顯示,Sonar 大幅超越 GPT-4o mini 和 Claude 3.5 Haiku。我們也將 Sonar 與更昂貴的前沿模型進行比較,發現它超越了 Claude 3.5 Sonnet,同時以極低的價格和超過 10 倍的速度逼近 GPT-4o 的表現。

極速體驗實現即時解答

憑藉 Cerebras 推理基礎設施的支援,Sonar 以極快速度提供答案,其解碼吞吐量比 Gemini 2.0 Flash 等同類模型快近 10 倍。這使得近乎即時的答案生成成為可能,令 Sonar 非常適合快速資訊檢索或詳細問答等使用情境。

Sonar 擅長提供真實且高質素的答案

我們針對與用戶滿意度高度相關的兩個關鍵維度——答案真實性與可讀性——對 Sonar 進行了優化。

答案真實性:衡量模型使用基於搜尋結果的事實來回答問題的能力,以及其解決衝突或缺失資訊的能力。

可讀性:衡量模型提供簡明且詳細答案的能力,並適當使用 Markdown 格式來組織文字。

我們的結果顯示,與基礎模型 Llama 3.3 70B Instruct 相比,Sonar 在這些方面有顯著提升,甚至在這些關鍵領域超越了其他前沿模型†。

此外,在衡量用戶指令依循能力和世界知識的學術基準測試中,Sonar 的表現亦超越了 GPT-4o mini 和 Claude 3.5 Haiku 等同級模型。

IFEval:衡量模型遵循用戶提供指令的程度。

MMLU:評估跨不同領域的世界知識。

Sonar 如何回答問題

真實性與可讀性的提升在實踐中是如何體現的?比較這些在 Sonar 和其他模型上進行的搜尋,以了解當中的差異。

立即使用 Sonar

Sonar 擅長提供快速且準確的答案,使其成為日常使用的絕佳模型。Perplexity Pro 用戶可以在設定中將 Sonar 設為預設模型。它也可以透過 Sonar API 服務* 使用。

腳註

†這些評估的評分範圍為 0 到 100,分數越高代表表現越好。

*透過 API 提供的 Sonar 模型尚未在 Cerebras 推理基礎設施上運行,但即將推出。