Představujeme nový Sonar: Extrémně Rychlý Model Optimalizovaný pro Perplexity Vyhledávání

Od dnešního dne si všichni uživatelé Perplexity Pro mohou vyzkoušet nejnovější verzi Sonaru, interního modelu Perplexity, který je optimalizován pro kvalitu odpovědí a uživatelský zážitek. Postaven na platformě Llama 3.3 70B, Sonar byl dále trénován pro zlepšení fakticity a čitelnosti odpovědí v základním vyhledávacím režimu Perplexity.

Prostřednictvím rozsáhlého online A/B testování jsme zjistili, že Sonar významně překonává modely ve své třídě, jako jsou GPT-4o mini a Claude 3.5 Haiku, zároveň se blíží nebo překonává výkon špičkových modelů, jako jsou GPT-4o a Claude 3.5 Sonnet, pokud jde o spokojenost uživatelů. Díky infrastrukture inference Cerebras, Sonar běží rychlostí 1200 tokenů za sekundu — což umožňuje téměř okamžité generování odpovědí.

Uživatelé Perplexity Preferují Sonar

Provedli jsme rozsáhlé online A/B testování Sonaru k měření spokojenosti uživatelů — klíčový ukazatel, který silně koreluje s používáním produktu a retencí. Tento ukazatel odráží, jak jsou uživatelé spokojeni a zapojeni při pokládání otázek na Perplexity.

Naše hodnocení ukazují, že Sonar překonává jak GPT-4o mini, tak Claude 3.5 Haiku s výraznou rezervou. Také jsme porovnali Sonar s dražšími špičkovými modely a zjistili jsme, že předstihuje Claude 3.5 Sonnet, přičemž se blíží výkonu GPT-4o za zlomek ceny a více než 10x vyšší rychlostí.

Extrémně Rychlá Rychlost Umožňuje Okamžité Odpovědi

Díky infrastruktuře inference Cerebras poskytuje Sonar odpovědi extrémně rychlou rychlostí, dosažení dekódovacího výkonu, který je téměř 10x rychlejší než srovnatelné modely jako Gemini 2.0 Flash. To umožňuje téměř okamžité generování odpovědí, což činí Sonar ideálním pro rychlé získávání informací nebo podrobné odpovídání na otázky.

Sonar Vyniká v Poskytování Faktických a Vysoce Kvalitních Odpovědí

Sonar jsme optimalizovali na dvou kritických dimenzích, které silně korelují se spokojeností uživatelů — fakticita odpovědí a čitelnost.

• Facticita Odpovědí: Měří, jak dobře model umí odpovídat na otázky pomocí faktů, které mají základ ve výsledcích vyhledávání, a jeho schopnost řešit rozporné nebo chybějící informace

• Čitelnost: Měří schopnost modelu poskytovat koncizní a podrobné odpovědi s vhodným využitím markdown formátování pro organizaci textu

Naše výsledky ukazují, že Sonar významně zlepšuje tyto aspekty ve srovnání se základním modelem Llama 3.3 70B Instruct, a dokonce překonává jiné špičkové modely v těchto klíčových oblastech†.

Kromě toho, Sonar také vyniká nad modely ve své třídě, jako jsou GPT-4o mini a Claude 3.5 Haiku, na akademických benchmarkech, které měří sledování uživatelských pokynů a znalostí světa.

• IFEval: Měří, jak dobře model dodržuje pokyny poskytnuté uživatelem

• MMLU: Hodnotí znalosti světa napříč různých domén

Jak Sonar Odpovídá na Otázky

Jak vypadá zvýšená fakticita a čitelnost v praxi? Porovnejte tyto vyhledávání, které byly provedeny jak na Sonaru, tak na jiných modelech, a uvidíte rozdíl.

Použijte Sonar Dnes

Sonar vyniká v poskytování rychlých a přesných odpovědí, což z něj činí skvělý model pro každodenní použití. Uživatelé Perplexity Pro mohou učinit Sonar svým výchozím modelem ve svých nastaveních. Může být také použit prostřednictvím nabídky Sonar API*.

Poznámky pod čarou

• †Tyto hodnocení jsou hodnoceny na škále od 0 do 100, kde vyšší je lepší

• *Model Sonar nabízený prostřednictvím API zatím neběží na infrastruktuře inference Cerebras, ale brzy bude k dispozici