Poznejte nový Sonar: Bleskový model pro vyhledávání v Perplexity

Od dnešního dne si všichni uživatelé služby Perplexity Pro mohou vyzkoušet nejnovější verzi modelu Sonar, interního modelu od společnosti Perplexity, který je optimalizován pro kvalitu odpovědí a uživatelskou přívětivost. Model Sonar je postaven na architektuře Llama 3.3 70B a prošel dalším tréninkem, aby se zlepšila věcná správnost a čitelnost odpovědí pro výchozí režim vyhledávání v Perplexity.

Rozsáhlé online A/B testování ukázalo, že Sonar výrazně překonává modely ve své třídě, jako jsou GPT-4o mini a Claude 3.5 Haiku, a zároveň se v oblasti uživatelské spokojenosti vyrovná špičkovým modelům, jako jsou GPT-4o a Claude 3.5 Sonnet, nebo je dokonce překonává. Díky inferenční infrastruktuře Cerebras běží Sonar bleskovou rychlostí 1200 tokenů za sekundu, což umožňuje téměř okamžité generování odpovědí.

Uživatelé Perplexity preferují Sonar

Provedli jsme rozsáhlé online A/B testování modelu Sonar, abychom změřili spokojenost uživatelů – klíčovou metriku, která úzce souvisí s používáním produktu a jeho udržením. Tato metrika zachycuje, jak jsou uživatelé spokojení a angažovaní při pokládání otázek v Perplexity.

Naše hodnocení ukazují, že Sonar výrazně překonává modely GPT-4o mini i Claude 3.5 Haiku. Porovnali jsme Sonar také s dražšími špičkovými modely a zjistili jsme, že překonává model Claude 3.5 Sonnet a zároveň se velmi blíží výkonu modelu GPT-4o, a to za zlomek ceny a při více než desetinásobné rychlosti.

Blesková rychlost umožňuje okamžité odpovědi

Díky inferenční infrastruktuře Cerebras poskytuje Sonar odpovědi bleskovou rychlostí a dosahuje rychlosti dekódování, která je téměř 10× vyšší než u srovnatelných modelů, jako je Gemini 2.0 Flash. To umožňuje téměř okamžité generování odpovědí, díky čemuž je Sonar ideální pro rychlé vyhledávání informací nebo podrobné zodpovídání otázek.

Sonar vyniká v poskytování věcných a vysoce kvalitních odpovědí

Optimalizovali jsme Sonar ve dvou kritických oblastech, které úzce souvisejí s uživatelskou spokojeností: věcná správnost odpovědí a čitelnost.

Věcná správnost odpovědí: Měří, jak dobře model dokáže odpovídat na otázky pomocí faktů vycházejících z výsledků vyhledávání, a jeho schopnost řešit protichůdné nebo chybějící informace.

Čitelnost: Měří schopnost modelu poskytnout stručnou a podrobnou odpověď s vhodným použitím formátování markdown pro uspořádání textu.

Naše výsledky ukazují, že Sonar výrazně zlepšuje tyto aspekty ve srovnání se základním modelem Llama 3.3 70B Instruct a v těchto klíčových oblastech dokonce překonává ostatní špičkové modely†.

Kromě toho Sonar překonává modely stejné kategorie, jako jsou GPT-4o mini a Claude 3.5 Haiku, také v akademických srovnávacích testech (benchmarkech), které měří dodržování pokynů uživatele a znalost světa.

IFEval: Měří, jak dobře model dodržuje pokyny zadané uživatelem.

MMLU: Hodnotí znalost světa napříč různými doménami.

Jak Sonar odpovídá na otázky

Jak vypadá vyšší věcná správnost a čitelnost v praxi? Porovnejte tato vyhledávání, která byla provedena na modelu Sonar i na dalších modelech, abyste viděli rozdíl.

Začněte používat Sonar ještě dnes

Sonar vyniká poskytováním rychlých a přesných odpovědí, což z něj činí skvělý model pro každodenní použití. Uživatelé Perplexity Pro si mohou nastavit Sonar jako svůj výchozí model v nastavení. Lze jej také používat prostřednictvím rozhraní API pro Sonar*.

Poznámky pod čarou

†Tato hodnocení jsou bodována na škále od 0 do 100, přičemž vyšší skóre znamená lepší výsledek.

*Model Sonar poskytovaný prostřednictvím API zatím neběží na inferenční infrastruktuře Cerebras, ale brzy bude k dispozici.