Upoznajte novi Sonar: Izuzetno brz model optimiziran za pretraživanje

Počevši od danas, svi korisnici pretplate Perplexity Pro moći će isprobati najnoviju verziju modela Sonar, Perplexityjevog vlastitog modela optimiziranog za kvalitetu odgovora i korisničko iskustvo. Izgrađen na Llama 3.3 70B arhitekturi, Sonar je dodatno treniran kako bi se poboljšala činjenična točnost odgovora i čitljivost za zadani način pretraživanja na platformi Perplexity.

Kroz sveobuhvatno online A/B testiranje otkrili smo da Sonar značajno nadmašuje modele u svojoj klasi, poput GPT-4o mini i Claude 3.5 Haiku, istovremeno blisko prateći ili nadmašujući performanse vodećih modela kao što su GPT-4o i Claude 3.5 Sonnet u pogledu zadovoljstva korisnika. Pokretan Cerebras infrastrukturom za inferenciju, Sonar radi nevjerojatnom brzinom od 1200 tokena u sekundi – omogućujući gotovo trenutačno generiranje odgovora.

Korisnici Perplexityja preferiraju Sonar

Proveli smo opsežno online A/B testiranje modela Sonar kako bismo izmjerili zadovoljstvo korisnika – ključnu metriku koja je snažno povezana s korištenjem proizvoda i zadržavanjem korisnika. Ova metrika bilježi koliko su korisnici zadovoljni i angažirani prilikom postavljanja pitanja na Perplexityju.

Naše procjene pokazuju da Sonar značajno premašuje i GPT-4o mini i Claude 3.5 Haiku. Također smo usporedili Sonar s skupljim vodećim modelima i otkrili da nadmašuje Claude 3.5 Sonnet, pritom se opasno približavajući performansama modela GPT-4o uz djelić cijene i više nego deset puta veću brzinu.

Nevjerojatna brzina omogućuje trenutačne odgovore

Pokretan Cerebras infrastrukturom za inferenciju, Sonar pruža odgovore nevjerojatnim brzinama, postižući propusnost dekodiranja koja je gotovo 10 puta brža od usporedivih modela poput Gemini 2.0 Flash. To omogućuje gotovo trenutačno generiranje odgovora, čineći Sonar idealnim za brzo pronalaženje informacija ili detaljno odgovaranje na pitanja.

Sonar se ističe pružanjem činjeničnih i visokokvalitetnih odgovora

Optimizirali smo Sonar u dvije ključne dimenzije koje su snažno povezane sa zadovoljstvom korisnika – činjeničnoj točnosti odgovora i čitljivosti.

Činjenična točnost odgovora: Mjeri koliko model može odgovoriti na pitanja koristeći činjenice koje se temelje na rezultatima pretraživanja, te njegovu sposobnost rješavanja proturječnih ili nedostajućih informacija

Čitljivost: Mjeri sposobnost modela da pruži sažet i detaljan odgovor uz odgovarajuću uporabu markdown formatiranja za organiziranje teksta

Naši rezultati pokazuju da Sonar značajno poboljšava ove aspekte u usporedbi s osnovnim modelom Llama 3.3 70B Instruct, pa čak i nadmašuje druge vodeće modele u ovim ključnim područjima†.

Osim toga, Sonar nadmašuje i modele unutar iste klase poput GPT-4o mini i Claude 3.5 Haiku na akademskim mjerilima koja ocjenjuju praćenje korisničkih uputa i opće znanje.

IFEval: Mjeri koliko se model pridržava uputa koje je dao korisnik

MMLU: Procjenjuje opće znanje u različitim domenama

Kako Sonar odgovara na pitanja

Kako povećana činjenična točnost i čitljivost izgledaju u praksi? Usporedite ova pretraživanja, provedena na modelu Sonar i drugim modelima, kako biste vidjeli razliku.

Iskoristite Sonar već danas

Sonar se ističe pružanjem brzih i točnih odgovora, što ga čini odličnim modelom za svakodnevnu upotrebu. Korisnici pretplate Perplexity Pro mogu postaviti Sonar kao svoj zadani model u postavkama. Može se koristiti i putem Sonar API ponude*.

Fusnote

†Ove se procjene ocjenjuju na ljestvici od 0 do 100, pri čemu je viši rezultat bolji

*Model Sonar koji se poslužuje putem API-ja još uvijek ne radi na Cerebras infrastrukturi za inferenciju, ali uskoro dolazi