Iepazīstiet jauno Sonar: neticami ātrs modelis Perplexity meklēšanai

Sākot ar šo dienu, visi Perplexity Pro lietotāji varēs izmēģināt jaunāko Sonar versiju – Perplexity pašu izstrādāto modeli, kas ir optimizēts atbilžu kvalitātei un lietotāja pieredzei. Uz Llama 3.3 70B bāzes izveidotais Sonar ir papildus apmācīts, lai uzlabotu atbilžu faktu precizitāti un lasāmību Perplexity noklusējuma meklēšanas režīmā.

Veicot visaptverošu tiešsaistes A/B testēšanu, mēs esam noskaidrojuši, ka Sonar būtiski apsteidz savas klases modeļus, piemēram, GPT-4o mini un Claude 3.5 Haiku, vienlaikus tuvu līdzinoties vai pārsniedzot tādu modernāko modeļu kā GPT-4o un Claude 3.5 Sonnet veiktspēju lietotāju apmierinātības ziņā. Darbojoties uz Cerebras secinājumu infrastruktūras bāzes, Sonar darbojas ar neticami lielu ātrumu – 1200 tokeni sekundē –, nodrošinot gandrīz tūlītēju atbilžu ģenerēšanu.

Perplexity lietotāji dod priekšroku Sonar

Mēs veicām plašu Sonar tiešsaistes A/B testēšanu, lai izmērītu lietotāju apmierinātību – galveno rādītāju, kas cieši korelē ar produkta lietošanu un noturību. Šis rādītājs atspoguļo, cik apmierināti un iesaistīti ir lietotāji, kad viņi uzdod jautājumus pakalpojumā Perplexity.

Mūsu novērtējumi rāda, ka Sonar būtiski pārspēj gan GPT-4o mini, gan Claude 3.5 Haiku. Mēs arī salīdzinājām Sonar ar dārgākiem modernākajiem modeļiem un secinājām, ka tas pārspēj Claude 3.5 Sonnet, vienlaikus tuvojoties GPT-4o veiktspējai par nelielu daļu no cenas un ar vairāk nekā 10 reizes lielāku ātrumu.

Neticami liels ātrums nodrošina tūlītējas atbildes

Pateicoties Cerebras secinājumu infrastruktūrai, Sonar sniedz atbildes ar neticami lielu ātrumu, sasniedzot dekodēšanas caurlaidību, kas ir gandrīz 10 reizes ātrāka nekā līdzīgiem modeļiem, piemēram, Gemini 2.0 Flash. Tas nodrošina gandrīz tūlītēju atbilžu ģenerēšanu, padarot Sonar ideāli piemērotu ātrai informācijas ieguvei vai detalizētiem jautājumu un atbilžu scenārijiem.

Sonar izceļas ar faktoloģiski pareizu un augstas kvalitātes atbilžu sniegšanu

Mēs optimizējām Sonar divos kritiskos virzienos, kas cieši korelē ar lietotāju apmierinātību, – atbilžu faktu precizitātē un lasāmībā.

Atbilžu faktu precizitāte: mēra, cik labi modelis var atbildēt uz jautājumiem, izmantojot faktus, kas balstīti uz meklēšanas rezultātiem, un tā spēju atrisināt pretrunīgu vai trūkstošu informāciju

Lasāmība: mēra modeļa spēju sniegt kodolīgu un detalizētu atbildi, atbilstoši izmantojot markdown formatējumu teksta organizēšanai

Mūsu rezultāti parāda, ka Sonar būtiski uzlabo šos aspektus salīdzinājumā ar bāzes modeli Llama 3.3 70B Instruct un pat pārspēj citus modernākos modeļus šajās galvenajās jomās†.

Turklāt Sonar pārspēj arī savas klases modeļus, piemēram, GPT-4o mini un Claude 3.5 Haiku, akadēmiskajos salīdzināšanas testos, kas mēra lietotāju norādījumu ievērošanu un pasaules zināšanas.

IFEval: mēra, cik labi modelis ievēro lietotāja sniegtos norādījumus

MMLU: novērtē pasaules zināšanas dažādās jomās

Kā Sonar atbild uz jautājumiem

Kā praksē izskatās lielāka faktu precizitāte un lasāmība? Salīdziniet šos meklēšanas vaicājumus, kas tika veikti gan ar Sonar, gan citiem modeļiem, lai redzētu atšķirību.

Izmantojiet Sonar jau šodien

Sonar izceļas ar ātru un precīzu atbilžu sniegšanu, padarot to par lielisku modeli ikdienas lietošanai. Perplexity Pro lietotāji var iestatīt Sonar kā savu noklusējuma modeli savos iestatījumos. To var izmantot arī, izmantojot Sonar API piedāvājumu*.

Zemsvītras piezīmes

†Šie novērtējumi tiek vērtēti skalā no 0 līdz 100, kur augstāks rādītājs ir labāks

*Sonar modelis, kas tiek nodrošināts, izmantojot API, vēl nedarbojas uz Cerebras secinājumu infrastruktūras bāzes, taču tas drīz būs pieejams