Tutvuge uue Sonariga: Perplexity otsingu jaoks optimeeritud välkkiire mudel

Alates täänasest saavad kõik Perplexity Pro kasutajad proovida Sonari uusimat versiooni, Perplexity omatoodetud mudelit, mis on optimeeritud vastuste kvaliteedi ja kasutajakogemuse tagamiseks. Llama 3.3 70B arhitektuurile üles ehitatud Sonarit on täiendavalt treenitud, et parandada vastuste faktipõhisust ja loetavust Perplexity vaikimisi otsingurežiimis.

Põhjaliku veebipõhise A/B-testimise käigus oleme leidnud, et Sonar ületab märgatavalt oma klassi mudeleid, nagu GPT-4o mini ja Claude 3.5 Haiku, saavutades samal ajal kasutajate rahulolu osas tulemused, mis on võrreldavad tipptasemel mudelitega nagu GPT-4o ja Claude 3.5 Sonnet või ületavad neid. Cerebrase järeldusinfrastruktuuril toetuv Sonar töötab välkkiirel kiirusel 1200 tokenit sekundis, võimaldades peaaegu hetkelist vastuste genereerimist.

Perplexity kasutajad eelistavad Sonarit

Viisime Sonariga läbi põhjaliku veebipõhise A/B-testimise, et mõõta kasutajate rahulolu – see on peamine mõõdik, mis on tugevalt seotud toote kasutuse ja säilitamisega. See mõõdik näitab, kui rahul ja kaasatud on kasutajad Perplexitys küsimuste esitamisel.

Meie hindamised näitavad, et Sonar edestab märgatavalt nii GPT-4o minit kui ka Claude 3.5 Haikut. Samuti võrdlesime Sonarit kallimate tipptasemel mudelitega ja leidsime, et see edestab Claude 3.5 Sonnetit, lähenedes samal ajal GPT-4o jõudlusele murdosa hinnaga ja enam kui 10-kordse kiirusega.

Välkkiire kiirus võimaldab koheseid vastuseid

Cerebrase järeldusinfrastruktuuril põhinev Sonar pakub vastuseid välkkiirel kiirusel, saavutades dekodeerimise läbilaskevõime, mis on peaaegu 10 korda kiirem kui võrreldavatel mudelitel, nagu Gemini 2.0 Flash. See võimaldab peaaegu hetkelist vastuste genereerimist, muutes Sonari ideaalseks kiireks teabeotsinguks või üksikasjalikele küsimustele vastamiseks.

Sonar paistab silma faktipõhiste ja kvaliteetsete vastuste pakkumisel

Optimeerisime Sonari kahes kriitilises mõõtmes, mis on tugevalt seotud kasutajate rahuloluga – vastuste faktipõhisus ja loetavus.

Vastuste faktipõhisus: mõõdab, kui hästi mudel suudab vastata küsimustele, kasutades otsingutulemustes leiduvad fakte, ning selle võimet lahendada vastuolulist või puudulikku teavet.

Loetavus: mõõdab mudeli võimet pakkuda lühikest ja üksikasjalikku vastust, kasutades teksti korrastamiseks asjakohaselt markdown-vormingut.

Meie tulemused näitavad, et Sonar parandab neid aspekte baasmudeliga Llama 3.3 70B Instruct võrreldes märgatavalt ning ületab nendes võtmevaldkondades isegi teisi tipptasemel mudeleid†.

Lisaks ületab Sonar oma klassi mudeleid, nagu GPT-4o mini ja Claude 3.5 Haiku, akadeemilistes võrdlusalustes, mis mõõdavad kasutaja antud juhiste järgimist ja maailmatundmist.

IFEval: mõõdab, kui hästi mudel järgib kasutaja antud juhiseid.

MMLU: hindab maailmatundmist erinevates valdkondades.

Kuidas Sonar küsimustele vastab

Milline näeb suurenenud faktipõhisus ja loetavus välja praktikas? Erinevuse nägemiseks võrrelge neid otsinguid, mis viidi läbi nii Sonari kui ka teiste mudelitega.

Kasutage Sonarit juba täna

Sonar paistab silma kiirete ja täpsete vastuste pakkumisega, mistõttu on see suurepärane mudel igapäevaseks kasutamiseks. Perplexity Pro kasutajad saavad teha Sonari oma vaikeveebimudeliks sätetes. Seda saab kasutada ka Sonari API pakkumise kaudu*.

Allmärkused

†Neid hinnanguid hinnatakse skaalal 0 kuni 100, kus suurem on parem.

*API kaudu pakutav Sonari mudel ei tööta veel Cerebrase järeldusinfrastruktuuril, kuid see on peagi tulemas.