Ismerje meg az új Sonart: Villámgyors modell a Perplexity Search keresőhöz optimalizálva

Mától kezdve minden Perplexity Pro felhasználó kipróbálhatja a Sonar legújabb verzióját, a Perplexity saját fejlesztésű modelljét, amely a válaszok minőségére és a felhasználói élményre van optimalizálva. A Llama 3.3 70B alapjaira épülő Sonar tovább lett fejlesztve, hogy javítsa a válaszok ténybeli helyességét és olvashatóságát a Perplexity alapértelmezett keresési módjában.

Átfogó online A/B tesztelés során azt találtuk, hogy a Sonar jelentősen felülmúlja a kategóriájába tartozó modelleket, például a GPT-4o mini-t és a Claude 3.5 Haiku-t, miközben a felhasználói elégedettség terén szorosan megközelíti vagy túlszárnyalja az olyan csúcskategóriás modellek teljesítményét, mint a GPT-4o és a Claude 3.5 Sonnet. A Cerebras inferencia-infrastruktúrája által hajtott Sonar villámgyors, másodpercként közel 1200 tokenes sebességgel fut, ami szinte azonnali válaszadást tesz lehetővé.

A Perplexity felhasználók a Sonar modellt részesítik előnyben

Alapos online A/B tesztelést végeztünk a Sonarral, hogy mérjük a felhasználói elégedettséget – ez egy kulcsfontosságú mutató, amely szoros összefüggést mutat a termék használatával és megtartásával. Ez a mutató azt rögzíti, hogy a felhasználók mennyire elégedettek és elkötelezettek, amikor kérdéseket tesznek fel a Perplexityn.

Értékeléseink azt mutatják, hogy a Sonar jelentős előnnyel múlja felül mind a GPT-4o mini-t, mind a Claude 3.5 Haiku-t. Összehasonlítottuk a Sonart drágább csúcskategóriás modellekkel is, és azt találtuk, hogy felülmúlja a Claude 3.5 Sonnet-et, miközben szinte eléri a GPT-4o teljesítményét töredék áron és több mint tízszeres sebességgel.

A villámgyors sebesség azonnali válaszokat tesz lehetővé

A Cerebras inferencia-infrastruktúrájával támogatott Sonar villámgyors sebességgel biztosít válaszokat, és olyan dekódolási átviteli sebességet ér el, amely közel 10-szer gyorsabb, mint a hasonló modelleké, például a Gemini 2.0 Flashé. Ez szinte azonnali válaszgenerálást tesz lehetővé, ami a Sonart ideálissá teszi gyors információkeresési vagy részletes kérdésmegválaszolási feladatokhoz.

A Sonar kiválóan biztosít ténybeliahol helyes és kiváló minőségű válaszokat

A Sonart két olyan kritikus dimenzió mentén optimalizáltuk, amelyek szorosan összefüggnek a felhasználói elégedettséggel: a válaszok ténybeli helyessége és az olvashatóság.

Válaszok ténybeli helyessége: Azt méri, hogy egy modell milyen jól tud válaszolni a keresési eredményekben szereplő tényeken alapuló kérdésekre, valamint azt, hogy képes-e feloldani az ellentmondásos vagy hiányzó információkat

Olvashatóság: Azt méri, hogy a modell képes-e tömör és részletes választ adni a szöveg szervezéséhez szükséges markdown formázás megfelelő használatával

Eredményeink azt mutatják, hogy a Sonar jelentősen javítja ezeket a szempontokat az alapmodellhez, a Llama 3.3 70B Instructhoz képest, és ezen kulcsfontosságú területeken még más csúcskategóriás modelleket is túlszárnyal†.

Emellett a Sonar az olyan kategóriabeli modelleket is felülmúlja, mint a GPT-4o mini és a Claude 3.5 Haiku azokon az akadémiai teszteken, amelyek a felhasználói utasítások követését és a világismeretet mérik.

IFEval: Azt méri, hogy a modell mennyire tartja be a felhasználó által megadott utasításokat

MMLU: Különböző tartományokon keresztül értékeli a világismeretet

Hogyan válaszol a Sonar a kérdésekre?

Hogyan fest a gyakorlatban a megnövekedett ténybeli helyesség és olvashatóság? Hasonlítsa össze ezeket a kereséseket, amelyeket a Sonaron és más modelleken is elvégeztek, hogy lássa a különbséget.

Használja a Sonart még ma

A Sonar kiválóan biztosít gyors és pontos válaszokat, így nagyszerű modell a mindennapi használatra. A Perplexity Pro felhasználók a beállításaikban alapértelmezett modellként állíthatják be a Sonart. A Sonar API-ajánlaton* keresztül is használható.

Lábjegyzetek

†Ezeket az értékeléseket 0-tól 100-ig terjedő skálán pontozzák, ahol a magasabb érték a jobb

*Az API-n keresztül kiszolgált Sonar modell még nem a Cerebras inferencia-infrastruktúráján fut, de hamarosan megérkezik