Poznaj nowy Sonar: szybki model dla wyszukiwarki Perplexity

Począwszy od dzisiaj, wszyscy użytkownicy Perplexity Pro będą mogli wypróbować najnowszą wersję Sonar, autorskiego modelu Perplexity zoptymalizowanego pod kątem jakości odpowiedzi i komfortu użytkowania. Model Sonar, zbudowany w oparciu o Llama 3.3 70B, został dodatkowo wytrenowany w celu zwiększenia faktyczności i czytelności odpowiedzi w domyślnym trybie wyszukiwania Perplexity.

Dzięki wszechstronnym testom A/B online ustaliliśmy, że Sonar znacząco przewyższa modele w swojej klasie, takie jak GPT-4o mini i Claude 3.5 Haiku, jednocześnie dorównując wydajnością lub przewyższając pod względem satysfakcji użytkownika modele graniczne, takie jak GPT-4o i Claude 3.5 Sonnet. Wspierany przez infrastrukturę wnioskowania Cerebras, Sonar działa z zawrotną prędkością 1200 tokenów na sekundę, umożliwiając niemal natychmiastowe generowanie odpowiedzi.

Użytkownicy Perplexity preferują Sonar

Przeprowadziliśmy szeroko zakrojone testy A/B online modelu Sonar, aby zmierzyć satysfakcję użytkowników – kluczowy wskaźnik silnie skorelowany z korzystaniem z produktu i jego retencją. Wskaźnik ten mierzy zadowolenie i zaangażowanie użytkowników podczas zadawania pytań w Perplexity.

Nasze ewaluacje pokazują, że Sonar znacząco przewyższa zarówno GPT-4o mini, jak i Claude 3.5 Haiku. Porównaliśmy również Sonar z droższymi modelami granicznymi i stwierdziliśmy, że przewyższa on Claude 3.5 Sonnet, zbliżając się jednocześnie do wydajności GPT-4o za ułamek ceny i przy ponad 10-krotnie większej prędkości.

Zawrotna prędkość umożliwia natychmiastowe odpowiedzi

Wspierany przez infrastrukturę wnioskowania Cerebras, Sonar dostarcza odpowiedzi z zawrotną prędkością, osiągając przepustowość dekodowania prawie 10-krotnie wyższą niż w porównywalnych modelach, takich jak Gemini 2.0 Flash. Umożliwia to niemal natychmiastowe generowanie odpowiedzi, dzięki czemu Sonar idealnie nadaje się do szybkiego wyszukiwania informacji lub szczegółowego udzielania odpowiedzi na pytania.

Sonar wyróżnia się dostarczaniem faktycznych i wysokiej jakości odpowiedzi

Zoptymalizowaliśmy Sonar pod kątem dwóch kluczowych wymiarów, które silnie korelują z satysfakcją użytkownika – faktyczności i czytelności odpowiedzi.

Faktyczność odpowiedzi: Mierzy, jak dobrze model potrafi odpowiadać na pytania przy użyciu faktów opartych na wynikach wyszukiwania oraz jego zdolność do rozstrzygania sprzecznych lub brakujących informacji.

Czytelność: Mierzy zdolność modelu do udzielania zwięzłej i szczegółowej odpowiedzi przy odpowiednim użyciu formatowania markdown do organizowania tekstu.

Nasze wyniki pokazują, że Sonar znacząco poprawia te aspekty w porównaniu z modelem bazowym Llama 3.3 70B Instruct, a w tych kluczowych obszarach przewyższa nawet inne modele graniczne†.

Dodatkowo Sonar przewyższa modele tej samej klasy, takie jak GPT-4o mini i Claude 3.5 Haiku, w testach porównawczych (benchmarkach) mierzących przestrzeganie instrukcji użytkownika oraz wiedzę o świecie.

IFEval: Mierzy, jak dobrze model przestrzega instrukcji przekazanych przez użytkownika.

MMLU: Ocenia wiedzę o świecie w różnych dziedzinach.

Jak Sonar odpowiada na pytania

Jak w praktyce wygląda zwiększona faktyczność i czytelność? Porównaj te wyszukiwania, przeprowadzone zarówno w modelu Sonar, jak i innych, aby zobaczyć różnicę.

Korzystaj z Sonar już dziś

Sonar wyróżnia się dostarczaniem szybkich i dokładnych odpowiedzi, co czyni go świetnym modelem do codziennego użytku. Użytkownicy Perplexity Pro mogą ustawić Sonar jako swój domyślny model w ustawieniach. Można z niego również korzystać za pośrednictwem oferty Sonar API*.

Przypisy

†Ewaluacje te są oceniane w skali od 0 do 100, gdzie wyższy wynik jest lepszy.

*Model Sonar udostępniany przez API nie działa jeszcze w oparciu o infrastrukturę wnioskowania Cerebras, ale wkrótce zostanie to wdrożone.