Poznaj nowy Sonar: Błyskawicznie Szybki Model Optymalizowany dla Perplexity Search

Od dziś wszyscy użytkownicy Perplexity Pro będą mogli wypróbować najnowszą wersję Sonar, modelu wewnętrznego Perplexity, który jest optymalizowany pod kątem jakości odpowiedzi oraz doświadczeń użytkowników. Oparty na Llama 3.3 70B, Sonar został dodatkowo przeszkolony, aby poprawić faktualność i czytelność odpowiedzi w domyślnym trybie wyszukiwania Perplexity.

Poprzez kompleksowe testy A/B online odkryliśmy, że Sonar znacznie przewyższa modele w swojej klasie, takie jak GPT-4o mini i Claude 3.5 Haiku, jednocześnie dokładnie dopasowując się do wydajności lub przewyższając modele liniowe, takie jak GPT-4o i Claude 3.5 Sonnet pod kątem satysfakcji użytkowników. Dzięki infrastruktury inferencyjnej Cerebras, Sonar działa z błyskawicznie szybką prędkością 1200 tokenów na sekundę — umożliwiając niemal natychmiastowe generowanie odpowiedzi.

Użytkownicy Perplexity Wolą Sonar

Przeprowadziliśmy szerokie testy A/B online Sonar w celu zmierzenia satysfakcji użytkowników — kluczowego wskaźnika, który jest mocno powiązany z użytkowaniem produktu i retencją. Wskaźnik ten odzwierciedla, jak zadowoleni i zaangażowani są użytkownicy podczas zadawania pytań w Perplexity.

Nasze oceny pokazują, że Sonar przewyższa zarówno GPT-4o mini, jak i Claude 3.5 Haiku o znaczną różnicą. Porównaliśmy także Sonar z droższymi modelami liniowymi i odkryliśmy, że przewyższa Claude 3.5 Sonnet, jednocześnie zbliżając się do wydajności GPT-4o za ułamek ceny i ponad 10 razy większą szybkość.

Błyskawiczna Szybkość Pozwala na Natychmiastowe Odpowiedzi

Dzięki infrastruktury inferencyjnej Cerebras, Sonar dostarcza odpowiedzi w błyskawicznie szybkich prędkościach, osiągając przepustowość dekodowania prawie 10x szybszą niż porównywalne model, takie jak Gemini 2.0 Flash. To umożliwia niemal natychmiastowe generowanie odpowiedzi, co czyni Sonar idealnym dla szybkiego pobierania informacji lub szczegółowych przypadków użycia odpowiedzi na pytania.

Sonar Doskonale Sprawdza się w Dostarczaniu Faktycznych i Wysokiej Jakości Odpowiedzi

Optymalizowaliśmy Sonar w dwóch kluczowych wymiarach, które mocno korelują z satysfakcją użytkowników — faktualność odpowiedzi i czytelność.

• Faktualność Odpowiedzi: Mierzy zdolność modelu do odpowiadania na pytania za pomocą faktów opartych na wynikach wyszukiwania i jego zdolność do rozwiązywania sprzecznych lub brakujących informacji

• Czytelność: Mierzy zdolność modelu do dostarczenia zwięzłej i szczegółowej odpowiedzi z odpowiednim użyciem formatowania markdown dla organizacji tekstu

Nasze wyniki pokazują, że Sonar znacząco poprawia te aspekty w porównaniu do modelu bazowego, Llama 3.3 70B Instruct, i nawet przewyższa inne modele liniowe w tych kluczowych obszarach†.

Dodatkowo, Sonar przewyższa modele w swojej klasie, takie jak GPT-4o mini i Claude 3.5 Haiku na akademickich benchmarkach oceniających przestrzeganie instrukcji użytkowników i wiedzę o świecie.

• IFEval: Mierzy jak dobrze model przestrzega instrukcji przekazanych przez użytkowników

• MMLU: Ocenia wiedzę o świecie w różnych dziedzinach

Jak Sonar Odpowiada na Pytania

Jak wyglądają praktyczne przykłady zwiększonej faktualności i czytelności? Porównaj te wyszukiwania, które były przeprowadzone zarówno na Sonar, jak i innych modelach, aby zobaczyć różnicę.

Używaj Sonar Dziś

Sonar doskonale sprawdza się w dostarczaniu szybkich i dokładnych odpowiedzi, czyniąc go doskonałym model dla codziennego użytku. Użytkownicy Perplexity Pro mogą uczynić Sonar swoim domyślnym modelem w swoich ustawieniach. Może być również używany poprzez ofertę API Sonar*.

Przypisy

• †Oceny te są stopniowane w skali od 0 do 100, gdzie wyższe wartości są lepsze

• *Model Sonar oferowany poprzez API jeszcze nie jest uruchomiony na infra struktury inferencyjnej Cerebras, ale wkrótce się pojawi