Das neue Sonar: Ein blitzschnelles Modell für die Perplexity-Suche

Ab heute können alle Perplexity Pro-Nutzer die neueste Version von Sonar ausprobieren, dem hauseigenen Modell von Perplexity, das für Antwortqualität und Benutzererfahrung optimiert ist. Aufbauend auf Llama 3.3 70B wurde Sonar weiter trainiert, um die faktische Korrektheit und Lesbarkeit der Antworten im Standardsuchmodus von Perplexity zu verbessern.

Durch umfassende Online-A/B-Tests haben wir festgestellt, dass Sonar die Modelle seiner Klasse, wie GPT-4o mini und Claude 3.5 Haiku, deutlich übertrifft, während es bei der Benutzerzufriedenheit die Leistung von Spitzenmodellen wie GPT-4o und Claude 3.5 Sonnet erreicht oder sogar übertrifft. Dank der Cerebras-Inferenz-Infrastruktur läuft Sonar mit einer blitzschnellen Geschwindigkeit von 1200 Token pro Sekunde, was eine nahezu sofortige Generierung von Antworten ermöglicht.

Perplexity-Nutzer bevorzugen Sonar

Wir haben umfangreiche Online-A/B-Tests von Sonar durchgeführt, um die Benutzerzufriedenheit zu messen – eine Schlüsselkennzahl, die stark mit der Produktnutzung und Kundenbindung korreliert. Diese Kennzahl erfasst, wie zufrieden und engagiert Nutzer sind, wenn sie Fragen auf Perplexity stellen.

Unsere Auswertungen zeigen, dass Sonar sowohl GPT-4o mini als auch Claude 3.5 Haiku mit deutlichem Abstand übertrifft. Wir haben Sonar auch mit teureren Spitzenmodellen verglichen und festgestellt, dass es Claude 3.5 Sonnet übertrifft und die Leistung von GPT-4o bei einem Bruchteil der Kosten und einer mehr als zehnmal höheren Geschwindigkeit nahezu erreicht.

Blitzschnelle Geschwindigkeit ermöglicht sofortige Antworten

Unterstützt durch die Cerebras-Inferenz-Infrastruktur liefert Sonar Antworten bei blitzschneller Geschwindigkeit und erzielt einen Dekodierungsdurchsatz, der fast zehnmal schneller ist als bei vergleichbaren Modellen wie Gemini 2.0 Flash. Dies ermöglicht eine nahezu sofortige Antwortgenerierung, wodurch Sonar ideal für die schnelle Informationsbeschaffung oder detaillierte Anwendungsfälle zur Beantwortung von Fragen ist.

Sonar zeichnet sich durch faktisch korrekte und qualitativ hochwertige Antworten aus

Wir haben Sonar in zwei kritischen Dimensionen optimiert, die stark mit der Benutzerzufriedenheit korrelieren – faktische Korrektheit und Lesbarkeit der Antworten.

Faktische Korrektheit der Antworten: Misst, wie gut ein Modell Fragen mithilfe von Fakten beantworten kann, die auf Suchergebnissen basieren, sowie seine Fähigkeit, widersprüchliche oder fehlende Informationen aufzulösen

Lesbarkeit: Misst die Fähigkeit eines Modells, eine prägnante und detaillierte Antwort unter angemessener Verwendung von Markdown-Formatierungen zur Strukturierung des Textes zu liefern

Unsere Ergebnisse zeigen, dass Sonar diese Aspekte im Vergleich zum Basismodell Llama 3.3 70B Instruct erheblich verbessert und in diesen Schlüsselbereichen sogar andere Spitzenmodelle übertrifft†.

Darüber hinaus übertrifft Sonar auch klasseninterne Modelle wie GPT-4o mini und Claude 3.5 Haiku bei akademischen Benchmarks, die die Befolgung von Benutzeranweisungen und das Weltwissen messen.

IFEval: Misst, wie gut ein Modell die von Benutzern bereitgestellten Anweisungen einhält

MMLU: Bewertet das Weltwissen über verschiedene Domänen hinweg

Wie Sonar Fragen beantwortet

Wie zeigen sich höhere faktische Korrektheit und Lesbarkeit in der Praxis? Vergleichen Sie diese Suchanfragen, die sowohl mit Sonar als auch mit anderen Modellen durchgeführt wurden, um den Unterschied zu sehen.

Nutzen Sie Sonar noch heute

Sonar zeichnet sich durch schnelle und genaue Antworten aus und ist damit ein hervorragendes Modell für den täglichen Gebrauch. Perplexity Pro-Nutzer können Sonar in ihren Einstellungen als Standardmodell festlegen. Es kann auch über das Sonar API-Angebot* genutzt werden.

Fußnoten

†Diese Bewertungen werden auf einer Skala von 0 bis 100 bewertet, wobei ein höherer Wert besser ist

*Das über die API bereitgestellte Sonar-Modell läuft noch nicht auf der Cerebras-Inferenz-Infrastruktur, wird dies aber in Kürze tun