Встречайте новый Sonar: быстрая модель для поиска Perplexity

Начиная с сегодняшнего дня, все пользователи Perplexity Pro смогут опробовать последнюю версию Sonar — собственной модели Perplexity, оптимизированной для обеспечения высокого качества ответов и удобства пользователей. Модель Sonar, созданная на базе Llama 3.3 70B, была дополнительно обучена для повышения фактической точности и читаемости ответов в режиме поиска по умолчанию в Perplexity.

Благодаря всестороннему онлайн A/B-тестированию мы установили, что Sonar значительно превосходит модели своего класса, такие как GPT-4o mini и Claude 3.5 Haiku, а также практически не уступает или превосходит по уровню удовлетворенности пользователей такие передовые модели, как GPT-4o и Claude 3.5 Sonnet. Работая на базе инфраструктуры логического вывода Cerebras, Sonar обеспечивает невероятно высокую скорость — 1200 токенов в секунду, что позволяет генерировать ответы практически мгновенно.

Пользователи Perplexity выбирают Sonar

Мы провели масштабное онлайн A/B-тестирование Sonar для оценки удовлетворенности пользователей — ключевого показателя, который тесно коррелирует с использованием продукта и его удержанием. Этот показатель отражает степень удовлетворенности и вовлеченности пользователей при задании вопросов в Perplexity.

Наши оценки показывают, что Sonar значительно превосходит как GPT-4o mini, так и Claude 3.5 Haiku. Мы также сравнили Sonar с более дорогими передовыми моделями и обнаружили, что он превосходит Claude 3.5 Sonnet, при этом приближаясь к производительности GPT-4o, но при этом стоит значительно дешевле и работает более чем в 10 раз быстрее.

Невероятная скорость для мгновенных ответов

Работая на базе инфраструктуры логического вывода Cerebras, Sonar выдает ответы с невероятно высокой скоростью, достигая пропускной способности декодирования, которая почти в 10 раз выше, чем у сопоставимых моделей, таких как Gemini 2.0 Flash. Это обеспечивает практически мгновенную генерацию ответов, что делает Sonar идеальным решением для быстрого поиска информации или детального ответов на вопросы.

Sonar превосходно справляется с предоставлением фактических и качественных ответов

Мы оптимизировали Sonar по двум критическим параметрам, которые тесно связаны с удовлетворенностью пользователей — фактическая точность и читаемость ответов.

Фактическая точность ответов: измеряет способность модели отвечать на вопросы, используя факты, основанные на результатах поиска, а также ее способность разрешать противоречивую или отсутствующую информацию.

Читаемость: измеряет способность модели предоставлять краткий и подробный ответ с соответствующим использованием форматирования markdown для структурирования текста.

Наши результаты показывают, что Sonar значительно улучшает эти аспекты по сравнению с базовой моделью Llama 3.3 70B Instruct и даже превосходит другие передовые модели в этих ключевых областях†.

Кроме того, Sonar превосходит модели своего класса, такие как GPT-4o mini и Claude 3.5 Haiku, по академическим тестам, измеряющим следование инструкциям пользователя и общие знания.

IFEval: измеряет, насколько хорошо модель придерживается инструкций, предоставленных пользователем.

MMLU: оценивает общие знания в различных областях.

Как Sonar отвечает на вопросы

Как на практике выглядят повышенная фактическая точность и читаемость? Сравните результаты этих поисковых запросов, выполненных как с помощью Sonar, так и с другими моделями, чтобы увидеть разницу.

Используйте Sonar уже сегодня

Sonar превосходно справляется с предоставлением быстрых и точных ответов, что делает его отличной моделью для повседневного использования. Пользователи Perplexity Pro могут сделать Sonar моделью по умолчанию в своих настройках. Его также можно использовать через предложение Sonar API*.

Примечания

†Эти оценки выставляются по шкале от 0 до 100, где более высокий балл означает лучший результат.

*Модель Sonar, предоставляемая через API, пока не работает на инфраструктуре логического вывода Cerebras, но скоро будет запущена.