Познакомьтесь с новым Sonar: Модель с молниеносной скоростью, оптимизированная для поиска Perplexity

С сегодняшнего дня все пользователи Perplexity Pro смогут опробовать последнюю версию Sonar, внутренней модели Perplexity, оптимизированной для качества ответов и пользовательского опыта. Основанный на Llama 3.3 70B, Sonar был дополнительно обучен для повышения фактическости и читаемости ответов в режиме поиска по умолчанию Perplexity.

Через комплексное онлайн A/B тестирование мы обнаружили, что Sonar значительно превосходит модели в своем классе, такие как GPT-4o mini и Claude 3.5 Haiku, в то время как тесно подходит или превосходит производительность передовых моделей, таких как GPT-4o и Claude 3.5 Sonnet, по удовлетворенности пользователей. Используя инфраструктуру вывода Cerebras, Sonar работает с молниеносной скоростью 1200 токенов в секунду — обеспечивая почти мгновенное создание ответов.

Пользователи Perplexity предпочитают Sonar

Мы провели обширное онлайн A/B тестирование Sonar для оценки удовлетворенности пользователей — ключевой показатель, который сильно коррелирует с использованием продукта и удержанием. Этот показатель фиксирует, насколько удовлетворены и вовлечены пользователи при задавании вопросов на Perplexity.

Наши оценки показывают, что Sonar превосходит как GPT-4o mini, так и Claude 3.5 Haiku с значительным отрывом. Мы также сравнили Sonar с более дорогими передовыми моделями и обнаружили, что он превосходит Claude 3.5 Sonnet, в то время как тесно приближается к производительности GPT-4o за долю цены и более чем в 10 раз большую скорость.

Молниеносная скорость обеспечивает мгновенные ответы

С помощью инфраструктуры вывода Cerebras Sonar предоставляет ответы с молниеносной скоростью, достигая высокого уровня пропускной способности декодирования, который почти в 10 раз быстрее, чем у сравнимых моделей, таких как Gemini 2.0 Flash. Это обеспечивает почти мгновенное создание ответов, что делает Sonar идеальным для быстрого получения информации или использования в случаях детального ответа на вопросы.

Sonar отлично справляется с предоставлением фактических и высококачественных ответов

Мы оптимизировали Sonar по двум критическим параметрам, которые сильно коррелируют с удовлетворенностью пользователей — фактическость и читаемость ответов.

• Фактическость ответа: Оценивает, насколько хорошо модель может отвечать на вопросы, используя факты, основанные на результатах поиска, и ее способность разрешать противоречивую или отсутствующую информацию

• Читаемость: Оценивает способность модели предоставлять краткий и подробный ответ с правильным использованием форматирования Markdown для организации текста

Наши результаты показывают, что Sonar значительно улучшает эти аспекты по сравнению с базовой моделью Llama 3.3 70B Instruct и даже превосходит другие передовые модели в этих ключевых областях†.

Кроме того, Sonar также превосходит модели своего класса, такие как GPT-4o mini и Claude 3.5 Haiku, на академических бенчмарках, которые измеряют следование инструкциям пользователя и знание мира.

• IFEval: Оценивает, насколько хорошо модель придерживается инструкций, предоставленных пользователем

• MMLU: Оценивает знания мира в различных областях

Как Sonar отвечает на вопросы

Как выглядит повышенная фактическость и читаемость на практике? Сравните эти поисковые запросы, которые были выполнены как на Sonar, так и на других моделях, чтобы увидеть разницу.

Используйте Sonar сегодня

Sonar превосходно справляется с предоставлением быстрых и точных ответов, делая его отличной моделью для ежедневного использования. Пользователи Perplexity Pro могут сделать Sonar своей моделью по умолчанию в настройках. Его также можно использовать через API Sonar*.

Примечания

• †Эти оценки оцениваются по шкале от 0 до 100, где чем выше, тем лучше

• *Модель Sonar, обслуживаемая через API, пока не работает на инфраструктуре вывода Cerebras, но скоро будет доступна