Conheça o novo Sonar: um modelo ultrarrápido otimizado para a pesquisa Perplexity

A partir de hoje, todos os utilizadores do Perplexity Pro poderão experimentar a versão mais recente do Sonar, o modelo interno do Perplexity otimizado para a qualidade das respostas e experiência do utilizador. Criado com base no Llama 3.3 70B, o Sonar foi ainda mais treinado para melhorar a factualidade e a legibilidade das respostas para o modo de pesquisa predefinido do Perplexity.

Através de testes A/B online abrangentes, descobrimos que o Sonar supera significativamente os modelos da sua classe, como o GPT-4o mini e o Claude 3.5 Haiku, ao mesmo tempo que iguala ou excede de perto o desempenho de modelos de ponta como o GPT-4o e o Claude 3.5 Sonnet na satisfação do utilizador. Com a infraestrutura de inferência da Cerebras, o Sonar funciona a uma velocidade impressionante de 1200 tokens por segundo — permitindo uma geração de respostas quase instantânea.

Os utilizadores do Perplexity preferem o Sonar

Realizámos extensos testes A/B online do Sonar para medir a satisfação do utilizador — uma métrica-chave que está fortemente correlacionada com a utilização e retenção do produto. Esta métrica capta o quão satisfeitos e envolvidos estão os utilizadores ao fazerem perguntas no Perplexity.

As nossas avaliações mostram que o Sonar supera tanto o GPT-4o mini quanto o Claude 3.5 Haiku por uma margem substancial. Também comparámos o Sonar com modelos de ponta mais caros e descobrimos que ele supera o Claude 3.5 Sonnet, aproximando-se do desempenho do GPT-4o a uma fração do preço e com mais de 10 vezes a velocidade.

Velocidade impressionante permite respostas instantâneas

Com a infraestrutura de inferência da Cerebras, o Sonar entrega respostas a velocidades impressionantes, alcançando um rendimento de descodificação que é quase 10 vezes mais rápido do que modelos comparáveis como o Gemini 2.0 Flash. Isto permite uma geração de respostas quase instantânea, tornando o Sonar ideal para a recuperação rápida de informações ou casos de uso de resposta detalhada a perguntas.

O Sonar destaca-se por fornecer respostas factuais e de alta qualidade

Otimizámos o Sonar em duas dimensões críticas que se correlacionam fortemente com a satisfação do utilizador — a factualidade e a legibilidade das respostas.

Factualidade da resposta: Mede quão bem um modelo consegue responder a perguntas utilizando factos fundamentados em resultados de pesquisa, e a sua capacidade de resolver informações conflituosas ou em falta

Legibilidade: Mede a capacidade de um modelo de fornecer uma resposta concisa e detalhada com o uso adequado de formatação markdown para organizar o texto

Os nossos resultados demonstram que o Sonar melhora significativamente estes aspetos em comparação com o modelo base, Llama 3.3 70B Instruct, e até supera outros modelos de ponta nestas áreas-chave†.

Além disso, o Sonar também supera modelos da mesma classe como o GPT-4o mini e o Claude 3.5 Haiku em benchmarks académicos que medem a capacidade de seguir instruções do utilizador e o conhecimento geral.

IFEval: Mede quão bem um modelo cumpre as instruções fornecidas pelo utilizador

MMLU: Avalia o conhecimento geral em diversos domínios

Como o Sonar responde a perguntas

Como se traduzem o aumento da factualidade e da legibilidade na prática? Compare estas pesquisas, realizadas tanto no Sonar quanto noutros modelos, para ver a diferença.

Use o Sonar hoje

O Sonar destaca-se por fornecer respostas rápidas e precisas, tornando-se um excelente modelo para o uso diário. Os utilizadores do Perplexity Pro podem definir o Sonar como o seu modelo predefinido nas definições. Também pode ser utilizado através da oferta da API do Sonar*.

Notas de rodapé

†Estas avaliações são pontuadas numa escala de 0 a 100, onde valores mais altos são melhores

*O modelo Sonar disponibilizado através da API ainda não é executado na infraestrutura de inferência da Cerebras, mas estará disponível em breve