Conozca el nuevo Sonar: Un modelo optimizado para búsqueda en Perplexity, increíblemente rápido

A partir de hoy, todos los usuarios de Perplexity Pro podrán probar la última versión de Sonar, el modelo desarrollado internamente por Perplexity, optimizado para la calidad de las respuestas y la experiencia del usuario. Construido sobre Llama 3.3 70B, Sonar ha sido entrenado adicionalmente para mejorar la veracidad y legibilidad de las respuestas en el modo de búsqueda predeterminado de Perplexity.

A través de pruebas exhaustivas A/B en línea, hemos encontrado que Sonar supera significativamente a los modelos de su clase, como GPT-4o mini y Claude 3.5 Haiku, al tiempo que iguala o supera el rendimiento de modelos de vanguardia como GPT-4o y Claude 3.5 Sonnet en cuanto a satisfacción del usuario. Impulsado por la infraestructura de inferencia de Cerebras, Sonar funciona a una velocidad impresionante de 1200 tokens por segundo, lo que permite una generación de respuestas casi instantánea.

Los usuarios de Perplexity prefieren Sonar

Realizamos extensas pruebas A/B en línea de Sonar para medir la satisfacción del usuario, una métrica clave fuertemente correlacionada con el uso y retención del producto. Esta métrica captura cuán satisfechos e involucrados están los usuarios al hacer preguntas en Perplexity.

Nuestras evaluaciones muestran que Sonar supera tanto a GPT-4o mini como a Claude 3.5 Haiku por un amplio margen. También comparamos Sonar con modelos de vanguardia más costosos y encontramos que supera a Claude 3.5 Sonnet, mientras se acerca al rendimiento de GPT-4o a una fracción del precio y más de 10 veces la velocidad.

Velocidad increíblemente rápida permite respuestas instantáneas

Impulsado por la infraestructura de inferencia de Cerebras, Sonar ofrece respuestas a velocidades increíblemente rápidas, logrando un rendimiento de decodificación casi 10 veces más rápido que modelos comparables como Gemini 2.0 Flash. Esto permite una generación casi instantánea de respuestas, lo que hace a Sonar ideal para la recuperación rápida de información o casos de uso de respuestas a preguntas detalladas.

Sonar sobresale en proporcionar respuestas precisas y de alta calidad

Optimizamos Sonar en dos dimensiones críticas que se correlacionan fuertemente con la satisfacción del usuario: la veracidad y la legibilidad de las respuestas.

• Veracidad de la respuesta: Mide qué tan bien un modelo puede responder preguntas utilizando hechos basados en resultados de búsqueda, y su capacidad para resolver información contradictoria o faltante

• Legibilidad: Mide la capacidad de un modelo para proporcionar una respuesta concisa y detallada con el uso adecuado del formato markdown para organizar el texto

Nuestros resultados demuestran que Sonar mejora significativamente estos aspectos en comparación con el modelo base, Llama 3.3 70B Instruct, e incluso supera a otros modelos de vanguardia en estas áreas clave†.

Además, Sonar también supera a los modelos de su clase, como GPT-4o mini y Claude 3.5 Haiku en indicadores académicos que miden el seguimiento de instrucciones del usuario y el conocimiento mundial.

• IFEval: Mide qué tan bien un modelo sigue las instrucciones proporcionadas por el usuario

• MMLU: Evalúa el conocimiento mundial en diversos dominios

Cómo Sonar responde preguntas

¿Cómo se traduce una mayor veracidad y legibilidad en la práctica? Compare estas búsquedas, realizadas tanto en Sonar como en otros modelos, para ver la diferencia.

Utilice Sonar hoy

Sonar sobresale al proporcionar respuestas rápidas y precisas, lo que lo convierte en un modelo ideal para el uso diario. Los usuarios de Perplexity Pro pueden hacer de Sonar su modelo predeterminado en su configuración. También puede ser utilizado a través de la oferta API de Sonar*.

Notas

• †Estas evaluaciones se califican en una escala de 0 a 100, donde más alto es mejor

• *El modelo Sonar servido a través de la API aún no funciona en la infraestructura de inferencia de Cerebras, pero estará disponible pronto