새로운 Sonar 공개: Perplexity 검색에 최적화된 모델

오늘부터 모든 Perplexity Pro 사용자는 Perplexity의 기본 검색 모드를 위해 답변의 정확성과 가독성을 높이도록 추가 학습된, Perplexity의 자체 모델인 Sonar의 최신 버전을 사용해 보실 수 있습니다. Llama 3.3 70B를 기반으로 구축된 Sonar는 답변의 품질과 사용자 경험에 최적화되어 있습니다.

포괄적인 온라인 A/B 테스트를 통해, Sonar가 GPT-4o mini 및 Claude 3.5 Haiku와 같은 동급 모델들보다 월등한 성능을 보인다는 점을 확인했습니다. 또한, 사용자 만족도 측면에서 GPT-4o 및 Claude 3.5 Sonnet과 같은 프런티어 모델과 대등하거나 그 이상의 성과를 거두었습니다. Cerebras 추론 인프라를 기반으로 구동되는 Sonar는 초당 1200 토큰이라는 압도적인 속도로 작동하여 거의 즉각적인 답변 생성을 가능하게 합니다.

우리는 사용자 만족도를 측정하기 위해 Sonar에 대한 광범위한 온라인 A/B 테스트를 실시했습니다. 이는 제품 사용량 및 유지율과 밀접하게 연관된 핵심 지표입니다. 이 지표는 사용자가 Perplexity에서 질문할 때 얼마나 만족하고 몰입하는지를 보여줍니다.

평가 결과, Sonar는 GPT-4o mini 및 Claude 3.5 Haiku를 큰 격차로 능가하는 것으로 나타났습니다. 또한, 더 고가인 프런티어 모델들과 비교했을 때, Sonar는 Claude 3.5 Sonnet보다 뛰어난 성능을 보였으며, GPT-4o와는 거의 근접한 성능을 제공하는 동시에 비용은 훨씬 저렴하고 속도는 10배 이상 빠릅니다.

Cerebras 추론 인프라를 기반으로 하는 Sonar는 압도적인 속도로 답변을 제공하며, Gemini 2.0 Flash와 같은 유사 모델보다 약 10배 빠른 디코딩 처리량을 달성합니다. 이를 통해 거의 즉각적인 답변 생성이 가능해져, Sonar는 신속한 정보 검색이나 상세한 질의응답이 필요한 경우에 이상적입니다.

우리는 사용자 만족도와 직결되는 두 가지 핵심 요소인 답변의 사실성과 가독성을 중심으로 Sonar를 최적화했습니다.

답변의 사실성: 검색 결과에 기반한 사실을 사용하여 모델이 얼마나 정확하게 질문에 답변할 수 있는지, 그리고 상충하거나 누락된 정보를 얼마나 잘 해결하는지 측정합니다.

가독성: 모델이 마크다운 형식을 적절히 사용하여 텍스트를 구성하고, 간결하면서도 상세한 답변을 얼마나 잘 제공하는지 측정합니다.

결과에 따르면 Sonar는 베이스 모델인 Llama 3.3 70B Instruct 대비 이러한 측면에서 크게 향상되었으며, 이러한 핵심 영역에서 다른 프런티어 모델들을 능가하는 모습을 보입니다†.

또한, Sonar는 사용자 지시 사항 이행 및 세계 지식을 측정하는 학술 벤치마크에서도 GPT-4o mini 및 Claude 3.5 Haiku와 같은 동급 모델을 능가합니다.

IFEval: 모델이 사용자가 제공한 지시 사항을 얼마나 잘 따르는지 측정합니다.

MMLU: 다양한 분야에 걸친 세계 지식을 평가합니다.

실제 환경에서 사실성과 가독성이 향상된다는 것은 무엇을 의미할까요? Sonar와 다른 모델에서 수행된 검색 결과를 비교하여 차이를 확인해 보십시오.

Sonar는 신속하고 정확한 답변을 제공하는 데 탁월하며 일상적인 사용에 최적화된 모델입니다. Perplexity Pro 사용자는 설정에서 Sonar를 기본 모델로 지정할 수 있습니다. 또한 Sonar API 제품*을 통해서도 사용할 수 있습니다.

†이 평가는 0에서 100점 척도로 채점되며, 점수가 높을수록 좋습니다.

*API를 통해 제공되는 Sonar 모델은 아직 Cerebras 추론 인프라에서 실행되지 않으나, 곧 출시될 예정입니다.

Perplexity 사용자가 선호하는 Sonar

압도적인 속도로 실현한 즉각적인 답변

사실 기반의 고품질 답변을 제공하는 Sonar

Sonar의 답변 방식

지금 Sonar 사용하기

각주