พบกับ Sonar ใหม่: โมเดลความเร็วสูงที่ปรับแต่งเพื่อการค้นหาของ Perplexity

ตั้งแต่วันนี้เป็นต้นไป ผู้ใช้ Perplexity Pro ทุกท่านจะสามารถทดลองใช้งาน Sonar เวอร์ชันล่าสุด ซึ่งเป็นโมเดลภายในของ Perplexity ที่ได้รับการปรับแต่งเพื่อคุณภาพของคำตอบและประสบการณ์ของผู้ใช้งาน Sonar สร้างขึ้นบนพื้นฐานของ Llama 3.3 70B และได้รับการฝึกฝนเพิ่มเติมเพื่อยกระดับความถูกต้องของข้อเท็จจริงและความสามารถในการอ่านสำหรับโหมดการค้นหาเริ่มต้นของ Perplexity

จากการทดสอบ A/B แบบออนไลน์อย่างครอบคลุม เราพบว่า Sonar มีประสิทธิภาพเหนือกว่าโมเดลในระดับเดียวกันอย่างมีนัยสำคัญ เช่น GPT-4o mini และ Claude 3.5 Haiku ในขณะที่สามารถเทียบเคียงหรือเหนือกว่าประสิทธิภาพของโมเดลแนวหน้าอย่าง GPT-4o และ Claude 3.5 Sonnet ในด้านความพึงพอใจของผู้ใช้ได้อย่างใกล้เคียง ขับเคลื่อนด้วยโครงสร้างพื้นฐานการอนุมานของ Cerebras ทำให้ Sonar ทำงานด้วยความเร็วสูงถึง 1,200 โทเค็นต่อวินาที ซึ่งช่วยให้สามารถสร้างคำตอบได้เกือบจะในทันที

ผู้ใช้ Perplexity ชื่นชอบ Sonar มากกว่า

เราได้ทำการทดสอบ A/B แบบออนไลน์สำหรับ Sonar อย่างกว้างขวางเพื่อวัดความพึงพอใจของผู้ใช้ ซึ่งเป็นตัวชี้วัดสำคัญที่มีความเกี่ยวข้องอย่างมากกับการใช้งานผลิตภัณฑ์และการรักษาผู้ใช้ เมตริกนี้สะท้อนว่าผู้ใช้มีความพึงพอใจและมีส่วนร่วมมากเพียงใดเมื่อทำการถามคำถามบน Perplexity

การประเมินของเราแสดงให้เห็นว่า Sonar มีคะแนนนำหน้าทั้ง GPT-4o mini และ Claude 3.5 Haiku อย่างมาก นอกจากนี้ เรายังได้เปรียบเทียบ Sonar กับโมเดลแนวหน้าราคาแพงอื่นๆ และพบว่ามีประสิทธิภาพเหนือกว่า Claude 3.5 Sonnet พร้อมทั้งเข้าใกล้ประสิทธิภาพของ GPT-4o ได้อย่างใกล้เคียง ในราคาเพียงเศษเสี้ยวเดียวและมีความเร็วมากกว่าถึง 10 เท่า

ความเร็วสูงเป็นพิเศษช่วยให้ตอบคำถามได้ทันที

ด้วยการขับเคลื่อนจากโครงสร้างพื้นฐานการอนุมานของ Cerebras ทำให้ Sonar สามารถส่งมอบคำตอบด้วยความเร็วสูงเป็นพิเศษ บรรลุปริมาณการถอดรหัส (throughput) ที่เร็วกว่าโมเดลเทียบเคียงอย่าง Gemini 2.0 Flash เกือบ 10 เท่า ซึ่งช่วยให้สามารถสร้างคำตอบได้เกือบจะในทันที ทำให้ Sonar เหมาะอย่างยิ่งสำหรับการดึงข้อมูลอย่างรวดเร็วหรือกรณีการใช้งานการตอบคำถามโดยละเอียด

Sonar โดดเด่นในการให้คำตอบที่ถูกต้องตามข้อเท็จจริงและมีคุณภาพสูง

เราได้ปรับแต่ง Sonar ในสองมิติสำคัญที่มีความเกี่ยวข้องอย่างมากกับความพึงพอใจของผู้ใช้ นั่นคือ ความถูกต้องของข้อเท็จจริงในคำตอบและความสามารถในการอ่าน

ความถูกต้องของข้อเท็จจริงในคำตอบ: วัดว่าโมเดลสามารถตอบคำถามโดยใช้ข้อเท็จจริงที่มีรากฐานมาจากผลลัพธ์การค้นหาได้ดีเพียงใด รวมถึงความสามารถในการแก้ไขข้อมูลที่ขัดแย้งกันหรือไม่ครบถ้วน

ความสามารถในการอ่าน: วัดความสามารถของโมเดลในการให้คำตอบที่กระชับและละเอียด พร้อมการใช้การจัดรูปแบบ markdown อย่างเหมาะสมเพื่อจัดระเบียบข้อความ

ผลลัพธ์ของเราแสดงให้เห็นว่า Sonar ช่วยปรับปรุงด้านเหล่านี้ให้ดีขึ้นอย่างมากเมื่อเทียบกับโมเดลพื้นฐานอย่าง Llama 3.3 70B Instruct และยังเหนือกว่าโมเดลแนวหน้ารุ่นอื่นๆ ในพื้นที่สำคัญเหล่านี้อีกด้วย†

นอกจากนี้ Sonar ยังทำคะแนนได้เหนือกว่าโมเดลในระดับเดียวกันอย่าง GPT-4o mini และ Claude 3.5 Haiku บนเกณฑ์มาตรฐานทางวิชาการที่ใช้วัดความสามารถในการปฏิบัติตามคำสั่งของผู้ใช้และความรู้รอบตัว

IFEval: วัดความสามารถของโมเดลในการปฏิบัติตามคำสั่งที่ผู้ใช้กำหนด

MMLU: ประเมินความรู้รอบตัวในหลากหลายโดเมน

วิธีที่ Sonar ใช้ตอบคำถาม

ความถูกต้องของข้อเท็จจริงและความสามารถในการอ่านที่เพิ่มขึ้นมีหน้าตาเป็นอย่างไรในการใช้งานจริง? เปรียบเทียบการค้นหาเหล่านี้ ซึ่งดำเนินการบน Sonar และโมเดลอื่นๆ เพื่อดูความแตกต่าง

ใช้งาน Sonar วันนี้

Sonar โดดเด่นในการให้คำตอบที่รวดเร็วและแม่นยำ ทำให้เป็นโมเดลที่ยอดเยี่ยมสำหรับการใช้งานในชีวิตประจำวัน ผู้ใช้ Perplexity Pro สามารถตั้งค่าให้ Sonar เป็นโมเดลเริ่มต้นได้ใน การตั้งค่า ของตน นอกจากนี้ยังสามารถใช้งานผ่าน บริการ Sonar API* ได้อีกด้วย

เชิงอรรถ

†การประเมินเหล่านี้ให้คะแนนบนสเกลตั้งแต่ 0 ถึง 100 โดยคะแนนที่สูงกว่าจะดีกว่า

*โมเดล Sonar ที่ให้บริการผ่าน API ยังไม่ทำงานบนโครงสร้างพื้นฐานการอนุมานของ Cerebras แต่จะเปิดให้บริการในเร็วๆ นี้