Perplexity가 최첨단 AI에 정확성을 구축하는 방법

우리의 사명은 더 많이 알고 싶어 하고 세계의 지식을 활용해 더 많은 것을 성취하고자 하는 사람들을 위해 호기심의 원동력이 되는 것입니다. 이를 위해 우리의 핵심 초점은 항상 최고의 최첨단 AI 모델이 Perplexity에서 더욱 정확하게 작동하도록 만드는 데 있었습니다.

우리는 처음으로 그 과정을 뒷받침하는 기술 중 하나를 공유합니다. 오늘 우리 연구팀은 검색 증강 대규모 언어 모델(LLM)에 대한 기술적 탐구를 발표했습니다.

우리가 정확성을 개발하기 위해 사용하는 수십 가지 프로세스가 있으며, 여기서는 그중 하나를 드물게 공개합니다. 이는 Perplexity의 Search, Comet, Computer와 같은 제품에 대한 정확성 기준에 맞춰 최첨단 AI 모델을 사후 학습(post-training)하여 최상의 성능을 발휘하도록 하는 것입니다.

우리는 검색 전 행동을 먼저 학습시킵니다.

답변 엔진은 기반 모델이 단순히 유창한 텍스트를 생성하는 것 이상의 역할을 수행해야 합니다. 모델은 증거를 찾고, 사용자의 요청을 따르고, 도구를 올바르게 사용하며, 그 작업을 집중도 높은 답변으로 전환해야 합니다.

우리는 이를 위해 두 단계에 걸쳐 사후 학습을 진행합니다. 먼저, 지시사항을 따르고, 일관성을 유지하며, 도구를 올바르게 사용하는 방법을 포함하여 모델이 제품 내부에서 어떻게 행동해야 하는지 가르칩니다. 그런 다음 더 어려운 검색 작업에 대해 학습시켜 증거를 더 잘 찾고, 이를 효과적으로 활용하며, 더 효율적으로 답변할 수 있도록 개선합니다.

이 단계적 접근 방식은 Perplexity와 모델 및 웹 액세스를 결합한 기존의 래퍼 설정 간의 간단한 차이점 중 하나입니다. 이것이 바로 동일한 모델이라도 서로 다른 제품에서 서로 다른 결과를 생성할 수 있는 이유이며, 더 단순한 배포 환경보다 Perplexity에서 더 잘 작동하는 이유입니다.

합성이 필요한 질문

어떤 질문은 단순히 정보를 찾는 수준이지만, 어떤 질문은 모델이 여러 출처에 걸친 증거를 연결해야 합니다.

우리는 모델이 여러 출처의 증거를 연결해야 하는 질문들을 학습합니다. 사실 관계를 묻는 질문의 경우, 하나의 명백한 단서에서 즉시 답변을 도출하기보다 검색, 추론, 검증을 강제하는 작업을 사용합니다. 많은 질문이 여러 출처의 정보를 연결할 것을 요구합니다. 모델은 하나의 증거에서 다른 증거로 이동하며 그 체인을 통해 답변을 구축해야 합니다.

우리는 또한 다양한 응답 형식을 학습시켜 사용자가 문단, 목록, 표 또는 기타 구조 중 무엇을 원하든 모델이 정확성을 유지하도록 합니다. 그 결과 고립된 사실만을 검색하는 것이 아니라 출처 간의 증거를 연결하는 답변으로 구성된 더 나은 합성이 이루어집니다.

개방형 작업에는 표준이 필요합니다.

Perplexity는 단순 사실 조회 이상의 용도로 사용됩니다. 재작성, 편집, 요약, 설명 및 계획을 포함한 많은 작업이 개방형 성격을 띱니다.

이러한 작업에는 딱 정해진 하나의 정답은 없지만 여전히 표준은 필요합니다. 개방형 작업을 위해 우리는 응답이 실제로 목적을 달성했는지 확인하는 구조화된 체크리스트인 루브릭을 사용합니다. 지시사항을 따랐는가? 의미를 유지했는가? 사용자의 문제를 해결했는가?

이를 통해 우리는 개방형 작업을 자유 형식의 글쓰기로 취급하지 않고 명확한 표준을 가지고 학습시킬 수 있습니다.

정확성은 선호도보다 우선합니다.

사실 관계 작업의 경우, 답변이 더 도움이 되거나 더 잘 쓰였다고 인정받기 전에 반드시 정확해야 합니다. 개방형 작업의 경우, 응답은 다른 품질이 고려되기 전에 먼저 루브릭을 충족해야 합니다.

이는 시스템이 스타일보다 실질적인 내용에 집중하도록 합니다. 이는 실제로는 더 낫지 않으면서 더 그럴듯하게 들리는 답변이라는 흔한 실패 사례를 방지하는 데 도움이 됩니다. 그 보상은 검토 시 무너지지 않는 정교한 답변을 얻는 것입니다.

효율성은 답변 품질에 기여합니다.

우리는 또한 모델이 규율을 가지고 검색을 사용하도록 학습시킵니다.

모든 추가 검색 단계는 답변을 개선해야 하며, 더 긴 응답은 그만큼의 가치를 입증해야 합니다. 추가 검색이나 단어가 도움이 되지 않는다면 시스템은 멈춰야 합니다.

이는 사용하기 쉬운 답변을 생산하며, 작은 실수가 누적될 수 있는 긴 작업 체인을 처리할 때 모델의 집중력을 유지해 줍니다.

더 나은 답변을 위해서는 끊임없는 노력이 필요합니다.

검색 품질은 제품이 모델에게 증거를 수집하고, 규율 있게 답변하며, 개방형 작업을 처리하고, 충분한 근거를 확보했을 때 멈추도록 학습시키는 방식에서 나옵니다.

AI 시스템이 더 길고 자율적인 작업을 수행함에 따라, 이러한 학습은 개별 답변의 품질과 그 위에 구축된 모든 것의 품질을 결정합니다. 우리는 Perplexity가 100% 정확하다고 주장한 적은 없지만, 가장 정확성을 중시하고 이를 위해 끊임없이 노력하는 AI 기업이라고 자부합니다. 우리는 모든 사용자가 Perplexity 답변에 대한 피드백을 제공해주시기를 권장합니다. 우리는 끊임없이 반복하고 개선하고 있기 때문입니다.