Agent API: 에이전트 워크플로우를 위한 관리형 런타임

오늘 저희는 통합 검색, 도구 실행, 멀티 모델 오케스트레이션을 갖춘 에이전트 워크플로우 구축을 위한 관리형 런타임인 Perplexity Agent API를 출시합니다.

이는 모델 라우터, 검색 계층, 임베딩 제공자, 샌드박스 서비스 및 모니터링 스택을 단일 통합 지점으로 대체합니다.

기존 CPU는 명령어 가져오기, 디코딩, 실행, 결과 저장이라는 결정론적 주기를 수행합니다. 프로그램 카운터는 전진하며, 프로세서는 무엇을 할지 스스로 결정하지 않습니다.

Agent API는 다른 컴퓨트 모델을 구현합니다. 프로세서는 최첨단 언어 모델입니다. 목표를 전달받으면 이를 달성하는 방법을 결정합니다. 목표를 계획으로 분해하고, 사용 가능한 도구 세트에서 사용할 도구를 선택하며, 실행하고, 결과를 관찰하고, 목표가 달성되었는지 평가한 뒤 반복합니다. 컨텍스트 윈도우는 레지스터 역할을 하며, 추론과 오케스트레이션은 스케줄러 역할을 합니다.

몇 번 대화를 나눈 잠재 고객과의 영업 통화를 준비한다고 가정해 보겠습니다. 여러분은 내부 CRM, web_search, fetch_url이라는 세 가지 도구를 사용하여 Agent API에 단일 요청을 보냅니다. 모델은 먼저 CRM 도구를 호출하여 과거 대화 내용을 바탕으로 컨텍스트를 검색합니다. 그런 다음 web_search를 호출하여 최근 뉴스 및 경쟁사 정보를 찾아 관련성 높은 여러 페이지를 반환합니다. 모델은 그중 두 페이지가 더 정밀한 읽기가 필요하다고 판단하여 각각에 대해 fetch_url을 호출합니다. 단 세 단계 만에 모델은 내부 이력, 광범위한 웹 컨텍스트, 전체 페이지 세부 정보를 하나의 근거 있는 응답으로 통합했습니다. 이것이 바로 에이전트 루프입니다.

Agent API를 모델 라우팅 서비스와 구별하는 것이 중요합니다. Agent API는 검색, 도구 실행, 추론, 멀티 모델 폴백 및 액세스 권한이 부여된 모든 사용자 지정 도구 등 전체 에이전트 루프를 조정하는 관리형 런타임입니다. 이는 단일 엔드포인트, 계정 및 API 키로 모델 라우터, 검색 계층, 임베딩 제공자, 샌드박스 서비스 및 모니터링 스택을 대체합니다.

이 API는 모든 최첨단 모델 제공업체에 대해 모델 중립적입니다. 고가용성 애플리케이션을 위해 이 API는 모델 폴백 체인을 지원합니다. 여러 모델을 지정하면 API가 하나를 사용할 수 없을 때 자동으로 다음 모델을 시도합니다. 이를 통해 거의 100%에 가까운 가용성을 보장합니다.

web_search와 fetch_url이라는 두 가지 내장 도구를 사용할 수 있습니다. web_search는 도메인 필터링(허용 목록 및 차단 목록, 최대 20개 도메인), 최신순 필터링, 날짜 범위 필터링, 언어 필터링 및 페이지별 구성 가능한 콘텐츠 예산을 지원합니다. fetch_url은 특정 URL에서 전체 페이지 콘텐츠를 검색하고 추출합니다.

내장 도구 외에도 사용자 지정 함수를 사용하면 개발자가 에이전트를 자신의 백엔드, 데이터베이스 및 API에 연결할 수 있습니다.

처음부터 효과적인 에이전트 구성을 구축하려면 적절한 모델을 선택하고, 추론 깊이를 조정하며, 도구를 선택하고, 토큰 예산을 튜닝해야 합니다. Perplexity는 사내 평가 팀이 실제 워크로드를 기반으로 구성을 벤치마킹하여 자체 제품을 위해 이 과정을 지속적으로 수행합니다.

프리셋은 이러한 전문 지식을 공유합니다. 각 프리셋은 신속한 사실 확인, 균형 잡힌 리서치, 심층적인 다중 소스 분석, 기관급 리서치 등 특정 사용 사례에 최적화된 완전 투명한 사전 구성 설정입니다. 저희는 각 프리셋에 권장되는 시스템 프롬프트, 도구 및 비용 프로필을 공개합니다. 모델 환경이 진화함에 따라 저희는 기본 구성을 업데이트하여 프리셋이 항상 예측 가능한 비용으로 현재 최고 수준의 상태를 반영하도록 합니다. 모든 프리셋 매개변수는 재정의 가능합니다. 개발자는 프리셋을 시작점으로 사용하여 단일 요청 내에서 모델, 도구, 단계 수 또는 토큰 예산을 조정할 수 있습니다.

advanced-deep-research 프리셋을 통해 제공되는 심층 리서치 2.0은 Perplexity의 소비자 제품을 구동하는 것과 동일한 다단계 추론 엔진입니다. 이는 쿼리당 수십 건의 검색을 수행하고, 수백 개의 소스 문서를 읽으며, 반복적으로 분석을 구체화합니다. DRACO, Scale AI의 ResearchRubrics 및 Google DeepMind의 DeepSearchQA에서의 성능은 저희 DRACO 벤치마크 게시물에 자세히 설명되어 있습니다.

Agent API는 지금 바로 사용할 수 있습니다. 문서 및 퀵스타트 가이드는 docs.perplexity.ai에서 확인하실 수 있습니다.

컴퓨트 모델로서의 에이전트 루프

전체 에이전트 루프의 오케스트레이션

강력한 내장 도구

지속적으로 최적화되는 최첨단 모델 프리셋