Agent API: um runtime gerenciado para fluxos de trabalho de agentes

Hoje estamos lançando a Perplexity Agent API, um runtime gerenciado para criar fluxos de trabalho de agentes com pesquisa integrada, execução de ferramentas e orquestração de vários modelos.

Ela substitui um roteador de modelo, uma camada de pesquisa, um provedor de incorporações, um serviço de sandbox e uma pilha de monitoramento por um único ponto de integração.

O loop de agentes como um modelo de computação

Uma CPU convencional executa um ciclo determinístico: busca uma instrução, decodifica-a, executa-a, armazena o resultado. O contador de programa avança. O processador nunca decide o que fazer.

A Agent API implementa um modelo de computação diferente. O processador é um modelo de linguagem de fronteira. Ele recebe um objetivo e determina como alcançá-lo. Ele decompõe esse objetivo em um plano, seleciona quais ferramentas usar de seu conjunto de ferramentas disponíveis, executa, observa os resultados, avalia se o objetivo foi atingido e itera. A janela de contexto serve como registradores. O raciocínio e a orquestração servem como o agendador.

Considere preparar-se para uma chamada de vendas com um cliente potencial com quem você falou algumas vezes. Você envia uma única solicitação para a Agent API com três ferramentas: uma para pesquisar em seu CRM interno, web_search e fetch_url. O modelo chama sua ferramenta de CRM primeiro, recuperando o contexto de conversas passadas. Em seguida, ele chama web_search para encontrar notícias recentes e inteligência competitiva, retornando várias páginas relevantes. Ele decide que duas dessas páginas exigem uma leitura mais aprofundada e chama fetch_url em cada uma delas. Em três etapas, o modelo reuniu o histórico interno, o contexto amplo da web e detalhes de páginas completas em uma única resposta fundamentada. Esse é o loop de agentes.

Orquestração do loop completo de agentes

É importante distinguir a Agent API dos serviços de roteamento de modelos. A Agent API é um runtime gerenciado que orquestra todo o loop de agentes: recuperação, execução de ferramentas, raciocínio, fallback de vários modelos e quaisquer ferramentas personalizadas às quais você dê acesso a ele. Ela substitui um roteador de modelo, uma camada de pesquisa, um provedor de incorporações, um serviço de sandbox e uma pilha de monitoramento por um único endpoint, conta e chave de API.

A API é agnóstica em relação a modelos em todos os provedores de modelos de fronteira. Para aplicativos de alta disponibilidade, a API oferece suporte a cadeias de fallback de modelos: especifique vários modelos e a API tentará automaticamente o próximo se um estiver indisponível. Isso garante uma disponibilidade próxima a 100%.

Ferramentas poderosas e integradas

Duas ferramentas integradas estão disponíveis: web_search e fetch_url. O web_search oferece suporte à filtragem de domínios (lista de permissões e lista de bloqueios, até 20 domínios), filtragem de recência, filtragem de intervalo de datas, filtragem de idiomas e orçamentos de conteúdo configuráveis por página. O fetch_url recupera e extrai o conteúdo completo da página de URLs específicas.

Além das ferramentas integradas, as funções personalizadas permitem que os desenvolvedores conectem o agente aos seus próprios back-ends, bancos de dados e APIs.

Predefinições de modelos de fronteira continuamente otimizadas

Criar uma configuração de agente eficaz do zero exige escolher o modelo certo, calibrar a profundidade do raciocínio, selecionar ferramentas e ajustar os orçamentos de tokens. A Perplexity faz isso continuamente para seus próprios produtos, com o apoio de uma equipe de avaliação interna que compara as configurações em relação a cargas de trabalho reais.

As predefinições compartilham essa experiência. Cada predefinição é uma configuração totalmente transparente e pré-configurada, otimizada para um caso de uso específico: buscas factuais rápidas, pesquisa equilibrada, análise profunda de várias fontes e pesquisa de nível institucional. Publicamos o prompt de sistema recomendado, as ferramentas e o perfil de custo para cada uma. Conforme o cenário de modelos evolui, atualizamos as configurações subjacentes para que a predefinição sempre reflita o estado da arte atual a um custo previsível. Todos os parâmetros predefinidos são substituíveis: os desenvolvedores podem usar uma predefinição como ponto de partida e ajustar o modelo, as ferramentas, a contagem de etapas ou os orçamentos de tokens em uma única solicitação.

O Deep Research 2.0, disponível por meio da predefinição advanced-deep-research, é o mesmo mecanismo de raciocínio de várias etapas que alimenta o produto de consumo da Perplexity. Ele executa dezenas de pesquisas por consulta, lê centenas de documentos de fonte e refina iterativamente sua análise. O desempenho no DRACO, no ResearchRubrics da Scale AI e no DeepSearchQA do Google DeepMind é detalhado em nossa postagem sobre o benchmark DRACO.

A Agent API está disponível hoje. A documentação e os guias de início rápido estão em docs.perplexity.ai