Agent API: Un mediu de execuție gestionat pentru fluxuri de lucru cu agenți

Astăzi lansăm Perplexity Agent API, un mediu de execuție gestionat pentru construirea de fluxuri de lucru cu agenți, cu căutare integrată, executare de instrumente și ochestrare multi-model.

Aceasta înlocuiește un ruter de modele, un strat de căutare, un furnizor de încorporări (embeddings), un serviciu de tip sandbox și o stivă de monitorizare cu un singur punct de integrare.

Bucla cu agenți ca model de calcul

Un CPU convențional execută un ciclu determinist: preia o instrucțiune, o decodifică, o execută, stochează rezultatul. Contorul de program avansează. Procesorul nu decide niciodată ce să facă.

Agent API implementază un model de calcul diferit. Procesorul este un model lingvistic de frontieră. Acesta primește un obiectiv și stabilește cum să îl atingă. Descompune obiectivul respectiv într-un plan, selectează ce instrumente să folosească din setul său de instrumente disponibile, execută, observă rezultatele, evaluează dacă obiectivul a fost atins și parcurge iterații. Fereastra de context servește drept registre. Raționamentul și orchestrarea servesc drept planificator.

Luați în considerare pregătirea pentru un apel de vânzări cu un potențial client cu care ați vorbit de câteva ori. Trimiteți o singură cerere către Agent API cu trei instrumente: unul pentru a căuta în CRM-ul dvs. intern, web_search și fetch_url. Modelul apelează mai întâi instrumentul CRM, preluând contextul din conversațiile anterioare. Apoi apelează web_search pentru a găsi știri recente și informații competitive, returnând mai multe pagini relevante. Decide că două dintre aceste pagini necesită o lectură mai aprofundată și apelează fetch_url pentru fiecare în parte. În trei pași, modelul a reunit istoricul intern, contextul web larg și detaliile paginii complete într-un singur răspuns fundamentat. Aceasta este bucla agentului.

Orchestrarea buclei complete a agenților

Este important să distingem Agent API de serviciile de rutare a modelelor. Agent API este un mediu de execuție gestionat care orchestrează bucla completă a agenților: recuperare, executare de instrumente, raționament și revenire (fallback) multi-model, precum și orice instrumente personalizate cărora le acordați acces. Înlocuiește un ruter de modele, un strat de căutare, un furnizor de încorporări, un serviciu de tip sandbox și o stivă de monitorizare cu un singur punct final, cont și cheie API.

API-ul este agnostic față de modele pentru toți furnizorii de modele de frontieră. Pentru aplicațiile cu disponibilitate ridicată, API-ul acceptă lanțuri de revenire a modelelor: specificați mai multe modele, iar API-ul îl încearcă automat pe următorul dacă unul nu este disponibil. Acest lucru asigură o disponibilitate de aproape 100%.

Instrumente puternice, încorporate

Sunt disponibile două instrumente încorporate: web_search și fetch_url. web_search acceptă filtrarea pe domenii (listă permisă și listă respinsă, de până la 20 de domenii), filtrarea după recență, filtrarea după intervalul de date, filtrarea după limbă și bugete de conținut configurabile per pagină. fetch_url preia și extrage conținutul integral al paginii din URL-uri specifice.

Dincolo de instrumentele încorporate, funcțiile personalizate le permit dezvoltatorilor să conecteze agentul la propriile backend-uri, baze de date și API-uri.

Presetări de modele de frontieră optimizate în mod continuu

Construirea unei configurații eficiente pentru un agent de la zero necesită alegerea modelului potrivit, calibrarea adâncimii raționamentului, selectarea instrumentelor și reglarea bugetelor de tokenuri. Perplexity face acest lucru în mod continuu pentru propriile produse, susținut de o echipă internă de evaluare care realizează benchmark-uri pentru configurații pe sarcini de lucru reale.

Presetările împărtășesc această expertiză. Fiecare presetare este o configurație complet transparentă, preconfigurată, optimizată pentru un anumit caz de utilizare: căutări factuale rapide, cercetare echilibrată, analiză profundă din surse multiple și cercetare la nivel instituțional. Publicăm promptul de sistem recomandat, instrumentele și profilul de cost pentru fiecare în parte. Pe măsură ce peisajul modelelor evoluează, actualizăm configurațiile de bază astfel încât presetarea să reflecte întotdeauna stadiul actual al tehnologiei la un cost previzibil. Toți parametrii presetărilor pot fi suprascrisi: dezvoltatorii pot folosi o presetare ca punct de plecare și pot ajusta modelul, instrumentele, numărul de pași sau bugetele de tokenuri într-o singură cerere.

Deep Research 2.0, disponibil prin intermediul presetării advanced-deep-research, este același motor de raționament cu mai mulți pași care stă la baza produsului pentru consumatori al Perplexity. Acesta efectuează zeci de căutări per interogare, citește sute de documente sursă și își rafinează iterativ analiza. Performanța pe DRACO, Scale AI's ResearchRubrics și Google DeepMind's DeepSearchQA este detaliată în postarea noastră despre benchmark-ul DRACO.

Agent API este disponibil începând de astăzi. Documentația și ghidurile de pornire rapidă se află la docs.perplexity.ai