Agent API: Felügyelt futtatókörnyezet ügynökalapú munkafolyamatokhoz

Ma adtuk ki a Perplexity Agent API-t, amely egy felügyelt futtatókörnyezet integrált kereséssel, eszközvégrehajtással és többmodelles orkesztrációval rendelkező ügynökalapú munkafolyamatok építéséhez.

Egyetlen integrációs pontként váltja fel a modellútválasztót, a keresési réteget, a beágyazásszolgáltatót, a sandbox szolgáltatást és a figyelési vermet.

Az ügynökalapú hurok mint számítási modell

A hagyományos CPU determinisztikus ciklust hajt végre: lekér egy utasítást, dekódolja, végrehajtja, és tárolja az eredményt. A programszámláló előrelép. A processzor soha nem dönt arról, hogy mit tegyen.

Az Agent API eltérő számítási modellt valósít meg. A processzor egy határhelyzetben lévő nyelvi modell. Célkitűzést kap, és meghatározza, hogyan érje el azt. A célkitűzést tervekre bontja, kiválasztja a használható eszközöket a rendelkezésre álló eszközkészletből, végrehajtja, megfigyeli az eredményeket, értékeli, hogy a célkitűzés teljesült-e, és iterál. A kontextusablak regiszterekként szolgál. A következtetés és az orkesztráció ütemezőként szolgál.

Képzelje el, hogy felkészül egy értékesítési hívásra egy olyan potenciális ügyféllel, akivel már néhány alkalommal beszélt. Egyetlen kérést küld az Agent API-nak három eszközzel: az egyikkel a belső CRM-ben kereshet, a web_search és a fetch_url eszközökkel. A modell először a CRM-eszközt hívja meg, kontextust kérve le a korábbi beszélgetésekből. Ezután meghívja a web_search eszközt a legfrissebb hírek és versenytársi információk megtalálásához, több releváns oldalt visszaadva. Úgy dönt, hogy ezen oldalak közül kettő mélyebb olvasást érdemel, és meghívja a fetch_url eszközt mindegyiken. Három lépésben a modell belső előzményeket, széles webes kontextust és teljes oldalas részleteket gyűjtött össze egyetlen, megalapozott válasszá. Ez az ügynökhurok.

A teljes ügynökalapú hurok orkesztrációja

Fontos megkülönböztetni az Agent API-t a modellútválasztó szolgáltatásoktól. Az Agent API egy felügyelt futtatókörnyezet, amely orkesztrálja a teljes ügynökalapú hurkot: a lekérést, az eszközvégrehajtást, a következtetést, a többmodelles visszalépést, valamint minden olyan egyéni eszközt, amelyhez hozzáférést biztosít. Egyetlen végponttal, fiókkal és API-kulccsal váltja fel a modellútválasztót, a keresési réteget, a beágyazásszolgáltatót, a sandbox szolgáltatást és a figyelési vermet.

Az API modellfüggetlen az összes határhelyzetben lévő modell-szolgáltató között. A magas rendelkezésre állású alkalmazásokhoz az API támogatja a modell-visszalépési láncokat: adja meg a több modellt, és az API automatikusan megpróbálja a következőt, ha az egyik nem érhető el. Ez közel 100%-os rendelkezésre állást biztosít.

Hatékony, beépített eszközök

Két beépített eszköz érhető el: a web_search és a fetch_url. A web_search támogatja a tartományszűrést (engedélyezési és letiltási listák, legfeljebb 20 tartomány), a frissességi szűrést, a dátumtartomány-szűrést, a nyelvi szűrést és az oldalenkénti konfigurálható tartalomkereteket. A fetch_url lekéri és kinyeri a teljes oldal tartalmát az adott URL-címekről.

A beépített eszközökön túl az egyéni függvények lehetővé teszik a fejlesztők számára, hogy az ügynököt a saját háttérrendszereikhez, adatbázisaikhoz és API-jaikhoz csatlakoztassák.

Folyamatosan optimalizált határhelyzetben lévő modell-előbeállítások

A hatékony ügynökkonfiguráció nulláról történő felépítése megköveteli a megfelelő modell kiválasztását, a következtetési mélység kalibrálását, az eszközök kiválasztását és a tokennkeretek finomhangolását. A Perplexity ezt folyamatosan elvégzi saját termékeihez, egy házon belüli értékelő csapat támogatásával, amely valós munkaterhelésekkel méri össze a konfigurációkat.

Az előbeállítások megosztják ezt a szakértelmet. Minden előbeállítás egy teljesen átlátható, előre konfigurált beállítás, amelyet egy adott felhasználási esethez optimalizáltak: gyors tényszerű keresésekhez, kiegyensúlyozott kutatáshoz, mélyreható, több forrásból származó elemzéshez és intézményi szintű kutatáshoz. Közzétesszük az ajánlott rendszerkérést, az eszközöket és a költségprofilt mindegyikhez. Ahogy a modellkörnyezet fejlődik, frissítjük az alapul szolgáló konfigurációkat, hogy az előbeállítás mindig a legmodernebb állapotot tükrözze kiszámítható költségek mellett. Minden előbeállítási paraméter felülbírálható: a fejlesztők használhatják az előbeállítást kiindulópontként, és egyetlen kérésben módosíthatják a modellt, az eszközöket, a lépésszámot vagy a tokenkereteket.

A Mélyreható kutatás 2.0, amely az advanced-deep-research előbeállításon keresztül érhető el, ugyanaz a többlépéses következtetési motor, amely a Perplexity fogyasztói termékét hajtja. Lekérdezésenként több tucat keresést hajt végre, forrásdokumentumok százait olvassa el, és iteratív módon finomítja az elemzését. A DRACO, a Scale AI ResearchRubrics és a Google DeepMind DeepSearchQA teljesítménye részletesen szerepel a DRACO benchmark bejegyzésünkben.

Az Agent API már ma elérhető. A dokumentáció és a gyorsindítási útmutatók a docs.perplexity.ai címen találhatók.