Agent API: Upravljano izvođenje za tijek rada agenata

Danas izdajemo Perplexity Agent API, upravljano izvođenje za izgradnju tijek rada agenata s integriranim pretraživanjem, izvršavanjem alata i orkestracijom s više modela.

Zamjenjuje usmjerivač modela, sloj pretraživanja, davatelja ugradnji, sandbox uslugu i stog praćenja s jednom točkom integracije.

Petlja agenata kao računalni model

Konvencionalni CPU izvršava deterministički ciklus: dohvaća instrukciju, dekodira je, izvršava je, pohranjuje rezultat. Brojač programa napreduje. Procesor nikada ne odlučuje što će učiniti.

Agent API implementira drugačiji računalni model. Procesor je jezični model s granice. On prima cilj i određuje kako ga postići. Taj cilj rastavlja na plan, odabire koje će alate koristiti iz svog skupa dostupnih alata, izvršava, promatra rezultate, procjenjuje je li cilj postignut i ponavlja. Kontekstni prozor služi kao registri. Razmišljanje i orkestracija služe kao planer.

Razmislite o pripremi za prodajni poziv s potencijalnim klijentom s kojim ste razgovarali nekoliko puta. Šaljete jedan zahtjev u Agent API s tri alata: jedan za pretraživanje vašeg internog CRM-a, web_search i fetch_url. Model prvo poziva vaš CRM alat, dohvaćajući kontekst iz prošlih razgovora. Zatim poziva web_search kako bi pronašao nedavne vijesti i konkurentsku obavještajnu službu, vraćajući nekoliko relevantnih stranica. Odlučuje da dvije od tih stranica zaslužuju dublje čitanje i poziva fetch_url na svakoj. U tri koraka model je sastavio internu povijest, široki web kontekst i detalje cijele stranice u jedan, temeljiti odgovor. To je petlja agenata.

Orkestracija potpune petlje agenata

Važno je razlikovati Agent API od usluga usmjeravanja modela. Agent API je upravljano izvođenje koje orkestrira punu petlju agenata: dohvaćanje, izvršavanje alata, razmišljanje i povratak na više modela te sve prilagođene alate kojima im omogućite pristup. Zamjenjuje usmjerivač modela, sloj pretraživanja, davatelja ugradnji, sandbox uslugu i stog praćenja s jednom krajnjom točkom, računom i API ključem.

API je neovisan o modelima svih davatelja modela s granice. Za aplikacije visoke dostupnosti API podržava lance povratka na rezervni model: odredite više modela, a API automatski pokušava sljedeći ako je jedan nedostupan. To osigurava gotovo 100% dostupnost.

Snažni, ugrađeni alati

Dostupna su dva ugrađena alata: web_search i fetch_url. web_search podržava filtriranje domena (popis dopuštenih i popis blokiranih, do 20 domena), filtriranje prema nedavnim unosima, filtriranje prema rasponu datuma, filtriranje jezika i prilagodljive proračune sadržaja po stranici. fetch_url dohvaća i izdvaja sadržaj cijele stranice s određenih URL-ova.

Osim ugrađenih alata, prilagođene funkcije omogućuju programerima povezivanje agenta s vlastitim pozadinskim sustavima, bazama podataka i API-jima.

Kontinuirano optimizirane predloške modela s granice

Izgradnja učinkovite konfiguracije agenta od nule zahtijeva odabir pravog modela, kalibriranje dubine razmišljanja, odabir alata i ugađanje proračuna tokena. Perplexity to čini kontinuirano za vlastite proizvode, uz podršku internog tima za procjenu koji uspoređuje konfiguracije s stvarnim opterećenjima.

Predloške dijele tu stručnost. Svaka predložak je potpuno transparentna, unaprijed konfigurirana postavka optimizirana za određeni slučaj upotrebe: brze pretrage činjenica, uravnoteženo istraživanje, duboka analiza s više izvora i istraživanje institucionalne razine. Objavljujemo preporučeni sistemski prompt, alate i profil troškova za svaki. Kako se krajolik modela razvija, ažuriramo temeljne konfiguracije tako da predložak uvijek odražava trenutno stanje tehnike po predvidljivoj cijeni. Svi parametri predložaka mogu se nadjačati: programeri mogu koristiti predložak kao polaznu točku i prilagoditi model, alate, broj koraka ili proračune tokena u jednom zahtjevu.

Dubinsko istraživanje 2.0, dostupno putem advanced-deep-research predloška, isti je višestupanjski stroj za razmišljanje koji pokreće potrošački proizvod Perplexity. Provodi desetke pretraživanja po upitu, čita stotine izvornih dokumenata i iterativno pročišćava svoju analizu. Performanse na DRACO-u, Scale AI ResearchRubrics i Google DeepMind DeepSearchQA detaljno su opisane u našem DRACO objavi o mjerilima.

Agent API dostupan je danas. Dokumentacija i vodiči za brzi početak nalaze se na docs.perplexity.ai