Agent API: valdoma vykdymo aplinka agentų darbo eigai

Šiandien išleidžiame „Perplexity Agent API“ – valdomą vykdymo aplinką, skirtą kurti agentų darbo eiga su integruota paieška, įrankių vykdymu ir kelių modelių orkestravimu.

Ji pakeičia modelių maršruto parinktuvą, paieškos sluoksnį, įdėjimų teikėją, „Sandbox“ paslaugą ir stebėjimo rikiuotę vienu integravimo tašku.

Agentinis ciklas kaip skaičiavimo modelis

Įprastas procesorius vykdo deterministinį ciklą: gauna instrukciją, ją iškoduoja, įvykdo, išsaugo rezultatą. Programos skaitiklis juda pirmyn. Procesorius niekada nenusprendžia, ką daryti.

„Agent API“ įgyvendina kitokį skaičiavimo modelį. Procesorius yra pažangiausias kalbos modelis. Jis gauna tikslą ir nusprendžia, kaip jį pasiekti. Jis išskaido šį tikslą į planą, iš turimų įrankių rinkinio išrenka naudotinus įrankius, vykdo, stebi rezultatus, įvertina, ar tikslas pasiektas, ir kartoja. Konteksto langas tarnauja kaip registrai. Samprotavimas ir orkestravimas tarnauja kaip planuoklis.

Apsvarstykite pasiruošimą pardavimo pokalbiui su potencialiu klientu, su kuriuo jau kelis kartus kalbėjotės. Siunčiate vieną užklausą „Agent API“ su trimis įrankiais: vienu, skirtu ieškoti jūsų vidinėje CRM, „web_search“ ir „fetch_url“. Modelis iš pradžių iškviečia jūsų CRM įrankį, gaudamas kontekstą iš praėjusių pokalbių. Tada jis iškviečia „web_search“, kad surastų naujausias naujienas ir konkurencinę žvalgybą, grąžindamas kelis susijusius puslapius. Jis nusprendžia, kad du iš tų puslapių reikalauja gilesnio skaitymo, ir kiekvienam iškviečia „fetch_url“. Per tris žingsnius modelis surinko vidinę istoriją, platų žiniatinklio kontekstą ir viso puslapio detales į vieną pagrįstą atsakymą. Tai yra agento ciklas.

Viso agentinio ciklų orkestravimas

Svarbu atskirti „Agent API“ nuo modelių maršruto parinkimo paslaugų. „Agent API“ yra valdoma vykdymo aplinka, kuri orkestruoja visą agentinį ciklą: paiešką, įrankių vykdymą, samprotavimą, atsarginių kelių modelių grandinę ir visus pasirinktinius įrankius, prie kurių suteikiate prieigą. Ji pakeičia modelių maršruto parinktuvą, paieškos sluoksnį, įdėjimų teikėją, „Sandbox“ paslaugą ir stebėjimo rikiuotę vienu galutiniu tašku, paskyra and API raktu.

API yra nepriklausoma nuo modelių visuose pažangiausių modelių teikėjuose. Didelio pasiekiamumo programoms API palaiko atsarginių modelių grandines: nurodykite kelis modelius, ir API automatiškai išbando kitą, jei vienas yra nepasiekiamas. Tai užtikrina beveik 100 % pasiekiamumą.

Galingi, integruoti įrankiai

Galimi du integruoti įrankiai: „web_search“ ir „fetch_url“. „web_search“ palaiko domenų filtravimą (leidžiamų ir draudžiamų sąrašus, iki 20 domenų), naujumo filtravimą, datos intervalo filtravimą, kalbos filtravimą ir konfigūruojamus turinio biudžetus puslapiui. „fetch_url“ paima ir ištraukia viso puslapio turinį iš konkrečių URL.

Be integruotų įrankių, pasirinktinės funkcijos leidžia kūrėjams prijungti agentą prie savo užkulisinių sistemų (backend), duomenų bazių ir API.

Nuolat optimizuoti pažangiausių modelių rinkiniai

Norint sukurti veiksmingą agento konfigūraciją nuo nulio, reikia pasirinkti tinkamą modelį, kalibruoti samprotavimo gylį, pasirinkti įrankius ir suderinti tokenų biudžetus. „Perplexity“ tai nuolat daro savo produktams, padedama vidinės vertinimo komandos, kuri palygina konfigūracijas su realiomis darbo apkrovomis.

Išankstiniai nustatymai dalijasi šia kompetencija. Kiekvienas išankstinis nustatymas yra visiškai skaidri, iš anksto sukonfigūruota sąranka, optimizuota konkrečiam naudojimo atvejui: greitai faktų paieškai, subalansuotam tyrimui, išsamiai kelių šaltinių analizei ir institucinio lygio tyrimams. Kiekvienam iš jų skelbiame rekomenduojamą sistemos raginimą, įrankius ir kainų profilį. Tobulėjant modelių kraštovaizdžiui, atnaujiname pagrindines konfigūracijas, kad išankstinis nustatymas visada atspindėtų dabartinį technologijų lygį už nuspėjamą kainą. Visi išankstinių nustatymų parametrai yra keičiami: kūrėjai gali naudoti išankstinį nustatymą kaip pradžios tašką ir vienoje užklausoje koreguoti modelį, įrankius, žingsnių skaičių arba tokenų biudžetus.

„Deep Research 2.0“, pasiekiamas per „advanced-deep-research“ išankstinį nustatymą, yra tas pats kelių žingsnių samprotavimo variklis, kuris maitina „Perplexity“ vartotojų produktą. Jis atlieka dešimtis paieškų vienai užklausai, perskaito šimtus šaltinio dokumentų ir iteratyviai tobulina savo analizę. Veikimas „DRACO“, „Scale AI“ „ResearchRubrics“ ir „Google DeepMind“ „DeepSearchQA“ yra išsamiai aprašytas mūsų „DRACO“ etaloninio palyginimo įraše.

„Agent API“ jau pasiekiama šiandien. Dokumentaciją ir greito darbo pradžios vadovus rasite adresu docs.perplexity.ai