Agent API: Управљано рутајм окружење за агентске токове рада

Данас издајемо Perplexity Agent API, управљано рутајм окружење за изградњу агентских токова рада са интегрисаном претрагом, извршавањем алатки и оркестрацијом више модела.

Он замијењује рутер модела, слој претраге, пружаоца уграђивања (embeddings), sandbox сервис и праћење стока са једном тачком интеграције.

Агентска петља као рачунски модел

Конвенционални CPU извршава детерминистички циклус: преузима инструкцију, декодира је, извршава је, чува резултат. Бројач програма напредује. Процесор никада не одлучује шта да ради.

Agent API имплементира другачији рачунски модел. Процесор је језички модел границе. Он прима циљ и утврђује како да га постигне. Он декомпонује тај циљ у план, бира које алатке да користи из свог доступног скупа алатки, извршава, посматра резултате, оцјењује да ли је циљ испуњен и понавља. Прозор контекста служи као регистри. Образложење и оркестрација служе као распоређивач.

Размотрите припрему за продајни позив са потенцијалним клијентом са којим сте разговарали неколико пута. Шаљете један захтев на Agent API са три алатке: једном за претрагу вашег интерног CRM-а, web_search и fetch_url. Модел прво позива вашу CRM алатку, преузимајући контекст из прошлих разговора. Затим позива web_search да пронађе најновије вијести и конкурентску обавјештајну службу, враћајући неколико релевантних страница. Он одлучује да двије од тих страница захтијевају дубље читање и позива fetch_url на свакој. У три корака, модел је саставио интрну историју, шири веб контекст и детаље цијеле странице у један, утемељен одговор. То је агентска петља.

Оркестрација пуне агентске петље

Важно је разликовати Agent API од услуга рутирања модела. Agent API је управљано рутајм окружење које оркестрира пуну агентску петљу: преузимање, извршавање алатки, резоновање и резервни план више модела, као и све прилагођене алатке којима му дате приступ. Он замијењује рутер модела, слој претраге, пружаоца уграђивања (embeddings), sandbox сервис и праћење стока са једном крајњом тачком, налогом и API кључем.

API је агностичан према моделима свих пружалаца модела границе. За апликације високе доступности, API подржава ланце резервних модела: наведите више модела, а API аутоматски покушава сљедећи ако је један недоступан. Ово осигурава скоро 100% доступност.

Моћне, уграђене алатке

Доступне су двије уграђене алатке: web_search и fetch_url. web_search подржава филтрирање домена (бела листа и црна листа, до 20 домена), филтрирање према старости, филтрирање опсега датума, филтрирање језика и прилагодљиве буџете садржаја по страници. fetch_url преузима и извлачи садржај цијеле странице са одређених URL адреса.

Поред уграђених алатки, прилагођене функције омогућавају програмерима да повежу агента са сопственим позадинским системима, базама података и API-јима.

Континуирано оптимизована унапријед подешена подешавања модела границе

Изградња ефективне конфигурације агента од нуле захтијева одабир правог модела, калибрацију дубине резоновања, одабир алатки и подешавање буџета за токене. Perplexity ово ради континуирано за сопствене производе, подржан од стране интерног тима за евалуацију који упоређује конфигурације са стварним оптерећењима.

Унапријед подешена подешавања дијеле то стручно знање. Свако унапријед подешено подешавање је потпуно транспарентна, унапријед конфигурисана поставка оптимизована за одређени случај употребе: брзе чињеничне претраге, балансирано истраживање, дубока анализа из више извора и истраживање институционалног ранга. Објављујемо препоручени системски промпт, алатке и профил трошкова за сваки. Како се пејзаж модела развија, ажурирамо основне конфигурације тако да унапријед подешено подешавања увијек рефлектују тренутно стање технике уз предвидиве трошкове. Сви параметри унапријед подешених подешавања су подложни преписивању: програмери могу користити унапријед подешено подешавање као полазну тачку и прилагодити модел, алатке, број корака или буџете за токене у једном захтјеву.

Dubinski istraživanje 2.0, dostupno kroz advanced-deep-research preset, isti је вишекорачни мотор за резоновање који покреће Perplexity-јев потрошачки производ. Он извршава десетине претрага по упиту, чита стотине изворних докумената и итеративно пречишћава своју анализу. Перформансе на DRACO-у, Scale AI-јевом ResearchRubrics-у и Google DeepMind-овом DeepSearchQA-у су детаљно описане у нашем DRACO benchmark посту.

Agent API је доступан данас. Документација и водичи за брзи почетак налазе се на docs.perplexity.ai