Agent API: ఏజెంటిక్ వర్క్‌ఫ్లోల కోసం నిర్వహించబడే రన్‌టైమ్

నేను Perplexity Agent APIని విడుదల చేస్తున్నాము, ఇది ఏకీకృత శోధన, టూల్ ఎగ్జిక్యూషన్ మరియు మల్టీ-మోడల్ ఆర్కెస్ట్రేషన్‌తో ఏజెంటిక్ వర్క్‌ఫ్లోలను రూపొందించడానికి ఒక నిర్వహించబడే రన్‌టైమ్.

ఇది మోడల్ రౌటర్, శోధన పొర, ఎంబెడ్డింగ్‌ల ప్రొవైడర్, శాండ్‌బాక్స్ సేవ మరియు మానిటరింగ్ స్టాక్‌ను ఒకే ఇంటిగ్రేషన్ పాయింట్‌తో భర్తీ చేస్తుంది.

కంప్యూట్ మోడల్‌గా ఏజెంటిక్ లూప్

సాంప్రదాయ CPU ఒక నిర్దిష్ట చక్రాన్ని అమలు చేస్తుంది: ఒక సూచనను పొందడం, దానిని డీకోడ్ చేయడం, దానిని అమలు చేయడం, ఫలితాన్ని నిల్వ చేయడం. ప్రోగ్రామ్ కౌంటర్ ముందుకు సాగుతుంది. ప్రాసెసర్ ఏమి చేయాలో ఎప్పుడూ నిర్ణయించదు.

Agent API ఒక భిన్నమైన కంప్యూట్ మోడల్‌ను అమలు చేస్తుంది. ప్రాసెసర్ అనేది ఒక సరికొత్త లాంగ్వేజ్ మోడల్. ఇది ఒక లక్ష్యాన్ని స్వీకరించి, దానిని ఎలా సాధించాలో నిర్ధారిస్తుంది. ఇది ఆ లక్ష్యాన్ని ఒక ప్రణాళికగా విడదీస్తుంది, అందుబాటులో ఉన్న టూల్ సెట్ నుండి ఏ టూల్స్ ఉపయోగించాలో ఎంచుకుంటుంది, అమలు చేస్తుంది, ఫలితాలను గమనిస్తుంది, లక్ష్యం నెరవేరిందా లేదా అని అంచనా వేస్తుంది మరియు పునరావృతం చేస్తుంది. కాంటెక్స్ట్ విండో రిజిస్టర్‌లుగా పనిచేస్తుంది. రీజనింగ్ మరియు ఆర్కెస్ట్రేషన్ షెడ్యూలర్‌గా పనిచేస్తాయి.

మీరు కొన్ని సార్లు మాట్లాడిన కాబోయే కస్టమర్‌తో సేల్స్ కాల్ కోసం సిద్ధం కావడాన్ని పరిగణించండి. మీరు మూడు టూల్స్‌తో Agent APIకి ఒకే అభ్యర్థనను పంపుతారు: మీ అంతర్గత CRMని శోధించడానికి ఒకటి, web_search, మరియు fetch_url. మోడల్ మొదట మీ CRM టూల్‌ను కాల్ చేస్తుంది, గత సంభాషణల నుండి కాంటెక్స్ట్‌ను తీసుకుంటుంది. ఇది తాజా వార్తలు మరియు పోటీ ఇంటెలిజెన్స్‌ను కనుగొనడానికి web_searchని కాల్ చేస్తుంది, అనేక సంబంధిత పేజీలను అందిస్తుంది. ఆ పేజీలలో రెండు మరింత లోతుగా చదవడానికి అర్హమైనవని ఇది నిర్ణయించుకుంటుంది మరియు ప్రతిదానిపై fetch_urlని కాల్ చేస్తుంది. మూడు దశల్లో, మోడల్ అంతర్గత చరిత్ర, విస్తృత వెబ్ కాంటెక్స్ట్ మరియు పూర్తి-పేజీ వివరాలను ఒకే, గ్రౌండెడ్ ప్రతిస్పందనగా అమర్చింది. అదే ఏజెంట్ లూప్.

పూర్తి ఏజెంటిక్ లూప్ యొక్క ఆర్కెస్ట్రేషన్

మోడల్ రూటింగ్ సేవల నుండి Agent APIని వేరు చేయడం ముఖ్యం. Agent API అనేది పూర్తి ఏజెంటిక్ లూప్‌ను ఆర్కెస్ట్రేట్ చేసే నిర్వహించబడే రన్‌టైమ్: రిట్రీవల్, టూల్ ఎగ్జిక్యూషన్, రీజనింగ్ మరియు మల్టీ-మోడల్ ఫాల్‌బ్యాక్, మరియు మీరు దానికి యాక్సెస్ ఇచ్చే ఏదైనా కస్టమ్ టూల్స్. ఇది మోడల్ రౌటర్, శోధన పొర, ఎంబెడ్డింగ్‌ల ప్రొవైడర్, శాండ్‌బాక్స్ సేవ మరియు మానిటరింగ్ స్టాక్‌ను ఒకే ఎండ్‌పాయింట్, ఖాతా మరియు API కీతో భర్తీ చేస్తుంది.

API అన్ని సరికొత్త మోడల్ ప్రొవైడర్లలో మోడల్-అగ్నాస్టిక్‌గా ఉంటుంది. అధిక-లభ్యత అప్లికేషన్ల కోసం, API మోడల్ ఫాల్‌బ్యాక్ చెయిన్‌లకు మద్దతు ఇస్తుంది: బహుళ మోడళ్లను పేర్కొనండి, మరియు ఒకటి అందుబాటులో లేకపోతే API స్వయంచాలకంగా తదుపరిదాన్ని ప్రయత్నిస్తుంది. ఇది దాదాపు 100% లభ్యతను నిర్ధారిస్తుంది.

శక్తివంతమైన, అంతర్నిర్మిత టూల్స్

రెండు అంతర్నిర్మిత టూల్స్ అందుబాటులో ఉన్నాయి: web_search మరియు fetch_url. web_search డొమైన్ ఫిల్టరింగ్ (అలవ్‌లిస్ట్ మరియు డినీలిస్ట్, గరిష్టంగా 20 డొమైన్లు), రసెన్సీ ఫిల్టరింగ్, తేదీ పరిధి ఫిల్టరింగ్, భాషా ఫిల్టరింగ్ మరియు ప్రతి పేజీకి కాన్ఫిగర్ చేయదగిన కంటెంట్ బడ్జెట్‌లకు మద్దతు ఇస్తుంది. fetch_url నిర్దిష్ట URLల నుండి పూర్తి పేజీ కంటెంట్‌ను పొందుతుంది మరియు సంగ్రహిస్తుంది.

అంతర్నిర్మిత టూల్స్‌కు మించి, డెవలపర్‌లు ఏజెంట్‌ను తమ స్వంత బ్యాకెండ్‌లు, డేటాబేస్‌లు మరియు APIలకు కనెక్ట్ చేయడానికి కస్టమ్ ఫంక్షన్‌లు అనుమతిస్తాయి.

నిరంతరం ఆప్టిమైజ్ చేయబడిన సరికొత్త మోడల్ ప్రీసెట్లు

మొదటి నుండి ప్రభావవంతమైన ఏజెంట్ కాన్ఫిగరేషన్‌ను రూపొందించడానికి సరైన మోడల్‌ను ఎంచుకోవడం, రీజనింగ్ లోతును క్రమాంకనం చేయడం, టూల్స్‌ను ఎంచుకోవడం మరియు టోకెన్ బడ్జెట్‌లను ట్యూన్ చేయడం అవసరం. Perplexity దీన్ని తన స్వంత ఉత్పత్తుల కోసం నిరంతరం చేస్తుంది, వాస్తవ వర్క్‌లోడ్‌లకు వ్యతిరేకంగా కాన్ఫిగరేషన్‌లను బెంచ్‌మార్క్ చేసే అంతర్గత మూల్యాంకన బృందం దీనికి మద్దతు ఇస్తుంది.

ప్రీసెట్లు ఆ నైపుణ్యాన్ని పంచుకుంటాయి. ప్రతి ప్రీసెట్ అనేది నిర్దిష్ట ఉపయోగం కోసం ఆప్టిమైజ్ చేయబడిన పూర్తి పారదర్శకమైన, ముందుగా కాన్ఫిగర్ చేయబడిన సెటప్: వేగవంతమైన వాస్తవిక లుకప్‌లు, సమతుల్య పరిశోధన, లోతైన బహుళ-మూల విశ్లేషణ మరియు సంస్థాగత-స్థాయి పరిశోధన. మేము ప్రతిదానికీ సిఫార్సు చేయబడిన సిస్టమ్ ప్రాంప్ట్, టూల్స్ మరియు కాస్ట్ ప్రొఫైల్‌ను ప్రచురిస్తాము. మోడల్ ల్యాండ్‌స్కేప్ అభివృద్ధి చెందుతున్న కొద్దీ, అంతర్లీన కాన్ఫిగరేషన్‌లను మేము అప్‌డేట్ చేస్తాము కాబట్టి ప్రీసెట్ ఎల్లప్పుడూ అంచనా వేయదగిన ఖర్చుతో ప్రస్తుత కళ యొక్క స్థితిని ప్రతిబింబిస్తుంది. అన్ని ప్రీసెట్ పారామీటర్‌లను ఓవర్‌రైడ్ చేయవచ్చు: డెవలపర్‌లు ప్రీసెట్‌ను ప్రారంభ బిందువుగా ఉపయోగించవచ్చు మరియు ఒకే అభ్యర్థనలో మోడల్, టూల్స్, స్టెప్ కౌంట్ లేదా టోకెన్ బడ్జెట్‌లను సర్దుబాటు చేయవచ్చు.

advanced-deep-research ప్రీసెట్ ద్వారా అందుబాటులో ఉన్న Deep Research 2.0, Perplexity వినియోగదారు ఉత్పత్తికి శక్తినిచ్చే అదే బహుళ-దశల రీజనింగ్ ఇంజిన్. ఇది ప్రతి ప్రశ్నకు డజన్ల కొద్దీ శోధనలను నిర్వహిస్తుంది, వందలాది సోర్స్ డాక్యుమెంట్‌లను చదువుతుంది మరియు దాని విశ్లేషణను పునరావృతంగా మెరుగుపరుస్తుంది. DRACO, Scale AI యొక్క ResearchRubrics మరియు Google DeepMind యొక్క DeepSearchQA పై పనితీరు మా DRACO బెంచ్‌మార్క్ పోస్ట్లో వివరంగా ఉంది.

Agent API నేడు అందుబాటులో ఉంది. డాక్యుమెంటేషన్ మరియు క్విక్‌స్టార్ట్ గైడ్‌లు docs.perplexity.ai లో ఉన్నాయి