Agent API: एजेंटिक वर्कफ़्लो के लिए एक प्रबंधित रनटाइम

आज हम Perplexity Agent API जारी कर रहे हैं, जो एकीकृत खोज, टूल निष्पादन और मल्टी-मॉडल ऑर्केस्ट्रेशन के साथ एजेंटिक वर्कफ़्लो बनाने के लिए एक प्रबंधित रनटाइम है।

यह एक मॉडल राउटर, एक सर्च लेयर, एक एम्बेडिंग प्रदाता, एक सैंडबॉक्स सेवा और एक मॉनिटरिंग स्टैक को एक ही इंटीग्रेशन पॉइंट से बदल देता है।

कम्प्यूट मॉडल के रूप में एजेंटिक लूप

एक पारंपरिक CPU एक नियतात्मक चक्र निष्पादित करता है: एक निर्देश प्राप्त करें, उसे डिकोड करें, उसे निष्पादित करें, परिणाम संग्रहीत करें। प्रोग्राम काउंटर आगे बढ़ता है। प्रोसेसर कभी तय नहीं करता कि क्या करना है।

Agent API एक अलग कम्प्यूट मॉडल लागू करता है। प्रोसेसर एक फ्रंटियर भाषा मॉडल है। यह एक उद्देश्य प्राप्त करता है और उसे प्राप्त करने का तरीका निर्धारित करता है। यह उस उद्देश्य को एक योजना में विघटित करता है, अपने उपलब्ध टूल सेट से उपयोग करने के लिए टूल का चयन करता है, निष्पादित करता है, परिणामों का अवलोकन करता है, मूल्यांकन करता है कि क्या उद्देश्य पूरा हुआ है, और पुनरावृत्ति करता है। संदर्भ विंडो रजिस्टरों के रूप में कार्य करती है। तर्क और ऑर्केस्ट्रेशन शेड्यूलर के रूप में कार्य करते हैं।

किसी ऐसे संभावित ग्राहक के साथ सेल्स कॉल की तैयारी पर विचार करें जिससे आपने कुछ बार बात की है। आप तीन टूल के साथ Agent API को एक एकल अनुरोध भेजते हैं: अपने आंतरिक CRM को खोजने के लिए एक, web_search, और fetch_url। मॉडल सबसे पहले आपके CRM टूल को कॉल करता है, जो पिछली बातचीत से संदर्भ प्राप्त करता है। इसके बाद यह हालिया समाचार और प्रतिस्पर्धी जानकारी खोजने के लिए web_search को कॉल करता है, जिससे कई प्रासंगिक पेज मिलते हैं। यह तय करता है कि उन पेजों में से दो को गहन पढ़ने की आवश्यकता है और प्रत्येक पर fetch_url को कॉल करता है। तीन चरणों में, मॉडल ने आंतरिक इतिहास, व्यापक वेब संदर्भ और पूर्ण-पृष्ठ विवरण को एक एकल, ग्राउंडेड प्रतिक्रिया में संयोजित किया है। यह एजेंट लूप है।

पूर्ण एजेंटिक लूप का ऑर्केस्ट्रेशन

Agent API को मॉडल रूटिंग सेवाओं से अलग करना महत्वपूर्ण है। Agent API एक प्रबंधित रनटाइम है जो पूर्ण एजेंटिक लूप को ऑर्केस्ट्रेट करता है: पुनर्प्राप्ति, टूल निष्पादन, तर्क, और मल्टी-मॉडल फ़ॉलबैक, और कोई भी कस्टम टूल जिसे आप इसे एक्सेस देते हैं। यह एक मॉडल राउटर, एक सर्च लेयर, एक एम्बेडिंग प्रदाता, एक सैंडबॉक्स सेवा और एक मॉनिटरिंग स्टैक को एक एकल एंडपॉइंट, खाते और API कुंजी से बदल देता है।

API सभी फ्रंटियर मॉडल प्रदाताओं में मॉडल-अज्ञेयवादी है। उच्च-उपलब्धता वाले अनुप्रयोगों के लिए, API मॉडल फ़ॉलबैक चेन का समर्थन करता है: कई मॉडल निर्दिष्ट करें, और यदि कोई उपलब्ध नहीं है तो API स्वचालित रूप से अगले को आज़माता है। यह लगभग 100% उपलब्धता सुनिश्चित करता है।

शक्तिशाली, इन-बिल्ट टूल

दो इन-बिल्ट टूल उपलब्ध हैं: web_search और fetch_url। web_search डोमेन फ़िल्टरिंग (अनुमति सूची और अस्वीकार सूची, 20 डोमेन तक), नवीनता फ़िल्टरिंग, तिथि सीमा फ़िल्टरिंग, भाषा फ़िल्टरिंग और प्रति पृष्ठ कॉन्फ़िगर करने योग्य सामग्री बजट का समर्थन करता है। fetch_url विशिष्ट URL से पूर्ण पृष्ठ सामग्री प्राप्त और निष्कर्षित करता है।

इन-बिल्ट टूल से परे, कस्टम फ़ंक्शन डेवलपर्स को एजेंट को अपने स्वयं के बैकएंड, डेटाबेस और API से कनेक्ट करने की अनुमति देते हैं।

निरंतर अनुकूलित फ्रंटियर मॉडल प्रीसेट

खरोंच से एक प्रभावी एजेंट कॉन्फ़िगरेशन बनाने के लिए सही मॉडल चुनना, तर्क की गहराई को कैलिब्रेट करना, टूल का चयन करना और टोकन बजट को ट्यून करना आवश्यक है। Perplexity अपने स्वयं के उत्पादों के लिए ऐसा निरंतर करती है, जिसे एक इन-हाउस मूल्यांकन टीम का समर्थन प्राप्त है जो वास्तविक वर्कफ़्लो के खिलाफ कॉन्फ़िगरेशन को बेंचमार्क करती है।

प्रीसेट उस विशेषज्ञता को साझा करते हैं। प्रत्येक प्रीसेट एक पूरी तरह से पारदर्शी, पूर्व-कॉन्फ़िगर सेटअप है जिसे एक विशिष्ट उपयोग के मामले के लिए अनुकूलित किया गया है: तेज़ तथ्यात्मक लुकअप, संतुलित शोध, गहन बहु-स्रोत विश्लेषण, और संस्थागत-ग्रेड शोध। हम प्रत्येक के लिए अनुशंसित सिस्टम प्रॉम्प्ट, टूल और लागत प्रोफ़ाइल प्रकाशित करते हैं। जैसे-जैसे मॉडल का परिदृश्य विकसित होता है, हम अंतर्निहित कॉन्फ़िगरेशन को अपडेट करते हैं ताकि प्रीसेट हमेशा अनुमानित लागत पर अत्याधुनिक स्थिति को प्रतिबिंबित करे। सभी प्रीसेट पैरामीटर ओवरराइड करने योग्य हैं: डेवलपर्स एक प्रीसेट को शुरुआती बिंदु के रूप में उपयोग कर सकते हैं और एक ही अनुरोध में मॉडल, टूल, चरण गणना या टोकन बजट को समायोजित कर सकते हैं।

डीप रिसर्च 2.0, जो advanced-deep-research प्रीसेट के माध्यम से उपलब्ध है, वही मल्टी-स्टेप तर्क इंजन है जो Perplexity के उपभोक्ता उत्पाद को शक्ति प्रदान करता है। यह प्रति क्वेरी दर्जनों खोजें करता है, सैकड़ों स्रोत दस्तावेज़ पढ़ता है, और पुनरावृत्तिपूर्वक अपने विश्लेषण को परिष्कृत करता है। DRACO, Scale AI की ResearchRubrics, और Google DeepMind की DeepSearchQA पर प्रदर्शन हमारे DRACO बेंचमार्क पोस्ट में विस्तृत है।

Agent API आज उपलब्ध है। दस्तावेज़ीकरण और क्विकस्टार्ट गाइड docs.perplexity.ai पर हैं।