Agent API: এজেন্টিক ওয়ার্কফ্লোর জন্য একটি পরিচালিত রানটাইম

আজ আমরা Perplexity Agent API প্রকাশ করছি, যা সমন্বিত অনুসন্ধান, টুল এক্সিকিউশন এবং মাল্টি-মডেল অর্কেস্ট্রেশন সহ এজেন্টিক ওয়ার্কফ্লো তৈরির জন্য একটি পরিচালিত রানটাইম।

এটি একটি একক ইন্টিগ্রেশন পয়েন্ট দিয়ে একটি মডেল রাউটার, একটি সার্চ লেয়ার, একটি এমবেডিংস প্রোভাইডার, একটি স্যান্ডবক্স সার্ভিস এবং একটি মনিটরিং স্ট্যাক প্রতিস্থাপন করে।

কম্পিউট মডেল হিসেবে এজেন্টিক লুপ

একটি প্রচলিত সিপিইউ একটি নির্দিষ্ট চক্র সম্পাদন করে: একটি নির্দেশ ফেচ করে, এটি ডিকোড করে, এটি কার্যকর করে, ফলাফল সংরক্ষণ করে। প্রোগ্রাম কাউন্টার এগিয়ে যায়। প্রসেসর কখনই কী করতে হবে তা নির্ধারণ করে না।

Agent API একটি ভিন্ন কম্পিউট মডেল বাস্তবায়ন করে। প্রসেসর হলো একটি ফ্রন্টিয়ার ল্যাঙ্গুয়েজ মডেল। এটি একটি উদ্দেশ্য গ্রহণ করে এবং তা কীভাবে অর্জন করা যায় তা নির্ধারণ করে। এটি সেই উদ্দেশ্যকে একটি পরিকল্পনায় বিভক্ত করে, এর উপলব্ধ টুল সেট থেকে কোন টুলগুলি ব্যবহার করতে হবে তা নির্বাচন করে, কার্য সম্পাদন করে, ফলাফলগুলি পর্যবেক্ষণ করে, উদ্দেশ্য পূরণ হয়েছে কিনা তা মূল্যায়ন করে এবং পুনরাবৃত্তি করে। কনটেক্সট উইন্ডো রেজিস্টার হিসেবে কাজ করে। রিজনিং এবং অর্কেস্ট্রেশন শিডিউলার হিসেবে কাজ করে।

এমন একজন সম্ভাব্য গ্রাহকের সাথে সেলস কলের প্রস্তুতি নেওয়ার কথা বিবেচনা করুন যার সাথে আপনি দু-একবার কথা বলেছেন। আপনি তিনটি টুল সহ Agent API-এ একটি একক অনুরোধ পাঠান: আপনার অভ্যন্তরীণ CRM অনুসন্ধান করার জন্য একটি, web_search এবং fetch_url। মডেলটি প্রথমে আপনার CRM টুলটিকে কল করে, অতীতের কথোপকথন থেকে কনটেক্সট পুনরুদ্ধার করে। এটি তখন সাম্প্রতিক খবর এবং প্রতিযোগিতামূলক বুদ্ধিমত্তা খুঁজে পেতে web_search কল করে, বেশ কয়েকটি প্রাসঙ্গিক পৃষ্ঠা প্রদান করে। এটি নির্ধারণ করে যে সেই পৃষ্ঠাগুলির মধ্যে দুটির জন্য গভীর পঠন প্রয়োজন এবং প্রতিটিতে fetch_url কল করে। তিনটি ধাপে, মডেলটি অভ্যন্তরীণ ইতিহাস, বিস্তৃত ওয়েব কনটেক্সট এবং সম্পূর্ণ-পৃষ্ঠার বিবরণকে একটি একক, গ্রাউন্ডেড প্রতিক্রিয়ায় একত্রিত করেছে। এটাই এজেন্ট লুপ।

পূর্ণ এজেন্টিক লুপের অর্কেস্ট্রেশন

মডেল রুটিং পরিষেবা থেকে Agent API-কে আলাদা করা গুরুত্বপূর্ণ। Agent API হল একটি পরিচালিত রানটাইম যা সম্পূর্ণ এজেন্টিক লুপ অর্কেস্ট্রেট করে: রিট্রিভাল, টুল এক্সিকিউশন, রিজনিং এবং মাল্টি-মডেল ফলব্যাক এবং আপনার অ্যাক্সেস দেওয়া যেকোনো কাস্টম টুল। এটি একটি একক এন্ডপয়েন্ট, অ্যাকাউন্ট এবং API কী সহ একটি মডেল রাউটার, একটি সার্চ লেয়ার, একটি এমবেডিংস প্রোভাইডার, একটি স্যান্ডবক্স সার্ভিস এবং একটি মনিটরিং স্ট্যাক প্রতিস্থাপন করে।

API সমস্ত ফ্রন্টিয়ার মডেল প্রদানকারী জুড়ে মডেল-অ্যাগনস্টিক। উচ্চ-উপলভ্যতা অ্যাপ্লিকেশনগুলির জন্য, API মডেল ফলব্যাক চেইন সমর্থন করে: একাধিক মডেল নির্দিষ্ট করুন, এবং কোনো একটি অনুপলব্ধ থাকলে API স্বয়ংক্রিয়ভাবে পরবর্তীটি চেষ্টা করে। এটি প্রায় ১০০% প্রাপ্যতা নিশ্চিত করে।

শক্তিশালী, বিল্ট-ইন টুলস

দুটি বিল্ট-ইন টুল উপলব্ধ রয়েছে: web_search এবং fetch_url। web_search ডোমেন ফিল্টারিং (অনুমোদিত তালিকা এবং নিষিদ্ধ তালিকা, প্রতিটিতে ২০টি ডোমেন পর্যন্ত), রিসেন্সি ফিল্টারিং, তারিখের পরিসর ফিল্টারিং, ভাষা ফিল্টারিং এবং প্রতি পৃষ্ঠায় কনফিগারযোগ্য সামগ্রী বাজেট সমর্থন করে। fetch_url নির্দিষ্ট ইউআরএল থেকে সম্পূর্ণ পৃষ্ঠার বিষয়বস্তু পুনরুদ্ধার এবং নিষ্কাশন করে।

বিল্ট-ইন টুলগুলি ছাড়াও, কাস্টম ফাংশনগুলি ডেভেলপারদের এজেন্টকে তাদের নিজস্ব ব্যাকএন্ড, ডাটাবেস এবং API-এর সাথে সংযুক্ত করতে দেয়।

ক্রমাগত অপ্টিমাইজ করা ফ্রন্টিয়ার মডেল প্রিসেট

স্ক্র্যাচ থেকে একটি কার্যকর এজেন্ট কনফিগারেশন তৈরি করার জন্য সঠিক মডেল নির্বাচন করা, রিজনিং ডেপথ ক্যালিব্রেট করা, টুল নির্বাচন করা এবং টোকেন বাজেট টিউন করা প্রয়োজন। Perplexity বাস্তব ওয়ার্কলোডের বিরুদ্ধে কনফিগারেশনগুলিকে বেঞ্চমার্ক করে এমন একটি ইন-হাউস ইভালুয়েশন টিমের সমর্থনে, তার নিজস্ব পণ্যের জন্য এটি ক্রমাগত করে থাকে।

Presets সেই দক্ষতা শেয়ার করে। প্রতিটি প্রিসেট একটি নির্দিষ্ট ব্যবহারের ক্ষেত্রের জন্য অপ্টিমাইজ করা একটি সম্পূর্ণ স্বচ্ছ, প্রাক-কনফিগার করা সেটআপ: দ্রুত তথ্যের খোঁজ, ভারসাম্যপূর্ণ গবেষণা, গভীর বহু-উৎস বিশ্লেষণ এবং প্রাতিষ্ঠানিক-গ্রেডের গবেষণা। আমরা প্রতিটির জন্য প্রস্তাবিত সিস্টেম প্রম্পট, টুল এবং খরচ প্রোফাইল প্রকাশ করি। মডেল ল্যান্ডস্কেপ বিকশিত হওয়ার সাথে সাথে, আমরা অন্তর্নিহিত কনফিগারেশনগুলি আপডেট করি যাতে প্রিসেটটি সর্বদা একটি অনুমানযোগ্য খরচে শিল্পের বর্তমান অবস্থাকে প্রতিফলিত করে। সমস্ত প্রিসেট প্যারামিটার ওভাররাইড করা যায়: ডেভেলপাররা একটি প্রিসেটকে প্রারম্ভিক বিন্দু হিসেবে ব্যবহার করতে পারেন এবং একটি একক অনুরোধে মডেল, টুল, ধাপের সংখ্যা বা টোকেন বাজেট সামঞ্জস্য করতে পারেন।

Advanced-deep-research প্রিসেটের মাধ্যমে উপলব্ধ Deep Research 2.0 হল একই মাল্টি-স্টেপ রিজনিং ইঞ্জিন যা Perplexity-এর ভোক্তা পণ্যকে চালিত করে। এটি প্রতি কোয়ারিতে ডজন ডজন অনুসন্ধান করে, শত শত উৎস নথি পড়ে এবং পুনরাবৃত্তিমূলকভাবে এর বিশ্লেষণ পরিমার্জন করে। DRACO, Scale AI-এর ResearchRubrics এবং Google DeepMind-এর DeepSearchQA-তে পারফরম্যান্স আমাদের DRACO benchmark post-এ বিস্তারিত দেওয়া আছে।

Agent API আজ উপলব্ধ। ডকুমেন্টেশন এবং কুইকস্টার্ট গাইড docs.perplexity.ai-এ রয়েছে