Agent API: Ajan tabanlı iş akışları için yönetilen bir çalışma zamanı

Bugün, entegre arama, araç yürütme ve çok modelli düzenleme özellikleriyle ajan tabanlı iş akışları oluşturmaya yönelik yönetilen bir çalışma zamanı olan Perplexity Agent API'yi piyasaya sürüyoruz.

Tek bir entegrasyon noktasıyla bir model yönlendirici, arama katmanı, gömme sağlayıcısı, korumalı alan hizmeti ve izleme yığınının yerini alır.

Hesaplama modeli olarak ajan döngüsü

Geleneksel bir CPU, belirleyici bir döngü yürütür: bir komut getirir, çözer, yürütür, sonucu depolar. Program sayacı ilerler. İşlemci ne yapacağına asla karar vermez.

Agent API farklı bir hesaplama modeli uygular. İşlemci, sınırda bir dil modelidir. Bir hedef alır ve buna nasıl ulaşılacağını belirler. Bu hedefi bir plana ayırır, mevcut araç setinden hangi araçları kullanacağını seçer, yürütür, sonuçları gözlemler, hedefe ulaşıp ulaşılmadığını değerlendirir ve yineler. Bağlam penceresi yazmaçlar görevi görür. Akıl yürütme ve düzenleme zamanlayıcı görevi görür.

Birkaç kez konuştuğunuz bir potansiyel müşteriyle satış görüşmesine hazırlandığınızı düşünün. Agent API'ye üç araç içeren tek bir istek gönderirsiniz: dahili CRM'inizde arama yapmak için biri, web_search diğeri ve fetch_url sonuncusu. Model önce CRM aracınızı çağırarak geçmiş konuşmalardaki bağlamı alır. Ardından son haberleri ve rekabetçi istihbarat bulmak için web_search'ü çağırır ve ilgili birkaç sayfa döndürür. Bu sayfalardan ikisinin daha derinlemesine okunmayı hak ettiğine karar verir ve her biri için fetch_url'yi çağırır. Model, üç adımda dahili geçmişi, geniş web bağlamını ve tam sayfa detayını tek ve dayanaklı bir yanıtta birleştirmiştir. Ajan döngüsü budur.

Tam ajan döngüsünün düzenlenmesi

Agent API'yi model yönlendirme hizmetlerinden ayırmak önemlidir. Agent API; alma, araç yürütme, akıl yürütme ve çok modelli geri dönüş ve erişim sağladığınız tüm özel araçlar dahil olmak üzere tam ajan döngüsünü düzenleyen yönetilen bir çalışma zamanıdır. Tek bir uç nokta, hesap ve API anahtarı ile bir model yönlendiricinin, arama katmanının, gömme sağlayıcısının, korumalı alan hizmetinin ve izleme yığınının yerini alır.

API, tüm sınır modeli sağlayıcıları arasında modelden bağımsızdır. Yüksek kullanılabilirlik gerektiren uygulamalar için API, model geri dönüş zincirlerini destekler: birden fazla model belirtirsiniz ve biri kullanılamıyorsa API otomatik olarak bir sonrakini dener. Bu, %100'e yakın kullanılabilirlik sağlar.

Güçlü, yerleşik araçlar

İki yerleşik araç mevcuttur: web_search ve fetch_url. web_search; etki alanı filtrelemeyi (izin verilenler ve engellenenler listesi, 20 etki alanına kadar), güncellik filtrelemeyi, tarih aralığı filtrelemeyi, dil filtrelemeyi ve sayfa başına yapılandırılabilir içerik bütçelerini destekler. fetch_url, belirli URL'lerden tam sayfa içeriğini alır ve çıkarır.

Yerleşik araçların ötesinde, özel fonksiyonlar geliştiricilerin ajanlarını kendi arka uçlarına, veritabanlarına ve API'lerine bağlamasına olanak tanır.

Sürekli optimize edilen sınır modeli ön ayarları

Sfırdan etkili bir ajan yapılandırması oluşturmak; doğru modeli seçmeyi, akıl yürütme derinliğini kalibre etmeyi, araçları seçmeyi ve token bütçelerini ayarlamayı gerektirir. Perplexity, yapılandırmaları gerçek iş yüklerine göre kıyaslayan şirket içi bir değerlendirme ekibi tarafından desteklenen kendi ürünleri için bunu sürekli olarak yapar.

Ön ayarlar bu uzmanlığı paylaşır. Her ön ayar; hızlı olgusal aramalar, dengeli araştırma, derin çok kaynaklı analiz ve kurumsal düzeyde araştırma gibi belirli bir kullanım durumu için optimize edilmiş, tamamen şeffaf, önceden yapılandırılmış bir kurulumdur. Her biri için önerilen sistem komut istemini, araçları ve maliyet profilini yayınlıyoruz. Model ortamı evrim geçirdikçe temel yapılandırmaları güncelliyoruz, böylece ön ayar her zaman tahmin edilebilir bir maliyetle güncel teknolojiyi yansıtıyor. Tüm ön ayar parametreleri geçersiz kılınabilir: geliştiriciler bir ön ayarı başlangıç noktası olarak kullanabilir ve modeli, araçları, adım sayısını veya token bütçelerini tek bir istekte ayarlayabilir.

Advanced-deep-research ön ayarı aracılığıyla sunulan Derin araştırma 2.0, Perplexity'nin tüketici ürününü destekleyen çok adımlı akıl yürütme motorunun aynısıdır. Sorgu başına onlarca arama gerçekleştirir, yüzlerce kaynak belge okur ve analizini yinelemeli olarak iyileştirir. DRACO, Scale AI's ResearchRubrics ve Google DeepMind'ın DeepSearchQA üzerindeki performansı DRACO kıyaslama yazımızda ayrıntılı olarak açıklanmıştır.

Agent API bugün itibarıyla kullanılabilmektedir. Belgeler ve hızlı başlangıç kılavuzları docs.perplexity.ai adresindedir.