Yapay zeka öncelikli bir arama API'si tasarlama ve değerlendirme
Hibrit bilgi getirme ve yapay zeka modelleri için akıllı bağlam yönetimi kullanarak günde 200 milyon sorguyu işleyen ölçeklenebilir bir arama API'si oluşturma
Ölçeklenebilir ve yapay zeka odaklı bir Arama API'si oluşturmak; bilgi getirme, yapay zeka ve sistem tasarımı kesişiminde benzersiz araştırma zorlukları ortaya çıkarır. Sınırlı verilerle çalışan geleneksel hizmetlerin aksine, bir arama API'si milyarlarca belgeyi sürekli olarak indekslemeli, sorgu niyetini diller ve etki alanları arasında anlamalı ve milisaniyeler içinde ilgili sonuçları sunmalıdır. Yapay zeka ajanlarının dünyasında bir arama API'si, bu modellerin en iyi düzeyde performans göstermesini ve mümkün olan en doğru bilgiyi içermesini sağlamak için geliştiricilerin modellerine sunulan bağlamı da dikkatle düzenlemelidir. Etkili bağlam mühendisliği, API'nin yalnızca belge düzeyinde ilgililiği yakalamasını değil, aynı zamanda belgelerin bireysel bölümlerini ve aralıklarını başlı başına birinci sınıf birer birim olarak ele almasını gerektirir.
Bu makalede, Perplexity Search API'sinin tasarımını ve değerlendirmesini sunuyoruz. İlk olarak, günde 200 milyon sorgu işleyen üretim arama altyapımızın arkasındaki mimariyi ve temel teknik kararları inceliyoruz. Mimarimiz; hibrit bilgi getirme mekanizmalarını, çok aşamalı sıralama işlem hatlarını, dağıtık indekslemeyi ve kendi kendini geliştiren bir içerik anlama modülü aracılığıyla dinamik ayrıştırmayı birleştirir.
Ardından, yeni açık kaynaklı hale getirilen bir değerlendirme çerçevesi aracılığıyla arama API'si performansını deneysel olarak değerlendirme yaklaşımımızı açıklıyoruz. Mevcut ticari API'lerle birlikte yapılan kapsamlı kıyaslamalar sayesinde, hem kalite hem de gecikme süresi açısından son teknoloji performansı gösteriyoruz. Perplexity Search API, bugünden itibaren dünya çapındaki geliştiricilerin kullanımına sunulmuştur.
[GitHub üzerinde search_evals'i bulun
Yapay zeka modelleri için optimize edilmiş bir arama sistemi oluşturmak
Kuruluşumuzdan bu yana, sunmak istediğimiz kategoriyi belirleyen yapay zeka ürünlerini etkinleştirmek için sağlam arama yeteneklerinin kritik önem taşıyacağını biliyorduk. Başlangıçta bu yeteneklerin halka açık bir biçimde zaten var olduğunu umuyorduk. 2022'nin sonlarında mevcut olan arama API'leri portföyü ile denemeler yaptık ve Perplexity'nin yanıt motorunun en ilk sürümü aslında bu tekliflerden bazılarını içeriyordu. Özellikle, kullanıcı sorgularını analiz eder, bu API'lere istekler formüle edip gönderir ve sonraki nesil işlem hattımız için bağlam olarak sonuçları toplardık.
Ancak kullanıcılar Perplexity'ye akın ettikçe, bu API'lerin büyümemizle birlikte ölçeklenemeyeceğini hızla fark ettik. Karşılaştığımız fiyatlar fahişti; önde gelen bir API sağlayıcısı bin sorgu başına 200 dolar talep ediyordu. Ancak daha da ölümcül olanı, bu eski API'lerin öncü yapay zeka sistemleri tarafından getirilen yeni bilgi getirme paradigmaları için tasarlanmamış olmasıydı.
Yeni başlayanlar için, bu eski API'lerin istek ve yanıt biçimleri, insanların arama sonuçlarının münhasır tüketicileri olacağı bir dünya için tasarlanmıştı. Sonuç olarak bu API'ler, belge altı birimler tarafından ortaya çıkarılan daha ayrıntılı bilgilerin hariç tutulmasıyla belge düzeyindeki sonuçlara öncelik vermiştir. Bir yapay zeka modelinin başarısı, sağlanan bağlamın kalitesine ve kompaktlığına bağlıdır; aşırı geniş bilgi getirmenin, getirilen belgelerin bir bütün olarak ne kadar ilgili görünebileceğinden bağımsız olarak yapay zeka modellerini rayından çıkarabileceğini ilk elden gördük. Hassasiyeti kesin olmayan sonuçlara zorla uygulama girişimlerimiz sınırlı bir başarıyla karşılandı.
Ayrıca eski API'lerin ya çok eski ya da çok yavaş olduğunu gözlemledik. Bağımsız olarak geliştirilen arama API'leri, eksik ve çok seyrek güncellenen indekslere dayanıyordu. Google Arama için çeşitli resmi olmayan SERP API'leri gibi kazıma tabanlı API'ler, daha kapsamlı bir indeksten yararlandı ancak üçüncü taraf bir arama motorunu sorgulamanın doğasındaki verimsizlik nedeniyle kabul edilemez derecede yüksek gecikme süresi sundu. Yüksek gecikme süresi, API'leri kullanıcı odaklı uygulamalar için uygunsuz hale getirirken, eskimişlik, sonuç kümelerini doğru ve güvenilir olmayı uman herhangi bir yapay zeka sistemi için kullanılmaz hale getirdi.
Son olarak, yapay zeka ekosisteminin sözlüksel arama ile semantik arama arasında ikiye ayrıldığını, bir modaliteyi diğerine göre aşırı optimize eden sistemlerin ortaya çıktığını gözlemledik. Basit mantıksal filtreleri bile yeterince destekleyemeyen vektör veritabanlarının yükselişini gördük. Geleneksel arama arka uçları, yapay zekanın kilidini açtığı semantik sıralama ve bilgi getirme fırsatları için ilkel destekle pek de iyi bir performans sergilemedi.
Perplexity'yi daha da iyileştirmenin kendi özel arama altyapımızı kurmayı gerektireceğini fark ettiğimizde, gözlemlerimizi üç temel kriterde özetledik:
Kapsamlılık, güncellik ve hız: arama indeksi kapsamlı, sürekli güncellenen ve gerçek zamanlı gecikme için tasarlanmış olmalıdır.
İnce taneli içerik anlama: yapay zeka modelinin kırılganlığı ve sınırlı bağlam pencereleri, arama sonuçlarının mümkün olan en ayrıntılı düzeyde sunulmasını ve sıralanmasını gerektirir.
Hibrit bilgi getirme ve sıralama: sonuçların yapay zeka için yararlı olması adına hem bilgi getirme hem de sıralama işlem hatları sözlüksel ve semantik sinyalleri içermelidir.
Tarama ve indeksleme altyapısı
Perplexity ölçeğinde faaliyet göstermek, web'i kapsamlı bir şekilde haritalandırabilen ve web'in sürekli evrimine yanıt verebilen bir altyapı gerektirir. Arama indeksimiz, yüzlerce milyar daha fazlasını takip etme kapasitesiyle birlikte 200 milyardan fazla benzersiz URL'yi takip eder.
İndeksimizin internetin yeterince kapsamlı bir bölümünü kapsamasını ve her belgenin en son durumu yansıtmasını sağlamak zor bir başarıdır. Kapsamlılık ve güncellik arasında doğal bir gerilim vardır: sabit bir indeksleme bütçesi için, mevcut sayfalar için yenileme işlemleri, ziyaret edilmemiş yeni sayfalar için indeksleme işlemleriyle rekabet etmelidir. Bu gerilimi, ölçeklendirme (indeksleme bütçesini artırarak optimizasyon kısıtlamasını esneten) ve makine öğrenimi odaklı önceliklendirme (her indeksleme işleminin bir bütün olarak indeks için maksimum düzeyde değerli olmasını sağlayan) kombinasyonuyla dengeliyoruz.
Boyut ve sorgu hacmi ile yatay olarak ölçeklenen ekabayt ölçeğinde bir indeks ve tarama cihazı oluşturduk. Perplexity'nin tarayıcı ve indeksleme filoları toplu olarak on binlerce CPU ve yüzlerce terabayt RAM'den oluşmakta olup, daha fazla ölçeklendirme için hatırı sayılır bir alan sunmaktadır. Bu bilgi işlem altyapısını soğuk ve sıcak depolama dengesiyle birleştiriyoruz. Hangi belgelerin sıcak tutulması gerektiğini belirlemek için hem öğrenilmiş modelleri hem de ayarlanmış sezgisel yöntemleri kullanıyoruz; yetkili alan adlarından gelen belgelere, yeterince ele alınmamış konuları içeren belgelere ve indeksimizi zenginleştirmek için olağanüstü potansiyele sahip diğer kategorilere öncelik veriyoruz.
Bu altyapı, Perplexity'nin saniyede on binlerce indeksleme işlemi gerçekleştirmesini sağlar. Ancak bu nispeten cömert bütçeyle bile internetin ölçeği, her bir URL'yi sık ve yinelenen bir temelde indekslemek için çok fazladır. Makine öğrenimi burada devreye girer. Belirli bir aday URL'nin indekslenmesi gerekip gerekmediğini tahmin etmek için bir makine öğrenimi modeli eğitiyoruz. Eğitim hedefi, indeksleme kararımızı belirli URL'nin hem önemine hem de muhtemel güncelleme sıklığına göre kalibre etmemizi sağlayacak şekilde hazırlanmıştır. İndeksleme işlemini tam olarak ne zaman zamanlayacağımızı bize söylemesi için de makine öğrenimine güveniyoruz. Rutin yayın ve yenileme döngülerine sahip siteler için bu, operasyonları en yararlı olmaları muhtemel olan zaman noktasına ertelememize olanak tanır. Bu makine öğrenimi modellerinin sürekli iyileştirilmesi sayesinde, hem kapsamlılık hem de güncellik açısından standardı karşılayan bir indeksi koruyabiliyoruz.
Tarama altyapımız yatay olarak kolayca ölçeklenmesine rağmen, web sitesi operatörlerinin farklı teknik kısıtlamalarla karşı karşıya olduğunun farkındayız. Herhangi bir alan adına öngörülebilir ve yönetilebilir bir istek oranını korumaya özen gösteriyoruz. Arama tarayıcımız PerplexityBot, robots.txt dosyalarında belirtilen açık limitlere veya alan adı tarafından belirtilen limitlerin yokluğunda istek oranlarıyla ilgili endüstri standardı normlara uyar. Site kullanılamazlığı tespit ettiğimizde tarama davranışımızı da ayarlarız. Dağıtık sistemimiz, on binlerce eşzamanlı işlemde bile bu limitleri uygulamak üzere tasarlanmıştır.
İnternet ölçeğinde kendi kendini geliştiren içerik anlama
Gezegendeki en büyük ve en güncel arama indekslerinden birine sahip olsak bile, her sorgunun sonuç kalitesi sistemimizin her belgenin içeriğini anlamasına bağlıdır. Burada temel bir zorlukla karşı karşıyayız: web karmaşık bir yerdir. Sabit hiçbir ayrıştırma kuralı kümesi, tüm internette bulunan sonsuz düzen, yapı ve stil çeşitliliğini işleyemez.
Bu zorluğu, web sitelerini ayrıştıran ve dinamik kural setleri kullanarak anlam açısından anlamlı içeriği çıkaran bir içerik anlama modülü geliştirerek çözdük. Liste veya tablo biçiminde iyi yapılandırılmış veriler açısından zengin bir web sitesi, daha formüle edilmiş ayrıştırma ve çıkarma kurallarından yararlanabilirken, öncelikle serbest biçimli kullanıcı tarafından oluşturulan içerik barındıran başka bir web sitesi daha esnek bir kural seti gerektirebilir. Web, kısa zaman dilimleri içinde çoğunlukla statik olduğundan, belirli bir kuralın ömrünün nispeten uzun olduğunu görüyoruz. Ancak siteler zaman içinde evrim geçirdikçe ve bilgi çıkarmanın en iyi yolları hakkında daha fazla şey öğrendikçe, kural setlerimiz de sürekli bakım gerektirir.
Bu dinamik adaptasyonu kolaylaştırmak için (tabii ki) yapay zekaya başvuruyoruz. Perplexity'nin ölçeğinde, saatlik milyonlarca kullanıcı sorgusuna hizmet etme sürecinde web'in inanılmaz derecede zengin bir kesitini gözlemliyoruz. Bu, yinelemeli bir kendi kendini geliştirme döngüsünün temelini oluşturur. Sorgu evrenimiz genelinde mevcut kural setlerimizin ayrıştırma davranışını ve çıkarılan çıktılarını gözlemliyoruz. Ardından performansını iki temel boyutta değerlendirmek için öncü dil modellerini kullanıyoruz:
Kapsamlılık: indeksimiz, bilgilendirici olmayan veya saçma unsurların sahte çıkarımından kaçınırken olabildiğince anlam açısından anlamlı içerik almalıdır.
Kalite: indeksimiz hem öz hem de biçim açısından yüksek kaliteli içeriğe dayanır. Bilgiler, orijinal içerik yapısını ve düzenini koruyacak bir şekilde yakalanmalıdır.
Kapsamlılık ve kalitenin bir başka içsel gerilim ortaya çıkardığını unutmayın: kalite için manuel olarak optimize etmek mümkündür, ancak ortaya çıkan ayrıştırma kuralları kritik içeriği yakalayamayabilir. Benzer şekilde, hammüşterek içerik üzerinde minimum filtreleme uygulayan, kapsamlılığı artırabilecek ancak kalite pahasına olabilecek izin verici kuralları elle kodlayabilirdik. Bu nedenle, kural setimizi her ikisi için de etki alanına uyarlanabilir bir şekilde aynı anda optimize edebilecek şekilde geliştirmek için yapay zeka destekli kendi kendini geliştirmeye başvuruyoruz.
Somut olarak, dil modeli odaklı her ayrıştırma performansı değerlendirmesinden sonra sistemimiz, en önemli hata sınıflarını ele almak için önerilen kural seti değişiklikleri kümesi formüle eder. Bu kural setleri daha fazla doğrulamadan geçer ve ardından yeni sürümü indeksleyicimize dağıtırız. Ayrıştırma ve çıkarma mantığındaki iyileştirmelerin yalnızca gelecekteki indeksleme işlemlerine fayda sağlayabileceği göz önüne alındığında, makine öğrenimi için optimize edilmiş yeniden indekslemeye yaptığımız yatırımlar özellikle önemlidir: bu mantığın en son sürümünü kullanarak yüksek trafikli belgeleri sürekli olarak yenilemek, sıkı bir kendi kendini geliştirme döngüsü sağlar.
Bu kurallar yalnızca temel ayrıştırma performansı için değil, aynı zamanda belge altı birimlere segmentasyon için de önemlidir. Öncü dil modelleri söz konusu olduğunda, her bağlam belirteci çok değerlidir. Çok sayıda önceki çalışma, dil modeli performansının bağlam boyutundaki artışlarla ve bağlamın ilgisiz bilgilerle kirlenmesiyle nasıl düştüğünü belgelemiştir. İyi yapılandırılmış, kapsamlı ayrıştırmaya sahip olmak, belgeleri tek tek alınabilen ve sorgu anında sıralanabilen bağımsız aralıklara ayırmamıza olanak tanır.
Bilgi getirme ve sıralama işlem hattı
Modern arama, sıkı bir gecikme bütçesi altında hem kapsamlılığı hem de ilgililiği sağlamayı gerektirir. Perplexity'nin bilgi getirme ve sıralama işlem hattı bunu, giderek daha gelişmiş modüllerden oluşan bir seriyle sonuçları kademeli olarak iyileştiren çok aşamalı bir mimari aracılığıyla elde eder. Potansiyel darboğazları, olası tıkanıklık noktalarını mümkün olan en yüksek ölçüde yatay olarak ölçekleyerek çözeriz.
İşlem hattı, indeksimizden bilgi getirme ile başlar. Sözlüksel ve semantik bilgi getirme arasında bir seçim yapmaya zorlamıyoruz. Bunun yerine, arama indeksini her iki modalite ile sorguluyor ve sonuçları hibrit bir aday kümesinde birleştiriyoruz. Bu aşamada öncelik, hassasiyetten ziyade kapsamlılıktır; işlem hattının sonraki aşamaları hassasiyet için optimize edilecektir.
İşlem hattı, aday kümesinden açıkça yanıt vermeyen veya eskimiş içeriği kaldırmak için temel sezgisel yöntemleri ve ilk aşama filtreleri uyguladığımız ön filtreleme aşamalarıyla devam eder.
Ardından, kademeli olarak gelişmiş sıralamanın birden fazla aşamasını kullanıyoruz. Daha önceki aşamalar, hız için optimize edilmiş sözlüksel ve yerleştirme tabanlı puanlayıcılara dayanır. Aday kümesi kademeli olarak daraltıldıkça, sonuç kümesinin nihai şekillendirmesini gerçekleştirmek için daha güçlü çapraz kodlayıcı yeniden sıralayıcı modelleri kullanıyoruz. Çıkarım performansına yaptığımız çok sayıda yatırım sayesinde, daha sonraki bu aşamalar için son teknoloji model mimarilerinden yararlanırken genel sıralama gecikmesini düşük tutabiliyoruz.
Bu işlem hattı boyunca, hem belge hem de belge altı düzeylerde sonuçları alıyor ve puanlıyoruz. Yukarıda tartışıldığı gibi, yapay zeka dikkatli bir bağlam mühendisliği gerektirir. İşlem hattımız, alt akış tüketicilerinin kaynak belgelerin başka yerlerinden ilgisiz bağlamı çekmeden bu hassas birimleri dahil edebilmesi için modele mümkün olan en atomik birimleri sunmak üzere tasarlanmıştır.
Bu işlem hattının her aşamasında yüksek kalitenin sağlanması yalnızca Perplexity'nin ürün portföyü ile ortak tasarım sayesinde mümkündür. Sıralama yığınındaki her detay, günün her saati sunduğumuz milyonlarca kullanıcı isteği tarafından üretilen zengin sinyalden yararlanmak üzere tasarlanmıştır. Bu sinyalin büyük çoğunluğu otomatiktir ve oluşturulan her Perplexity yanıtı, canlı bir ajan iş akışında kullanıldığı şekliyle arama kalitesi hakkında ampirik bir veri noktası sağlar. Yapay zeka odaklı değerlendirmeleri, manuel olarak oluşturulmuş herhangi bir veri kümesinin sunabileceğinin çok ötesinde, yerleştirme ve sıralama modellerimiz için eğitim verilerini zenginleştirmek üzere canlı insan geri bildirimleriyle birleştiriyoruz.
Arama ve ürün arasındaki bu sinerji, Perplexity'ye özgüdür. Eski arama motorları, mavi bağlantı telemetrisi tarafından sağlanan kaba sinyalle sınırlıdır. Daha yeni arama teklifleri bu yapay zeka odaklı konseptlerden bazılarını uygulamaya çalışmıştır, ancak arama kalitesini doğrulayabilecek ve hızlı iyileştirme döngüleri için gereken sinyal zenginliğini sağlayabilecek gerçek dünya ortamlarından yoksundurlar. Eksik bileşene sahip olduğumuz için şanslıyız: öncü dil modelleri tarafından desteklenen ve dünya çapında milyonlarca meraklı kullanıcı tarafından sürekli olarak savaş testinden geçirilen arama kalitesi için canlı bir test alanı.
Kalite ve performans için yeni bir sınır belirlemek
Arama altyapımızı dünya çapındaki geliştiricilerin kullanımına sunmak için Perplexity Search API ve SDK'yi oluşturduktan sonra, çeşitli ticari API tekliflerinin gerçek dünya yapay zeka kullanım örneklerinde nasıl performans gösterdiğini anlamak istedik. Yapay zeka modellerinin kendilerini değerlendirmek sıradan bir hale geldi, ancak bu kalıpta bir bükülmeye ihtiyacımız vardı: arayapı modelleri tarafından çağrıldığında arama API'lerinin kalitesini değerlendirmek.
Önceki çalışmayı anlamak için ilk olarak açık kaynak ekosistemine baktık. Titiz bir değerlendirme için birçok temel bileşen bulduk, ancak bu bileşenleri tak-çalıştır bir kıyaslama çözümüne entegre eden hiçbir çerçeve bulamadık. Bu nedenle, yalnızca Perplexity tarafından değil, arama API'lerini kıyaslamak isteyen herhangi bir araştırmacı veya geliştirici tarafından kullanılabilecek bir değerlendirme çerçevesi geliştirmeye koyulduk.
Bu değerlendirme çerçevesini kullanarak, Perplexity Search API'yi diğer tekliflerle birlikte titizlikle kıyasladık. Arama performansını optimize etmek, kalite ve hız arasında birçok nüanslı ödünleşimle birlikte karmaşıktır. Geliştiriciler için bir zafer olarak, Perplexity Search API'nin hem kalite hem de gecikme süresi için yeni bir son teknoloji belirlediğini gördük. Geliştiricilerin artık blazing-hızlı uygulamalar oluşturmak ile yüksek kaliteli sonuçlar sağlamak arasında seçim yapması gerekmiyor: Perplexity ile her ikisine de sahip olabilirler.
Ajan arama iş akışları için güvenilir değerlendirmeler tasarlamak
Değerlendirme çerçevemiz için üç kılavuz ilke tanımlayarak başladık:
Karmaşıklık spektrumu: değerlendirme çerçevesi, hem basit hem de karmaşık ajan yapay zeka kullanım örneklerinde performansı ölçmelidir.
Tarafsızlık: değerlendirme çerçevesi tüm API'leri eşit koşullarda değerlendirmelidir.
Basitlik: belirli kullanım örnekleri karmaşık olabilse de, başkalarının bunu anlayabilmesi, sonuçları yeniden üretebilmesi ve çerçeveyi minimum sıkıcılıkla genişletebilmesi için çerçevenin kendisi mümkün olduğunca basit olmalıdır.
Hafif değerlendirme çerçevemiz search_evals, basit bir modüler tasarım aracılığıyla bu hedeflere ulaşır. Hem klasik tek atışlık arama kullanım örneklerini hem de gelişmiş ajan iş akışlarını (tüketici pazarında yaygın olarak bulunan çeşitli "derin araştırma" ürünleriyle örneklendirilen) yakalamak için iki yapay zeka ajan demeti geliştirdik. Her iki demet de gizli avantaj için çok az yer bırakan basit bir şekilde uygulandı.
Değerlendirmelerimizi yönlendirmek için dört kıyaslama benimseriz: tek adımlı arama için SimpleQA ve FRAMES, derin araştırma için BrowseComp ve HLE. Toplu olarak bu kıyaslamalar, bilgi ajanları için iyi kabul edilen ölçütler sağlar. Belirlenmiş konvansiyonu izleyerek, orijinal çalışmada kullanılan aynı istemli sınıflandırıcı metodolojisini kullanarak tüm kıyaslamaları notlandırırız. Kesin kıyaslama uygulamaları (derecelendirme mantığı dahil) GitHub depomuzda incelenebilir.
Çerçeveyi yeniden üretilebilirlik ve genişletilebilirlik göz önünde bulundurularak tasarladık. Hem görev düzeyindeki puanlar hem de temel ajan çıktıları her çalıştırma ile saklanır. Ek demetler, kıyaslamalar ve arama API'si teklifleri kolayca entegre edilebilir. Araştırmacılar ve geliştiriciler, çerçeveyi tam ihtiyaçlarınızı karşılayacak şekilde genişletmek hakkında daha fazla bilgi için GitHub dokümanlarımızı okuyabilir.
Değerlendirme sonuçları
Bu değerlendirme çerçevesiyle donanmış olarak, Arama API'mizi diğer API teklifleriyle karşılaştırmalı olarak değerlendirmeye koyulduk. Test edilen tüm kıyaslamalar genelinde Perplexity, pazardaki en hızlı ve en yüksek kaliteli API olarak durmaktadır.
İndeks, bilgi getirme ve sıralama verimliliğine yaptığımız yukarıda açıklanan yatırımların fazlasıyla karşılığını verdiğini gördük. Perplexity'nin medyan gecikme süresi 358 ms'de saat işliyor ve en hızlı ikinci sağlayıcının 150 ms'den fazla önünde yer alıyor. 95. yüzdelik gecikme süresi rahatlıkla 800 ms'nin altında kalıyor. Günümüzün öncü modellerinin uzun TTFT (ilk belirtece kadar geçen süre) ölçümleriyle, keyifli kullanıcı deneyimleri yaratmada her milisaniye önemlidir. Son iki yılı kendi kullanıcılarımız için gecikmeyi optimize etmekle geçirdik ve bu yatırımların artık geliştirici topluluğuna da fayda sağlayacak olmasından memnuniyet duyuyoruz.
Arama API'si Gecikmesi
(AWS us-east-1'den başlatılan istekler)
p50 | p75 | p90 | p95 | |
Perplexity | 358ms | 443ms | 604ms | 763ms |
Exa | 1375ms | 1499ms | 1798ms | 2188ms |
Brave | 513ms | 637ms | 728ms | 808ms |
SERP Tabanlı* | 1342ms | 1586ms | 1743ms | 1790ms |
AWS us-east-1'den başlatılan istekler için Arama API'si gecikme yüzdelikleri.
* Birçok arama API'si satıcısı, sonuçlarının temeli olarak SERP kazıma kullanır. Bu tür yaklaşımların performansını yakalamak için Tavily tarafından sunulan temsili bir Google SERP tabanlı API kullanıyoruz.
Bu hız avantajı kalite pahasına gelmez. Perplexity Search API, hem tek adımlı arama hem de derin araştırma ayarlarında son teknoloji performans sağlar. Test edilen her kıyaslamada Perplexity, değişen karmaşıklıkta yapay zeka iş akışlarını destekleyebilecek yüksek kaliteli sonuçlar sunmada önde giden isimdir. Perplexity ile en iyi alternatif arasındaki fark özellikle SimpleQA ve HLE üzerinde belirgindir, bu da bu sonuçların görev karmaşıklığı spektrumu boyunca sağlam olduğunu gösterir.
Gecikmede olduğu gibi, arama kalitesindeki liderliğimiz, keyifli, yüksek trafikli yapay zeka ürünleri oluşturmadaki liderliğimizin alt akışından kaynaklanır. Milyonlarca kullanıcı, hayal edilebilecek her konudaki meraklarını gidermek için Perplexity'yi kullanır ve sonuçta ortaya çıkan kalite ve ilgililik sinyalleri, arama modellerimizin her geçen saat gelişmesini sağlar.
Arama API'si Kalite Kıyaslamaları
Tek adımlı arama | Derin araştırma | |||
SimpleQA | FRAMES | BrowseComp | HLE | |
Perplexity | .930 | .453 | .371 | .288 |
Exa | .781 | .399 | .265 | .242 |
Brave | .822 | .320 | .221 | .191 |
SERP Tabanlı* | .890 | .437 | .348 | .248 |
SimpleQA, FRAMES, BrowseComp ve HLE üzerindeki Arama API'si kalite puanları.
Yapay zeka tabanlı arama motorlarının ilk günlerinde bulunuyoruz ve ölçüm sanatı ve bilimi şüphesiz evrim geçirecektir. Topluluğu, yapay zeka ajanları çağında arama motorlarını değerlendirmek için titiz ve yaratıcı yöntemler geliştirerek katkıda bulunmaya davet ediyoruz.
Yapay zekanın bir sonraki bölümü için yapı taşı
Ajan sistemlerinin ve akıllı asistanların geleceği, dünyanın kolektif bilgisine yönelik zengin programatik arayüzlerin kullanılabilirliğine bağlı olacaktır. Günümüzün eski arama motorları, muhtemelen zirveye ulaşmış bir rakam olan günde kabaca 10¹⁰ sorgu kullanımında doymuştur. Arama ve bilgi getirme sistemlerinin yeni nesli, sürekli büyüyen bir yapay zeka ajanları evreni doğru gerçek zamanlı bilgi için onlara güvendiği için çok daha fazla sayıda isteğe hizmet edecektir.
Bugüne kadarki çabalarımız bizi API üzerinden erişilebilen en hızlı, en yüksek performanslı arama motoru olarak konumlandırdı. Ancak yapay zekanın bir sonraki bölümünü finanse etmemiz için bundan daha da iddialı bir inovasyona ihtiyaç duyulacaktır. Sürekli artan talep karşısında bu sistemleri verimli bir şekilde nasıl ölçeklendiririz? Bu arama sistemleri, bağlam mühendisliği ve eğitim sonrası için yeni yaklaşımlar ışığında nasıl optimize edilebilir? Ve kapsamlılık, yenilik ve gecikme arasındaki her zaman mevcut olan gerilimle nasıl başa çıkabiliriz? Bunlar, ürün ayak izimiz, ölçeğimiz ve teknik yeteneğimiz ile Perplexity'nin ele almak için benzersiz bir konuma sahip olduğu açık sorulardır.
Alıntı
@online{perplexity2025ArchitectingAndEvaluatingAnAiFirstSearchApi,
author = {{Perplexity} and Aleksandr Bogutskii and Aleksandr Nikolenko and Aleksei Bykov and Alexander Pecheny and Alexandr Yarats and Arsenii Shevchenko and Denis Bykov and Dmitry Pervukhin and Ismail Gadzhiev and James Liounis and Kevin Hu and Kirill Priemko and Maksim Gaiduk and Maksim Morozov and Marko Kevac and Michael Liang and Mikhail Galanin and Nandor Licker and Nataliya Pevgova and Nikita Kireev and Nikolai Tretiak and Paul Schofield and Saif Ali Raja and Saleh Alghusson and Sebastian Sepulveda and Sergei Miller and Svyatoslav Feldsherov and Vitalii Polshkov and Vladimir Zaytsev and Denis Yarats},
title = {{Architecting and evaluating an AI-first Search API}},
date = {2025-09-25},
url = {https://perplexity.coolkeypoint.com/hub/blog/architecting-and-evaluating-an-ai-first-search-api}
}