Merancang dan Mengevaluasi Search API Berorientasi AI

Membangun Search API yang skalabel dan berorientasi AI menghadirkan tantangan penelitian unik di persimpangan antara temu kembali informasi, AI, dan perancangan sistem. Tidak seperti layanan tradisional yang beroperasi pada data terbatas, Search API harus terus-menerus mengindeks miliaran dokumen, memahami maksud kueri di berbagai bahasa dan domain, serta menyajikan hasil yang relevan dalam milidetik. Di dunia agen AI, Search API juga harus mengkurasi konteks yang diberikan ke model pengembang dengan cermat untuk memastikan model tersebut berkinerja secara optimal dan menggabungkan informasi yang sangat akurat. Rekayasa konteks yang efektif mengharuskan API tidak hanya menangkap relevansi tingkat dokumen, tetapi juga memperlakukan bagian individu dan rentang dokumen sebagai unit kelas satu tersendiri.

Dalam artikel ini, kami menyajikan perancangan dan evaluasi Perplexity Search API. Kami pertama-tama mengeksplorasi arsitektur dan keputusan teknis utama di balik infrastruktur pencarian produksi kami yang memproses 200 juta kueri harian. Arsitektur kami menggabungkan mekanisme temu kembali hibrida, alur pemeringkatan multi-tahap, pengindeksan terdistribusi, dan penguraian dinamis melalui modul pemahaman konten yang dapat meningkatkan diri sendiri.

Kami kemudian menjelaskan pendekatan kami untuk mengevaluasi kinerja Search API secara empiris melalui kerangka kerja evaluasi sumber terbuka yang baru dirilis. Melalui tolok ukur komprehensif bersama API komersial yang ada, kami mendemonstrasikan kinerja mutakhir pada kualitas dan latensi. Perplexity Search API tersedia untuk pengembang di seluruh dunia mulai hari ini.

[Temukan search_evals di GitHub]

Membangun sistem pencarian yang dioptimalkan untuk model AI

Sejak awal pendirian, kami memahami bahwa kapabilitas pencarian yang tangguh akan sangat penting untuk memungkinkan produk AI penentu kategori yang ingin kami rilis. Awalnya, kami berharap kapabilitas ini sudah ada dalam bentuk yang tersedia untuk umum. Kami bereksperimentasi dengan portofolio Search API yang tersedia pada akhir tahun 2022, dan versi sangat awal dari mesin jawaban Perplexity sebenarnya menyertakan beberapa penawaran ini. Khususnya, kami menganalisis kueri pengguna, merumuskan dan mengirimkan permintaan ke API ini, serta mengumpulkan hasilnya sebagai konteks untuk alur pembuatan hilir kami.

Namun, saat pengguna berbondong-bondong menggunakan Perplexity, kami segera menyadari bahwa API ini tidak akan berskala seiring pertumbuhan kami. Harga yang kami temui sangat mahal, dengan satu penyedia API terkemuka mengenakan biaya $200 per seribu kueri. Namun yang lebih fatal, API lama ini sama sekali tidak dirancang untuk paradigma temu kembali baru yang diperkenalkan oleh sistem AI perintis.

Perbesar

Sebagai permulaan, format permintaan dan respons dari API lama ini dirancang untuk dunia di mana manusia menjadi konsumen eksklusif dari hasil pencarian. Akibatnya, API ini memprioritaskan hasil tingkat dokumen, dengan mengesampingkan informasi yang lebih rinci yang diungkapkan oleh unit sub-dokumen. Keberhasilan model AI bergantung pada kualitas dan kepadatan konteks yang diberikan, dan kami melihat secara langsung bagaimana pengambilan yang terlalu luas dapat menggagalkan model AI, terlepas dari seberapa besar dokumen yang diambil secara keseluruhan tampak relevan. Upaya kami untuk memaksakan presisi pada hasil yang tidak presisi hanya membuahkan hasil yang terbatas.

Kami juga mengamati bahwa API lama terlalu usang atau terlalu lambat. Search API yang dikembangkan secara independen mengandalkan indeks yang tidak lengkap dan jarang diperbarui. API berbasis pengikisan (scraping), seperti berbagai SERP API tidak resmi untuk Google Search, diuntungkan oleh indeks yang lebih komprehensif tetapi menawarkan latensi tinggi yang tidak dapat diterima karena ketidakefisienan yang melekat dalam mengueri mesin pencari pihak ketiga. Latensi tinggi membuat API tidak cocok untuk aplikasi yang menghadap pengguna, sementara keusangan membuat kumpulan hasil tidak dapat digunakan untuk sistem AI apa pun yang ingin akurat dan tepercaya.

Terakhir, kami mengamati ekosistem AI terpecah antara pencarian leksikal dan pencarian semantik, dengan munculnya sistem yang terlalu dioptimalkan untuk satu modalitas dibandingkan modalitas lainnya. Kami melihat bangkitnya basis data vektor yang bahkan tidak dapat mendukung filter boolean sederhana secara memadai. Backend pencarian tradisional tidak jauh lebih baik, dengan dukungan primitif untuk peluang pemeringkatan dan temu kembali semantik yang dibuka oleh AI.

Ketika kami menyadari bahwa membuat Perplexity menjadi lebih baik memerlukan pembangunan infrastruktur pencarian khusus kami sendiri, kami merangkum pengamatan kami menjadi tiga kriteria utama:

Kelengkapan, kekinian, dan kecepatan: indeks pencarian harus komprehensif, terus diperbarui, dan dirancang untuk latensi waktu nyata.

Pemahaman konten berbutir halus: kerapuhan model AI dan jendela konteks yang terbatas mengharuskan hasil pencarian disajikan dan diberi peringkat pada tingkat yang paling terperinci.

Temu kembali dan pemeringkatan hibrida: baik alur temu kembali maupun pemeringkatan harus menggabungkan sinyal leksikal dan semantik agar hasilnya berguna bagi AI.

Perbesar

Infrastruktur perayapan dan pengindeksan

Beroperasi pada skala Perplexity memerlukan infrastruktur yang dapat memetakan web secara komprehensif dan merespons evolusinya yang konstan. Indeks pencarian kami melacak lebih dari 200 miliar URL unik, dengan kapasitas untuk melacak ratusan miliar URL lainnya.

Memastikan bahwa indeks kami mencakup bagian internet yang cukup komprehensif dan setiap dokumen mencerminkan status terbaru adalah prestasi yang sulit. Ada ketegangan bawaan antara kelengkapan dan kekinian: untuk anggaran pengindeksan yang tetap, operasi penyegaran untuk halaman yang ada harus bersaing dengan operasi pengindeksan untuk halaman baru yang belum dikunjungi. Kami menyeimbangkan ketegangan ini melalui kombinasi penskalaan (yang melonggarkan batasan pengoptimalan dengan meningkatkan anggaran pengindeksan) dan prioritisasi yang digerakkan oleh ML (yang memastikan bahwa setiap operasi pengindeksan bernilai maksimal bagi indeks secara keseluruhan).

Kami telah membangun indeks berukuran eksabita dan apparatus perayapan yang berskala secara horizontal dengan ukuran dan volume kueri. Perayap dan armada pengindeksan Perplexity secara kolektif terdiri dari puluhan ribu CPU dan ratusan terabyte RAM, dengan ruang kepala yang cukup untuk penskalaan lebih lanjut. Kami memadukan infrastruktur komputasi ini dengan keseimbangan penyimpanan dingin dan hangat. Kami menggunakan model yang dipelajari dan heuristik yang disetel untuk menentukan dokumen mana yang harus disimpan dalam keadaan panas, memprioritaskan dokumen dari domain otoritatif, dokumen yang melibatkan topik yang kurang terliput, dan kategori lain dengan potensi luar biasa untuk memperkaya indeks kami.

Infrastruktur ini memungkinkan Perplexity memproses puluhan ribu operasi pengindeksan per detik. Namun, bahkan dengan anggaran yang relatif besar ini, skala internet terlalu luas untuk mengindeks setiap URL secara sering dan berulang. Di sinilah ML berperan. Kami melatih model ML untuk memprediksi apakah kandidat URL tertentu perlu diindeks. Tujuan pelatihan dibuat untuk memastikan bahwa kami mengkalibrasi keputusan pengindeksan kami terhadap pentingnya dan kemungkinan frekuensi pembaruan dari URL tertentu. Kami juga mengandalkan ML untuk memberi tahu kami secara tepat kapan harus menjadwalkan operasi pengindeksan. Untuk situs dengan ritme publikasi dan penyegaran rutin, hal ini memungkinkan kami menunda operasi ke titik waktu di mana operasi tersebut kemungkinan besar paling berguna. Melalui penyempurnaan berkelanjutan dari model ML ini, kami dapat mempertahankan indeks yang memenuhi standar dalam hal kelengkapan dan kekinian.

Meskipun infrastruktur perayapan kami mudah diskalakan secara horizontal, kami menyadari bahwa operator situs web menghadapi batasan teknis yang berbeda. Kami berhati-hati untuk mempertahankan tingkat permintaan yang dapat diprediksi dan dikelola ke domain tertentu. PerplexityBot, perayap pencarian kami, mematuhi batas eksplisit yang ditetapkan dalam file robots.txt, atau jika tidak ada batas yang ditentukan domain, norma standar industri mengenai tingkat permintaan. Kami juga menyesuaikan perilaku perayapan kami ketika mendeteksi ketidaktersediaan situs. Sistem terdistribusi kami dirancang untuk memberlakukan batasan ini bahkan di puluhan ribu operasi serentak.

Pemahaman konten yang dapat meningkatkan diri sendiri pada skala internet

Bahkan dengan salah satu indeks pencarian terbesar dan terpanas di planet ini, kualitas hasil dari setiap kueri bergantung pada pemahaman sistem kami terhadap konten setiap dokumen. Di sini, kami menghadapi tantangan mendasar: web adalah tempat yang berantakan. Tidak ada seperangkat aturan penguraian tetap yang dapat menangani variasi tata letak, struktur, dan gaya yang tak terbatas yang ditemukan di seluruh internet.

Kami mengatasi tantangan ini dengan mengembangkan modul pemahaman konten yang menguraikan situs web dan mengekstrak konten yang bermakna secara semantik menggunakan set aturan dinamis. Situs web yang banyak menggunakan data terstruktur dalam bentuk daftar atau tabel mungkin mendapat manfaat dari aturan penguraian dan ekstraksi yang lebih formulaik, sedangkan situs web lain yang terutama menampilkan konten buatan pengguna berbentuk bebas mungkin memerlukan set aturan yang lebih longgar. Karena web sebagian besar statis dalam kerangka waktu pendek, kami menemukan bahwa masa pakai aturan tertentu relatif lama. Namun, seiring berkembangnya situs dari waktu ke waktu dan saat kami mempelajari lebih lanjut tentang cara terbaik untuk mengekstrak informasi, set aturan kami juga memerlukan pemeliharaan berkelanjutan.

Untuk memfasilitasi adaptasi dinamis ini, kami tentu saja beralih ke AI. Pada skala Perplexity, kami mengamati penampang web yang sangat kaya dalam proses melayani jutaan kueri pengguna setiap jam. Ini membentuk fondasi untuk perulangan peningkatan diri yang berulang. Kami mengamati perilaku penguraian dan output yang diekstrak dari set aturan kami saat ini di seluruh alam semesta kueri kami. Kami kemudian menggunakan LLM perintis untuk menilai kinerja di dua dimensi utama:

Kelengkapan: indeks kami harus menerima konten yang bermakna secara semantik sebanyak mungkin, sambil menghindari ekstraksi palsu dari materi yang tidak informatif atau tidak masuk akal.

Kualitas: indeks kami bergantung pada konten yang berkualitas tinggi baik dalam substansi maupun bentuk. Informasi harus ditangkap dengan cara yang mempertahankan struktur dan tata letak konten asli.

Perhatikan bahwa kelengkapan dan kualitas menghadirkan ketegangan bawaan lain: mengoptimalkan kualitas secara manual dimungkinkan, tetapi aturan penguraian yang dihasilkan mungkin gagal menangkap konten penting. Demikian pula, kami dapat membuat kode aturan permisif yang menerapkan pemfilteran minimum pada konten mentah, yang dapat meningkatkan kelengkapan tetapi dengan mengorbankan kualitas. Inilah sebabnya mengapa kami beralih ke peningkatan diri yang digerakkan oleh AI untuk mengembangkan set aturan kami dengan cara yang dapat mengoptimalkan keduanya sekaligus secara adaptif terhadap domain.

Secara konkret, setelah setiap penilaian kinerja penguraian yang digerakkan oleh LLM, sistem kami merumuskan serangkaian usulan perubahan set aturan untuk mengatasi kelas kesalahan yang paling signifikan. Set aturan ini menjalani validasi lebih lanjut, setelah itu kami menerapkan versi baru ke pengindeks kami. Mengingat bahwa peningkatan dalam logika penguraian dan ekstraksi hanya dapat menguntungkan operasi pengindeksan di masa mendatang, investasi kami dalam pengindeksan ulang yang dioptimalkan oleh ML sangatlah penting: terus menyegarkan dokumen dengan lalu lintas tinggi menggunakan versi terbaru dari logika ini memastikan perulangan peningkatan diri yang ketat.

Aturan ini penting tidak hanya untuk kinerja penguraian dasar tetapi juga untuk segmentasi ke dalam unit sub-dokumen. Dalam hal LLM perintis, setiap token konteks sangat berharga. Sejumlah besar pekerjaan sebelumnya telah mendokumentasikan bagaimana kinerja LLM menurun seiring dengan peningkatan ukuran konteks dan polusi konteks dengan informasi yang tidak relevan. Memiliki penguraian yang terstruktur dengan baik dan komprehensif memungkinkan kita mendekonposisi dokumen menjadi rentang mandiri, yang masing-masing dapat diambil dan diberi peringkat secara individual pada saat kueri.

Alur temu kembali dan pemeringkatan

Pencarian modern mengharuskan pemastian kelengkapan dan relevansi di bawah anggaran latensi yang ketat. Alur temu kembali dan pemeringkatan Perplexity mencapai hal ini melalui arsitektur multi-tahap yang secara progresif menyempurnakan hasil dengan serangkaian modul yang semakin canggih. Kami mengatasi potensi hambatan dengan menskalakan titik hambatan apa pun secara horizontal semaksimal mungkin.

Alur dimulai dengan pengambilan dari indeks kami. Kami tidak memaksa pilihan antara temu kembali leksikal dan semantik. Sebaliknya, kami mengueri indeks pencarian melalui kedua modalitas dan menggabungkan hasilnya ke dalam set kandidat hibrida. Pada tahap ini, prioritasnya adalah kelengkapan alih-alih presisi - tahap alur selanjutnya akan mengoptimalkan presisi.

Alur dilanjutkan dengan tahap prapemfilteran, di mana kami menerapkan heuristik dasar dan filter potongan pertama untuk menghapus konten yang jelas-jelas tidak responsif atau usang dari set kandidat.

Kami kemudian menggunakan beberapa tahap pemeringkatan yang semakin canggih. Tahap awal mengandalkan pencetak berbasis leksikal dan penyematan yang dioptimalkan untuk kecepatan. Saat set kandidat dikurangi secara bertahap, kami kemudian menggunakan model pemeringkat ulang lintas-encoder yang lebih kuat untuk melakukan pembentukan akhir dari set hasil. Berkat banyak investasi kami dalam kinerja inferensi, kami dapat memanfaatkan arsitektur model mutakhir untuk tahap-tahap selanjutnya ini sambil menjaga latensi pemeringkatan secara keseluruhan tetap rendah.

Sepanjang alur ini, kami mengambil dan memberi skor pada hasil di tingkat dokumen dan sub-dokumen. Seperti dibahas di atas, AI memerlukan rekayasa konteks yang cermat. Alur kami dirancang untuk menampilkan unit yang paling atomik kepada model, sedemikian rupa sehingga konsumen hilir dapat memasukkan unit yang tepat tersebut tanpa menarik konteks yang tidak relevan dari tempat lain dalam dokumen sumber.

Memastikan kualitas tinggi di setiap tahap alur ini hanya dimungkinkan melalui perancangan bersama dengan portofolio produk Perplexity. Setiap detail dari tumpukan pemeringkatan dirancang untuk memanfaatkan sinyal kaya yang dihasilkan oleh jutaan permintaan pengguna yang kami layani setiap jam setiap hari. Sebagian besar sinyal ini otomatis, dengan setiap jawaban Perplexity yang dihasilkan menyediakan titik data empiris tentang kualitas pencarian seperti yang digunakan dalam alur kerja agen langsung. Kami menggabungkan evaluasi yang digerakkan oleh AI dengan umpan balik manusia secara langsung untuk memperkaya data pelatihan untuk model penyematan dan pemeringkatan kami jauh melampaui apa yang dapat ditawarkan oleh kumpulan data yang dibangun secara manual.

Sinergi antara pencarian dan produk ini unik bagi Perplexity. Mesin pencari lama terbatas pada sinyal kasar yang disediakan oleh telemetri tautan biru. Penawaran pencarian yang lebih baru telah mencoba menerapkan beberapa konsep berorientasi AI ini, tetapi mereka tidak memiliki lingkungan dunia nyata yang dapat memvalidasi kualitas pencarian dan menyediakan kekayaan sinyal yang diperlukan untuk perulangan peningkatan yang cepat. Kami beruntung memiliki bahan yang hilang: tempat uji coba langsung untuk kualitas pencarian, didukung oleh LLM perintis dan terus diuji dalam pertempuran oleh jutaan pengguna penasaran di seluruh dunia.

Menetapkan perbatasan baru untuk kualitas dan kinerja

Setelah membangun Perplexity Search API dan SDK untuk menyediakan infrastruktur pencarian kami kepada para pengembang di seluruh dunia, kami ingin memahami bagaimana berbagai penawaran API komersial diukur dalam kasus penggunaan AI di dunia nyata. Sudah menjadi hal biasa untuk mengevaluasi model AI itu sendiri, tetapi kami memerlukan sedikit modifikasi pada pola ini: untuk mengevaluasi kualitas Search API ketika dipanggil oleh model AI.

Kami pertama-tama melihat ekosistem sumber terbuka untuk memahami karya sebelumnya. Kami menemukan banyak bahan penting untuk evaluasi yang ketat, tetapi tidak ada kerangka kerja yang mengintegrasikan bahan-bahan ini ke dalam solusi tolok ukur siap pakai. Oleh karena itu, kami berangkat untuk mengembangkan kerangka kerja evaluasi yang dapat digunakan tidak hanya oleh Perplexity, tetapi oleh peneliti atau pengembang mana pun yang ingin mengukur kinerja Search API.

Menggunakan kerangka kerja evaluasi ini, kami menguji Perplexity Search API secara ketat bersama dengan penawaran lainnya. Mengoptimalkan kinerja pencarian itu rumit, dengan banyak pertukaran bernuansa antara kualitas dan kecepatan. Sebagai kemenangan bagi para pengembang, kami menemukan bahwa Perplexity Search API menetapkan standar mutakhir baru untuk kualitas dan latensi. Pengembang tidak perlu lagi memilih antara membangun aplikasi yang sangat cepat dan memastikan hasil berkualitas tinggi: dengan Perplexity, mereka bisa mendapatkan keduanya.

Perbesar

Merancang evaluasi yang andal untuk alur kerja pencarian agen

Kami mulai dengan menentukan tiga prinsip panduan untuk kerangka kerja evaluasi kami:

Spektrum kompleksitas: kerangka kerja evaluasi harus mengukur kinerja pada kasus penggunaan AI agen yang sederhana maupun kompleks.

Netralitas: kerangka kerja evaluasi harus menilai semua API dengan kedudukan yang sama.

Kesederhanaan: meskipun kasus penggunaan tertentu mungkin kompleks, kerangka kerja itu sendiri harus semudah mungkin agar orang lain dapat memahaminya, mereproduksi hasilnya, dan memperluas kerangka kerja dengan sedikit kejenuhan.

Kerangka kerja evaluasi ringan kami, search_evals, mencapai tujuan ini melalui desain modular yang sederhana. Kami mengembangkan dua perangkat agen AI untuk menangkap kasus penggunaan pencarian sekali tembak klasik dan alur kerja agen tingkat lanjut (dicontohkan oleh berbagai produk "penelitian mendalam" yang tersedia secara luas di pasar konsumen). Kedua perangkat diimplementasikan dengan cara yang mudah dipahami yang menyisakan sedikit ruang untuk keuntungan tersembunyi.

Untuk mendorong evaluasi kami, kami mengadopsi empat tolok ukur: SimpleQA dan FRAMES untuk pencarian satu langkah, beserta BrowseComp dan HLE untuk penelitian mendalam. Secara kolektif, tolok ukur ini menyediakan ukuran standar yang diterima secara luas untuk agen pengetahuan. Mengikuti konvensi yang ada, kami menilai semua tolok ukur menggunakan metodologi pengklasifikasi terpromosi yang sama yang digunakan dalam pekerjaan aslinya. Implementasi tolok ukur yang tepat (termasuk logika penilai) dapat ditinjau di repo GitHub kami.

Kami merancang kerangka kerja dengan mempertimbangkan reproduktifitas dan ekstensibilitas. Skor tingkat tugas dan output agen yang mendasarinya disimpan di setiap eksekusi. Perangkat, tolok ukur, dan penawaran Search API tambahan dapat diintegrasikan dengan mudah. Peneliti dan pengembang dapat membaca dokumen GitHub kami untuk informasi lebih lanjut mengenai cara memperluas kerangka kerja guna memenuhi kebutuhan tepat Anda.

Hasil evaluasi

Berbekal kerangka kerja evaluasi ini, kami mulai menilai Search API kami dibandingkan dengan penawaran API lainnya. Di semua tolok ukur yang diuji, Perplexity berdiri sebagai API tercepat dan berkualitas tertinggi di pasar.

Perbesar

Kami menemukan bahwa investasi kami yang dijelaskan di atas dalam efisiensi indeks, temu kembali, dan pemeringkatan membuahkan hasil yang sangat manis. Median latensi Perplexity tercatat pada 358ms, lebih dari 150ms di depan penyedia tercepat kedua. Latensi persentil ke-95 tetap berada di bawah 800ms dengan nyaman. Dengan metrik TTFT (waktu ke token pertama) yang panjang dari model perintis saat ini, setiap milidetik sangat berarti dalam menciptakan pengalaman pengguna yang menyenangkan. Kami telah menghabiskan dua tahun terakhir untuk mengoptimalkan latensi bagi pengguna kami sendiri, dan kami bersyukur bahwa investasi yang sama kini juga akan menguntungkan komunitas pengembang.

Latensi Search API

(permintaan dimulai dari AWS us-east-1)

Persentil latensi Search API untuk permintaan yang diinisiasi dari AWS us-east-1.

* Banyak vendor Search API menggunakan pengikisan SERP sebagai dasar untuk hasil mereka. Untuk menangkap kinerja pendekatan tersebut, kami menggunakan API berbasis Google SERP representatif yang ditawarkan oleh Tavily.

Keunggulan kecepatan ini tidak mengorbankan kualitas. Perplexity Search API menghasilkan kinerja mutakhir dalam pengaturan pencarian satu langkah maupun penelitian mendalam. Pada setiap tolok ukur yang diuji, Perplexity memimpin dalam memberikan hasil berkualitas tinggi yang dapat memberi daya pada alur kerja AI dengan berbagai tingkat kompleksitas. Selisih antara Perplexity dan alternatif terbaik sangat mencolok pada SimpleQA dan HLE, yang menunjukkan bahwa hasil ini kuat di seluruh spektrum kompleksitas tugas.

Perbesar

Seperti halnya latensi, kepemimpinan kami dalam kualitas pencarian mengalir ke hilir dari kepemimpinan kami dalam membangun produk AI yang menyenangkan dan sangat ramai dikunjungi. Jutaan pengguna kami menggunakan Perplexity untuk memuaskan rasa ingin tahu mereka pada setiap topik yang bisa dibayangkan, dan sinyal kualitas serta relevansi yang dihasilkan memungkinkan model pencarian kami meningkat setiap jam yang berlalu.

Tolok Ukur Kualitas Search API

Skor kualitas Search API pada SimpleQA, FRAMES, BrowseComp, dan HLE.

Kami masih berada di hari-hari awal mesin pencari asli AI, dan seni serta ilmu pengukuran pasti akan berkembang. Kami mengundang komunitas untuk berkontribusi dengan mengembangkan metode yang ketat dan kreatif untuk mengevaluasi mesin pencari di era agen AI.

Blok penyusun untuk bab berikutnya dari AI

Masa depan sistem agen dan asisten cerdas akan bergantung pada ketersediaan antarmuka terprogram yang kaya ke dalam pengetahuan kolektif dunia. Mesin pencari lama saat ini telah mencapai kejenuhan penggunaan pada sekitar 10¹⁰ kueri per hari, angka yang kemungkinan telah mencapai puncaknya. Generasi sistem pencarian dan temu kembali berikutnya akan melayani permintaan yang jauh lebih besar, karena alam semesta agen AI yang terus berkembang mengandalkan mereka untuk informasi waktu nyata yang akurat.

Upaya kami hingga saat ini telah memposisikan kami sebagai mesin pencari tercepat dan paling berkinerja yang dapat diakses melalui API. Namun, inovasi yang bahkan lebih ambisius akan diperlukan bagi kita untuk memicu babak berikutnya dari AI. Bagaimana kita menskalakan sistem ini secara efisien dalam menghadapi permintaan yang terus meningkat? Bagaimana sistem pencarian ini dapat dioptimalkan mengingat pendekatan baru terhadap rekayasa konteks dan pasca-pelatihan? Dan bagaimana kita menavigasi ketegangan yang selalu ada antara kelengkapan, keterkinian, dan latensi? Ini adalah pertanyaan terbuka yang Perplexity, dengan kombinasi jejak produk, skala, dan bakat teknis kami, berada dalam posisi unik untuk menanganinya.

Kutipan

@online{perplexity2025ArchitectingAndEvaluatingAnAiFirstSearchApi,
  author = {{Perplexity} and Aleksandr Bogutskii and Aleksandr Nikolenko and Aleksei Bykov and Alexander Pecheny and Alexandr Yarats and Arsenii Shevchenko and Denis Bykov and Dmitry Pervukhin and Ismail Gadzhiev and James Liounis and Kevin Hu and Kirill Priemko and Maksim Gaiduk and Maksim Morozov and Marko Kevac and Michael Liang and Mikhail Galanin and Nandor Licker and Nataliya Pevgova and Nikita Kireev and Nikolai Tretiak and Paul Schofield and Saif Ali Raja and Saleh Alghusson and Sebastian Sepulveda and Sergei Miller and Svyatoslav Feldsherov and Vitalii Polshkov and Vladimir Zaytsev and Denis Yarats},
  title = {{Architecting and evaluating an AI-first Search API}},
  date = {2025-09-25},
  url = {https://perplexity.coolkeypoint.com/hub/blog/architecting-and-evaluating-an-ai-first-search-api}
}