Mengamankan AI dengan Perplexity

Sumber daya keamanan yang dirujuk dalam Sesi ini

• Cara Kami Membangun Keamanan ke dalam Computer
• Kotak Pasir Aman untuk Agen
• Mitigasi Suntikan Prompt di Comet
• Makalah riset BrowseSafe
• Mengamankan Agen dengan Numbat
• Membuka sumber Bumblebee
• Secure Intelligence Institute
• Pusat Kepercayaan

FAQ

Membangun keamanan di seluruh tumpukan AI

Bagaimana cara Perplexity mendekati keamanan saat membangun di berbagai lapisan tumpukan AI? Segala yang dibangun Perplexity dimulai dengan pemikiran yang mengutamakan keamanan, dan kami memperlakukan keselamatan dan keamanan sebagai pekerjaan yang terkait tetapi berbeda. Keselamatan adalah tentang melindungi manusia dari agen. Keamanan adalah tentang melindungi agen dari manusia. Membangun di seluruh tumpukan berarti kita dapat menempatkan kontrol yang tepat di lapisan yang tepat untuk tugas yang tepat, alih-alih menempelkan perlindungan pada kotak hitam yang bukan milik kita.

SPACE, kotak pasir agen Perplexity

Apa itu kotak pasir, dan bagaimana cara melindungi pengguna dan agen? Kotak pasir memberi kode tempat terbatas untuk berjalan tanpa mencapai sistem atau data Anda. Agen meningkatkan taruhannya, jadi di Computer setiap tugas mendapatkan kotak pasirnya sendiri.

Mengapa Perplexity membangun kotak pasirnya sendiri (SPACE) alih-alih menggunakan yang sudah ada? Alat siap pakai tidak dapat memberikan keamanan yang ingin dipastikan Perplexity kepada pelanggan kami. Agen mematahkan asumsi bahwa kotak pasir adalah untuk eksekusi kode berumur pendek. Hal itu menimbulkan dua kebutuhan yang saling bertentangan: lingkungan harus dapat dibuang, tetapi pekerjaan harus persisten. Platform yang ada membuat Anda memilih dua dari tiga pilihan antara fungsionalitas, efisiensi, dan keamanan. SPACE dibangun untuk memberikan ketiganya.

Bagaimana cara kerja SPACE, dan kontrol keamanan apa saja yang dimilikinya? SPACE menjadikan Sesi sebagai objek yang tahan lama, bukan kotak pasirnya. Sesi adalah rantai rekam jepret bergulir, dan rekam jepret tersebut mengaktifkan rangkaian kontrol penuh SPACE. Menjeda hanyalah menghentikan kotak pasir. Melanjutkan adalah memulihkan rekam jepret terbaru di mesin mana pun. Melakukan fork adalah memulihkan rekam jepret yang sama dua kali dan membiarkan salinannya menyimpang. Pengguna mendapatkan kontinuitas, beserta tombol mesin waktu jika ada yang salah.

Di mana kredensial saya tinggal ketika agen bertindak atas nama saya? Kotak pasir adalah tempat pekerjaan yang tidak tepercaya terjadi, jadi ini adalah tempat terakhir kunci harus berada. Jika agen dibajak, penyerang akan mewarisi semua yang dipegang agen, itulah sebabnya agen kami tidak memegang apa pun. Kredensial tiba dari luar kotak, pada saat yang tepat saat dibutuhkan, untuk tugas itu saja.

RBAC, konektor, dan fitur keamanan Perplexity

Apa sebenarnya yang didapatkan akses oleh Perplexity saat konektor seperti Snowflake atau Outlook terhubung, dan apa yang dapat dimatikan oleh admin? Tidak seperti alat agen yang dimulai dengan akses ke seluruh komputer Anda, Computer dimulai tanpa akses. Akses datang melalui OAuth dengan izin yang tepat, jadi jika Anda tidak dapat melihatnya, agen Anda tidak dapat melihatnya. Admin dapat mematikan seluruh konektor, atau hanya alat tertentu di dalam satu konektor.

Bagaimana RBAC Perplexity berintegrasi dengan penyedia identitas kami?

Penyedia identitas suatu organisasi sudah menjawab siapa yang dapat menyentuh apa. Perplexity terhubung ke sana dan batas-batas tersebut langsung terbawa ke dalam produk. Sumber kebenaran Anda tetap menjadi sumber kebenaran, dan jejak audit Anda tetap akurat. Tim mendapatkan konteks yang mereka butuhkan, dan perusahaan tetap mengontrol siapa yang melihat apa.

Bagaimana Perplexity melindungi agen dari suntikan prompt di web terbuka? Suntikan prompt adalah rekayasa sosial, yang ditujukan pada agen alih-alih karyawan, dan web terbuka adalah tempat orang asing dapat berbicara dengannya. BrowseSafe memperlakukan setiap halaman yang dibaca agen sebagai tidak tepercaya dan memindainya secara paralel, sebelum konten dapat membentuk apa yang dilakukan agen. Riset keamanan yang disimpan untuk diri sendiri hanya melindungi Anda. Agen semua orang membaca web yang sama, jadi kami membuat tolok ukur tersebut menjadi publik.

Alat apa saja yang digunakan Perplexity untuk melindungi mesin tempat agen dan karyawan berjalan? Bumblebee menjawab pertanyaan pertama setelah setiap insiden rantai pasokan: apakah paket buruk itu ada di mana pun di sistem kami? Numbat mengawasi lapisan agen itu sendiri dan membaca perilaku secara berurutan. Karena ia duduk di tempat agen bertindak, ia dapat menghentikan suatu tindakan sebelum dieksekusi.

Menggunakan Computer untuk mengamankan Computer

Bisakah Computer dipercaya dengan pekerjaan keamanan nyata? Tim keamanan Perplexity sendiri membangun infrastruktur keamanannya secara internal di atas Computer alih-alih menunggu alat eksternal menyusul. Eksekusi agnostik model, memori persisten, dan sisa peta jalan sudah ada di sana, sehingga tim dapat fokus pada agen keamanan itu sendiri. Membangun agen keamanan terbaik berarti membutuhkan perangkat terbaik di bawahnya.

Di mana Computer mengambil pekerjaan paling berulang dari piring tim keamanan? Computer dapat membantu melakukan triase peringatan yang terlewat dan laporan insiden tindak lanjut. Setiap triase di Computer kembali didokumentasikan secara default, sehingga analis mulai dari investigasi tertulis alih-alih peringatan mentah.