Perplexity ile Yapay Zekayı Güvenceye Alma

Bu oturumda bahsedilen güvenlik kaynakları

• Computer İçin Güvenliği Nasıl Oluşturduk
• Ajanlar İçin Güvenli Korumalı Alanlar
• Comet'te İstisnai Komut Enjeksiyonunu Azaltma
• BrowseSafe araştırma makalesi
• Numbat ile Ajanları Güvence Altına Alma
• Bumblebee açık kaynaklı hale getiriliyor
• Güvenli İstihbarat Enstitüsü
• Güvenlik Merkezi

SSS

Yapay zeka yığını genelinde güvenlik oluşturma

Perplexity, yapay zeka yığınının pek çok katmanında çalışma yaparken güvenliğe nasıl yaklaşıyor? Perplexity'nin oluşturduğu her şey güvenlik öncelikli bir anlayışla başlar ve güvenlik ile emniyeti ilgili ancak ayrı işler olarak ele alırız. Emniyet, insanları ajanlardan korumakla ilgilidir. Güvenlik ise ajanları insanlardan korumaktır. Yığın genelinde inşa etmek, kara kutu niteliğindeki ve sahibi olmadığımız bir yapıya koruma eklemek yerine doğru görevler için doğru katmanda doğru denetimleri uygulayabileceğimiz anlamına gelir.

SPACE, Perplexity'nin ajan korumalı alanı

Korumalı alan nedir ve kullanıcıları ile ajanları nasıl korur? Korumalı alan, koda sistemlerinize veya verilerinize erişmeden çalışabileceği sınırlandırılmış bir alan sağlar. Ajanlar riskleri artırır, bu nedenle Computer'da her görev kendi korumalı alanını alır.

Perplexity, mevcut bir korumalı alanı kullanmak yerine neden kendi korumalı alanını (SPACE) inşa etti? Hazır araçlar, Perplexity'nin müşterilerimize sağlamak istediği güvenliği sunamadı. Ajanlar, korumalı alanların kısa ömürlü kod yürütme amaçlı olduğu varsayımını ortadan kaldırır. Bu durum, birbirine zıt iki ihtiyacı ortaya çıkarır: ortamlardan vazgeçilebilir olmalıdır ancak çalışmalar kalıcı olmalıdır. Mevcut platformlar işlevsellik, verimlilik ve güvenlik arasından üçünden ikisini seçmenizi gerektiriyordu. SPACE, üçünü de sunmak için inşa edildi.

SPACE aslında nasıl çalışır ve hangi güvenlik denetimlerine sahiptir? SPACE, korumalı alan yerine oturumu dayanıklı nesne haline getirir. Oturum, sıralı anlık görüntü zinciridir ve bu anlık görüntüler SPACE'in tüm denetim setini etkinleştirir. Duraklatma, yalnızca korumalı alanı durdurmaktır. Devam ettirme ise en son anlık görüntüyü herhangi bir makinede geri yüklemektir. Çatallama (forking), aynı anlık görüntüyü iki kez geri yükleyip kopyaların farklılaşmasına izin vermektir. Kullanıcılar, bir şeyler ters gittiğinde bir zaman makinesi düğmesiyle birlikte süreklilik elde eder.

Bir ajan benim adıma hareket ettiğinde kimlik bilgilerim nerede saklanır? Güvenli olmayan çalışmalar korumalı alanlarda gerçekleşir, bu nedenle anahtarların saklanacağı son yer burasıdır. Bir ajanın ele geçirilmesi durumunda saldırgan, ajanın sahip olduğu her şeyi ele geçirir; bu yüzden ajanlarımız hiçbir şey tutmaz. Kimlik bilgileri, tam olarak ihtiyaç duyulduğunda, yalnızca o görev için kutunun dışından sağlanır.

RBAC, bağlayıcılar ve Perplexity'nin güvenlik özellikleri

Snowflake veya Outlook gibi bir bağlayıcı bağlandığında Perplexity aslında neye erişim elde eder ve bir yönetici neleri kapatabilir? Tüm bilgisayarınıza erişimle başlayan ajan araçlarının aksine Computer, erişim olmadan başlar. Erişim, kesin izinlerle OAuth üzerinden sağlanır; bu nedenle, eğer bunu göremiyorsanız ajanınız da göremez. Yöneticiler bağlayıcının tamamını veya bir bağlayıcı içindeki belirli araçları kapatabilir.

Perplexity'nin RBAC sistemi kimlik sağlayıcımızla nasıl entegre olur?

Bir kuruluşun kimlik sağlayıcısı, kimin neye dokunabileceğini zaten yanıtlar. Perplexity buna bağlanır ve bu sınırlar doğrudan ürüne aktarılır. Gerçeklik kaynağınız gerçeklik kaynağı olarak kalır ve denetim iziniz doğru kalır. Ekipler ihtiyaç duydukları bağlamı elde eder ve şirketler kimin neyi gördüğü üzerinde kontrolü korur.

Perplexity, açık web üzerindeki komut enjeksiyonuna karşı ajanları nasıl korur? Komut enjeksiyonu, çalışanlar yerine ajanları hedef alan bir sosyal mühendisliktir ve açık web, yabancıların ajanla iletişim kurabildiği yerdir. BrowseSafe, ajanın okuduğu her sayfayı güvenilmeyen olarak değerlendirir ve içerik ajanın ne yapacağını şekillendirmeden önce sayfayı paralel olarak tarar. Yalnızca kendinize sakladığınız güvenlik araştırması yalnızca sizi korur. Herkesin ajanı aynı web'i okur, bu nedenle kıyaslamayı herkese açık hale getirdik.

Perplexity, ajanların ve çalışanların üzerinde çalıştığı makineleri korumak için hangi araçları kullanır? Bumblebee, her tedarik zinciri olayından sonra ilk soruyu yanıtlar: Kötü amaçlı paket sistemlerimiz herhangi bir yerinde var mı? Numbat, ajan katmanını kendi içinde izler ve davranışı sırayla okur. Ajanın eylem gerçekleştirdiği yerde konumlandığı için bir eylemi yürütülmeden önce durdurabilir.

Computer'ı Computer'ı güvenceye almak için kullanma

Computer'a gerçek güvenlik işleri emanet edilebilir mi? Perplexity'nin kendi güvenlik ekibi, harici araçların yetişmesini beklemek yerine güvenlik altyapısını şirket içinde Computer üzerine kurdu. Modelden bağımsız yürütme, kalıcı bellek ve yol haritasının geri kalanı zaten mevcuttu, bu nedenle ekip doğrudan güvenlik ajanına odaklanabildi. En iyi güvenlik ajanını inşa etmek, altındaki en iyi donanım altyapısına sahip olmayı gerektirir.

Computer, güvenlik ekibinin iş yükünden en çok hangi tekrarlayan işleri alır? Computer, kaçırılan uyarıların önceliklendirilmesine ve takip eden olay raporlarına yardımcı olabilir. Computer'da yapılan her önceliklendirme varsayılan olarak belgelenmiş şekilde döner, böylece analistler ham bir uyarı yerine yazılı bir inceleme ile başlar.