Osiguravanje AI-ja uz Perplexity

Sigurnosni resursi navedeni u ovoj sesiji

• Kako smo ugradili sigurnost u Computer
• Sigurni sandbox za agente
• Ublažavanje injektiranja promptova u Comet
• Istraživački rad BrowseSafe
• Osiguravanje agenata pomoću Numbata
• Prelazak Bumblebeea na otvoreni kod
• Institut za sigurnu inteligenciju
• Centar povjerenja

Česta pitanja

Izgradnja sigurnosti kroz cijeli AI stog

Kako Perplexity pristupa sigurnosti kada gradi rješenja na toliko slojeva AI stoga? Sve što Perplexity gradi započinje načinom razmišljanja u kojem je sigurnost na prvome mjestu, a zaštitu i sigurnost tretiramo kao povezane, ali zasebne poslove. Zaštita se odnosi na čuvanje ljudi od agenata. Sigurnost se odnosi na čuvanje agenata od ljudi. Gradnja kroz cijeli stog znači da možemo postaviti odgovarajuće kontrole na pravi sloj za prave zadatke, umjesto da primjenjujemo zaštitu na crnu kutiju koju ne posjedujemo.

SPACE, Perplexityjev sandbox za agente

Što je sandbox i kako štiti korisnike i agente? Sandbox pruža kodu ograđeno mjesto za izvršavanje bez pristupanja vašim sustavima ili podacima. Agenti podižu ulog, stoga u Computeru svaki zadatak dobiva vlastiti sandbox.

Zašto je Perplexity izgradio vlastiti sandbox (SPACE) umjesto da koristi postojeći? Gotovi alati nisu mogli pružiti sigurnost koju Perplexity želi osigurati našim korisnicima. Agenti ruše pretpostavku da su sandboxovi namijenjeni kratkotrajnom izvršavanju koda. To uvodi dvije potrebe koje su u međusobnoj suprotnosti: okruženje treba biti jednokratno, ali rad treba biti trajan. Postojeće platforme naterale bi vas da odaberete dvije od tri mogućnosti između funkcionalnosti, učinkovitosti i sigurnosti. SPACE je izgrađen kako bi isporučio sve troje.

Kako SPACE zapravo funkcionira i koje sigurnosne kontrole ima? SPACE čini sesiju trajnim objektom umjesto sandboxa. Sesija je lanac ažuriranih snimaka, a te snimke omogućuju cijeli skup kontrola sustava SPACE. Pauziranje je jednostavno zaustavljanje sandboxa. Nastavak je vraćanje najnovije snimke na bilo kojem računalniku. Grananje je vraćanje iste snimke dva puta i dopuštanje kopijama da se raziđu. Korisnici dobivaju kontinuitet, zajedno s gumbom vremeplova ako nešto pođe po zlu.

Gdje se nalaze moje vjerodajnice kada agent djeluje u moje ime? Sandboxovi su mjesto gdje se događa nepovjerljiv rad, pa je to posljednje mjesto gdje bi ključevi trebali biti. Ako bi agent bio kompromitiran, napadač bi naslijedio sve što agent posjeduje, i zato naši agenti ne posjeduju ništa. Vjerodajnice stižu izvana, u točno određenom trenutku kada su potrebne, samo za taj zadatak.

RBAC, konektori i Perplexityjeve sigurnosne značajke

Čemu Perplexity zapravo dobiva pristup kada je povezan konektor poput Snowflaka ili Outlooka, i što administrator može isključiti? Za razliku od alata za agente koji započinju s pristupom cijelom vašem računalu, Computer započinje bez ikakvog pristupa. Pristup se ostvaruje putem OAuth-a s točnim dozvolama, pa ako vi to ne možete vidjeti, ne može ni vaš agent. Administratori mogu isključiti cijeli konektor ili samo određene alate unutar njega.

Kako se Perplexityjev RBAC integrira s našim davateljem identiteta?

Davatelj identiteta organizacije već daje odgovor na pitanje tko čemu može pristupiti. Perplexity se povezuje s njime i te granice se prenose izravno u proizvod. Vaš izvor istine ostaje izvor istine, a vaš revizijski trag ostaje točan. Timovi dobivaju kontekst koji im je potreban, a tvrtke zadržavaju kontrolu nad time tko što vidi.

Kako Perplexity štiti agente od injektiranja promptova na otvorenom webu? Injektiranje promptova je oblik društvenog inženjeringa usmjeren na agente umjesto na zaposlenike, a otvoreni web je mjesto gdje stranci s njime mogu komunicirati. BrowseSafe tretira svaku stranicu koju agent pročita kao nepovjerljivu i skenira je paralelno, prije nego što sadržaj može utjecati na ono što agent radi. Sigurnosno istraživanje koje čuvate samo za sebe štiti jedino vas. Svi agenti čitaju isti web, stoga smo naš benchmark učinili javnim.

Koje alate Perplexity koristi za zaštitu strojeva na kojima rade agenti i zaposlenici? Bumblebee odgovara na prvo pitanje nakon svakog incidenta u opskrbnom lancu: nalazi li se zlonamjerni paket bilo gdje u našim sustavima? Numbat prati sloj samog agenta i čita ponašanje u nizu. Budući da se nalazi tamo gdje agent djeluje, može zaustaviti radnju prije nego što se izvrši.

Korištenje Computera za osiguravanje Computera

Može li se Computeru vjerovati u stvarnim sigurnosnim zadacima? Perplexityjev vlastiti sigurnosni tim izgradio je svoju sigurnosnu infrastrukturu unutar tvrtke na vrhu Computera umjesto da čeka da vanjski alati nadoknade zaostatak. Izvršavanje neovisno o modelu, trajna memorija i ostatak plana razvoja već su bili prisutni, tako da se tim mogao usredotočiti na samog sigurnosnog agenta. Izgradnja najboljeg sigurnosnog agenta znači potrebu za najboljim okvirom ispod njega.

Gdje Computer najviše rasterećuje sigurnosni tim od ponavljajućih zadataka? Computer može pomoći s trijažom propuštenih upozorenja i naknadnim izvješćima o incidentima. Svaka trijaža u Computeru prema zadanim postavkama vraća se dokumentirana, tako da analitičari kreću od pisane istrage umjesto od sirovog upozorenja.