Obezbeđivanje veštačke inteligencije pomoću sistema Perplexity

Bezbednosni resursi na koje se poziva u ovoj sesiji

• Kako smo ugradili bezbednost u Computer
• Bezbedna okruženja za testiranje (sandbox) za agente
• Ublažavanje ubacivanja promptova u sistemu Comet
• Istraživački rad BrowseSafe
• Obezbeđivanje agenata pomoću alata Numbat
• Otvaranje koda projekta Bumblebee
• Institut za bezbednu inteligenciju
• Centar poverenja

Često postavljana pitanja

Izgradnja bezbednosti širom AI steka

Kako Perplexity pristupa bezbednosti kada gradi rešenja na toliko slojeva AI steka? Sve što Perplexity gradi počinje razmišljanjem u kojem je bezbednost na prvom mestu, a bezbednost i zaštitu tretiramo kao povezane, ali različite poslove. Zaštita se odnosi na zaštitu ljudi od agenata. Bezbednost se odnosi na zaštitu agenata od ljudi. Izgradnja širom steka znači da možemo da postavimo odgovarajuće kontrole na odgovarajući sloj za odgovarajuće zadatke, umesto da naknadno dodajemo zaštitu na crnu kutiju koju ne posedujemo.

SPACE, okruženje za testiranje (sandbox) agenata kompanije Perplexity

Šta je okruženje za testiranje (sandbox) i kako štiti korisnike i agente? Okruženje za testiranje pruža kodu ograničeno mesto za izvršavanje bez pristupanja vašim sistemima ili podacima. Agenti povećavaju uloge, tako da u sistemu Computer svaki zadatak dobija sopstveno okruženje za testiranje.

Zašto je Perplexity izgradio sopstveno okruženje za testiranje (SPACE) umesto da koristi postojeće? Unapred napravljeni alati nisu mogli da pruže bezbednost koju Perplexity želi da garantuje našim klijentima. Agenti ruše pretpostavku da su okruženja za testiranje namenjena kratkotrajnom izvršavanju koda. To uvodi dva zahteva koja su u suprotnosti: okruženje treba da bude jednokratno, ali rad treba da bude trajan. Postojeće platforme su primoravale korisnike da biraju dva od tri elementa između funkcionalnosti, efikasnosti i bezbednosti. SPACE je napravljen da isporuči sva tri.

Kako SPACE zapravo radi i koje bezbednosne kontrole poseduje? SPACE čini sesiju trajnim objektom umesto okruženja za testiranje. Sesija predstavlja lanac dinamičkih snimaka stanja, a ti snimci omogućavaju kompletan skup kontrola sistema SPACE. Pauziranje predstavlja samo zaustavljanje okruženja za testiranje. Nastavak rada predstavlja vraćanje najnovijeg snimka stanja na bilo kojoj mašini. Kreiranje ogranka (forking) predstavlja vraćanje istog snimka stanja dva puta i omogućavanje kopijama da se razdvoje. Korisnici dobijaju kontinuitet, zajedno sa dugmetom vremeplova ukoliko nešto pođe po zlu.

Gde se nalaze moji akreditivi kada agent deluje u moje ime? Okruženja za testiranje su mesta gde se obavlja rad kome se ne veruje, pa je to poslednje mesto na kojem treba da se nalaze ključevi. Ako bi agent bio kompromitovan, napadač bi nasledio sve što agent poseduje, i zato naši agenti ne poseduju ništa. Akreditivi pristižu spolja, u tačnom trenutku kada su potrebni, isključivo za taj zadatak.

RBAC, konektori i bezbednosne funkcije kompanije Perplexity

Pristupu čemu zapravo dobija Perplexity kada se poveže konektor poput sistema Snowflake ili Outlook, i šta administrator može da isključi? Za razliku od alata za agente koji počinju sa pristupom celom vašem računaru, Computer počinje bez ikakvog pristupa. Pristup se ostvaruje preko OAuth protokola sa tačnim dozvolama, tako da ako vi nešto ne možete da vidite, ni vaš agent to ne može videti. Administratori mogu da isključe ceo konektor ili samo određene alate unutar njega.

Kako se RBAC sistema Perplexity integriše sa našim provajderom identiteta?

Provajder identiteta organizacije već daje odgovor na pitanje ko može čemu da pristupi. Perplexity se povezuje sa njim i te granice se direktno prenose u proizvod. Vaš izvor istine ostaje izvor istine, a vaš revizorski trag ostaje tačan. Timovi dobijaju kontekst koji im je potreban, a kompanije zadržavaju kontrolu nad tim ko šta vidi.

Kako Perplexity štiti agente od ubacivanja promptova na otvorenom vebu? Ubacivanje promptova predstavlja socijalni inženjering usmeren na agente umesto na zaposlene, pri čemu je otvoren veb mesto gde stranci mogu da komuniciraju sa njima. BrowseSafe tretira svaku stranicu koju agent pročita kao poverljivu i skenira je paralelno, pre nego što sadržaj može da utiče na postupke agenta. Bezbednosna istraživanja koja zadržavate za sebe štite samo vas. Agenti svih korisnika čitaju isti veb, pa smo naš referentni test učinili javnim.

koje alate Perplexity koristi za zaštitu mašina na kojima rade agenti i zaposleni? Bumblebee daje odgovor na prvo pitanje nakon svakog incidenta u lancu snabdevanja: da li se zlonamerni paket nalazi bilo gde na našim sistemima? Numbat nadgleda sam sloj agenata i analizira ponašanje u sekvenci. Budući da se nalazi na mestu gde agent deluje, može da zaustavi radnju pre njenog izvršavanja.

Korišćenje sistema Computer za obezbeđivanje sistema Computer

Može li se sistemu Computer verovati kada je reč o ozbiljnim bezbednosnim poslovima? Sopstveni bezbednosni tim kompanije Perplexity izgradio je svoju bezbednosnu infrastrukturu interno na sistemu Computer umesto da čeka da spoljni alati nadoknade zaostatak. Izvršavanje nezavisno od modela, trajnu memoriju i ostatak plana razvoja već su imali na raspolaganju, tako da je tim mogao da se usredsredi na samog bezbednosnog agenta. Izgradnja najboljeg bezbednosnog agenta podrazumeva potrebu za najboljim okvirom ispod njega.

Gde sistem Computer najviše rasterećuje bezbednosni tim od ponavljajućih poslova? Computer može pomoći u trijaži propuštenih upozorenja i naknadnim izveštajima o incidentima. Svaka trijaža u sistemu Computer se podrazumevano vraća dokumentovana, tako da analitičari počinju od pisane istrage umesto od sirovog upozorenja.