Kako smo ugradili bezbednost u Computer

Perplexity Computer je autonomni agent koji piše i pokreće kod, pretražuje veb i povezuje se sa spoljnim servisima kako bi obavljao zadatke u vaše ime.

Izgrađen je direktno na postojećoj infrastrukturi kompanije Perplexity, koja je završila svoju SOC 2 Type II sertifikaciju za 2026. godinu, i nasleđuje bezbednosne funkcije za preduzeća kompanije Perplexity, kao što su SAML SSO, revizorski dnevnici (audit logs) i granularne administrativne kontrole.

Izvršavanje koda i delovanje na aktivnim servisima uvodi nove zahteve. Ovaj post obuhvata ono što smo izgradili na originalnoj osnovi kako bismo nastavili da štitimo naše korisnike: izolaciju u okruženju sa sankcijama (sandbox isolation), konektore i rukovanje podacima, zaštitu od injektovanja instrukcija (prompt injection defense) i korporativno upravljanje.

Izolacija u okruženju sa sankcijama (Sandbox isolation)

Bezbedno pokretanje koda zahteva izolaciju na nivou hardvera. Svaki zadatak sistema Computer pokreće se unutar Firecracker microVM okruženja (sandbox), sprovodeći princip minimalnih privilegija na nivou koji prevazilazi podrazumevanu bezbednost operativnog sistema. Svaki microVM pokreće sopstveni namenski Linux kernel sa minimalnim modelom uređaja koji smanjuje površinu napada.

Svako okruženje je izolovano u tri dimenzije:

Namenski kernel: Svaka sesija dobija sopstvenu instancu Linux kernela.

Izolovani sistem datoteka: Svaki virtuelni mašinski sistem (VM) koristi izolovani sistem datoteka koji se resetuje kada se sesija završi.

Privatni mrežni imenski prostor: Okruženja imaju sopstvenu izolovanu mrežu sa namenskim pravilima zaštitnog zida (firewall).

Okruženja se automatski pauziraju kada su neaktivna i uništavaju se nakon perioda neaktivnosti. Svaka nova sesija počinje od čistog lista. Ubacuju se samo akreditivi potrebni za trenutni zadatak, i oni se uništavaju zajedno sa okruženjem. Podagenti koriste jednokratne proksi tokene rutirane preko autentifikovanog mrežnog prolaza (gateway) umesto sirovih API ključeva.

Takođe odvajamo skladištenje podataka od izvršavanja koda preko cloud VPC-ova. Ovo odvajanje pomaže u izolovanju uskladištenih korisničkih podataka od okruženja za izvršavanje. Sva komunikacija između ova dva dela odvija se preko šifrovanog HTTPS-a.

Konektori i rukovanje podacima

Computer može da se poveže sa spoljnim servisima uz očuvanje ograničenog pristupa i kontrolisanog rukovanja podacima. Administratori mogu da omoguće ili onemoguće konektore za organizaciju, nakon čega pojedinačni korisnici mogu da autentifikuju servise koje žele da koriste unutar sistema Computer.

Putanja povezivanja zavisi od konektora. Ugrađene integracije kao što su Google i Microsoft koriste tokove autentifikacije provajdera, dok prilagođeni udaljeni konektori podržavaju OAuth 2.0 ili autentifikaciju pomoću API ključeva kojima upravlja preduzeće. Svi tipovi konektora su dizajnirani da prenose samo minimalne podatke potrebne za završetak zadatka.

Rukovanje podacima prati isti model kontrole. Udaljeni prilagođeni konektori moraju koristiti HTTPS, a podaci konektora datoteka su šifrovani u tranzitu i u stanju mirovanja. Podaci preduzeća, kao što su ulazi zadataka, izlazi, podaci konektora i sadržaj okruženja, ne koriste se za obuku modela. Prilozi datoteka preduzeća se brišu nakon 7 dana.

Zaštita od injektovanja instrukcija (Prompt injection defense)

Agent koji pretražuje veb i čita spoljni sadržaj izložen je napadima injektovanja instrukcija (prompt injection). Computer nasleđuje i proširuje odbrane koje smo prvobitno izgradili za Comet, uključujući našu arhitekturu odbrane u četiri sloja i BrowseSafe, naš model detekcije otvorenog koda za bezbednost veb agenata. Ove odbrane su revidirane od strane Trail of Bits.

ML klasifikatori skeniraju sadržaj preuzet iz spoljnih izvora pre nego što Computer deluje u skladu sa njim. Sistem detekcije radi paralelno sa cevovodom za zaključivanje agenta i pokreće bezbedno zaustavljanje kada se detektuje sumnjiv sadržaj. Klasifikatori se kontinuirano ažuriraju na osnovu nalaza iz našeg programa nagrada za pronalaženje grešaka (bug bounty), vežbi crvenog tima (red team) i događaja detekcije u stvarnom svetu.

Pored klasifikacije, sistemski prompt svakog alata uključuje eksplicitne zaštitne ograde (guardrails). Spoljni sadržaj je označen kao nepoverljiv, a sistem kontinuirano upućuje na originalni upit korisnika prilikom izbora i izvršavanja alata.

Computer primenjuje dodatne mere zaštite pri obradi nepoverljivog sadržaja, uključujući strože rukovanje promptovima i zaštite na nivou modela. Ukoliko želite da pročitate više o ovome, povezali smo relevantna istraživanja i bezbednosne procene iznad.

Kontrole za preduzeća

Za organizacije na paketu Perplexity Enterprise, administratori dobijaju dodatnu upravljačku kontrolu nad načinom na koji Computer funkcioniše:

Dnevnici revizije (Audit logs): Administratori mogu da evidentiraju ključne događaje kao što su korisnički upiti, akcije agenata, pristup datotekama i korišćenje konektora. Dnevnici se integrišu sa vodećim SIEM sistemima, uključujući Splunk, Azure Sentinel i Datadog, tako da bezbednosni timovi mogu da nadgledaju aktivnost sistema Computer zajedno sa postojećom telemetrijom infrastrukture.

Kontrole pristupa: Administratori mogu potpuno da onemoguće Computer ili da ga omoguće samo za određene članove. Konektori trećih strana, uključujući Gmail, Outlook, Slack, GitHub, Notion, Snowflake, Databricks i Salesforce, mogu se pojedinačno omogućiti ili onemogućiti na nivou organizacije. Administratori takođe mogu da ograniče koje modele Computer sme da koristi.

Kontrole naplate: Administratori mogu da postave limite kredita po korisničkom mestu (seat), da prilagode alokacije za pojedinačne korisnike, konfigurišu pragove za automatsko obnavljanje i mesečne limite, ili da izaberu da ne dodaju kredite preko uključene alokacije mesta.

Za kompletne detalje posetite naš Centar poverenja (Trust Center) ili pogledajte dokumentaciju Computer for Enterprise.