Kako smo ugradili sigurnost u Computer

Perplexity Computer je autonomni agent koji piše i pokreće kod, pretražuje web i povezuje se s vanjskim uslugama kako bi izvršavao zadatke u vaše ime.

Izgrađen je izravno na postojećoj infrastrukturi tvrtke Perplexity, koja je dovršila svoju SOC 2 Type II potvrdu za 2026. godinu, te nasljeđuje Perplexityjeve sigurnosne značajke za poduzeća kao što su SAML SSO, zapisnici revizije i granularne administrativne kontrole.

Izvršavanje koda i djelovanje na uslugama uživo uvodi nove zahtjeve. Ovaj članak opisuje što smo izgradili na vrhu originalnih temelja kako bismo i dalje štitili naše korisnike: izolaciju unutar sandboxa, konektore i obradu podataka, obranu od ubacivanja upita (prompt injection) te korporativno upravljanje.

Izolacija unutar sandboxa

Sigurno pokretanje koda zahtijeva izolaciju na razini hardvera. Svaki zadatak za Computer pokreće se unutar Firecracker microVM sandboxa, čime se provodi minimalna privilegija na razini koja nadilazi zadanu sigurnost operativnog sustava. Svaki microVM pokreće vlastiti namjenski Linux kernel s minimalnim modelom uređaja koji smanjuje površinu napada.

Svaki je sandbox izoliran u tri dimenzije:

Namjenski kernel: Svaka sesija dobiva vlastitu instancu Linux kernela.

Izolirani sustav datoteka: Svaki VM koristi izolirani sustav datoteka koji se ponovno postavlja kada sesija završi.

Privatni mrežni imenski prostor: Sandboxi imaju vlastitu izoliranu mrežu s namjenskim pravilima vatrozida.

Sandboxi se automatski pauziraju kada miruju i uništavaju se nakon razdoblja neaktivnosti. Svaka nova sesija počinje čista. Unose se samo vjerodajnice potrebne za trenutačni zadatak, a one se uništavaju zajedno sa sandboxom. Podagenti koriste kratkotrajne proxy tokene usmjerene kroz autentificirani pristupnik umjesto sirovih API ključeva.

Također odvajamo pohranu podataka od izvršavanja koda preko računalnih VPC-ova. Ovo odvajanje pomaže u izolaciji pohranjenih korisničkih podataka od okruženja za izvršavanje. Sva komunikacija između njih odvija se preko šifriranog HTTPS-a.

Konektori i obrada podataka

Computer se može povezivati s vanjskim uslugama uz održavanje ograničenog pristupa i kontrolirane obrade podataka. Administratori mogu omogućiti ili onemogućiti konektori za organizaciju, a pojedinačni korisnici zatim provode autentifikaciju usluga koje žele koristiti unutar Computer-a.

Put povezivanja ovisi o konektoru. Ugrađene integracije kao što su Google i Microsoft koriste tokove autentifikacije davatelja usluga, dok prilagođeni udaljeni konektori podržavaju OAuth 2.0 ili autentifikaciju API ključem kojom upravlja poduzeće. Svi vrste konektora dizajnirani su za prijenos samo minimalnih podataka potrebnih za dovršetak zadatka.

Obrada podataka slijedi isti kontrolni model. Udaljeni prilagođeni konektori moraju koristiti HTTPS, a podaci datotečnog konektora šifriraju se u prijenosu i mirovanju. Korporativni podaci, kao što su ulazi zadataka, izlazi, podaci konektora i sadržaj sandboxa, ne koriste se za treniranje modela. Korporativni datotečni prilozi brišu se nakon 7 dana.

Obrana od ubacivanja upita

Agent koji pregledava web i čita vanjski sadržaj izložen je napadima ubacivanja upita. Computer nasljeđuje i proširuje obrane koje smo izvorno izgradili za Comet, uključujući našu arhitekturu obrane u četiri sloja i BrowseSafe, naš model otkrivanja otvorenog koda za sigurnost web-preglednika. Ove obrane revidirao je Trail of Bits.

ML klasifikatori skeniraju sadržaj preuzet iz vanjskih izvora prije nego što Computer poduzme radnju na temelju njega. Sustav za otkrivanje radi paralelno s cjevovodom za zaključivanje agenta i pokreće sigurno zaustavljanje kada se detektira sumnjiv sadržaj. Klasifikatori se kontinuirano ažuriraju na temelju nalaza iz našeg programa nagrada za otkrivanje propusta, vježbi crvenog tima i događaja detekcije u stvarnom svijetu.

Osim klasifikacije, sistemski upit svakog alata uključuje izričita zaštitna pravila. Vanjski sadržaj označava se kao nepouzdan, a sustav kontinuirano upućuje na izvorni korisnički upit prilikom odabira i izvršavanja alata.

Computer primjenjuje dodatne mjere zaštite prilikom obrade nepouzdanog sadržaja, uključujući strože rukovanje upitima i zaštite na razini modela. Ako želite pročitati više o ovome, gore smo povezali relevantna istraživanja i sigurnosne procjene.

Korporativne kontrole

Za organizacije na paketu Perplexity Enterprise, administratori dobivaju dodatno upravljanje načinom na koji Computer radi:

Zapisnici revizije: Administratori mogu bilježiti ključne događaje kao što su korisnički upiti, radnje agenata, pristup datotekama i upotreba konektora. Zapisnici se integriraju s vodećim SIEM sustavima uključujući Splunk, Azure Sentinel i Datadog kako bi sigurnosni timovi mogli pratiti aktivnost Computer-a uz postojeću telemetriju infrastrukture.

Kontrole pristupa: Administratori mogu u potpunosti onemogućiti Computer ili ga omogućiti samo za određene članove. Konektori trećih strana, uključujući Gmail, Outlook, Slack, GitHub, Notion, Snowflake, Databricks i Salesforce, mogu se pojedinačno omogućiti ili onemogućiti na razini organizacije. Administratori također mogu ograničiti koje modele Computer smije koristiti.

Kontrole naplate: Administratori mogu postaviti ograničenja kredita po mjestu, nadjačati alokacije za pojedinačne korisnike, konfigurirati pragove automatskog obnavljanja i mjesečne limite ili odabrati da ne dodaju kredite izvan uključene alokacije mjesta.

Za sve detalje posjetite naš Centar povjerenja ili pogledajte dokumentaciju Computer for Enterprise.