Cum am integrat securitatea în Computer

Perplexity Computer este un agent autonom care scrie și rulează cod, navighează pe web și se conectează la servicii externe pentru a duce la bun sfârșit sarcini în numele tău.

Este construit direct pe infrastructura existentă a Perplexity, care a finalizat atestarea SOC 2 Type II pentru 2026, și moștenește funcțiile de securitate pentru întreprinderi ale Perplexity, cum ar fi SAML SSO, jurnalele de audit și controalele administrative granulate.

Executarea codului și interacțiunea cu serviciile active introduc cerințe noi. Această postare detaliază ceea ce am construit deasupra fundației originale pentru a ne menține în continuare utilizatorii în siguranță: izolare în sandbox, conectori și gestionarea datelor, protecție împotriva injecției de prompturi și guvernanță pentru întreprinderi.

Izolarea în sandbox

Executarea codului în siguranță necesită izolare la nivel de hardware. Fiecare sarcină Computer rulează într-un sandbox microVM Firecracker, impunând principiul privilegiului minim la un nivel care depășește securitatea implicită a sistemului de operare. Fiecare microVM pornește propriul său kernel Linux dedicat, cu un model de dispozitiv minimal care reduce suprafața de atac.

Fiecare sandbox este izolat pe trei dimensiuni:

Kernel dedicat: Fiecare Sesiune primește propria instanță de kernel Linux.

Sistem de fișiere izolat: Fiecare VM utilizează un sistem de fișiere izolat care se resetează la încheierea Sesiune.

Spațiu de nume de rețea privat: Sandboxurile au propria rețea izolată cu reguli de firewall dedicate.

Sandboxurile se pun automat în pauză când sunt inactive și sunt distruse după o perioadă de inactivitate. Fiecare Sesiune nouă începe curat. Doar acreditările necesare pentru sarcina curentă sunt injectate și sunt distruse odată cu sandboxul. Subagenții utilizează tokenuri proxy cu durată scurtă de viață routate printr-un gateway autentificat, în loc de chei API brute.

De asemenea, separăm stocarea datelor de execuția codului în VPC-uri cloud. Această separare ajută la izolarea datelor stocate ale utilizatorului de mediul de execuție. Toată comunicarea dintre cele două are loc prin HTTPS criptat.

Conectori și gestionarea datelor

Computer se poate conecta la servicii externe menținând în același timp accesul delimitat și gestionarea controlată a datelor. Administratorii pot activa sau dezactiva conectorii pentru organizație, iar utilizatorii individuali își pot autentifica apoi serviciile pe care dor să le utilizeze în cadrul Computer.

Calea de conexiune depinde de conector. Integrările încorporate, cum ar fi Google și Microsoft, folosesc fluxuri de autentificare ale furnizorului, în timp ce conectorii la distanță personalizați acceptă autentificarea OAuth 2.0 sau prin cheie API administrată de întreprindere. Toate tipurile de conectori sunt concepute pentru a transmite doar datele minime necesare pentru a finaliza sarcina.

Gestionarea datelor urmează același model de control. Conectorii personalizați la distanță trebuie să utilizeze HTTPS, iar datele conectorilor de fișiere sunt criptate în tranzit și în repaus. Datele pentru întreprinderi, cum ar fi intrările de sarcini, ieșirile, datele conectorilor și conținutul sandboxului, nu sunt utilizate pentru antrenarea modelelor. Atașamentele de fișiere pentru întreprinderi sunt șterse după 7 zile.

Protecție împotriva injecției de prompturi

Un agent care navighează pe web și citește conținut extern este expus atacurilor de injecție de prompturi. Computer moștenește și extinde măsurile de apărare construite inițial pentru Comet, inclusiv arhitectura noastră de apărare în patru straturi și BrowseSafe, modelul nostru de detecție open-source pentru securitatea agenților de browser. Aceste măsuri de apărare au fost auditate de Trail of Bits.

Clasificatoarele ML scanează conținutul preluat din surse externe înainte ca Computer să acționeze asupra acestuia. Sistemul de detecție rulează în paralel cu conducta de raționament a agentului și declanșează o oprire de siguranță atunci când este detectat conținut suspect. Clasificatoarele sunt actualizate continuu pe baza constatărilor din programul nostru de recompense pentru erori, a exercițiilor echipei roșii și a evenimentelor de detecție din lumea reală.

Dincolo de clasificare, promptul de sistem al fiecărei unelte include reguli de protecție explicite. Conținutul extern este marcat ca neverificat, iar sistemul face referire continuă la interogarea inițială a utilizatorului atunci când selectează și execută uneltele.

Computer aplică măsuri de siguranță suplimentare atunci când procesează conținut neverificat, inclusiv o gestionare mai strictă a prompturilor și protecții la nivel de model. Dacă doriți să citiți mai multe despre acest subiect, am inclus linkurile către cercetările și evaluările de securitate relevante de mai sus.

Controale pentru întreprinderi

Pentru organizațiile care utilizează Perplexity Enterprise, administratorii obțin o guvernanță suplimentară asupra modului în care funcționează Computer:

Jurnale de audit: Administratorii pot înregistra evenimente cheie, cum ar fi interogările utilizatorilor, acțiunile de tip agent, accesul la fișiere și utilizarea conectorilor. Jurnalele se integrează cu principalele sisteme SIEM, inclusiv Splunk, Azure Sentinel și Datadog, astfel încât echipele de securitate să poată monitoriza activitatea Computer alături de telemetria infrastructurii existente.

Controale de acces: Administratorii pot dezactiva complet Computer sau îl pot activa numai pentru membri specifici. Conectorii terți, inclusiv Gmail, Outlook, Slack, GitHub, Notion, Snowflake, Databricks și Salesforce, pot fi activați sau dezactivați individual la nivel de organizație. De asemenea, administratorii pot restricționa modelele pe care Computer are permisiunea să le utilizeze.

Controale de facturare: Administratorii pot stabili limite de credite per loc, pot suprascrie alocările pentru utilizatori individuali, pot configura praguri de reîncărcare automată și limite lunare sau pot alege să nu adauge credite dincolo de alocarea de locuri inclusă.

Pentru detalii complete, vizitați Centrul de încredere sau consultați documentația Computer pentru întreprinderi.