Kuidas me ehitasime turvalisuse Computer'isse

Perplexity Computer on autonoomne agent, mis kirjutab ja käivitab koodi, sirvib veebi ning loob ühenduse väliste teenustega, et täita teie eest ülesandeid.

See on ehitatud otse Perplexity olemasolevale taristule, mis on läbinud 2026. aasta SOC 2 Type II auditi, ning pärib Perplexity ettevõttetasemel turvafunktsioonid, nagu SAML SSO, auditilogid ja üksikasjalikud haldusjuhtelemendid.

Koodi täitmine ja reaalsete teenuste kasutamine toob kaasa uued nõuded. See postitus käsitleb seda, mida oleme algse vundamendi peale ehitanud, et tagada kasutajate turvalisus: liivakasti isoleerimine, konnektorid ja andmetöötlus, prompt'i injektsiooni tõrje ning ettevõtte tasemel haldus.

Liivakasti isoleerimine

Koodi turvaline käivitamine nõuab riistvaratasemel isoleerimist. Iga Computer'i ülesanne töötab Firecracker microVM-i liivakastis, tagades vähima õiguste põhimõtte tasemel, mis ületab operatsioonisüsteemi vaiketurbe. Iga microVM käivitab oma spetsiaalse Linuxi kerneli koos minimaalse seadmemudeliga, mis vähendab rünnakupinda.

Iga liivakast on isoleeritud kolmes mõõtmes:

Spetsiaalne kernel: Iga seanss saab oma Linuxi kerneli eksemplari.

Isoleeritud failisüsteem: Iga VM kasutab isoleeritud failisüsteemi, mis lähtestatakse seansi lõppedes.

Privaatne võrgunimeruum: Liivakastidel on oma isoleeritud võrk koos spetsiaalsete tulemüürireeglitega.

Liivakastid peatuvad jõudeolekus automaatselt ja hävitatakse pärast tegevusetuse perioodi. Iga uus seanss algab puhtalt. Sisse süstitakse ainult praeguse ülesande jaoks vajalikud mandaadid ja need hävitatakse koos liivakastiga. Alamagendid kasutavad toor-API-võtmete asemel autentitud lüüsi kaudu suunatavaid lühiajalisi puhverserveri tokeneid.

Samuti eraldame pilve VPK-des andmesalvestuse koodi täitmisest. See eraldus aitab salvestatud kasutajaandmed täitekeskkonnast eraldada. Kogu suhtlus nende kahe vahel toimub krüpteeritud HTTPS-i kaudu.

Konnektorid ja andmetöötlus

Computer saab luua ühenduse väliste teenustega, hoides samal ajal juurdepääsu piiratuna ja andmetöötluse kontrolli all. Administraatorid saavad organisatsiooni jaoks konnektori lubada või keelata ning üksikkasutajad saavad seejärel autentida teenused, mida nad soovivad Computer'is kasutada.

Ühendustee sõltub konnektorist. Sisseehitatud integratsioonid, nagu Google ja Microsoft, kasutavad teenusepakkujate autentimisvooge, samas kui kohandatud kaugkonnektorid toetavad OAuth 2.0 või ettevõtte hallatavat API-võtme autentimist. Kõik konnektoritüübid on loodud edastama ainult ülesande täitmiseks vajalikku miinimumandmete hulka.

Andmetöötlus järgib sama juhtimismudelit. Kaug-kohandatud konnektorid peavad kasutama HTTPS-i ning failikonnektori andmed on krüpteeritud nii edastamisel kui ka puhkeolekus. Ettevõtte andmeid, nagu ülesande sisendid, väljundid, konnektori andmed ja liivakasti sisu, ei kasutata mudeli treenimiseks. Ettevõtte failimanused kustutatakse 7 päeva pärast.

Prompt'i injektsiooni tõrje

Agent, mis sirvib veebi ja loeb välist sisu, on avatud prompt'i injektsiooni rünnakutele. Computer pärib ja laiendab kaitsemehhanisme, mille ehitasime algselt Comet'i jaoks, sealhulgas meie neljakihilise kaitsearhitektuuri ja BrowseSafe'i (meie avatud lähtekoodiga tuvastusmudeli veebiagendi turvalisuse tagamiseks). Neid kaitsemehhanisme auditeeris Trail of Bits.

Masinõppe klassifikaatorid skannivad välistest allikatest hangitud sisu enne, kui Computer selle põhjal tegutseb. Tuvastussüsteem töötab agendi arutlusahelaga paralleelselt ja käivitab kahtlase sisu tuvastamisel turvaseisaku. Klassifikaatoreid ajakohastatakse pidevalt meie veapreemiaprogrammi, punase meeskonna harjutuste ja reaalsete tuvastusjuhtumite leidude põhjal.

Lisaks klassifitseerimisele sisaldab iga tööriista süsteemne prompt selgeid piiranguid. Väline sisu eraldatakse ebausaldusväärsena ning süsteem viitab tööriistade valimisel ja täitmisel pidevalt algsele kasutaja päringule.

Computer rakendab ebausaldusväärse sisu töötlemisel täiendavaid turvameetmeid, sealhulgas rangemat prompt'i käsitlemist ja mudelitasemel kaitset. Kui soovite selle kohta rohkem lugeda, oleme lisanud ülespoole lingid asjakohastele uuringutele ja turbehinnangutele.

Ettevõtte juhtseadmed

Perplexity Enterprise'i kasutavate organisatsioonide jaoks saavad administraatorid täiendava kontrolli Computer'i toimimise üle:

Auditilogid: Administraatorid saavad logida võtmesündmusi, nagu kasutajate päringud, agentide toimingud, failide juurdepääs ja konnektori kasutus. Logid integreeruvad juhtivate SIEM-süsteemidega, sealhulgas Splunk, Azure Sentinel ja Datadog, nii et turvameeskonnad saavad jälgida Computer'i tegevust koos olemasoleva taristu telemeetriaga.

Juurdepääsujuhtelemendid: Administraatorid saavad Computer'i täielikult keelata või lubada seda ainult teatud liikmetele. Kolmanda osapoole konnektoreid, sealhulgas Gmail, Outlook, Slack, GitHub, Notion, Snowflake, Databricks ja Salesforce, saab igaühte organisatsiooni tasemel lubada või keelata. Administraatorid saavad piirata ka seda, milliseid mudeleid Computer võib kasutada.

Arveldusjuhtelemendid: Administraatorid saavad määrata litsentsipõhiseid krediidilimiite, muuta üksikute kasutajate eraldisi, konfigureerida automaatse laadimise lävesid ja kuupiiranguid või valida, et kaasasolevast litsentsieraldisest kaugemale krediiti ei lisata.

Täpsema teabe saamiseks külastage meie usalduskeskust või tutvuge dokumendiga Computer for Enterprise.