AI turvamine Perplexityga

Selles seansis viidatud turvaressursid

• Kuidas me lõime turvalisuse süsteemi Computer
• Turvalised liivakastid agentidele
• Prompti injektsiooni leevendamine Cometis
• BrowseSafe'i teadustöö
• Agentide turvamine Numbatiga
• Bumblebee avatud lähtekoodiga muutmine
• Turvalise intelligentsi instituut
• Usalduskeskus

KKK

Turvalisuse loomine kogu AI-pinu ulatuses

Kuidas läheneb Perplexity turvalisusele, kui ta ehitab lahendusi AI-pinu nii paljudel tasanditel? Kõik, mida Perplexity loob, saab alguse turvalisust esikohale seadvast mõtteviisist ning me käsitleme ohutust ja turvalisust seotud, kuid erinevate ülesannetena. Ohutus tähendab inimeste kaitsmist agentide eest. Turvalisus tähendab agentide kaitsmist inimeste eest. Kogu pinu ulatuses ehitamine tähendab, et saame paigutada õiged juhtseadised õigele tasemele õigete ülesannete jaoks, selle asemel et lisada kaitset mustale kastile, mis ei kuulu meile.

SPACE, Perplexity agentide liivakast

Mis on liivakast ja kuidas see kaitseb kasutajaid ning agente? Liivakast annab koodile eraldatud koha käivitamiseks, ilma et see pääseks ligi teie süsteemidele või andmetele. Agendid tõstavad panuseid, seega saab süsteemis Computer iga ülesanne oma liivakasti.

Miks ehitas Perplexity oma liivakasti (SPACE) olemasoleva kasutamise asemel? Valmiskujul tööriistad ei suutnud tagada turvalisust, mida Perplexity soovib oma klientidele pakkuda. Agendid lükkavad ümber eelduse, et liivakastid on mõeldud lühiajaliseks koodi täitmiseks. See tekitab kaks üksteisele vastanduvat vajadust: keskkond peaks olema ühekordselt kasutatav, kuid töö peab olema püsiv. Olemasolevad platvormid sundisid valima funktsionaalsuse, tõhususe ja turvalisuse vahel kaks kolmest. SPACE loodi selleks, et pakkuda kõiki kolme.

Kuidas SPACE tegelikult toimib ja milliseid turvakontrolle see sisaldab? SPACE teeb liivakasti asemel vastupidavaks objektiks seansi. Seanss on jooksvate hetktõmmiste ahel ja need hetktõmmised võimaldavad kasutada SPACE täielikku juhtseadiste komplekti. Peatamine on lihtsalt liivakasti seiskamine. Jätkamine on uusima hetktõmmise taastamine ükskõik millises arvutis. Hargnemine on sama hetktõmmise taastamine kaks korda ja koopiate eraldumise lubamine. Kasutajad saavad järjepidevuse koos ajamasina nupuga, kui midagi läheb valesti.

Kus asuvad minu mandaadid, kui agent tegutseb minu nimel? Liivakastid on koht, kus toimub usaldamatu töö, mistõttu on see viimane koht, kus võtmed peaksid asuma. Kui agent kaaperdataks, päriks ründaja kõik, mida agent hoiab, mistõttu meie agendid ei hoia midagi. Mandaadid saabuvad väljastpoolt kasti täpselt sel hetkel, kui neid on vaja, ja ainult selle ülesande jaoks.

RBAC, konnektorid ja Perplexity turvafunktsioonid

Millele saab Perplexity tegelikult juurdepääsu, kui ühendatakse konnektor nagu Snowflake või Outlook, ja mida saab administraator välja lülitada? Erinevalt agenditööriistadest, mis alustavad juurdepääsuga kogu teie arvutile, alustab Computer ilma juurdepääsuta. Juurdepääs toimub OAuth'i kaudu täpsete õigustega, nii et kui teie seda ei näe, ei näe seda ka teie agent. Administraatorid saavad välja lülitada terve konnektori või ainult konkreetsed tööriistad selle sees.

Kuidas integreerub Perplexity RBAC meie identiteedipakkujaga?

Organisatsiooni identiteedipakkuja annab juba vastuse sellele, kes võib mida puudutada. Perplexity ühendub sellega ja need piirid kanduvad otse tootesse. Teie tõeallikas jääb tõeallikaks ja teie auditijälg püsib täpne. Meeskonnad saavad vajaliku konteksti ja ettevõtted säilitavad kontrolli selle üle, kes mida näeb.

Kuidas kaitseb Perplexity agente prompti injektsiooni eest avatud veebis? Prompti injektsioon on sotsiaalne engineering, mis on suunatud agentide, mitte töötajate vastu, ja avatud veeb on koht, kus võõrad saavad sellega rääkida. BrowseSafe käsitleb igat lehekülge, mida agent loeb, usaldamatuna ja skannib seda paralleelselt, enne kui sisu saab mõjutada seda, mida agent teeb. Turvauuringud, mida hoiate endale, kaitsevad ainult teid. Kõigi agendid loevad sama veebi, seega tegime võrdlusuuringu avalikuks.

Milliseid tööriistu kasutab Perplexity masinate kaitsmiseks, millel agendid ja töötajad töötavad? Bumblebee vastab esimesele küsimusele pärast iga tarneahela intsidenti: kas kahjulik pakett leidub kusagil meie süsteemides? Numbat jälgib agendikihti ennast ja loeb käitumist järjestikku. Kuna see asub kohas, kus agent tegutseb, saab see tegevuse enne selle täitmist peatada.

Arvuti kasutamine arvuti kaitsmiseks

Kas arvutit saab usaldada tõelise turvatööga? Perplexity oma turvameeskond ehitas oma turvainfrastruktuuri ise süsteemi Computer peale, selle asemel et oodata väliste tööriistade järele jõudmist. Mudelist sõltumatu täitmine, püsiv mälu ja ülejäänud tegevuskava olid juba olemas, nii et meeskond sai keskenduda turvaagendile endale. Parima turvaagendi ehitamine tähendab parima alusraamistiku vajadust selle all.

Kus vabastab Computer turvameeskonna kõige korduvamast tööst? Computer aitab vahele jäänud hoiatusi läbi vaadata ja koostada järelaruandeid intsidentide kohta. Iga vaatlus süsteemis Computer tagastatakse vaikimisi dokumenteeritult, nii et analüütikud alustavad kirjalikust uurimisest toore hoiatuse asemel.