Zabezpečenie AI s Perplexity

Bezpečnostné zdroje uvedené v tejto relácii

• Ako sme integrovali bezpečnosť do systému Computer
• Bezpečné sandbox prostredia pre agentov
• Zmiernenie prompt injection v systéme Comet
• Výskumná práca BrowseSafe
• Zabezpečenie agentov pomocou Numbat
• Prechod Bumblebee na open-source
• Inštitút pre bezpečnú inteligenciu
• Centrum dôvery

Často kladené otázky

Budovanie bezpečnosti naprieč zásobníkom AI

Ako Perplexity pristupuje k bezpečnosti pri budovaní naprieč toľkými vrstvami zásobníka AI? Všetko, čo Perplexity vytvára, začína uvažovaním s dôrazom na bezpečnosť a k bezpečnosti a ochrane pristupujeme ako k súvisiacim, no odlišným úlohám. Ochrana je o chránení ľudí pred agentmi. Bezpečnosť je o chránení agentov pred ľuďmi. Budovanie naprieč zásobníkom znamená, že môžeme umiestniť správne kontroly na správnu vrstvu pre správne úlohy, namiesto pridávania ochrany k čiernej skrinke, ktorú nevlastníme.

SPACE, sandbox agentov od Perplexity

Čo je to sandbox a ako chráni používateľov a agentov? Sandbox poskytuje kódu vyhradené miesto na spustenie bez toho, aby zasahoval do vašich systémov alebo údajov. Agentovia zvyšujú stávky, takže v systéme Computer získava každá úloha vlastný sandbox.

Prečo Perplexity vytvorilo vlastný sandbox (SPACE) namiesto použitia existujúceho? Hotové nástroje nedokázali poskytnúť bezpečnosť, ktorú chce Perplexity zaistiť našim zákazníkom. Agentovia vyvracajú predpoklad, že sandbox prostredia sú určené len na krátkodobé spúšťanie kódu. To prináša dve protichodné požiadavky: prostredie by malo byť jednorazové, ale práca by mala byť trvalá. Existujúce platformy vás nútili vybrať si dve z troch možností medzi funkčnosťou, efektivitou a bezpečnosťou. SPACE bol vytvorený tak, aby poskytoval všetky tri.

Ako SPACE skutočne funguje a aké bezpečnostné kontroly má? SPACE robí z relácie trvalý objekt namiesto sandboxu. Relácia je reťazou postupných snímok a tieto snímky umožňujú úplnú sadu kontrol systému SPACE. Pozastavenie je jednoducho zastavenie sandboxu. Obnovenie je obnovenie najnovšej snímky na ľubovoľnom stroji. Vetvenie je dvojnásobné obnovenie tej istej snímky a umožnenie rôznych smerov kópií. Používatelia získajú kontinuitu spolu s tlačidlom stroja času, ak sa niečo pokazí.

Kde sú uložené moje poverenia, keď agent koná v mojom mene? Sandbox je miesto, kde prebieha nedôveryhodná práca, takže je to posledné miesto, kde by mali byť uložené kľúče. Ak by bol agent unesený, útočník by zdedil všetko, čo agent drží, a preto naši agenti nedržia nič. Poverenia prichádzajú zvonku, v presnom momente, keď sú potrebné, a to iba pre danú úlohu.

RBAC, konektory a bezpečnostné funkcie Perplexity

K čomu vlastne Perplexity získava prístup, keď je pripojený konektor ako Snowflake alebo Outlook, a čo môže administrátor vypnúť? Na rozdiel od nástrojov pre agentov, ktoré začínajú s prístupom k celému vášmu počítaču, Computer začína bez prístupu. Prístup prichádza cez OAuth s presnými oprávneniami, takže ak to nevidíte vy, nemôže to vidieť ani váš agent. Administrátori môžu vypnúť celý konektor alebo len konkrétne nástroje v ňom.

Ako sa RBAC od Perplexity integruje s naším poskytovateľom identity?

Poskytovateľ identity organizácie už odpovedá na otázku, kto sa čoho môže dotknúť. Perplexity sa doňho pripája a tieto hranice prechádzajú priamo do produktu. Váš zdroj pravdy zostáva zdrojom pravdy a váš záznam auditov zostáva presný. Tímy získavajú kontext, ktorý potrebujú, a spoločnosti si zachovávajú kontrolu nad tým, kto čo vidí.

Ako Perplexity chráni agentov pred prompt injection na otvorenom webe? Prompt injection je sociálne inžinierstvo zamerané na agentov namiesto zamestnancov a otvorený web je miesto, kde sa s ním môžu zhovárať cudzinci. BrowseSafe zaobchádza s každou stránkou, ktorú agent prečíta, ako s nedôveryhodnou a paralelne ju skenuje predtým, než obsah môže ovplyvniť činnosť agenta. Bezpečnostný výskum ponechaný len pre vás chráni iba vás. Agenti všetkých čítajú rovnaký web, a preto sme vytvorili verejný benchmark.

Aké nástroje používa Perplexity na ochranu strojov, na ktorých bežia agenti a zamestnanci? Bumblebee odpovedá na prvú otázku po každom incidente v dodávateľskom reťazci: nachádza sa škodlivý balík kdekoľvek v našich systémoch? Numbat sleduje samotnú vrstvu agenta a číta správanie v sekvencii. Keďže sídli tam, kde agent koná, môže zastaviť akciu skôr, ako sa vykoná.

Použitie systému Computer na zabezpečenie systému Computer

Dá sa systému Computer dôverovať pri skutočnej bezpečnostnej práci? Vlastný bezpečnostný tím Perplexity vytvoril svoju bezpečnostnú infraštruktúru interne nad systémom Computer namiesto čakania, kým externé nástroje dobehnú zameškané. Vykonávanie nezávislé od modelu, trvalá pamäť a zvyšok plánu už boli prítomné, takže tím sa mohol sústrediť na samotného bezpečnostného agenta. Vytvorenie najlepšieho bezpečnostného agenta znamená potrebu najlepšieho základu pod ním.

Kde Computer zbavuje bezpečnostný tím najopakujúcejšej práce? Computer môže pomôcť s triedením zmeškaných upozornení a následnými správami o incidentoch. Každé triedenie v systéme Computer sa štandardne vracia zdokumentované, takže analytici začínajú od písomného vyšetrovania namiesto surového upozornenia.