Zabezpečení AI s Perplexity

Bezpečnostní zdroje zmíněné v této relaci

• Jak jsme zabudovali zabezpečení do systému Computer
• Zabezpečené sandboxové prostředí pro agenty
• Omezení prompt injection v aplikaci Comet
• Výzkumná práce BrowseSafe
• Zabezpečení agentů pomocí Numbat
• Open-source projekt Bumblebee
• Secure Intelligence Institute
• Centrum důvěry

Časté dotazy

Budování zabezpečení napříč zásobníkem AI

Jak přistupuje společnost Perplexity k bezpečnosti, když staví na tolika vrstvách zásobníku AI? Vše, co Perplexity vytváří, začíná uvažováním s ohledem na bezpečnost na prvním místě. Bezpečnost a ochranu (safety a security) přitom vnímáme jako související, ale odlišné úkoly. Ochrana (safety) je o ochraně lidí před agenty. Zabezpečení (security) je o ochraně agentů před lidmi. Budování napříč zásobníkem znamená, že můžeme umístit správné kontrolní prvky do správné vrstvy pro správné úkoly, namísto přidávání ochrany k černé skříňce, kterou nevlastníme.

SPACE, sandbox agentů od společnosti Perplexity

Co je to sandbox a jak chrání uživatele a agenty? Sandbox poskytuje kódu vyhrazené místo pro spuštění, aniž by zasahoval do vašich systémů nebo dat. Agenti zvyšují sázky, proto má v systému Computer každý úkol vlastní sandbox.

Proč si společnost Perplexity vytvořila vlastní sandbox (SPACE) namísto použití již existujícího? Hotové nástroje nedokázaly zajistit takovou bezpečnost, jakou chce Perplexity poskytnout našim zákazníkům. Agenti boří předpoklad, že sandboxes jsou určeny pro krátkodobé spouštění kódu. To přináší dvě potřeby, které jdou proti sobě: prostředí by mělo být jednorázové, ale práce by měla být trvalá. Stávající platformy vás nutily zvolit dvě ze tří možností mezi funkčností, efektivitou a bezpečností. Prostředí SPACE bylo vytvořité tak, aby poskytovalo všechny tři.

Jak SPACE vlastně funguje a jaké bezpečnostní prvky obsahuje? SPACE činí z relace trvalý objekt namísto sandboxu. Relace je řetězcem průběžných snímků a tyto snímky umožňují kompletní sadu ovládacích prvků SPACE. Pozastavení znamená pouze zastavení sandboxu. Obnovení představuje obnovení nejnovějšího snímku na libovolném stroji. Větvění (forking) spočívá v dvojím obnovení stejného snímku a umožnění diverzifikace kopií. Uživatelé získají kontinuitu spolu s tlačítkem „stroj času“, pokud se něco pokazí.

Kde jsou uloženy moje přihlašovací údaje, když agent jedná mým jménem? V sandboxu probíhá nedůvěryhodná práce, takže je to poslední místo, kde by klíče měly být. Pokud by byl agent napaden, útočník by získal vše, co agent drží, a proto naši agenti nedrží nic. Přihlašovací údaje přicházejí zvenčí, v přesný okamžik, kdy jsou potřeba, a to pouze pro daný úkol.

RBAC, konektory a bezpečnostní funkce Perplexity

K čemu všemu získá Perplexity přístup, když je připojen konektor jako Snowflake nebo Outlook, a co může správce vypnout? Na rozdíl od nástrojů pro agenty, které začínají s přístupem k celému počítači, Computer začíná bez přístupu. Přístup je zajištěn prostřednictvím OAuth s přesnými oprávněními, takže pokud to nevidíte vy, nemůže to vidět ani váš agent. Správci mohou vypnout celý konektor nebo jen konkrétní nástroje v něm.

Jak se systém RBAC od Perplexity integrovat s naším poskytovatelem identit?

Poskytovatel identit organizace již odpovídá na otázku, kdo se může čeho dotknout. Perplexity se do něj zapojuje a tyto hranice se přenášejí přímo do produktu. Vaše zdrojová data zůstávají zdrojem pravdy a váš auditní záznam zůstává přesný. Týmy získávají kontext, který potřebují, a společnosti si zachovávají kontrolu nad tím, kdo co vidí.

Jak Perplexity chrání agenty před prompt injection na otevřeném webu? Prompt injection je sociální inženýrství zacílené na agenty namísto zaměstnanců a otevřený web je místem, kde s ním cizí lidé mohou mluvit. BrowseSafe považuje každou stránku, kterou agent čte, za nedůvěryhodnou a paralelně ji skenuje, dříve než obsah může ovlivnit chování agenta. Bezpečnostní výzkum, který si necháte pro sebe, chrání pouze vás. Agenti všech uživatelů čtou stejný web, a proto jsme srovnávací test (benchmark) zveřejnili.

Jaké nástroje Perplexity používá k ochraně strojů, na nichž běží agenti a zaměstnanci? Bumblebee odpovídá na první otázku po každém incidentu v dodavatelském řetězci: nachází se škodlivý balíček někde v našich systémech? Numbat sleduje vrstvu agenta a čte chování v sekvenci. Vzhledem k tomu, že sídlí tam, kde agent jedná, může zastavit akci dříve, než se provede.

Využití systému Computer k zabezpečení systému Computer

Dá se systému Computer věřit při provádění skutečné bezpečnostní práce? Vlastní bezpečnostní tým společnosti Perplexity vybudoval svou bezpečnostní infrastrukturu interně nad systémem Computer namísto čekání, až externí nástroje doženou zpoždění. Spouštění nezávislé na modelu, trvalá paměť a zbytek plánu již byly k dispozici, takže se tým mohl soustředit na samotného bezpečnostního agenta. Budování nejlepšího bezpečnostního agenta vyžaduje mít pod ním to nejlepší zázemí.

Kde systém Computer nejvíce uleví bezpečnostnímu týmu od opakující se práce? Computer může pomoci s tříděním zmeškaných výstrah a následnými zprávami o incidentech. Každé třídění v systému Computer se ve výchozím nastavení vrátí zdokumentované, takže analytici začínají s písemným vyšetřováním namísto surového upozornění.