Proteggere l'IA con Perplexity

Risorse di sicurezza citate in questa sessione

• Come abbiamo integrato la sicurezza in Computer
• Sandbox sicure per gli agenti
• Mitigazione del prompt injection in Comet
• Documento di ricerca BrowseSafe
• Protezione degli agenti con Numbat
• Rilascio open-source di Bumblebee
• Secure Intelligence Institute
• Centro di protezione

Domande frequenti

Costruire la sicurezza nell'intera pila dell'IA

In che modo Perplexity affronta la sicurezza quando sviluppa su così tanti livelli della pila dell'IA? Tutto ciò che Perplexity realizza nasce da un approccio orientato alla sicurezza, e trattiamo la tutela e la sicurezza come attività correlate ma distinte. La tutela consiste nel proteggere gli esseri umani dagli agenti. La sicurezza consiste nel proteggere gli agenti dagli esseri umani. Sviluppare lungo l'intera pila significa poter inserire i controlli giusti al livello giusto per le attività giuste, anziché aggiungere protezioni a una scatola nera che non controlliamo.

SPACE, la sandbox per agenti di Perplexity

Cos'è una sandbox e in che modo protegge utenti e agenti? Una sandbox offre al codice uno spazio circoscritto in cui essere eseguito senza raggiungere i sistemi o i dati dell'utente. Gli agenti aumentano la posta in gioco, pertanto in Computer ogni attività riceve la propria sandbox.

Perché Perplexity ha creato una propria sandbox (SPACE) anziché utilizzarne una esistente? Gli strumenti standard non erano in grado di garantire il livello di sicurezza che Perplexity desidera assicurare ai nostri clienti. Gli agenti sfatano l'assunto secondo cui le sandbox servono per l'esecuzione di codice di breve durata. Ciò introduce due esigenze in conflitto tra loro: l'ambiente deve essere usa e getta, ma il lavoro deve essere persistente. Le piattaforme esistenti costringevano a scegliere due caratteristiche su tre tra funzionalità, efficienza e sicurezza. SPACE è stata progettata per offrirle tutte e tre.

Come funziona concretamente SPACE e quali controlli di sicurezza possiede? SPACE rende la sessione l'oggetto persistente anziché la sandbox. Una sessione è una catena di snapshot progressivi, e tali snapshot abilitano l'insieme completo di controlli di SPACE. Mettere in pausa equivale semplicemente a fermare la sandbox. Riprendere significa ripristinare l'ultimo snapshot su qualsiasi macchina. Effettuare il fork consiste nel ripristinare lo stesso snapshot due volte consentendo alle copie di divergere. Gli utenti ottengono continuità, insieme a una funzione di ripristino temporale in caso di problemi.

Dove risiedono le mie credenziali quando un agente agisce per mio conto? Le sandbox sono il luogo in cui si svolgono le attività non verificate, quindi rappresentano l'ultimo posto in cui dovrebbero risiedere le chiavi. Se un agente venisse compromesso, l'attaccante erediterebbe tutto ciò che l'agente detiene, motivo per cui i nostri agenti non detengono nulla. Le credenziali arrivano dall'esterno della sandbox, esattamente nel momento in cui sono necessarie e unicamente per quella specifica attività.

RBAC, connettori e funzionalità di sicurezza di Perplexity

A cosa accede effettivamente Perplexity quando viene connesso un connettore come Snowflake o Outlook, e cosa può disattivare un amministratore? A differenza degli strumenti per agenti che iniziano con l'accesso all'intero computer, Computer parte senza alcun accesso. L'accesso avviene tramite OAuth con autorizzazioni precise, pertanto, se l'utente non può visualizzarlo, non può farlo neanche l'agente. Gli amministratori possono disattivare un intero connettore o solo specifici strumenti al suo interno.

In che modo l'RBAC di Perplexity si integra con il nostro provider di identità?

Il provider di identità di un'organizzazione stabilisce già chi può accedere a cosa. Perplexity si integra in esso e tali confini si estendono direttamente al prodotto. La vostra fonte di verità rimane tale e la vostra traccia di audit rimane accurata. I team ottengono il contesto di cui hanno bisogno e le aziende mantengono il controllo su chi visualizza cosa.

In che modo Perplexity protegge gli agenti dal prompt injection sul Web aperto? Il prompt injection è una forma di ingegneria sociale mirata agli agenti anziché ai dipendenti, e il Web aperto costituisce il luogo in cui estranei possono interagire con essi. BrowseSafe tratta ogni pagina letta dall'agente come non verificata e la analizza in parallelo, prima che il contenuto possa influenzare il comportamento dell'agente. La ricerca sulla sicurezza tenuta per sé protegge solo voi. Gli agenti di chiunque leggono lo stesso Web, pertanto abbiamo reso pubblico il benchmark.

Quali strumenti utilizza Perplexity per proteggere le macchine su cui vengono eseguiti agenti e dipendenti? Bumblebee risponde alla prima domanda dopo ogni incidente legato alla catena di approvvigionamento: il pacchetto difettoso è presente sui nostri sistemi? Numbat monitora il livello dell'agente stesso e ne legge il comportamento in sequenza. Poiché opera nel punto in cui l'agente agisce, è in grado di interrompere un'azione prima che venga eseguita.

Usare Computer per proteggere Computer

Si può affidare a Computer un'attività di sicurezza reale? Il team di sicurezza interno di Perplexity ha realizzato la propria infrastruttura di sicurezza internamente sfruttando Computer anziché attendere che gli strumenti esterni si aggiornassero. L'esecuzione indipendente dal modello, la memoria persistente e il resto della pianificazione erano già presenti, consentendo al team di concentrarsi sull'agente di sicurezza stesso. Realizzare il miglior agente di sicurezza richiede di disporre del miglior sistema di supporto sottostante.

In quali ambiti Computer sggrava maggiormente un team di sicurezza dalle attività ripetitive? Computer può coadiuvare nella classificazione degli avvisi non gestiti e dei rapporti sugli incidenti di follow-up. Ogni classificazione in Computer viene restituita documentata per impostazione predefinita, consentendo agli analisti di iniziare da un'indagine scritta anziché da un avviso grezzo.