Protecció d'IA amb Perplexity

Recursos de seguretat esmentats en aquesta Sessió

• Com hem integrat la seguretat a Computer
• Entorns de proves segurs per a agents
• Mitigació de la inserció de sol·licituds a Comet
• Article de recerca de BrowseSafe
• Protecció d'agents amb Numbat
• Llançament en codi obert de Bumblebee
• Institut d'Intel·ligència Segura
• Centre de confiança

Preguntes freqüents

Creació de seguretat a tota la pila d'IA

Com aborda Perplexity la seguretat quan construeix a través de tantes capes de la pila d'IA? Tot el que construeix Perplexity comença amb un pensament de seguretat primer, i tractem la seguretat i la protecció com a tasques relacionades però diferents. La protecció consisteix a protegir els humans dels agents. La seguretat consisteix a protegir els agents dels humans. Construir a través de la pila significa que podem posar els controls adequats a la capa adequada per a les tasques adequades, en lloc d'afegir protecció a una caixa negra que no posseïm.

SPACE, l'entorn de proves d'agents de Perplexity

Què és un entorn de proves i com protegeix els usuaris i els agents? Un entorn de proves ofereix al codi un lloc contingut per executar-se sense arribar als vostres sistemes o dades. Els agents augmenten l'aposta, de manera que a Computer cada tasca obté el seu propi entorn de proves.

Per què Perplexity va construir el seu propi entorn de proves (SPACE) en lloc d'utilitzar-ne un de existent? Les eines estàndard no podien proporcionar la seguretat que Perplexity vol garantir als nostres clients. Els agents trenquen la hipòtesi que els entorns de proves són per a l'execució de codi de curta durada. Això introdueix dues necessitats que s'oposen: l'entorn ha de ser d'usar i llançar, però el treball ha de ser persistent. Les plataformes existents obligaven a triar-ne dues de tres entre funcionalitat, eficiència i seguretat. SPACE es va construir per oferir les tres.

Com funciona realment SPACE i quins controls de seguretat té? SPACE fa que la Sessió sigui l'objecte durador en lloc de l'entorn de proves. Una Sessió és una cadena d'instantànies continus, i aquestes instantànies permeten el conjunt complet de controls de SPACE. Pausar és simplement aturar l'entorn de proves. Reprendre és restaurar l'última instantània en qualsevol màquina. Bifurcar és restaurar la mateixa instantània dues vegades i permetre que les còpies divergeixin. Els usuaris obtenen continuïtat, juntament amb un botó de màquina del temps si alguna cosa va malament.

On viuen les meves credencials quan un agent actua en el meu nom? Els entorns de proves són on es produeix el treball no verificat, de manera que és l'últim lloc on haurien de viure les claus. Si un agent fos segrestat, l'atacant heretaria tot el que té l'agent, raó per la qual els nostres agents no tenen res. Les credencials arriben de fora de la caixa, en el moment exacte en què es necessiten, només per a aquesta tasca.

RBAC, connectors i funcions de seguretat de Perplexity

A què té accés realment Perplexity quan es connecta un connector com ara Snowflake o Outlook, i què pot desactivar un administrador? A diferència de les eines d'agents que comencen amb accés a tot el vostre ordinador, Computer comença sense accés. L'accés s'aconsegueix mitjançant OAuth amb permisos exactes, de manera que si no el veieu, el vostre agent tampoc el pot veure. Els administradors poden desactivar un connector sencer o només eines específiques d'un.

Com s'integra el RBAC de Perplexity amb el nostre proveïdor d'identitat?

El proveïdor d'identitat d'una organització ja respon qui pot tocar què. Perplexity s'hi connecta i aquests límits es traslladen directament al producte. La vostra font de veritat continua sent la font de veritat, i el vostre registre d'auditoria es manté precisió. Els equips obtenen el context que necessiten i les empreses mantenen el control sobre qui veu què.

Com protegeix Perplexity els agents de la inserció de sol·licituds a la web oberta? La inserció de sol·licituds és enginyeria social, dirigida als agents en lloc dels empleats, i la web oberta és on els estranys poden parlar-hi. BrowseSafe tracta cada pàgina que llegeix l'agent com a no verificada i l'escaneja en paral·lel, abans que el contingut pugui influir en el que fa l'agent. La investigació de seguretat guardada per a un mateix només us protegeix a vosaltres. Els agents de tothom llegeixen la mateixa web, així que hem fet públic el punt de referència.

Quines eines utilitza Perplexity per protegir les màquines on s'executen els agents i els empleats? Bumblebee respon a la primera pregunta després de cada incident de la cadena de subministrament: el paquet nociu es troba en algun lloc dels nostres sistemes? Numbat vigila la capa d'agents i llegeix el comportament en seqüència. Com que es troba on actua l'agent, pot aturar una acció abans que s'executi.

Utilitzar Computer per assegurar Computer

Es pot confiar en Computer per a tasques de seguretat reals? L'equip de seguretat propi de Perplexity va construir la seva infraestructura de seguretat internament sobre Computer en lloc d'esperar que les eines externes es posessin al dia. L'execució independent de models, la memòria persistent i la resta del full de ruta ja hi eren, de manera que l'equip podia centrar-se en l'agent de seguretat mateix. Construir el millor agent de seguretat significa necessitar el millor entorn per sota.

On treu Computer la major part del treball repetitiu de les mans d'un equip de seguretat? Computer pot ajudar a triar alertes perdudes i informes d'incidents de seguiment. Cada triatge a Computer torna documentat per defecte, de manera que els analistes comencen a partir d'una investigació escrita en lloc d'una alerta crua.