Protexer a IA con Perplexity

Recursos de seguridade mencionados nesta sesión

• Como integramos a seguridade en Computer
• Contornos illados seguros para axentes
• Mitigación da inxección de instrucións en Comet
• Traballo de investigación de BrowseSafe
• Protección de axentes con Numbat
• Apertura do código de Bumblebee
• Instituto de Intelixencia Segura
• Centro de Confianza

Preguntas frecuentes

Construción de seguridade en toda a pila de IA

Como aborda Perplexity a seguridade cando constrúe en tantas capas da pila de IA? Todo o que constrúe Perplexity comeza cun razoamento centrado na seguridade, e tratamos a seguridade e a protección como tarefas relacionadas pero distintas. A protección consiste en protexer aos humanos dos axentes. A seguridade consiste en protexer os axentes dos humanos. Construír en toda a pila significa que podemos colocar os controis axeitados na capa correcta para as tarefas adecuadas, en lugar de engadir protección á forza a unha caixa negra que non posuímos.

SPACE, o contorno illado de axentes de Perplexity

Que é un contorno illado e como protexe aos usuarios e axentes? Un contorno illado ofrécelle ao código un lugar delimitado no que executarse sen chegar aos teus sistemas ou datos. Os axentes elevan as apostas, polo que en Computer cada tarefa ten o seu propio contorno illado.

Por que construíu Perplexity o seu propio contorno illado (SPACE) en vez de usar un xa existente? As ferramentas preconfiguradas non podían proporcionar a seguridade que Perplexity quere garantir aos nosos clientes. Os axentes rompen a suposición de que os contornos illados son para a execución de código de curta duración. Iso introduce dúas necesidades que tiran en direccións contrarias: o contorno debe ser desbotable, mais o traballo debe ser persistente. As plataformas existentes obrigábanche a escoller dúas de tres opcións entre funcionalidade, eficiencia e seguridade. SPACE deseñouse para ofrecer as tres.

Como funciona realmente SPACE e que controis de seguridade ten? SPACE fai que a sesión sexa o obxecto duradeiro no canto do contorno illado. Unha sesión é unha cadea de instantáneas continuas, e esas instantáneas permiten o conxunto completo de controis de SPACE. Pausar é simplemente deter o contorno illado. Retomar é restaurar a última instantánea en calquera máquina. Bifurcar é restaurar a mesma instantánea dúas veces e deixar que as copias diverxan. Os usuarios obteñen continuidade, xunto cun botón de máquina do tempo se algo vai mal.

Onde viven as miñas credenciais cando un axente actúa no meu nome? Os contornos illados son o lugar onde se produce o traballo non verificado, polo que son o último sitio no que deberían residir as claves. Se un axente fose secuestrado, o atacante herdaría todo o que o axente posúe, e é por iso que os nosos axentes non conteñen nada. As credenciais chegan desde fóra da caixa, no momento exacto en que se necesitan, só para esa tarefa.

RBAC, conectores e funcionalidades de seguridade de Perplexity

A que accede realmente Perplexity cando se conecta un conector como Snowflake ou Outlook, e que pode desactivar un administrador? A diferenza das ferramentas de axentes que comezan co acceso a todo o teu ordenador, Computer comeza sen acceso. O acceso prodúcese a través de OAuth con permisos exactos, polo que se ti non o podes ver, o teu axente tampouco o pode ver. Os administradores poden desactivar un conector enteiro, ou só ferramentas específicas dentro dun.

Como se integra o RBAC de Perplexity co noso provedor de identidade?

O provedor de identidade dunha organización xa responde a quen pode acceder a que. Perplexity conéctase a el e eses límites transpórtanse directamente ao produto. A túa fonte de verdade segue sendo a fonte de verdade, e o teu rexistro de auditoría mantense preciso. Os equipos obteñen o contexto que necesitan e as empresas manteñen o control sobre quen ve que.

Como protexe Perplexity os axentes contra a inxección de instrucións na rede aberta? A inxección de instrucións é enxeñaría social dirixida aos axentes no canto de aos empregados, e a rede aberta é o lugar onde os estraños poden falar con ela. BrowseSafe trata cada páxina que le o axente como non verificada e escaneaa en paralelo, antes de que o contido poida influír no que fai o axente. A investigación de seguridade que gardas para ti só te protexe a ti. Os axentes de todo o mundo le a mesma rede, polo que fixemos público o banco de probas.

Que ferramentas usa Perplexity para protexer as máquinas nas que se executan os axentes e empregados? Bumblebee responde á primeira pregunta despois de cada incidente na cadea de subministración: está o paquete malicioso en algures dos nosos sistemas? Numbat vixía a propia capa de axentes e le o comportamento en secuencia. Como se sitúa alí onde actúa o axente, pode deter unha acción antes de que se execute.

Uso de Computer para protexer Computer

Pódese confiar en Computer para traballos de seguridade reais? O propio equipo de seguridade de Perplexity construíu a súa infraestrutura de seguridade internamente sobre Computer en vez de agardar a que as ferramentas externas se puxeran ao día. A execución agnóstica de modelos, a memoria persistente e o resto da folla de ruta xa estaban aí, polo que o equipo puido centrarse no propio axente de seguridade. Construír o mellor axente de seguridade significa necesitar a mellor estrutura de soporte por debaixo.

Onde quita Computer o traballo máis repetitivo aos hombros dun equipo de seguridade? Computer pode axudar a clasificar as alertas perdidas e os informes de incidentes de seguimento. Cada clasificación en Computer devólvese documentada por defecto, polo que os analistas comezan a partir dunha investigación escrita no canto dunha alerta en bruto.