Protección de la IA con Perplexity

Recursos de seguridad mencionados en esta Sesión

• Cómo integramos la seguridad en Computer
• Entornos aislados seguros para agentes
• Mitigación de la inyección de comandos en Comet
• Documento de investigación sobre BrowseSafe
• Protección de agentes con Numbat
• Lanzamiento de código abierto de Bumblebee
• Instituto de Inteligencia Segura
• Centro de Confianza

Preguntas frecuentes

Construcción de seguridad en toda la pila de IA

¿Cómo aborda Perplexity la seguridad cuando desarrolla en tantas capas de la pila de IA? Todo lo que crea Perplexity comienza con un Razonamiento de seguridad ante todo, y tratamos la seguridad y la protección como tareas relacionadas pero distintas. La protección consiste en salvaguardar a las personas frente a los agentes. La seguridad consiste en salvaguardar a los agentes frente a las personas. Desarrollar en toda la pila significa que podemos aplicar los controles adecuados en la capa adecuada para las tareas adecuadas, en lugar de añadir protección a una caja negra de la que no somos propietarios.

SPACE, el entorno aislado de agentes de Perplexity

¿Qué es un entorno aislado y cómo protege a los usuarios y a los agentes? Un entorno aislado proporciona al código un lugar delimitado para ejecutarse sin acceder a sus sistemas o datos. Los agentes elevan los riesgos, por lo que en Computer cada tarea recibe su propio entorno aislado.

¿Por qué Perplexity creó su propio entorno aislado (SPACE) en lugar de utilizar uno ya existente? Las herramientas estándar no podían proporcionar la seguridad que Perplexity desea garantizar a nuestros clientes. Los agentes rompen la premisa de que los entornos aislados son para la ejecución de código de corta duración. Esto genera dos necesidades contrapuestas: el entorno debe ser desechable, pero el trabajo debe ser persistente. Las plataformas existentes obligaban a elegir dos de tres opciones entre funcionalidad, eficiencia y seguridad. SPACE se diseñó para ofrecer las tres.

¿Cómo funciona realmente SPACE y qué controles de seguridad incluye? SPACE convierte la Sesión en el objeto duradero en lugar del entorno aislado. Una Sesión es una cadena de instantáneas continuas, y dichas instantáneas habilitan el conjunto completo de controles de SPACE. Pausar equivale simplemente a detener el entorno aislado. Reanudar es restaurar la última instantánea en cualquier máquina. Bifurcar es restaurar la misma instantánea dos veces y permitir que las copias sigan caminos distintos. Los usuarios obtienen continuidad, además de un botón de máquina del tiempo si algo sale mal.

¿Dónde se almacenan mis credenciales cuando un agente actúa en mi nombre? Los entornos aislados son el lugar donde se realizan las tareas que no son de confianza, por lo que es el último sitio en el que deberían residir las claves. Si un agente fuera vulnerado, el atacante heredaría todo lo que el agente posee; por este motivo, nuestros agentes no poseen nada. Las credenciales llegan desde fuera del entorno aislado, en el momento exacto en que se necesitan y exclusivamente para esa tarea.

RBAC, conectores y las funciones de seguridad de Perplexity

¿A qué tiene acceso realmente Perplexity cuando se conecta un conector como Snowflake u Outlook, y qué puede desactivar un administrador? A diferencia de las herramientas para agentes que comienzan con acceso a todo su ordenador, Computer empieza sin acceso alguno. El acceso se otorga mediante OAuth con permisos exactos, por lo que si usted no puede verlo, su agente tampoco puede verlo. Los administradores pueden desactivar un conector completo o simplemente herramientas específicas dentro de este.

¿Cómo se integra el RBAC de Perplexity con nuestro proveedor de identidad?

El proveedor de identidad de una organización ya determina quién puede acceder a qué recursos. Perplexity se conecta a este sistema y dichos límites se trasladan directamente al producto. Su fuente de referencia sigue siendo la fuente de referencia, y su registro de auditoría se mantiene preciso. Los equipos obtienen el contexto que necesitan y las empresas conservan el control sobre quién puede ver qué.

¿Cómo protege Perplexity a los agentes frente a la inyección de comandos en la web abierta? La inyección de comandos es ingeniería social dirigida a los agentes en lugar de a los empleados, y la web abierta es el lugar donde extraños pueden interactuar con ellos. BrowseSafe trata cada página que lee el agente como no confiable y la analiza de forma paralela antes de que el contenido pueda determinar la actuación del agente. La investigación de seguridad que se mantiene en el ámbito privado solo le protege a usted. Los agentes de todo el mundo leen la misma web, por lo que hicimos que el punto de referencia fuera público.

¿Qué herramientas utiliza Perplexity para proteger las máquinas en las que se ejecutan los agentes y los empleados? Bumblebee responde a la primera pregunta tras cualquier incidente en la cadena de suministro: ¿se encuentra el paquete malicioso en alguno de nuestros sistemas? Numbat supervisa la capa de agentes de forma directa y lee el comportamiento en secuencia. Dado que se sitúa en el lugar donde actúa el agente, puede detener una acción antes de que se ejecute.

Uso de Computer para proteger Computer

¿Se puede confiar en Computer para realizar tareas de seguridad reales? El propio equipo de seguridad de Perplexity creó su infraestructura de seguridad internamente sobre Computer en lugar de esperar a que las herramientas externas se pusieran al día. La ejecución agnóstica de modelos, la memoria persistente y el resto de la hoja de ruta ya estaban disponibles, por lo que el equipo pudo centrarse en el agente de seguridad en sí. Construir el mejor agente de seguridad implica necesitar el mejor entorno de soporte subyacente.

¿En qué aspectos Computer alivia la carga de trabajo más repetitiva de un equipo de seguridad? Computer puede ayudar en la priorización de alertas omitidas y en los informes de incidentes de seguimiento. Cada priorización en Computer se documenta de forma predeterminada, por lo que los analistas comienzan a partir de una investigación por escrito en lugar de una alerta sin procesar.