Asegurar la IA con Perplexity

Recursos de seguridad mencionados en esta sesión

• Cómo integramos la seguridad en Computer
• Entornos aislados seguros para agentes
• Mitigación de la inyección de comandos en Comet
• Documento de investigación sobre BrowseSafe
• Protección de agentes con Numbat
• Lanzamiento de código abierto de Bumblebee
• Instituto de Inteligencia Segura
• Centro de confianza

Preguntas frecuentes

Construcción de seguridad en toda la pila de IA

¿Cómo aborda Perplexity la seguridad al crear en tantas capas de la pila de IA? Todo lo que crea Perplexity comienza con una mentalidad de seguridad primero, y tratamos la seguridad y la protección como tareas relacionadas pero distintas. La protección consiste en proteger a los humanos de los agentes. La seguridad consiste en proteger a los agentes de los humanos. Construir en toda la pila significa que podemos colocar los controles adecuados en la capa correcta para las tareas adecuadas, en lugar de añadir protección a una caja negra que no nos pertenece.

SPACE, el entorno aislado de agentes de Perplexity

¿Qué es un entorno aislado y cómo protege a los usuarios y a los agentes? Un entorno aislado le da al código un lugar contenido para ejecutarse sin alcanzar tus sistemas o datos. Los agentes aumentan las apuestas, por lo que en Computer cada tarea obtiene su propio entorno aislado.

¿Por qué Perplexity construyó su propio entorno aislado (SPACE) en lugar de utilizar uno existente? Las herramientas predefinidas no podían proporcionar la seguridad que Perplexity quiere garantizar a nuestros clientes. Los agentes rompen el supuesto de que los entornos aislados son para la ejecución de código de corta duración. Eso introduce dos necesidades que se oponen: el entorno debe ser desechable, pero el trabajo debe ser persistente. Las plataformas existentes te obligaban a elegir dos de tres entre funcionalidad, eficiencia y seguridad. SPACE se creó para ofrecer las tres.

¿Cómo funciona realmente SPACE y qué controles de seguridad tiene? SPACE hace que la sesión sea el objeto duradero en lugar del entorno aislado. Una sesión es una cadena de instantáneas continuas, y esas instantáneas habilitan el conjunto completo de controles de SPACE. Pausar es simplemente detener el entorno aislado. Reanudar es restaurar la última instantánea en cualquier máquina. Bifurcar es restaurar la misma instantánea dos veces y permitir que las copias diverjan. Los usuarios obtienen continuidad, junto con un botón de máquina del tiempo si algo sale mal.

¿Dónde viven mis credenciales cuando un agente actúa en mi nombre? Los entornos aislados son donde ocurre el trabajo no confiable, por lo que es el último lugar donde deberían vivir las claves. Si un agente fuera secuestrado, el atacante heredaría todo lo que el agente posee, por lo que nuestros agentes no poseen nada. Las credenciales llegan desde fuera de la caja, en el momento exacto en que se necesitan, solo para esa tarea.

RBAC, conectores y las funciones de seguridad de Perplexity

¿A qué tiene acceso realmente Perplexity cuando se conecta un conector como Snowflake o Outlook, y qué puede desactivar un administrador? A diferencia de las herramientas de agentes que comienzan con acceso a toda tu computadora, Computer comienza sin acceso. El acceso se realiza a través de OAuth con permisos exactos, por lo que si tú no puedes verlo, tu agente tampoco puede verlo. Los administradores pueden desactivar un conector completo o solo herramientas específicas dentro de uno.

¿Cómo se integra el RBAC de Perplexity con nuestro proveedor de identidad?

El proveedor de identidad de una organización ya responde quién puede tocar qué. Perplexity se conecta a él y esos límites se trasladan directamente al producto. Tu fuente de información verídica sigue siendo la fuente de información verídica, y tu registro de auditoría se mantiene preciso. Los equipos obtienen el contexto que necesitan y las empresas mantienen el control sobre quién ve qué.

¿Cómo protege Perplexity a los agentes contra la inyección de comandos en la web abierta? La inyección de comandos es ingeniería social dirigida a los agentes en lugar de a los empleados, y la web abierta es donde los extraños pueden hablar con él. BrowseSafe trata cada página que lee el agente como no confiable y la escanea en paralelo, antes de que el contenido pueda moldear lo que hace el agente. La investigación de seguridad guardada para uno mismo solo te protege a ti. Los agentes de todos leen la misma web, por lo que hicimos público el punto de referencia.

¿Qué herramientas utiliza Perplexity para proteger las máquinas en las que se ejecutan los agentes y los empleados? Bumblebee responde a la primera pregunta después de cada incidente de la cadena de suministro: ¿está el paquete defectuoso en alguno de nuestros sistemas? Numbat observa la capa del agente por sí misma y lee el comportamiento en secuencia. Debido a que se encuentra donde actúa el agente, puede detener una acción antes de que se ejecute.

Uso de Computer para proteger Computer

¿Se puede confiar en Computer para realizar tareas de seguridad reales? El propio equipo de seguridad de Perplexity construyó su infraestructura de seguridad internamente sobre Computer en lugar de esperar a que las herramientas externas se pusieran al día. La ejecución independiente de modelos, la memoria persistente y el resto de la hoja de ruta ya estaban allí, por lo que el equipo pudo centrarse en el agente de seguridad en sí. Construir el mejor agente de seguridad significa necesitar el mejor entorno subyacente.

¿En qué aspectos Computer alivia el trabajo más repetitivo para un equipo de seguridad? Computer puede ayudar a clasificar alertas omitidas y a dar seguimiento a los informes de incidentes. Cada clasificación en Computer se documenta de forma predeterminada, por lo que los analistas comienzan a partir de una investigación escrita en lugar de una alerta sin procesar.