AI beveiligen met Perplexity

Beveiligingsresources waarnaar in deze sessie wordt verwezen

• Hoe we beveiliging in Computer hebben ingebouwd
• Veilige sandboxes voor agents
• Prompt-injectie in Comet beperken
• Onderzoeksartikel over BrowseSafe
• Agents beveiligen met Numbat
• Open-source maken van Bumblebee
• Secure Intelligence Institute
• Trust Center

Veelgestelde vragen

Beveiliging opbouwen in de hele AI-stack

Hoe benadert Perplexity beveiliging bij het bouwen over zoveel lagen van de AI-stack? Alles wat Perplexity bouwt begint met een security-first denkwijze en we behandelen veiligheid en beveiliging als gerelateerde maar distincte taken. Veiligheid gaat over het beschermen van mensen tegen agents. Beveiliging gaat over het beschermen van agents tegen mensen. Door over de hele stack te bouwen kunnen we de juiste maatregelen treffen op de juiste laag voor de juiste taken, in plaats van bescherming toe te voegen aan een zwarte doos die we niet bezitten.

SPACE, de agent-sandbox van Perplexity

Wat is een sandbox en hoe beschermt deze gebruikers en agents? Een sandbox geeft code een afgeschermde plek om uit te voeren zonder dat deze toegang heeft tot uw systemen of gegevens. Agents verhogen de inzet, dus in Computer krijgt elke taak een eigen sandbox.

Waarom heeft Perplexity een eigen sandbox (SPACE) gebouwd in plaats van een bestaande te gebruiken? Standaardtools konden niet de beveiliging bieden die Perplexity wil garanderen aan onze klanten. Agents doorbreken de aanname dat sandboxes bedoeld zijn voor kortstondige code-executie. Dat introduceert twee behoeften die elkaar tegenwerken: de omgeving moet wegwerpbaar zijn, maar het werk moet persistent zijn. Bestaande platforms dwongen u om te kiezen tussen functionaliteit, efficiëntie en beveiliging. SPACE is gebouwd om alle drie te leveren.

Hoe werkt SPACE precies en welke beveiligingsmaatregelen heeft het? SPACE maakt de sessie tot het duurzame object in plaats van de sandbox. Een sessie is een keten van opeenvolgende snapshots en die snapshots maken de volledige set maatregelen van SPACE mogelijk. Pauzeren is simpelweg het stoppen van de sandbox. Hervatten is het herstellen van de laatste snapshot op willekeurig welke machine. Forking is het twee keer herstellen van dezelfde snapshot en de kopieën laten afwijken. Gebruikers krijgen continuïteit, samen met een tijdmachineknop als er iets misgaat.

Waar bevinden mijn inloggegevens zich wanneer een agent namens mij handelt? Sandboxes zijn de plek waar niet-vertrouwd werk plaatsvindt, dus dat is de laatste plek waar sleutels zouden moeten staan. Als een agent werd gekaapt, zou de aanvaller alles erven wat de agent bezit, en daarom bezitten onze agents niets. Inloggegevens komen van buiten de sandbox, op het exacte moment dat ze nodig zijn, en alleen voor die taak.

RBAC, connectors en de beveiligingsfuncties van Perplexity

Tot wat krijgt Perplexity daadwerkelijk toegang wanneer een connector zoals Snowflake of Outlook wordt gekoppeld, en wat kan een beheerder uitschakelen? In tegenstelling tot agenttools die beginnen met toegang tot uw hele computer, begint Computer met geen enkele toegang. Toegang wordt verkregen via OAuth met exacte machtigingen, dus als u het niet kunt zien, kan uw agent het ook niet zien. Beheerders kunnen een hele connector uitschakelen, of alleen specifieke tools daarbinnen.

Hoe integreert de RBAC van Perplexity met onze identiteitsprovider?

De identiteitsprovider van een organisatie bepaalt reeds wie wat mag aanraken. Perplexity koppelt hiermee en die grenzen vloeien direct door in het product. Uw bron van waarheid blijft de bron van waarheid en uw audittrail blijft nauwkeurig. Teams krijgen de context die ze nodig behoren te hebben en bedrijven behouden de controle over wie wat te zien krijgt.

Hoe beschermt Perplexity agents tegen prompt-injectie op het open web? Prompt-injectie is social engineering, gericht op agents in plaats van werknemers, en het open web is de plek waar vreemden ermee kunnen praten. BrowseSafe behandelt elke pagina die de agent leest als niet-vertrouwd en scant deze parallel, voordat de inhoud kan bepalen wat de agent doet. Beveiligingsonderzoek voor uzelf houden beschermt alleen uzelf. De agents van iedereen lezen hetzelfde web, dus we hebben de benchmark openbaar gemaakt.

Welke tools gebruikt Perplexity om de machines te beschermen waarop agents en werknemers draaien? Bumblebee beantwoordt de eerste vraag na elk supply-chain-incident: bevindt het schadelijke pakket zich ergens op onze systemen? Numbat observeert de agentlaag zelf en leest gedrag in volgorde. Omdat het zich bevindt waar de agent handelt, kan het een actie stoppen voordat deze wordt uitgevoerd.

Computer gebruiken om Computer te beveiligen

Kan Computer worden vertrouwd met echt beveiligingswerk? Het eigen beveiligingsteam van Perplexity heeft zijn beveiligingsinfrastructuur in eigen huis gebouwd bovenop Computer in plaats van te wachten tot externe tools zouden bijbenen. Model-agnostische executie, persistent geheugen en de rest van de roadmap waren reeds aanwezig, zodat het team zich kon concentreren op de beveiligingsagent zelf. Het bouwen van de beste beveiligingsagent betekent dat het beste harnas eronder vereist is.

Waar neemt Computer het meest repetitieve werk uit handen van een beveiligingsteam? Computer kan helpen bij het triëren van gemiste waarschuwingen en opvolgende incidentrapporten. Elke triage in Computer komt standaard gedocumenteerd terug, zodat analisten beginnen vanuit een geschreven onderzoek in plaats van een ruwe waarschuwing.