Sikring af AI med Perplexity

Sikkerhedsressourcer nævnt i denne Session

• Sådan opbygger vi sikkerhed ind i Computer
• Sikre sandboxes til agenter
• Afbødning af prompt-injektion i Comet
• BrowseSafe-forskningsartikel
• Sikring af agenter med Numbat
• Open-sourcing af Bumblebee
• Secure Intelligence Institute
• Trust Center

Ofte stillede spørgsmål

Opbygning af sikkerhed på tværs af AI-stakken

Hvordan griber Perplexity sikkerhed an, når virksomheden bygger på tværs af så mange lag i AI-stakken? Alt, hvad Perplexity bygger, starter med sikkerhedstænkning, og vi behandler sikkerhed og beskyttelse som relaterede, men adskilte opgaver. Sikkerhed handler om at beskytte mennesker mod agenter. Beskyttelse handler om at beskytte agenter mod mennesker. At bygge på tværs af stakken betyder, at vi kan placere de rigtige kontrolforanstaltninger i det rigtige lag til de rigtige opgaver i stedet for at klistre beskyttelse på en sort boks, vi ikke selv ejer.

SPACE, Perplexitys agentsandbox

Hvad er en sandbox, og hvordan beskytter den brugere og agenter? En sandbox giver kode et indesluttet sted at køre uden at nå dine systemer eller data. Agenter øger indsatsen, så i Computer får hver opgave sin egen sandbox.

Hvorfor byggede Perplexity sin egen sandbox (SPACE) i stedet for at bruge en eksisterende? Færdigbyggede værktøjer kunne ikke levere den sikkerhed, Perplexity ønsker at sikre vores kunder. Agenter bryder antagelsen om, at sandboxes er til kortlivede kodekørsler. Det introducerer to behov, der trækker i hver sin retning: miljøet skal være engangs, men arbejdet skal være vedholdende. Eksisterende platforme tvang dig til at vælge to af tre mellem funktionalitet, effektivitet og sikkerhed. SPACE blev bygget til at levere alle tre.

Hvordan fungerer SPACE rent faktisk, og hvilke sikkerhedskontroller har den? SPACE gør Session til det holdbare objekt i stedet for sandboxen. En Session er en kæde af rullende snapshots, og disse snapshots muliggør SPACEs fulde sæt af kontroller. At pause er blot at stoppe sandboxen. At genoptage er at gendanne det seneste snapshot på en hvilken som helst maskine. At forgrene er at gendanne det samme snapshot to gange og lade kopierne divergere. Brugere får kontinuitet sammen med en tidsmaskineknap, hvis noget går galt.

Hvor bor mine legitimationsoplysninger, når en agent handler på mine vegne? Sandboxes er der, hvor ikke-betroet arbejde foregår, så det er det sidste sted, nøgler bør bo. Hvis en angriber kaprede en agent, ville angriberen arve alt, hvad agenten indeholder, hvilket er grunden til, at vores agenter ingenting indeholder. Legitimationsoplysninger ankommer udefra i det nøjagtige øjeblik, de er nødvendige, og kun til den opgave.

RBAC, konnektorer og Perplexitys sikkerhedsfunktioner

Hvad får Perplexity faktisk adgang til, når en konnektor som Snowflake eller Outlook tilsluttes, og hvad kan en administrator slå fra? I modsætning til agentværktøjer, der starter med adgang til hele din computer, starter Computer uden adgang. Adgang sker via OAuth med nøjagtige tilladelser, så hvis du ikke kan se det, kan din agent ikke se det. Administratorer kan slå en hel konnektor fra eller blot specifikke værktøjer i den.

Hvordan integreres Perplexitys RBAC med vores identitetsudbyder?

En organisations identitetsudbyder svarer allerede på, hvem der må røre ved hvad. Perplexity kobler sig på den, og disse grænser føres direkte ind i produktet. Din sandhedskilde forbliver sandhedskilden, og dit audit-spor forbliver nøjagtigt. Teams får den kontekst, de har brug for, og virksomheder beholder kontrollen over, hvem der ser hvad.

Hvordan beskytter Perplexity agenter mod prompt-injektion på det åbne internet? Prompt-injektion er social engineering rettet mod agenter i stedet for medarbejdere, og det åbne internet er der, hvor fremmede kan tale med den. BrowseSafe behandler hver side, agenten læser, som ikke-betroet og scanner den parallelt, før indholdet kan forme, hvad agenten gør. Sikkerhedsforskning, du holder for dig selv, beskytter kun dig. Alle andres agenter læser den samme web, så vi gjorde benchmarken offentlig.

Hvilke værktøjer bruger Perplexity til at beskytte de maskiner, som agenter og medarbejdere kører på? Bumblebee besvarer det første spørgsmål efter enhver forsyningskædehændelse: er den dårlige pakke til stede nogen steder i vores systemer? Numbat overvåger selve agentlaget og læser adfærd sekventielt. Fordi det sidder der, hvor agenten handler, kan det stoppe en handling, før den udføres.

Brug af Computer til at sikre Computer

Kan man stole på Computer i forbindelse med reelt sikkerhedsarbejde? Perplexitys eget sikkerhedsteam byggede sin sikkerhedsin基础设施 internt oven på Computer i stedet for at vente på, at eksterne værktøjer indhentede det. Modelagnostisk udførsel, vedholdende hukommelse og resten af køreplanen var der allerede, så teamet kunne fokusere på selve sikkerhedsagenten. At bygge den bedste sikkerhedsagent kræver, at man har det bedste fundament under den.

Hvor fjerner Computer det mest ensformige arbejde fra et sikkerhedsteams bord? Computer kan hjælpe med at visitere oversete alarmer og opfølgende hændelsesrapporter. Hver visitation i Computer leveres dokumenteret som standard, så analytikere starter fra en skriftlig undersøgelse i stedet for en rå alarm.