Säkra AI med Perplexity

Säkerhetsresurser som det hänvisas till i denna Session

• Hur vi byggde in säkerhet i Computer
• Säkra sandlådor för agenter
• Minskad risk för promptinjektion i Comet
• Forskningsartikel om BrowseSafe
• Säkra agenter med Numbat
• Öppen källkod för Bumblebee
• Secure Intelligence Institute
• Trust Center

Vanliga frågor

Bygga säkerhet i hela AI-stacken

Hur närmar sig Perplexity säkerhet när de bygger över så många lager i AI-stacken? Allt Perplexity bygger börjar med säkerhetstänkande, och vi behandlar skydd och säkerhet som relaterade men distinkta uppgifter. Skydd handlar om att skydda människor från agenter. Säkerhet handlar om att skydda agenter från människor. Att bygga över hela stacken innebär att vi kan placera rätt kontroller i rätt lager för rätt uppgifter, istället för att lägga till skydd på en svart låda som vi inte äger.

SPACE, Perpplexitys agent-sandlåda

Vad är en sandlåda och hur skyddar den användare och agenter? En sandlåda ger kod en avgränsad plats att köras på utan att nå dina system eller data. Agenter höjer insatserna, så i Computer får varje uppgift sin egen sandlåda.

Varför byggde Perplexity sin egen sandlåda (Space) istället för att använda en befintlig? Hyllverktyg kunde inte tillhandahålla den säkerhet som Perplexity vill säkerställa för våra kunder. Agenter bryter mot antagandet att sandlådor är till för kortlivad kodkörning. Det introducerar två behov som drar mot varandra: miljön bör vara engångs, men arbetet bör vara beständigt. Befintliga plattformar tvingade dig att välja två av tre mellan funktionalitet, effektivitet och säkerhet. Space byggdes för att leverera alla tre.

Hur fungerar Space egentligen och vilka säkerhetskontroller har den? Space gör Sessionen till det hållbara objektet istället för sandlådan. En Session är en kedja av rullande ögonblicksbilder, och dessa ögonblicksbilder aktiverar Spaces fullständiga uppsättning kontroller. Att pausa är helt enkelt att stoppa sandlådan. Att återuppta är att återställa den senaste ögonblicksbilden på vilken maskin som helst. Att förgrena sig är att återställa samma ögonblicksbild två gånger och låta kopiorna divergera. Användarna får kontinuitet, tillsammans med en tidsmaskinknapp om något går fel.

Var finns mina autentiseringsuppgifter när en agent agerar för min räkning? Sandlådor är där icke betrodat arbete utförs, så det är den sista platsen nycklar bör finnas på. Om en agent kapades skulle angriparen ärva allt som agenten har, vilket är varför våra agenter inte har någonting. Autentiseringsuppgifter kommer från utsidan av lådan, i exakt det ögonblick de behövs, endast för den uppgiften.

RBAC, anslutningar och Perpplexitys säkerhetsfunktioner

Vad får Perplexity egentligen tillgång till när en anslutning som Snowflake eller Outlook ansluts, och vad kan en administratör stänga av? Till skillnad från agentverktyg som börjar med tillgång till hela din dator, börjar Computer utan tillgång. Tillgång sker via OAuth med exakta behörigheter, så om du inte kan se den kan inte din agent se den. Administratörer kan stänga av en hel anslutning eller bara specifika verktyg inuti den.

Hur integreras Perpplexitys RBAC med vår identitetsprovider?

En organisations identitetsprovider svarar redan på vem som kan röra vad. Perplexity ansluter till den och dessa gränser går rakt in i produkten. Din sanningförråd förblir sanningförrådet och din granskningslogg förblir korrekt. Team får det sammanhang de behöver och företag behåller kontrollen över vem som ser vad.

Hur skyddar Perplexity agenter mot promptinjektion på det öppna webben? Promptinjektion är social engineering, riktad mot agenter istället för anställda, och det öppna webben är där främlingar får prata med den. BrowseSafe behandlar varje sida som agenten läser som icke betrodd och skannar den parallellt, innan innehållet kan forma vad agenten gör. Säkerhetsforskning som hålls för dig själv skyddar bara dig. Allas agenter läser samma webb, så vi gjorde riktmärket offentligt.

Vilka verktyg använder Perplexity för att skydda de maskiner som agenter och anställda körs på? Bumblebee svarar på den första frågan efter varje leveranskedjeincident: finns det dåliga paketet någonstans i våra system? Numbat övervakar agentlagret själv och läser beteende i sekvens. Eftersom den sitter där agenten agerar kan den stoppa en åtgärd innan den utförs.

Använda Computer för att säkra Computer

Kan Computer litas på med verkligt säkerhetsarbete? Perpplexitys egna säkerhetsteam byggde sin säkerhetsinfrastruktur internt ovanpå Computer istället för att vänta på att externa verktyg skulle komma ikapp. Modellagnostisk körning, beständigt minne och resten av färdplanen fanns redan där, så teamet kunde fokusera på själva säkerhetsagenten. Att bygga den bästa säkerhetsagenten innebär att man behöver den bästa selen under den.

Var tar Computer det mest repetitiva arbetet från ett säkerhetsteams axlar? Computer kan hjälpa till med att triagera missade varningar och uppföljande incidentrapporter. Varje triagering i Computer kommer tillbaka dokumenterad som standard, så analytiker börjar från en skriven utredning istället för en rå varning.