Securizarea AI cu Perplexity

Resurse de securitate menționate în această sesiune

• Cum am integrat securitatea în Computer
• Sandbox-uri sigure pentru agenți
• Mitigarea injectării de prompturi în Comet
• Lucrarea de cercetare BrowseSafe
• Securizarea agenților cu Numbat
• Lansarea open-source pentru Bumblebee
• Institutul de Inteligență Securizată
• Centru de încredere

Întrebări frecvente

Construirea securității în cadrul stivei AI

Cum abordează Perplexity securitatea atunci când dezvoltă pe atâtea niveluri ale stivei AI? Tot ceea ce dezvoltă Perplexity începe cu o gândire orientată spre securitate și tratăm siguranța și securitatea ca pe niște sarcini înrudite, dar distincte. Siguranța se referă la protejarea oamenilor împotriva agenților. Securitatea se referă la protejarea agenților împotriva oamenilor. Construirea la nivelul întregii stive înseamnă că putem plasa controalele corecte la nivelul corect pentru sarcinile corecte, în loc să adăugăm măsuri de protecție pe o cutie neagră pe care nu o deținem.

SPACE, sandbox-ul pentru agenți al Perplexity

Ce este un sandbox și cum protejează utilizatorii și agenții? Un sandbox oferă codului un loc izolat pentru rulare, fără a accesa sistemele sau datele dumneavoastră. Agenții cresc miza, așa că în Computer fiecare sarcină primește propriul său sandbox.

De ce și-a construit Perplexity propriul sandbox (SPACE) în loc să folosească unul existent? Instrumentele gata făcute nu au putut oferi securitatea pe care Perplexity dorește să o garanteze clienților noștri. Agenții infirmă ipoteza că sandbox-urile sunt destinate executării de cod pe termen scurt. Acest lucru generează două nevoi care se opun: mediul ar trebui să fie de unică folosință, dar munca ar trebui să fie persistentă. Platformele existente v-au obligat să alegeți două din trei caracteristici între funcționalitate, eficiență și securitate. SPACE a fost conceput pentru a le oferi pe toate trei.

Cum funcționează de fapt SPACE și ce controale de securitate are? SPACE face ca sesiunea să fie obiectul durabil în locul sandbox-ului. O sesiune este un lanț de instantanee succesive, iar acele instantanee activează setul complet de controale al SPACE. Pauza înseamnă pur și simplu oprirea sandbox-ului. Reluarea înseamnă restaurarea celui mai recent instantaneu pe orice mașină. Ramificarea înseamnă restaurarea aceluiași instantaneu de două ori și permiterea divergenței copiilor. Utilizatorii obțin continuitate, împreună cu un buton de tip mașină a timpului dacă ceva nu merge bine.

Unde își au reședința credențialele mele atunci când un agent acționează în numele meu? Sandbox-urile reprezintă locul unde se desfășoară activități neverificate, așa că acesta este ultimul loc în care ar trebui să se afle cheile. Dacă un agent ar fi deturnat, atacatorul ar moșteni tot ceea ce deține agentul, motiv pentru care agenții noștri nu dețin nimic. Credențialele sosesc din exterior, în momentul exact în care sunt necesare, exclusiv pentru acea sarcină.

RBAC, conectori și caracteristicile de securitate ale Perplexity

La ce obține de fapt acces Perplexity atunci când este conectat un conector precum Snowflake sau Outlook și ce poate dezactiva un administrator? Spre deosebire de instrumentele pentru agenți care încep cu acces la întregul computer, Computer pornește fără niciun acces. Accesul se realizează prin OAuth cu permisiuni exacte, așa că, dacă nu puteți vedea ceva, nici agentul dumneavoastră nu îl poate vedea. Administratorii pot dezactiva un conector întreg sau doar anumite instrumente din cadrul acestuia.

Cum se integrează RBAC-ul Perplexity cu furnizorul nostru de identitate?

Furnizorul de identitate al unei organizații stabilește deja cine poate accesa ce. Perplexity se conectează la acesta, iar acele limite sunt preluate direct în produs. Sursa dumneavoastră de adevăr rămâne sursă de adevăr, iar traseul de audit rămâne exact. Echipele obțin contextul de care au nevoie, iar companiile păstrează controlul asupra cine vede ce.

Cum protejează Perplexity agenții împotriva injectării de prompturi pe web-ul deschis? Injectarea de prompturi este o formă de inginerie socială orientată spre agenți în loc de angajați, iar web-ul deschis este locul unde necunoscuții pot comunica cu acesta. BrowseSafe tratează fiecare pagină citită de agent ca fiind neverificată și o scanează în paralel, înainte ca conținutul să poată influența acțiunile agentului. Cercetarea în materie de securitate păstrată pentru sine vă protejează doar pe dumneavoastră. Agenții tuturor citesc același web, așa că am făcut public acest benchmark.

Ce instrumente folosește Perplexity pentru a proteja mașinile pe care rulează agenții și angajații? Bumblebee răspunde la prima întrebare după fiecare incident legat de lanțul de aprovizionare: se află pachetul rău intenționat pe vreunul dintre sistemele noastre? Numbat monitorizează stratul de agenți în sine și citește comportamentul în secvență. Deoarece este plasat acolo unde acționează agentul, poate opri o acțiune înainte ca aceasta să se execute.

Folosirea Computer pentru a securiza Computer

I se poate încredința lui Computer o activitate reală de securitate? Propria echipă de securitate a Perplexity și-a construit infrastructura de securitate intern, deasupra Computer, în loc să aștepte ca instrumentele externe să țină pasul. Execuția agnostică față de model, memoria persistentă și restul planului de dezvoltare erau deja acolo, astfel încât echipa s-a putut concentra asupra agentului de securitate în sine. Construirea celui mai bun agent de securitate înseamnă că aveți nevoie de cel mai bun cadru de susținere dedesubt.

Unde preia Computer cea mai mare parte a muncii repetitive de pe umerii unei echipe de securitate? Computer poate ajuta la trierea alertelor ratate și la rapoartele ulterioare privind incidentele. Fiecare triaj din Computer revine documentat în mod implicit, astfel încât analiștii pornesc de la o investigație scrisă în loc de o alertă brută.