Az AI védelme a Perplexityvel

A jelenetben hivatkozott biztonsági erőforrások

• Hogyan építettük be a biztonságot a Computerbe
• Biztonságos sandboxok ügynökök számára
• Prompt-injekció mérséklése a Cometben
• BrowseSafe kutatási cikk
• Ügynökök védelme a Numbattal
• A Bumblebee nyílt forráskódúvá tétele
• Biztonságos Intelligencia Intézet
• Bizalmi központ

GYIK

Biztonság építése az AI-vermen keresztül

Hogyan közelíti meg a Perplexity a biztonságot, amikor az AI-verem számos rétegén keresztül épít? Minden, amit a Perplexity épít, a biztonságot előtérbe helyező gondolkodással kezdődik, és a védelmet és a biztonságot egymással összefüggő, de különálló feladatokként kezeljük. A védelem az emberek ügynököktől való megóvásáról szól. A biztonság az ügynökök emberektől való védelméről szól. A vermen keresztüli építkezés azt jelenti, hogy a megfelelő ellenőrzéseket a megfelelő rétegben helyezhetjük el a megfelelő feladatokhoz, ahelyett, hogy védelmet ragasztanánk egy olyan fekete dobozra, amelyet nem mi birtokolunk.

SPACE, a Perplexity ügynökhöz tartozó sandboxa

Mi az a sandbox, és hogyan védi a felhasználókat és az ügynököket? A sandbox korlátozott helyet biztosít a kód futtatásához anélkül, hogy az elérné a rendszereit vagy adatait. Az ügynökök magasabbra teszik a lécet, ezért a Computerben minden feladat saját sandboxot kap.

Miért építette meg a Perplexity a saját sandboxát (SPACE) a meglévő helyett? A kész eszközök nem tudták biztosítani azt a biztonságot, amelyet a Perplexity ügyfeleinknek kíván garantálni. Az ügynökök megdöntik azt a feltevést, hogy a sandboxok rövid életű kódok futtatására valók. Ez két egymásnak feszülő igényt teremt: a környezetnek eldobhatónak kell lennie, de a munkának tartósnak. A meglévő platformok három szempontból – funkcionalitás, hatékonyság és biztonság – háromból kettő kiválasztására kényszerítettek. A SPACE-t úgy építették meg, hogy mindhármat nyújtsa.

Hogyan működik a SPACE a valóságosságban, és milyen biztonsági ellenőrzései vannak? A SPACE a munkamenetet teszi tartós objektummá a sandbox helyett. A munkamenet gördülő pillanatképek lánca, és ezek a pillanatképek teszik lehetővé a SPACE teljes körű ellenőrzését. A szüneteltetés egyszerűen a sandbox leállítása. A folytatás a legfrissebb pillanatkép visszaállítása bármely gépen. A villávozás ugyanazon pillanatkép kétszeri visszaállítása és a másolatok eltérésének engedélyezése. A felhasználók folytonosságot kapnak, valamint egy időgép gombot, ha valami hiba történik.

Hol élnek a hitelesítő adataim, amikor egy ügynök a nevemben jár el? A sandboxok azok a helyek, ahol a nem megbízható munka zajlik, így ez az utolsó hely, ahol a kulcsoknak élniük kellene. Ha egy ügynököt eltérítenének, a támadó mindent megkapna, ami az ügynök birtokában van, ezért az ügynökünk semmit sem tart meg. A hitelesítő adatok a dobozon kívülről érkeznek, pontosan abban a pillanatban, amikor szükség van rájuk, kizárólag arra a feladatra.

RBAC, csatlakozók és a Perplexity biztonsági funkciói

Mihez fér hozzá valójában a Perplexity, amikor egy csatlakozó, például a Snowflake vagy az Outlook csatlakozik, és mit kapcsolhat ki a rendszergazda? Ellentétben azokkal az ügynökeszközökkel, amelyek a teljes számítógéphez való hozzáféréssel kezdenek, a Computer hozzáférés nélkül indul. A hozzáférés az OAuth-on keresztül történik pontos engedélyekkel, így ha ön nem látja, az ügynöke sem láthatja. A rendszergazdák lekapcsolhatnak egy egész csatlakozót, vagy csak bizonyos eszközöket azon belül.

Hogyan integrálódik a Perplexity RBAC-je az identitásszolgáltatónkhoz?

A szervezet identitásszolgáltatója már megválaszolja, hogy ki mihez nyúlhat. A Perplexity csatlakozik hozzá, és ezek a határok közvetlenül átkerülnek a termékbe. Az igazság forrása az igazság forrása marad, és a naplózási nyomvonal pontos marad. A csapatok megkapják a szükséges kontextust, és a vállalatok megőrzik az irányítást a felett, hogy ki mit láthat.

Hogyan védi meg a Perplexity az ügynököket a prompt-injekcióktól a nyílt weben? A prompt-injekció társadalmi mérnökség, amely az alkalmazottak helyett az ügynököket célozza meg, és a nyílt web az a hely, ahol az idegenek beszélgethetnek vele. A BrowseSafe az ügynök által olvasott összes oldalt megbízhatatlanként kezeli, és párhuzamosan ellenőrzi, mielőtt a tartalom alakíthatná az ügynök tevékenységét. A magának megtartott biztonsági kutatás csak önt védi. Mindenki ügynöke ugyanazt a webet olvassa, ezért a benchmarkot nyilvánossá tettük.

Milyen eszközöket használ a Perplexity azoknak a gépeknek a védelmére, amelyeken az ügynökök és az alkalmazottak futnak? A Bumblebee válaszol az első kérdésre minden ellátási láncot érintő incidens után: ott van-e a rossz csomag a rendszereinken? A Numbat magát az ügynökréteget figyeli, és szekvenciálisan olvassa a viselkedést. Mivel ott helyezkedik el, ahol az ügynök cselekszik, képes megállítani egy műveletet a végrehajtása előtt.

A Computer használata a Computer védelmére

Megbízható a Computer valós biztonsági munkával kapcsolatban? A Perplexity saját biztonsági csapata házon belül építette fel a biztonsági infrastruktúráját a Computer tetején, ahelyett, hogy arra várt volna, hogy a külső eszközök utolérjék. A modellfüggetlen végrehajtás, a tartós memória és a roadmap többi része már ott volt, így a csapat a magára a biztonsági ügynökre koncentrálhatott. A legjobb biztonsági ügynök megépítése azt jelenti, hogy a legjobb keretrendszerre van szükség alatta.

Hol veszi le a Computer a legtöbb ismétlődő munkát a biztonsági csapat válláról? A Computer segíthet a kihagyott riasztások triázsolásában és a követési incidensjelentésekben. A Computerben minden triázs alapértelmezés szerint dokumentálva érkezik vissza, így az elemzők nyers riasztás helyett írásos vizsgálatból indulnak ki.