Захист ШІ з Perplexity

Ресурси безпеки, згадані в цьому сеансі

• Як ми вбудували безпеку в Computer
• Безпечні пісочниці для агентів
• Пом'якшення проблеми ін'єкцій промптів у Comet
• Дослідницька робота BrowseSafe
• Захист агентів за допомогою Numbat
• Відкритий код Bumblebee
• Інститут безпечного інтелекту
• Центр довіри

Поширені запитання

Створення безпеки в усьому стеку ШІ

Як Perplexity підходить до безпеки під час розробки настільки багатьох рівнів стека ШІ? Усе, що створює Perplexity, починається з міркувань про безпеку на першому місці, причому ми ставимося до захищеності й безпеки як до пов'язаних, але окремих завдань. Захищеність полягає в захисті людей від агентів. Безпека полягає в захисті агентів від людей. Робота в межах усього стека означає, що ми можемо застосовувати належні засоби контролю на належному рівні для належних завдань, а не прикручувати захист до чорної скриньки, яка нам не належить.

SPACE, пісочниця агентів Perplexity

Що таке пісочниця і як вона захищає користувачів та агентів? Пісочниця надає коду ізольоване місце для запуску без доступу до ваших систем чи даних. Агенти підвищують ставки, тому в Computer кожне завдання отримує власну пісочницю.

Чому Perplexity створила власну пісочницю (SPACE) замість використання існуючої? Готові інструменти не могли забезпечити безпеку, яку Perplexity прагне гарантувати нашим клієнтам. Агенти спростовують припущення про те, що пісочниці призначені для виконання короткострокового коду. Це породжує дві суперечливі потреби: середовище має бути одноразовим, але робота має бути постійною. Існуючі платформи змушували вибирати два з трьох критеріїв між функціональністю, ефективністю та безпекою. SPACE створено для забезпечення всіх трьох.

Як насправді працює SPACE і які засоби контролю безпеки вона має? SPACE робить сеанс довговічним об'єктом замість пісочниці. Сеанс — це ланцюжок послідовних знімків, і ці знімки забезпечують повний набір елементів керування SPACE. Призупинення — це просто зупинка пісочниці. Відновлення — це відновлення останнього знімка на будь-якій машині. Створення гілок — це відновлення того самого знімка двічі з подальшим розходженням копій. Користувачі отримують безперервність разом із кнопкою «машини часу» на випадок, якщо щось піде не так.

Де зберігаються мої облікові дані, коли агент діє від мого імені? Пісочниці — це місце, де відбуваються неперевірені процеси, тому це останнє місце, де мають зберігатися ключі. Якби агента зламали, зловмисник отримав би все, що має агент, тому наші агенти не мають нічого. Облікові дані надходять ззовні, у точний момент, коли вони потрібні, лише для цього завдання.

RBAC, конектори та функції безпеки Perplexity

До чого саме отримує доступ Perplexity, коли підключено конектор на кшталт Snowflake чи Outlook, і що може вимкнути адміністратор? На відміну від інструментів агентів, які починають з доступу до всього вашого комп'ютера, Computer починає роботу без жодного доступу. Доступ здійснюється через OAuth з точними дозволами, тож якщо ви чогось не бачите, ваш агент цього також не побачить. Адміністратори можуть вимкнути весь конектор або лише певні інструменти всередині нього.

Як RBAC від Perplexity інтегрується з нашим постачальником ідентифікаційних даних?

Постачальник ідентифікаційних даних організації вже визначає, хто і до чого може мати доступ. Perplexity підключається до нього, і ці межі безпосередньо поширюються на продукт. Ваше джерело достовірних даних залишається таким, а ваш журнал аудиту залишається точним. Команди отримують необхідний контекст, а компанії зберігають контроль над тим, хто і що бачить.

Як Perplexity захищає агентів від ін'єкцій промптів у відкритому вебпросторі? Ін'єкція промптів — це соціальна інженерія, спрямована на агентів замість співробітників, а відкритий вебпростір — це місце, де незнайомці можуть спілкуватися з ними. BrowseSafe розглядає кожну сторінку, яку читає агент, як недовірену, і сканує її паралельно, перш ніж контент зможе вплинути на дії агента. Дослідження безпеки, які ви залишаєте при собі, захищають лише вас. Агенти всіх користувачів читають однакову мережу, тому ми зробили бенчмарк публічним.

Які інструменти використовує Perplexity для захисту машин, на яких працюють агенти та співробітники? Bumblebee відповідає на перше запитання після кожного інциденту в ланцюжку постачання: чи є шкідливий пакет на будь-якій із наших систем? Numbat стежить за самим шаром агента та зчитує поведінку послідовно. Оскільки він розташований там, де діє агент, він може зупинити дію до її виконання.

Використання Computer для захисту Computer

Чи можна довіряти Computer реальну роботу з безпеки? Власна команда безпеки Perplexity створила інфраструктуру безпеки власними силами на базі Computer, замість того щоб чекати, поки зовнішні інструменти наздоженуть її. Незалежне від моделей виконання, персистентна пам'ять і решта дорожньої карти вже були наявні, тому команда могла зосередитися на самому агенты безпеки. Створення найкращого агента безпеки означає потребу в найкращому середовищі виконання під ним.

Де Computer бере на себе найбільше рутинної роботи команди безпеки? Computer може допомогти з сортуванням пропущених сповіщень і подальшими звітами про інциденти. Кожне сортування в Computer за замовчуванням повертається задокументованим, тому аналітики починають письмове розслідування замість сирого сповіщення.