Защита ИИ с помощью Perplexity

Ресурсы безопасности, упомянутые в данном сеансе

• Как мы встроили безопасность в Computer
• Безопасные песочницы для агентов
• Смягчение последствий внедрения инструкций в Comet
• Исследовательская работа BrowseSafe
• Обеспечение безопасности агентов с помощью Numbat
• Перевод Bumblebee в открытый доступ
• Институт безопасного интеллекта
• Центр доверия

Часто задаваемые вопросы

Обеспечение безопасности во всем стеке искусственного интеллекта

Как Perplexity подходит к обеспечению безопасности при разработке на стольких уровнях стека ИИ? Всё, что создает Perplexity, начинается с концепции приоритета безопасности, при этом мы рассматриваем безопасность и защищенность как связанные, но разные задачи. Безопасность (Safety) заключается в защите людей от агентов. Защищенность (Security) заключается в защите агентов от людей. Разработка на уровне всего стека означает, что мы можем применять нужные средства контроля на нужном уровне для решения конкретных задач, а не просто прикручивать защиту к «черному ящику», который нам не принадлежит.

SPACE, песочница агентов Perplexity

Что такое песочница и как она защищает пользователей и агентов? Песочница предоставляет изолированное пространство для выполнения кода без доступа к вашим системам или данным. Агенты повышают ставки, поэтому в Computer каждая задача получает собственную песочницу.

Почему Perplexity создала собственную песочницу (SPACE), а не использовала существующую? Готовые инструменты не могли обеспечить тот уровень безопасности, который Perplexity хочет гарантировать нашим клиентам. Агенты разрушают предположение о том, что песочницы предназначены только для кратковременного выполнения кода. Это порождает две противоречащие друг другу потребности: среда должна быть одноразовой, но работа должна сохраняться. Существующие платформы заставляли выбирать два из трех параметров: функциональность, эффективность и безопасность. Система SPACE была создана для обеспечения всех трех.

Как именно работает SPACE и какими средствами контроля безопасности она обладает? В SPACE постоянным объектом становится сеанс, а не песочница. Сеанс представляет собой цепочку последовательных снимков состояния (снапшотов), которые обеспечивают полный набор управляющих функций SPACE. Приостановка — это просто остановка песочницы. Возобновление — это восстановление последнего снимка состояния на любом компьютере. Ветвление — это двукратное восстановление одного и того же снимка с последующим разделением копий. Пользователи получают непрерывность работы, а также кнопку «машины времени» на случай возникновения неполадок.

Где хранятся мои учетные данные, когда агент действует от моего имени? Песочницы — это среда, где выполняются ненадежные задачи, поэтому это последнее место, где должны храниться ключи. Если бы агент был скомпрометирован, злоумышленник получил бы всё, чем владеет агент, именно поэтому наши агенты ничего не хранят. Учетные данные поступают извне в точный момент времени, когда они необходимы, и только для выполнения данной задачи.

RBAC, коннекторы и функции безопасности Perplexity

К чему именно получает доступ Perplexity при подключении такого коннектора, как Snowflake или Outlook, и что может отключить администратор? В отличие от инструментов агентов, которые начинают работу с доступом ко всему компьютеру, Computer изначально не имеет никакого доступа. Доступ предоставляется через OAuth с точными разрешениями, поэтому если вы не видите данные, ваш агент также не может их видеть. Администраторы могут отключить коннектор целиком или только определенные инструменты внутри него.

Как RBAC от Perplexity интегрируется с нашим поставщиком услуг идентификации?

Поставщик услуг идентификации организации уже определяет, кто и к чему имеет доступ. Perplexity интегрируется с ним, и эти границы напрямую переносятся в продукт. Ваш единый источник достоверных данных остается таковым, а журнал аудита сохраняет точность. Команды получают необходимый контекст, а компании сохраняют контроль над тем, кто и что видит.

Как Perplexity защищает агентов от внедрения инструкций в открытом интернете? Внедрение инструкций — это социальная инженерия, нацеленная на агентов, а не на сотрудников, а открытый интернет — это среда, где с ними могут общаться посторонние лица. BrowseSafe рассматривает каждую страницу, которую читает агент, как ненадежную и сканирует ее параллельно, до того как содержимое успеет повлиять на действия агента. Исследования в области безопасности, о которых знаете только вы, защищают только вас. Агенты всех пользователей читают один и тот же веб-контент, поэтому мы сделали этот бенчмарк общедоступным.

Какие инструменты использует Perplexity для защиты машин, на которых работают агенты и сотрудники? Bumblebee отвечает на главный вопрос после каждого инцидента с цепочкой поставок: присутствует ли вредоносный пакет в каких-либо наших системах? Numbat отслеживает уровень самого агента и последовательно анализирует поведение. Поскольку он располагается там, где действует агент, он может остановить действие до его выполнения.

Использование Computer для защиты Computer

Можно ли доверять Computer реальные задачи по обеспечению безопасности? Собственная команда безопасности Perplexity создала свою инфраструктуру безопасности собственными силами на базе Computer, а не стала ждать, пока внешние инструменты догонят их. Выполнение, не зависящее от конкретной модели, постоянная память и остальные элементы дорожной карты уже были на месте, поэтому команда могла сосредоточиться на самом агенте безопасности. Создание лучшего агента безопасности требует наличия лучшей базовой платформы под ним.

В каких задачах Computer больше всего разгружает команду безопасности от рутины? Computer может помочь с приоритизацией пропущенных оповещений и подготовкой последующих отчетов об инцидентах. Каждая процедура приоритизации в Computer по умолчанию сопровождается документацией, поэтому аналитики начинают работу с письменного расследования, а не с «сырого» оповещения.