Како смо уградили безбједност у Computer

Perplexity Computer је аутономни агент који пише и извршава код, претражује веза и повезује се са спољним сервисима како би обављао задатке у ваше име.

Изграђен је директно на постојећој инфраструктури компаније Perplexity, која је завршила своју SOC 2 Type II аттестацију за 2026. годину, и насљеђује безбједносне функције за предузећа компаније Perplexity као што су SAML SSO, ревизорски дневници и грануларне административне контроле.

Извршавање кода и дјеловање на активним сервисима доноси нове захтјеве. Овај текст објашњава шта смо изградили на врху оригиналне основе како бисмо и даље чували сигурност наших корисника: изоловање у sandbox окружењу, конектори и руковање подацима, одбрана од инјектирања у промпт и управљање на нивоу предузећа.

Изоловање у sandbox окружењу

Безбједно извршавање кода захтијева изолацију на хардверском нивоу. Сваки задатак за Computer се извршава унутар Firecracker microVM sandbox окружења, намећући принцип најмањих привилегија на нивоу који превазилази безбједност подразумијеваног оперативног система. Сваки microVM покреће сопствени намјенски Linux кернел са минималним модел уређаја који смањује површину за напад.

Сваки sandbox је изолован кроз три димензије:

Намјенски кернел: Свака сесија добија сопствену инстанцу Linux кернела.

Изоловани систем датотека: Свака VM користи изоловани систем датотека који се ресетује када се сесија заврши.

Приватни мрежни именовани простор: Sandbox окружења имају сопствену изоловану мрежу са намјенским правилима за заштитни зид.

Sandbox окружења се аутоматски паузирају када су неактивна и уништавају се након периода неактивности. Свака нова сесија почиње чисто. Убацују се само акредитиви потребни за тренутни задатак, а они се уништавају заједно са sandbox окружењем. Подагенти користе краткотрајне прокси то Тokене усмјерене кроз аутентификовани мрежни пролаз умјесто сирових API кључева.

Такође одвајамо складиштење података од извршавања кода преко облачних VPC мрежа. Ово одвајање помаже да се сачувани кориснички подаци изолују од окружења за извршавање. Сва комуникација између ова два дијела одвија се преко шифрованог HTTPS протокола.

Конектори и руковање подацима

Computer се може повезивати са спољним сервисима док приступ остаје ограничен, а руковање подацима под контролом. Администратори могу да омогуће или онемогуће конекторе за организацију, а појединачни корисници затим врше аутентификацију сервиса које желе да користе у оквиру Computer-а.

Путања повезивања зависи од конектора. Уграђене интеграције као што су Google и Microsoft користе токове аутентификације провајдера, док прилагођени удаљени конектори подржавају OAuth 2.0 или аутентификацију помоћу API кључева којима управља предузеће. Сви типови конектора су дизајнирани да преносе само минималне податке потребне за завршетак задатка.

Руковање подацима слиједи исти модел контроле. Удаљени прилагођени конектори морају користити HTTPS, а подаци датотека конектора су шифровани у преносу и у миру. Подаци предузећа, као што су улазни подаци задатака, излазни подаци, подаци конектора и садржај sandbox окружења, не користе се за обуку модела. Прилози датотека предузећа се бришу након 7 дана.

Одбрана од инјектирања у промпт

Агент који претражује вех и чита спољни садржај изложен је нападама инјектирањем промпта. Computer насљеђује и проширује одбрамбене механизме које смо оригинално изградили за Comet, укључујући нашу архитектуру одбране у четири слоја и BrowseSafe, наш отворени модел детекције за безбједност претраживачких агената. Ове одбрамбене механизме је ревидирао Trail of Bits.

ML класификатори скенирају садржај преузет из спољних извора прије него што Computer реагује на њега. Систем детекције ради паралелно са цјевоводом за закључивање агента и покреће безбједно заустављање када се детектује сумњив садржај. Класификатори се континуирано ажурирају на основу налаза из нашег програма за награде за проналажење багова, вјежби црвеног тима и стварних догађаја детекције.

Поред класификације, системски промпт сваког алата укључује експлицитне смјернице за заштиту. Спољни садржај је означен као непровјерен, а систем континуирано позива оригинални кориснички упит када бира и извршава алате.

Computer примјењује додатне заштитне мјере при обради непровјереног садржаја, укључујући строже руковање промптима и заштиту на нивоу модела. Ако желите да прочитате више о томе, повезали смо релевантна истраживања и безбједносне процјене изнад.

Контроле за предузећа

За организације на Perplexity Enterprise плану, администратори добијају додатну контролу управљања над тиме како Computer ради:

Ревизорски дневници: Администратори могу евидентирати кључне догађаје као што су кориснички упити, акције агента, приступ датотекама и коришћење конектора. Дневници се интегришу са водећим SIEM системима укључујући Splunk, Azure Sentinel и Datadog тако да безбједносни тимови могу пратити активност Computer-а уз постојећу инфраструктурну телеметрију.

Контроле приступа: Администратори могу потпуно онемогућити Computer или га омогућити само за одређене чланове. Конектори трећих страна, укључујући Gmail, Outlook, Slack, GitHub, Notion, Snowflake, Databricks и Salesforce, могу се појединачно омогућити или онемогућити на нивоу организације. Администратори такође могу ограничити које моделе Computer смије да користи.

Контроле наплате: Администратори могу подесити ограничења кредита по мјесту, промијенити доделе за појединачне кориснике, конфигурисати прагове за аутоматско обнављање и мјесечне границе, или изабрати да не додају кредите преко укључене доделе мјеста.

За све детаље посјетите наш Центар за повјерење или погледајте документацију Computer for Enterprise.