Обезбеђивање AI уз Perplexity

Безбедносни ресурси наведени у овој сесији

• Како смо уградили безбедност у Computer
• Безбедна окружења (Sandbox) за агенте
• Ублажавање инјектовања упита (prompt injection) у систему Comet
• Истраживачки рад BrowseSafe
• Обезбеђивање агената помоћу алата Numbat
• Отворени код пројекта Bumblebee
• Институт за безбедну интелигенцију
• Центар за поверење

Честа питања

Изградња безбедности широм AI стека

Како Perplexity приступа безбедности када гради преко толико слојева AI стека? Све што Perplexity гради почиње размишљањем усмереним на безбедност, а безбедност и заштиту третирамо као повезане, али различите послове. Заштита се односи на заштиту људи од агената. Безбедност се односи на заштиту агената од људи. Градња кроз стек значи да можемо да поставимо праве контроле на прави слој за праве задатке, уместо да причвршћујемо заштиту на цrну кутију коју не поседујемо.

SPACE, Perplexity-јево окружење (sandbox) за агенте

Шта је sandbox и како он штити кориснике и агенте? Sandbox даје коду ограничено место за извршавање без досезања ваших система или података. Агенти подижу улоге, тако да у систему Computer сваки задатак добија сопствени sandbox.

Зашто је Perplexity направио сопствени sandbox (SPACE) уместо да користи постојећи? Готови алати нису могли да обезбеде сигурност коју Perplexity жели да гарантује нашим корисницима. Агенти руше претпоставку да су sandbox окружења намењена за извршавање краткотрајног кода. То уводи две потребе које се међусобно сукобљавају: окружење треба да буде за једнократну употребу, али посао треба да буде трајан. Постојеће платформе су натерале кориснике да бирају две од три ставке између функционалности, ефикасности и безбедности. SPACE је направљен да испоручи сва три.

Како SPACE заправо функционише и које безбедносне контроле има? SPACE чини сесију трајним објектом уместо sandbox-а. Сесија је ланац револвинг снимкова стања (snapshot), а ти снимци омогућавају комплетан скуп контрола SPACE-а. Паузирање је само заустављање sandbox-а. Наставак је враћање најновијег снимка стања на било којој машини. Виљушкање (forking) је двоструко враћање истог снимка стања и пуштање да се копије разиђу. Корисници добијају континуитет, заједно са дугметом временске машине ако нешто крене наопако.

Где се налазе моји акредитиви када агент делује у моје име? Sandbox окружења су место где се дешава непровјерен посао, па је то последње место где би кључеви требало да буду. Ако би агент био отет, нападач би наследио све што агент поседује, због чега наши агенти не поседују ништа. Акредитиви стижу споља, у тачном тренутку када су потребни, само за тај задатак.

RBAC, конектори и Perplexity-јеве безбедносне функције

Шта Perplexity заправо добија приступ када је конектор попут Snowflake или Outlook повезан, и шта администратор може да искључи? За разлику од алата за агенте који почињу са приступом целом вашем рачунару, Computer почиње без приступа. Приступ долази преко OAuth-а са тачним дозволама, па ако га не можете видети, ваш агент га не може видети. Администратори могу да искључе цео конектор или само одређене алате унутар њега.

Како се Perplexity-јев RBAC интегрише са нашим добављачем идентитета?

Добављач идентитета организације већ одговара на то ко шта може да додирне. Perplexity се повезује на њега и те границе прелазе директно у производ. Ваш извор истине остаје извор истине, а ваш ревизорски траг остаје тачан. Тимови добијају контекст који им је потребан, а компаније задржавају контролу над тим ко шта види.

Како Perplexity штити агенте од инјектовања упита на отвореном вебу? Инјектовање упита је социјални инжењеринг усмерен на агенте уместо на запослене, а отворени веб је место где странци могу да разговарају са њим. BrowseSafe третира сваку страницу коју агент чита као непровјерену и скенира је паралелно, пре него што садржај може да обликује оно што агент ради. Безбедносно истраживање задржано за себе штити само вас. Агенти свих читају исти веб, па смо бенчмарк учинили јавним.

Које алате Perplexity користи за заштиту машина на којима раде агенти и запослени? Bumblebee одговара на прво питање након сваког инцидента у ланцу снабдевања: да ли је лош пакет било где на нашим системима? Numbat прати сам слој агената и чита понашање у низ. Пошто се налази тамо где агент делује, може да заустави акцију пре него што се изврши.

Коришћење система Computer за заштиту система Computer

Може ли се систему Computer веровати у озбиљним безбедносним пословима? Сопствени безбедносни тим компаније Perplexity изградио је своју безбедносну инфраструктуру интерно на врху система Computer уместо да чека да спољни алати сустигну. Извршавање независно од модела, трајна меморија и остатак мапе пута већ су били ту, тако да се тим могао усредсредити на самог безбедносног агента. Изградња најбољег безбедносног агента значи потреба за најбољим оквиром испод њега.

Где Computer уклања највише понављајућег посла са тањира безбедносног тима? Computer може помоћи у тријажи пропуштених упозорења и накнадним извештајима о инцидентима. Свака тријажа у систему Computer се враћа документована по дефолту, тако да аналитичари почињу од писане истраге уместо од сировог упозорења.