DI apsauga su „Perplexity“

Šioje sesijoje minima saugumo informacija

• Kaip įdiegėme saugumą į „Computer“
• „Sandbox“ aplinkos agentams
• Užklausų įpurškimo švelninimas „Comet“ sistemoje
• „BrowseSafe“ tyrimo darbas
• Agentų apsauga naudojant „Numbat“
• „Bumblebee“ atvirasis kodas
• Saugiojo intelekto institutas
• Pasitikėjimo centras

DUK

Saugumo kūrimas dirbtinio intelekto dėke

Kaip „Perplexity“ vertina saugumą kurdama dirbtinio intelekto ekosistemos sluoksnius? Viskas, ką „Perplexity“ kuria, prasideda nuo saugumo mąstymas, ir mes traktuojame saugą ir saugumą kaip susijusius, bet skirtingus darbus. Sauga susijusi su žmonių apsauga nuo agentų. Saugumas susijęs su agentų apsauga nuo žmonių. Kūrimas visuose sluoksniuose reiškia, kad galime pritaikyti tinkamus valdiklius tinkamame sluoksnyje atitinkamoms užduotims, o ne tvirtinti apsaugą prie juodosios dėžutės, kurios nevaldome.

SPACE – „Perplexity“ agento „sandbox“ aplinka

Kas yra „sandbox“ aplinka ir kaip ji apsaugo vartotojus bei agentus? „Sandbox“ suteikia kodui izoliuotą vietą veikti nepasiekiant jūsų sistemų ar duomenų. Agentai padidina riziką, todėl „Computer“ sistemoje kiekviena užduotis gauna savo „sandbox“ aplinką.

Kodėl „Perplexity“ sukūrė savo „sandbox“ (SPACE) vietoj to, kad naudotų esamą? Standartiniai įrankiai negalėjo užtikrinti tokio saugumo, kokio „Perplexity“ nori suteikti savo klientams. Agentai paneigia prielaidą, kad „sandbox“ aplinkos skirtos tik trumpalaikiam kodo vykdymui. Tai sukelia du vienas kitą prieštaraujančius poreikius: aplinka turėtų būti vienkartinė, tačiau darbas turi būti ilgalaikis. Esamos platformos vertė rinktis du iš trijų variantų tarp funkcionalumo, efektyvumo ir saugumo. „SPACE“ buvo sukurta tam, kad suteiktų visus tris.

Kaip iš tikrųjų veikia „SPACE“ ir kokius saugumo valdiklius ji turi? „SPACE“ padaro sesija patvariu objektu, o ne „sandbox“. Sesija yra nuolatinių momentinių kopijų grandinė, ir šios momentinės kopijos suteikia visą „SPACE“ valdiklių rinkinį. Pristabdymas – tai tik „sandbox“ sustabdymas. Atnaujinimas – naujausios momentinės kopijos atkūrimas bet kurioje mašinoje. Šakojimas – tos pačios momentinės kopijos atkūrimas dukart ir kopijų išsiskyrimas. Vartotojai gauna tęstinumą bei laiko mašinos mygtuką, jei kas nors nutinka ne taip.

Kur yra saugomi mano prisijungimo duomenys, kai agentas veikia mano vardu? „Sandbox“ aplinkose vyksta nepatikimi darbai, todėl tai paskutinė vieta, kur turėtų būti raktai. Jei agentas būtų užgrobtas, užpuolikas paveldėtų viską, ką agentas turi, todėl mūsų agentai neturi nieko. Prisijungimo duomenys atkeliauja iš išorės, tiksliu jų poreikio momentu ir tik tai užduočiai.

RBAC, jungtys ir „Perplexity“ saugumo funkcijos

Prie ko iš tikrųjų gauna prieigą „Perplexity“, kai prijungiama jungtis, tokia kaip „Snowflake“ arba „Outlook“, ir ką administratorius gali išjungti? Skirtingai nuo agentų įrankių, kurie pradeda veikti turėdami prieigą prie viso jūsų kompiuterio, „Computer“ prasideda be jokios prieigos. Prieiga suteikiama per „OAuth“ su tiksliais leidimais, todėl jei jūs to nematote, jūsų agentas to nematyti. Administratoriai gali išjungti visą jungtį arba tik tam tikrus įrankius joje.

Kaip „Perplexity“ RBAC integruojasi su mūsų tapatybės teikėju?

Organizacijos tapatybės teikėjas jau atsako į klausimą, kas ir ką gali liesti. „Perplexity“ prisijungia prie jo, ir šios ribos tiesiogiai perkeliamas į produktą. Jūsų tiesos šaltinis išlieka tiesos šaltiniu, o audito sekimas išlieka tikslus. Komandos gauna joms reikalingą kontekstą, o įmonės išlaiko kontrolę, kas ką mato.

Kaip „Perplexity“ apsaugo agentus nuo užklausų įpurškimo atvirajame žiniatinklyje? Užklausų įpurškimas yra socialinė inžinerija, nukreipta į agentus, o ne į darbuotojus, ir atvirasis žiniatinklis yra vieta, kur nepažįstami žmonės su juo kalbasi. „BrowseSafe“ kiekvieną agento skaitomą puslapį laiko nepatikimu ir nuskaito jį lygiagrečiai, kol turinys dar negali paveikti agento veiksmų. Saugumo tyrimai, kuriuos pasiliekate sau, apsaugo tik jus. Visų agentai skaito tą patį žiniatinklį, todėl padarėme etaloną viešu.

Kokius įrankius „Perplexity“ naudoja apsaugoti mašinoms, kuriose veikia agentai ir darbuotojai? „Bumblebee“ atsako į pirmąjį klausimą po kiekvieno tiekimo grandinės incidento: ar blogasis paketas yra kur nors mūsų sistemose? „Numbat“ stebi pačio agento sluoksnį ir skaito elgseną nuosekliai. Kadangi jis yra ten, kur veikia agentas, jis gali sustabdyti veiksmą prieš jam pasileidžiant.

„Computer“ naudojimas „Computer“ apsaugai

Ar galima „Computer“ patikėti realius saugumo darbus? „Perplexity“ saugumo komanda pati sukūrė savo saugumo infrastruktūrą virš „Computer“, nelaukdama, kol išoriniai įrankiai ją pasieks. Modeliams nepriklausomas vykdymas, ilgalaikė atmintis ir likusi plano dalis jau buvo ten, todėl komanda galėjo susitelkti ties pačiu saugumo agentu. Geriausio saugumo agento kūrimas reiškia, kad po juo reikalinga geriausia įranga.

Kur „Computer“ labiausiai palengvina pasikartojančius darbus komandos darbotvarkėje? „Computer“ gali padėti išrūšiuoti praleistus įspėjimus ir tolesnes incidentų ataskaitas. Kiekvienas rūšiavimas „Computer“ sistemoje sugrįžta pagal nutylėjimą dokumentuotas, todėl analitikai pradeda nuo rašytinio tyrimo, o ne nuo žalio įspėjimo.