Perplexity көмегімен жасанды интеллектті қорғау

Осы сеанста көрсетілген қауіпсіздік ресурстары

• Computer жүйесіне қауіпсіздікті қалай енгіздік
• Агенттерге арналған қауіпсіз Sandbox орталары
• Comet жүйесіндегі нұсқаулар инъекциясын болдырмау
• BrowseSafe зерттеу жұмысы
• Numbat көмегімен агенттерді қорғау
• Bumblebee бағдарламасын ашық бастапқы кодқа айналдыру
• Қауіпсіз интеллект институты
• Senім орталығы

Жиі қойылатын сұрақтар

Жасанды интеллект стегі бойынша қауіпсіздікті қамтамасыз ету

Perplexity компаниясы жасанды интеллект стегінің көптеген қабаттарында қауіпсіздік мәселесіне қалай қарайды? Perplexity құрастырған әрбір дүние қауіпсіздікті бірінші орынға қоятын ойлану жүйесінен басталады, ал біз қауіпсіздік пен қорғанысты өзара байланысты, бірақ әр түрлі міндеттер ретінде қарастырамыз. Қорғаныс – бұл адамдарды агенттерден қорғау. Қауіпсіздік – бұл агенттерді адамдардан қорғау. Стек арқылы құрастыру біз өзімізге тиесілі емес «қара жәндікке» қорғаныс орнатқаннан гөрі, дұрыс тапсырмалар үшін дұрыс қабатқа дұрыс басқару элементтерін қоя алатынымызды білдіреді.

SPACE, Perplexity агентінің sandbox ортасы

Sandbox дегеніміз не және ол пайдаланушылар мен агенттерді қалай қорғайды? Sandbox кодыңызға жүйелеріңізге немесе деректеріңізге қол жеткізбестен жұмыс істеу үшін оқшауланған орын береді. Агенттер тәуекелді арттырады, сондықтан Computer жүйесінде әрбір тапсырма өзінің sandbox ортасын алады.

Неліктен Perplexity бар sandbox ортасын қолданбай, өзінің жеке sandbox ортасын (SPACE) құрды? Дайын құралдар Perplexity компаниясы тұтынушыларымызға кепілдік бергісі келетін қауіпсіздікті қамтамасыз ете алмады. Агенттер sandbox орталары қысқа мерзімді кодты орындауға арналған деген болжамды жоққа шығарады. Бұл бір-біріне қайшы келетін екі қажеттілікті тудырады: орта жойылатын болуы керек, бірақ жұмыс тұрақты болуы тиіс. Бар платформалар функционалдылық, тиімділік және қауіпсіздік арасындағы үшеудің екеуін таңдауға мәжбүр етті. SPACE осы үшеуін де қамтамасыз ету үшін жасалған.

SPACE іс жүзінде қалай жұмыс істейді және оның қандай қауіпсіздік басқару элементтері бар? SPACE sandbox орнына сеансты тұрақты нысанға айналдырады. Сеанс — бұл кезекті көшірмелер тізбегі, ал бұл көшірмелер SPACE басқару элементтерінің толық жиынтығын қосады. Кідірту — бұл жай ғана sandbox ортасын тоқтату. Жалғастыру — кез келген машинада соңғы көшірмені қалпына келтіру. Бағыттау — бір көшірмені екі рет қалпына келтіру және көшірмелердің бөлінуіне мүмкіндік беру. Пайдаланушылар бірдеңе дұрыс болмай қалған жағдайда «уақыт машинасі» түймесімен бірге үздіксіз жұмыс тәжірибесін алады.

Агент менің атымнан әрекет еткен кезде менің тіркелгі деректерім қайда сақталады? Sandbox орталары – сенімсіз жұмыс орындалатын жер, сондықтан бұл кілттер сақталатын соңғы орын болуы тиіс. Егер агентке шабуыл жасалса, қаскөй агент сақтайтын барлық нәрсені алады, сондықтан біздің агенттер ештеңені сақтамайды. Тіркелгі деректері қораптың сыртынан, дәл сол қажет болған сәтте, тек сол тапсырма үшін келеді.

RBAC, коннекторлар және Perplexity қауіпсіздік мүмкіндіктері

Snowflake немесе Outlook сияқты коннектор қосқан кезде Perplexity неге шынымен қол жеткізе алады және әкімші нені өшіре алады? Бүкіл компьютеріңізге қол жеткізуден басталатын агент құралдарынан айырмашылығы, Computer ешқандай қолжетімсіз басталады. Қолжетімсіздік дәл рұқсаттары бар OAuth арқылы келеді, сондықтан оны көре алмасаңыз, агентіңіз де көре алмайды. Әкімшілер бүкіл коннекторды немесе оның ішіндегі белгілі бір құралдарды ғана өшіре алады.

Perplexity жүйесінің RBAC функциясы біздің сәйкестендіру провайдерімізбен қалай біріктіріледі?

Ұйымның сәйкестендіру провайдері кімнің неге қол тигізе алатынын қазірдің өзінде шешеді. Perplexity оған қосылады және бұл шекаралар өнімге тікелей ауысады. Шындық дереккөзіңіз сол күйінде қалады және аудит тізбегіңіз дәл болып қалады. Топтар өзіне қажетті контекстті алады, ал компаниялар кімнің не көретінін бақылауда ұстайды.

Perplexity ашық вебомдағы нұсқаулар инъекциясынан агенттерді қалай қорғайды? Нұсқаулар инъекциясы – бұл қызметкерлерге емес, агенттерге бағытталған әлеуметтік инженерия, ал ашық веб – бөгде адамдардың онымен сөйлесе алатын жері. BrowseSafe агент оқыған әрбір бетті сенімсіз ретінде қарастырады және оны мазмұн агенттің әрекетін қалыптастырмас бұрын параллель түрде сканерлейді. Өзіңізде сақталған қауіпсіздік зерттеулері тек өзіңізді ғана қорғайды. Барлық адамдардың агенттері бірдей вебті оқиды, сондықтан біз бенчмаркты көпшілікке қолжетімді еттік.

Perplexity агенттер мен қызметкерлер жұмыс істейтін машиналарды қорғау үшін қандай құралдарды пайдаланады? Bumblebee әрбір жеткізу тізбегі инцидентінен кейінгі бірінші сұраққа жауап береді: жүйелерімізде зиянды пакет бар ма? Numbat агент қабатын өзі бақылайды және әрекетті ретімен оқиды. Ол агент әрекет ететін жерде орналасқандықтан, әрекетті орындалмас бұрын тоқтата алады.

Computer жүйесін қорғау үшін Computer пайдалану

Computer жүйесіне нақты қауіпсіздік жұмыстарын сеніп тапсыруға бола ма? Perplexity компаниясының өзінің қауіпсіздік тобы сыртқы құралдардың жетіп алуын күтудің орнына, Computer үстіне өзінің қауіпсіздік инфраструктурасын өзі жасады. Модельге тәуелсіз орындау, тұрақты жад және жол картасының қалған бөлігі қазірдің өзінде бар болатын, сондықтан топ қауіпсіздік агентінің өзіне назар аудара алды. Ең жақсы қауіпсіздік агентін құру оның астындағы ең жақсы құралды қажет ететінін білдіреді.

Computer қауіпсіздік тобының жұмысындағы қай қайталанатын жұмысты азайтады? Computer жіберіп алған ескертулерді сұрыптауға және кейінгі инцидент есептеріне көмектесе алады. Computer ішіндегі әрбір сұрыптау әдепкі бойынша жазбаша түрде қайтарылады, сондықтан аналитиктер шикі ескертуден емес, жазбаша зерттеуден бастайды.