Perplexity के साथ AI को सुरक्षित करना

इस सत्र में संदर्भित सुरक्षा संसाधन

• How We Built Security Into Computer
• एजेंटों के लिए सुरक्षित सैंडबॉक्स
• Comet में प्रॉम्प्ट इंजेक्शन को कम करना
• BrowseSafe शोध पत्र
• Numbat के साथ एजेंटों को सुरक्षित करना
• ओपन-सोर्सिंग Bumblebee
• Secure Intelligence Institute
• ट्रस्ट सेंटर

अक्सर पूछे जाने वाले प्रश्न

AI स्टैक में सुरक्षा का निर्माण

जब Perplexity AI स्टैक की इतनी सारी परतों में निर्माण करता है, तो वह सुरक्षा के प्रति क्या दृष्टिकोण अपनाता है? Perplexity जो कुछ भी बनाता है वह सुरक्षा-प्रथम विचार के साथ शुरू होता है, और हम सुरक्षा (safety) और सुरक्षा (security) को संबंधित लेकिन अलग-अलग कार्यों के रूप में मानते हैं। सुरक्षा (safety) मनुष्यों को एजेंटों से बचाने के बारे में है। सुरक्षा (security) एजेंटों को मनुष्यों से बचाने के बारे में है। स्टैक में निर्माण करने का मतलब है कि हम ऐसे ब्लैक बॉक्स पर सुरक्षा थोपने के बजाय, जिसे हम नहीं जानते, सही कार्यों के लिए सही परत पर सही नियंत्रण रख सकते हैं।

SPACE, Perplexity का एजेंट सैंडबॉक्स

सैंडबॉक्स क्या है, और यह उपयोगकर्ताओं और एजेंटों की सुरक्षा कैसे करता है? सैंडबॉक्स कोड को आपके सिस्टम या डेटा तक पहुँचे बिना चलाने के लिए एक सीमित स्थान देता है। एजेंट जोखिम बढ़ा देते हैं, इसलिए Computer में प्रत्येक कार्य को अपना स्वयं का सैंडबॉक्स मिलता है।

Perplexity ने किसी मौजूदा सैंडबॉक्स का उपयोग करने के बजाय अपना खुद का सैंडबॉक्स (SPACE) क्यों बनाया? ऑफ़-द-शेल्फ़ टूल वह सुरक्षा प्रदान नहीं कर सके जो Perplexity हमारे ग्राहकों को सुनिश्चित करना चाहता है। एजेंट इस धारणा को तोड़ते हैं कि सैंडबॉक्स अल्पकालिक कोड निष्पादन के लिए हैं। इससे दो ऐसी ज़रूरतें पैदा होती हैं जो एक-दूसरे के विपरीत हैं: वातावरण डिस्पोजेबल होना चाहिए, लेकिन काम लगातार रहने वाला होना चाहिए। मौजूदा प्लेटफ़ॉर्म ने आपको कार्यक्षमता, दक्षता और सुरक्षा में से तीन में से दो चुनने के लिए मजबूर किया। SPACE को तीनों को प्रदान करने के लिए बनाया गया था।

SPACE वास्तव में कैसे काम करता है, और इसमें कौन से सुरक्षा नियंत्रण हैं? SPACE सैंडबॉक्स के बजाय सत्र (session) को टिकाऊ वस्तु बनाता है। एक सत्र रोलिंग स्नैपशॉट की एक श्रृंखला है, और वे स्नैपशॉट SPACE के नियंत्रण के पूर्ण सेट को सक्षम करते हैं। रोकना केवल सैंडबॉक्स को रोकना है। फिर से शुरू करना किसी भी मशीन पर नवीनतम स्नैपशॉट को पुनर्स्थापित करना है। फ़र्किंग (Forking) एक ही स्नैपशॉट को दो बार पुनर्स्थापित करना और प्रतियों को अलग होने देना है। उपयोगकर्ताओं को निरंतरता मिलती है, साथ ही कुछ गलत होने पर एक टाइम-मशीन बटन मिलता है।

जब कोई एजेंट मेरी ओर से कार्य करता है तो मेरे क्रेडेंशियल कहाँ रहते हैं? सैंडबॉक्स वह जगह है जहाँ अविश्वसनीय काम होता है, इसलिए यह आखिरी जगह है जहाँ कुंजियाँ रहनी चाहिए। यदि किसी एजेंट को हाईजैक कर लिया जाता है, तो हमलावर वह सब कुछ ले लेगा जो एजेंट के पास है, यही कारण है कि हमारे एजेंट कुछ भी नहीं रखते हैं। क्रेडेंशियल बॉक्स के बाहर से, उस सटीक समय पर आते हैं जब उनकी आवश्यकता होती है, केवल उसी कार्य के लिए।

RBAC, कनेक्टर, और Perplexity की सुरक्षा सुविधाएँ

जब Snowflake या Outlook जैसा कनेक्टर कनेक्ट होता है, तो Perplexity को वास्तव में किस चीज़ तक पहुँच मिलती है, और एक व्यवस्थापक (admin) क्या बंद कर सकता है? ऐसे एजेंट टूल के विपरीत जो आपके पूरे कंप्यूटर तक पहुँच के साथ शुरू होते हैं, Computer बिना किसी पहुँच के शुरू होता है। पहुँच सटीक अनुमतियों के साथ OAuth के माध्यम से आती है, इसलिए यदि आप इसे नहीं देख सकते हैं, तो आपका एजेंट इसे नहीं देख सकता है। व्यवस्थापक (admins) एक पूरे कनेक्टर को, या उसके अंदर केवल विशिष्ट टूल को बंद कर सकते हैं।

Perplexity का RBAC हमारे पहचान प्रदाता (identity provider) के साथ कैसे एकीकृत होता है?

किसी संगठन का पहचान प्रदाता पहले से ही जवाब देता है कि कौन किसको छू सकता है। Perplexity इससे जुड़ जाता है और वे सीमाएँ सीधे उत्पाद में आ जाती हैं। आपका सत्य का स्रोत सत्य का स्रोत बना रहता है, और आपका ऑडिट ट्रेल सटीक रहता है। टीमों को वह संदर्भ मिलता है जिसकी उन्हें आवश्यकता होती है, और कंपनियाँ इस बात पर नियंत्रण रखती हैं कि कौन क्या देखता है।

Perplexity खुले वेब पर प्रॉम्प्ट इंजेक्शन से एजेंटों की सुरक्षा कैसे करता है? प्रॉम्प्ट इंजेक्शन सोशल इंजीनियरिंग है, जिसका उद्देश्य कर्मचारियों के बजाय एजेंटों पर है, और खुला वेब वह जगह है जहाँ अजनबी इससे बात करते हैं। BrowseSafe एजेंट द्वारा पढ़ी जाने वाली प्रत्येक पृष्ठ को अविश्वसनीय मानता है और सामग्री द्वारा एजेंट के कार्य को आकार देने से पहले, समानांतर में इसे स्कैन करता है। अपने तक सीमित रहने वाली सुरक्षा अनुसंधान केवल आपकी रक्षा करती है। हर किसी के एजेंट एक ही वेब को पढ़ते हैं, इसलिए हमने बेंचमार्क को सार्वजनिक कर दिया।

Perplexity उन मशीनों की सुरक्षा के लिए किन टूल का उपयोग करता है जिन पर एजेंट और कर्मचारी चलते हैं? Bumblebee प्रत्येक आपूर्ति-शृंखला घटना के बाद पहले प्रश्न का उत्तर देता है: क्या खराब पैकेज हमारे सिस्टम पर कहीं भी है? Numbat एजेंट परत को स्वयं देखता है और अनुक्रम में व्यवहार को पढ़ता है। चूँकि यह वहाँ बैठता है जहाँ एजेंट कार्य करता है, यह निष्पादित होने से पहले किसी कार्रवाई को रोक सकता है।

Computer को सुरक्षित करने के लिए Computer का उपयोग करना

क्या वास्तविक सुरक्षा कार्य के लिए Computer पर भरोसा किया जा सकता है? बाहरी उपकरणों के पकड़ने का इंतज़ार करने के बजाय Perplexity की अपनी सुरक्षा टीम ने Computer के ऊपर इन-हाउस अपना सुरक्षा बुनियादी ढांचा बनाया। मॉडल-अग्नॉस्टिक निष्पादन, लगातार स्मृति, और रोडमैप के बाकी हिस्से पहले से ही मौजूद थे, इसलिए टीम सुरक्षा एजेंट पर ही ध्यान केंद्रित कर सकती थी। सर्वश्रेष्ठ सुरक्षा एजेंट बनाने का मतलब है इसके नीचे सर्वश्रेष्ठ हार्नेस की आवश्यकता होना।

Computer सुरक्षा टीम की थाली से सबसे अधिक दोहराए जाने वाले काम को कहाँ हटाता है? Computer छूटी हुई चेतावनियों के मिलान और अनुवर्ती घटना रिपोर्टों में मदद कर सकता है। Computer में प्रत्येक मिलान डिफ़ॉल्ट रूप से प्रलेखित होकर वापस आता है, इसलिए विश्लेषक कच्ची चेतावनी के बजाय लिखित जाँच से शुरुआत करते हैं।