Perplexity सह AI सुरक्षित करणे

या सत्र मध्ये संदर्भ दिलेली सुरक्षा संसाधने

• How We Built Security Into Computer
• एजंट्ससाठी सुरक्षित सँडबॉक्स
• Mitigating Prompt Injection in Comet
• BrowseSafe संशोधन पेपर
• Numbat सह एजंट्स सुरक्षित करणे
• ओपन-सोर्सिंग Bumblebee
• सिक्युर इंटेलिजन्स इन्स्टिट्यूट
• ट्रस्ट सेंटर

नेहमी विचारले जाणारे प्रश्न

AI स्टॅक संपूर्ण सुरक्षितता निर्माण करणे

Perplexity AI स्टॅकच्या अनेक स्तरांवर निर्माण करताना सुरक्षेकडे कसा दृष्टिकोन ठेवते? Perplexity जे काही तयार करते ते सुरक्षा-प्रथम तर्क विचाराने सुरू होते, आणि आम्ही सुरक्षिततेला संबंधित परंतु वेगळी कामे मानतो. सुरक्षितता ही मानवांना एजंट्सपासून वाचवण्याबद्दल आहे. सुरक्षा म्हणजे एजंट्सना मानवांपासून वाचवणे. स्टॅक संपूर्ण निर्माण करण्याचा अर्थ असा आहे की आम्ही आमच्या मालकीच्या नसलेल्या ब्लॅक बॉक्सवर संरक्षण जोडण्याऐवजी योग्य कार्यांसाठी योग्य स्तरावर योग्य नियंत्रणे ठेवू शकतो.

SPACE, Perplexity's एजंट सँडबॉक्स

सँडबॉक्स म्हणजे काय आणि तो वापरकर्त्यांचे आणि एजंट्सचे संरक्षण कसा करतो? सँडबॉक्स कोडला तुमच्या सिस्टम किंवा डेटापर्यंत पोहोचल्याशिवाय चालण्यासाठी एक समाविष्ट जागा देतो. एजंट्समुळे जोखीम वाढते, म्हणून Computer मध्ये प्रत्येक कामाला स्वतःचा सँडबॉक्स मिळतो.

Perplexity ने विद्यमान सँडबॉक्स वापरण्याऐवजी स्वतःचा सँडबॉक्स (SPACE) का तयार केला? रेडीमेड टूल्स Perplexity आपल्या ग्राहकांना सुनिश्चित करू इच्छित सुरक्षा देऊ शकली नाहीत. एजंट्स या गृहीतकाला खोटे ठरवतात की सँडबॉक्स हे अल्पायुषी कोड अंमलबजावणीसाठी असतात. यामुळे दोन गरजा निर्माण होतात ज्या एकमेकांच्या विरोधात जातात: वातावरण विनाशात्मक असावे, परंतु कार्य सतत असावे. विद्यमान प्लॅटफॉर्म्समुळे तुम्हाला कार्यक्षमता, कार्यकुशलता आणि सुरक्षा यांपैकी कोणतेही दोन निवडणे भाग पडले. SPACE हे तिन्ही प्रदान करण्यासाठी तयार केले गेले होते.

SPACE प्रत्यक्षात कसे कार्य करते आणि त्यात कोणती सुरक्षा नियंत्रणे आहेत? SPACE सँडबॉक्स ऐवजी सत्राला टिकाऊ वस्तू बनवते. सत्र ही रोलिंग स्नॅपशॉटची साखळी आहे आणि ते स्नॅपशॉट्स SPACE च्या नियंत्रणांचा संपूर्ण संच सक्षम करतात. थांबवणे म्हणजे फक्त सँडबॉक्स थांबवणे. पुन्हा सुरू करणे म्हणजे कोणत्याही मशीनवर नवीनतम स्नॅपशॉट पुनर्संचयित करणे. फोर्किंग म्हणजे समान स्नॅपशॉट दोनदा पुनर्संचयित करणे आणि प्रतींना विचलित होऊ देणे. वापरकर्त्यांना सातत्य मिळते, तसेच काही चूक झाल्यास टाइम-मशीन बटण मिळते.

एखादा एजंट माझ्यावतीने कृती करतो तेव्हा माझी क्रेडेन्शियल कुठे राहतात? सँडबॉक्स म्हणजे जिथे अविश्वसनीय कार्य होते, त्यामुळे किल्ली राहण्याची ही शेवटची जागा असली पाहिजे. जर एखाद्या एजंटशी छेडछाड झाली तर आक्रमणकर्त्याला एजंटकडे जे काही आहे ते सर्व मिळेल, म्हणूनच आमचे एजंट काहीही ठेवत नाहीत. क्रेडेन्शियल बॉक्सच्या बाहेरून येतात, नेमक्या त्याच क्षणी जेव्हा त्यांची आवश्यकता असते, फक्त त्या कामासाठी.

RBAC, कनेक्टर, आणि Perplexity ची सुरक्षा वैशिष्ट्ये

Snowflake किंवा Outlook सारखा कनेक्टर जोडला जातो तेव्हा Perplexity ला प्रत्यक्षात कशात प्रवेश मिळतो आणि प्रशासक काय बंद करू शकतात? तुमच्या संपूर्ण कॉम्प्युटरमध्ये प्रवेश देऊन सुरू होणाऱ्या एजंट टूल्सच्या विपरीत, Computer कोणत्याही प्रवेशाशिवाय सुरू होते. प्रवेश अचूक परवानग्यांसह OAuth द्वारे येतो, त्यामुळे जर तुम्हाला ते दिसत नसेल, तर तुमच्या एजंटला ते दिसत नाही. प्रशासक संपूर्ण कनेक्टर बंद करू शकतात किंवा त्यातील फक्त विशिष्ट टूल्स बंद करू शकतात.

Perplexity चे RBAC आमच्या ओळख प्रदात्याशी कसे समाकलित होते?

संस्थेचा ओळख प्रदाता आधीच उत्तरे देतो की कोण कशाला स्पर्श करू शकते. Perplexity यात प्लग इन करते आणि त्या सीमा थेट उत्पादनात जातात. तुमची सत्यतेची स्त्रोत सत्यतेचा स्त्रोत राहते आणि तुमचा ऑडिट ट्रेल अचूक राहतो. टीम्सना त्यांना आवश्यक असलेला संदर्भ मिळतो आणि कंपन्या कोणाला काय दिसते यावर नियंत्रण ठेवतात.

Perplexity ओपन वेबवर प्रॉम्प्ट इंजेक्शनपासून एजंट्सचे संरक्षण कसे करते? प्रॉम्प्ट इंजेक्शन हे सोशल इंजिनीअरिंग आहे, जे कर्मचाऱ्यांऐवजी एजंट्सना लक्ष्य करते आणि ओपन वेब हे अशी जागा आहे जहाँ अज्ञातांना त्याशी बोलण्याची संधी मिळते. BrowseSafe एजंट वाचत असलेल्या प्रत्येक पृष्ठास अविश्वसनीय मानतो आणि सामग्री एजंट काय करते हे आकार देण्यापूर्वी, समांतरपणे स्कॅन करते. स्वतःपुरती मर्यादित ठेवलेले सुरक्षा संशोधन केवळ तुमचे रक्षण करते. प्रत्येकाचे एजंट समान वेब वाचतात, म्हणून आम्ही बेंचमार्क सार्वजनिक केला.

एजंट आणि कर्मचारी ज्या मशीनवर चालतात त्यांचे संरक्षण करण्यासाठी Perplexity कोणती साधने वापरते? प्रत्येक पुरवठा-साखळी घटनेनंतर Bumblebee पहिल्या प्रश्नाचे उत्तर देते: वाईट पॅकेज आपल्या सिस्टमवर कुठेही आहे का? Numbat स्वतः एजंट लेयर पाहते आणि अनुक्रमामध्ये वर्तन वाचते. ते जिथे एजंट कृती करते तिथे बसत असल्यामुळे, ते कृती अंमलात येण्यापूर्वी थांबवू शकते.

Computer सुरक्षित करण्यासाठी Computer वापरणे

वास्तविक सुरक्षा कार्यासाठी Computer वर विश्वास ठेवला जाऊ शकतो का? बाह्य साधने पकडण्याची प्रतीक्षा करण्याऐवजी Perplexity च्या स्वतःच्या सुरक्षा टीमने Computer च्या शीर्षस्थानी त्यांची सुरक्षा पायाभूत सुविधा इन-हाउस तयार केली. मॉडेल-अज्ञेयवादी अंमलबजावणी, सतत स्मृती आणि रोडमॅपचे बाकीचे भाग आधीच तिथे होते, त्यामुळे टीम सुरक्षा एजंट स्वतः लक्ष केंद्रित करू शकली. सर्वोत्तम सुरक्षा एजंट तयार करणे म्हणजे त्याच्या खाली सर्वोत्तम हार्नेसची आवश्यकता असणे.

Computer सुरक्षा टीमच्या ताटातून सर्वात पुनरावृत्तीचे काम कुठे दूर करते? Computer चुकलेल्या अलर्ट्सचे वर्गीकरण आणि पाठոլ-अप घटना अहवालांमध्ये मदत करू शकते. Computer मधील प्रत्येक वर्गीकरण डीफॉल्टनुसार दस्तऐवजीकरण करून परत येते, त्यामुळे विश्लेषक कच्च्या अलर्टऐवजी लिखित तपासणीपासून सुरुवात करतात.