SPACE ओपन-सोर्स करत आहोत: Computer चा आधार असलेले सँडबॉक्स प्लॅटफॉर्म

फेब्रुवारीमध्ये Computer लाँच केल्यापासून Perplexity वैयक्तिक एजंट्सच्या क्षेत्रात सुरुवातीपासूनच अग्रेसर राहिले आहे. एजंट गव्हर्नन्स, असुरक्षित वर्तन शोधणे आणि अनियंत्रित एजंट क्रियाकलाप रोखणे यांसारख्या कठीण समस्या सोडवण्यासाठी आम्ही वचनबद्ध आहोत. जुलैमध्ये, आम्ही आमच्या व्यावसायिकरित्या उपलब्ध सँडबॉक्स प्रदात्याच्या जागी अधिक मजबूत आणि लवचिक अशी इन-हाउस प्रणाली आणली, जिला आम्ही SPACE असे नाव दिले.

SPACE प्रगत एजंटिक सिस्टमसाठी उच्च सुरक्षा प्रदान करते. किंबहुना, अलीकडील सलग सुरक्षा चाचण्यांच्या मालिकेत OpenAI/Hugging Face घटनेत वापरल्या गेलेल्या तंत्रांसारख्या नेटवर्क-बायपास तंत्रांविरुद्ध SPACE भक्कम असल्याचे सिद्ध झाले.

आज आम्ही SPACE ओपन-सोर्स करत आहोत, जेणेकरून डेव्हलपर्सना अधिक सुरक्षित एजंट प्रणाली तयार करण्यासाठी पाया मिळेल आणि संपूर्ण उद्योगात अधिक मजबूत संरक्षण उभारण्यात त्यांना योगदान देता येईल. डेव्हलपर्स येथे रिपॉझिटरी ॲक्सेस करू शकतात.

एजंट गव्हर्नन्स ही एक अभियांत्रिकी समस्या आहे, आणि ती सोडवण्यासाठी ओपन सोर्स अत्यावश्यक आहे. जेव्हा डेव्हलपर्सकडे तपासता येतील, बदलता येतील आणि ज्यांवर पुढे बांधणी करता येईल अशा सिस्टम्स असतात, तेव्हा त्यांना अधिक त्रुटी सापडतात आणि ते अधिक चांगली टूल्स विकसित करतात. SPACE ओपन-सोर्स केल्याने डेव्हलपर्सना एजंट रनटाइम्ससाठी प्रोडक्शनमध्ये चाचणी झालेला पाया मिळतो, ज्यामध्ये विलगीकरण, स्थिती पुनर्प्राप्ती आणि क्रेडेन्शियल व नेटवर्क नियंत्रणे अंगभूत आहेत.

इतर बिल्डर्ससाठी पाया तयार करणे

सँडबॉक्स एजंट्सना सुरक्षित ठेवतात: ही कार्ये पूर्ण करण्यासाठी आवश्यक असलेली टूल्स आणि फाइल्स वापरण्याची मुभा देतात आणि त्याच वेळी संवेदनशील माहिती संरक्षित ठेवतात.

SPACE ओपन-सोर्स केल्याने, डेव्हलपर्सचे एजंट्स ज्या वातावरणात कोड चालवतात आणि फाइल्सवर काम करतात, त्या वातावरणासाठी त्यांना एक सुरुवातीचा आधार मिळतो. SPACE सँडबॉक्स प्लॅटफॉर्म कसे काम करते हे टीम्स पाहू शकतात आणि त्याच्या अंमलबजावणीच्या आधारे पुढे बांधणी करू शकतात. मूलभूत पायाभूत सुविधा पुन्हा तयार करण्याऐवजी ते आपल्या गरजेनुसार त्यात बदलही करू शकतात.

Computer मध्ये, SPACE विलग कोड अंमलबजावणी, थांबवणे आणि पुन्हा सुरू करणे, पुनर्प्राप्ती आणि सत्र ब्रँचिंग यांना सपोर्ट करते. या क्षमतांमुळे अशा सहाय्यकांचा पाया तयार होतो, जे पुढील गोष्टी करू शकतील:

• डेटाचे विश्लेषण करा: स्वतंत्र वर्कस्पेसमध्ये स्प्रेडशीट स्वच्छ करा, गणना करा आणि चार्ट तयार करा.
• काम पुन्हा सुरू करा: एखाद्याने मसुद्याचे पुनरावलोकन करेपर्यंत किंवा गहाळ माहिती देईपर्यंत थांबा, आणि नंतर फाइल्स आणि चालू स्थिती जशीच्या तशी जतन ठेवून काम पुन्हा सुरू करा.
• पर्याय तपासा: वर्कस्पेसच्या स्वतंत्र प्रतींमध्ये डेटासेट स्वच्छ करण्याच्या दोन पद्धतींची चाचणी घ्या, किंवा चूक झाल्यानंतर आधीची फाइल पुनर्संचयित करा.

डेव्हलपर्स SPACE ची दस्तऐवजीकृत विलगीकरण आणि सत्र नियंत्रणे कशी वापरू शकतात, हे ही उदाहरणे दाखवतात. प्लॅटफॉर्म आणि सुरक्षा अभियंते SPACE आपल्या सिस्टममध्ये समाकलित करण्यापूर्वी त्याचे विलगीकरण मॉडेल आणि सुरक्षा उदाहरणे यांचे पुनरावलोकनही करू शकतात.

स्वायत्त कामासाठी सुरक्षा वाढवणे

जेव्हा आम्ही एजंट्सना समस्या सोडवण्यासाठी अधिक मोकळीक देतो, तेव्हा ते त्या कशा सोडवतात यावर स्पष्ट मर्यादा असणे आवश्यक असते. आम्हाला माहीत आहे की वैध कार्ये करणारे एजंट्सही गहाळ फाइल्स, अयशस्वी विनंत्या किंवा नाकारलेल्या परवानग्या यांवर मार्ग काढण्याचा प्रयत्न करताना सुरक्षा सीमा ओलांडू शकतात.

असुरक्षित वर्तनाची शक्यता कमी करण्यासाठी आम्ही मॉडेलमध्ये सुरक्षा उपाय लागू करू शकतो. आजूबाजूच्या सिस्टममध्ये स्वतंत्र नियंत्रणे जोडल्याने, ते सुरक्षा उपाय अयशस्वी झाल्यास होणारे नुकसान मर्यादित ठेवण्यास मदत होते. एजंटने काहीही करायचे ठरवले तरी, तो कशात प्रवेश करू शकतो यावर ही नियंत्रणे मर्यादा घालतात.

SPACE ही नियंत्रणे एजंटने तयार केलेल्या कोड आणि फाइल्ससाठीच्या एका स्वतंत्र वर्कस्पेसभोवती लागू करते. विलगीकरण, पुनर्प्राप्ती आणि कार्यक्षम अंमलबजावणी यांचा मेळ साधण्यासाठी आम्ही त्याची रचना केली आहे. यामुळे सुरक्षा सीमा पाळण्यासाठी केवळ मॉडेलवर अवलंबून न राहता एजंट्स दीर्घ सत्रांमध्ये उपयुक्त काम करू शकतात.

स्वतःच्या ऑपरेटिंग सिस्टममध्ये चालणे

प्रत्येक SPACE सँडबॉक्स स्वतःची ऑपरेटिंग सिस्टम असलेल्या एका छोट्या व्हर्च्युअल मशीनमध्ये चालतो, ज्यामुळे एजंटचे काम आणि होस्ट सिस्टम यांच्यात एक विलगीकरण सीमा तयार होते. हे वर्कस्पेस कधी तयार करायचे, थांबवायचे, पुन्हा सुरू करायचे किंवा काढून टाकायचे, याचे समन्वयन एक केंद्रीय कंट्रोल प्लेन करते.

SPACE सँडबॉक्सला अविश्वासार्ह मानते आणि नेटवर्क प्रवेश तसेच प्लॅटफॉर्मकडे असलेली क्रेडेन्शियल्स सँडबॉक्सच्या बाहेर व्यवस्थापित करते. त्यामुळे ती क्रेडेन्शियल्स एजंट्सच्या कार्य-वातावरणात संग्रहित न करता एजंट्स अधिकृत सेवांशी कनेक्ट होऊ शकतात.

वारंवार घेतले जाणारे फाइल स्नॅपशॉट्स आणि संपूर्ण चालू वातावरणाचे चेकपॉइंट्स व्यत्यय आले तरी प्रगती जतन करतात. या प्रक्रिया कार्यक्षम ठेवण्यासाठी, SPACE संपूर्ण वातावरणाची वारंवार प्रत करण्याऐवजी केवळ बदल संग्रहित करते. यामुळे सँडबॉक्स तयार करणे, पुनर्संचयित करणे किंवा ब्रँच करणे यासाठी लागणारे काम कमी होते.

प्रोडक्शनमधील कामगिरी सुधारणे

जुलैपासून सर्व Computer सत्रे SPACE वर चालत आहेत आणि ते दररोज लाखो सँडबॉक्सची निर्मिती हाताळत आहे. त्याच प्रोडक्शन ट्रॅफिकवर केलेल्या तुलनेत, आमच्या पूर्वीच्या प्रदात्यापेक्षा सँडबॉक्स निर्मिती तीन ते पाच पट वेगवान होती.

जाणीवपूर्वक त्याच्या सीमा भेदण्याचा प्रयत्न करणाऱ्या एजंट्सविरुद्धही आम्ही SPACE ची चाचणी केली. आमच्या प्रकाशित सुरक्षा मूल्यमापनात 108 प्रयत्नांपैकी एकदाही व्हर्च्युअल मशीनमधून होस्टपर्यंत सुटका झाल्याचे आढळले नाही, मात्र काही एजंट्सनी नेटवर्क निर्बंधांना बगल देण्याचे मार्ग शोधले. आम्ही त्या त्रुटी दुरुस्त केल्या, आणि पुढील चाचणीत ओळखलेल्या दोन्हीपैकी कोणतीही हल्ला पद्धत यशस्वी झाली नाही.

इतर सँडबॉक्स प्लॅटफॉर्ममध्ये आढळलेल्या संबंधित त्रुटीही आम्ही त्यांच्या विक्रेत्यांना कळवल्या आणि अशा प्रकारे हे काम आमच्या स्वतःच्या पायाभूत सुविधांच्या पलीकडे नेले.

अधिक सुरक्षित एजंटिक AI साठी योगदान

AI अधिकाधिक काम हाती घेत असताना लोक ज्या सिस्टम्सवर अवलंबून असतात, त्या मजबूत करण्याच्या व्यापक प्रयत्नाचा SPACE हा एक भाग आहे. Secure Intelligence Institute च्या माध्यमातून आम्ही सुरक्षा संशोधन करतो, व्यापक समुदायासोबत सहकार्य करतो आणि निष्कर्षांचे व्यावहारिक संरक्षण उपायांमध्ये रूपांतर करतो.

आमचा विश्वास आहे की सुरक्षा टूल्स ओपन-सोर्स केल्याने डेव्हलपर्सना संरक्षण यंत्रणांची चाचणी घेण्याचे, कमकुवतपणा शोधण्याचे आणि अधिक सुरक्षित AI सिस्टम तयार करण्याचे अधिक मार्ग मिळतात. या कामाच्या वेगवेगळ्या पैलूंवर काम करणारी टूल्स आम्ही शेअर केली आहेत:

• BrowseSafe, वेब पेजेसमध्ये लपवलेल्या दुर्भावनापूर्ण सूचना शोधण्यासाठीचे एक मॉडेल आणि बेंचमार्क.
• Numbat, जुलैमध्ये ओपन-सोर्स केलेले एक सुरक्षा टूलकिट, जे संगणकांवरील धोकादायक एजंट वर्तन शोधण्यात, त्याची चौकशी करण्यात आणि ते रोखण्यात मदत करते
• Bumblebee, मे महिन्यात ओपन-सोर्स केलेला एक स्कॅनर, जो डेव्हलपर्सच्या मशीनवर धोकादायक सॉफ्टवेअर पॅकेजेस, एक्स्टेंशन्स आणि AI टूल कॉन्फिगरेशन्स तपासतो

ही टूल्स उपलब्ध करून दिल्याने इतर टीम्सना आमच्या कामाची तपासणी करता येते, ते आपल्या गरजेनुसार बदलता येते आणि त्यात सुधारणांचे योगदान देता येते. SPACE सह, आम्ही हाच दृष्टिकोन एजंट्स ज्या वातावरणात कोड चालवतात आणि फाइल्सवर काम करतात, त्या वातावरणापर्यंत विस्तारत आहोत.

एजंट सिस्टमसाठी डिप्लॉय करणे

Akamai ने आपल्या क्लाउड प्लॅटफॉर्मवर SPACE ची चाचणी करून ते लाँच केले आहे आणि ते आपल्या ग्राहकांपर्यंत पोहोचवण्यासाठी Perplexity सोबत काम करत आहे. Crusoe देखील आपल्या Managed AI Services पोर्टफोलिओमध्ये SPACE समाविष्ट करण्यासाठी Perplexity सोबत भागीदारी करत आहे. CoreWeave ने CKS वर मूल्यमापनासाठी SPACE डिप्लॉय करू इच्छिणाऱ्या डेव्हलपर्ससाठी सेटअप मार्गदर्शन प्रकाशित केले आहे.

डेव्हलपर्स स्वतःच्या एजंट सिस्टमसाठी SPACE डिप्लॉय करण्याकरिता त्याच्या सेटअप सूचना आणि सुरक्षा मार्गदर्शनापासून सुरुवात करू शकतात. रिपॉझिटरी आणि दस्तऐवजीकरण यांमध्ये समर्थित कॉन्फिगरेशन्स आणि समाविष्ट घटक नमूद केलेले आहेत.