Making SPACE: Secure and efficient runtimes for long-running agents

SPACE हे Perplexity चे सुरक्षित, कार्यक्षम सँडबॉक्स प्लॅटफॉर्म आहे जे दीर्घकाळ चालणारे एजंट्रिक वर्कफ्लो आणि जलद, स्वतंत्र कोड अंमलबजावणीला सामर्थ्य देते.

लेखकPerplexity Engineering

जसे जसे एजन्टिक वर्कफ्लो मोठे आणि अधिक स्वायत्त होत जातात, तसे ज्या वातावरणात एआय एजंट कार्य करतात ते त्यांना चालवणारे मॉडेलइतकेच महत्त्वाचे असते. एजंटना कोड चालवणे, फाइलसिस्टम संपादित करणे आणि तास किंवा दिवस चालणारी बहु-स्तरीय कार्ये अंमलात आणणे यासारखी वास्तविक कामे करण्याची आवश्यकता असते. वापरकर्त्यांना एजंट्सना ही कार्ये पार पाडण्यासाठी आवश्यक असलेल्या साधनांमध्ये आणि फाइल्समध्ये प्रवेश असावा असे वाटते, परंतु एजंट्सशी तडजोड केली गेली तरी त्यांची प्रणाली सुरक्षित राहील असा विश्वासही त्यांना हवा असतो. एक सँडबॉक्स हे सर्व शक्य करतो: एक संवादी वातावरण जिथे एजंट मुक्तपणे कार्य करू शकतात तर होस्ट, इतर टेनंट आणि संवेदनशील क्रेडेन्शियल सुरक्षित राहतात.

पारंपारिक कंटेनर-आधारित सँडबॉक्स दृष्टिकोन या कार्यांसाठी डिझाइन केलेले नाहीत. ते सहसा अल्पायुषी, स्टेटलेस नोकऱ्या गृहीत धरतात आणि कर्नलला अपयशाचा एकमेव बिंदू मानतात. याउलट, एजंट सत्रे दीर्घकाळ टिकणारी आणि स्टेटफुल असतात: एक एजंट तासांचा संदर्भ, कार्य करणारी फाइलसिस्टम आणि चालणार्‍या प्रक्रिया जमा करतो ज्यांना सहज फेकून दिले जाऊ शकत नाही आणि सुरुवातीपासून पुन्हा तयार केले जाऊ शकत नाही. शिवाय, आतील वर्कलोड डीफॉल्टनुसार अविश्वसनीय असणे आवश्यक आहे, ज्यामुळे मजबूत सुरक्षा उपायांची आवश्यकता असते. दीर्घकाळ चालणाऱ्या एजंट सत्रांना एका सब्सट्रेटची आवश्यकता असते जे शत्रुत्वाच्या अतिथीला वेगळे करू शकते, त्याची स्थिती जतन करू शकते आणि तरीही स्केलवर ऑपरेट करू शकते.

सँडबॉक्स अभियांत्रिकीमधील मुख्य आव्हान सुरक्षा, कार्यक्षमता आणि कार्यक्षमता यांच्यात उद्भवणाऱ्या तणावामुळे होते. उदाहरणार्थ:

विस्तीर्ण प्रवेश दिल्याने एजंटला अधिक साध्य करता येते परंतु आपण विश्वास नसलेल्या वर्कलोडसमोर प्रणालीचा अधिक भाग उघड होतो.

सँडबॉक्समध्ये अधिक सामायिक केल्याने निर्मिती जलद होते परंतु आक्रमण पृष्ठभाग विस्तृत होतो.

अधिक वारंवार स्नॅपशॉटिंग केल्याने पुनर्प्राप्ती सुधारते आणि रोलबॅकसारखी वैशिष्ट्ये सक्षम होतात परंतु त्यासाठी वेळ आणि स्टोरेज स्पेस आवश्यक असते.

कोड कार्यान्वित करण्यासाठी आवश्यक असलेल्या एजंट सँडबॉक्स, Agent Skills वापरणे किंवा कॉम्प्युटर क्वेरीमध्ये Search as Code पाइपलाइन पार पाडणे, या तिन्हीची आवश्यकता आहे. आमची उत्पादने पॉवर करणाऱ्या एजंट इन्फ्रास्ट्रक्चरची पुढील पिढी तयार करण्यासाठी आम्ही गेल्या काही महिन्यांपासून कठोर परिश्रम करत आहोत. आज आम्ही SPACE (Sandboxed Platform for Agentic Code Execution) सादर करत आहोत: एजंट्रिक वर्कफ्लोसाठी तयार केलेले सँडबॉक्स प्लॅटफॉर्म जे सुरक्षित, विश्वासू आणि स्केलवर कार्यक्षम आहे. गेल्या महिन्यात, आम्ही Perplexity Computer ला पॉवर देणारा सँडबॉक्स लेयर म्हणून SPACE रोल आउट करण्यास सुरुवात केली. गेल्या आठवड्यात, त्याने लाखो सँडबॉक्स तयार करण्यास आणि कोट्यवधी पुनरावृत्तींना सुरक्षितपणे समर्थन दिले आहे, ज्याचा स्पिन-अप वेळ आमच्या मागील सोल्यूशनपेक्षा ३-५ पट वेगवान आहे.

हा लेख SPACE मधील वास्तुकला आणि डिझाइन निर्णय प्रस्तुत करतो. आजपासून, १००% कॉम्प्युटर सत्रे आता SPACE वर चालतात. आमच्या वापरकर्त्यांना आणि विकासकांसाठी सर्वोत्तम दर्जाचे एजंट्रिक रनटाइम वितरीत करण्यासाठी संपूर्ण पृष्ठभागांवर हे प्लॅटफॉर्म तैनात करण्यास आम्ही उत्सुक आहोत.

आर्किटेक्चर

उच्च स्तरावर, प्रणाली तीन स्तरांमध्ये व्यवस्थित केली आहे.

कंट्रोल प्लेन हा सिस्टीमचा मेंदू आहे, काय अस्तित्वात असावे आणि कुठे असावे हे ठरवतो. यात API गेटवे आणि क्लस्टर-स्तरीय स्थिती व्यवस्थापन मॉड्यूल असतात.

नोड-स्थानिक सेवा ही कंट्रोल प्लेनची योजना कार्यान्वित करण्यासाठी आवश्यक असलेली स्थानिक यंत्रसामग्री आहे. ते सँडबॉक्स लाइफसायकल, स्टोरेज, नेटवर्किंग आणि त्यांच्या मागची विशेषाधिकार प्राप्त ऑपरेशन्सचे मालक आहेत.

सँडबॉक्स हे स्वतः एक स्वतंत्र अंमलबजावणी वातावरण आहे. हे व्हर्च्युअल मशीन म्हणून space-daemon सोबत जोडलेले आहे: एक इन-गेस्ट बॅकग्राउंड प्रक्रिया जी वर्कलोडसाठी फाइलसिस्टम, प्रक्रिया आणि नेटवर्क प्रवेश दलालांचे काम करते.

SPACE ची वास्तुकला तीन स्तरांमध्ये विभागलेली आहे: स्टेटलेस कंट्रोल प्लेन; नोड-स्थानिक सेवा ज्या सँडबॉक्स लाइफसायकल, स्टोरेज आणि सुरक्षा गेट्स व्यवस्थापित करतात; आणि स्वतः सँडबॉक्स.

कंट्रोल प्लेन

API गेटवे हा एंट्रीपॉइंट आहे. येणाऱ्या विनंत्या प्रमाणित आणि अधिकृत केल्या जातात, नंतर इच्छित स्थितीच्या रेकॉर्डमध्ये अनुवादित केल्या जातात.

कंट्रोल प्लेन डिझाइननुसार स्टेटलेस आहे, ज्यामध्ये सर्व टिकाऊ माहिती सामायिक डेटाबेसमध्ये ऑफलोड केली जाते. हे सँडबॉक्सवरील क्लस्टर-स्तरीय माहितीचा मागोवा ठेवते, जसे की ते कोणत्या नोडला नियुक्त केले आहेत, ते कुठे चालत आहेत आणि त्यांचा टिकाऊ स्टोरेजचा बॅकअप घेतला गेला आहे की नाही. हे सतत इच्छित स्थितीची निरीक्षण केलेल्या स्थितीशी तुलना करते आणि दोघांना अभिसरणाकडे नेते. ऑपरेशन्स इम्पोटेंट आहेत, त्यामुळे क्रॅश, रीस्टार्ट किंवा आंशिक अपयशानंतर कंट्रोल प्लेन आपोआप रिकव्हर होऊ शकते.

नोड-स्थानिक सेवा

नोड-स्थानिक सेवा टेम्पलेट तयार करण्याचे, सँडबॉक्स सुरू करण्याचे, नेटवर्किंग वायरिंग करण्याचे आणि होस्ट-साइड रनटाइम सेवा चालवण्याचे प्रत्यक्ष काम करतात. प्रत्येक नोडवर लहान डॅमॉन्सचा संच चालतो जो त्यावर ठेवलेला प्रत्येक सँडबॉक्स व्यवस्थापित करतो आणि त्या सँडबॉक्सच्या थेट स्थितींसाठी नोड हा सत्याचा स्रोत आहे.

सँडबॉक्स मॅनेजरला माहित असते की कोणते सँडबॉक्स चालत आहेत, थांबवले आहेत, निलंबित आहेत किंवा थांबवले आहेत, तसेच त्यांच्या वास्तविक संसाधनांसह. ते अनप्रिव्हिलेज्ड चालते आणि सर्व विशेषाधिकार प्राप्त कार्य नोड मॅनेजरला देते, मूळ प्रक्रिया जी अंतर्निहित आदिम गोष्टींचे दलाली करते. स्टोरेज स्थानिक पातळीवर आणि टिकून राहते: वर्तमान सँडबॉक्स स्थितीचे स्नॅपशॉट नोडवर जतन केले जातात आणि क्रॉस-नोड ऑपरेशन्स सक्षम करण्यासाठी व्हॉल्यूम मॅनेजर ऑब्जेक्ट स्टोरेजमध्ये आणि बाहेर स्नॅपशॉट आणि टेम्पलेट हलवतो. सुरक्षितता गेट्स सँडबॉक्स कशापर्यंत पोहोचू शकतात याचे रक्षण करतात: क्रेडेन्शियल मॅनेजर प्रति-सेवा अधिकृतते अंतर्गत क्रेडेन्शियल इंजेक्शन नियंत्रित करतो आणि नेटवर्क गेटवे प्रत्येक सँडबॉक्सचे इग्रेस धोरण लागू करतो.

सँडबॉक्स

सँडबॉक्स स्वतः एक व्हर्च्युअल मशीन (VM) आहे ज्याचे स्वतःचे गेस्ट कर्नल आहे, जे हार्डवेअर आयसोलेशन बॉर्डरच्या मागे वापरकर्त्याचे वर्कलोड चालवते. प्रत्येक सँडबॉक्सचे स्वतःचे कर्नल असल्यामुळे, तडजोड केलेले वर्कलोड अपयशाचा एकच बिंदू म्हणून सामायिक होस्ट कर्नलवर परत येऊ शकत नाही; जरी ते त्याच्या गेस्ट कर्नलचा यशस्वीपणे गैरवापर करत असले तरी, इतर वर्कलोड्समध्ये प्रचार करण्याऐवजी ती तडजोड सँडबॉक्सच्या VM सीमेपुरती मर्यादित आहे.

प्रत्येक व्हर्च्युअल मशीनच्या आत space डॅमॉन चालतो, जो एक हलका एजंट म्हणून काम करतो जो प्लॅटफॉर्म पाहुण्यांच्या आत अंमलात आणणारी प्रत्येक क्रिया किंवा बदल नियंत्रित करतो. हे फाइलसिस्टम प्रवेश आणि प्रक्रिया व्यवस्थापन हाताळते. हे पाहुण्यांची ਤैयारी देखील नोंदवते आणि क्रियाकलापांचा मागोवा घेते, जेणेकरून प्लॅटफॉर्मला सँडबॉक्स निष्क्रिय झाल्याचे आणि थांबवले जाऊ शकते किंवा पुनर्दावा केला जाऊ शकतो हे माहीत असते. महत्त्वपूर्ण म्हणजे, space डॅमॉन क्लायंटशी थेट बोलत नाही तर खाजगी इन-VM चॅनेलवर होस्टशी संवाद साधतो. यामुळे सर्व अतिथी परस्परसंवाद नियंत्रित मार्गावर ठेवतात आणि सँडबॉक्सचे स्वतःचे नेटवर्क केवळ वर्कलोडच्या आउटबाउंड रहदारीसाठी राखून ठेवतात.

तीन स्तंभ: सुरक्षा, कार्यक्षमता आणि कार्यक्षमता

पुढे, आम्ही तीन स्तंभांमध्ये SPACE ने वितरीत करणे आवश्यक असलेल्या प्रमुख गुणधर्मांचा अभ्यास करतो: सुरक्षा, कार्यक्षमता आणि कार्यक्षमता. आधी सांगितल्याप्रमाणे, हे तिघे एकमेकांविरुद्ध खेचतात. तरीही आजच्या मॉडेलच्या क्षमतांपर्यंत पोहोचणाऱ्या शक्तिशाली एजंटना पाठिंबा द्यायचा असेल तर आपण यापैकी कशाशीही तडजोड करू शकत नाही. सुरक्षा होस्ट, इतर भाडेकरू किंवा वापरकर्त्याची रहस्ये यांना नुकसान पोहोचवण्यापासून अविश्वसनीय, संभाव्य शत्रूच्या वर्कलोडला प्रतिबंधित करते. कार्यक्षमता एजंटना त्यांना आवश्यक असलेले समृद्ध जीवनचक्र देते. मर्यादित मेमरी, डिस्क आणि संगणन अंतर्गत हे सर्व परवडणारे बनवते.

सुरक्षा: डेटा आणि प्रणालींचे संरक्षण करणे

सँडबॉक्समध्ये चालवलेला चुकीचा किंवा दुर्भावनापूर्ण कोड देखील इतरत्र हानीकारक प्रभाव पाडू शकत नाही याची खात्री करण्यासाठी सँडबॉक्स प्लॅटफॉर्मना मजबूत सुरक्षेची आवश्यकता असते. घट्ट इग्रेस नियंत्रण लागू केल्याशिवाय आणि सँडबॉक्सपासून रहस्ये दूर ठेवल्याशिवाय, एजंटद्वारे एकच चुकीची पायरी वापरकर्त्याची की लीक करू शकते किंवा कार्य बाहेर काढू शकते.

VM आणि होस्ट-स्तरीय आयसोलेशनसह काटेकोरपणे नियंत्रित संप्रेषण चॅनेल, क्रेडेन्शियल व्यवस्थापन आणि एनक्रिप्शन एकत्र करून SPACE स्तरित सुरक्षा लागू करते.

सँडबॉक्ससाठी सुरक्षा सुनिश्चित करण्यासाठी SPACE स्तरित दृष्टिकोन स्वीकारते. सँडबॉक्स आयसोलेशनचे दोन घटक आहेत, VM आयसोलेशन आणि होस्ट OS प्रक्रिया आयसोलेशन. क्रॉस-सँडबॉक्स प्रवेशासाठी दोन्हीचे उल्लंघन करणे आवश्यक आहे. सँडबॉक्सशी संप्रेषण მკ कठोरपणे नियंत्रित केले जाते; प्रक्रिया केवळ समर्पित चॅनेलद्वारे संवाद साधू शकतात. नेटवर्क गेटवे सर्व इग्रेसला त्यातून सक्ती करतो. (अविश्वसनीय) सँडबॉक्स आणि (विश्वासू) प्लॅटफॉर्म यांच्यातील space डॅमॉन हे एकमेव मंजूर चॅनेल आहे.

एजंट त्यांना चोोरी करू शकेल अशा ठिकाणी क्रेडेन्शियल कधीही राहत नाहीत. क्रेडेन्शियल स्टोअर सँडबॉक्स बॉर्डरच्या बाहेर बसतो आणि क्रेडेन्शियल लाइफसायकलसाठी जबाबदार असतो. हे प्लग करण्यायोग्य व्हॉल्ट बॅकएंडद्वारे रहस्ये संचयित करते आणि पुनर्प्राप्त करते, पदानुक्रमित स्कोपिंग वापरून क्रेडेन्शियल निराकरण करते, इंजेक्शन पद्धत आणि कालबाह्यता सारखे मेटाडेटा व्यवस्थापित करते आणि सर्व प्रवेशांवर दर मर्यादा आणि ऑडिट लॉगिंग लागू करते. आवश्यक असल्यास, सँडबॉक्समध्ये थेट प्रवेश करण्याऐवजी नेटवर्क लेयरवर क्रेडेन्शियल इंजेक्शन केले जातात किंवा ब्राउझर एजंटद्वारे स्वयंचलितपणे भरले जातात.

डेटा विश्रांतीमध्ये संरक्षित आहे. बाह्य संग्रहित डेटा सुरक्षित करण्यासाठी SPACE BYOK (Bring Your Own Key) चे समर्थन करते. एन्क्रिप्शन की ग्राहकाच्या की मॅनेजमेंट सेवेकडून येतात आणि सँडबॉक्समध्ये कधीही प्रवेश करत नाहीत. एंटरप्राइझ की रद्द करत असल्यास, त्यांचा डेटा वाचता येत नाही.

कार्यक्षमता: एजंट्रिक वर्कफ्लो पॉवर करणे

एजंट्रिक वर्कफ्लोला समर्थन देण्यासाठी, सँडबॉक्सना समृद्ध जीवनचक्र समर्थनाची आवश्यकता असते. ते जलद आणि प्रमाणावर तयार केले जाणे आवश्यक आहे, कारण एजंट एकाच वेळी अनेक स्पिन अप करू शकतो आणि त्यापैकी कोणाच्याही बूट होण्याची वाट पाहू नये. त्यांना अनिश्चित काळासाठी टिकून राहावे लागेल, कारण सत्र मिनिटे टिकू शकते किंवा महिने चालवू शकते. त्यांना स्वच्छपणे थांबवावे लागेल, काहीवेळा दीर्घ पल्ल्यासाठी, जसे की जेव्हा एखादे कार्य मानवी इनपुटवर अवरोधित केले जाते. आणि त्यांना फोर्किंग, रोलबॅक आणि क्रॅश रिकव्हरीचे समर्थन करणे आवश्यक आहे, जेणेकरून सत्र शाखा बनवू शकते, वाईट पाऊल पूर्ववत करू शकते किंवा सुरुवातीपासून सुरू करण्याऐवजी दोषानंतर पुन्हा सुरू करू शकते.

SPACE या सर्वांचे समर्थन करते. हे संपूर्ण सँडबॉक्स लाइफसायकलला स्पष्ट राज्य मशीन म्हणून मॉडेल करते, ज्यामुळे तयार करा, مک विराम द्या, पुनरावृत्ती करा, निलंबित करा आणि पुनर्स्थापित करा यासारखी ऑपरेशन्स शक्य होतात.

सँडबॉक्स स्थिती आणि स्थिती संक्रमणांचा हा मुख्य उपसंच समृद्ध जीवनचक्र समर्थन सक्षम करतो.

या बहुतेक क्षमतांच्या खाली स्नॅपशॉट ही यंत्रणा आहे. एक शेड्युलर नियमित अंतराने टिक करतो आणि दोन प्रकारचे स्नॅपशॉट कॅप्चर करतो: डिस्क स्नॅपशॉट (फाइलसिस्टमच्या पॉइंट-इन-टाइम कॉरीज) आणि संपूर्ण स्नॅपशॉट (संपूर्ण विराम दिलेल्या VM चे चेकपॉइंट्स). डिस्क स्नॅपशॉट वारंवार कॅप्चर केले जातात, तर संपूर्ण चेकपॉइंट्स कमी वारंवार असतात. सर्वकाही नोडवर राहते आणि धारणा स्तराने क्षայ होते. हे स्नॅपशॉट इन-सत्र पुनर्प्राप्तीसाठी वापरले जाऊ शकतात; उदाहरणार्थ, विनाशकारी आदेश पूर्ववत करण्यासाठी फाइलसिस्टम मागे रोल करण्यासाठी डिस्क स्नॅपशॉट वापरले जाऊ शकतात, आणि पूर्ण चेकपॉइंट्समुळे क्रॅश झालेल्या सँडबॉक्सला कोल्ड डिस्कऐवजी अलीकडील चालू असलेल्या बिंदूवर पुन्हा सुरू करण्याची परवानगी मिळते.

जेव्हा सँडबॉक्स निलंबित केला जातो, तेव्हा VM थांबवला जातो, एक पूर्ण स्नॅपशॉट घेतला जातो आणि पूर्ण स्नॅपशॉटमधील कलाकृती ऑब्जेक्ट स्टोरेजवर अपलोड केल्या जातात. डेटाबेस पंक्ती स्नॅपशॉटचा मागोवा घेते आणि प्रत्येक कलाकृती उतरल्यावरच पुनर्संचयित करण्यायोग्य बनते, त्यामुळे अंशतः अपलोड केलेले स्नॅपशॉट कधीही दूषित स्थितीत पुन्हा सुरू केले जाऊ शकत नाही. पुनर्संचयित करणे हे निलंबनाच्या उलट आहे. स्नॅपशॉट मूळ नोड ऐवजी ऑब्जेक्ट स्टोरेजमध्ये राहत असल्याने, कोणताही नोड सँडबॉक्स परत आणू शकतो. शेड्युलर एक नोड निवडतो, तो नोड कलाकृती डाउनलोड करतो, टेम्पलेटच्या शीर्षस्थानी फाइलसिस्टम डेल्टा पुन्हा लागू करतो आणि त्याच्या कॅप्चर केलेल्या स्थितीवरून VM पुन्हा सुरू करतो.

कार्यक्षमता: वेळ आणि जागेचे ऑप्टिमायझेशन

व्हॅक्यूममध्ये उपरोक्त वैशिष्ट्ये लागू करणे पुरेसे नाही; ते घट्ट संसाधन मर्यादा अंतर्गत देखील शक्य असणे आवश्यक आहे. नोडवरील मेमरी आणि डिस्क मर्यादित आहेत, आणि वापरकर्त्यांना एजंट शक्य तितक्या जलद ऑपरेट करायचे आहेत, त्यामुळे जीवनचक्र ऑपरेशन्स वेळ आणि जागा दोन्हीमध्ये स्वस्त असणे आवश्यक आहे. सँडबॉक्स तयार केला जातो, थांबवला जातो किंवा शाखा काढली जाते तेव्हा प्रत्येक वेळी संपूर्ण मशीन प्रतिमा कॉपी करणे आम्हाला परवडत नाही.

एक मुख्य डिझाइन निवड हे शक्य करते: फाइलसिस्टम. SPACE सँडबॉक्स स्टोरेजसाठी ऑन-नोड फाइलसिस्टम म्हणून btrfs वापरते. Btrfs (B-tree filesystem) एकात्मिक लॉजिकल व्हॉल्यूम व्यवस्थापनासह कॉपी-ऑन-राइट फाइलसिस्टम एकत्र करते. याचे काही फायदे आहेत:

रिफ्लिंक प्रतिलिपी जलद आहेत, कारण तुम्ही अंतर्निहित व्याप्ती सामायिक करता, त्यामुळे फक्त मेटाडेटा कॉपी करणे आवश्यक आहे.

स्नॅपशॉट आण्विक आणि जलद आहेत, कारण तुम्ही फक्त नवीन मूळ तयार करता.

किमान स्टोरेज आवश्यक आहे, कारण तुम्ही फक्त काय बदलले आहे ते साठवता.

परिणामस्वरूप, सँडबॉक्स द्रुतपणे तयार केले जाऊ शकतात आणि पुनर्संचयित केले जाऊ शकतात. प्रत्येक वेळी सुरवातीपासून सँडबॉक्स तयार करण्याऐवजी, आम्ही पॉड्सचा उबदार पूल ठेवतो ज्यांच्याकडे आधीपासून डिस्कवर सामान्य टेम्पलेट्स सामग्री आहेत, आणि ज्याचे टेम्पलेट आधीपासून जुळते अशा पॉडला बाइंड करून विनंती पूर्ण करतो. त्या सँडबॉक्सला त्याची स्वतःची लेखन करण्यायोग्य मूळ फाइलसिस्टम देणे ही संपूर्ण प्रतिलिपीऐवजी कॉपी-ऑन-राइट क्लोन आहे. जेव्हा कोणताही वॉर्म पॉड बसत नाही, तेव्हा आम्ही मागणीनुसार टेम्पलेट मटेरियल करतो; आम्ही एकाच प्रतिमेसाठी एकाच डाउनलोडमध्ये समवर्ती विनंत्या崩溃 करतो, त्यामुळे समान विनंत्यांचा स्फोट समान कामाचा स्फोट होत नाही.

परिणाम म्हणजे सँडबॉक्स रनटाइम जो एकाच वेळी शक्तिशाली, हलका आणि ज्वलनशील वेगवान आहे. जेव्हा आम्ही SPACE रोल आउट केले, तेव्हा आम्ही ते त्याच उत्पादन रहदारीवर आमच्या मागील सँडबॉक्स प्रदात्याच्या बाजूने चालवले. लॉन्च आठवड्यात, SPACE ने संपूर्ण वितरणात तीन ते पाच पट वेगाने सँडबॉक्स तयार केले. विशेषतः, मध्यियन तयार विलंब १८५ मिलिसेकंदांवरून ६० मिलिसेकंदांवर घसरला (३.१x सुधारणा), आणि ९० व्या-शंभरावा विलंब ४४७ मिलिसेकंदांवरून ८९ मिलिसेकंदांवर घसरला (५.०x सुधारणा). आम्ही इतर कामगिरी आणि संसाधन वापर निर्देशक ओलांडून समान परिमाण सुधारणांचे निरीक्षण केले.

थेट तुलनेत, SPACE सँडबॉक्ससाठी तयार करण्याची लेटन्सी आमच्या मागील सँडबॉक्स सोल्यूशनपेक्षा ५ पट जलद आहे.

हे रोलिंग डिस्क स्नॅपशॉट घेणे देखील सोपे करते, कारण ते जलद, अंतराळ कार्यक्षम आहेत आणि सँडबॉक्स थांबवण्याची आवश्यकता नाही. आणि, कार्यक्षम डेल्टा स्टोरेज या स्नॅपशॉट स्टोअर करण्यासाठी आवश्यक जागा कमी करते.

निष्कर्ष

जटिल प्रणालींची रचना करताना, एकात्मतेमध्ये अनुकूल करण्यासाठी एकल उद्दिष्ट निवडणे प्रलोभनदायक आहे. परंतु सीमावर्ती एजंट्सच्या विकासकांना समान प्रमाणात सुरक्षा, कार्यक्षमता आणि कार्यक्षमता आवश्यक आहे. SPACE सह, आम्ही तिन्ही स्तंभांवर पॅरेतो सुधारणा साध्य करण्यासाठी बाहेर पडलो.

प्रत्येक वैयक्तिक डिझाइन निवड एकाच वेळी अनेक ध्येयांची पूर्तता करू शकते, ज्यामुळे हा नाजूक समतोल शक्य होतो. प्रति-सँडबॉक्स VMs प्रत्येक वर्कलोडला स्वतःचे कर्नल देतात, मजबूत आयसोलेशनद्वारे सुरक्षितता मजबूत करतात आणि त्याच वेळी स्नॅपशॉट ज्यावर अवलंबून असतात ती स्वच्छ चेकपॉइंट सीमा प्रदान करतात. Btrfs स्नॅपशॉटिंग, फोर्किंग आणि एजंट्रिक रनटाइमसाठी आवश्यक इतर ऑपरेशन्सची कार्यक्षम अंमलबजावणी सक्षम करते. space डॅमॉन सर्व अतिथी परस्परसंवाद नियंत्रित होस्ट-साइड मार्गावर ठेवते, पाहुण्यांच्या युक्तीचे स्वातंत्र्य राखून पाहुणा-होस्ट सीमेला सील करते. केंद्रीय नेटवर्क गेटवे अतिथीसमोर रहस्ये उघड न करता इग्रेस आणि क्रेडेन्शियल इंजेक्शन मध्यस्थी करतो.

या आणि इतर डिझाइन निर्णयांचा परिणाम म्हणजे एक प्लॅटफॉर्म जो मोठ्या प्रमाणावर वास्तविक-जगातील एजंट ऑर्केस्ट्रेशन सक्षम करतो. SPACE तो सब्सट्रेट प्रदान करतो ज्यावर दीर्घकाळ चालणारे, स्टेटफुल एजंट कार्यप्रदर्शन किंवा सुरक्षिततेचा त्याग न करता मनमानी जटिलता किंवा कालावधीचे कार्य सुरक्षितपणे पार पाडू शकतात.

आज, SPACE आधीच लाखो Perplexity Computer सत्रांना सामर्थ्य देते. Linux मायक्रोVMs ते Windows पाहुण्यांच्या ते वापरकर्त्याच्या स्वतःच्या स्थानिक मशीनपर्यंत: कोणत्याही सेटिंगमध्ये सँडबॉक्स प्रोव्हिजनिंग आणि नियंत्रित करण्यासाठी SPACE ने एक युनिफाइड लेयर म्हणून काम करावे अशी हमारी इच्छा आहे. आम्ही SPACE ला या नवीन सेटिंग्जमध्ये ढकलण्यासाठी कठोर मेहनत घेत आहोत, जेणेकरून विकासक सर्वत्र कार्य करणारे AI उत्पादने पाठवू शकतील.

जर तुम्हाला उद्याच्या सीमावर्ती एजंट्सना चालना देणारा कॉम्प्युटर लेयर तयार करण्याची इच्छा असेल, तर आम्ही तुम्हाला join our team साठी आमंत्रण देतो.