आम्ही पहिल्या दिवसापासून Comet मध्ये सुरक्षा कशी तयार केली

Comet वापरकर्त्यांच्या वतीने वेबसाइट्स ब्राउझ करण्यासाठी, सामग्रीशी संवाद साधण्यासाठी आणि जटिल कार्ये पूर्ण करण्यासाठी AI सहाय्यकांना शक्तिशाली क्षमता प्रदान करते. या क्षमतांना तितक्याच शक्तिशाली सुरक्षेची आवश्यकता असते. Comet सार्वजनिकपणे लॉन्च करण्यापूर्वी, आम्ही औपचारिक ऑडिटद्वारे आमच्या बचावाची ताकद तपासण्यासाठी Trail of Bits ची मदत घेतली. वापरकर्त्यांनी संवेदनशील कार्यांसाठी Comet वर विसंबून राहण्यापूर्वी, त्यांच्या कामामुळे आम्हाला असुरक्षितता ओळखण्यास आणि आमचे उपाय मजबूत करण्यास मदत झाली.​

सुरुवातीपासून सुरक्षा निर्माण करणे

प्रॉम्प्ट इन्जेक्शन हल्ले सतत विकसित होत आहेत, आणि त्यांच्यापासून बचाव करण्यासाठी बहु-स्तरीय दृष्टिकोनाची आवश्यकता असते. आम्हाला सुरुवातीपासूनच माहीत होते की एखादी एकेरी सुरक्षा यंत्रणा पुरेशी ठरणार नाही. आमचे मुख्य तत्त्व सोपे आहे: एकापेक्षा जास्त सुरक्षा कवच हे सुनिश्चित करतात की जर एक स्तर बायपास झाला, तर वापरकर्त्यांना सुरक्षित ठेवण्यासाठी इतर स्तर कायम राहतील.​ आम्ही ते प्रत्यक्षात कसे आणले ते येथे आहे.

आमचा सुरक्षा प्रवास: प्रमुख टप्पे

एप्रिल २०२५: लाँचपूर्वी सुरक्षा ऑडिट

Comet सार्वजनिकपणे लाँच करण्यापूर्वी, आम्ही आमच्या आर्किटेक्चरचे पद्धतशीर थ्रेट मॉडेलिंग करण्यासाठी Trail of Bits ला नियुक्त केले. त्यांच्या टीमने रिअल-वर्ल्ड अटॅकचे वेगवेगळे प्रकार तपासून पाहिले आणि विरोधक जंगलात (किंवा प्रत्यक्षात) वापरू शकतील अशा तंत्रांचा वापर करून आमचे संरक्षण बायपास करण्याचा प्रयत्न केला. ऑडिटमुळे आमच्या सुरक्षा प्रणालीमधील विशिष्ट त्रुटी ओळखल्या गेल्या आणि पुनरावृत्ती सुधारणा प्रक्रिया सुरू झाली. वापरकर्त्यांवर परिणाम होण्यापूर्वी आम्ही आमचे उपाय परिष्कृत केले आणि असुरक्षितता दूर केली.​

ऑक्टोबर २०२५: आमचे संरक्षण आर्किटेक्चर प्रकाशित करणे

आम्ही आमची चार-स्तरीय संरक्षण आर्किटेक्चर फ्रेमवर्क आणि प्रत्येक घटकामागची भूमिका स्पष्ट करणारी तपशीलवार तांत्रिक पोस्ट प्रकाशित केली. या पोस्टमध्ये लपवलेले HTML आणि CSS इन्जेक्शनपासून ते सामग्री संभ्रम आणि ध्येय हायजॅकिंगपर्यंत, आम्ही ज्या विशिष्ट प्रकारच्या हल्ल्यांपासून बचाव करतो त्यांची रूपरेषा दिली आहे. आम्ही आमचा बग बाउन्टी प्रोग्राम देखील जाहीर केला, ज्यामध्ये सुरक्षा संशोधकांना आमच्या बचावाची चाचणी घेण्यासाठी आणि असुरक्षिततेची तक्रार करण्यासाठी आमंत्रित केले गेले. पारदर्शकता हा आमच्या सुरक्षा दृष्टिकोनाचा नेहमीच गाभा राहिला आहे: आमचा विश्वास आहे की आमची कार्यपद्धती सामायिक केल्याने संपूर्ण AI उद्योग अधिक मजबूत होतो.​

डिसेंबर २०२५: BrowseSafe ओपन-सोर्स करणे

जेव्हा संपूर्ण AI समुदाय सामायिक संशोधनातून शिकू शकतो तेव्हा सुरक्षा सुधारते. आम्ही आमचे डिटेक्शन मॉडेल आणि मूल्यमापन बेंचमार्क, BrowseSafe, ओपन-सोर्स साधना म्हणून रिलीज केले. BrowseSafe-Bench मध्ये ११ आक्रमण प्रकार, ९ इन्जेक्शन धोरणे आणि ३ भाषिक शैलींचा समावेश असलेली १४,७१९ उदाहरणे समाविष्ट आहेत. आमची कार्यपद्धती आणि डेटासेट प्रकाशित करून, आम्ही इतर AI विकसकांना सुरक्षित प्रणाली तयार करण्यात मदत करत आहोत आणि संपूर्ण उद्योगातील सुरक्षा मानकांमध्ये योगदान देत आहोत. डेव्हलपर समुदायाकडून मिळालेला प्रतिसाद खूप प्रोत्साहन देणारा आहे, आणि टीम्स आधीपासूनच त्यांच्या स्वतःच्या AI सहाय्यक सुरक्षेमध्ये सुधारणा करण्यासाठी BrowseSafe वापरत आहेत.​

आपण काय शिकलो आहोत

AI सहाय्यकांसाठी सुरक्षा तयार केल्यामुळे आम्हाला विकसित होत असलेल्या धोक्याच्या लँडस्केपबद्दल महत्त्वाचे धडे मिळाले आहेत. बाह्य शत्रूच्या चाचणीमुळे अंध बिंदू उघड होतात जे अंतर्गत टीम्स चुकवू शकतात, मग त्या कितीही कुशल असोत. थ्रेट मॉडेलिंग हा एक वेळचा व्यायाम नाही तर एक सतत चालणारी शिस्त आहे जी हल्ल्याची तंत्रे प्रगत होत असताना विकसित झाली पाहिजे. सर्वात महत्त्वाչ म्हणजे, सुरक्षिततेला संपूर्ण उद्योगातील सहकार्याची आवश्यकता असते. आमचे संशोधन सामायिक करून, बाह्य तज्ञांना सामावून घेऊन आणि खुल्या मानकांमध्ये योगदान देऊन, आम्ही अधिक सुरक्षित इकोसिस्टम तयार करण्यात मदत करत आहोत.

आमची सततची वचनबद्धता

Comet विकसित होत असताना आम्ही नियमित सुरक्षा मूल्यांकन राखतो, ज्यामुळे लॉन्च होण्यापूर्वी नवीन वैशिष्ट्ये कठोर छाननीतून जातात याची खात्री होते. AI सुरक्षा संशोधनातील चुकीची माहिती कमी करण्यात मदत करण्यासाठी, आम्ही मजबूत मूल्यमापन पद्धती आणि पारदर्शक अहवालात गुंतवणूक करतो जेणेकरून Comet च्या बचावाबद्दलचे निष्कर्ष अचूक, पुनरुत्पादित असतील आणि खळबळजनक किंवा अपूर्ण सुरक्षा दाव्यांमुळे विकृत होणार नाहीत.

आमची टीम एक भरभराटीचा व्हलनरॅबिलिटी डिस्क्लोजर प्रोग्राम आणि खाजगी बग बाउन्टी प्रोग्राम देखील चालवते, ज्यामध्ये सर्वत्र सुरक्षा संशोधकांना आमच्या बचावाची चाचणी घेण्यासाठी आमंत्रित केले जाते. AI सहाय्यक अधिक सक्षम होत असताना आणि अधिकाधिक संवेदनशील कार्ये हाताळत असताना, आमच्या सुरक्षेतील गुंतवणूक त्यानुसार वाढत जाईल.​