প্রথম দিন থেকে আমরা কীভাবে Comet-এ নিরাপত্তা তৈরি করেছি

Comet ব্যবহারকারীদের পক্ষে ওয়েবসাইট ব্রাউজ করতে, কন্টেন্টের সাথে ইন্টারঅ্যাক্ট করতে এবং জটিল কাজগুলি সম্পন্ন করতে AI অ্যাসিস্ট্যান্টদের শক্তিশালী ক্ষমতা প্রদান করে। এই ক্ষমতাগুলির জন্য সমানভাবে শক্তিশালী সুরক্ষার প্রয়োজন। Comet প্রকাশ্যে লঞ্চ করার আগে, আমরা আনুষ্ঠানিক অডিটের মাধ্যমে আমাদের প্রতিরক্ষাকে চাপ পরীক্ষা করার জন্য ট্রেল অফ বিটসকে নিয়োগ করেছি। ব্যবহারকারীরা সংবেদনশীল কাজের জন্য Comet-এর উপর নির্ভর করা শুরু করার আগে তাদের কাজ আমাদের দুর্বলতা চিহ্নিত করতে এবং আমাদের প্রতিকারগুলিকে শক্তিশালী করতে সাহায্য করেছিল।

গ্রাউন্ড আপ থেকে প্রতিরক্ষা তৈরি করা

প্রম্পট ইনজেকশন আক্রমণ ক্রমাগত বিকশিত হচ্ছে, এবং সেগুলির বিরুদ্ধে রক্ষা করার জন্য একটি বহু-স্তর বিশিষ্ট পদ্ধতির প্রয়োজন। আমরা শুরু থেকেই জানতাম যে একটিমাত্র প্রতিরক্ষা ব্যবস্থা যথেষ্ট হবে না। আমাদের মূল নীতিটি সহজ: ওভারল্যাপিং সুরক্ষা নিশ্চিত করে যে যদি একটি স্তর বাইপাস করা হয়, তবে ব্যবহারকারীদের নিরাপদ রাখতে অন্যগুলি থেকে যায়। আমরা কীভাবে এটিকে বাস্তবে রূপ দিই তা এখানে দেওয়া হলো।

আমাদের নিরাপত্তা যাত্রা: মূল মাইলফলকসমূহ

এপ্রিল ২০২৫: লঞ্চ-পূর্ববর্তী নিরাপত্তা অডিট

Comet প্রকাশ্যে লঞ্চ করার আগে, আমরা আমাদের আর্কিটেকচারের পদ্ধতিগত হুমকি মডেলিং পরিচালনা করার জন্য Trail of Bits-কে নিয়োগ করেছি। তাদের দল বাস্তব বিশ্বের আক্রমণ দৃশ্যপট পরীক্ষা করেছে, আক্রমণকারীরা বন্য পরিবেশে ব্যবহার করতে পারে এমন কৌশল ব্যবহার করে আমাদের প্রতিরক্ষা বাইপাস করার চেষ্টা করেছে। অডিট আমাদের সুরক্ষা সিস্টেমে নির্দিষ্ট ফাঁকগুলি চিহ্নিত করেছে এবং একটি পুনরাবৃত্তিমূলক প্রতিকার প্রক্রিয়া শুরু করেছে। ব্যবহারকারীদের প্রভাবিত করার আগেই আমরা আমাদের প্রশমনগুলিকে পরিমার্জিত করেছি এবং দুর্বলতাগুলি বন্ধ করেছি।

অক্টোবর ২০২৫: আমাদের প্রতিরক্ষা আর্কিটেকচার প্রকাশ করা হচ্ছে

আমরা আমাদের চার-স্তর বিশিষ্ট প্রতিরক্ষা আর্কিটেকচার ফ্রেমওয়ার্ক এবং প্রতিটি উপাদানের পেছনের যুক্তি ব্যাখ্যা করে একটি বিস্তারিত প্রযুক্তিগত পোস্ট প্রকাশ করেছি। পোস্টটিতে নির্দিষ্ট আক্রমণের ধরনগুলির রূপরেখা দেওয়া হয়েছে যার বিরুদ্ধে আমরা রক্ষা করি, লুকানো HTML এবং CSS ইনজেকশন থেকে শুরু করে কন্টেন্ট বিভ্রান্তি এবং গোল হাইজ্যাকিং পর্যন্ত। আমরা আমাদের বাগ বাউন্টি প্রোগ্রামেরও ঘোষণা করেছি, নিরাপত্তা গবেষকদের আমাদের প্রতিরক্ষা পরীক্ষা করতে এবং দুর্বলতা রিপোর্ট করার জন্য আমন্ত্রণ জানিয়েছি। স্বচ্ছতা সবসময় আমাদের নিরাপত্তা পদ্ধতির কেন্দ্রবিন্দুতে রয়েছে: আমরা বিশ্বাস করি আমাদের পদ্ধতি শেয়ার করা সমগ্র AI ইন্ডাস্ট্রিকে আরও শক্তিশালী করে তোলে।

ডিসেম্বর ২০২৫: BrowseSafe ওপেন-সোর্সিং করা হচ্ছে

সমগ্র AI কমিউনিটি যখন শেয়ার করা গবেষণা থেকে শিখতে পারে তখন নিরাপত্তা উন্নত হয়। আমরা ওপেন-সোর্স টুল হিসাবে আমাদের ডিটেকশন মডেল এবং মূল্যায়ন বেঞ্চমার্ক BrowseSafe প্রকাশ করেছি। BrowseSafe-Bench-এ ১৪,৭১৯টি উদাহরণ রয়েছে যা ১১টি আক্রমণের ধরন, ৯টি ইনজেকশন কৌশল এবং ৩টি ভাষাগত শৈলী কভার করে। আমাদের পদ্ধতি এবং ডেটাসেট প্রকাশ করে, আমরা অন্যান্য AI ডেভেলপারদের নিরাপদ সিস্টেম তৈরি করতে এবং শিল্প-ব্যাপী নিরাপত্তা মানগুলিতে অবদান রাখতে সাহায্য করছি। ডেভেলপার সম্প্রদায়ের প্রতিক্রিয়া উৎসাহব্যঞ্জক হয়েছে, দলগুলি ইতিমধ্যেই তাদের নিজস্ব AI অ্যাসিস্ট্যান্ট নিরাপত্তা উন্নত করতে BrowseSafe ব্যবহার করছে।

আমরা যা শিখেছি

AI অ্যাসিস্ট্যান্টদের জন্য নিরাপত্তা তৈরি করা আমাদের ক্রমবর্ধমান হুমকির ল্যান্ডস্কেপ সম্পর্কে গুরুত্বপূর্ণ পাঠ শিখিয়েছে। বাহ্যিক প্রতিকূল পরীক্ষা অন্ধ দাগগুলি প্রকাশ করে যা অভ্যন্তরীণ দলগুলি মিস করতে পারে, যতই দক্ষ হোক না কেন। হুমকি মডেলিং এককালীন অনুশীলন নয় বরং একটি চলমান শৃঙ্খলা যা আক্রমণ কৌশল অগ্রসর হওয়ার সাথে সাথে বিকশিত হতে হবে। সবচেয়ে গুরুত্বপূর্ণ বিষয় হল, নিরাপত্তার জন্য সমগ্র শিল্পজুড়ে সহযোগিতার প্রয়োজন। আমাদের গবেষণা ভাগ করে, বাহ্যিক বিশেষজ্ঞদের সম্পৃক্ত করে এবং উন্মুক্ত মানগুলিতে অবদান রেখে, আমরা একটি নিরাপদ ইকোসিস্টেম তৈরি করতে সাহায্য করছি।

আমাদের চলমান প্রতিশ্রুতি

Comet বিকশিত হওয়ার সাথে সাথে আমরা নিয়মিত নিরাপত্তা মূল্যায়ন বজায় রাখি, নতুন বৈশিষ্ট্যগুলি লঞ্চ করার আগে কঠোর যাচাইকরণের মধ্য দিয়ে যায় তা নিশ্চিত করি। AI নিরাপত্তা গবেষণায় ভুল তথ্য কমাতে সাহায্য করার জন্য, আমরা শক্তিশালী মূল্যায়ন অনুশীলন এবং স্বচ্ছ রিপোর্টিংয়ে বিনিয়োগ করি যাতে Comet-এর প্রতিরক্ষা সম্পর্কে ফলাফলগুলি নির্ভুল, পুনরুৎপাদনযোগ্য হয় এবং সংবেদনশীল বা অসম্পূর্ণ নিরাপত্তা দাবির দ্বারা বিকৃত না হয়।

আমাদের টিম একটি সফল ভালনারেবিলিটি ডিসক্লোজার প্রোগ্রাম এবং ব্যক্তিগত বাগ বাউন্টি প্রোগ্রামও পরিচালনা করে, যা সর্বত্র নিরাপত্তা গবেষকদের আমাদের প্রতিরক্ষা পরীক্ষা করার জন্য আমন্ত্রণ জানায়। AI অ্যাসিস্ট্যান্টগুলি আরও বেশি সক্ষম হয়ে উঠলে এবং ক্রমবর্ধমান সংবেদনশীল কাজগুলি পরিচালনা করার সাথে সাথে, আমাদের নিরাপত্তা বিনিয়োগগুলি সে অনুযায়ী স্কেল করতে থাকবে।