Numbat দিয়ে Perplexity-এর ক্লায়েন্ট এন্ডপয়েন্ট জুড়ে এজেন্ট সুরক্ষিত করা

Numbat হল ক্লায়েন্ট এন্ডপয়েন্টের জন্য Perplexity-এর ওপেন-সোর্স এজেন্ট সিকিউরিটি স্যুট। এটি macOS, Linux, এবং Windows-এ ঝুঁকিপূর্ণ AI এজেন্টের আচরণ সনাক্ত করে, প্রতিরোধ করে এবং তদন্ত করে।

লেখকগণPerplexity Secure Intelligence Institute

AI এজেন্টদের দরকারী হতে হলে নিরাপদ হতে হবে। মডেল এবং সিস্টেমের ক্ষমতা বৃদ্ধির সাথে সাথে ব্যবহারকারীদের সুরক্ষার জন্য প্রয়োজনীয় সতর্কতাও বৃদ্ধি পায়।

প্রাথমিক এজেন্ট সুরক্ষা গবেষণা প্রম্পট ইনজেকশন এবং অন্যান্য ধরনের প্রতিকূল ইনপুটের উপর ফোকাস করেছিল। তবুও এজেন্ট স্বায়ত্তশাসনে সাম্প্রতিক অগ্রগতি এমন নিরাপত্তা ঘটনার জন্ম দেয় যেগুলোর জন্য প্রতিকূল ইনপুট—অথবা কোনো মানব বিপক্ষ দলের অস্তিত্বের অনুমান করার প্রয়োজন হয় না।

বলা যায়, উচ্চ-স্তরের লক্ষ্যগুলি অনুসরণ করার জন্য নির্দেশিত এজেন্টগুলি, কীভাবে সেই লক্ষ্যগুলি অর্জন করতে হবে তার প্রেসক্রিপ্টিভ নির্দেশিকা ছাড়াই, শত্রু হয়ে উঠতে পারে। এটি তখন ঘটে যখন একজন এজেন্ট, ব্যবহারকারী-নির্দিষ্ট লক্ষ্যের প্রতিক্রিয়ায়, এমন একটি কর্মপন্থা বেছে নেয় যা ব্যবহারকারী চাননি এবং অনুমোদন করতেন না। যদিও এই ধরনের ঘটনাগুলি মাত্র কয়েক মাস আগে তাত্ত্বিকভাবে বিবেচনা করা হয়েছিল, তবে সেগুলি দ্রুত বাস্তবসম্মত উদ্বেগের বিষয়ে পরিণত হয়েছে।

যেহেতু এই আচরণগুলি মডেল স্তরের মধ্যে সম্পূর্ণরূপে প্যাচ করা যায় না, তাই একটি শক্তিশালী সুরক্ষাকে অবশ্যই আশেপাশের সিস্টেমে থাকতে হবে, যার মধ্যে এজেন্ট হারনেসও রয়েছে যা মডেলের বাহ্যিক বিশ্বের ইন্টারফেস হিসাবে কাজ করে। আমরা Numbat ওপেন-সোর্স করছি, আমাদের এজেন্ট সিকিউরিটি স্যুট যা ডিফেন্ডারদের এজেন্ট-সম্পর্কিত ঘটনা প্রতিরোধ করতে, সনাক্ত করতে এবং প্রশমিত করতে সাহায্য করে। Numbat এন্টারপ্রাইজ ক্লায়েন্ট এন্ডপয়েন্টগুলিতে সাধারণত পাওয়া এজেন্ট হারনেস সনাক্ত করে এবং সরাসরি সেগুলির সাথে সংহত হয়, সুরক্ষা নিয়ম প্রয়োগ করে এবং দ্রুত সনাক্তকরণ ও প্রতিক্রিয়া সক্ষম করে।

ভূমিকা

এজেন্টদের গ্রহণ করা ডেভেলপার, গ্রহণকারী এবং ডিফেন্ডারদের জন্য নতুন নিরাপত্তা চ্যালেঞ্জ তৈরি করে। এটি বিশেষ করে সত্য যখন এন্টারপ্রাইজগুলি এন্টারপ্রাইজ সিস্টেম এবং ডেটাতে বিশেষাধিকারপ্রাপ্ত অ্যাক্সেস সহ ক্লায়েন্ট এন্ডপয়েন্টে সরাসরি এজেন্ট স্থাপন করে।

CLI-ভিত্তিক বা ডেস্কটপ অ্যাপ-ভিত্তিক কোডিং এজেন্টের মতো ক্লায়েন্ট এন্ডপয়েন্টে এজেন্ট স্থাপনাগুলি বিভিন্ন মাত্রার স্যান্ডবক্সিং এবং আইসোলেশনের সাথে আসে। ব্যবহারকারীরা অগণিত ব্যবহারের কেসের জন্য এই এজেন্টগুলিকে কাজে লাগায়, প্রতিটির নিজস্ব পরিপূরক অ্যাকশন স্পেস রয়েছে যা এন্ডপয়েন্টকে নিজে প্রভাবিত করতে পারে বা এন্ডপয়েন্ট থেকে অ্যাক্সেসযোগ্য অন্যান্য সিস্টেমকে প্রভাবিত করতে পারে। ক্রমবর্ধমানভাবে, এজেন্টদের কয়েক ঘণ্টা বা এমনকি দিন ধরে স্বায়ত্তশাসিতভাবে কাজ করার আশা করা হয়। এই ওয়ার্কফ্লোগুলির জন্য, অনেক ব্যবহারকারী ক্লাসিফায়ারগুলিতে এজেন্ট অ্যাকশন অনুমোদন অর্পণ করতে পছন্দ করেন, অথবা --dangerously-skip-permissions এবং --yolo এর মতো উদ্বেগের সাথে নামকৃত কনফিগারেশন ফ্ল্যাগগুলির সাথে সম্পূর্ণভাবে অনুমোদনগুলি বাইপাস করেন। এজেন্ট ব্যবহারের কেস এবং কনফিগারেশনের বহুগুণ, কোডিং এজেন্টগুলি প্রিভিলেজড এন্ডপয়েন্টে পারফর্ম করতে পারে এমন ক্রিয়াকলাপগুলির প্রশস্ততার সাথে মিলিত হয়ে, একটি ঝুঁকি প্রোফাইল তৈরি করে যার জন্য সিকিউরিটি টিমগুলির সক্রিয় ব্যবস্থাপনা প্রয়োজন।

আজ, আমরা প্রকাশ করছি Numbat, একটি ওপেন-সোর্স এজেন্ট সিকিউরিটি স্যুট যা আমরা AI এজেন্টদের থেকে বিপজ্জনক কার্যকলাপ সনাক্ত করতে, তদন্ত করতে এবং প্রতিরোধ করতে তৈরি করেছি। যেহেতু আরও বেশি কোম্পানি ফ্রন্টিয়ার এজেন্ট পণ্য গ্রহণ করছে, Numbাত ফলস্বরূপ নিরাপত্তা চ্যালেঞ্জগুলির সাথে তাল মিলিয়ে চলতে সিকিউরিটি টিমদের ক্ষমতা দেয়। এটি সর্বাধিক ব্যাপকভাবে ব্যবহৃত ক্লায়েন্ট-সাইড এজেন্ট হারনেসের প্রতিটিতে একত্রিত হয় এবং সেগুলির সব জুড়ে একটি সামঞ্জস্যপূর্ণ ইন্টারফেস প্রকাশ করে। Numbat এইভাবে সিকিউরিটি টিমদের তাদের ব্যবহারকারীরা নির্ভর করে এমন প্রতিটি পৃথক এজেন্টের জন্য কাস্টম সেফগার্ড এবং মনিটরিং টুল তৈরি করার বোঝা থেকে মুক্ত করে। NVIDIA এবং অন্যান্য সংস্থাগুলির সাথে ওপেন সিকিউর এআই অ্যালায়েন্স-এ Perplexity-এর সদস্যতার অংশ হিসাবে ডিফেন্ডার ইকোসিস্টেমের জন্য Numbat উপলব্ধ।

Numbat-সুরক্ষিত এজেন্টদের সিস্টেম আর্কিটেকচার। Numbat স্থানীয়-প্রথম সনাক্তকরণ এবং এজেন্ট-অ্যাগনস্টিক ফরেনসিকের উপর জোর দেয়।

এই নিবন্ধটি Numbat-কে অনুপ্রাণিত করার নিরাপত্তা চ্যালেঞ্জগুলির আলোচনার মাধ্যমে শুরু হয়। তারপরে আমরা Numbat-এর ডিজাইন এবং আর্কিটেকচার উপস্থাপন করি, সাথে Perplexity-এর হাজার হাজার নিজস্ব এন্ডপয়েন্টে Numbat মোতায়েন করার আমাদের পাঠগুলি উপস্থাপন করি।

ভালনারেবিলিটি ল্যান্ডস্কেপ স্থাপন করা

AI এজেন্ট নিরাপত্তা ঘটনার ল্যান্ডস্কেপ দ্রুত বিকশিত হচ্ছে। বিদ্যমান এজেন্ট সুরক্ষা সাহিত্যের বেশিরভাগই ইনজেকশন আক্রমণের উপর ফোকাস করে, যেখানে এজেন্টদের অনুপযুক্ত আচরণে বিভ্রান্ত করার জন্য মডেল প্রম্পট বা কনটেক্সটে একটি ক্ষতিকারক পেলোড প্রবর্তন করা হয়। ইনজেকশন আক্রমণ এবং সেফগার্ডগুলি ব্যাপকভাবে অধ্যয়ন করা হয়েছে, এবং Perplexity সহ এজেন্ট ডেভেলপাররা ইনজেকশন আক্রমণের বিরুদ্ধে ক্রমবর্ধমান শক্তিশালী প্রতিরক্ষা তৈরি করেছে।

কিন্তু একটি নিরাপত্তা ঘটনা তৈরি করার জন্য একটি AI এজেন্টের একটি ক্ষতিকারক পেলোডের প্রয়োজন হয় না। প্রকৃতপক্ষে, কারো কোনো বিপক্ষ দলের অস্তিত্বের অনুমান করার প্রয়োজন নেই। একজন বিশ্বস্ত এজেন্ট, অ্যাডমিনিস্ট্রেটর-অনুমোদিত টুল সহ একটি বিশ্বস্ত পরিবেশের ভিতরে কাজ করে, ক্ষতিকারক পদক্ষেপ নিতে পারে কেবল কারণ এটি তার কাজ শেষ করার জন্য খুব বেশি চেষ্টা করছে।

গবেষকরা এই ফেইল মোডটিকে একটি “দুর্ঘটনাবশত মেল্টডাউন” হিসাবে বর্ণনা করেছেন: ক্ষতিকারক এজেন্টের আচরণ প্রতিকূল ইনপুট দ্বারা ট্রিগার হয় না, বরং একটি সাধারণ পরিবেশগত ত্রুটি দ্বারা ট্রিগার হয়। একটি অনুপস্থিত ফাইল, ব্যর্থ API অনুরোধ, মেয়াদোত্তীর্ণ শংসাপত্র, বা অনুমতি অস্বীকৃতি একটি এজেন্টকে একটি বিকল্প খুঁজে পেতে পাঠাতে পারে। তার আসল ব্যবহারকারী-নির্দিষ্ট লক্ষ্য অর্জনে, এজেন্ট অননুমোদিত রিকনেসান্স, অ্যাক্সেস-কন্ট্রোল পরিবর্তন, গোপন আবিষ্কার, বা ডেটা এক্সফিল্ট্রেশনের মাধ্যমে নিরাপত্তা সীমানা অতিক্রম করতে পারে। একজন আক্রমণকারীর দ্বারা এজেন্টকে কো-অপ্ট করার পরিবর্তে, এজেন্ট নিজেই আক্রমণকারী। অধিকন্তু, আক্রমণটি অভ্যন্তরীণ সিস্টেম, বাহ্যিক সিস্টেম বা উভয়কেই লক্ষ্য করতে পারে, আক্রমণটি ইতিমধ্যে চলমান না হওয়া পর্যন্ত জানার কোনো উপায় নেই।

প্রথম ব্যাপকভাবে রিপোর্ট করা আকস্মিক মেল্টডাউন এই মাসে এসেছে, OpenAI-এর একটি এজেন্ট-সূচিত আক্রমণের প্রকাশ যা Hugging Face-এর প্রোডাকশন পরিকাঠামোকে আপস করেছে। একটি প্রি রিলিজ GPT মডেলের মূল্যায়নের সময়, মডেলটি সরবরাহ করা প্রেক্ষাপটের সাথে মূল্যায়নে অগ্রগতি করতে অক্ষম বলে মনে করেছে। এই লগজাম ভাঙতে, মডেলটি তার স্যান্ডবক্স টেস্টিং পরিবেশ থেকে পালানোর এবং Hugging Face থেকে মূল্যায়নের উত্তরগুলি এক্সফিল্ট্রেট করার একটি উপায় খুঁজে পেয়েছিল। মডেলটি উদ্দেশ্যপ্রণোদিত নেটওয়ার্ক সীমাবদ্ধতা থেকে বাঁচতে, স্যান্ডবক্স সীমানার বাইরে সুযোগ-সুবিধা বাড়াতে, সিক্রেট পেতে এবং সুরক্ষিত Hugging Face সিস্টেমে অ্যাক্সেস করতে তার হারনেস ব্যবহার করেছে, সবই মূল্যায়ন সমাধানের সংকীর্ণ উদ্দেশ্য অর্জনের জন্য।

মেলটডাউন-এর মধ্যে অনিচ্ছাকৃত সিস্টেম মিউটেশন এবং ডিলিটও অন্তর্ভুক্ত। যদিও বাহ্যিক একটি সিস্টেম ভাঙার তুলনায় এটি হয়তো কিছুটা বেশি সাধারণ, তবু এই ঘটনাগুলি বেশি ঘন ঘন ঘটে এবং কোডিং এজেন্টের যেকোনো পাওয়ার ইউজারের কাছে বেশি গুরুত্বপূর্ণ। প্রোডাকশন ডেটাবেস বা হোম ডিরেক্টরি মুছে ফেলা যে কোনো ডেভেলপারের দুঃস্বপ্ন, এবং এজেন্টদের তাদের পুরো কার্যনির্বাহ জুড়ে এমন আচরণ থেকে দূরে থাকতে সক্ষম হতে হবে.

AI গবেষকরা মডেলগুলির মধ্যেই এই আচরণগুলি প্রশমিত করার জন্য কাজ করছেন। যদিও এই প্রচেষ্টাগুলি নিশ্চিতভাবেই মূল্যবান, গবেষণ সম্প্রদায়ের অনেকে শক্তিশালী নিরাপত্তা বৈশিষ্ট্যের জন্য মডেল প্রশিক্ষণের মধ্যে এবং ক্রমবর্ধমান জটিল কাজগুলি সম্পাদন করার জন্য সেই একই মডেলগুলিকে প্রশিক্ষণের মধ্যে একটি মৌলিক টেনশন উপলব্ধি করেন। আমরা বিশ্বাস করি যে শুধুমাত্র মডেল স্তরের উপর ফোকাসকারী প্রতিরক্ষাগুলি মেল্টডাউনের ঝুঁকি গ্রহণযোগ্য স্তরে কমিয়ে দেবে এমন সম্ভাবনা কম।

নেটিভ হারনেস ইন্টিগ্রেশনের মাধ্যমে কোডিং এজেন্টদের সুরক্ষিত করা

এর ফলাফল হল যে এজেন্ট সুরক্ষা শুধুমাত্র মডেল, ব্যবহারকারী বা টাস্ক-স্তরের সেফগার্ডের উপর নির্ভর করতে পারে না। বরং, সিকিউরিটি টিমদের ক্লায়েন্ট এন্ডপয়েন্টে এজেন্টরা আসলে কী করে সেটির দৃশ্যমানতা প্রয়োজন, এবং এমন কন্ট্রোল যা বিপজ্জনক ক্রিয়াকলাপগুলি চালিত হওয়ার আগেই বন্ধ করতে পারে। এগুলি হল সিস্টেম-স্তরের কন্ট্রোল যা এজেন্ট হারনেসের সাথে নিবিড়ভাবে সংহত করা আবশ্যক।

Numbat এই কন্ট্রোলগুলি একটি হালকা ওজনের স্ট্যাটিক Go বাইনারির আকারে প্রদান করে যা নেতৃস্থানীয় ক্লায়েন্ট-সাইড এজেন্ট হারনেসগুলিতে নির্বিঘ্নে প্লাগ ইন করে। এটি এজেন্ট হারনেস এবং এক্সিকিউশন পরিবেশ জুড়ে লাইভ মনিটরিং, পলিসি প্রয়োগ এবং ফরেনসিক রি কনস্ট্রাকশন অফার করে।

Numbat এবং একটি এজেন্ট হারনেসের মধ্যে মূল ইন্টিগ্রেশন পয়েন্ট হল হুক, সেশন আর্টিফ্যাক্ট এবং OTLP টেলিমিত্রি। আমরা পালাক্রমে প্রতিটি নিয়ে আলোচনা করি।

হুক

কার্যত সমস্ত কোডিং এজেন্টের একটি হুক সাবসিস্টেম রয়েছে। হুকগুলি এজেন্টদের এজেন্ট এক্সিকিউশন লাইফসাইকেলের মধ্যে পূর্বনির্ধারিত পয়েন্টগুলিতে সাবরুটিনগুলি নির্দিষ্টভাবে এক্সিকিউট করতে দেয়। এজেন্ট ব্যবহারকারীরা সাধারণত অনুমানযোগ্য উপায়ে মডেলগুলিকে অতিরিক্ত প্রেক্ষাপট প্রদান করতে, পরীক্ষা এবং যাচাইকরণ লুপ বাস্তবায়ন করতে এবং এজেন্ট ক্ষমতার অন্যান্য বর্ধিতকরণ করতে হুক কনফিগার করে।

যে একই নির্দিষ্ট বৈশিষ্ট্যগুলি হুকগুলিকে এই উদ্দেশ্যে আকর্ষণীয় করে তোলে সেগুলি সনাক্তকরণ এবং প্রতিক্রিয়ার জন্যও আকর্ষণীয় করে তোলে। সম্ভাব্য উদ্বেগের ঘটনার বেশিরভাগ ঘটনা ধরা সাধারণত অপর্যাপ্ত। বরং, সনাক্তকরণ এবং প্রতিক্রিয়ার জন্য এই ধরনের সমস্ত ঘটনা কভার করতে হবে। Numbat একাধিক ধরণের হুক কনফিগার করে, যা সিকিউরিটি টিম এবং IT অ্যাডমিনিস্ট্রেটরদের সমৃদ্ধ সনাক্তকরণ লজিক প্রয়োগ করতে দেয়।

বেশিরভাগ কোডিং এজেন্টে, নির্দিষ্ট ধরণের হুক (সাধারণত “প্রি-অ্যাকশন” হুক বলা হয়) এজেন্টের পরবর্তী পদক্ষেপের এক্সিকিউশন ব্লক করতে সক্ষম। এই প্রি-অ্যাকশন হুকগুলি ব্যবহার করে, Numbat কেবল সনাক্তকরণ লজিকই নয় বরং মেল্টডাউন যাতে প্রথম স্থানে ঘটতে না পারে তা থামাতে প্রতিরোধমূলক সুরক্ষা নিয়মগুলিও প্রয়োগ করতে সক্ষম।

সেশন আর্টিফ্যাক্ট

রিয়েল টাইমে সনাক্তকরণ এবং প্রতিরোধ লজিক প্রয়োগ করার জন্য হুকগুলি শক্তিশালী মাধ্যম। যাইহোক, এই লজিক কোডে নির্দিষ্ট করা আবশ্যক। প্রায়শই, একটি এজেন্ট নিরাপত্তা ঘটনার এমন একটি রূপ নেয় যা অগ্রিম অনুমান করা যায়নি, সোর্স কোডে হ্রাস করার কথা তো দূরে থাক। অতএব, Numbat-এর সেশন আর্টিফ্যাক্টগুলি বিপরীতভাবে অ্যাক্সেস করার এবং বিশ্লেষণ করার ক্ষমতাও রয়েছে।

সেশন আর্টিফ্যাক্টের মধ্যে রয়েছে বহু ধরনের লগ এবং ডায়াগনস্টিকস। লগের সম্ভবত সবচেয়ে গুরুত্বপূর্ণ প্রকার হল সেশন ট্রান্সক্রিপ্ট, যা LLM কথোপকথন রেকর্ড করে যা এজেন্টের কর্মের অনুক্রম নির্দেশ করে। কোডিং এজেন্টের পাওয়ার ব্যবহারকারীরা হারনেস-প্রদান করা কমান্ডের মাধ্যমে আরও বিশ্লেষণের জন্য সেশন ট্রান্সক্রিপ্ট রপ্তানি করতে ইতিমধ্যে অভ্যস্ত। কিন্তু এই রপ্তানিগুলি সাধারণত প্লেইনটেক্সট ফর্ম্যাটে থাকে, যা সিকিউরিটি টিমদের জন্য অনুপযুক্ত যাদের একটি সামঞ্জস্যপূর্ণ, অনুমানযোগ্য স্কিমা সহ মেশিন-পঠনযোগ্য লগ প্রয়োজন।

Numbat এইভাবে সরাসরি ফাইলসিস্টেম থেকেই সেশন আর্টিফ্যাক্ট পুনরুদ্ধার করে। যেহেতু বেশিরভাগ ক্লায়েন্ট-সাইড এজেন্ট হারনেস ফাইলসিস্টেমে মূল আর্টিফ্যাক্ট সংরক্ষণ করে (সাধারণত $HOME-এর অধীনে একটি এজেন্ট-নির্দিষ্ট ডট ডিরেক্টরিতে), ফাইলসিস্টেমে ট্যাপ করা এই ডেটাটিকে তার সবচেয়ে ব্যবহারযোগ্য এবং আদিম ফর্মে সবচেয়ে সরাসরি রুট প্রদান করে। Numbat ব্যবহার করে সিকিউরিটি টিমগুলি স্থানীয় প্রক্রিয়াকরণের জন্য বা অ্যাসিঙ্ক্রোনাস রিমোট বিশ্লেষণের জন্য ক্লায়েন্ট এন্ডপয়েন্টে numbat scan-এর মাধ্যমে স্বাভাবিক করা NDJSON টাইমলাইন ফর্ম্যাটে এই আর্টিফ্যাক্টগুলি সংগ্রহ করতে পারে। যেহেতু সেশন আর্টিফ্যাক্টগুলি স্ট্যাটিক, স্বয়ংসম্পূর্ণ রেকর্ড, Numbat ইনস্টল হওয়ার অনেক আগে ঘটে যাওয়া সেশনের জন্যও এই টাইমলাইনগুলি পুনর্নির্মাণ করতে সক্ষম।

OTLP টেলিমিত্রি

বেশিরভাগ ক্লায়েন্ট-সাইড এজেন্ট হারনেস OpenTelemetry প্রোটোকল (OTLP) এর মাধ্যমে ব্যাপক টেলিমিত্রি অফার করে। এই টেলিমিত্রি সাধারণত হুক বা সেশন আর্টিফ্যাক্টগুলির মাধ্যমে উপলব্ধ সংকেতগুলির বাইরেও অনেক সংকেত সরবরাহ করে।

Numbat numbat collect কমান্ডের মাধ্যমে OTLP রিসিভার হিসাবে কাজ করতে পারে। এই কমান্ডটি একটি সার্ভার শুরু করে যেখানে কোডিং এজেন্টরা ডাউনস্ট্রিম বিশ্লেষণের জন্য OTLP টেলিমিত্রি পাঠায়। গুরুত্বপূর্ণভাবে, এই সার্ভারটি স্থানীয় এবং ডিফল্টভাবে শুধুমাত্র localhost-এ শোনে, যার অর্থ হল সমস্ত টেলিমিত্রি ডিফল্টভাবে ডিভাইসেই থাকে। সিকিউরিটি অ্যাডমিনরা তখন লগ করা টেলিমিত্রি দিয়ে কী করতে হবে তা নির্ধারণ করতে পারেন, যার মধ্যে রয়েছে লাইটওয়েট অন-ডিভাইস প্রসেসিং বাস্তবায়ন করা, numbat ship-এর মাধ্যমে রিমোট প্রসেসিং, বা ClickHouse-এর মতো অ্যানালিটিক্স প্ল্যাটফর্মে আরও জড়িত বিশ্লেষণ।

Perplexity-এর মধ্যে Numbat স্থাপন করা

Perplexity-এর মধ্যে, আমরা Claude Code, Codex, OpenCode, এবং Pi সহ ক্লায়েন্ট-সাইড কোডিং এজেন্টের প্রকৌশলীদের ব্যবহার সুরক্ষিত করতে Numbat ব্যবহার করি।

আমাদের প্রতিরোধ এবং সনাক্তকরণ উভয় প্রচেষ্টাই Numbat নিয়মের ব্যাপক ব্যবহার করে, যা প্রতিটি এজেন্টের হুক সাবসিস্টেমের মাধ্যমে প্রয়োগ করা হয়। আমরা আমাদের নিজস্ব প্রয়োজনের জন্য বেশ কয়েকটি ব্রেড-অ্যান্ড-বাটার নিয়ম তৈরি করেছি, যার মধ্যে অনেকগুলি আমরা Numbat-এর 52 বিল্ট-ইন নিয়ম-এর অংশ হিসাবে পাঠিয়েছে। এই নিয়মগুলি 11টি আচরণ বিভাগে সংগঠিত এবং সিক্রেট অ্যাক্সেস, এক্সফিল্ট্রেশন, প্রিভিলেজ এসকালেশন এবং ল্যাটারাল মুভমেন্টের মতো বহু-পদক্ষেপের সিকোয়েন্স সনাক্তকরণের একটি সেট। নিয়মগুলি স্বাভাবিক ইভেন্টগুলির উপর CEL অভিব্যক্তি ব্যবহার করে, এবং অপারেটররা Numbat-এর কোড পরিবর্তন না করেই তাদের নিজস্ব নিয়ম এবং পরীক্ষা যোগ করতে পারে।

উদাহরণস্বরূপ, বিল্ট-ইন privilege.sudoers_tamper নিয়মটি sudoers পলিসিতে লেখা, visudo-এর ব্যবহার, এবং NOPASSWD অনুদান ইনস্টল করার প্রচেষ্টা সনাক্ত করে। এগুলি উচ্চ-সংকেত ক্রিয়া যা একটি সীমিত এজেন্ট প্রক্রিয়াকে অবিরাম রুট অ্যাক্সেসে পরিণত করতে পারে।

yaml
# privilege.sudoers_tamper (simplified for readability) id: privilege.sudoers_tamper severity: high expr: | ( event.event_type == "file.write" && event.file_path.matches("(^|/)etc/sudoers$|(^|/)etc/sudoers\\.d/[^/]+$") ) || ( event.event_type == "command.exec" && event.command.matches("\\bvisudo\\b|\\bNOPASSWD\\s*:") )

স্বতন্ত্র কমান্ডগুলি সবসময় তাদের নিজস্বভাবে ক্ষতিকারক দেখায় না, তাই Numbat একটি এজেন্ট সেশনের মধ্যে সিকোয়েন্সগুলিকে সম্পর্কযুক্ত করে। বিল্ট-ইন chain.secret_manager_read_then_egress নিয়মটি সনাক্ত করে যখন একজন এজেন্ট একটি সাধারণ সিক্রেট-ম্যানেজমেন্ট টুল থেকে একটি মান পড়ে এবং পরবর্তীতে ডেটা বহনকারী curl বা wget অনুরোধের চেষ্টা করে। একটি গোপন পাঠ বৈধ হতে পারে। একটি আউটবাউন্ড অনুরোধ বৈধ হতে পারে। একত্রে অনুক্রম করা, তাদের তদন্ত প্রয়োজন।

yaml
# chain.secret_manager_read_then_egress (simplified for readability) id: chain.secret_manager_read_then_egress severity: high sequence: within_events: 64 steps: - expr: | event.event_type == "command.exec" && event.command.matches("secretsmanager|get-secret|vault read") - expr: | event.event_type == "command.exec" && event.command.matches("curl.*(--data|--upload-file)|wget.*--post")

ফ্লিট জুড়ে Numbatগুলি পরিচালনা এবং মনিটর করা

ডেভেলপার এন্ডপয়েন্টে সাপ্লাই চেইন এক্সপোজারের জন্য আমাদের ওপেন-সোর্স স্ক্যানার Bumblebee-এর মতো, MDM-এর মাধ্যমে আমাদের ফ্লিট জুড়ে Numbat স্থাপন করা হয়। প্রতিটি Numbat স্থানীয়ভাবে এজেন্ট কার্যকলাপ রেকর্ড করে এবং আমাদের কেন্দ্রীভূত নিরাপত্তা সিস্টেমে কাঠামোগত টেলিমিত্রি পাঠায়।

সেখান থেকে, Perplexity Computer সন্দেহজনক বা ক্ষতিকারক আচরণের জন্য একটি পুনরাবৃত্তি সময়সূচীতে সাম্প্রতিক Numbat ফলাফল এবং অডিট লগ পর্যালোচনা করে। এটি সনাক্তকরণ তদন্ত করে, প্রাসঙ্গিক এজেন্ট সেশন পুনর্নির্মাণ করে এবং Numbat ব্লক করা ক্রিয়াকলাপগুলিতে অতিরিক্ত যাচাইবাছাই করে।

Numbat টেলিমিত্রি মনিটর করার জন্য Perplexity-এর অভ্যন্তরীণ পাইপলাইন। একটি নির্ধারিত Perplexity Computer টাস্ক অ্যাসিনক্রোনাসভাবে নতুন সংকেত পর্যালোচনা করে এবং ঝুঁকিপূর্ণ কার্যকলাপ সম্পর্কে সিকিউরিটি টিমকে সতর্ক করে।

Computer আমাদের কভারেজে ফাঁকফোকরও খোঁজ করে। এটি নতুন আচরণ বিশ্লেষণ করে, Numbat-এর সনাক্তকরণে উন্নতির প্রস্তাব দেয়, সেই পরিবর্তনগুলি পরীক্ষা করে এবং মানব পর্যালোচনার জন্য পুল অনুরোধ খোলে। একবার অনুমোদিত এবং মোতায়েন হয়ে গেলে, সেই নিয়মগুলি ফ্লিট জুড়ে মনিটরিং উন্নত করে এবং পরবর্তী তদন্তের জন্য আরও ভাল প্রমাণ তৈরি করে।

এটি একটি স্ব-উন্নতিশীল নিরাপত্তা ফ্লাইহুইল তৈরি করে: এজেন্টরা কার্যকলাপ তৈরি করে, Numbat সেই কার্যকলাপকে স্বাভাবিক টাইমলাইন এবং টেলিমিতে রূপান্তর করে, Computer তদন্ত করে এবং নিয়মগুলিকে উন্নত করে, এবং মানব-পর্যালোচিত আপডেটগুলি ভবিষ্যতের এজেন্ট সেশনগুলিকে রক্ষা করে এমন কন্ট্রোলকে শক্তিশালী করে।

উপসংহার

Perplexity-এ, আমরা বিশ্বাস করি যে AI এজেন্টরা সব ধরণের পরিবেশে এক্সিকিউট করবে: স্থানীয়, ক্লাউড এবং হাইব্রিড। এজেন্ট হারনেস এবং এক্সিকিউশন পরিবেশের প্রতিটি সংমিশ্রণ অনন্য নিরাপত্তা চ্যালেঞ্জ তৈরি করে, যেখানে কম্বিনেশনাল জটিলতা ব্যান্ডউইথ-সংকটে থাকা সিকিউরিটি টিমগুলিকে অভিভূত করার হুমকি দেয়। এজেন্ট মেল্টডাউন এবং অন্যান্য অভিনব ভালনারেবিলিটি নিরাপত্তা ছবিকে আরও জটিল করে তোলে।

এজেন্ট সিস্টেমের মধ্যে থাকা প্রতিরক্ষাগুলি ব্যবহারকারীর নিরাপত্তা ভঙ্গি উন্নত করতে পারে যেখানেই এজেন্ট এক্সিকিউট করুক না কেন। এটি ঠিক যা Numbat সরবরাহ করে: নিবিড়ভাবে সংহত এজেন্ট সেফগার্ড যা ডিফেন্ডারদের রিয়েল টাইমে উদ্বেগজনক আচরণ প্রতিরোধ করতে, সনাক্ত করতে এবং প্রতিক্রিয়া জানাতে দেয়। Perplexity Computer-এর সাথে Numbat একত্রিত করা একটি শক্তিশালী এজেন্ট সিকিউরিটি প্ল্যাটফর্ম তৈরি করে যা ডিফেন্ডারদের বক্ররেখার চেয়ে এগিয়ে থাকার ক্ষমতা দেয়।

macOS, Linux, এবং Windows-এর জন্য একটি ওপেন-সোর্স প্রজেক্ট হিসাবে Numbat আজ উপলব্ধ। আমাদের নিজস্ব ক্লায়েন্ট এন্ডপয়েন্টগুলি Numbat দ্বারা সুরক্ষিত, Perplexity টিমের সদস্যদের ব্যাপকভাবে বিস্তৃত কাজ এবং দীর্ঘ দিগন্ত জুড়ে আত্মবিশ্বাসের সাথে এজেন্ট ব্যবহার করতে সক্ষম করে। আমরা সব জায়গার সিকিউরিটি টিমগুলিকে তাদের এজেন্ট মোতায়েন সুরক্ষিত ও রক্ষা করার জন্য Numbat-এর সিস্টেম-স্তরের পদ্ধতি ব্যবহার করার জন্য আমন্ত্রণ জানাই।

উদ্ধৃতি

BibTeX
@online{perplexity2026SecuringAgentsAcrossPerplexitySClientEndpointsWithNumbat,
  author = {{Perplexity} and Adel Karimishiraz and Bex Brooker and Phi Hoang and Jerry Ma},
  title = {{Securing agents across Perplexity's client endpoints with Numbat}},
  date = {2026-07-29},
  url = {https://perplexity.coolkeypoint.com/hub/blog/securing-agents-across-perplexity-s-client-endpoints-with-numbat}
}