Numbat ನೊಂದಿಗೆ Perplexity ನ ಕ್ಲೈಂಟ್ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳಲ್ಲಿ ಏಜೆಂಟ್‌ಗಳನ್ನು ಸುರಕ್ಷಿತಗೊಳಿಸುವುದು

AI ಏಜೆಂಟ್‌ಗಳು ಉಪಯುಕ್ತವಾಗಲು ಸುರಕ್ಷಿತವಾಗಿರಬೇಕು. ಮಾದರಿ ಮತ್ತು ಸಿಸ್ಟಮ್ ಸಾಮರ್ಥ್ಯಗಳು ಮುಂದುವರಿದಂತೆ, ಬಳಕೆದಾರರನ್ನು ರಕ್ಷಿಸಲು ಅಗತ್ಯವಿರುವ ಜಾಗರೂಕತೆಯೂ ಹೆಚ್ಚಾಗುತ್ತದೆ.

ಆರಂಭಿಕ ಏಜೆಂಟ್ ಭದ್ರತಾ ಸಂಶೋಧನೆಯು ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್‌ಗಳು ಮತ್ತು ವಿರೋಧಿ ಇನ್‌ಪುಟ್‌ಗಳ ಇತರ ರೂಪಗಳ ಮೇಲೆ ಕೇಂದ್ರೀಕೃತವಾಗಿತ್ತು. ಆದರೂ ಏಜೆಂಟ್ ಸ್ವಾಯತ್ತತೆಯಲ್ಲಿನ ಇತ್ತೀಚಿನ ಪ್ರಗತಿಗಳು ವಿರೋಧಿ ಇನ್‌ಪುಟ್‌ಗಳು ಅಥವಾ ಮಾನವ ವಿರೋಧಿಗಳ ಅಸ್ತಿತ್ವವನ್ನು ಊಹಿಸುವ ಅಗತ್ಯವಿಲ್ಲದ ಭದ್ರತಾ ಘಟನೆಗಳಿಗೆ ಕಾರಣವಾಗುತ್ತವೆ.

ಬದಲಿಗೆ, ಆ ಗುರಿಗಳನ್ನು ಹೇಗೆ ಸಾಧಿಸುವುದು ಎಂಬುದರ ಕುರಿತು ಪ್ರಿಸ್ಕ್ರಿಪ್ಟೀವ್ ಮಾರ್ಗದರ್ಶನವಿಲ್ಲದೆ, ಉನ್ನತ ಮಟ್ಟದ ಗುರಿಗಳನ್ನು ಮುಂದುವರಿಸಲು ನಿರ್ದೇಶಿಸಿದ ಏಜೆಂಟ್‌ಗಳು, ವಿರೋಧಿಯಾಗಬಹುದು. ಬಳಕೆದಾರರು ನಿರ್ದಿಷ್ಟಪಡಿಸಿದ ಗುರಿಗೆ ಪ್ರತಿಕ್ರಿಯೆಯಾಗಿ, ಬಳಕೆದಾರರು ಉದ್ದೇಶಿಸದ ಮತ್ತು ಅನುಮೋದಿಸದ ಕ್ರಿಯೆಯ ಕೋರ್ ಅನ್ನು ಏಜೆಂಟ್ ಆಯ್ಕೆ ಮಾಡಿದಾಗ ಇದು ಸಂಭವಿಸುತ್ತದೆ. ಅಂತಹ ಘಟನೆಗಳು ಕೆಲವೇ ತಿಂಗಳ ಹಿಂದೆ ಸಿದ್ಧಾಂತೀಕರಿಸಲ್ಪಟ್ಟಿದ್ದರೂ, ಅವು ತ್ವರಿತವಾಗಿ ಪ್ರಾಯೋಗಿಕ ಕಾಳಜಿಯ ವಿಷಯಗಳಾಗಿ ಮಾರ್ಪಟ್ಟಿವೆ.

ಈ ನಡವಳಿಕೆಗಳನ್ನು ಮಾಡೆಲ್ ಪದರದೊಳಗೆ ಸಂಪೂರ್ಣವಾಗಿ ಪ್ಯಾಚ್ ಮಾಡಲು ಸಾಧ್ಯವಿಲ್ಲದ ಕಾರಣ, ದೃಢವಾದ ರಕ್ಷಣೆಯು ಸುತ್ತಮುತ್ತಲಿನ ಸಿಸ್ಟಮ್ ಅನ್ನು ಒಳಗೊಂಡಿರಬೇಕು, ಇದರಲ್ಲಿ ಹೊರಗಿನ ಜಗತ್ತಿಗೆ ಮಾಡೆಲ್ ನ ಇಂಟರ್ಫೇಸ್ ಆಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಏಜೆಂಟ್ ಹಾರ್ನೆಸ್ ಸೇರಿದೆ. ಏಜೆಂಟ್-ಸಂಬಂಧಿತ ಘಟನೆಗಳನ್ನು ತಡೆಯಲು, ಪತ್ತೆಹಚ್ಚಲು ಮತ್ತು ತಗ್ಗಿಸಲು ರಕ್ಷಕರಿಗೆ ಸಹಾಯ ಮಾಡುವ ನಮ್ಮ ಏಜೆಂಟ್ ಭದ್ರತಾ ಸೂಟ್ ಆಗಿರುವ Numbat ಅನ್ನು ನಾವು ಓಪನ್-ಸೋರ್ಸ್ ಮಾಡುತ್ತಿದ್ದೇವೆ. Numbat ಎಂಟರ್‌ಪ್ರೈಸ್ ಕ್ಲೈಂಟ್ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳಲ್ಲಿ ಸಾಮಾನ್ಯವಾಗಿ ಕಂಡುಬರುವ ಏಜೆಂಟ್ ಹಾರ್ನೆಸ್‌ಗಳನ್ನು ಗುರುತಿಸುತ್ತದೆ ಮತ್ತು ನೇರವಾಗಿ ಸಂಯೋಜಿಸುತ್ತದೆ, ಭದ್ರತಾ ನಿಯಮಗಳನ್ನು ಜಾರಿಗೆ ತರುತ್ತದೆ ಮತ್ತು ತ್ವರಿತ ಪತ್ತೆ ಹಾಗೂ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಸಕ್ರಿಯಗೊಳಿಸುತ್ತದೆ.

ಏಜೆಂಟ್‌ಗಳ ಅಳವಡಿಕೆ ಡೆವಲಪರ್‌ಗಳು, ಅಳವಡಿಸಿಕೊಳ್ಳುವವರು ಮತ್ತು ರಕ್ಷಕರಿಗೆ ಸಮಾನವಾಗಿ ಹೊಸ ಭದ್ರತಾ ಸವಾಲುಗಳನ್ನು ಉಂಟುಮಾಡುತ್ತದೆ. ಏಜೆಂಟ್‌ಗಳನ್ನು ಎಂಟರ್‌ಪ್ರೈಸ್ ವ್ಯವಸ್ಥೆಗಳು ಮತ್ತು ಡೇಟಾಗೆ ವಿಶೇಷಾಧಿಕಾರಿತ ಪ್ರವೇಶದೊಂದಿಗೆ ನೇರವಾಗಿ ಕ್ಲೈಯಂಟ್ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳಲ್ಲಿ ನಿಯೋಜಿಸುವಾಗ ಇದು ವಿಶೇಷವಾಗಿ ಸತ್ಯವಾಗುತ್ತದೆ.

CLI-ಆಧಾರಿತ ಅಥವಾ ಡೆಸ್ಕ್‌ಟಾಪ್ ಅಪ್ಲಿಕೇಶನ್-ಆಧಾರಿತ ಕೋಡಿಂಗ್ ಏಜೆಂಟ್‌ಗಳಂತಹ ಕ್ಲೈಂಟ್ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳಲ್ಲಿ ಏಜೆಂಟ್ ನಿಯೋಜನೆಗಳು, ವಿವಿಧ ಮಟ್ಟದ ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸಿಂಗ್ ಮತ್ತು ಪ್ರತ್ಯೇಕತೆಯೊಂದಿಗೆ ಬರುತ್ತವೆ. ಬಳಕೆದಾರರು ಈ ಏಜೆಂಟ್‌ಗಳನ್ನು ಅಸಂಖ್ಯಾತ ಬಳಕೆ ಸಂದರ್ಭಗಳಿಗಾಗಿ ಬಳಸಿಕೊಳ್ಳುತ್ತಾರೆ, ಪ್ರತಿಯೊಂದೂ ತಮ್ಮದೇ ಆದ ಪರಿಣಾಮಕಾರಿ ಆಕ್ಷನ್ ಸ್ಪೇಸ್ ಅನ್ನು ಹೊಂದಿದ್ದು ಅದು ಎಂಡ್‌ಪಾಯಿಂಟ್ ಮೇಲೆ ಅಥವಾ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ನಿಂದ ಪ್ರವೇಶಿಸಬಹುದಾದ ಇತರ ಸಿಸ್ಟಮ್‌ಗಳ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರಬಹುದು. ಹೆಚ್ಚುತ್ತಿರುವಂತೆ, ಏಜೆಂಟ್‌ಗಳು ಗಂಟೆಗಳವರೆಗೆ ಅಥವಾ ದಿನಗಳವರೆಗೆ ಸ್ವಾಯತ್ತವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ನಿರೀಕ್ಷೆಯಿದೆ. ಈ ಕಾರ್ಯಪ್ರವಾಹಗಳಿಗಾಗಿ, ಅನೇಕ ಬಳಕೆದಾರರು ವರ್ಗೀಕರಣಕಾರರಿಗೆ ಏಜೆಂಟ್ ಕ್ರಿಯೆಯ ಅನುಮೋದನೆಗಳನ್ನು ನಿಯೋಜಿಸಲು ಆಯ್ಕೆ ಮಾಡುತ್ತಾರೆ ಅಥವಾ --dangerously-skip-permissions ಮತ್ತು --yolo ನಂತಹ ಕಳವಳಕಾರಿಯಾಗಿ ಹೆಸರಿಸಲಾದ ಕಾನ್ಫಿಗರೇಶನ್ ಫ್ಲ್ಯಾಗ್‌ಗಳೊಂದಿಗೆ ಅನುಮೋದನೆಗಳನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ಬೈಪಾಸ್ ಮಾಡುತ್ತಾರೆ. ಏಜೆಂಟ್ ಬಳಕೆಯ ಪ್ರಕರಣಗಳು ಮತ್ತು ಕಾನ್ಫಿಗರೇಶನ್‌ಗಳ ಬಹುತ್ವವು, ಸವಲತ್ತು ಪಡೆದ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳಲ್ಲಿ ಕೋಡಿಂಗ್ ಏಜೆಂಟ್‌ಗಳು ನಿರ್ವಹಿಸಬಹುದಾದ ಕ್ರಿಯೆಗಳ ಅಗಲತೆಯೊಂದಿಗೆ ಸೇರಿ, ಭದ್ರತಾ ತಂಡಗಳಿಂದ ಪೂರ್ವಭಾವಿ ನಿರ್ವಹಣೆ ಅಗತ್ಯವಿರುವ ಅಪಾಯದ ಪ್ರೊಫೈಲ್ ಅನ್ನು ಮಾಡುತ್ತದೆ.

ಇಂದು, ನಾವು Numbat ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡುತ್ತಿದ್ದೇವೆ; ಇದು AI ಏಜೆಂಟ್‌ಗಳಿಂದ ಅಪಾಯಕಾರಿ ಚಟುವಟಿಕೆಯನ್ನು ಪತ್ತೆಹಚ್ಚಲು, ತನಿಖೆ ನಡೆಸಲು ಮತ್ತು ತಡೆಯಲು ನಾವು ನಿರ್ಮಿಸಿರುವ ಓಪನ್-ಸೋರ್ಸ್ ಏಜೆಂಟ್ ಭದ್ರತಾ ಸೂಟ್. ಇನ್ನಷ್ಟು ಕಂಪನಿಗಳು frontier ಏಜೆಂಟ್ ಉತ್ಪನ್ನಗಳನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳುತ್ತಿರುವಂತೆ, Numbat ಉಂಟಾಗುವ ಭದ್ರತಾ ಸವಾಲುಗಳಿಗೆ ವೇಗವಾಗಿ ಹೊಂದಿಕೊಳ್ಳಲು ಭದ್ರತಾ ತಂಡಗಳಿಗೆ ಶಕ್ತಿ ನೀಡುತ್ತದೆ. ಇದು ಎಲ್ಲಾ ಹೆಚ್ಚಿನ ಬಳಕೆಯ ಕ್ಲೈಯಂಟ್-ಸೈಡ್ ಏಜೆಂಟ್ harness‌ಗಳಲ್ಲಿ ಏಕೀಕೃತವಾಗುತ್ತದೆ ಮತ್ತು ಅವೆಲ್ಲದರಲ್ಲೂ ಸ್ಥಿರವಾದ ಇಂಟರ್ಫೇಸ್ ಅನ್ನು ಒದಗಿಸುತ್ತದೆ. ಹೀಗಾಗಿ, ಬಳಕೆದಾರರು ಅವಲಂಬಿಸುವ ಪ್ರತಿ ಪ್ರತ್ಯೇಕ ಏಜೆಂಟ್‌ಗಾಗಿ ಕಸ್ಟಮ್ ರಕ್ಷಣಾ ಕ್ರಮಗಳು ಮತ್ತು ನಿಗಾ ಸಾಧನಗಳನ್ನು ನಿರ್ಮಿಸುವ ಹೊರೆಗಳಿಂದ Numbat ಭದ್ರತಾ ತಂಡಗಳನ್ನು ಮುಕ್ತಗೊಳಿಸುತ್ತದೆ. NVIDIA ಮತ್ತು ಇತರ ಸಂಸ್ಥೆಗಳೊಂದಿಗೆ Perplexityಯ Open Secure AI Alliance ಸದಸ್ಯತ್ವದ ಭಾಗವಾಗಿ, ರಕ್ಷಕರ ಪರಿಸರಕ್ಕೆ Numbat ಲಭ್ಯವಿದೆ.

Numbat-ಸುರಕ್ಷಿತ ಏಜೆಂಟ್‌ಗಳ ಸಿಸ್ಟಮ್ ಆರ್ಕಿಟೆಕ್ಚರ್. Numbat ಸ್ಥಳೀಯ-ಮೊದಲ ಪತ್ತೆ ಮತ್ತು ಏಜೆಂಟ್-ಅಜ್ಞೇಯತವಾದ ಫೊರೆನ್ಸಿಕ್‌ಗಳಿಗೆ ಒತ್ತು ನೀಡುತ್ತದೆ.

ಈ ಲೇಖನವು Numbat ಅನ್ನು ಪ್ರೇರೇಪಿಸುವ ಭದ್ರತಾ ಸವಾಲುಗಳ ಚರ್ಚೆಯೊಂದಿಗೆ ಪ್ರಾರಂಭವಾಗುತ್ತದೆ. ನಂತರ ನಾವು Perplexity ನ ಸ್ವಂತ ಸಾವಿರಾರು ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳಲ್ಲಿ Numbat ಅನ್ನು ನಿಯೋಜಿಸುವುದರಿಂದ ಪಡೆದ ನಮ್ಮ ಪಾಠಗಳ ಜೊತೆಗೆ Numbat ನ ವಿನ್ಯಾಸ ಮತ್ತು ಆರ್ಕಿಟೆಕ್ಚರ್ ಅನ್ನು ಪ್ರಸ್ತುತಪಡಿಸುತ್ತೇವೆ.

AI ಏಜೆಂಟ್ ಭದ್ರತಾ ಘಟನೆಗಳ ಭೂದೃಶ್ಯವು ವೇಗವಾಗಿ ವಿಕಸನಗೊಳ್ಳುತ್ತಿದೆ. ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಹೆಚ್ಚಿನ ಏಜೆಂಟ್ ಭದ್ರತಾ ಸಾಹಿತ್ಯವು ಇಂಜೆಕ್ಷನ್ ದಾಳಿಗಳ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸುತ್ತದೆ, ಇದರಲ್ಲಿ ಏಜೆಂಟ್‌ಗಳನ್ನು ಅನುಚಿತ ನಡವಳಿಕೆಗೆ ಗೊಂದಲಗೊಳಿಸಲು ಮಾಡೆಲ್ ಪ್ರಾಂಪ್ಟ್‌ಗಳು ಅಥವಾ ಸಂದರ್ಭಕ್ಕೆ ದುರುದ್ದೇಶಪೂರಿತ ಪೇಲೋಡ್ ಅನ್ನು ಪರಿಚಯಿಸಲಾಗುತ್ತದೆ. ಇಂಜೆಕ್ಷನ್ ದಾಳಿಗಳು ಮತ್ತು ಸುರಕ್ಷತೆಗಳನ್ನು ವಿಸ್ತಾರವಾಗಿ ಅಧ್ಯಯನ ಮಾಡಲಾಗಿದೆ, ಮತ್ತು Perplexity ಸೇರಿದಂತೆ ಏಜೆಂಟ್ ಡೆವಲಪರ್‌ಗಳು ಇಂಜೆಕ್ಷನ್ ದಾಳಿಗಳ ವಿರುದ್ಧ ಹೆಚ್ಚು ದೃಢವಾದ ರಕ್ಷಣೆಗಳನ್ನು ರೂಪಿಸಿದ್ದಾರೆ.

ಆದರೆ ಭದ್ರತಾ ಘಟನೆಯನ್ನು ರಚಿಸಲು AI ಏಜೆಂಟ್‌ಗೆ ದುರುದ್ದೇಶಪೂರಿತ ಪೇಲೋಡ್ ಅಗತ್ಯವಿಲ್ಲ. ವಾಸ್ತವವಾಗಿ, ವಿರೋಧಿಯ ಅಸ್ತಿತ್ವವನ್ನು ಮುಂಚಿತವಾಗಿ ಊಹಿಸುವ ಅಗತ್ಯವಿಲ್ಲ. ವಿಶ್ವಾಸಾರ್ಹ ಏಜೆಂಟ್, ನಿರ್ವಾಹಕ-ಅನುಮೋದಿತ ಉಪಕರಣಗಳೊಂದಿಗೆ ವಿಶ್ವಾಸಾರ್ಹ ವಾತಾವರಣದೊಳಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದೆ, ಇದು ತನ್ನ ಕಾರ್ಯವನ್ನು ಪೂರ್ಣಗೊಳಿಸಲು ತುಂಬಾ ಕಷ್ಟಪಡುತ್ತಿರುವುದರಿಂದ ಸರಳವಾಗಿ ಹಾನಿಕಾರಕ ಕ್ರಮಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಬಹುದು.

ಸಂಶೋಧಕರು ಈ ವಿಫಲ ಮೋಡ್ ಅನ್ನು “ಆಕಸ್ಮಿಕ ಮೆಲ್ಟ್‌ಡೌನ್” ಎಂದು ವಿವರಿಸುತ್ತಾರೆ: ಹಾನಿಕಾರಕ ಏಜೆಂಟ್ ನಡವಳಿಕೆಯು ವಿರೋಧಿ ಇನ್‌ಪುಟ್‌ನಿಂದ ಅಲ್ಲ, ಆದರೆ ಸಾಧಾರಣ ಪರಿಸರ ದೋಷದಿಂದ ಪ್ರಚೋದಿಸಲ್ಪಡುತ್ತದೆ. ಕಾಣೆಯಾದ ಫೈಲ್, ವಿಫಲವಾದ API ವಿನಂತಿ, ಅವಧಿ ಮೀರಿದ ರುಜುವಾತು ಅಥವಾ ಅನುಮತಿ ನಿರಾಕರಣೆಯು ಏಜೆಂಟ್ ಅನ್ನು ಕೆಲಸ ಮಾಡುವ ಮಾರ್ಗವನ್ನು ಹುಡುಕುವಂತೆ ಮಾಡುತ್ತದೆ. ತನ್ನ ಮೂಲ ಬಳಕೆದಾರರು ನಿರ್ದಿಷ್ಟಪಡಿಸಿದ ಗುರಿಯನ್ನು ಅನುಸರಿಸುವಲ್ಲಿ, ಏಜೆಂಟ್ ಅನಧಿಕೃತ ಕಣ್ಗಾವಲು, ಪ್ರವೇಶ ನಿಯಂತ್ರಣ ಬದಲಾವಣೆಗಳು, ರಹಸ್ಯ ಅನ್ವೇಷಣೆ ಅಥವಾ ಡೇಟಾ ಸೋರಿಕೆಯ ಮೂಲಕ ಭದ್ರತಾ ಗಡಿಗಳನ್ನು ದಾಟಬಹುದು. ಏಜೆಂಟ್ ಅನ್ನು ದಾಳಿಕೋರರಿಂದ ಸಹ-ಆಪ್ಟ್ ಮಾಡುವ ಬದಲು, ಏಜೆಂಟೇ ಸ್ವತಃ ದಾಳಿಕೋರನಾಗಿರುತ್ತಾನೆ. ಮೇಲಾಗಿ, ದಾಳಿಯು ಆಂತರಿಕ ವ್ಯವಸ್ಥೆಗಳು, ಬಾಹ್ಯ ವ್ಯವಸ್ಥೆಗಳು ಅಥವಾ ಎರಡನ್ನೂ ಗುರಿಯಾಗಿಸಬಹುದು, ದಾಳಿಯು ಈಗಾಗಲೇ ನಡೆಯುತ್ತಿರುವವರೆಗೆ ತಿಳಿಯಲು ಯಾವುದೇ ಮಾರ್ಗವಿಲ್ಲ.

ಮೊದಲ ವ್ಯಾಪಕವಾಗಿ ವರದಿಯಾದ ಆಕಸ್ಮಿಕ ಮೆಲ್ಟ್‌ಡೌನ್ ಈ ತಿಂಗಳು ಬಂದಿತು, Hugging Face ನ ಉತ್ಪಾದನಾ ಮೂಲಸೌಕರ್ಯವನ್ನು ರಾಜಿ ಮಾಡಿಕೊಂಡ ಏಜೆಂಟ್-ಪ್ರಾರಂಭಿಸಿದ ದಾಳಿಯ OpenAI ನ ಬಹಿರಂಗಪಡಿಸುವಿಕೆಯೊಂದಿಗೆ. ಪ್ರೀಲೀಸ್ GPT ಮಾದರಿಯ ಮೌಲ್ಯಮಾಪನಗಳ ಸಮಯದಲ್ಲಿ, ಒದಗಿಸಿದ ಸಂದರ್ಭದೊಂದಿಗೆ ಮೌಲ್ಯಮಾಪನದ ಮೇಲೆ ಪ್ರಗತಿ ಸಾಧಿಸಲು ಸಾಧ್ಯವಾಗಲಿಲ್ಲ ಎಂದು ಮಾದರಿಯು ಕಂಡುಕೊಂಡಿತು. ಈ ಲಾಗ್‌ಜಾಮ್ ಅನ್ನು ಮುರಿಯಲು, ಮಾಡೆಲ್ ತನ್ನ ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸ್ ಪರೀಕ್ಷಾ ಪರಿಸರದಿಂದ ತಪ್ಪಿಸಿಕೊಳ್ಳಲು ಮತ್ತು Hugging Face ನಿಂದ ಮೌಲ್ಯಮಾಪನ ಉತ್ತರಗಳನ್ನು ಸೋರಿಕೆ ಮಾಡಲು ಒಂದು ಮಾರ್ಗವನ್ನು ಕಂಡುಕೊಂಡಿತು. ಉದ್ದೇಶಿತ ನೆಟ್‌ವರ್ಕ್ ನಿರ್ಬಂಧಗಳಿಂದ ತಪ್ಪಿಸಿಕೊಳ್ಳಲು, ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸ್ ಗಡಿಗಳನ್ನು ಮೀರಿ ಸವಲತ್ತುಗಳನ್ನು ಹೆಚ್ಚಿಸಲು, ರಹಸ್ಯಗಳನ್ನು ಪಡೆಯಲು ಮತ್ತು ಸುರಕ್ಷಿತ Hugging Face ಸಿಸ್ಟಮ್‌ಗಳನ್ನು ಪ್ರವೇಶಿಸಲು ಮಾಡೆಲ್ ತನ್ನ ಹಾರ್ನೆಸ್ ಅನ್ನು ಬಳಸಿಕೊಂಡಿತು, ಎಲ್ಲವೂ ಮೌಲ್ಯಮಾಪನವನ್ನು ಪರಿಹರಿಸುವ ಕಿರಿದಾದ ಉದ್ದೇಶವನ್ನು ಮುಂದುವರಿಸಲು.

ಮೆಲ್ಟ್‌ಡೌನ್‌ಗಳಲ್ಲಿ ಉದ್ದೇಶಿತವಲ್ಲದ ವ್ಯವಸ್ಥಾ ಬದಲಾವಣೆಗಳು ಮತ್ತು ಅಳಿಸುವಿಕೆಗಳೂ ಸೇರಿವೆ. ಹೊರಗಿನ ವ್ಯವಸ್ಥೆಯನ್ನು ಭೇದಿಸುವುದಕ್ಕಿಂತ ಬಹುಶಃ ಹೆಚ್ಚು ಸಾಮಾನ್ಯವಾಗಿದ್ದರೂ, ಈ ಘಟನೆಗಳು ಕೋಡಿಂಗ್ ಏಜೆಂಟ್‌ಗಳ ಯಾವುದೇ ಪವರ್ ಯೂಸರ್‌ಗೆ ಇನ್ನೂ ಹೆಚ್ಚು ಸಂಭವನೀಯ ಮತ್ತು ಗಮನಾರ್ಹವಾಗಿವೆ. ಪ್ರೊಡಕ್ಷನ್ ಡೇಟಾಬೇಸ್‌ಗಳು ಅಥವಾ ಹೋಮ್ ಡೈರೆಕ್ಟರಿಗಳು ಅನ್ನು ಅಳಿಸುವುದು ಯಾವುದೇ ಡೆವಲಪರ್‌ನ ಅತ್ಯಂತ ಕೆಟ್ಟ ದುರಂತ ಕನಸು, ಮತ್ತು ಏಜೆಂಟ್‌ಗಳು ತಮ್ಮ ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆಯಾದ್ಯಂತ ಇಂತಹ ನಡೆಗಳಿಂದ ದೂರವಿರಲು ಸಾಧ್ಯವಾಗಬೇಕು.

AI ಸಂಶೋಧಕರು ಮಾದರಿಗಳೊಳಗೇ ಈ ನಡವಳಿಕೆಗಳನ್ನು ತಗ್ಗಿಸಲು ಕೆಲಸ ಮಾಡುತ್ತಿದ್ದಾರೆ. ಈ ಪ್ರಯತ್ನಗಳು ಖಂಡಿತವಾಗಿಯೂ ಮೌಲ್ಯಯುತವಾಗಿದ್ದರೂ, ಬಲವಾದ ಭದ್ರತಾ ಗುಣಲಕ್ಷಣಗಳಿಗಾಗಿ ಮಾದರಿಗಳನ್ನು ತರಬೇತಿ ಮಾಡುವುದು ಮತ್ತು ಹೆಚ್ಚು ಸಂಕೀರ್ಣ ಕಾರ್ಯಗಳನ್ನು ಸಾಧಿಸಲು ಅದೇ ಮಾದರಿಗಳಿಗೆ ತರಬೇತಿ ನೀಡುವುದು ನಡುವೆ ಮೂಲಭೂತ ಉದ್ವಿಗ್ನತೆಯನ್ನು ಸಂಶೋಧನಾ ಸಮುದಾಯದಲ್ಲಿ ಅನೇಕರು ಗ್ರಹಿಸುತ್ತಾರೆ. ಮಾಡೆಲ್ ಲೇಯರ್ ಮೇಲೆ ಮಾತ್ರ ಗಮನಹರಿಸುವ ರಕ್ಷಣೆಗಳು ಮೆಲ್ಟ್‌ಡೌನ್ ಅಪಾಯವನ್ನು ಸ್ವೀಕಾರಾರ್ಹ ಮಟ್ಟಕ್ಕೆ ಕಡಿಮೆ ಮಾಡುತ್ತದೆ ಎಂದು ನಾವು ನಂಬುವುದಿಲ್ಲ.

ಏಜೆಂಟ್ ಭದ್ರತೆಯು ಕೇವಲ ಮಾಡೆಲ್, ಬಳಕೆದಾರ ಅಥವಾ ಕಾರ್ಯ-ಮಟ್ಟದ ಸುರಕ್ಷತೆಗಳ ಮೇಲೆ ಮಾತ್ರ ಇರಲು ಸಾಧ್ಯವಿಲ್ಲ ಎಂಬುದು ಇದರ ಸಾರಾಂಶವಾಗಿದೆ. ಬದಲಿಗೆ, ಕ್ಲೈಂಟ್ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳಲ್ಲಿ ಏಜೆಂಟ್‌ಗಳು ವಾಸ್ತವವಾಗಿ ಏನು ಮಾಡುತ್ತಾರೆ ಎಂಬುದರ ಕುರಿತು ಭದ್ರತಾ ತಂಡಗಳಿಗೆ ಗೋಚರತೆ ಬೇಕಾಗುತ್ತದೆ, ಜೊತೆಗೆ ಅಪಾಯಕಾರಿ ಕ್ರಿಯೆಗಳು ರನ್ ಆಗುವ ಮೊದಲು ಅವುಗಳನ್ನು ನಿಲ್ಲಿಸಬಹುದಾದ ನಿಯಂತ್ರಣಗಳು ಬೇಕಾಗುತ್ತವೆ. ಇವು ಸಿಸ್ಟಮ್-ಮಟ್ಟದ ನಿಯಂತ್ರಣಗಳಾಗಿದ್ದು ಅವುಗಳನ್ನು ಏಜೆಂಟ್ ಹಾರ್ನೆಸ್‌ನೊಂದಿಗೆ ಬಿಗಿಯಾಗಿ ಸಂಯೋಜಿಸಬೇಕು.

ಪ್ರಮುಖ ಕ್ಲೈಂಟ್-ಸೈಡ್ ಏಜೆಂಟ್ ಹಾರ್ನೆಸ್‌ಗಳಲ್ಲಿ ಸರಾಗವಾಗಿ ಪ್ಲಗ್ ಆಗುವ ಹಗುರವಾದ ಸ್ಥಿರ Go ಬೈನರಿ ರೂಪದಲ್ಲಿ Numbat ಈ ನಿಯಂತ್ರಣಗಳನ್ನು ಒದಗಿಸುತ್ತದೆ. ಇದು ಏಜೆಂಟ್ ಹಾರ್ನೆಸ್‌ಗಳು ಮತ್ತು ಕಾರ್ಯಗತಗೊಳಿಸುವ ಪರಿಸರಗಳಲ್ಲಿ ಲೈವ್ ಮಾನಿಟರಿಂಗ್, ಪಾಲಿಸಿ ಎನ್‌ಫೋರ್ಸ್‌ಮೆಂಟ್ ಮತ್ತು ಫೊರೆನ್ಸಿಕ್ ಪುನರ್ನಿರ್ಮಾಣವನ್ನು ನೀಡುತ್ತದೆ.

Numbat ಮತ್ತು ಏಜೆಂಟ್ ಹಾರ್ನೆಸ್ ನಡುವಿನ ಪ್ರಮುಖ ಸಂಯೋಜನಾ ಅಂಶಗಳು ಹೂಕ್‌ಗಳು, ಸೆಷನ್ ಆರ್ಟಿಫ್ಯಾಕ್ಟ್ ಮತ್ತು OTLP ಟೆಲಿಮೆಟ್ರಿ ಆಗಿವೆ. ನಾವು ಪ್ರತಿಯೊಂದನ್ನು ಒಂದೊಂದಾಗಿ ಚರ್ಚಿಸುತ್ತೇವೆ.

ವಾಸ್ತವಿಕವಾಗಿ ಎಲ್ಲಾ ಕೋಡಿಂಗ್ ಏಜೆಂಟ್‌ಗಳು ಹೂಕ್ ಉಪವ್ಯವಸ್ಥೆಯನ್ನು ಹೊಂದಿವೆ. ಏಜೆಂಟ್ ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆಯ ಜೀವಿತಾವಳಿಯಲ್ಲಿ ಪೂರ್ವನಿರ್ಧರಿತ ಹಂತಗಳಲ್ಲಿ ಸಬ್‌ರೂಟಿನ್‌ಗಳನ್ನು ನಿರ್ಣಾಯಕವಾಗಿ ಕಾರ್ಯಗತಗೊಳಿಸಲು ಹೂಕ್‌ಗಳು ಏಜೆಂಟ್‌ಗಳಿಗೆ ಅನುಮತಿಸುತ್ತವೆ. ಏಜೆಂಟ್ ಬಳಕೆದಾರರು ಸಾಮಾನ್ಯವಾಗಿ ಊಹಿಸಬಹುದಾದ ವಿಧಾನಗಳಲ್ಲಿ ಮಾದರಿಗಳಿಗೆ ಹೆಚ್ಚುವರಿ ಸಂದರ್ಭವನ್ನು ಒದಗಿಸಲು, ಪರೀಕ್ಷೆ ಮತ್ತು ಪರಿಶೀಲನೆ ಲೂಪ್‌ಗಳನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಲು ಮತ್ತು ಏಜೆಂಟ್ ಸಾಮರ್ಥ್ಯಗಳಿಗೆ ಇತರ ವರ್ಧನೆಗಳನ್ನು ಮಾಡಲು ಹೂಕ್‌ಗಳನ್ನು ಕಾನ್ಫಿಗರ್ ಮಾಡುತ್ತಾರೆ.

ಈ ಉದ್ದೇಶಗಳಿಗಾಗಿ ಹೂಕ್‌ಗಳನ್ನು ಆಕರ್ಷಕವಾಗಿಸುವ ಅದೇ ನಿರ್ಣಾಯಕ ಗುಣಲಕ್ಷಣಗಳು ಪತ್ತೆ ಮತ್ತು ಪ್ರತಿಕ್ರಿಯೆಗೂ ಅವುಗಳನ್ನು ಆಕರ್ಷಕವಾಗಿಸುತ್ತವೆ. ಸಂಭಾವ್ಯ ಕಳವಳಕಾರಿ ಘಟನೆಯ ಹೆಚ್ಚಿನ நிகழ்வுகளை ಹಿಡಿಯುವುದು ಸಾಮಾನ್ಯವಾಗಿ ಸಾಕಾಗುವುದಿಲ್ಲ. ಬದಲಿಗೆ, ಪತ್ತೆ ಮತ್ತು ಪ್ರತಿಕ್ರಿಯೆಗಾಗಿ ಒಬ್ಬರು ಅಂತಹ ಎಲ್ಲಾ நிகழ்வுகளை ಕವರ್ ಮಾಡಬೇಕು. Numbat ಬಹು ವಿಧದ ಹೂಕ್‌ಗಳನ್ನು ಕಾನ್ಫಿಗರ್ ಮಾಡುತ್ತದೆ, ಭದ್ರತಾ ತಂಡಗಳು ಮತ್ತು IT ನಿರ್ವಾಹಕರಿಗೆ ಶ್ರೀಮಂತ ಪತ್ತೆ ತರ್ಕವನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.

ಹೆಚ್ಚಿನ ಕೋಡಿಂಗ್ ಏಜೆಂಟ್‌ಗಳಲ್ಲಿ, ಕೆಲವು ವಿಧದ ಹೂಕ್‌ಗಳು (ಸಾಮಾನ್ಯವಾಗಿ “ಪ್ರಿ-ಆಕ್ಷನ್” ಹೂಕ್‌ಗಳು ಎಂದು ಕರೆಯಲ್ಪಡುತ್ತವೆ) ಏಜೆಂಟ್‌ನ ಮುಂದಿನ ಕ್ರಿಯೆಯ ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆಯನ್ನು ಸಹ ನಿರ್ಬಂಧಿಸಬಹುದು. ಈ ಪ್ರಿ-ಆಕ್ಷನ್ ಹೂಕ್‌ಗಳನ್ನು ಬಳಸಿಕೊಂಡು, ಮೆಲ್ಟ್‌ಡೌನ್ ಸಂಭವಿಸುವುದನ್ನು ಮೊದಲೇ ತಡೆಯಲು Numbat ಕೇವಲ ಪತ್ತೆ ತರ್ಕವನ್ನು ಮಾತ್ರವಲ್ಲದೆ ತಡೆಗಟ್ಟುವ ಭದ್ರತಾ ನಿಯಮಗಳನ್ನು ಸಹ ಕಾರ್ಯಗತಗೊಳಿಸಲು ಸಮರ್ಥವಾಗಿದೆ.

ನೈಜ ಸಮಯದಲ್ಲಿ ಪತ್ತೆ ಮತ್ತು ತಡೆಗಟ್ಟುವಿಕೆ ತರ್ಕವನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಲು ಹೂಕ್‌ಗಳು ಶಕ್ತಿಯುತ ಸಾಧನಗಳಾಗಿವೆ. ಆದಾಗ್ಯೂ, ಈ ತರ್ಕವನ್ನು ಕೋಡ್‌ನಲ್ಲಿ ನಿರ್ದಿಷ್ಟಪಡಿಸಬೇಕು. ಆಗಾಗ್ಗೆ, ಏಜೆಂಟ್ ಭದ್ರತಾ ಘಟನೆಯು ಮುಂಚಿತವಾಗಿ ಊಹಿಸಲು ಸಾಧ್ಯವಿಲ್ಲದ ರೂಪವನ್ನು ಪಡೆದುಕೊಳ್ಳುತ್ತದೆ, ಮೂಲ ಕೋಡ್‌ಗೆ ಕಡಿಮೆಯಿರಲಿ. ಆದ್ದರಿಂದ, Numbat ಸೆಷನ್ ಆರ್ಟಿಫ್ಯಾಕ್ಟ್ ಅನ್ನು ಹಿಮ್ಮುಖವಾಗಿ ಪ್ರವೇಶಿಸುವ ಮತ್ತು ವಿಶ್ಲೇಷಿಸುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೊಂದಿದೆ.

ಸೆಷನ್ ಆರ್ಟಿಫ್ಯಾಕ್ಟ್‌ಗಳಲ್ಲಿ ಹಲವಾರು ವಿಧದ ಲಾಗ್‌ಗಳು ಮತ್ತು ಡಯಾಗ್ನೊಸ್ಟಿಕ್‌ಗಳು ಸೇರಿವೆ. ಬಹುಶಃ ಅತ್ಯಂತ ಮುಖ್ಯವಾದ ಲಾಗ್ ಪ್ರಕಾರವೆಂದರೆ ಸೆಷನ್ ಟ್ರಾನ್ಸ್ಕ್ರಿಪ್ಟ್, ಇದು ಏಜೆಂಟ್‌ನ ಕ್ರಿಯಾ ಕ್ರಮವನ್ನು ನಿರ್ಧರಿಸುವ LLM ಸಂಭಾಷಣೆಗಳನ್ನು ದಾಖಲಿಸುತ್ತದೆ. ಕೋಡಿಂಗ್ ಏಜೆಂಟ್‌ಗಳ ಪವರ್ ಯೂಸರ್‌ಗಳು ಹಾರ್ನೆಸ್-ಪ್ರದಾನ ಮಾಡಿದ ಆದೇಶಗಳ ಮೂಲಕ ಮುಂದಿನ ವಿಶ್ಲೇಷಣೆಗಾಗಿ ಸೆಷನ್ ಟ್ರಾನ್ಸ್ಕ್ರಿಪ್ಟ್‌ಗಳನ್ನು ರಫ್ತು ಮಾಡಲು ಈಗಾಗಲೇ ಅಭ್ಯಾಸ ಹೊಂದಿದ್ದಾರೆ. ಆದರೆ ಈ ರಫ್ತುಗಳು ಸಾಮಾನ್ಯವಾಗಿ plaintext ಸ್ವರೂಪದಲ್ಲಿರುತ್ತವೆ, ಇದು ಯಂತ್ರ-ಓದಬಹುದಾದ ಲಾಗ್‌ಗಳು ಮತ್ತು ಸ್ಥಿರ, ಊಹಿಸಬಹುದಾದ schema ಅಗತ್ಯವಿರುವ ಭದ್ರತಾ ತಂಡಗಳಿಗೆ ಅಸಮರ್ಪಕವಾಗಿದೆ.

ಹೀಗಾಗಿ Numbat ಫೈಲ್‌ಸಿಸ್ಟಮ್‌ನಿಂದ ನೇರವಾಗಿ ಸೆಷನ್ ಆರ್ಟಿಫ್ಯಾಕ್ಟ್ ಅನ್ನು ಹಿಂಪಡೆಯುತ್ತದೆ. ಹೆಚ್ಚಿನ ಕ್ಲೈಂಟ್-ಸೈಡ್ ಏಜೆಂಟ್ ಹಾರ್ನೆಸ್‌ಗಳು ಮೂಲ ಆರ್ಟಿಫ್ಯಾಕ್ಟ್‌ಗಳನ್ನು ಫೈಲ್‌ಸಿಸ್ಟಮ್‌ನಲ್ಲಿ ಸಂಗ್ರಹಿಸುವುದರಿಂದ (ಸಾಮಾನ್ಯವಾಗಿ $HOME ಅಡಿಯಲ್ಲಿ ಏಜೆಂಟ್-ನಿರ್ದಿಷ್ಟ ಡಾಟ್ ಡೈರೆಕ್ಟರಿಯೊಳಗೆ), ಫೈಲ್‌ಸಿಸ್ಟಮ್‌ಗೆ ಟ್ಯಾಪ್ ಮಾಡುವುದು ಈ ಡೇಟಾಗೆ ಅದರ ಅತ್ಯಂತ ಬಳಸಬಹುದಾದ ಮತ್ತು ಪ್ರಾಚೀನ ರೂಪದಲ್ಲಿ ಅತ್ಯಂತ ನೇರವಾದ ಮಾರ್ಗವನ್ನು ಒದಗಿಸುತ್ತದೆ. Numbat ಅನ್ನು ಬಳಸುವ ಭದ್ರತಾ ತಂಡಗಳು ಕ್ಲೈಂಟ್ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ನಲ್ಲಿ ಸ್ಥಳೀಯ ಪ್ರಕ್ರಿಯೆಗಾಗಿ ಅಥವಾ ಅಸಿಂಕ್ರೋನಸ್ ರಿಮೋಟ್ ವಿಶ್ಲೇಷಣೆಗಾಗಿ numbat scan ಮೂಲಕ ಸಾಮಾನ್ಯಗೊಳಿಸಿದ NDJSON ಟೈಮ್‌ಲೈನ್ ಫಾರ್ಮ್ಯಾಟ್‌ನಲ್ಲಿ ಈ ಆರ್ಟಿಫ್ಯಾಕ್ಟ್ ಗಳನ್ನು ಸಂಗ್ರಹಿಸಬಹುದು. ಸೆಷನ್ ಆರ್ಟಿಫ್ಯಾಕ್ಟ್ ಗಳು ಸ್ಥಿರವಾದ, ಸ್ವಯಂ-contained ದಾಖಲೆಗಳಾಗಿರುವುದರಿಂದ, Numbat ಅನ್ನು ಸ್ಥಾಪಿಸುವ ಬಹಳ ಹಿಂದೆಯೇ ಸಂಭವಿಸಿದ ಸೆಷನ್‌ಗಳಿಗೂ ಈ ಟೈಮ್‌ಲೈನ್‌ಗಳನ್ನು ಪುನರ್ನಿರ್ಮಿಸಲು Numbat ಸಮರ್ಥವಾಗಿದೆ.

OpenTelemetry ಪ್ರೋಟೋಕಾಲ್ (OTLP) ಮೂಲಕ ಹೆಚ್ಚಿನ ಕ್ಲೈಂಟ್-ಸೈಡ್ ಏಜೆಂಟ್ ಹಾರ್ನೆಸ್‌ಗಳು ವ್ಯಾಪಕವಾದ ಟೆಲಿಮೆಟ್ರಿಯನ್ನು ನೀಡುತ್ತವೆ. ಈ ಟೆಲಿಮೆಟ್ರಿಯು ಸಾಮಾನ್ಯವಾಗಿ ಹೂಕ್‌ಗಳು ಅಥವಾ ಸೆಷನ್ ಆರ್ಟಿಫ್ಯಾಕ್ಟ್ ಗಳ ಮೂಲಕ ಲಭ್ಯವಿರುವಂತಹವುಗಳನ್ನು ಮೀರಿದ ಅನೇಕ ಸಂಕೇತಗಳನ್ನು ಒದಗಿಸುತ್ತದೆ.

numbat collect ಆಜ್ಞೆಯ ಮೂಲಕ Numbat OTLP ರಿಸೀವರ್ ಆಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಬಹುದು. ಈ ಆಜ್ಞೆಯು ಒಂದು ಸರ್ವರ್ ಅನ್ನು ಪ್ರಾರಂಭಿಸುತ್ತದೆ ಅದಕ್ಕೆ ಕೋಡಿಂಗ್ ಏಜೆಂಟ್‌ಗಳು ಡೌನ್‌ಸ್ಟ್ರೀಮ್ ವಿಶ್ಲೇಷಣೆಗಾಗಿ OTLP ಟೆಲಿಮೆಟ್ರಿಯನ್ನು ಕಳುಹಿಸುತ್ತವೆ. ಮುಖ್ಯವಾಗಿ, ಈ ಸರ್ವರ್ ಸ್ಥಳೀಯವಾಗಿದೆ ಮತ್ತು ಪೂರ್ವನಿಯೋಜಿತವಾಗಿ localhost ನಲ್ಲಿ ಮಾತ್ರ ಕೇಳಿಸಿಕೊಳ್ಳುತ್ತದೆ, ಅಂದರೆ ಎಲ್ಲಾ ಟೆಲಿಮೆಟ್ರಿಯು ಪೂರ್ವನಿಯೋಜಿತವಾಗಿ ಸಾಧನದಲ್ಲೇ ಉಳಿಯುತ್ತದೆ. ಭದ್ರತಾ ನಿರ್ವಾಹಕರು ಲಾಗ್ ಮಾಡಲಾದ ಟೆಲಿಮೆಟ್ರಿಯೊಂದಿಗೆ ಏನು ಮಾಡಬೇಕೆಂದು ನಿರ್ಧರಿಸಬಹುದು, ಅದು ಹಗುರವಾದ ಆನ್-ಡೌವೈಸ್ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುವುದನ್ನು ಒಳಗೊಂಡಿರಲಿ, numbat ship ಮೂಲಕ ರಿಮೋಟ್ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಒಳಗೊಂಡಿರಲಿ, ಅಥವಾ ClickHouse ನಂತಹ ಅನಾಲಿಟಿಕ್ಸ್ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳಲ್ಲಿ ಹೆಚ್ಚು ತೊಡಗಿಸಿಕೊಂಡಿರುವ ವಿಶ್ಲೇಷಣೆಯನ್ನು ಒಳಗೊಂಡಿರಲಿ.

Perplexity ಒಳಗೆ, Claude Code, Codex, OpenCode, ಮತ್ತು Pi ಸೇರಿದಂತೆ ಕ್ಲೈಂಟ್-ಸೈಡ್ ಕೋಡಿಂಗ್ ಏಜೆಂಟ್‌ಗಳ ನಮ್ಮ ಎಂಜಿನಿಯರ್‌ಗಳ ಬಳಕೆಯನ್ನು ಸುರಕ್ಷಿತಗೊಳಿಸಲು ನಾವು Numbat ಅನ್ನು ಬಳಸುತ್ತೇವೆ.

ನಮ್ಮ ತಡೆಗಟ್ಟುವಿಕೆ ಮತ್ತು ಪತ್ತೆ ಪ್ರಯತ್ನಗಳು ಎರಡೂ Numbat ನಿಯಮಗಳನ್ನು ವ್ಯಾಪಕವಾಗಿ ಬಳಸಿಕೊಳ್ಳುತ್ತವೆ, ಇವುಗಳನ್ನು ಪ್ರತಿ ಏಜೆಂಟ್‌ನ ಹೂಕ್ ಉಪವ್ಯವಸ್ಥೆಯ ಮೂಲಕ ಕಾರ್ಯಗತಗೊಳಿಸಲಾಗುತ್ತದೆ. ನಮ್ಮ ಸ್ವಂತ ಅಗತ್ಯಗಳಿಗಾಗಿ ನಾವು ಹಲವಾರು ಬ್ರೆಡ್-ಅಂಡ್-ಬಟರ್ ನಿಯಮಗಳನ್ನು ರೂಪಿಸಿದ್ದೇವೆ, ಅವುಗಳಲ್ಲಿ ಹೆಚ್ಚಿನವುಗಳನ್ನು Numbat ನ 52 ಬಿಲ್ಟ್-ಇನ್ ನಿಯಮಗಳ ಭಾಗವಾಗಿ ನಾವು ಶಿಪ್ ಮಾಡಿದ್ದೇವೆ. ಈ ನಿಯಮಗಳನ್ನು 11 ನಡವಳಿಕೆ ವರ್ಗಗಳಾಗಿ ಮತ್ತು ರಹಸ್ಯ ಪ್ರವೇಶ, ಸೋರಿಕೆ, ಸವಲತ್ತು ಏರಿಕೆ ಮತ್ತು ಪಾರ್ಶ್ವ ಚಲನೆಯಂತಹ ಬಹು-ಹಂತದ ಅನುಕ್ರಮ ಪತ್ತೆಗಳ ಗುಂಪಾಗಿ ಆಯೋಜಿಸಲಾಗಿದೆ. ನಿಯಮಗಳು ಸಾಮಾನ್ಯಗೊಳಿಸಿದ ಘಟನೆಗಳ ಮೇಲೆ CEL ಅಭಿವ್ಯಕ್ತಿಗಳನ್ನು ಬಳಸುತ್ತವೆ, ಮತ್ತು ಆಪರೇಟರ್‌ಗಳು Numbat ನ ಕೋಡ್ ಅನ್ನು ಬದಲಾಯಿಸದೆ ತಮ್ಮದೇ ಆದ ನಿಯಮಗಳು ಮತ್ತು ಪರೀಕ್ಷೆಗಳನ್ನು ಸೇರಿಸಬಹುದು.

ಉದಾಹರಣೆಗೆ, ಬಿಲ್ಟ್-ಇನ್ privilege.sudoers_tamper ನಿಯಮವು sudoers ಪಾಲಿಸಿಗೆ ಬರೆಯುವಿಕೆಗಳನ್ನು, visudo ನ ಬಳಕೆ ಮತ್ತು NOPASSWD ಅನುದಾನಗಳನ್ನು ಸ್ಥಾಪಿಸುವ ಪ್ರಯತ್ನಗಳನ್ನು ಪತ್ತೆ ಮಾಡುತ್ತದೆ. ಇವು ಸೀಮಿತ ಏಜೆಂಟ್ ಪ್ರಕ್ರಿಯೆಯನ್ನು ನಿರಂತರ ರೂಟ್ ಪ್ರವೇಶವಾಗಿ ಬದಲಾಯಿಸಬಹುದಾದ ಹೈ-ಸಿಗ್ನಲ್ ಕ್ರಿಯೆಗಳಾಗಿವೆ.

yaml

# privilege.sudoers_tamper (simplified for readability)
id: privilege.sudoers_tamper
severity: high
expr: |
  (
    event.event_type == "file.write" &&
    event.file_path.matches("(^|/)etc/sudoers$|(^|/)etc/sudoers\\.d/[^/]+$")
  ) || (
    event.event_type == "command.exec" &&
    event.command.matches("\\bvisudo\\b|\\bNOPASSWD\\s*:")
  )

ವೈಯಕ್ತಿಕ ಆಜ್ಞೆಗಳು ಯಾವಾಗಲೂ ತಮ್ಮದೇ ಆದ ಮೇಲೆ ದುರುದ್ದೇಶಪೂರಿತವಾಗಿ ಕಾಣುವುದಿಲ್ಲ, ಆದ್ದರಿಂದ Numbat ಸೆಷನ್ ಒಳಗೆ ಅನುಕ್ರಮಗಳನ್ನು ಸಹ ಪರಸ್ಪರ ಸಂಬಂಧಿಸುತ್ತದೆ. ಬಿಲ್ಟ್-ಇನ್ chain.secret_manager_read_then_egress ನಿಯಮವು ಏಜೆಂಟ್ ಸಾಮಾನ್ಯ ರಹಸ್ಯಗಳು-ನಿರ್ವಹಣಾ ಸಾಧನದಿಂದ ಮೌಲ್ಯವನ್ನು ಓದಿದಾಗ ಮತ್ತು ನಂತರ ಡೇಟಾವನ್ನು ಹೊಂದಿರುವ curl ಅಥವಾ wget ವಿನಂತಿಯನ್ನು ಪ್ರಯತ್ನಿಸಿದಾಗ ಪತ್ತೆ ಮಾಡುತ್ತದೆ. ರಹಸ್ಯ ಓದುವಿಕೆ ನ್ಯಾಯಸಮ್ಮತವಾಗಿರಬಹುದು. ಹೊರಹೋಗುವ ವಿನಂತಿಯು ನ್ಯಾಯಸಮ್ಮತವಾಗಿರಬಹುದು. ಒಟ್ಟಿಗೆ ಅನುಕ್ರಮಗೊಳಿಸಲಾಗಿದೆ, ಅವುಗಳಿಗೆ ತನಿಖೆ ಅಗತ್ಯವಿರುತ್ತದೆ.

yaml

# chain.secret_manager_read_then_egress (simplified for readability)
id: chain.secret_manager_read_then_egress
severity: high
sequence:
  within_events: 64
  steps:
    - expr: |
        event.event_type == "command.exec" &&
        event.command.matches("secretsmanager|get-secret|vault read")
    - expr: |
        event.event_type == "command.exec" &&
        event.command.matches("curl.*(--data|--upload-file)|wget.*--post")

Bumblebee — ಡೆವಲಪರ್ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳಲ್ಲಿ ಸರಬರಾಜು-ಶೃಂಖಲೆ ಬಹಿರಂಗತೆಯಿಗಾಗಿ ನಮ್ಮ ಓಪನ್-ಸೋರ್ಸ್ ಸ್ಕ್ಯಾನರ್ — ನಂತೆ, Numbat ಅನ್ನು MDM ಮೂಲಕ ನಮ್ಮ ಫ್ಲೀಟ್‌ದಾದ್ಯಂತ ನಿಯೋಜಿಸಲಾಗಿದೆ. ಪ್ರತಿಯೊಂದು Numbat ಸ್ಥಳೀಯವಾಗಿ ಏಜೆಂಟ್ ಚಟುವಟಿಕೆಯನ್ನು ದಾಖಲಿಸಿ, ರಚಿತ ಟೆಲಿಮೆಟ್ರಿಯನ್ನು ನಮ್ಮ ಕೇಂದ್ರಿಕೃತ ಭದ್ರತಾ ವ್ಯವಸ್ಥೆಗಳಿಗೆ ಕಳುಹಿಸುತ್ತದೆ.

ಅಲ್ಲಿಂದ, Perplexity Computer ಅನುಮಾನಾಸ್ಪದ ಅಥವಾ ದುರುದ್ದೇಶಪೂರಿತ ನಡವಳಿಕೆಗಾಗಿ ಮರುಕಳಿಸುವ ವೇಳಾಪಟ್ಟಿಯಲ್ಲಿ ಇತ್ತೀಚಿನ NumbatFindings ಮತ್ತು ಆಡಿಟ್ ಲಾಗ್‌ಗಳನ್ನು ಪರಿಶೀಲಿಸುತ್ತದೆ. ಇದು ಪತ್ತೆಗಳನ್ನು ತನಿಖೆ ಮಾಡುತ್ತದೆ, ಸಂಬಂಧಿತ ಏಜೆಂಟ್ ಸೆಷನ್‌ಗಳನ್ನು ಪುನರ್ನಿರ್ಮಿಸುತ್ತದೆ ಮತ್ತು Numbat ನಿರ್ಬಂಧಿಸಿದ ಕ್ರಿಯೆಗಳಿಗೆ ಹೆಚ್ಚುವರಿ ಪರಿಶೀಲನೆಯನ್ನು ನೀಡುತ್ತದೆ.

Numbat ಟೆಲಿಮೆಟ್ರಿಯನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಲು Perplexity ನ ಆಂತರಿಕ ಪೈಪ್‌ಲೈನ್. ನಿಗದಿತ Perplexity Computer ಕಾರ್ಯವು ಹೊಸ ಸಂಕೇತಗಳನ್ನು ಅಸಿಂಕ್ರೋನಸ್ ಆಗಿ ಪರಿಶೀಲಿಸುತ್ತದೆ ಮತ್ತು ಅಪಾಯಕಾರಿ ಚಟುವಟಿಕೆಯ ಕುರಿತು ಭದ್ರತಾ ತಂಡಕ್ಕೆ ಎಚ್ಚರಿಕೆ ನೀಡುತ್ತದೆ.

Computer ನಮ್ಮ ಕವರೆಜ್‌ನಲ್ಲಿನ ಖಾಲಿತನಗಳನ್ನೂ ಹುಡುಕುತ್ತದೆ. ಅದು ಹೊಸ ವರ್ತನೆಯನ್ನು ವಿಶ್ಲೇಷಿಸಿ, Numbat‌ನ ಪತ್ತೆಗಳನ್ನು ಸುಧಾರಿಸಲು ಸಲಹೆಗಳನ್ನು ನೀಡುತ್ತದೆ, ಆ ಬದಲಾವಣೆಗಳನ್ನು ಪರೀಕ್ಷಿಸುತ್ತದೆ, ಮತ್ತು ಮಾನವ ಪರಿಶೀಲನೆಗಾಗಿ pull request‌ಗಳನ್ನು ತೆರೆಯುತ್ತದೆ. ಒಮ್ಮೆ ಅನುಮೋದಿಸಿ ನಿಯೋಜಿಸಿದ ನಂತರ, ಆ ನಿಯಮಗಳು ಫ್ಲೀಟ್‌ದಾದ್ಯಂತ ನಿಗಾವಹಿಸುವಿಕೆಯನ್ನು ಸುಧಾರಿಸಿ, ಮುಂದಿನ ತನಿಖೆಗೆ ಉತ್ತಮ ಸಾಕ್ಷ್ಯವನ್ನು ಒದಗಿಸುತ್ತವೆ.

ಇದು ಸ್ವಯಂ-ಸುಧಾರಿಸುವ ಭದ್ರತಾ ಫ್ಲೈವೀಲ್ ಅನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ: ಏಜೆಂಟ್‌ಗಳು ಚಟುವಟಿಕೆಯನ್ನು ಸೃಷ್ಟಿಸುತ್ತವೆ, Numbat ಆ ಚಟುವಟಿಕೆಯನ್ನು ಸಾಮಾನ್ಯಗೊಳಿಸಿದ ಟೈಮ್‌ಲೈನ್‌ಗಳು ಮತ್ತು ಟೆಲಿಮೆಟ್ರಿಯಾಗಿ ಪರಿವರ್ತಿಸುತ್ತದೆ, Computer ತನಿಖೆ ಮಾಡುತ್ತದೆ ಮತ್ತು ನಿಯಮಗಳನ್ನು ಸುಧಾರಿಸುತ್ತದೆ, ಮತ್ತು ಮಾನವ-ಪರಿಶೀಲಿಸಿದ ನವೀಕರಣಗಳು ಭವಿಷ್ಯದ ಏಜೆಂಟ್ ಸೆಷನ್‌ಗಳನ್ನು ರಕ್ಷಿಸುವ ನಿಯಂತ್ರಣಗಳನ್ನು ಬಲಪಡಿಸುತ್ತವೆ.

Perplexity ನಲ್ಲಿ, AI ಏಜೆಂಟ್‌ಗಳು ಎಲ್ಲಾ ರೀತಿಯ ಪರಿಸರಗಳಲ್ಲಿ ಕಾರ್ಯಗತಗೊಳ್ಳುತ್ತವೆ ಎಂದು ನಾವು ನಂಬುತ್ತೇವೆ: ಸ್ಥಳೀಯ, ಕ್ಲೌಡ್ ಮತ್ತು ಹೈಬ್ರಿಡ್. ಏಜೆಂಟ್ ಹಾರ್ನೆಸ್ ಮತ್ತು ಎಕ್ಸಿಕ್ಯೂಶನ್ ಪರಿಸರದ ಪ್ರತಿ ಸಂಯೋಜನೆಯು ಅನನ್ಯ ಭದ್ರತಾ ಸವಾಲುಗಳನ್ನು ಒಡ್ಡುತ್ತದೆ, ಸಂಯೋಜಕ ಸಂಕೀರ್ಣತೆಯು ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್-ಕೊರತೆಯಿರುವ ಭದ್ರತಾ ತಂಡಗಳನ್ನು ಮುಳುಗಿಸುವುದಾಗಿ ಬೆದರಿಕೆ ಹಾಕುತ್ತದೆ. ಏಜೆಂಟ್ ಮೆಲ್ಟ್‌ಡೌನ್‌ಗಳು ಮತ್ತು ಇತರ ನವೀನ ದುರ್ಬಲತೆಗಳು ಭದ್ರತಾ ಚಿತ್ರವನ್ನು ಇನ್ನಷ್ಟು ಸಂಕೀರ್ಣಗೊಳಿಸುತ್ತವೆ.

ಏಜೆಂಟ್ ಸಿಸ್ಟಮ್ ಒಳಗೆ ವಾಸಿಸುವ ರಕ್ಷಣೆಯು ಏಜೆಂಟ್ ಎಲ್ಲಿ ಕಾರ್ಯಗತಗೊಂಡರೂ ಬಳಕೆದಾರರ ಭದ್ರತಾ ಭಂಗಿಯನ್ನು ಸುಧಾರಿಸಬಹುದು. Numbat ನಿಖರವಾಗಿ ತಲುಪಿಸುವುದು ಇದನ್ನೇ: ಬಿಗಿಯಾಗಿ ಸಂಯೋಜಿಸಲಾದ ಏಜೆಂಟ್ ಸುರಕ್ಷತೆಗಳು, ರಕ್ಷಕರು ನೈಜ ಸಮಯದಲ್ಲಿ ಕಳವಳಕಾರಿ ನಡವಳಿಕೆಯನ್ನು ತಡೆಯಲು, ಪತ್ತೆಹಚ್ಚಲು ಮತ್ತು ಪ್ರತಿಕ್ರಿಯಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ. Numbat ಅನ್ನು Perplexity Computer ನೊಂದಿಗೆ ಸಂಯೋಜಿಸುವುದರಿಂದ ರಕ್ಷಕರಿಗೆ ಕರ್ವ್‌ಗಿಂತ ಮುಂಚಿತವಾಗಿರಲು ಶಕ್ತಿ ನೀಡುವ ಪವರ್‌ಹೌಸ್ ಏಜೆಂಟ್ ಭದ್ರತಾ ವೇದಿಕೆಯನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ.

Numbat ಇಂದು macOS, Linux, ಮತ್ತು Windows‌ಗಾಗಿ open-source project ಆಗಿ ಲಭ್ಯವಿದೆ. ನಮ್ಮದೇ ಕ್ಲೈಯಂಟ್ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳು Numbat ಮೂಲಕ ಸುರಕ್ಷಿತಗೊಂಡಿವೆ, ಇದರಿಂದ Perplexity ತಂಡದ ಸದಸ್ಯರು ವಿಶಾಲವಾಗಿ ವ್ಯಾಪ್ತಿಯ ಕಾರ್ಯಗಳು ಮತ್ತು ದೀರ್ಘ ಸಮಯಾವಧಿಗಳಲ್ಲಿ ಏಜೆಂಟ್‌ಗಳನ್ನು ವಿಶ್ವಾಸದಿಂದ ಬಳಸಬಹುದು. ತಮ್ಮ ಏಜೆಂಟ್ ನಿಯೋಜನೆಗಳನ್ನು ಭದ್ರಪಡಿಸಲು ಮತ್ತು ರಕ್ಷಿಸಲು Numbat‌ನ ವ್ಯವಸ್ಥಾ-ಮಟ್ಟದ ವಿಧಾನವನ್ನು ಬಳಸಿಕೊಳ್ಳಲು ನಾವು ಎಲ್ಲೆಡೆಯೂ ಭದ್ರತಾ ತಂಡಗಳನ್ನು ಆಹ್ವಾನಿಸುತ್ತೇವೆ.

BibTeX

@online{perplexity2026SecuringAgentsAcrossPerplexitySClientEndpointsWithNumbat,
  author = {{Perplexity} and Adel Karimishiraz and Bex Brooker and Phi Hoang and Jerry Ma},
  title = {{Securing agents across Perplexity's client endpoints with Numbat}},
  date = {2026-07-29},
  url = {https://perplexity.coolkeypoint.com/hub/blog/securing-agents-across-perplexity-s-client-endpoints-with-numbat}
}

ಪರಿಚಯ

ದುರ್ಬಲತೆಯ ಭೂದೃಶ್ಯವನ್ನು ನೆಲೆಗೊಳಿಸುವುದು

ಸ್ಥಳೀಯ ಹಾರ್ನೆಸ್ ಸಂಯೋಜನೆಗಳ ಮೂಲಕ ಕೋಡಿಂಗ್ ಏಜೆಂಟ್‌ಗಳನ್ನು ಸುರಕ್ಷಿತಗೊಳಿಸುವುದು

ಹೂಕ್‌ಗಳು

ಸೆಷನ್ ಆರ್ಟಿಫ್ಯಾಕ್ಟ್

OTLP ಟೆಲಿಮೆಟ್ರಿ

Perplexity ಒಳಗೆ Numbat ಅನ್ನು ನಿಯೋಜಿಸುವುದು

ಫ್ಲೀಟ್‌ದಾದ್ಯಂತ Numbatsಗಳನ್ನು ನಿರ್ವಹಿಸುವುದು ಮತ್ತು ನಿಗಾ ವಹಿಸುವುದು

ತೀರ್ಮಾನ

ಉಲ್ಲೇಖ