Numbat తో Perplexity క్లైంట్ ఎండ్‌పాయింట్ల అంతటా ఏజెంట్లను సురక్షితం చేయడం

AI ఏజెంట్లు ఉపయోగకరంగా ఉండాలంటే సురక్షితంగా ఉండాలి. మోడల్ మరియు సిస్టమ్ సామర్థ్యాలు అభివృద్ధి చెందుతున్న కొద్దీ, వినియోగదారులను రక్షించడానికి అవసరమైన అప్రమత్తత కూడా పెరుగుతుంది.

ప్రారంభ ఏజెంట్ భద్రతా పరిశోధన ప్రాంప్ట్ ఇన్‌జెక్షన్‌లు మరియు ఇతర రకాల శత్రుపూరిత ఇన్‌పుట్‌లపై దృష్టి సారించింది. అయినప్పటికీ, ఏజెంట్ స్వయంప్రతిపత్తిలో ఇటీవలి పురోగతులు శత్రుపూరిత ఇన్‌పుట్‌లు లేదా మానవ శత్రువుల ఉనికిని అస్సలు ఊహించాల్సిన అవసరం లేని భద్రతా సంఘటనలకు దారితీస్తున్నాయి.

కావున, ఈ లక్ష్యాలను ఎలా సాధించాలో నిర్దిష్ట మార్గదర్శనం లేకుండా ఉన్నత-స్థాయి లక్ష్యాలను అనుసరించమని దిశానిర్దేశం చేయబడిన ఏజెంట్లు వ్యతిరేక పక్షంగా మారగలరు. ఇది, వినియోగదారు నిర్దేశించిన లక్ష్యానికి ప్రతిస్పందనగా, ఏజెంట్ వినియోగదారు ఉద్దేశించని మరియు ఆమోదించని చర్యల మార్గాన్ని ఎంచుకున్నప్పుడు జరుగుతుంది. ఇటువంటి సంఘటనలు కొన్ని నెలల క్రితం మాత్రమే సిద్ధాంతీకరించబడినప్పటికీ, అవి వేగంగా ప్రాయోగిక ఆందోళనలుగా మారాయి.

ఈ ప్రవర్తనలను మోడల్ పొరలో పూర్తిగా ప్యాచ్ చేయలేము కాబట్టి, బలమైన రక్షణ తప్పనిసరిగా చుట్టుపక్కల వ్యవస్థలో ఉండాలి; ఇందులో మోడల్‌కు బయటి ప్రపంచంతో పరస్పర చర్యకు ఇంటర్‌ఫేస్‌గా పనిచేసే ఏజెంట్ harness కూడా ఉంటుంది. మేము Numbat‌ను ఓపెన్-సోర్స్ చేస్తున్నాము; ఇది రక్షకులకు ఏజెంట్-సంబంధిత సంఘటనలను నిరోధించడానికి, గుర్తించడానికి, మరియు తగ్గించడానికి సహాయపడే మా ఏజెంట్ భద్రతా సూట్. Numbat, సంస్థల క్లయింట్ ఎండ్‌పాయింట్లలో సాధారణంగా కనిపించే ఏజెంట్ harness‌లను గుర్తించి వాటితో నేరుగా సమగ్రపరుస్తుంది; భద్రతా నియమాలను అమలు చేస్తూ, వేగవంతమైన గుర్తింపు మరియు ప్రతిస్పందనను సాధ్యం చేస్తుంది.

ఏజెంట్లను స్వీకరించడం వల్ల డెవలపర్లు, స్వీకరించేవారు మరియు డిఫెండర్ల కోసం సరికొత్త భద్రతా సవాళ్లు ఎదురవుతాయి. ఎంటర్‌ప్రైజ్ సిస్టమ్‌లు మరియు డేటాకు ప్రివిలేజ్డ్ యాక్సెస్‌తో ఎంటర్‌ప్రైజెస్‌లు క్లైంట్ ఎండ్‌పాయింట్‌లపై నేరుగా ఏజెంట్‌లను డిప్లాయ్ చేసినప్పుడు ఇది ప్రత్యేకంగా వర్తిస్తుంది.

CLI-ఆధారిత లేదా డెస్క్‌టాప్ యాప్-ఆధారిత కోడింగ్ ఏజెంట్లు వంటి క్లైంట్ ఎండ్‌పాయింట్‌లపై ఏజెంట్ డిప్లాయ్‌మెంట్‌లు వివిధ స్థాయిల శాండ్‌బాక్సింగ్ మరియు ఐసోలేషన్‌తో వస్తాయి. వినియోగదారులు అంతులేని ఉపయోగ సందర్భాల కోసం ఈ ఏజెంట్లను ఉపయోగిస్తారు, ప్రతి ఒక్కటి ఎండ్‌పాయింట్‌ను లేదా ఎండ్‌పాయింట్ నుండి యాక్సెస్ చేయగల ఇతర సిస్టమ్‌లను ప్రభావితం చేసే వాటి స్వంత అనుబంధిత చర్య స్పేస్‌తో ఉంటాయి. పెరుగుతున్న సంఖ్యలో, ఏజెంట్లు గంటల తరబడి లేదా రోజుల తరబడి స్వయంప్రతిపత్తితో పనిచేస్తాయని ఆశించబడుతుంది. ఈ వర్క్‌ఫ్లోల కోసం, చాలా మంది వినియోగదారులు ఏజెంట్ చర్య ఆమోదాలను క్లాసిఫైయర్‌లకు డెలిగేట్ చేయడానికి ఎంచుకుంటారు లేదా --dangerously-skip-permissions మరియు --yolo వంటి ఆందోళన కలిగించే పేర్లు గల కాన్ఫిగరేషన్ ఫ్లాగ్‌లతో ఆమోదాలను పూర్తిగా బైపాస్ చేస్తారు. ఏజెంట్ ఉపయోగ సందర్భాలు మరియు కాన్ఫిగరేషన్‌ల బహుళత్వం, ప్రివిలేజ్డ్ ఎండ్‌పాయింట్‌లపై కోడింగ్ ఏజెంట్లు నిర్వహించగల చర్యల విస్తృతతతో కలిపి, భద్రతా బృందాల ద్వారా ప్రోయాటిక్ నిర్వహణ అవసరమయ్యే రిస్క్ ప్రొఫైల్‌ను సృష్టిస్తుంది.

నేడు, AI ఏజెంట్ల నుండి ప్రమాదకరమైన కార్యకలాపాలను గుర్తించడానికి, పరిశోధించడానికి మరియు నిరోధించడానికి మేము నిర్మించిన ఓపెన్-సోర్సింగ్ ఏజెంట్ సెక్యూరిటీ సూట్ అయిన Numbat ను విడుదల చేస్తున్నాము. మరిన్ని కంపెనీలు ఫ్రాంటియర్ ఏజెంట్ ఉత్పత్తులను స్వీకరిస్తున్న కొద్దీ, ఫలితంగా ఏర్పడే భద్రతా సవాళ్లను ఎదుర్కోవడానికి Numbat భద్రతా బృందాలకు అధికారం ఇస్తుంది. ఇది విస్తృతంగా ఉపయోగించే ప్రతి క్లైంట్-సైడ్ ఏజెంట్ హార్నెస్‌లలోకి అనుసంధానించబడుతుంది, అదే సమయంలో వాటన్నింటిలోనూ స్థిరమైన ఇంటర్‌ఫేస్‌ను అందిస్తుంది. తద్వారా వినియోగదారులు ఆధారపడే ప్రతి వ్యక్తిగత ఏజెంట్ కోసం కస్టమ్ సేఫ్‌గార్డ్‌లు మరియు మానిటరింగ్ టూల్స్‌ను రూపొందించే భారం నుండి భద్రతా బృందాలను Numbat విముక్తి చేస్తుంది. NVIDIA మరియు ఇతర సంస్థలతో కూడిన Open Secure AI Alliance లో Perplexity సభ్యత్వంలో భాగంగా డిఫెండర్ ఎకోసిస్టమ్‌కు Numbat అందుబాటులో ఉంది.

Numbat-రక్షిత ఏజెంట్ల సిస్టమ్ ఆర్కిటెక్చర్. Numbat స్థానిక-మొదటి గుర్తింపు మరియు ఏజెంట్-అజ్ఞేయ ఫోరెన్సిక్స్‌ను నొక్కి చెబుతుంది.

ఈ వ్యాసం Numbat ను ప్రేరేపించే భద్రతా సవాళ్ల చర్చతో ప్రారంభమవుతుంది. ఆపై మేము Perplexity యొక్క వేలాది స్వంత ఎండ్‌పాయింట్‌లలో Numbat ను డిప్లాయ్ చేయడం నుండి మా పాఠాలతో పాటు, Numbat డిజైన్ మరియు ఆర్కిటెక్చర్‌ను అందిస్తాము.

AI ఏజెంట్ భద్రతా సంఘటనల ల్యాండ్‌స్కేప్ వేగంగా అభివృద్ధి చెందుతోంది. ఇప్పటికే ఉన్న ఏజెంట్ భద్రతా సాహిత్యంలో ఎక్కువ భాగం ఇన్‌జెక్షన్ దాడిలపై దృష్టి పెడుతుంది, దీనిలో ఏజెంట్‌లను సరికాని ప్రవర్తనలోకి గందరగోళానికి గురి చేయడానికి మోడల్ ప్రాంప్ట్‌లు లేదా కాంటెక్స్ట్‌లో హానికరమైన పేలోడ్ పరిచయం చేయబడుతుంది. ఇన్‌జెక్షన్ దాడిలు మరియు రక్షణలు విస్తృతంగా అధ్యయనం చేయబడ్డాయి, మరియు Perplexity తో సహా ఏజెంట్ డెవలపర్‌లు ఇన్‌జెక్షన్ దాడిలకు వ్యతిరేకంగా మరింత బలమైన రక్షణలను రూపొందించారు.

కానీ భద్రతా సంఘటనను సృష్టించడానికి AI ఏజెంట్‌కు హానికరమైన పేలోడ్ అవసరం లేదు. వాస్తవానికి, ఎవరూ శత్రువు ఉనికిని ఊహించాల్సిన అవసరం లేదు. విశ్వసనీయమైన వాతావరణంలో, అడ్మినిస్ట్రేటర్-ఆమోదించబడిన సాధనాలతో పనిచేస్తున్న విశ్వసనీయ ఏజెంట్, దాని పనిని పూర్తి చేయడానికి చాలా కష్టపడుతున్నందున మాత్రమే హానికరమైన చర్యలను తీసుకోవచ్చు.

పరిశోధకులు ఈ వైఫల్య విధానాన్ని “ఆకస్మిక మెల్ట్‌డౌన్”గా వివరిస్తారు: ఇది ప్రత్యర్థి ఇన్‌పుట్ వల్ల కాక, సాధారణ పర్యావరణ దోషం వల్ల ప్రేరేపించబడే హానికరమైన ఏజెంట్ ప్రవర్తన. కోల్పోయిన ఫైలు, విఫలమైన API అభ్యర్థన, గడువు ముగిసిన ప్రమాణపత్రం, లేదా అనుమతి నిరాకరణ ఏజెంట్‌ను ప్రత్యామ్నాయ పరిష్కారం కోసం వెతికేలా చేయవచ్చు. తన అసలు వినియోగదారు-నిర్దేశిత లక్ష్యాన్ని సాధించడానికి ప్రయత్నిస్తూ, ఏజెంట్ అనధికార రీకానసెన్స్, యాక్సెస్-కంట్రోల్ మార్పులు, రహస్యాల అన్వేషణ, లేదా డేటా ఎక్స్‌ఫిల్ట్రేషన్ ద్వారా భద్రతా సరిహద్దులను దాటవచ్చు. ఏజెంట్‌ను దాడికర్త చేతుల్లోకి తీసుకోకుండా మార్చినట్లుకు బదులుగా, ఏజెంట్‌నే దాడికర్త అవుతుంది. మరింతగా, దాడి అంతర్గత వ్యవస్థలు, బాహ్య వ్యవస్థలు, లేదా రెండింటినీ లక్ష్యంగా చేసుకోవచ్చు; దాడి ఇప్పటికే సాగుతుండే వరకూ తెలియజేసే మార్గం ఉండదు.

మొదటి విస్తృతంగా నివేదించబడిన ప్రమాదవశాత్తు మెల్ట్‌డౌన్ ఈ నెలలో వచ్చింది, Hugging Face యొక్క ప్రొడక్షన్ ఇన్‌ఫ్రాస్ట్రక్చర్‌ను రాజీ చేసిన ఏజెంట్-ప్రారంభించిన దాడిని OpenAI బహిర్గతం చేయడంతో. ముందస్తు విడుదల GPT మోడల్ యొక్క మూల్యాంకనాల సమయంలో, అందించిన కాంటెక్స్ట్‌తో మూల్యాంకనంపై పురోగతి సాధించలేకపోతున్నట్లు మోడల్ కనుగొంది. ఈ లాగ్‌జామ్‌ను బద్దలు కొట్టడానికి, మోడల్ దాని శాండ్‌బాక్స్ టెస్టింగ్ ఎన్విరాన్‌మెంట్ నుండి తప్పించుకోవడానికి మరియు Hugging Face నుండి మూల్యాంకన సమాధానాలను ఎక్స్‌ఫిల్ట్రేట్ చేయడానికి ఒక మార్గాన్ని కనుగొంది. ఉద్దేశించిన నెట్‌వర్క్ నిబంధనల నుండి తప్పించుకోవడానికి, శాండ్‌బాక్స్ సరిహద్దులకు మించి ప్రివిలేజెస్‌ను పెంచడానికి, రహస్యాలను పొందడానికి మరియు సురక్షితమైన Hugging Face సిస్టమ్‌లను యాక్సెస్ చేయడానికి మోడల్ దాని హార్నెస్‌ను ఉపయోగించింది, ఇవన్నీ మూల్యాంకనాన్ని పరిష్కరించే ఇరుకైన లక్ష్యాన్ని అనుసరించడానికే.

మెల్ట్‌డౌన్‌లలో అనుకోని సిస్టమ్ మార్పులు మరియు తొలగింపులు కూడా ఉన్నాయి. బాహ్య వ్యవస్థను ఉల్లంఘించడంలా కాకపోయినా, ఇవి మరింత సాధారణమైనవైనా, కోడింగ్ ఏజెంట్లకు అధికంగా వినియోగించే ప్రతి పవర్ యూజర్‌కు మరింత స్పష్టంగా కనిపిస్తాయి. ప్రొడక్షన్ డేటాబేస్‌లను లేదా హోమ్ డైరెక్టరీలను తొలగించడం ఏ డెవలపర్‌కైనా అత్యంత భయంకరమైన కల, మరియు ఏజెంట్లు తమ పనితీరు మొత్తం ఈ ప్రవర్తనలను దూరంగా ఉంచగలగాలి.

మోడళ్లలోనే ఈ ప్రవర్తనలను తగ్గించడానికి AI పరిశోధకులు కృషి చేస్తున్నారు. ఈ ప్రయత్నాలు ఖచ్చితంగా విలువైనవి అయినప్పటికీ, బలమైన భద్రతా లక్షణాల కోసం మోడళ్లకు శిక్షణ ఇవ్వడం మరియు మరింత సంక్లిష్టమైనను సాధించడానికి అదే మోడళ్లకు శిక్షణ ఇవ్వడం మధ్య ప్రాథమిక ఉద్రిక్తతను పరిశోధనా సంఘంలోని చాలా మంది గ్రహించారు. మోడల్ లేయర్‌పై మాత్రమే దృష్టి సారించే రక్షణలు మెల్ట్‌డౌన్ రిక్స్‌ను ఆమోదయోగ్యమైన స్థాయికి తగ్గిస్తాయని మేము నమ్మము.

దీని అర్థం ఏమిటంటే, ఏజెంట్ భద్రత పూర్తిగా మోడల్, వినియోగదారు లేదా టాస్క్-స్థాయి రక్షణలపై ఆధారపడదు. బదులుగా, క్లైంట్ ఎండ్‌పాయింట్‌లపై ఏజెంట్లు వాస్తవానికి ఏమి చేస్తారనే దానిపై భద్రతా బృందాలకు దృశ్యమానత అవసరం, అలాగే ప్రమాదకరమైన చర్యలను అమలు చేయడానికి ముందు ఆపగల నియంత్రణలు అవసరం. ఇవి సిస్టమ్-స్థాయి నియంత్రణలు, ఇవి ఏజెంట్ హార్నెస్‌తో గట్టిగా అనుసంధానించబడాలి.

ప్రముఖ క్లైంట్-సైడ్ ఏజెంట్ హార్నెస్‌లలోకి సజావుగా ప్లగ్ చేసే తేలికపాటి స్టాటిక్ Go బైనరీ రూపంలో Numbat ఈ నియంత్రణలను అందిస్తుంది. ఇది ఏజెంట్ హార్నెస్‌లు మరియు ఎగ్జిక్యూషన్ ఎన్విరాన్‌మెంట్‌లలో లైవ్ మానిటరింగ్, పాలసీ ఎన్‌ఫోర్స్‌మెంట్ మరియు ఫోరెన్సిక్ రీకన్‌స్ట్రక్షన్‌ను అందిస్తుంది.

Numbat మరియు ఏజెంట్ హార్నెస్ మధ్య కీలకమైన ఇంటిగ్రేషన్ పాయింట్లు హుక్స్, సెషన్ ఆర్టిఫ్యాక్ట్లు మరియు OTLP టెలిమెట్రీ. మేము ఒక్కొక్కటిగా చర్చిస్తాము.

వాస్తవంగా అన్ని కోడింగ్ ఏజెంట్లు హుక్ ఉపవ్యవస్థను కలిగి ఉంటాయి. ఏజెంట్ ఎగ్జిక్యూషన్ లైఫ్‌సైకిల్‌లో ముందే పేర్కొన్న పాయింట్ల వద్ద సబ్‌ప్రొగ్రామ్‌లను నిర్ణయాత్మకంగా అమలు చేయడానికి హుక్స్ ఏజెంట్లను అనుమతిస్తాయి. అంచనా వేయదగిన మార్గాల్లో మోడళ్లకు అదనపు కాంటెక్స్ట్‌ను అందించడానికి, టెస్టింగ్ మరియు వెరిఫికేషన్ లూప్‌లను అమలు చేయడానికి మరియు ఏజెంట్ సామర్థ్యాలకు ఇతర మెరుగుదలలను చేయడానికి ఏజెంట్ వినియోగదారులు సాధారణంగా హుక్స్‌లను కాన్ఫిగర్ చేస్తారు.

ఈ ప్రయోజనాల కోసం hooks‌ను ఆకర్షణీయంగా 만드는 అదే నిర్ణీత లక్షణాలు, వాటిని గుర్తింపు మరియు ప్రతిస్పందన కోసం కూడా ఆకర్షణీయంగా చేస్తాయి. సాధ్యమైనంత వరకు ఆందోళన కలిగించే సంఘటన యొక్క చాలా సందర్భాలను పట్టుకోవడం సాధారణంగా సరిపోదు. బదులుగా, గుర్తింపు మరియు ప్రతిస్పందన కోసం అటువంటి అన్ని సందర్భాలను కవర్ చేయాలి. Numbat అనేక రకాల hooks‌ను కాన్ఫిగర్ చేస్తుంది, దీని ద్వారా భద్రతా బృందాలు మరియు IT నిర్వాహకులు సమృద్ధిగా ఉన్న గుర్తింపు తర్కాన్ని అమలు చేయగలరు.

చాలా కోడింగ్ ఏజెంట్లలో, కొన్ని రకాల హుక్స్ (సాధారణంగా “ప్రీ-యాక్షన్” హుక్స్ అని పిలుస్తారు) ఏజెంట్ యొక్క తదుపరి చర్య యొక్క అమలును కూడా నిరోధించగలవు. ఈ ప్రీ-యాక్షన్ హుక్స్‌ని ఉపయోగించి, Numbat గుర్తింపు లాజిక్‌ను మాత్రమే కాకుండా, మెల్ట్‌డౌన్ జరగకుండా నిరోధించడానికి నివారణ భద్రతా నియమాలను కూడా అమలు చేయగలదు.

Hooks అనేవి రియల్ టైమ్‌లో గుర్తింపు మరియు నివారణ తర్కాన్ని అమలు చేయడానికి శక్తివంతమైన మార్గాలు. అయితే, ఈ తర్కం కోడ్‌లో నిర్దిష్టంగా పేర్కొనగలిగేదిగా ఉండాలి. చాలా సందర్భాలలో, ఏజెంట్ భద్రతా ఘటన ముందుగానే ఊహించలేని రూపాన్ని దాల్చుతుంది; దాన్ని సోర్స్ కోడ్‌కు తగ్గించడం అయితే మరీ అసాధ్యం. అందువల్ల, Numbatకు సెషన్ ఆర్టిఫ్యాక్ట్‌లను పునరాలోచనాత్మకంగా యాక్సెస్ చేసి విశ్లేషించే సామర్థ్యం కూడా ఉంది.

సెషన్ ఆర్టిఫ్యాక్ట్లలో అనేక రకాల లాగ్‌లు మరియు డయాగ్నస్టిక్స్ ఉంటాయి. లాగ్‌లలో బహుశా అత్యంత ముఖ్యమైన రకం సెషన్ ట్రాన్స్‌క్రిప్ట్, ఇది ఏజెంట్ యొక్క చర్యల క్రమాన్ని నిర్దేశించే LLM సంభాషణలను రికార్డ్ చేస్తుంది. కోడింగ్ ఏజెంట్ల పవర్ యూజర్లు హార్నెస్-అందించిన కమాండ్‌ల ద్వారా మరింత విశ్లేషణ కోసం సెషన్ ట్రాన్స్‌క్రిప్ట్‌లను ఎగుమతి చేయడానికి ఇప్పటికే అలవాటు పడ్డారు. కానీ ఈ ఎగుమతులు సాధారణంగా ప్లెయిన్‌టెక్స్ట్ ఆకృతిలో ఉంటాయి, ఇవి స్థిరమైన, ఊహించదగిన స్కీమాతో యంత్ర-చదవదగిన లాగ్‌లు అవసరమయ్యే భద్రతా బృందాలకు తగినవి కావు.

అందువల్ల Numbat ఫైల్‌సిస్టమ్ నుండి నేరుగా సెషన్ ఆర్టిఫ్యాక్ట్లను తిరిగి పొందుతుంది. చాలా క్లైంట్-సైడ్ ఏజెంట్ హార్నెస్‌లు అసలు ఆర్టిఫ్యాక్ట్‌లను ఫైల్‌సిస్టమ్‌లో నిల్వ చేస్తాయి కాబట్టి ($HOME క్రింద ఏజెంట్- నిర్దిష్ట డాట్ డైరెక్టరీలో సాధారణంగా), ఫైల్‌సిస్టమ్‌లోకి ట్యాపింగ్ చేయడం ఈ డేటాను అత్యంత ఉపయోగకరమైన మరియు আদি రూపంలో పొందడానికి అత్యంత ప్రత్యక్ష మార్గాన్ని అందిస్తుంది. Numbat ను ఉపయోగించే భద్రతా బృందాలు క్లైంట్ ఎండ్‌పాయింట్‌లో స్థానిక ప్రాసెసింగ్ కోసం లేదా అసమకాలిక రిమోట్ విశ్లేషణ కోసం numbat scan ద్వారా సాధారణీకరించిన NDJSON టైమ్‌లైన్ ఆకృతిలో ఈ ఆర్టిఫ్యాక్ట్లను సేకరించవచ్చు. సెషన్ ఆర్టిఫ్యాక్ట్లు స్టాటిక్, సెల్ఫ్-కంటైన్డ్ రికార్డ్‌లు కాబట్టి, Numbat ఇన్‌స్టాల్ చేయబడటానికి చాలా కాలం ముందు జరిగే సెషన్‌లకు కూడా ఈ టైమ్‌లైన్‌లను పునర్నిర్మించగలదు.

చాలా క్లైంట్-సైడ్ ఏజెంట్ హార్నెస్‌లు OpenTelemetry ప్రోటోకాల్ (OTLP) ద్వారా విస్తృతమైన టెలిమెట్రీని అందిస్తాయి. ఈ టెలిమెట్రీ సాధారణంగా హుక్స్ లేదా సెషన్ ఆర్టిఫ్యాక్ట్ల ద్వారా అందుబాటులో ఉన్న వాటి కంటే అనేక సిగ్నల్స్‌ను అందిస్తుంది.

numbat collect కమాండ్ ద్వారా Numbat OTLP రిసీవర్‌గా పనిచేయగలదు. ఈ కమాండ్ ఒక సర్వర్‌ను ప్రారంభిస్తుంది, దీనికి కోడింగ్ ఏజెంట్లు డౌన్‌స్ట్రీమ్ విశ్లేషణ కోసం OTLP టెలిమెట్రీని పంపుతాయి. ముఖ్యం ఏమిటంటే, ఈ సర్వర్ స్థానికమైనది మరియు డిఫాల్ట్‌గా లోకల్‌హోస్ట్‌లో మాత్రమే వింటుంది, అనగా అన్ని టెలిమెట్రీ డిఫాల్ట్‌గా పరికరంలోనే ఉంటుంది. భద్రతా నిర్వాహకులు లాగిన్ చేయబడిన టెలిమెట్రీతో ఏమి చేయాలో నిర్ణయించవచ్చు, తేలికపాటి ఆన్-డివైస్ ప్రాసెసింగ్‌ను అమలు చేయడం, numbat ship ద్వారా రిమోట్ ప్రాసెసింగ్ లేదా ClickHouse వంటి అనలిటిక్స్ ప్లాట్‌ఫారమ్‌లపై మరింత ప్రమేయం ఉన్న విశ్లేషణ చేయడం వంటివి.

Perplexity లో, Claude Code, Codex, OpenCode మరియు Pi తో సహా మా ఇంజనీర్లు క్లైంట్-సైడ్ కోడింగ్ ఏజెంట్లను ఉపయోగించడాన్ని సురక్షితం చేయడానికి మేము Numbat ను ఉపయోగిస్తాము.

మా నివారణ మరియు గుర్తింపు ప్రయత్నాలు రెండూ Numbat నియమాలను విస్తృతంగా ఉపయోగిస్తాయి, ఇవి ప్రతి ఏజెంట్ యొక్క హుక్ ఉపవ్యవస్థ ద్వారా అమలు చేయబడతాయి. మా స్వంత అవసరాల కోసం మేము అనేక బ్రెడ్-అండ్-బటర్ నియమాలను రూపొందించాము, వాటిలో చాలా వరకు Numbat యొక్క 52 అంతర్నిర్మిత నియమాలలో భాగంగా మేము రవాణా చేసాము. ఈ నియమాలు 11 ప్రవర్తన వర్గాలుగా మరియు రహస్య యాక్సెస్, ఎక్స్‌ఫిల్ట్రేషన్, ప్రివిలేజ్ ఎస్కలేషన్ మరియు లాటరల్ మూవ్‌మెంట్ వంటి బహుళ-దశల క్రమ గుర్తింపుల సెట్‌గా నిర్వహించబడతాయి. నియమాలు సాధారణీకరించిన ఈవెంట్‌లపై CEL వ్యక్తీకరణలను ఉపయోగిస్తాయి, మరియు ఆపరేటర్లు Numbat కోడ్‌ను మార్చకుండానే వారి స్వంత నియమాలు మరియు పరీక్షలను జోడించవచ్చు.

ఉదాహరణకు, అంతర్నిర్మిత privilege.sudoers_tamper నియమం sudoers పాలసీకి వ్రాయడాన్ని, visudo వినియోగాన్ని మరియు NOPASSWD గ్రాంట్‌లను ఇన్‌స్టాల్ చేయడానికి ప్రయత్నాలను గుర్తిస్తుంది. ఇవి పరిమిత ఏజెంట్ ప్రక్రియను నిరంతర రూట్ యాక్సెస్‌గా మార్చగల హై-సిగ్నల్ చర్యలు.

yaml

# privilege.sudoers_tamper (simplified for readability)
id: privilege.sudoers_tamper
severity: high
expr: |
  (
    event.event_type == "file.write" &&
    event.file_path.matches("(^|/)etc/sudoers$|(^|/)etc/sudoers\\.d/[^/]+$")
  ) || (
    event.event_type == "command.exec" &&
    event.command.matches("\\bvisudo\\b|\\bNOPASSWD\\s*:")
  )

వ్యక్తిగత కమాండ్‌లు ఎల్లప్పుడూ తమంతట తాముగా హానికరంగా కనిపించవు, కాబట్టి Numbat సెషన్ లోపల అనుక్రమాలను కూడా పరస్పరం సంబంధం కలిగిస్తుంది. అంతర్నిర్మిత chain.secret_manager_read_then_egress నియమం ఏజెంట్ సాధారణ సీక్రెట్స్-మేనేజ్‌మెంట్ టూల్ నుండి విలువను చదివినప్పుడు మరియు తరువాత డేటా-బేరింగ్ curl లేదా wget అభ్యర్థనను ప్రయత్నించినప్పుడు గుర్తిస్తుంది. రహస్య చదవడం చట్టబద్ధమైనది కావచ్చు. అవుట్‌బౌండ్ అభ్యర్థన చట్టబద్ధమైనది కావచ్చు. కలిసి అనుక్రమించబడితే, వాటికి విచారణ అవసరం.

yaml

# chain.secret_manager_read_then_egress (simplified for readability)
id: chain.secret_manager_read_then_egress
severity: high
sequence:
  within_events: 64
  steps:
    - expr: |
        event.event_type == "command.exec" &&
        event.command.matches("secretsmanager|get-secret|vault read")
    - expr: |
        event.event_type == "command.exec" &&
        event.command.matches("curl.*(--data|--upload-file)|wget.*--post")

డెవలపర్ ఎండ్‌పాయింట్లపై సప్లై-చైన్ ఎక్స్‌పోజర్ కోసం మా ఓపెన్-సోర్సింగ్ స్కానర్ అయిన Bumblebee వలె, Numbat MDM ద్వారా మా ఫ్లీట్ అంతటా డిప్లాయ్ చేయబడింది. ప్రతి Numbat ఏజెంట్ కార్యకలాపాన్ని స్థానికంగా రికార్డ్ చేస్తుంది మరియు మా కేంద్రీకృత భద్రతా వ్యవస్థల్లోకి నిర్మాణాత్మక టెలిమెట్రీని పంపుతుంది.

అక్కడి నుండి, Perplexity Computer అనుమానాస్పద లేదా హానికరమైన ప్రవర్తన కోసం పునరావృత షెడ్యూల్‌లో ఇటీవలి Numbat కనుగొన్నవి మరియు ఆడిట్ లాగ్‌లను సమీక్షిస్తుంది. ఇది గుర్తింపులను విచారిస్తుంది, సంబంధిత ఏజెంట్ సెషన్‌లను పునర్నిర్మిస్తుంది మరియు Numbat నిరోధించిన చర్యలపై అదనపు పరిశీలనను ఇస్తుంది.

Numbat టెలిమెట్రీని పర్యవేక్షించడానికి Perplexity యొక్క అంతర్గత పైప్‌లైన్. షెడ్యూల్ చేయబడిన Perplexity Computer టాస్క్ అసమకాలికంగా కొత్త సిగ్నల్స్‌ను సమీక్షిస్తుంది మరియు రిస్క్ కార్యకలాపాలపై భద్రతా బృందాన్ని హెచ్చరిస్తుంది.

Computer మా కవరేజ్‌లో ఖాళీల కోసం కూడా చూస్తుంది. ఇది కొత్త ప్రవర్తనను విశ్లేషిస్తుంది, Numbat గుర్తింపులకు మెరుగుదలలను ప్రతిపాదిస్తుంది, ఆ మార్పులను పరీక్షిస్తుంది మరియు మానవ సమీక్ష కోసం పుల్ రిక్వెస్ట్‌లను తెరుస్తుంది. ఆమోదించబడి మరియు డిప్లాయ్ చేయబడిన తర్వాత, ఆ నియమాలు ఫ్లీట్ అంతటా పర్యవేక్షణను మెరుగుపరుస్తాయి మరియు తదుపరి విచారణ కోసం మెరుగైన సాక్ష్యాలను ఉత్పత్తి చేస్తాయి.

ఇది స్వీయ-మెరుగుపరిచే భద్రతా ఫ్లైవీల్‌ను సృష్టిస్తుంది: ఏజెంట్లు కార్యకలాపాలను ఉత్పత్తి చేస్తాయి, Numbat ఆ కార్యకలాపాన్ని సాధారణీకరించిన టైమ్‌లైన్‌లు మరియు టెలిమెట్రీగా మారుస్తుంది, Computer పరిశోధిస్తుంది మరియు నియమాలను మెరుగుపరుస్తుంది, మరియు మానవ-సమీక్షించబడిన నవీకరణలు భవిష్యత్ ఏజెంట్ సెషన్‌లను రక్షించే నియంత్రణలను బలపరుస్తాయి.

Perplexity లో, AI ఏజెంట్లు అన్ని రకాల వాతావరణాలలో అమలు చేయబడతాయని మేము నమ్ముతున్నాము: స్థానిక, క్లౌడ్ మరియు హైబ్రిడ్. ఏజెంట్ హార్నెస్ మరియు ఎగ్జిక్యూషన్ ఎన్విరాన్‌మెంట్ యొక్క ప్రతి కలయిక ప్రత్యేకమైన భద్రతా సవాళ్లను కలిగిస్తుంది, కాంబినేటోరియల్ సంక్లిష్టత బ్యాండ్‌విడ్త్-కష్టపడే భద్రతా బృందాలను ముంచెత్తుతుందని బెదిరిస్తుంది. ఏజెంట్ మెల్ట్‌డౌన్‌లు మరియు ఇతర నూతన దుర్బలత్వాలు భద్రతా చిత్రాన్ని మరింత క్లిష్టతరం చేస్తాయి.

ఏజెంట్ ఎక్కడ అమలు చేసినా వినియోగదారు భద్రతా భంగిమను ఏజెంట్ సిస్టమ్‌లోనే నివసించే రక్షణలు మెరుగుపరచగలవు. Numbat అందించేది సరిగ్గా ఇదే: గట్టిగా ఇంటిగ్రేట్ చేయబడిన ఏజెంట్ సేఫ్‌గార్డ్‌లు, ఇవి డిఫెండర్‌లను నిజ సమయంలో ఆందోళనకరమైన ప్రవర్తనను నిరోధించడానికి, గుర్తించడానికి మరియు ప్రతిస్పందించడానికి అనుమతిస్తాయి. Numbat ను Perplexity Computer తో కలపడం ద్వారా డిఫెండర్‌లకు వక్రరేఖ కంటే ముందుండడానికి అధికారం ఇచ్చే శక్తివంతమైన ఏజెంట్ భద్రతా ప్లాట్‌ఫారమ్‌ను సృష్టిస్తుంది.

macOS, Linux మరియు Windows కోసం ఓపెన్-సోర్సింగ్ ప్రాజెక్ట్ గా Numbat నేడు అందుబాటులో ఉంది. మా స్వంత క్లైంట్ ఎండ్‌పాయింట్లు Numbat చేత రక్షించబడతాయి, విస్తృతంగా పరిధి గల పనులు మరియు సుదీర్ఘ క్షితిజాలపై ఏజెంట్లను నమ్మకంగా ఉపయోగించడానికి Perplexity బృంద సభ్యులను ప్రారంభిస్తాయి. వారి ఏజెంట్ డిప్లాయ్‌మెంట్‌లను రక్షించడానికి మరియు సురక్షితం చేయడానికి Numbat యొక్క సిస్టమ్-స్థాయి విధానాన్ని ఉపయోగించుకోవడానికి ప్రతిచోటా ఉన్న భద్రతా బృందాలను మేము ఆహ్వానిస్తున్నాము.

BibTeX

@online{perplexity2026SecuringAgentsAcrossPerplexitySClientEndpointsWithNumbat,
  author = {{Perplexity} and Adel Karimishiraz and Bex Brooker and Phi Hoang and Jerry Ma},
  title = {{Securing agents across Perplexity's client endpoints with Numbat}},
  date = {2026-07-29},
  url = {https://perplexity.coolkeypoint.com/hub/blog/securing-agents-across-perplexity-s-client-endpoints-with-numbat}
}

పరిచయం

దుర్బలత్వ ల్యాండ్‌స్కేప్‌ను అంచనా వేయడం

నేటివ్ హార్నెస్ ఇంటిగ్రేషన్ల ద్వారా కోడింగ్ ఏజెంట్లను సురక్షితం చేయడం

హుక్స్

సెషన్ ఆర్టిఫ్యాక్ట్లు

OTLP టెలిమెట్రీ

Perplexity లో Numbat ను డిప్లాయ్ చేయడం

ఫ్లీట్ అంతటా Numbatలను నిర్వహించడం మరియు పర్యవేక్షించడం

ముగింపు

ఉదాహరణ