BrowseSafe உடன் பாதுகாப்பான AI உலாவிகளை உருவாக்குதல்

இன்று, ஏஜென்டிக் வலையில் (agentic web) பயனர்கள் பாதுகாப்பாக உலாவுவதற்கு உதவும் வகையில், ஒரு திறந்த மூல ஆராய்ச்சி அளவுகோல் மற்றும் உள்ளடக்க கண்டறிதல் மாதிரியான BrowseSafe-ஐ நாங்கள் வெளியிடுகிறோம்.

AI உதவியாளர்கள் தேடல் பெட்டிகளிலிருந்து உலாவிக்குள்ளேயே நகரும்போது, இணையத்தின் அடுத்த தலைமுறை பக்கங்களிலிருந்து ஏஜென்டுகளுக்கு மாறும் என்று நாங்கள் எதிர்பார்க்கிறோம்: தகவல் எங்குள்ளது என்பதை விட, அதை யார் மீட்டெடுக்கிறார்கள் மற்றும் செயல்படுத்துகிறார்கள் என்பதில் கவனம் செலுத்தப்படுகிறது. Comet ஆனது உலாவியை கேள்விகளுக்குப் பதிலளிப்பது மட்டுமல்லாமல், ஒரு உதவியாளர் பணிகளை நிறைவேற்றக்கூடிய இடமாக மாற்றுகிறது, எனவே ஒரு கொள்கை தவிர்க்க முடியாதது: அது எப்போதும் பயனரின் பக்கத்திலேயே இருக்க வேண்டும்.

BrowseSafe: நிகழ்நேர உள்ளடக்க ஸ்கேனிங் மூலம் ஏஜென்டுகளையும் பயனர்களையும் பாதுகாத்தல்

BrowseSafe என்பது ஒற்றையான, மையப்படுத்தப்பட்ட கேள்விக்கு பதிலளிக்க நுண்ணியமாக ட்யூன் செய்யப்பட்ட (fine-tuned) கண்டறிதல் மாதிரியாகும்: ஒரு பக்கத்தின் HTML-ஐப் பொறுத்தவரை, அது ஏஜென்ட்டை நோக்கமாகக் கொண்ட தீங்கிழைக்கும் அறிவுறுத்தல்களைக் கொண்டுள்ளதா? பெரிய பொதுவான பயன்பாட்டு மாதிரிகள் இந்த வழக்குகளைப் பற்றி நன்கு பகுத்தறிய முடியும், ஆனால் அவை ஒவ்வொரு பக்கத்திலும் இயங்குவதற்கு மிகவும் மெதுவாகவும் செலவுமிக்கதாகவும் இருக்கும். BrowseSafe உலாவியை மெதுவாக்காமல் நிகழ் நேரத்தில் முழு வலைப்பக்கங்களையும் ஸ்கேன் செய்கிறது. பாதுகாப்பின் செயல்திறனை மதிப்பிடுவதற்கும் மேம்படுத்துவதற்கும் ஒரு வளமாக BrowseSafe‑Bench மதிப்பீட்டுத் தொகுப்பையும் நாங்கள் வெளியிடுகிறோம்.

நம்பக எல்லைகள் மற்றும் பல அடுக்கு பாதுகாப்புகள்

இருப்பினும், AI உலாவலின் புதிய தலைமுறை என்பது இணையப் பாதுகாப்பு அச்சுறுத்தல்களின் புதிய தலைமுறையையும் குறிக்கிறது, இது பயனர்களைப் பாதுகாப்பாக வைத்திருப்பதற்கான புதிய அணுகுமுறைகளைக் கோருகிறது. முந்தைய பதிவில், இணையதளம் ஒன்று ப்ராம்ட் இன்ஜெக்ஷன் (prompt injection) மூலம் அதைக் கைப்பற்ற முயன்றாலும், பயனர் கேட்டதை உதவியாளர் தொடர்ந்து செய்ய Comet எவ்வாறு பல பாதுகாப்பு அடுக்குகளைப் பயன்படுத்துகிறது என்பதை நாங்கள் விளக்கியுள்ளோம். இன்று அந்தச் சிக்கலை நாங்கள் எவ்வாறு சமாளிக்கிறோம் என்பதில் கவனம் செலுத்துகிறோம்: அந்த அச்சுறுத்தல்கள் எவ்வாறு வரையறுக்கப்படுகின்றன, உண்மையான உலகத் தாக்குதல்களுக்கு எதிராக எவ்வாறு சோதிக்கப்படுகின்றன, மேலும் உலாவியில் பாதுகாப்பாக இயங்குவதற்குப் போதுமான வேகத்தில் மோசமான அறிவுறுத்தல்களைக் கண்டறிந்து நிறுத்தக்கூடிய சிறப்பு மாதிரிகளைப் பயிற்றுவிக்க எவ்வாறு பயன்படுத்தப்படுகின்றன.

உலாவி ப்ராம்ட் இன்ஜெக்ஷன் எவ்வாறு செயல்படுகிறது

ப்ராம்ட் இன்ஜெக்ஷன் என்பது AI படிக்கும் உரையில் உட்பொதிக்கப்பட்ட தீங்கிழைக்கும் மொழியாகும், இது அதன் அசல் நோக்கத்தை மேலெழுத வடிவமைக்கப்பட்டுள்ளது. உலாவியில், ஏஜென்டுகள் முழு பக்கங்களையும் படிக்கின்றன, எனவே கருத்துகள், டெம்ப்ளேட்டுகள் அல்லது நீண்ட அடிப்பகுதிகள் (footers) போன்ற இடங்களில் தாக்குதல்கள் மறைந்திருக்கலாம்.

ஏஜென்ட்டை அமைதியாகத் திசைதிருப்பும் அறிவுறுத்தல்களை நழுவவிட தாக்குட்டவர்கள் அந்த இடங்களைப் பயன்படுத்துகின்றன. பெரும்பாலான மக்கள் ஒருபோதும் கவனிக்காத உள்ளடக்கம் உட்பட அனைத்தையும் அது படிப்பதால், வலுவான பாதுகாப்புகள் இல்லாமல் அந்தச் செய்திகள் நடத்தையைக் கைப்பற்ற முடியும்.

இந்தத் தாக்குதல்கள் பெரும்பாலும் வெளிப்படையான சொற்றொடர்களைத் தவிர்க்கின்றன மற்றும் மெருகூட்டப்பட்ட அல்லது பன்மொழி உரையில் எழுதப்படலாம், அல்லது டேட்டா பண்புக்கூறுகள் (data attributes) அல்லது உலாவிகள் பார்வைக்கு ரெண்டர் செய்யாத ஆனால் ஏஜென்டுகள் இன்னும் பாகுபடுத்தும் (parse) படிவப் புலங்கள் (form fields) போன்ற திரையில் தோன்றாத HTML கூறுகளில் வைக்கப்படலாம்.

BrowseSafe-Bench: நிஜ உலகச் சூழல்களில் ஏஜென்ட் பாதுகாப்பை மேம்படுத்துதல்

உண்மையான வலையைப் போன்ற ஒரு அமைப்பில் இந்தத் தாக்குதல்களைப் படிக்க, நாங்கள் BrowseSafe-ஐ உருவாக்கினோம், இது நாங்கள் பயிற்றுவித்து திறந்த மூலமாக வெளியிட்ட ஒரு கண்டறிதல் மாதிரி, மற்றும் BrowseSafe‑Bench, தயாரிப்புப் பக்கங்களைப் பிரதிபலிக்கும் 14,719 எடுத்துக்காட்டுகளின் பொதுவான அளவுகோலாகும். இது சிக்கலான HTML, சத்தமிடும் உள்ளடக்கம் மற்றும் மூன்று அச்சுகளில் மாறுபடும் தீங்கிழைக்கும் மற்றும் பாதிப்பில்லாத மாதிரிகளின் கலவையை உள்ளடக்கியது: தாக்குபவர் என்ன செய்ய முயற்சிக்கிறார், பக்கத்தில் அறிவுறுத்தல் எங்கு அமர்ந்திருக்கிறது, மற்றும் மொழி எவ்வாறு எழுதப்பட்டுள்ளது.

இந்த அளவுகோல் 11 தாக்குதல் வகைகளையும், மறைக்கப்பட்ட புலங்கள் முதல் புலப்படும் பத்திகள் மற்றும் அடிப்பகுதிகள் வரை ஒன்பது இன்ஜெக்ஷன் உத்திகளையும், வெளிப்படையான கட்டளைகள் முதல் மறைமுகமான, உருமறைக்கப்பட்ட உரை வரை மூன்று மொழி நடைகளையும் உள்ளடக்கியது.

ஆழமான பாதுகாப்பு அணுகுமுறை

எங்கள் அச்சுறுத்தல் மாதிரியில், உதவியாளர் தானே நம்பகமான சூழலில் வசிக்கிறார், ஆனால் வலையிலிருந்து வரும் எதும் நம்பத்தகாதது. தாக்குபவர்கள் முழு தளங்களையும் கட்டுப்படுத்தலாம் அல்லது தயாரிப்பு விளக்கங்கள், கருத்துகள் மற்றும் பதிவுகள் போன்ற உள்ளடக்கத்தை உதவியாளர் பார்வையிடும் தீங்கற்ற பக்கங்களில் செருகலாம். அந்த ஆபத்தை நிர்வகிக்க, வலைப்பக்கங்கள், மின்னஞ்சல்கள் அல்லது கோப்புகள் போன்ற நம்பத்தகாத உள்ளடக்கத்தைத் திரும்பத் தரக்கூடிய கருவிகள் கொடியிடப்படுகின்றன, மேலும் ஏஜென்ட் அவற்றைப் படிப்பதற்கு அல்லது செயல்படுவதற்கு முன்பாக அவற்றின் மூல வெளியீடுகள் எப்போதும் BrowseSafe ஆல் ஸ்கேன் செய்யப்படுகின்றன.

BrowseSafe என்பது பரந்த பாதுகாப்பு அணுகுமுறையில் ஒரு அடுக்காகும். பயன்பாட்டிற்கு முன் மூல உள்ளடக்கம் ஸ்கேன் செய்யப்படுகிறது, இயல்பாகவே கருவி அனுமதிகள் வரம்பிடப்படுகின்றன, மேலும் ஏற்கனவே உள்ள உலாவி பாதுகாப்பு அம்சங்களுக்கு மேல் முக்கியமான செயல்களுக்கு வெளிப்படையான பயனர் உறுதிப்படுத்தல் தேவைப்படலாம். ஆழமான பாதுகாப்பானது, பயனர்கள் திறனை விட பாதுகாப்பைத் தியாகம் செய்யாமல் சக்திவாய்ந்த உலாவி உதவியாளர்களைப் பயன்படுத்த உதவுகிறது.

தாக்குதலின் செயல்திறனை எது பாதிக்கிறது?

BrowseSafe‑Bench இன் மதிப்பீட்டு முடிவுகள் தெளிவான வடிவங்களைக் காட்டுகின்றன. கணினி ப்ராம்ட்டை வெளிப்படுத்துமாறு ஏஜென்ட்டைக் கேட்பது அல்லது URL பிரிவுகள் மூலம் தகவலை அகற்றுவது போன்ற நேரடித் தாக்குதல்கள், மாதிரிகள் பிடிப்பதற்கு எளிதானவற்றில் அடங்கும். இதற்கு நேர்மாறாக, பன்மொழித் தாக்குதல்கள் மற்றும் மறைமுகமான அல்லது அனுமானமான அறிவுறுத்தல்களாக எழுதப்பட்டவை மிகவும் கடினமானவை, ஏனெனில் பல கண்டறிதல் கருவிகள் மறைமுகமாக நம்பியிருக்கும் வெளிப்படையான முக்கிய வார்த்தைகளை அவை தவிர்க்கின்றன.

இடமும் முக்கியமானது. கருத்துகளில் மறைக்கப்பட்ட தாக்குதல்கள் ஒப்பீட்டளவில் நன்றாகக் கண்டறியப்படுகின்றன, அதே நேரத்தில் பார்வைக்குரிய அடிப்பகுதிகள், அட்டவணை செல்கள் அல்லது இன்லைன் பத்திகளில் மீண்டும் எழுதப்பட்ட பதிவுகள் மிகவும் கடினமானவை என்பதை நிரூபிக்கின்றன, இது "மறைக்கப்பட்ட" இன்ஜெக்ஷன்களை நோக்கி ஒரு கட்டமைப்புச் சார்பைக் காட்டுகிறது. நன்கு வடிவமைக்கப்பட்ட எடுத்துக்காட்டுகளில் கவனமான பயிற்சி இந்த வடிவங்களைக் கண்டறியும் மாதிரிகளின் திறனை கணிசமாக மேம்படுத்தும்.

BrowseSafe உடன் பாதுகாப்பான ஏஜென்டுகளை உருவாக்குங்கள்

BrowseSafe மற்றும் BrowseSafe-Bench ஆகியவை முழுமையாக திறந்த மூலமாகும். தன்னியக்க ஏஜென்டுகளை உருவாக்கும் எந்தவொரு டெவலப்பரும் ப்ராம்ட் இன்ஜெக்ஷனுக்கு எதிராக தங்கள் கணினிகளை உடனடியாக பலப்படுத்தலாம் - புதிதாக பாதுகாப்பு தண்டவாளங்களை உருவாக்க வேண்டிய அவசியமில்லை. திறந்த எடை கண்டறிதல் மாதிரி உள்நாட்டில் இயங்குகிறது மற்றும் பயனர்களை மெதுவாக்காமல் ஒவ்வொரு பக்கத்தையும் ஸ்கேன் செய்யக்கூடிய அளவுக்கு வேகமாகவும், உங்கள் ஏஜென்ட்டின் முக்கிய லாஜிக்கை அடைவதற்கு முன்பே தீங்கிழைக்கும் அறிவுறுத்தல்களைக் கொடியிடுகிறது.

நிலையான LLM-களை உடைக்கும் குழப்பமான HTML பொறிகளுக்கு எதிராக உங்கள் சொந்த மாதிரிகளை ஸ்ட்ரெஸ்-டெஸ்ட் (stress-test) செய்ய BrowseSafe-Bench இன் 14,000+ நிஜ உலகத் தாக்குதல் காட்சிகளைப் பயன்படுத்தவும். எங்களின் சங்கிங் மற்றும் இணையான ஸ்கேனிங் நுட்பங்கள் ஏஜென்ம்களை பாரிய, நம்பத்தகாத பக்கங்களை திறமையாக செயலாக்க அனுமதிக்கின்றன - பயனர்களை ஆபத்தில் ஆழ்த்தாமல் சக்திவாய்ந்த உலாவி திறன்களை வழங்குகிறது.

BrowseSafe மற்றும் BrowseSafe-Bench-ஐ நாங்கள் எவ்வாறு உருவாக்கினோம் என்பது பற்றி மேலும் அறிய, Perplexity ரிசர்ச் வலைப்பதிவைப் பார்க்கவும்.