Securing AI with Perplexity
Perplexity’s CISO Kyle Polley and Customer Success Manager Scott Lerner cover the principles behind Perplexity’s security-first approach.
Kyle Polley
CISO, Perplexity AI
Scott Lerner
Customer Success Manager
ಈ ಸೆಷನ್ನಲ್ಲಿ ಉಲ್ಲೇಖಿಸಲಾದ ಭದ್ರತಾ ಸಂಪನ್ಮೂಲಗಳು
- ನಾವು Computer ನಲ್ಲಿ ಭದ್ರತೆಯನ್ನು ಹೇಗೆ ನಿರ್ಮಿಸಿದೆವು
- ಏಜೆಂಟ್ಗಳಿಗಾಗಿ ಸುರಕ್ಷಿತ ಸ್ಯಾಂಡ್ಬಾಕ್ಸ್
- Comet ನಲ್ಲಿ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ತಗ್ಗಿಸುವುದು
- BrowseSafe ಸಂಶೋಧನಾ ಪ್ರಬಂಧ
- Numbat ನೊಂದಿಗೆ ಏಜೆಂಟ್ಗಳನ್ನು ಸುರಕ್ಷಿತಗೊಳಿಸುವುದು
- Bumblebee ಅನ್ನು ಓಪನ್-ಸೋರ್ಸ್ ಮಾಡಲಾಗುತ್ತಿದೆ
- ಸುರಕ್ಷಿತ ಇಂಟೆಲಿಜೆನ್ಸ್ ಇನ್ಸ್ಟಿಟ್ಯೂಟ್
- ಟ್ರಸ್ಟ್ ಸೆಂಟರ್
FAQs
AI ಸ್ಟ್ಯಾಕ್ನಾದ್ಯಂತ ಭದ್ರತೆಯನ್ನು ನಿರ್ಮಿಸುವುದು
AI ಸ್ಟ್ಯಾಕ್ನ ಹಲವು ಲೇಯರ್ಗಳಲ್ಲಿ ನಿರ್ಮಿಸುವಾಗ Perplexity ಭದ್ರತೆಯನ್ನು ಹೇಗೆ ಸಮೀಪಿಸುತ್ತದೆ? Perplexity ನಿರ್ಮಿಸುವ ಪ್ರತಿಯೊಂದು ವಿಷಯವು ಭದ್ರತೆಗೆ ಮೊದಲ ಆದ್ಯತೆ ನೀಡುವ ಚಿಂತನೆ ಯೊಂದಿಗೆ ಪ್ರಾರಂಭವಾಗುತ್ತದೆ, ಮತ್ತು ನಾವು ಸುರಕ್ಷತೆ ಮತ್ತು ಭದ್ರತೆಯನ್ನು ಸಂಬಂಧಿತ ಆದರೆ ವಿಭಿನ್ನ ಕೆಲಸಗಳೆಂದು ಪರಿಗಣಿಸುತ್ತೇವೆ. ಸುರಕ್ಷತೆಯು ಮಾನವರನ್ನು ಏಜೆಂಟ್ಗಳಿಂದ ರಕ್ಷಿಸುವುದರ ಬಗ್ಗೆ. ಭದ್ರತೆಯು ಏಜೆಂಟ್ಗಳನ್ನು ಮಾನವರಿಂದ ರಕ್ಷಿಸುವುದರ ಬಗ್ಗೆ. ಸ್ಟ್ಯಾಕ್ನಾದ್ಯಂತ ನಿರ್ಮಿಸುವುದೆಂದರೆ, ನಾವು ಹೊಂದಿರದ ಕಪ್ಪು ಪೆಟ್ಟಿಗೆಯ ಮೇಲೆ ರಕ್ಷಣೆಯನ್ನು ಅಳವಡಿಸುವುದಕ್ಕಿಂತ ಹೆಚ್ಚಾಗಿ, ಸರಿಯಾದ ಕಾರ್ಯಗಳಿಗಾಗಿ ಸರಿಯಾದ ಲೇಯರ್ನಲ್ಲಿ ಸರಿಯಾದ ನಿಯಂತ್ರಣಗಳನ್ನು ಇರಿಸಬಹುದು ಎಂದರ್ಥ.
SPACE, Perplexity's agent sandbox
ಸ್ಯಾಂಡ್ಬಾಕ್ಸ್ ಎಂದರೇನು ಮತ್ತು ಅದು ಬಳಕೆದಾರರನ್ನು ಹಾಗೂ ಏಜೆಂಟ್ಗಳನ್ನು ಹೇಗೆ ರಕ್ಷಿಸುತ್ತದೆ? ಸ್ಯಾಂಡ್ಬಾಕ್ಸ್ ಕೋಡ್ಗೆ ನಿಮ್ಮ ಸಿಸ್ಟಮ್ಗಳು ಅಥವಾ ಡೇಟಾವನ್ನು ತಲುಪದೆ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಒಂದು ನಿರ್ದಿಷ್ಟ ಸ್ಥಳವನ್ನು ನೀಡುತ್ತದೆ. ಏಜೆಂಟ್ಗಳು ಜವಾಬ್ದಾರಿಯನ್ನು ಹೆಚ್ಚಿಸುತ್ತವೆ, ಆದ್ದರಿಂದ Computer ನಲ್ಲಿ ಪ್ರತಿ ಕಾರ್ಯಕ್ಕೂ ತನ್ನದೇ ಆದ ಸ್ಯಾಂಡ್ಬಾಕ್ಸ್ ಸಿಗುತ್ತದೆ.
ಅಸ್ತಿತ್ವದಲ್ಲಿರುವದನ್ನು ಬಳಸುವ ಬದಲು Perplexity ತನ್ನದೇ ಆದ ಸ್ಯಾಂಡ್ಬಾಕ್ಸ್ (SPACE) ಅನ್ನು ಏಕೆ ನಿರ್ಮಿಸಿತು? ಆಫ್-The-शेಲ್ ಟೂಲ್ಗಳು ನಮ್ಮ ಗ್ರಾಹಕರಿಗೆ ಭದ್ರತೆ ಖಚಿತಪಡಿಸಲು Perplexity ಬಯಸುವ ಭದ್ರತೆಯನ್ನು ಒದಗಿಸಲು ಸಾಧ್ಯವಾಗಲಿಲ್ಲ. ಸ್ಯಾಂಡ್ಬಾಕ್ಷ್ಗಳು ಅಲ್ಪಾವಧಿಯ ಕೋಡ್ ಕಾರ್ಯಗತಗೊಳಿಸಲು ಇರುತ್ತವೆ ಎಂಬ ಊಹೆಯನ್ನು ಏಜೆಂಟ್ಗಳು ಮುರಿಯುತ್ತವೆ. ಇದು ಪರಸ್ಪರ ವಿರುದ್ಧವಾದ ಎರಡು ಅಗತ್ಯಗಳನ್ನು ಪರಿಚಯಿಸುತ್ತದೆ: ಪರಿಸರವು ವಿಲೇವಾರಿ ಮಾಡಬಹುದಾದದ್ದಾಗಿರಬೇಕು, ಆದರೆ ಕೆಲಸವು ಮುಂದುವರಿಯುವಂತಿರಬೇಕು. ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳು ಕಾರ್ಯನಿರ್ವಹಣೆ, ದಕ್ಷತೆ ಮತ್ತು ಭದ್ರತೆಯ ಮೂರರಲ್ಲಿ ಎರಡನ್ನು ಆಯ್ಕೆ ಮಾಡುವಂತೆ ಮಾಡಿತು. SPACE ಈ ಮೂರನ್ನೂ ತಲುಪಿಸಲು ನಿರ್ಮಿಸಲಾಗಿದೆ.
SPACE ವಾಸ್ತವವಾಗಿ ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ ಮತ್ತು ಅದು ಯಾವ ಭದ್ರತಾ ನಿಯಂತ್ರಣಗಳನ್ನು ಹೊಂದಿದೆ? SPACE ಸ್ಯಾಂಡ್ಬಾಕ್ಸ್ ಬದಲಿಗೆ ಸೆಷನ್ ಅನ್ನು ಬಾಳಿಕೆ ಬರುವ ಆಬ್ಜೆಕ್ಟ್ ಮಾಡುತ್ತದೆ. ಸೆಷನ್ ಎಂದರೆ ನಿರಂತರ ಸ್ನ್ಯಾಪ್ಶಾಟ್ಗಳ ಸರಪಳಿ, ಮತ್ತು ಆ ಸ್ನ್ಯಾಪ್ಶಾಟ್ಗಳು SPACE ನ ಸಂಪೂರ್ಣ ನಿಯಂತ್ರಣಗಳನ್ನು ಸಕ್ರಿಯಗೊಳಿಸುತ್ತವೆ. ವಿರಾಮಗೊಳಿಸುವುದೆಂದರೆ ಕೇವಲ ಸ್ಯಾಂಡ್ಬಾಕ್ಸ್ ಅನ್ನು ನಿಲ್ಲಿಸುವುದು. ಪುನರಾರಂಭಿಸುವುದೆಂದರೆ ಯಾವುದೇ ಯಂತ್ರದಲ್ಲಿ ಇತ್ತೀಚಿನ ಸ್ನ್ಯಾಪ್ಶಾಟ್ ಅನ್ನು ಮರುಸ್ಥಾಪಿಸುವುದು. ಫೋರ್ಕಿಂಗ್ ಎಂದರೆ ಅದೇ ಸ್ನ್ಯಾಪ್ಶಾಟ್ ಅನ್ನು ಎರಡು ಬಾರಿ ಮರುಸ್ಥಾಪಿಸುವುದು ಮತ್ತು ನಕಲುಗಳು ಬೇರೆಡೆಯಾಗಲು ಬಿಡುವುದು. ಬಳಕೆದಾರರು ಮುಂದುವರಿಕೆಯನ್ನು ಪಡೆಯುತ್ತಾರೆ, ಜೊತೆಗೆ ಏನಾದರೂ ತಪ್ಪಾದಲ್ಲಿ ಸಮಯ-ಯಂತ್ರ ಬಟನ್ ಅನ್ನು ಪಡೆಯುತ್ತಾರೆ.
ಏಜೆಂಟ್ ನಮ್ಮ ಪರವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಿದಾಗ ನನ್ನ ಡೆನ್ಷಿಯಲ್ಗಳು ಎಲ್ಲಿರುತ್ತವೆ? ನಂಬಿಕಾರ್ಹವಲ್ಲದ ಕೆಲಸಗಳು ನಡೆಯುವುದು ಸ್ಯಾಂಡ್ಬಾಕ್ಷ್ಗಳಲ್ಲಿ, ಆದ್ದರಿಂದ ಕೀಗಳು ಇರಬೇಕಾದ ಕೊನೆಯ ಸ್ಥಳವಿದು. ಏಜೆಂಟ್ ಹೈಜಾಕ್ ಆಗಿದ್ದರೆ, ದಾಳಿಕೋರನು ಏಜೆಂಟ್ ಹೊಂದಿರುವ ಎಲ್ಲವನ್ನೂ ಪಡೆದುಕೊಳ್ಳುತ್ತಾನೆ, ಅದಕ್ಕಾಗಿಯೇ ನಮ್ಮ ಏಜೆಂಟ್ಗಳು ಏನನ್ನೂ ಹೊಂದಿರುವುದಿಲ್ಲ. ಡೆನ್ಷಿಯಲ್ಗಳು ಬಾಕ್ಸ್ನ ಹೊರಗಿನಿಂದ, ಅವುಗಳ ಅಗತ್ಯವಿರುವ ನಿಖರವಾದ ಕ್ಷಣದಲ್ಲಿ, ಆ ಕಾರ್ಯಕ್ಕೆ ಮಾತ್ರ ಬರುತ್ತವೆ.
RBAC, ಕನೆಕ್ಟರ್ಗಳು ಮತ್ತು Perplexity's ಭದ್ರತಾ ವೈಶಿಷ್ಟ್ಯಗಳು
Snowflake ಅಥವಾ Outlook ನಂತಹ ಕನೆಕ್ಟರ್ ಅನ್ನು ಸಂಪರ್ಕಿಸಿದಾಗ Perplexity ವಾಸ್ತವವಾಗಿ ಯಾವುದಕ್ಕೆ ಪ್ರವೇಶವನ್ನು ಪಡೆಯುತ್ತದೆ ಮತ್ತು ನಿರ್ವಾಹಕರು ಏನು ಆಫ್ ಮಾಡಬಹುದು? ನಿಮ್ಮ ಸಂಪೂರ್ಣ ಕಂಪ್ಯೂಟರ್ಗೆ ಪ್ರವೇಶದೊಂದಿಗೆ ಪ್ರಾರಂಭವಾಗುವ ಏಜೆಂಟ್ ಟೂಲ್ಗಳಂತೆ ಅಲ್ಲದೆ, Computer ಯಾವುದೇ ಪ್ರವೇಶವಿಲ್ಲದೆ ಪ್ರಾರಂಭವಾಗುತ್ತದೆ. ಪ್ರವೇಶವು ನಿಖರವಾದ ಅನುಮತಿಗಳೊಂದಿಗೆ OAuth ಮೂಲಕ ಬರುತ್ತದೆ, ಆದ್ದರಿಂದ ನಿಮಗೆ ಅದನ್ನು ನೋಡಲು ಸಾಧ್ಯವಾಗದಿದ್ದರೆ, ನಿಮ್ಮ ಏಜೆಂಟ್ಗೆ ಅದನ್ನು ನೋಡಲು ಸಾಧ್ಯವಿಲ್ಲ. ನಿರ್ವಾಹಕರು ಸಂಪೂರ್ಣ ಕನೆಕ್ಟರ್ ಅನ್ನು ಅಥವಾ ಒಂದರೊಳಗಿನ ನಿರ್ದಿಷ್ಟ ಟೂಲ್ಗಳನ್ನು ಆಫ್ ಮಾಡಬಹುದು.
Perplexity's RBAC ನಮ್ಮ ಗುರುತಿನ ಒದಗಿಸುವವರೊಂದಿಗೆ ಹೇಗೆ ಸಂಯೋಜನೆಗೊಳ್ಳುತ್ತದೆ?
ಸಂಸ್ಥೆಯ ಗುರುತಿನ ಒದಗಿಸುವವರು ಯಾರು ಯಾವುದನ್ನು ಮುಟ್ಟಬಹುದು ಎಂಬುದಕ್ಕೆ ಈಗಾಗಲೇ ಉತ್ತರಿಸುತ್ತಾರೆ. Perplexity ಅದರಲ್ಲಿ ಪ್ಲಗ್ ಆಗುತ್ತದೆ ಮತ್ತು ಆ ಗಡಿಗಳು ನೇರವಾಗಿ ಉತ್ಪನ್ನಕ್ಕೆ ಸಾಗುತ್ತವೆ. ನಿಮ್ಮ ಸತ್ಯದ ಮೂಲವು ಸತ್ಯದ ಮೂಲವಾಗಿ ಉಳಿಯುತ್ತದೆ ಮತ್ತು ನಿಮ್ಮ ಆಡಿಟ್ ಟ್ರೇಲ್ ನಿಖರವಾಗಿ ಉಳಿಯುತ್ತದೆ. ತಂಡಗಳಿಗೆ ಅಗತ್ಯವಿರುವ ಸಂದರ್ಭವು ಸಿಗುತ್ತದೆ ಮತ್ತು ಯಾರು ಏನನ್ನು ನೋಡುತ್ತಾರೆ ಎಂಬುದರ ಮೇಲೆ ಕಂಪನಿಗಳು ನಿಯಂತ್ರಣವನ್ನು ಕಾಯ್ದುಕೊಳ್ಳುತ್ತವೆ.
ಮುಕ್ತ ವೆಬ್ನಲ್ಲಿ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ನಿಂದ Perplexity ಏಜೆಂಟ್ಗಳನ್ನು ಹೇಗೆ ರಕ್ಷಿಸುತ್ತದೆ? ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ಎನ್ನುವುದು ಸಾಮಾಜಿಕ ಎಂಜಿನಿಯರಿಂಗ್ ಆಗಿದೆ, ಇದು ಉದ್ಯೋಗಿಗಳ ಬದಲಿಗೆ ಏಜೆಂಟ್ಗಳನ್ನು ಗುರಿಯಾಗಿರಿಸಿಕೊಂಡಿದೆ, ಮತ್ತು ಮುಕ್ತ ವೆಬ್ ಅನ್ಯರು ಅದರೊಂದಿಗೆ ಮಾತನಾಡಲು ಬರುವ ಸ್ಥಳವಾಗಿದೆ. BrowseSafe ಏಜೆಂಟ್ ಓದುವ ಪ್ರತಿಯೊಂದು ಪುಟವನ್ನು ನಂಬಿಕಾರ್ಹವಲ್ಲದ್ದು ಎಂದು ಪರಿಗಣಿಸುತ್ತದೆ ಮತ್ತು ವಿಷಯವು ಏಜೆಂಟ್ ಮಾಡುವುದನ್ನು ರೂಪಿಸುವ ಮೊದಲು ಅದನ್ನು ಸಮಾನಾಂತರವಾಗಿ ಸ್ಕ್ಯಾನ್ ಮಾಡುತ್ತದೆ. ನಿಮಗಾಗಿ ಮಾತ್ರ ಇರಿಸಿಕೊಳ್ಳಲಾದ ಭದ್ರತಾ ಸಂಶೋಧನೆಯು ನಿಮ್ಮನ್ನು ಮಾತ್ರ ರಕ್ಷಿಸುತ್ತದೆ. ಎಲ್ಲರ ಏಜೆಂಟ್ಗಳು ಒಂದೇ ವೆಬ್ ಅನ್ನು ಓದುತ್ತಾರೆ, ಆದ್ದರಿಂದ ನಾವು ಬೆಂಚ್ಮಾರ್ಕ್ ಅನ್ನು ಸಾರ್ವಜನಿಕಗೊಳಿಸಿದ್ದೇವೆ.
ಏಜೆಂಟ್ಗಳು ಮತ್ತು ಉದ್ಯೋಗಿಗಳು ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಯಂತ್ರಗಳನ್ನು ರಕ್ಷಿಸಲು Perplexity ಯಾವ ಟೂಲ್ಗಳನ್ನು ಬಳಸುತ್ತದೆ? ಪ್ರತಿ ಸರಪಳಿ ಘಟನೆಯ ನಂತರ Bumblebee ಮೊದಲ ಪ್ರಶ್ನೆಗೆ ಉತ್ತರಿಸುತ್ತದೆ: ಕೆಟ್ಟ ಪ್ಯಾಕೇಜ್ ನಮ್ಮ ಸಿಸ್ಟಮ್ಗಳಲ್ಲಿ ಎಲ್ಲಾದರೂ ಇದೆಯೇ? Numbat ಏಜೆಂಟ್ ಲೇಯರ್ ಅನ್ನು ಸ್ವತಃ ವೀಕ್ಷಿಸುತ್ತದೆ ಮತ್ತು ಅನುಕ್ರಮದಲ್ಲಿ ವರ್ತನೆಯನ್ನು ಓದುತ್ತದೆ. ಇದು ಏಜೆಂಟ್ ಕಾರ್ಯನಿರ್ವಹಿಸುವಲ್ಲಿ ಕುಳಿತುಕೊಳ್ಳುವುದರಿಂದ, ಅದು ಕಾರ್ಯಗತಗೊಳ್ಳುವ ಮೊದಲು ಕ್ರಿಯೆಯನ್ನು ನಿಲ್ಲಿಸಬಹುದು.
Computer ಅನ್ನು ಸುರಕ್ಷಿತಗೊಳಿಸಲು Computer ಅನ್ನು ಬಳಸುವುದು
ನೈಜ ಭದ್ರತಾ ಕೆಲಸಕ್ಕಾಗಿ Computer ಅನ್ನು ನಂಬಬಹುದೇ? ಬಾಹ್ಯ ಟೂಲ್ಗಳು ಸರಿದೂಗಿಸಲು ಕಾಯುವ ಬದಲು Perplexity ಯ ಸ್ವಂತ ಭದ್ರತಾ ತಂಡವು Computer ಮೇಲೆ ತನ್ನ ಭದ್ರತಾ ಮೂಲಸೌಕರ್ಯವನ್ನು ಮನೆಯೊಳಗೇ ನಿರ್ಮಿಸಿದೆ. ಮಾದರಿ-ಅಜ್ಞೇಯವಾದ ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆ, ನಿರಂತರ ಸ್ಮರಣೆ ಮತ್ತು ರೋಡ್ಮ್ಯಾಪ್ನ ಉಳಿದ ಭಾಗಗಳು ಈಗಾಗಲೇ ಇದ್ದವು, ಆದ್ದರಿಂದ ತಂಡವು ಭದ್ರತಾ ಏಜೆಂಟ್ ಮೇಲೆ ಗಮನಹರಿಸಬಹುದು. ಅತ್ಯುತ್ತಮ ಭದ್ರತಾ ಏಜೆಂಟ್ ಅನ್ನು ನಿರ್ಮಿಸುವುದೆಂದರೆ ಅದರ ಅಡಿಯಲ್ಲಿ ಅತ್ಯುತ್ತಮ ಹಾರ್ನೆಸ್ ಅಗತ್ಯವಿರುತ್ತದೆ.
ಭದ್ರತಾ ತಂಡದ ಪ್ಲೇಟ್ನಿಂದ Computer ಯಾವ ಪುನರಾವರ್ತಿತ ಕೆಲಸವನ್ನು ಹೆಚ್ಚು ತೆಗೆದುಹಾಕುತ್ತದೆ? ತಪ್ಪಿದ ಎಚ್ಚರಿಕೆಗಳನ್ನು ಟ್ರೈಯಾಗ್ ಮಾಡುವುದು ಮತ್ತು ಫಾಲೋ-ಅಪ್ ಇನ್ಸಿಡೆಂಟ್ ವರದಿಗಳೊಂದಿಗೆ Computer ಸಹಾಯ ಮಾಡಬಹುದು. Computer ನಲ್ಲಿರುವ ಪ್ರತಿ ಟ್ರೈಯಾಗ್ ಪೂರ್ವನಿಯೋಜಿತವಾಗಿ ದಾಖಲಿಸಲ್ಪಟ್ಟು ಹಿಂತಿರುಗುತ್ತದೆ, ಆದ್ದರಿಂದ ವಿಶ್ಲೇಷಕರು ಕಚ್ಚಾ ಎಚ್ಚರಿಕೆಯ ಬದಲಿಗೆ ಲಿಖಿತ ತನಿಖೆಯಿಂದ ಪ್ರಾರಂಭಿಸುತ್ತಾರೆ.
