Perplexityతో AIని సురక్షితం చేయడం
Perplexity యొక్క CISO Kyle Polley మరియు కస్టమర్ సక్సెస్ మేనేజర్ Scott Lerner Perplexity యొక్క భద్రత-మొదటి విధానం వెనుక ఉన్న సూత్రాలను కవర్ చేస్తారు.
Kyle Polley
CISO, Perplexity AI
Scott Lerner
Customer Success Manager
ఈ సెషన్లో సూచించబడిన భద్రతా వనరులు
- Computerలో భద్రతను మేము ఎలా నిర్మించాము
- ఏజెంట్ల కోసం సురక్షితమైన శాండ్బాక్స్లు
- Cometలో ప్రాంప్ట్ ఇన్జెక్షన్ను తగ్గించడం
- BrowseSafe పరిశోధనా పత్రం
- Numbatతో ఏజెంట్లను సురక్షితం చేయడం
- Bumblebee ఓపెன்-సోర్సింగ్
- సెక్యూర్ ఇంటెలిజెన్స్ ఇన్స్టిట్యూట్
- ట్రస్ట్ సెంటర్
తరచుగా అడిగే ప్రశ్నలు
AI స్టాక్ అంతటా భద్రతను నిర్మించడం
AI స్టాక్ యొక్క అనేక పొరలలో నిర్మించేటప్పుడు Perplexity భద్రతను ఎలా సంప్రదిస్తుంది? Perplexity నిర్మించే ప్రతిదీ భద్రత-మొదటి ఆలోచనతో ప్రారంభమవుతుంది, మరియు మేము భద్రత మరియు రక్షణను సంబంధితమైన కానీ వేర్వేరు ఉద్యోగాలుగా పరిగణిస్తాము. రక్షణ అనేది ఏజెంట్ల నుండి మానవులను రక్షించడం. భద్రత అనేది మానవుల నుండి ఏజెంట్లను రక్షించడం. స్టాక్ అంతటా నిర్మించడం అంటే మేము కలిగి లేని బ్లాక్ బాక్స్కు రక్షణను అటాచ్ చేయడానికి బదులుగా, సరైన పనుల కోసం సరైన పొరలో సరైన నియంత్రణలను ఉంచగలమని అర్థం.
SPACE, Perplexity యొక్క ఏజెంట్ శాండ్బాక్స్
శాండ్బాక్స్ అంటే ఏమిటి, మరియు ఇది వినియోగదారులను మరియు ఏజెంట్లను ఎలా రక్షిస్తుంది? శాండ్బాక్స్ కోడ్ మీ సిస్టమ్లు లేదా డేటాను చేరకుండా అమలు చేయడానికి ఒక నిర్దిష్ట స్థలాన్ని ఇస్తుంది. ఏజెంట్లు పనులను పెంచుతాయి, కాబట్టి Computerలో ప్రతి పనులకు దాని స్వంత శాండ్బాక్స్ లభిస్తుంది.
ఉన్నదాన్ని ఉపయోగించకుండా Perplexity తన స్వంత శాండ్బాక్స్ (SPACE)ను ఎందుకు నిర్మించింది? మా కస్టమర్లకు భద్రతను నిర్ధారించడానికి Perplexity కోరుకునే భద్రతను రెడీమేడ్ సాధనాలు అందించలేవు. శాండ్బాక్స్లు స్వల్పకాలిక కోడ్ ఎగ్జిక్యూషన్ కోసం అనే అంచనాను ఏజెంట్లు బ్రేక్ చేస్తాయి. ఇది ఒకదానికొకటి విరుద్ధంగా ఉండే రెండు అవసరాలను పరిచయం చేస్తుంది: పర్యావరణం పునర్వినియోగయోగంగా ఉండాలి, కానీ పని కొనసాగుతూ ఉండాలి. ఉన్న ప్లాట్ఫారమ్లు కార్యాచరణ, సామర్థ్యం మరియు భద్రతలో మూడింటిలో రెండింటిని ఎంచుకునేలా చేశాయి. ఈ మూడింటిని అందించడానికి SPACE నిర్మించబడింది.
SPACE వాస్తవంగా ఎలా పనిచేస్తుంది, మరియు ఇది ఏ భద్రతా నియంత్రణలను కలిగి ఉంది? SPACE శాండ్బాక్స్కు బదులుగా సెషన్ను మన్నికైన వస్తువుగా చేస్తుంది. సెషన్ అనేది రోలింగ్ స్నాప్షాట్ల గొలుసు, మరియు ఆ స్నాప్షాట్లు SPACE యొక్క పూర్తి నియంత్రణలను ప్రారంభిస్తాయి. పాజ్ చేయడం అంటే శాండ్బాక్స్ను ఆపడమే. రెజ్యూమ్ చేయడం అంటే ఏదైనా మెషీన్లో తాజా స్నాప్షాట్ను పునరుద్ధరించడం. ఫోర్కింగ్ అంటే అదే స్నాప్షాట్ను రెండుసార్లు పునరుద్ధరించడం మరియు కాపీలు వేరుపడేలా చేయడం. వినియోగదారులు కొనసాగింపును పొందుతారు, అలాగే ఏదైనా తప్పు జరిగితే టైమ్-మెషిన్ బటన్ను పొందుతారు.
నా తరఫున ఒక ఏజెంట్ పనిచేసినప్పుడు నా ఆధారాలు ఎక్కడ ఉంటాయి? అన్ట్రస్టెడ్ పని జరిగే చోటే శాండ్బాక్స్లు ఉంటాయి, కాబట్టి కీలు ఉండవలసిన చివరి ప్రదేశం ఇది. ఒకవేళ ఏజెంట్ హైజాక్ చేయబడితే, దాడి చేసే వ్యక్తి ఏజెంట్ కలిగి ఉన్న ప్రతిదీ పొందుతారు, అందుకే మా ఏజెంట్లు ఏమీ కలిగి ఉండవు. ఆధారాలు బాక్స్ వెలుపల నుండి, అవి అవసరమైన ఖచ్చితమైన క్షణంలో, ఆ పనికి మాత్రమే వస్తాయి.
RBAC, కనెక్టర్లు మరియు Perplexity యొక్క భద్రతా ఫీచర్లు
Snowflake లేదా Outlook వంటి కనెక్ట్ చేయబడినప్పుడు Perplexity వాస్తవంగా దేనికి ప్రాప్యతను పొందుతుంది, మరియు నిర్వాహకుడు దేንን ఆఫ్ చేయవచ్చు? మీ మొత్తం కంప్యూటర్కు ప్రాప్యతతో ప్రారంభమయ్యే ఏజెంట్ సాధనాల వలె కాకుండా, Computer ఎలాంటి ప్రాప్యత లేకుండా ప్రారంభమవుతుంది. ఖచ్చితమైన అనుమతులతో OAuth ద్వారా ప్రాప్యత వస్తుంది, కాబట్టి మీరు దాన్ని చూడలేకపోతే, మీ ఏజెంట్ దాన్ని చూడలేదు. నిర్వాహకులు మొత్తం కనెక్టర్ను లేదా ఒకదానిలోని నిర్దిష్ట సాధనాలను మాత్రమే ఆఫ్ చేయవచ్చు.
Perplexity యొక్క RBAC మా ఐడెంటిటీ ప్రొవైడర్తో ఎలా అనుసంధానం అవుతుంది?
ఒక సంస్థ యొక్క ఐడెంటిటీ ప్రొవైడర్ ఎవరు దేన్ని తాకగలరో ఇప్పటికే సమాధానం ఇస్తుంది. Perplexity దానికి ప్లగ్ చేస్తుంది మరియు ఆ సరిహద్దులు నేరుగా ఉత్పత్తిలోకి వెళ్తాయి. మీ విశ్వసనీయ మూలం విశ్వసనీయ మూలంగానే ఉంటుంది, మరియు మీ ఆడిట్ ట్రైల్ ఖచ్చితంగా ఉంటుంది. టీమ్లకు వారికి కావలసిన సందర్భం లభిస్తుంది, మరియు కంపెనీలు ఎవరు దేన్ని చూస్తారనే దానిపై నియంత్రణను ఉంచుతాయి.
ఓపెన్ వెబ్లో ప్రాంప్ట్ ఇన్జెక్షన్ నుండి ఏజెంట్లను Perplexity ఎలా రక్షిస్తుంది? ప్రాంప్ట్ ఇన్జెక్షన్ అనేది సోషల్ ఇంజనీరింగ్, ఉద్యోగుల బదులుగా ఏజెంట్లను లక్ష్యంగా చేసుకుంటుంది, మరియు ఓపెన్ వెబ్ అనేది అపరిచితులు దానితో మాట్లాడే ప్రదేశం. BrowseSafe ఏజెంట్ చదివే ప్రతి పేజీని అన్ట్రస్టెడ్గా పరిగణిస్తుంది మరియు కంటెంట్ ఏజెంట్ చేసేదాన్ని రూపొందించడానికి ముందే, దాన్ని సమాంతరంగా స్కాన్ చేస్తుంది. మీ వద్ద ఉంచుకున్న భద్రతా పరిశోధన మిమ్మల్ని మాత్రమే రక్షిస్తుంది. అందరి ఏజెంట్లు ఒకే వెబ్ను చదువుతాయి, కాబట్టి మేము బెంచ్మార్క్ను పబ్లిక్ చేసాము.
ఏజెంట్లు మరియు ఉద్యోగులు రన్ చేసే మెషీన్లను రక్షించడానికి Perplexity ఏ సాధనాలను ఉపయోగిస్తుంది? ప్రతి సప్లై-చెయిన్ సంఘటన తర్వాత మొదటి ప్రశ్నకు Bumblebee సమాధానం ఇస్తుంది: హానికరమైన ప్యాకేజీ మా సిస్టమ్లలో ఎక్కడైనా ఉందా? Numbat ఏజెంట్ పొరను స్వయంగా గమనిస్తుంది మరియు ప్రవర్తనను క్రమంగా చదువుతుంది. ఇది ఏజెంట్ పనిచేసే చోట ఉంటుంది కాబట్టి, ఇది అమలు చేయడానికి ముందే ఒక చర్యను ఆపగలదు.
Computerను భద్రపరచడానికి Computerను ఉపయోగించడం
నిజమైన భద్రతా పని కోసం Computerను విశ్వసించಬಹುದಾ? బాహ్య సాధనాలు అందుకునే వరకు వేచి ఉండటానికి బదులుగా Perplexity యొక్క స్వంత భద్రతా టీమ్ Computer పైన ఇంట్లోనే దాని భద్రతా ఇన్ఫ్రాస్ట్రక్చర్ను నిర్మించింది. మోడల్-అగ్నాస్టిక్ ఎగ్జిక్యూషన్, పర్సిస్టెంట్ మెమరీ మరియు రోడ్మ్యాప్లోని మిగిలినవి ఇప్పటికే ఉన్నాయి, కాబట్టి టీమ్ భద్రతా ఏజెంట్పై మాత్రమే దృష్టి పెట్టగలదు. ఉత్తమ భద్రతా ఏజెంట్ను నిర్మించడం అంటే దాని కింద ఉత్తమమైన హార్నెస్ అవసరం.
భద్రతా టీమ్ పని నుండి Computer అత్యంత పునరావృతమయ్యే పనిని ఎక్కడ తొలగిస్తుంది? మిస్ అయిన అలర్ట్లను ట్రయాజ్ చేయడంలో మరియు తదుపరి సంఘటన నివేదికలలో Computer సహాయపడగలదు. Computerలోని ప్రతి ట్రయాజ్ డిఫాల్ట్గా డాక్యుమెంట్ చేయబడి తిరిగి వస్తుంది, కాబట్టి విశ్లేషకులు ముడి అలర్ట్కు బదులుగా వ్రాతపూర్వక పరిశోధన నుండి ప్రారంభిస్తారు.
