Ασφάλεια AI με την Perplexity

Πόροι ασφάλειας που αναφέρονται σε αυτή τη συνεδρία

Συχνές Ερωτήσεις

Δημιουργία ασφάλειας σε ολόκληρο το stack τεχνητής νοημοσύνης

Πώς προσεγγίζει η Perplexity την ασφάλεια όταν κατασκευάζει σε τόσα πολλά επίπεδα του stack τεχνητής νοημοσύνης; Ό,τι χτίζει η Perplexity ξεκινά με λογισμός πρώτα στην ασφάλεια και αντιμετωπίζουμε την ασφάλεια και την προστασία ως σχετικές αλλά ξεχωριστές εργασίες. Η προστασία αφορά την προστασία των ανθρώπων από τους πράκτορες. Η ασφάλεια αφορά την προστασία των πρακτόρων από τους ανθρώπους. Η κατασκευή σε ολόκληρο το stack σημαίνει ότι μπορούμε να βάλουμε τους σωστούς ελέγχους στο σωστό επίπεδο για τις σωσίες εργασίες, αντί να προσθέτουμε προστασία σε ένα μαύρο κουτί που δεν μας ανήκει.

SPACE, το sandbox πρακτόρων της Perplexity

Τι είναι ένα sandbox και πώς προστατεύει τους χρήστες και τους πράκτορες; Ένα sandbox δίνει στον κώδικα έναν περιορισμένο χώρο εκτέλεσης χωρίς να φτάνει στα συστήματα ή τα δεδομένα σας. Οι πράκτορες αυξάνουν τα στοιχήματα, οπότε στο Computer κάθε εργασία παίρνει το δικό της sandbox.

Γιατί η Perplexity κατασκεύασε το δικό της sandbox (SPACE) αντί να χρησιμοποιήσει κάποιο υπάρχον; Τα έτοιμα εργαλεία δεν μπορούσαν να παρέχουν την ασφάλεια που θέλει να διασφαλίσει η Perplexity στους πελάτες μας. Οι πράκτορες καταρρίπτουν την υπόθεση ότι τα sandbox προορίζονται για εκτέλεση κώδικα μικρής διάρκειας. Αυτό εισάγει δύο ανάγκες που τραβούν η μία την άλλη: το περιβάλλον πρέπει να είναι αναλώσιμο, αλλά η εργασία πρέπει να είναι μόνιμη. Οι υπάρχουσες πλατφόρμες σε ανάγκαζαν να επιλέξεις δύο από τα τρία μεταξύ λειτουργικότητας, αποδοτικότητας και ασφάλειας. Το SPACE κατασκευάστηκε για να προσφέρει και τα τρία.

Πώς λειτουργεί στην πραγματικότητα το SPACE και τι ελέγχους ασφάλειας διαθέτει; Το SPACE κάνει τη συνεδρία το ανθεκτικό αντικείμενο αντί για το sandbox. Μια συνεδρία είναι μια αλυσίδα στιγμιοτύπων που κυλούν, και αυτά τα στιγμιότυπα ενεργοποιούν το πλήρες σύνολο ελέγχων του SPACE. Η παύση είναι απλώς η διακοπή του sandbox. Η συνέχιση είναι η επαναφορά του πιο πρόσφατου στιγμιοτύπου σε οποιοδήποτε μηχάνημα. Η διακλάτωση είναι η επαναφορά του ίδιου στιγμιοτύπου δύο φορές και η δυνατότητα αποκλίσεως των αντιγράφων. Οι χρήστες αποκτούν συνέχεια, μαζί με ένα κουμπί χρονομηχανής αν κάτι πάει στραβά.

Πού ζουν τα διαπιστευτήριά μου όταν ένας πράκτορας ενεργεί για λογαριασμό μου; Τα sandbox είναι το μέρος όπου συμβαίνει αναξιόπιστη εργασία, επομένως είναι το τελευταίο μέρος όπου πρέπει να ζουν τα κλειδιά. Εάν ένας πράκτορας δεχόταν πειρατεία, ο επιθετικός θα κληρονομούσε ό,τι κατέχει ο πράκτορας, γι' αυτό και οι πράκτορές μας δεν κατέχουν τίποτα. Τα διαπιστευτήρια φτάνουν έξω από το κουτί, ακριβώς τη στιγμή που χρειάζονται, μόνο για αυτήν την εργασία.

RBAC, σύνδεσμος και τα χαρακτηριστικά ασφάλειας της Perplexity

Σε τι αποκτά πραγματικά πρόσβαση η Perplexity όταν συνδέεται ένας σύνδεσμος όπως το Snowflake ή το Outlook, και τι μπορεί να απενεργοποιήσει ένας διαχειριστής; Σε αντίθεση με τα εργαλεία πρακτόρων που ξεκινούν με πρόσβαση σε ολόκληρο τον υπολογιστή σας, το Computer ξεκινά χωρίς πρόσβαση. Η πρόσβαση γίνεται μέσω OAuth με ακριβείς δικαιώματα, επομένως αν δεν μπορείτε να το δείτε, ο πράκτορας σας δεν μπορεί να το δει. Οι διαχειριστές μπορούν να απενεργοποιήσουν ολόκληρο έναν σύνδεσμο ή μόνο συγκεκριμένα εργαλεία εντός αυτού.

Πώς ενσωματώνεται το RBAC της Perplexity με τον πάροχο ταυτότητάς μας;

Ο πάροχος ταυτότητας ενός οργανισμού απαντά ήδη ποιος μπορεί να αγγίξει τι. Η Perplexity συνδέεται σε αυτόν και αυτά τα όρια μεταφέρονται απευθείας στο προϊόν. Η πηγή αλήθειας σας παραμένει η πηγή αλήθειας και η διαδρομή ελέγχου σας παραμένει ακριβής. Οι ομάδες παίρνουν το πλαίσιο που χρειάζονται και οι εταιρείες διατηρούν τον έλεγχο του ποιος βλέπει τι.

Πώς προστατεύει η Perplexity τους πράκτορες από το prompt injection στον ανοιχτό ιστό; Το prompt injection είναι κοινωνική μηχανική, που απευθύνεται σε πράκτορες αντί για υπαλλήλους, και ο ανοιχτός ιστός είναι το μέρος όπου οι ξένοι μπορούν να του μιλήσουν. Το BrowseSafe αντιμετωπίζει κάθε σελίδα που διαβάζει ο πράκτορας ως αναξιόπιστη και τη σαρώνει παράλληλα, πριν το περιεχόμενο μπορέσει να διαμορφώσει τι κάνει ο πράgτορας. Η έρευνα ασφάλειας που κρατάτε για τον εαυτό σας σας προστατεύει μόνο. Οι πράκτορες όλων διαβάζουν τον ίδιο ιστό, οπότε κάναμε το benchmark δημόσιο.

Ποια εργαλεία χρησιμοποιεί η Perplexity για την προστασία των μηχανημάτων στα οποία τρέχουν πράκτορες και υπάλληλοι; Το Bumblebee απαντά στην πρώτη ερώτηση μετά από κάθε περιστατικό αλυσίδας εφοδιασμού: βρίσκεται το κακό πακέτο οπουδήποτε στα συστήματά μας; Το Numbat παρακολουθεί το επίπεδο των πρακτόρων από μόνο του και διαβάζει τη συμπεριφορά διαδοχικά. Επειδή κάθεται εκεί όπου ενεργεί ο πράκτορας, μπορεί να σταματήσει μια ενέργεια πριν εκτελεστεί.

Χρήση του Computer για την ασφάλεια του Computer

Μπορεί να υπάρξει εμπιστοσύνη στο Computer για πραγματική εργασία ασφάλειας; Η ίδια η ομάδα ασφάλειας της Perplexity έχτισε την υποδομή ασφάλειας εσωτερικά πάνω στο Computer αντί να περιμένει τα εξωτερικά εργαλεία να προλάβουν. Η εκτέλεση ανεξάρτητη από μοντέλα, η μόνιμη μνήμη και τα υπόλοιπα του σχεδίου υπήρχαν ήδη, οπότε η ομάδα μπορούσε να επικεντρωθεί στον ίδιο τον πράκτορα ασφάλειας. Η κατασκευή του καλύτερου πράκτορα ασφάλειας σημαίνει ότι χρειάζεται το καλύτερο πλαίσιο κάτω από αυτόν.

Πού αφαιρεί το Computer την πιο επαναλαμβανόμενη εργασία από το πιάτο μιας ομάδας ασφάλειας; Το Computer μπορεί να βοηθήσει στη διαλογή χαμένων ειδοποιήσεων και αναφορών περιστατικών παρακολούθησης. Κάθε διαλογή στο Computer επιστρέφει τεκμηριωμένη από προεπιλογή, οπότε οι αναλυτές ξεκινούν από μια γραπτή έρευνα αντί για μια ακατέργαστη ειδοποίηση.

Εξερευνήστε περισσότερα εργαστήρια

Perplexity Computer for Counsel

Introducing Perplexity Computer

Έτοιμοι για το επόμενο βήμα;