Bảo mật AI với Perplexity

Các tài nguyên bảo mật được đề cập trong phiên này

Câu hỏi thường gặp

Xây dựng tính năng bảo mật trên toàn bộ ngăn xếp AI

Perplexity tiếp cận vấn đề bảo mật như thế nào khi xây dựng trên rất nhiều lớp của ngăn xếp AI? Mọi sản phẩm Perplexity xây dựng đều bắt đầu bằng tư duy đặt bảo mật lên hàng đầu, và chúng tôi coi an toàn và bảo mật là hai công việc có liên quan nhưng khác biệt. An toàn là bảo vệ con người khỏi các tác nhân. Bảo mật là bảo vệ các tác nhân khỏi con người. Xây dựng trên toàn bộ ngăn xếp có nghĩa là chúng tôi có thể đặt đúng các biện pháp kiểm soát ở đúng lớp cho đúng tác vụ, thay vì chắp vá tính năng bảo vệ vào một hộp đen mà chúng tôi không sở hữu.

SPACE, sandbox tác nhân của Perplexity

Sandbox là gì và nó bảo vệ người dùng cùng các tác nhân như thế nào? Sandbox cung cấp cho mã một không gian được giới hạn để chạy mà không chạm tới hệ thống hoặc dữ liệu của bạn. Các tác nhân làm tăng mức độ rủi ro, vì vậy trong Computer, mọi tác vụ đều có sandbox riêng.

Tại sao Perplexity lại tự xây dựng sandbox của riêng mình (SPACE) thay vì sử dụng sandbox có sẵn? Các công cụ có sẵn không thể đáp ứng mức độ bảo mật mà Perplexity muốn đảm bảo cho khách hàng của mình. Các tác nhân phá vỡ giả định rằng sandbox chỉ dành cho việc thực thi mã trong thời gian ngắn. Điều đó dẫn đến hai nhu cầu mâu thuẫn nhau: môi trường phải là loại dùng một lần, nhưng công việc phải được lưu trữ bền vững. Các nền tảng hiện có buộc bạn phải chọn hai trong ba yếu tố giữa tính năng, hiệu quả và bảo mật. SPACE được xây dựng để mang lại cả ba yếu tố đó.

SPACE thực sự hoạt động như thế nào và nó có những biện pháp kiểm soát bảo mật nào? SPACE biến phiên thành đối tượng có độ bền vững thay vì sandbox. Một phiên là một chuỗi các ảnh chụp nhanh luân phiên, và các ảnh chụp nhanh đó cho phép SPACE có toàn bộ các biện pháp kiểm soát. Tạm dừng chỉ đơn giản là dừng sandbox. Tiếp tục là khôi phục ảnh chụp nhanh mới nhất trên bất kỳ máy nào. Phân nhánh là khôi phục cùng một ảnh chụp nhanh hai lần và để các bản sao phân kỳ. Người dùng có được tính liên tục, cùng với nút tua ngược thời gian nếu có sự cố xảy ra.

Thông tin đăng nhập của tôi được lưu trữ ở đâu khi một tác nhân hành động thay mặt tôi? Sandbox là nơi diễn ra các công việc không đáng tin cậy, vì vậy đây là nơi cuối cùng nên lưu trữ các khóa. Nếu một tác nhân bị chiếm đoạt, kẻ tấn công sẽ thừa hưởng mọi thứ mà tác nhân đó nắm giữ, đó là lý do tại sao các tác nhân của chúng tôi không nắm giữ gì cả. Thông tin đăng nhập đến từ bên ngoài hộp, ngay tại thời điểm chính xác chúng cần thiết, chỉ dành cho tác vụ đó.

RBAC, trình kết nối và các tính năng bảo mật của Perplexity

Perplexity thực sự có quyền truy cập vào những gì khi một trình kết nối như Snowflake hoặc Outlook được kết nối và quản trị viên có thể tắt những gì? Không giống như các công cụ tác nhân bắt đầu với quyền truy cập vào toàn bộ máy tính của bạn, Computer bắt đầu mà không có quyền truy cập nào. Quyền truy cập đến thông qua OAuth với các quyền chính xác, vì vậy nếu bạn không thể nhìn thấy nó, tác nhân của bạn cũng không thể nhìn thấy nó. Quản trị viên có thể tắt toàn bộ trình kết nối hoặc chỉ tắt các công cụ cụ thể bên trong trình kết nối đó.

RBAC của Perplexity tích hợp với nhà cung cấp danh tính của chúng tôi như thế nào?

Nhà cung cấp danh tính của tổ chức đã trả lời câu hỏi ai có thể chạm vào cái gì. Perplexity kết nối vào đó và các ranh giới đó được chuyển thẳng vào sản phẩm. Nguồn chân lý của bạn vẫn là nguồn chân lý và nhật ký kiểm toán của bạn vẫn chính xác. Các nhóm có được bối cảnh họ cần và các công ty duy trì quyền kiểm soát đối với việc ai được xem cái gì.

Perplexity bảo vệ các tác nhân khỏi tình trạng chèn câu lệnh trên web mở như thế nào? Chèn câu lệnh là kỹ thuật xã hội, nhắm vào các tác nhân thay vì nhân viên, và web mở là nơi những người lạ có thể trò chuyện với tác nhân đó. BrowseSafe coi mọi trang mà tác nhân đọc là không đáng tin cậy và quét trang đó song song, trước khi nội dung có thể định hình hành động của tác nhân. Nghiên cứu bảo mật giữ cho riêng bạn thì chỉ bảo vệ được bạn. Các tác nhân của mọi người đều đọc cùng một trang web, vì vậy chúng tôi đã công khai điểm chuẩn.

Perplexity sử dụng những công cụ nào để bảo vệ các máy tính mà tác nhân và nhân viên đang chạy? Bumblebee trả lời câu hỏi đầu tiên sau mỗi sự cố chuỗi cung ứng: gói phần mềm độc hại có xuất hiện ở bất kỳ đâu trên hệ thống của chúng tôi không? Numbat giám sát lớp tác nhân và đọc hành vi theo trình tự. Bởi vì nó nằm ở nơi tác nhân hành động, nó có thể dừng một hành động trước khi hành động đó được thực thi.

Sử dụng Computer để bảo mật Computer

Có thể tin tưởng giao phó công việc bảo mật thực tế cho Computer không? Nhóm bảo mật của chính Perplexity đã tự xây dựng cơ sở hạ tầng bảo mật nội bộ dựa trên Computer thay vì chờ đợi các công cụ bên ngoài bắt kịp. Quá trình thực thi bất khả tri về mô hình, bộ nhớ bền vững và phần còn lại của lộ trình đã có sẵn ở đó, vì vậy nhóm có thể tập trung vào chính tác nhân bảo mật. Xây dựng tác nhân bảo mật tốt nhất đồng nghĩa với việc cần có bộ công cụ hỗ trợ tốt nhất bên dưới nó.

Computer gánh vác phần lớn công việc lặp đi lặp lại khỏi nhóm bảo mật ở điểm nào? Computer có thể giúp phân loại các cảnh báo bị bỏ lỡ và báo cáo sự cố tiếp theo. Mọi quá trình phân loại trong Computer đều được trả về kèm theo tài liệu theo mặc định, do đó các nhà phân tích bắt đầu từ một cuộc điều tra bằng văn bản thay vì một cảnh báo thô.

Khám phá thêm hội thảo

Perplexity Computer for Counsel

Introducing Perplexity Computer

Sẵn sàng cho bước tiếp theo?