تأمين الذكاء الاصطناعي مع Perplexity

الموارد الأمنية المذكورة في هذه الجلسة

• كيف بنينا الأمان داخل Computer
• بيئات اختبار آمنة (Sandboxes) للوكلاء
• التخفيف من حقن التوجيهات (Prompt Injection) في Comet
• ورقة بحثية عن BrowseSafe
• تأمين الوكلاء باستخدام Numbat
• جعل Bumblebee مفتوح المصدر
• معهد الذكاء الآمن
• مركز الثقة

الأسئلة الشائعة

بناء الأمان عبر مكدس الذكاء الاصطناعي

كيف تتعامل Perplexity مع الأمان عندما تبني عبر طبقات عديدة من مكدس الذكاء الاصطناعي؟ كل ما تبنيه Perplexity يبدأ بالتفكير القائم على الأمان أولاً، ونحن نتعامل مع السلامة والأمان كمهام مترابطة ولكنها متميزة. تتعلق السلامة بحماية البشر من الوكلاء. بينما يتعلق الأمان بحماية الوكلاء من البشر. يعني البناء عبر المكدس أننا نستطيع وضع أدوات التحكم المناسبة في الطبقة المناسبة للمهام المناسبة، بدلاً من إضافة الحماية بالقوة إلى صندوق أسود لا نملكه.

SPACE، بيئة اختبار الوكلاء من Perplexity

ما هي بيئة الاختبار الآمنة (Sandbox)، وكيف تحمي المستخدمين والوكلاء؟ تمنح بيئة الاختبار (Sandbox) الكود مكاناً محدوداً للتشغيل دون الوصول إلى أنظمتك أو بياناتك. يرفع الوكلاء من مستوى المخاطر، لذا تحصل كل مهمة في Computer على بيئة الاختبار الخاصة بها.

لماذا أنشأت Perplexity بيئة الاختبار الخاصة بها (SPACE) بدلاً من استخدام بيئة موجودة؟ لم تكن الأدوات الجاهزة قادرة على توفير الأمان الذي ترغب Perplexity في ضمانه لعملائنا. يتجاوز الوكلاء الافتراض القائل بأن بيئات الاختبار مخصصة لتنفيذ الكود لفترة قصيرة. وهذا يفرض حاجتين تتعارضان مع بعضهما البعض: يجب أن تكون البيئة قابلة للتخلص منها، ولكن يجب أن يكون العمل مستمراً. جعلتك المنصات الحالية تختار اثنتين من ثلاث بين الوظائف، والكفاءة، والأمان. تم بناء SPACE لتقديم الثلاثة معا.

كيف تعمل SPACE بالفعل، وما هي ضوابط الأمان التي تحتوي عليها؟ تجعل SPACE الجلسة كائناً متيناً بدلاً من بيئة الاختبار. الجلسة هي سلسلة من لقطات الحالة المتتالية، وتتيح هذه اللقطات مجموعة أدوات التحكم الكاملة في SPACE. الإيقاف المؤقت هو مجرد إيقاف بيئة الاختبار. الاستئناف هو استعادة أحدث لقطة على أي جهاز. التفريع هو استعادة نفس اللقطة مرتين والسماح للنسخ بالاختلاف. يحصل المستخدمون على استمرارية، إلى جانب زر آلة الزمن إذا حدث خطأ ما.

أين تعيش بيانات الاعتماد الخاصة بي عندما يتصرف وكيل نيابة عني؟ بيئات الاختبار هي المكان الذي يحدث فيه العمل غير الموثوق به، لذا فهي آخر مكان يجب أن تعيش فيه المفاتيح. إذا تم اختراق وكيل، فإن المهاجم يرث كل ما يحمله الوكيل، ولهذا السبب لا يحمل وكلاؤنا شيئاً. تصل بيانات الاعتماد من خارج الصندوق، في اللحظة الدقيقة التي تكون فيها حاجة ماسة إليها، لتلك المهمة فقط.

التحكم في الوصول القائم على الدور (RBAC)، والموصلات، وميزات الأمان في Perplexity

ما الذي تحوذ Perplexity على حق الوصول إليه فعلياً عند توصيل موصل مثل Snowflake أو Outlook، وما الذي يمكن للمسؤول إيقاف تشغيله؟ على عكس أدوات الوكيل التي تبدأ بالوصول إلى جهاز الكمبيوتر بالكامل، يبدأ Computer بدون وصول. يأتي الوصول من خلال OAuth بأذونات دقيقة، لذا إذا لم تتمكن من رؤيته، فلا يمكن لوكيلك رؤيته. يمكن للمسؤولين إيقاف تشغيل موصل كامل، أو مجرد أدوات محددة بداخله.

كيف يندمج التحكم في الوصول القائم على الدور (RBAC) من Perplexity مع موفر الهوية الخاص بنا؟

يجيب موفر الهوية الخاص بالمؤسسة بالفعل على سؤال من يمكنه لمس ماذا. تتصل Perplexity به وتنتقل هذه الحدود مباشرة إلى المنتج. يظل مصدر الحقيقة الخاص بك هو مصدر الحقيقة، ويظل مسار التدقيق الخاص بك دقيقاً. تحصل الفرق على السياق الذي تحتاجه، وتحتفظ الشركات بالسيطرة على من يرى ماذا.

كيف تحمي Perplexity الوكلاء من حقن التوجيهات على شبكة الويب المفتوحة؟ حقن التوجيهات هو هندسة اجتماعية، يستهدف الوكلاء بدلاً من الموظفين، وشبكة الويب المفتوحة هي المكان الذي يُسمح للغرباء بالتحدث معه فيه. يتعامل BrowseSafe مع كل صفحة يقرأها الوكيل على أنها غير موثوقة ويقوم بمسحها ضوئياً بالتوازي، قبل أن يتمكن المحتوى من تشكيل ما يفعله الوكيل. البحث الأمني الذي تحتفظ به لنفسك يحميك وحدك. يقرأ وكلاء الجميع نفس الويب، لذا جعلنا المعيار عاماً.

ما هي الأدوات التي تستخدمها Perplexity لحماية الأجهزة التي يعمل عليها الوكلاء والموظفون؟ يجيب Bumblebee على السؤال الأول بعد كل حادثة تتعلق بسلسلة التوريد: هل الحزمة الضارة موجودة في أي مكان على أنظمتنا؟ يراقب Numbat طبقة الوكيل نفسها ويقرأ السلوك على التوالي. ونظراً لأنه يقع في المكان الذي يتصرف فيه الوكيل، فيمكنه إيقاف الإجراء قبل تنفيذه.

استخدام Computer لتأمين Computer

هل يمكن وثوق Computer في أعمال الأمان الحقيقية؟ قامت فريق الأمان الخاص بـ Perplexity ببناء بنيتها التحتية الأمنية داخلياً فوق Computer بدلاً من انتظار الأدوات الخارجية اللحاق بالركب. كان التنفيذ بغض النظر عن النموذج، والذاكرة المستمرة، وبقية خارطة الطريق موجودة بالفعل، لذلك يمكن للفريق التركيز على وكيل الأمان نفسه. بناء أفضل وكيل أمان يعني الحاجة إلى أفضل تسخير تحته.

أين يزيل Computer العمل الأكثر تكراراً من قائمة فريق الأمان؟ يمكن أن يساعد Computer في فرز التنبيهات الفائتة وتقارير الحوادث المتابعة. يأتي كل فرز في Computer موثقاً بشكل افتراضي، لذلك يبدأ المحللون من تحقيق مكتوب بدلاً من تنبيه خام.