كيف بنينا الأمان في Comet منذ اليوم الأول

يمنح Comet مساعدي الذكاء الاصطناعي إمكانات قوية لتصفح مواقع الويب، والتفاعل مع المحتوى، وإكمال المهام المعقدة نيابةً عن المستخدمين. تتطلب هذه الإمكانات إجراءات حماية قوية بالدرجة نفسها. قبل إطلاق Comet للجمهور، قمنا بتعيين شركة Trail of Bits لاختبار دفاعاتنا تحت الضغط من خلال عمليات تدقيق رسمية. ساعدنا عملهم في تحديد الثغرات الأمنية وتعزيز تدابير التخفيف لدينا قبل أن يبدأ المستخدمون في الاعتماد على Comet في المهام الحساسة.

بناء الدفاع من الأَسَاس

تتطور هجمات حقن الأوامر باستمرار، ويتطلب الدفاع ضدها نهجاً متعدد الطبقات. لقد عرفنا منذ البداية أن آلية دفاع واحدة لن تكون كافية. مبدأنا الأساسي بسيط: الحماية المتداخلة تضمن أنه في حال تجاوز طبقة واحدة، تظل الطبقات الأخرى لحماية المستخدمين بأمان. وإليك كيف نطبق ذلك عملياً.

مسيرتنا الأمنية: المحطات الرئيسية

أبريل 2025: تدقيق أمني ما قبل الإطلاق

قبل إطلاق Comet علناً، استعنا بشركة Trail of Bits لإجراء نمذجة تهديدات منهجية لهندستنا. اختبر فريقهم سيناريوهات هجوم واقعية، محاولين تجاوز دفاعاتنا باستخدام تقنيات قد يجهّزها المهاجمون في البيئة الحية. حدد التدقيق ثغرات محددة في نظام الحماية لدينا وبدأ عملية معالجة تكرارية. لقد قمنا بتحسين تدابير التخفيف لدينا وإغلاق الثغرات الأمنية قبل أن تتمكن من التأثير على المستخدمين.

أكتوبر 2025: نشر البنية الدفاعية الخاصة بنا

نشرنا مشاركات تقنية مفصلة توضح إطار عمل البنية الدفاعية المؤلف من أربع طبقات والمنطق الكامن وراء كل مكون. حدد المنشور أنواع الهجمات المحددة التي ندافع ضدها، بدءاً من حقن HTML وCSS الخفية وحتى ارتباك المحتوى واختطاف الأهداف. أعلنا أيضاً عن برنامج مكافأة الأخطاء الخاص بنا، داعين باحثي الأمان لاختبار دفاعاتنا والإبلاغ عن الثغرات الأمنية. لقد كانت الشفافية دائماً جوهر نهجنا الأمني: فنحن نؤمن بأن مشاركة منهجيتنا تجعل صناعة الذكاء الاصطناعي بأكملها أقوى.

ديسمبر 2025: إتاحة BrowseSafe كمصدر مفتوح

يتحسن الأمان عندما تتمكن مجتمعات الذكاء الاصطناعي بأكملها من التعلم من الأبحاث المشتركة. لقد أصدرنا BrowseSafe، نموذج الكشف ومعيار التقييم الخاص بنا، كأدوات مفتوحة المصدر. يتضمن BrowseSafe-Bench 14,719 مثالاً تغطي 11 نوعاً من الهجمات، و9 استراتيجيات حقن، و3 أساليب لغوية. من خلال نشر منهجيتنا ومجموعات البيانات الخاصة بنا، فإننا نساعد مطوري الذكاء الاصطناعي الآخرين في بناء أنظمة أكثر أماناً والمساهمة في معايير الأمان على مستوى الصناعة. لقد كان استجابة مجتمع المطورين مشجعة، حيث قامت الفرق بالفعل باستخدام BrowseSafe لتحسين أمان مساعدي الذكاء الاصطناعي الخاصين بهم.

ما تعلمناه

لقد علمنا بناء الأمان لمساعدي الذكاء الاصطناعي دروساً بالغة الأهمية حول مشهد التهديدات المتطور. يكشف اختبار الخصوم الخارجيين عن النقاط العمياء التي قد تفوتها الفرق الداخلية، بغض النظر عن مدى مهاراتها. نمذجة التهديدات ليست ممارسة تُجرى لمرة واحدة بل هي انضباط مستمر يجب أن يتطور مع تقدم تقنيات الهجوم. الأهم من ذلك كله، يتطلب الأمان التعاون عبر الصناعة بأكملها. من خلال مشاركة أبحاثنا، وإشراك الخبراء الخارجيين، والمساهمة في المعايير المفتوحة، فإننا نساعد في بناء نظام البيئة أكثر أماناً.

التزامنا المستمر

نحافظ على تقييمات أمنية منتظمة مع تطور Comet، مما يضمن خضوع الميزات الجديدة لتدقيق صارم قبل إطلاقها. للمساعدة في تقليل المعلومات الخاطئة في أبحاث أمان الذكاء الاصطناعي، نستثمر في ممارسات تقييم قوية وإعداد التقارير بشفافية حتى تكون النتائج المتعلقة بدفاعات Comet دقيقة وقابلة للاستنساخ وغير مشوهة بادعاءات أمنية مبالغ فيها أو غير مكتملة.

يدير فريقنا أيضاً برنامج الكشف عن الثغرات الأمنية النشط وبرنامج مكافأة الأخطاء الخاص، داعياً باحثي الأمان في كل مكان لاختبار دفاعاتنا. مع ازدياد قدرة مساعدي الذكاء الاصطناعي ومعالجتهم للمهام الحساسة بشكل متزايد، ستستمر استثماراتنا الأمنية في التوسع وفقاً لذلك.