PII-TRACE: اكتشاف البيانات الشخصية قبل مغادرتها الجهاز

الحوسبة الهجينة على Mac تقسم مهام Perplexity Computer بين النماذج الحدودية في السحابة ونموذج محلي على Mac. يتعامل وكلاء السحابة مع البحث والاستدلال والتخطيط، بينما يعمل النموذج المحلي مع الملفات الخاصة والمعلومات الحساسة.

يعتمد هذا الحد على اكتشاف معلومات التعريف الشخصية (PII) قبل مغادرتها للجهاز. تحافظ بوابة الخصوصية المحلية على المحتوى الحساس على جهاز Mac، أو تحجب المعلومات الخاصة المكتشفة، أو تطلب الموافقة قبل إرسالها إلى السحابة.

يصبح الكشف أكثر صعوبة عبر المحادثات الطويلة ومتعددة اللغات. قد يظهر نفس المعرف عدة مرات عبر أدوار مختلفة. قد تؤدي إشارة واحدة فائتة إلى كشف المعلومات التي يفترض أن يحميها النظام.

المقدمة

اليوم، نقدم PII-TRACE (Tracing Recurring PII Across Conversational Exchanges)، وهو معيار جديد لتقييم كاشفات معلومات التعريف الشخصية (PII)، وPII-Tracer، وهو نموذج مدمج بحجم 0.6B للكشف عن PII.

تجبر وكلاء السحابة أولاً المستخدمين على موازنة السياق والذكاء والخصوصية. يمكن أن يساعد السياق الشخصي الإضافي الوكيل في فهم المستخدم وإنتاج نتائج أفضل. لكن توفير هذا السياق غالباً ما يعني إرسال معلومات خاصة إلى خدمة بعيدة وقد يؤدي إلى تسريب معلومات شخصية. قد تكون المعلومات التي تجعل المساعد مفيداً هي بالضبط ما يرغب المستخدم في الاحتفاظ بخصوصيته أكثر من غيره.

الذكاء الاصطناعي الهجين يخفف من هذا المقايضة بتقسيم العمل بين جهاز المستخدم والنماذج السحابية. لكن هذا الحد يحمي الخصوصية فقط إذا كان الجهاز قادراً على التعرف على PII قبل إرسال النص إلى نموذج بعيد. لا ينبغي للمستخدمين فحص كل رسالة بأنفسهم. يحتاج الجهاز إلى كاشف محلي لـ PII كبوابة للخصوصية. في المحادثات الطويلة، يمكن أن يتكرر نفس المعرّف عبر الأدوار، وإشارة واحدة فائتة تكفي لتمرير المعلومات الشخصية.

قدمت Perplexity منسق استدلال هجين بين الخادم المحلي يقرر العمل الذي يجب تشغيله على الجهاز والعمل الذي يجب أن يذهب إلى الوكلاء في السحابة. يتقيم النموذج، ومسار الوكيل، والمحادثات، ومسارات التنفيذ كلها على جهاز المستخدم. يتم استدعاء المهام التي تتطلب الوصول إلى العالم الخارجي فقط عند الضرورة ويتم تقييدها بإذن المستخدم. ونتيجة لذلك، حتى يوافق المستخدم، يظل هذا المحتوى على الجهاز.

يعتمد التوجيه الانتقائي على إشارة تحكم محلية واحدة لتوجيه النموذج عن طريق الإشارة إلى النطاقات التي يُتوقع أن تحتوي على PII. بعد ذلك، تطبق التطبيقات سياسة التوجيه. وهي تحافظ على المدخلات ذات الصلة محلية، أو تحجب النطاقات المكتشفة، أو تطلب موافقة صريحة قبل التصعيد إلى نموذج سحابي. هذا يجعل التوجيه أكثر انتقائية. تظل PII المكتشفة على الجهاز بينما يستفيد السياق المعتمد من نماذج السحابة الحدودية.

يعتمد التوجيه الانتقائي على الاتساق في الاكتشاف عبر المحادثة بأكملها. يمكن أن يتكرر نفس المعرّف عبر الأدوار، وقد يتم إرسال إشارة فائتة.

عبر 12 كاشفاً، سجل PII-Tracer أعلى مؤشر F1 للأحرف وأعلى تغطية متسقة للمعلمات المتكررة. يوضح المعيار سبب أهمية النتيجتين: في محادثة طويلة، لا يعادل العثور على معظم PII العثور على كل نسخة منها.

اكتشاف PII يواجه تحديات جديدة في الذكاء الاصطناعي الهجين

اكتشاف معلومات PII هو مشكلة أمنية قديمة، وتوجد بالفعل العديد من المعايير والكاشفات. ومع ذلك، يطرح اكتشاف PII في إعدادات الذكاء الاصطناعي الهجين تحديات جديدة. على وجه الخصوص، يجب على الكاشفات تحديد PII في المحادثات الطويلة ذات الأدوار المتعددة، حيث يحدد السياق الحواري ما إذا كان يجب اعتبار السلسلة PII أم لا. على سبيل المثال، قد يحدد الاسم المستخدم في محادثة واحدة، أو يشير إلى شخصية عامة في محادثة أخرى، أو يكون ببساطة عنصراً نائباً تم إنشاؤه بواسطة مساعد. شكل السطح وحده غير كافٍ لتحديد ما إذا كان ينبغي وضع علامة على السلسلة كـ PII.

تستهدف كاشفات ومقاييس PII الحالية في المقام الأول السجلات الفردية. نجد أن الكاشفات المصممة لمعالجة سجل واحد في كل مرة أداؤها ضعيف في المحادثات الطويلة والمعقدة. كما أن المقاييس الحالية لا تقيم عموماً الاتساق عبر الأدوار. ونتيجة لذلك، فإن الأداء القوي على هذه المقاييس لا يترجم بالضرورة إلى اكتشاف فعال لـ PII في المحادثات الطويلة ذات الأدوار المتعددة.

PII-TRACE: معيار للكشف عن معلومات PII الحرجة للنشر

صممنا PII-TRACE حول ثلاثة سلوكيات تهم عند استخدام كاشف PII في محادثات المساعد. الأول هو التغطية المتسقة: عندما يظهر معرّف عدة مرات أو يعبر أدوار المستخدم والمساعد، يحتاج الكاشف إلى العثور على كل إشارة. والثاني هو المتانة في مواجهة السياق الطويل: تتراوح المحادثات من أقل من 1,000 إلى أكثر من 100,000 حرف، مما يجعل من الممكن قياس ما يحدث مع نمو التاريخ. والثالث هو التعامل مع اللغات المتعددة والمحتوى مختلط التنسيق: قد تتبدل المحادثة بين اللغات وتجمع النثر مع التعليمات البرمجية أو الجداول أو السجلات الهيكلية. يحافظ PII-TRACE على هذه الأنماط من خلال تقييم كل حوار بالكامل بدلاً من تقطيعه إلى سجلات معزولة.

يقيس المعيار الأداء على مستويين متكاملين. على مستوى المعرّف، يطرح الكشف المتسق السؤال الأكثر صرامة: هل غطى الكاشف كل حرف في كل إشارة لنفس المعرّف؟ نحن نبلغ عن هذه النتيجة بشكل منفصل للمعرّفات ذات الإشارات المتعددة وللمعرّفات التي تتكرر عبر الأدوار. على مستوى الأحرف، تقيس الدقة مقدار النص الذي حدده الكاشف على أنه PII، بينما يقيس الاسترجاع مقدار PII المحددة التي عثر عليها، ويوازن F1 بين الاثنين.

يحتوي PII-TRACE على 13,148 محادثة اصطناعية بين المستخدم والمساعد عبر 13 لغة و10 أنظمة كتابة، مع تحديد 37,431 إشارة معرف على مستوى الأحرف عبر تسعة أنواع من PII. يحتوي ما إجماليه 41% من المحادثات على محتوى مهيكل. ومن بين 5,645 محادثة تحتوي على PII محدد، تتضمن 63.8% معرفاً يظهر أكثر من مرة، وتتضمن 28.7% معرفاً يظهر عبر أدوار متعددة.

بناء مجموعة بيانات اصطناعية من محادثات الإنتاج

يحافظ PII-TRACE على بنية دور المحادثات المصدرية دون نشر الأصلية منها. تعيد خط الأنابيب صياغة كل دور وتستبدل كل معرف محدد بقيمة اصطناعية.

أولاً، تحدد نماذج اللغات المتعددة تسعة أنواع من PII في محادثات مستخدم-مساعد الإنتاجية. تجمع تمريرة قائمة على القواعد المعرّفات المتكررة من نفس النوع تحت معرف كيان واحد. ثم يتم استبدال كل قيمة محددة بعنصر نائب مصنف، تاركاً قالباً يحتفظ بترتيب الأدوار، ونوع PII، والروابط بين الإشارات ولكن دون أي من القيم الأصلية المحددة.

يقوم النظام بصياغة كل دور مع الاحتفاظ بتلك العناصر النائبة سليمة، ثم يدرج قيماً اصطناعية تتطابق مع نوع المعرف وتنسيقه. تتلقى الإشارات المتكررة نفس القيمة داخل المحادثة، بينما تستخدم المحادثات المختلفة قيماً تم إنشاؤها بشكل مستقل. تعيد تمريرة المحاذاة النهائية حساب كل إزاحة حرف.

تتحقق ثلاث بوابات آلية من أن البدائل تطابق النطاقات المخزنة، وأن الإشارات المتكررة تستخدم نفس القيمة، وأن قيم المصدر المحددة غائبة تحت عملية إعادة مسح Presidio والتعبيرات المنتظمة. يجب أن يستعيد الإزاحة المخزنة أيضاً التلسسل الفرعي الاصطناعي الدقيق. يتم إعادة توليد السجلات التي تفشل أو يتم إسقاطها. يقوم نموذج لغة ثانٍ بمراجعة عينة، ويقوم البشر بمراجعة أي شيء يصنفه على أنه PII.

PII-Tracer: كاشف مدمج للاستخدام المحلي

PII-Tracer هو مشفر ثنائي الاتجاه بحجم 0.6B مُكيّف من أساس Qwen3. يختلف فحص الخصوصية عن توليد النص ويتطلب العثور على نطاقات PII ذات الصلة وإرجاع حدودها. ونتيجة لذلك، يستبدل PII-Tracer قناع Qwen3 السببي بانتباه ثنائي الاتجاه واعي بالحشو، بحيث يمكن لكل رمز الاستفادة من الأدوار السابقة واللاحقة ضمن نافذة من 4,096 رمزاً.

بالنسبة لكل رمز، ينتج المشفر تمثيلاً بألف واثنين وأربعين (1,024) بعداً. ينتج رأس الوسم الخطي درجات لـ 37 تسمية محتملة: تسمية خاصّة واحدة (نستخدم O للدلالة عليها) للنص خارج نطاق PII، بالإضافة إلى أربع تسميات لموضع النطاق لكل من أنواع PII التسعة. في مخطط BIOES للتعرف على الكيانات المسماة، تحدد B (البداية)، وI (الداخل)، وE (النهاية) نطاقاً متعدد الرموز، بينما تحدد S (المفرد) نطاقاً من رمز واحد. يتنبأ رأس مساعد أيضاً بما إذا كانت المحادثة تحتوي على مواد حساسة، مثل المعلومات الصحية أو الدينية.

نقوم بتدريب PII-Tracer لثلاث دورات على ما يقرب من 714,000 عينة تدريب، جامعين بين محادثات المساعد متعددة اللغات وأمثلة السجل الفردي. يحتوي المشفر ثنائي الاتجاه المشترك على رأسي تدريب: رأس رمز BIOES مكون من 37 فئة يكتشف ويصنف نطاقات PII، ورأس ثنائي على مستوى المحادثة يتنبأ بما إذا كانت المحادثة تحتوي على مواد حساسة. نقوم بتدريب كلا الرأسين معاً باستخدام $\mathcal{L}=1.5\mathcal{L}_{\mathrm{tag}}+0.3\mathcal{L}_{\mathrm{sens}}$. هنا، يعطي $\mathcal{L}_{\mathrm{tag}}$ تسميات PII النادرة وزناً أكبر حتى لايغلب تصنيف `O` المتكرر، بينما يوفر $\mathcal{L}_{\mathrm{sens}}$ إشارة التدريب على مستوى المحادثة؛ تحافظ المعاملات 1.5 و0.3 على اكتشاف النطاقات كمه مهمة رئيسية. تعزز هذه الإشارة المساعدة الاكتشاف الواعي بالسياق: يتعلم النموذج تقييم نطاق مرشح داخل المحادثة بدلاً من كونه سلسلة معزولة، مما يساعد في تقليل الإيجابيات الكاذبة مع مقايضة صغيرة فقط في الاسترجاع.

في وقت الاستدلال، يبحث مفكك تشفير فيتربي المقيد عن تسلسل BIOES الصالح الحاصل على أعلى درجة بدلاً من تصنيف كل رمز بشكل مستقل. على سبيل المثال، يمكن لـ B-private_person الاستمرار مع I-private_person أو الإغلاق مع E-private_person، ولكن لا يمكنه التبديل إلى I-private_email. يربط مفكك التشفير النتيجة مرة أخرى بنطاقات الأحرف الدقيقة للإخفاء أو التوجيه المحلي.

PII-Tracer يتصدر في مؤشر F1 للأحرف ومعلومات PII المتكررة

نقارن بين الكاشفات على مستوى الأحرف والنطاقات. يقيم مؤشر F1 للأحرف عملية الكشف حرفاً بحرف. بينما يقيس مؤشر F1 لتداخل النطاقات ما إذا كان الكاشف يحدد أي جزء من عنصر معلومات PII، في حين يقيس مؤشر F1 لاحتواء النطاقات ما إذا كان يلتقط العنصر بالكامل.

حقق PII-Tracer أعلى مؤشر F1 للأحرف (0.629) بين الأنظمة الـ 12 التي تم تقييمها، وثاني أعلى مؤشر F1 لتداخل النطاقات واحتوائها. حققت النماذج الحدودية، وتحديداً GPT-5.6-sol وClaude Sonnet 5، أداءً عاماً قابلاً للمقارنة. حصل GPT-5.6-sol على درجات أعلى في مقياسي F1 على مستوى النطاق، ولكن مؤشر F1 للأحرف أقل. ومع ذلك، تمتلك هذه النماذج الحدودية مئات المليارات أو حتى تريليونات المعلمات وهي نماذج مغلقة المصدر مستضافة في السحابة. ونتيجة لذلك، فهي غير مناسبة لحماية البيانات المحلية الحساسة في إعدادات الذكاء الاصطناعي الهجين حيث يجب أن يظل النص غير المفحوص محلياً. في المقابل، يقدم PII-Tracer اكتشافاً على مستوى النطاق يقارب الحدود بنحو 0.6B من المعلمات ويمكنه معالجة النص غير المفحوص محلياً بالكامل. أداء كاشفات PII الأخرى مفتوحة المصدر أسوأ بكثير من PII-Tracer.

العثور على كل إشارة متكررة

يطبق اختبار الاتساق اختباراً أكثر صارمة على نفس التوقعات. تحتوي مجموعة الاختبار على 899 معرفاً تظهر مرة واحدة و959 تظهر أكثر من مرة؛ ويمتد 790 من المعرّفات المتكررة عبر أدوار متعددة. يوضح الشكل أربع فئات لعدد الإشارات (واحدة، اثنتان، من ثلاث إلى خمس، ومن ست إلى عشر) ويحسب المعرّف فقط عند العثور على جميع أرفعه المحددة. وهو يرسُم PII-Tracer مع ثلاثة خطوط أساس مختارة، بينما يُبلغ الجدول المجمع عن درجات التكرار وعبر الأدوار لجميع الأنظمة الاثني عشر.

يحافظ نموذج PII-Tracer على تفوقه مع زيادة التكرار: تنتقل درجته من 0.917 لإشارة واحدة إلى 0.873 لإشارتين، و0.796 لثلاث إلى خمس إشارات، و0.691 لست إلى عشر إشارات. في الفئة الأخيرة، يصل نموذج GPT-5.6-sol إلى 0.464، بينما يصل كل من GLiNER2-PII وClaude Opus 4.8 إلى 0.073 و0.045 على التوالي. عبر التقييم الكامل، يجد PII-Tracer كل إشارة بنسبة 79.4% للمعرفات المتكررة و77.6% للمعرفات العابرة للأدوار؛ ويصل GPT-5.6-sol إلى 57.0% و55.1% على نفس القياسين.

تغطية المحادثات الطويلة

نقوم أولاً بتجميع جميع محادثات الاختبار الـ 1,922 حسب طول الأحرف وفك تشفير PII-Tracer بنافذة 4,096 رمزاً. تحتوي المجموعات على 167 محادثة أقل من 1,000 حرف، و1,292 محادثة من 1,000 إلى 10,000، و463 محادثة بطول 10,000 أو أكثر.

يبلغ استرجاع النافذة الواحدة 0.975 تحت 1,000 حرف و0.955 من 1,000 إلى 10,000، ولكنه ينخفض إلى 0.687 للمحادثات التي تبلغ 10,000 حرف أو أكثر. تظل الدقة قريبة من 0.51 في المجموعتين الأطول، مما يشير إلى تغطية المدخلات باعتبارها المشكلة الرئيسية.

لدراسة تأثير معالجة المدخلات، نقوم بتقييم نفس نقطة التحقق بفك تشفير نافذة منزلقة بتداخل 50%. يؤدي هذا إلى رفع استرجاع الأحرف الإجمالي من 0.830 إلى 0.965 والكشف المتسق للإشارات المتعددة من 0.794 إلى 0.954، دون إعادة تدريب.

متسق عبر اللغات

يغطي PII-TRACE 13 لغة؛ وتُبلغ تجربة اللغة عن جزء مكون من ست لغات يمتد عبر النصوص اللاتينية، والسيريلية، والهانغل: الإنجليزية، والألمانية، والفرنسية، والإيطالية، والروسية، والكورية. نقوم بتشغيل نفس الكاشفات الـ 12 على جميع محادثات الاختبار بكل لغة. داخل كل لغة، نقوم بتجميع الأحرف المتوقعة والذهبية وحساب مؤشر F1 للأحرف.

يتصدر PII-Tracer مؤشر F1 للأحرف في أربع لغات من أصل ست، وهي الألمانية (0.735)، والفرنسية (0.633)، والإيطالية (0.676)، والروسية (0.651)، وهو ضمن هامش 0.016 و0.036 من أفضل النتائج في اللغتين الإنجليزية والكورية. في التحليل المرافق، يؤدي إلى اكتشاف متسق في جميع المجموعات الفرعية للغات الست، مسجلاً 0.80-0.93. يُظهر العرض لكل لغة مكاسب تتجاوز اللغة الإنجليزية.

مؤشر F1 للأحرف أعلى من مرشح الخصوصية في خمسة معايير قياسية

التجربة الأخيرة تنتقل إلى خارج PII-TRACE. نقوم بتشغيل PII-Tracer ومرشح الخصوصية من OpenAI على مجموعة التحقق من الصحة ai4privacy (47,728 مستنداً)، ومجموعة اختبار Nemotron-PII (100,000)، ومجموعة SPY ببذرة ثابتة (8,688)، ومجموعة اختبار Gretel PII (5,000)، ومجموعة اختبار TAB ECHR (127).

يتميز PII-Tracer بمؤشر F1 للأحرف أعلى في كل مجموعة بيانات: 0.950 مقابل 0.907 على ai4privacy، و0.847 مقابل 0.709 على Nemotron-PII، و0.585 مقابل 0.543 على SPY، و0.952 مقابل 0.895 على Gretel PII، و0.594 مقابل 0.350 على TAB. يُعد TAB المعيار الوحيد في هذه المجموعة المبني من نص حقيقي محدد بشرياً. هناك، يصل PII-Tracer إلى 0.986 مقابل 0.982 للدقة و0.425 مقابل 0.213 للاسترجاع - أي ضعف الاسترجاع عند نفس الدقة تقريباً (التفاصيل في الورقة البحثية). وبالتالي، فإن مؤشر F1 الأعلى ينتقل من محادثات PII-TRACE إلى جميع مقاييس السجل الفردي التقليدية الخمسة في هذه المقارنة.

الخاتمة

دمج الذكاء الاصطناعي الهجين جهاز المستخدم في مكدس الاستدلال، مما يوفر خصوصية أقوى وتكلفة أقل. يمكن للنماذج الحدودية في السحابة التعامل مع البحث والاستدلال والتخطيط، بينما تعمل النماذج المحلية مع الملفات والبيانات الشخصية التي يجب أن تظل على الجهاز. يعتمد هذا التقسيم على التعرف على المعلومات الحساسة قبل انتقال أي بيانات حساسة إلى السحابة.

PII-Tracer هو نموذج مدمج للكشف عن PII في المحادثات ذات الأدوار المتعددة، بينما يقيم PII-TRACE ما إذا كانت الكاشفات قادرة على تحديد PII المتكرر باستمرار طوال المحادثة.

معاً، يوفر كل من PII-TRACE وPII-Tracer معياراً ونموذجاً مرجعياً لتقدم الكشف عن PII في المحادثات ذات الأدوار المتعددة وإعدادات السياق الطويل الأخرى.

يتولى الوكلاء مهام أطول ويعملون مع مزيد من السياق الشخصي. ونتيجة لذلك، يجب أن تلتزم ضوابط الخصوصية عبر المحادثة بأكملها، وليس فقط المدخلات الأولية. يعتمد الذكاء الاصطناعي الهجين على اكتشاف محلي موثوق للحفاظ على السياق الحساس على الجهاز.

اقرأ ورقة arXiv للحصول على تفاصيل حول معيار PII-TRACE، ونودج PII-Tracer، وتقييمنا. نخطط لإطلاق كل من PII-TRACE وPII-Tracer قريباً.