في خطوة استباقية لتعزيز أمان أنظمتها المعتمدة على الذكاء الاصطناعي (AI)، أطلقت شركة جوجل برنامجها المتخصص والجديد لمكافآت الثغرات الأمنية للذكاء الاصطناعي (AI Vulnerability Reward Program – AI VRP)، مقدّمة مكافآت تصل إلى 30,000 دولار أمريكي للباحثين الأمنيين الذين يكتشفون ويبلغون عن نقاط ضعف حرجة في منتجاتها الذكية.
يأتي هذا الإطلاق تتويجاً لجهود جوجل التي بدأت في عام 2023 بدمج مكافآت الثغرات المتعلقة بالذكاء الاصطناعي ضمن برنامجها العام (Abuse VRP)، وقد دفع هذا التركيز أكثر من 430,000 دولار للباحثين حتى الآن. ومع التوسع المتزايد لنماذج الذكاء الاصطناعي، خصوصاً بعد دمج نموذج Gemini في منتجاتها الأساسية مثل البحث و Gmail و Google Drive، أصبح من الضروري وجود برنامج مخصص يوضح نطاق البحث ويرفع قيمة المكافآت.
ما هي “الثغرة الذكية” التي تدفع عليها شركة جوجل؟
أوضحت “جوجل” أن تركيز البرنامج الجديد ينصب على المشكلات الأمنية ذات الأثر الحقيقي، والتي قد تسبب “أفعالاً مارقة” (Rogue Actions)، أي تلك التي تؤدي إلى تلاعب أو خرق للبيانات أو الحسابات. وتندرج الثغرات المؤهلة للحصول على أعلى المكافآت ضمن الفئات التالية:
- الأفعال المارقة (Rogue Actions): أي استغلال يؤدي إلى تعديل بيانات المستخدم أو حسابه بآثار أمنية واضحة. مثال: التلاعب بموجه (Prompt) لإجبار مساعد Google Home على فتح قفل باب ذكي.
- تسريب البيانات الحساسة (Sensitive Data Exfiltration): الثغرات التي تسمح بتسريب بيانات المستخدم الشخصية أو السرية دون موافقته. مثال: توجيه الذكاء الاصطناعي ليلخّص رسائل البريد الإلكتروني الخاصة بالضحية ويرسل الملخص إلى طرف خارجي.
- تمكين التصيد الاحتيالي (Phishing Enablement): الثغرات التي تتيح إدخال محتوى HTML ضار أو حقن أوامر ضارة عبر المستخدمين.
- سرقة النموذج (Model Theft): الثغرات التي تمكن من سرقة بارامترات النموذج (Model Parameters) أو استخلاصها.
تم تقسيم منتجات “جوجل” ضمن البرنامج إلى فئات (Flagship, Standard, Other)، حيث تقدم المنتجات الرائدة (مثل تطبيقات Gemini و Google Search و Gmail) أعلى المكافآت الأساسية التي تصل إلى 20,000 دولار للاستغلالات من نوع “الأفعال المارقة”. ومع احتساب المكافآت الإضافية لجودة التقرير وحداثة الاكتشاف، يمكن أن يصل إجمالي الدفع على الثغرة الواحدة إلى 30,000 دولار.
تجدر الإشارة إلى أن شركة جوجل أكدت أن المشكلات المتعلقة بالمحتوى، مثل الهلوسات (Hallucinations) أو التوليد غير الدقيق أو خطاب الكراهية، تظل خارج نطاق برنامج المكافآت. وبدلاً من ذلك، يجب الإبلاغ عنها عبر أدوات الملاحظات داخل المنتج، كونها تتطلب تدريباً وإعادة بناء للنماذج بدلاً من حلول أمنية تقليدية.
بالتزامن مع إطلاق البرنامج، أعلنت شركة جوجل أيضاً عن أداة الذكاء الاصطناعي الخاصة بها المسماة CodeMender، وهي وكيل ذكاء اصطناعي مصمم للكشف التلقائي عن الثغرات الأمنية في البرمجيات مفتوحة المصدر وإصلاحها، مما يؤكد أن الذكاء الاصطناعي يلعب دوراً مزدوجاً كدرع وسيف في آن واحد.
لا يسمح بنقل هذا المحتوى من سوالف دون الاشارة برابط مباشر
