اخبار اليمن
موقع كل يوم -المشهد اليمني
نشر بتاريخ: ٧ تشرين الأول ٢٠٢٥
في خطوة جديدة تؤكد التزامها بتأمين تقنيات الذكاء الاصطناعي، أعلنت شركة جوجل عن برنامج مكافآت جديد يركز بالكامل على اكتشاف ثغرات الذكاء الاصطناعي، موجه إلى الباحثين الأمنيين والمخترقين الأخلاقيين حول العالم، ويقدم البرنامج مكافآت مالية تصل إلى 30,000 دولار أمريكي، حسب مستوى الخطورة والأصالة في التقارير المقدّمة.
توسيع نطاق مكافآت الثغرات ليشمل تقنيات الذكاء الاصطناعي
77.235.62.132
يمثل البرنامج الجديد توسعًا طبيعيًا لـ'برنامج جوجل لمكافآت الثغرات الأمنية'، لكنه يوجّه تركيزه نحو تحديات الأمان الفريدة التي تطرحها أنظمة الذكاء الاصطناعي. وتهدف جوجل من خلال هذه المبادرة إلى تحديد ما تسميه 'الأفعال غير القانونية'، أي التصرفات غير المتوقعة أو الخطيرة التي قد تقوم بها نماذج الذكاء الاصطناعي.
أمثلة على هذه الأفعال:
تسريب بيانات حساسة أو شخصية
تنفيذ أوامر غير مقصودة
التفاعل مع الأجهزة الذكية بطرق غير آمنة (مثل فتح باب منزلي عبر أمر صوتي)
إرسال بيانات إلى جهات غير مصرح بها
ما الذي يُعتبر ثغرة في نظام الذكاء الاصطناعي؟
أوضحت جوجل أن الأخطاء العادية مثل 'هلوسات الذكاء الاصطناعي' (hallucinations) ليست كافية لتكون ضمن البرنامج. بدلاً من ذلك، تركز الشركة على الثغرات الأمنية الواقعية التي قد يستخدمها المهاجمون.
على سبيل المثال:
استغلال أدوات مثل Gmail أو Google Home بطريقة ضارة
إجبار نموذج ذكاء اصطناعي على اتخاذ قرار خطير أو انتهاك خصوصية المستخدم
وفي المقابل، يتم الإبلاغ عن مشكلات المحتوى غير المناسب (مثل خطاب الكراهية أو انتهاك حقوق النشر) عبر أدوات التبليغ داخل المنتجات، حيث يتم التعامل معها من قبل فرق السلامة في جوجل.
المكافآت: حتى 30,000 دولار لكل اكتشاف مهم
تبدأ المكافآت من مبالغ رمزية للمشكلات الصغيرة، وقد تصل إلى 20,000 دولار أمريكي مقابل الثغرات المؤثرة في خدمات رئيسية مثل:
Google Search
Gemini (جيميني)
Gmail
Google Drive
أما التقارير ذات الجودة العالية أو الأفكار الأصلية فقد تحصل على مكافآت تصل إلى 30,000 دولار، بينما تقدم جوائز أقل قيمة لاكتشافات في أدوات مثل:
NotebookLM
مساعد الذكاء الاصطناعي التجريبي Jules
الذكاء الاصطناعي يعزز الأمان أيضًا: أداة CodeMender
إلى جانب برنامج المكافآت، كشفت جوجل عن أداة جديدة باسم CodeMender، وهي أداة ذكاء اصطناعي متخصصة في الكشف عن الثغرات الأمنية وإصلاحها تلقائيًا في الأكواد مفتوحة المصدر. حتى الآن، ساعدت الأداة في إصلاح أكثر من 70 ثغرة تم التحقق منها من قبل خبراء بشريين.
تؤمن جوجل أن أدوات مثل CodeMender تُظهر أن الذكاء الاصطناعي يمكن أن يكون حليفًا قويًا في تأمين البرمجيات وليس فقط تهديدًا يجب الحذر منه.
خطوة نحو ذكاء اصطناعي أكثر أمانًا
هذا البرنامج يُعدّ جزءًا من جهود جوجل المستمرة لدمج الأمان في صميم تطوير تقنيات الذكاء الاصطناعي، خصوصًا مع دخولها في كل منتج من منتجات الشركة،ومع مشاركة الباحثين من جميع أنحاء العالم، تأمل جوجل في بناء أنظمة ذكاء اصطناعي أكثر أمانًا وموثوقية للمستقبل.
