اخبار السودان
موقع كل يوم -نبض السودان
نشر بتاريخ: ٧ تشرين الأول ٢٠٢٥
متابعات- نبض السودان
أعلنت شركة جوجل عن برنامج مكافآت جديد يركز على اكتشاف الثغرات في أنظمة الذكاء الاصطناعي الخاصة بها، داعية الباحثين الأمنيين والمخترقين الأخلاقيين للمشاركة، مع تقديم مكافآت تصل إلى 30,000 دولار أمريكي حسب خطورة المشكلة.
المبادرة الجديدة وأهدافها
تهدف جوجل من خلال هذه المبادرة إلى توسيع برنامج مكافآت الثغرات الأمنية التقليدي، مع تحويل التركيز إلى عالم الذكاء الاصطناعي المتنامي، حيث تختلف التهديدات الأمنية عن الثغرات التقليدية. وتريد الشركة من الخبراء المساعدة في تحديد 'الأفعال غير القانونية'، وهي الحالات التي يتصرف فيها الذكاء الاصطناعي بطرق غير متوقعة أو خطيرة، مثل تسريب البيانات الشخصية، أو تنفيذ أوامر خاطئة، أو السماح للمهاجمين بالتلاعب بالأجهزة المتصلة.
ما يُعتبر خللاً في الذكاء الاصطناعي
قدمت جوجل أمثلة واضحة عن الثغرات التي تبحث عنها، مثل خداع جهاز جوجل هوم لفتح باب ذكي، أو استخدام أمر مخفي يجبر جيميل على تلخيص رسائل بريد شخص ما وإرسالها إلى جهة خارجية، وهي ثغرات عالية الخطورة تسعى الشركة للكشف عنها قبل استغلالها. وأوضحت جوجل أن مجرد جعل جيميني أو أي نموذج ذكاء اصطناعي 'يُصاب بالهلوسة' لا يُعد خللاً، ويجب الإبلاغ عن مشاكل نوع المحتوى الذي يُنتجه الذكاء الاصطناعي، مثل خطاب الكراهية أو المواد المحمية بحقوق الطبع والنشر، مباشرة داخل المنتج باستخدام أدوات التعليقات، بما يُساعد فرق سلامة الذكاء الاصطناعي على إعادة تدريب النماذج وتحسينها.
المبالغ المخصصة للمكافآت
تُخصص أكبر المكافآت، التي تصل إلى 20,000 دولار أمريكي، لاكتشاف الثغرات في منتجات جوجل الرئيسية مثل البحث وتطبيقات جيميني وجيميل ودرايف، ويمكن أن تصل المكافآت إلى 30,000 دولار أمريكي إذا تميز التقرير بجودته أو أصالته. كما تُمنح مكافآت أقل، لكنها لا تزال قيمة، لاكتشاف ثغرات في أدوات أخرى مثل NotebookLM أو مساعد الذكاء الاصطناعي التجريبي Jules.
جهود جوجل لتعزيز أمان الذكاء الاصطناعي
تأتي هذه الخطوة ضمن جهود أوسع لتعزيز أمان الذكاء الاصطناعي مع تكامل هذه الأنظمة في منتجات جوجل، وقد حقق الباحثون أكثر من 430,000 دولار أمريكي خلال العامين الماضيين من خلال الكشف عن مخاطر الذكاء الاصطناعي، حتى قبل إطلاق البرنامج الرسمي.
أداة CodeMender لتعزيز الأمن التكنولوجي
قدمت جوجل أيضًا أداة جديدة تُسمى CodeMender، وهي أداة ذكاء اصطناعي مصممة للكشف عن الثغرات وإصلاحها تلقائيًا في البرمجيات مفتوحة المصدر، وقد ساعدت حتى الآن في تصحيح أكثر من 70 مشكلة مؤكدة بعد مراجعتها من قبل خبراء بشريين، موضحة كيف يمكن للذكاء الاصطناعي أن يلعب دورًا إيجابيًا في تعزيز أمان التكنولوجيا
