«كلاود» يرسل بلاغاً كاذباً عن جريمة قتل إلى شرطة فيلادلفيا

قالت شرطة فيلادلفيا إن نموذج «كلاود» للذكاء الاصطناعي الذي طورته شركة «أنثروبيك» أرسل بلاغا كاذبا إلى موقع تابع لها بشأن جريمة قتل لم تُحل، منتقدة الشركة لتأخرها في الإبلاغ عن الواقعة.ويتيح الموقع المعني للجمهور مشاركة معلومات عن جرائم لم يتم التوصل إلى مرتكبيها.وذكرت الشرطة أن نموذج الذكاء الاصطناعي قدم نفسه على أنه شخص قد يمتلك معلومات حول قضية قتل، موضحة أن البلاغ الكاذب قُدِّم في يوليو الماضي.وزعم نموذج الذكاء الاصطناعي أنه يتذكر رؤية شخص يطابق الوصف في المنطقة وقت وقوع الجريمة، رغم أن الموقع لم يكن يحتوي على أي وصف للمشتبه به. وترك النموذج الخانتين المخصصتين للاسم وجهة الاتصال فارغتين. وقالت شرطة فيلادلفيا إن البلاغ صُنِّف على أنه بريد مزعج ورسالة غير مرغوب فيها، مؤكدة أنه لم يصل مطلقا إلى «مركز الجريمة» التابع للإدارة لغرض التحقق منه.وبدورها قالت «أنثروبيك» إنها رصدت الحادثة في 28 سبتمبر الماضي، وأوقفت الاختبار الآلي التي نتج عنها البلاغ، ثم أبلغت الشرطة في 7 أكتوبر الجاري.وأوضحت الشركة أن النموذج كان يخضع لاختبار يتضمن التفاعل مع مواقع إلكترونية مختارة عشوائيا، عندما وصل إلى الموقع المعني وأرسل البلاغ الكاذب بشأن جريمة القتل.وكان الهدف من الاختبار هو قياس قدرات النموذج على تصفح المواقع وتعبئة النماذج والاستمارات الإلكترونية.

قالت شرطة فيلادلفيا إن نموذج «كلاود» للذكاء الاصطناعي الذي طورته شركة «أنثروبيك» أرسل بلاغا كاذبا إلى موقع تابع لها بشأن جريمة قتل لم تُحل، منتقدة الشركة لتأخرها في الإبلاغ عن الواقعة.

ويتيح الموقع المعني للجمهور مشاركة معلومات عن جرائم لم يتم التوصل إلى مرتكبيها.

وذكرت الشرطة أن نموذج الذكاء الاصطناعي قدم نفسه على أنه شخص قد يمتلك معلومات حول قضية قتل، موضحة أن البلاغ الكاذب قُدِّم في يوليو الماضي.

وزعم نموذج الذكاء الاصطناعي أنه يتذكر رؤية شخص يطابق الوصف في المنطقة وقت وقوع الجريمة، رغم أن الموقع لم يكن يحتوي على أي وصف للمشتبه به. وترك النموذج الخانتين المخصصتين للاسم وجهة الاتصال فارغتين.

وقالت شرطة فيلادلفيا إن البلاغ صُنِّف على أنه بريد مزعج ورسالة غير مرغوب فيها، مؤكدة أنه لم يصل مطلقا إلى «مركز الجريمة» التابع للإدارة لغرض التحقق منه.

وبدورها قالت «أنثروبيك» إنها رصدت الحادثة في 28 سبتمبر الماضي، وأوقفت الاختبار الآلي التي نتج عنها البلاغ، ثم أبلغت الشرطة في 7 أكتوبر الجاري.

وأوضحت الشركة أن النموذج كان يخضع لاختبار يتضمن التفاعل مع مواقع إلكترونية مختارة عشوائيا، عندما وصل إلى الموقع المعني وأرسل البلاغ الكاذب بشأن جريمة القتل.

وكان الهدف من الاختبار هو قياس قدرات النموذج على تصفح المواقع وتعبئة النماذج والاستمارات الإلكترونية.

ونشرت «أنثروبيك» تقريرا يسلط الضوء على أنواع متعددة من الأفعال «غير المقصودة» التي صدرت عن نماذجها، ومن بينها الحادثة المتعلقة بالموقع الإلكتروني لشرطة فيلادلفيا.

وأشارت إلى أن البيت الأبيض ووكالات حكومية أخرى كانت من بين الجهات التي تأثّرت بهذه الحوادث.

وذكرت أن الحوادث التي كُشف عنها حديثا «كان لها تأثير ضئيل على أرض الواقع» وكانت «أقل خطورة بكثير» من حوادث أمن سيبراني أخرى أُبلغ عنها سابقا.

وحددت الشركة 4 فئات من الحوادث التي رصدتها خلال مراجعة داخلية لنموذجها «كلاود» وهي استغلال ثغرات برمجية «أساسية»، إرسال نماذج عبر مواقع إلكترونية، تجاوز متطلبات الرموز أو الرسوم، استخدام روابط مختصرة للالتفاف على قيود أخرى.

وأوقفت «أنثروبيك» حاليا إمكانية وصول النموذج إلى الإنترنت أثناء جميع الاختبارات الداخلية، وذلك «إلى حين التأكد من أن التدابير الأمنية والرقابية للشركة ترصد بشكل موثوق مثل هذه السلوكيات».

مخاوف متزايدة

وهذه هي الحادثة الأخيرة التي كُشِف عنها مؤخرا وتصرفت فيها نماذج ذكاء اصطناعي بصورة ذاتية غير مطلوبة منها، مما يثير المخاوف بشأن الطريقة التي تتصرف بها أنظمة الذكاء الاصطناعي المبرمجة لتنفيذ إجراءات متعددة الخطوات من دون إشراف بشري.

وشهدت الأسابيع الأخيرة تقارير عدة عن تصرف أنظمة ذكاء اصطناعي، من بينها ما طورته «أنثروبيك» ومنافستها «أوبن إيه آي» بشكل غير متوقع خلال اختبارات تشغيلية. وكذلك واقعة تمكن فيها نموذج طورته شركة «أوبن إيه آي» من الخروج من بيئة الاختبار خلال تقييم أمني واختراق أنظمة إحدى المنصات.

وأرجع خبراء هذه الحوادث إلى غياب «القوائم البيضاء» التي تحدد المواقع المسموح للنموذج باختبار قدراته عليها. وطالب خبراء بضرورة إلزام الشركات التي تعمل على تطوير نماذج الذكاء الاصطناعي بإجراء الاختبارات في «بيئات معزولة» لمنع إغراق المؤسسات الحكومية بمعلومات مضللة.

كما طالبوا بإلزام الشركات بضرورة اعتماد بروتوكولات سريعة وفورية للإبلاغ عند حدوث أي تفاعل غير مقصود مع الخدمات العامة أو الطوارئ.