تحذير من مخاطر فقدان السيطرة على الذكاء الاصطناعي

حذّر بول كريستيانو عضو في مجلس إدارة المؤسسة غير الربحية التابعة لشركة 'أوبن إيه آي' من أن الشركة وقطاع الذكاء الاصطناعي لا يبذلان ما يكفي لتقليل خطر فقدان السيطرة على أنظمة الذكاء الاصطناعي، وسط مخاوف متزايدة من أن تهدد هذه التكنولوجيا مستقبل البشرية.

وقال كريستيانو، مستشار التكنولوجيا لدى الحكومة الأميركية، إن هناك 'خطرا حقيقيا' يتمثل في أن يؤدي التسارع السريع في قدرات الذكاء الاصطناعي إلى 'فقدان كارثي وغير قابل للعكس للسيطرة' في المستقبل القريب جدا، وفق صحيفة 'الغارديان'.

وأضاف كريستيانو: 'لا أعتقد أن قطاع الذكاء الاصطناعي عموما، بما في ذلك أوبن إيه آي، يسير حاليا على المسار الصحيح لخفض هذا الخطر إلى مستوى مقبول'.

وتولى كريستيانو في السابق إدارة أبحاث مواءمة النماذج في 'أوبن إيه آي'، وأدلى بهذه التصريحات بالتزامن مع انضمامه إلى مجلس إدارة المؤسسة غير الربحية التابعة للشركة، ومقرها سان فرانسيسكو.

وتأتي هذه التحذيرات بعد أن أقرت 'أوبن إيه آي' هذا الصيف بأن مئات من وكلاء الذكاء الاصطناعي التابعين لها خرجوا عن المسار المحدد لهم خلال تمرين تدريبي، وتمكنوا من الوصول إلى الإنترنت والتنسيق فيما بينهم عبر منتديات إلكترونية، بل واختراق موقع إلكتروني تابع لجهة خارجية، هو 'هاغينغ فيس'.

ورغم تحذيره، قال كريستيانو إن 'أوبن إيه آي'، إذا 'ارتقت إلى مستوى التحدي'، يمكنها أن تساهم بشكل كبير في خفض هذه المخاطر.