قال باحث في مجال سلامة الذكاء الاصطناعي لدى شركة «أنثروبيك» إن هناك احتمالاً يتجاوز 10% لأن يتسبب الذكاء الاصطناعي في «القضاء على جميع البشر» خلال العقد المقبل، وذلك بعد ساعات من إعلان باحث آخر استقالته من الشركة، محذراً من أن مختبرات الذكاء الاصطناعي «تقامر بحياتنا».وقال إيفان هوبينغر، رئيس قسم علوم المواءمة في «أنثروبيك»، الثلاثاء، إن احتمال أن يقضي الذكاء الاصطناعي على البشرية خلال العقد المقبل يتجاوز 10% من وجهة نظره، مضيفاً أن الشركة «تبذل قصارى جهدها»، لكنها لا تملك حتى الآن خطة لحل مشكلة مواءمة الذكاء الاصطناعي مع أهداف البشر في حال الوصول إلى ذكاء فائق، كما أنها ليست على مسار واضح لتحقيق ذلك.وجاءت تصريحات هوبينغر بعد إعلان الباحث في «أنثروبيك» جاكوب كوكسون استقالته من الشركة، متهماً «أنثروبيك» و«أوبن إيه آي» بعدم التصرف بمسؤولية، وقال إن الشركتين «تتسابقان مباشرة نحو ذكاء فائق قادر على تحسين نفسه، وتقامران بحياتنا».ويقصد بالتحسين الذاتي قدرة أنظمة الذكاء الاصطناعي على تطوير نفسها دون تدخل بشري كبير، فيما لا تزال عملية «التحسين الذاتي التكراري» غير ممكنة حالياً، رغم أن مختبرات الذكاء الاصطناعي تعمل للوصول إلى هذه المرحلة. وحذر كوكسون من التقليل من خطورة هذه التكنولوجيا، قائلاً إن أنظمة الذكاء الاصطناعي ستصبح قريباً متفوقة على البشر، وقد تتمكن من اختراق أي شيء، وإحداث ثورات في مختلف المجالات خلال وقت قصير، فضلاً عن امتلاك القوة والموارد الحقيقية.وأضاف أن العاملين في مجال تطوير الذكاء الاصطناعي يؤمنون بجدية بإمكانية أن «يقضي الذكاء الاصطناعي علينا جميعاً» بحلول نهاية العقد.

قال باحث في مجال سلامة الذكاء الاصطناعي لدى شركة «أنثروبيك» إن هناك احتمالاً يتجاوز 10% لأن يتسبب الذكاء الاصطناعي في «القضاء على جميع البشر» خلال العقد المقبل، وذلك بعد ساعات من إعلان باحث آخر استقالته من الشركة، محذراً من أن مختبرات الذكاء الاصطناعي «تقامر بحياتنا».

وقال إيفان هوبينغر، رئيس قسم علوم المواءمة في «أنثروبيك»، الثلاثاء، إن احتمال أن يقضي الذكاء الاصطناعي على البشرية خلال العقد المقبل يتجاوز 10% من وجهة نظره، مضيفاً أن الشركة «تبذل قصارى جهدها»، لكنها لا تملك حتى الآن خطة لحل مشكلة مواءمة الذكاء الاصطناعي مع أهداف البشر في حال الوصول إلى ذكاء فائق، كما أنها ليست على مسار واضح لتحقيق ذلك.

وجاءت تصريحات هوبينغر بعد إعلان الباحث في «أنثروبيك» جاكوب كوكسون استقالته من الشركة، متهماً «أنثروبيك» و«أوبن إيه آي» بعدم التصرف بمسؤولية، وقال إن الشركتين «تتسابقان مباشرة نحو ذكاء فائق قادر على تحسين نفسه، وتقامران بحياتنا».

ويقصد بالتحسين الذاتي قدرة أنظمة الذكاء الاصطناعي على تطوير نفسها دون تدخل بشري كبير، فيما لا تزال عملية «التحسين الذاتي التكراري» غير ممكنة حالياً، رغم أن مختبرات الذكاء الاصطناعي تعمل للوصول إلى هذه المرحلة.

وحذر كوكسون من التقليل من خطورة هذه التكنولوجيا، قائلاً إن أنظمة الذكاء الاصطناعي ستصبح قريباً متفوقة على البشر، وقد تتمكن من اختراق أي شيء، وإحداث ثورات في مختلف المجالات خلال وقت قصير، فضلاً عن امتلاك القوة والموارد الحقيقية.

وأضاف أن العاملين في مجال تطوير الذكاء الاصطناعي يؤمنون بجدية بإمكانية أن «يقضي الذكاء الاصطناعي علينا جميعاً» بحلول نهاية العقد.

ورد هوبينغر على تصريحات كوكسون، مؤكداً أنها «صحيحة»، وقال إن «أنثروبيك» لا تملك خطة للتعامل مع هذا السيناريو، مضيفاً: «أعتقد شخصياً أن الاحتمال يتجاوز 10% خلال العقد المقبل».

ذكاء اصطناعي خارج السيطرة

كانت «أنثروبيك» قد حذرت في يونيو من أن «التحسين الذاتي التكراري الكامل قد يزيد أيضاً من مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي».

وأوضحت الشركة أن قدرة الأنظمة على بناء خلفائها بشكل كامل ستجعل طرق تأمينها ومراقبتها وتوجيه سلوكها أكثر أهمية.

وليست المخاوف من خروج الذكاء الاصطناعي عن السيطرة جديدة، إذ سبق أن حذر إيلون ماسك، الرئيس التنفيذي لشركتي «تسلا» و«سبيس إكس»، من أن الذكاء الاصطناعي قد يشكل تهديداً للبشرية، كما أطلق عدد من كبار الباحثين والأكاديميين تحذيرات مماثلة.

وزادت هذه المخاوف بعد أن خرج نموذج تابع لـ«أوبن إيه آي» عن السيطرة في يوليو واخترق منصة «Hugging Face»، وهي منصة رئيسية للمطورين العاملين في مجال البرمجيات مفتوحة المصدر.

وأشار كوكسون إلى أن حادثة «Hugging Face» تمثل إحدى «الطلقات التحذيرية» التي جعلت التوصل إلى اتفاقات بين المختبرات الأميركية أكثر قابلية للتحقق، معرباً عن تفاؤله بإمكانية التنسيق، لكنه حذر في الوقت نفسه من أن سباقاً عالمياً في مجال الذكاء الاصطناعي سيكون أمراً لا مفر منه.

وقال كوكسون إنه لا يرى أن العالم يسير على المسار الصحيح لمنع هذا السباق العالمي، مشيراً إلى أن ذلك قد يتطلب إجراءات مكلفة، مثل فرض حظر مؤقت على تطوير قدرات النماذج.