حذرت شركة 'أنثروبيك' المطورة لأداة الذكاء الاصطناعي 'كلود'، من أن أنظمة الذكاء الاصطناعي قد تصل إلى مرحلة تتمكن فيها من تطوير وتحسين نفسها دون تدخل بشري، داعية إلى دراسة خيارات إبطاء وتيرة تطوير هذه التقنيات أو تعليقها مؤقتا.

وقالت الشركة، في تدوينة بعنوان 'عندما يبني الذكاء الاصطناعي نفسه' كتبها المؤسس المشارك جاك كلارك، ورئيسة معهد 'أنثروبيك' مارينا فافارو، إن أنظمة الذكاء الاصطناعي أصبحت تؤدي بصورة متزايدة مهام تطوير البرمجيات والبحث العلمي التي كان ينفذها البشر سابقا.

وأضافت أن جزءا كبيرا من عمليات تطوير الذكاء الاصطناعي داخل الشركة يُسند تدريجيا إلى أنظمة الذكاء الاصطناعي نفسها، ما يسهم في تسريع وتيرة التطوير.

وأشارت التدوينة إلى أن استمرار هذا التوجه قد يفضي إلى وصول الأنظمة مستقبلا إلى مستوى يمكنها من تصميم وتطوير أجيال جديدة من الأنظمة بنفسها، وهو ما يُعرف بمفهوم 'التطوير الذاتي التكراري' (Recursive Self-Improvement).

ونقلت التدوينة عن الكاتبين قولهما: 'لسنا عند هذه المرحلة بعد، كما أن التطوير الذاتي التكراري ليس أمرا حتميا، لكنه قد يحدث في وقت أبكر مما تستعد له معظم المؤسسات'.

وذكرت 'أنثروبيك' أن المؤشرات التقنية الحالية تظهر أن أنظمة الذكاء الاصطناعي ستصبح أكثر قدرة خلال السنوات المقبلة، لافتة إلى أن الأنظمة القادرة على بناء نفسها قد توفر فوائد كبيرة في مجالات مثل العلوم والرعاية الصحية.

في المقابل، حذرت الشركة من أن هذا التطور قد يزيد مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي، مضيفة أن امتلاك الأنظمة القدرة على بناء خلفائها بشكل كامل يجعل آليات التأمين والمراقبة وتوجيه السلوك أكثر أهمية.

وأكدت التدوينة أن من المفيد دراسة خيار إبطاء تطوير أنظمة الذكاء الاصطناعي المتقدمة أو تعليق هذا التطوير مؤقتا، بما يتيح للمجتمعات والمؤسسات التكيف مع وتيرة التقدم التقني، مشيرة إلى أن تحقيق ذلك سيكون أكثر جدوى إذا تم من قبل عدة مختبرات ودول في الوقت نفسه.