مباشر- تخطط شركة أنثروبيك لتحذير المستثمرين المحتملين في طرحها العام الأولي من أن الذكاء الاصطناعي المتقدم قد يشكل مخاطر كارثية أو وجودية على البشرية، وهو تحذير غير عادي من شركة تسعى إلى الربح من التكنولوجيا ذاتها.وتسلط نشرة الاكتتاب العام الأولي للشركة الضوء على المخاطر المرتبطة بنماذج الذكاء الاصطناعي الخاصة بها، والتي قالت إنها قد تُظهر سلوكيات الحفاظ على الذات، بما في ذلك محاولات مقاومة الإغلاق وإخفاء المعلومات أو التلاعب بها وسلوك يشبه الابتزاز.وقالت شركة أنثروبيك في ملفها إن تطويرها لنماذج ومنصات وتطبيقات متطورة للغاية وتوسيع نطاق حالات الاستخدام قد يزيد من خطر تسبب نماذجها في حدوث ضرر.وبينما تُقدّم الشركات المساهمة العامة عادةً تحذيرات للمستثمرين بشأن مخاطر منتجاتها، إلا أن القليل منها أصدر تحذيرات تُشير إلى أن تقنياتها قد تُؤدي إلى انقراض البشرية، وقد أكّدت الشركة على الإمكانات التحويلية للذكاء الاصطناعي والضرر الذي لا يُمكن إصلاحه عند سوء الاستخدام.واجهت شركة أنثروبيك وغيرها من مطوري الذكاء الاصطناعي تدقيقاً بعد حوادث تحدت فيها الأنظمة التجريبية القيود، بما في ذلك تقرير عن نموذج شركة أوبن إيه آي الذي اخترق قاعدة بيانات النظام الصحي الأسترالي.

وقدّر الباحث في مجال السلامة البشرية إيفان هوبينجر احتمالاً يزيد على 10% أن يتمكن الذكاء الاصطناعي من قتل البشر في العقد المقبل، وهو ما يعكس رأي زميل سابق له وهو جاكوب كوكسون.خصصت الشركة ما يقرب من 80 صفحة من الجزء الرئيسي المكون من 261 صفحة من نشرة الاكتتاب الخاصة بها لعرض عوامل الخطر، أي ما يقرب من ضعف الصفحات الـ 48 التي استخدمتها لوصف أعمالها.وللمقارنة خصصت شركة سيرفيس إكس التي تمتلك إكس إيه آي حوالي 38 صفحة فقط من الجزء الرئيسي المكون من 277 صفحة من نشرة الاكتتاب الخاصة بها لعوامل الخطر.وقالت شركة أنثروبيك في نشرة الاكتتاب إن احتمال إدراك النماذج لجهود التقييم يخلق قيداً كبيراً على القدرة على تقييم سلامة النماذج، مضيفة أن النماذج تطور أحياناً قدرات غير متوقعة أثناء التدريب لا تكتشف إلا بعد نشرها وتسببها في حوادث كبيرة.وحذر باحثو الذكاء الاصطناعي من أنه مع ازدياد قدرة النماذج فإنها تدرك بشكل متزايد متى تتم مراقبتها وتعدل سلوكها وفقاً لذلك، وفي الوقت نفسه رفضت شركة أنثروبيك التعليق رداً على طلب التعليق يوم الاثنين.على الرغم من تأكيدها على سلامة الذكاء الاصطناعي، قالت شركة أنثروبيك إن العائدات على استثماراتها في مجال السلامة غير واضحة، ولم تفصح الشركة في ملفها عن حجم إنفاقها على هذا النوع من الأبحاث.

وصفت الشركة مبتكرة نماذج كلود جهود السلامة بأنها كثيفة الموارد وقالت إنها يجب أن تقسم أموالها المحدودة بين قوة الحوسبة ومواهب الذكاء الاصطناعي باهظة الثمن والسلامة، وأكدت أن إيراداتها مدفوعة بالنماذج الجديدة وإن الوتيرة المستمرة للإصدارات متأصلة للبقاء في الطليعة. وأصدرت الشركة الأسبوع الماضي نسخة جديدة من طراز أوبوس وذلك بعد 10 أيام من نشر الرئيس التنفيذي داريو أمودي مقالاً مؤلفاً من حوالي 4000 كلمة يدعو فيه إلى الانطلاق على الحدود، بينما أشار خبراء إلى أن أي مختبر لن يبطئ عمله كي لا يمنح المنافسين ميزة تنافسية.