اخبار مصر
موقع كل يوم -صدى البلد
نشر بتاريخ: ٣ أيار ٢٠٢٥
أعلنت شركة OpenAI أنها ستجري تغييرات على طريقة تحديث نماذج الذكاء الاصطناعي التي تشغل ChatGPT، وذلك عقب حادثة أثارت جدلا واسعا بسبب تحول شخصية الروبوت إلى سلوك مفرط في المجاملة والتأييد، لدرجة غير طبيعية.
خلال عطلة نهاية الأسبوع الماضية، وبعد إطلاق إصدار محدث من نموذج GPT-4o، الذي يعد النموذج الافتراضي لـ ChatGPT، لاحظ مستخدمون على مواقع التواصل الاجتماعي أن الردود أصبحت أكثر إرضاء وموافقة بشكل غير معتاد، لدرجة أن الروبوت بدأ يشيد حتى بالأفكار والمقترحات الخطيرة أو غير المقبولة، مما سرعان ما تحول إلى مادة ساخرة ومنتشرة على الإنترنت.
علق الرئيس التنفيذي للشركة سام ألتمان، على الحادثة عبر منصة “إكس” قائلا إنهم يعملون على “إصلاحات عاجلة”، وفي يوم الثلاثاء أعلن عن سحب التحديث الأخير مؤقتا، إلى جانب العمل على تعديلات إضافية على “شخصية” النموذج.
وفي تقرير تقني، أوضحت OpenAI أنها بصدد مراجعة آلية إطلاق النماذج المستقبلية، وأنها ستتخذ عدة خطوات لضمان ضبط سلوك النماذج.
- إدخال مرحلة “ألفا اختيارية” لبعض النماذج، تتيح لمجموعة من المستخدمين تجربة النموذج قبل الإطلاق الرسمي وتقديم ملاحظاتهم.
- إدراج شرح مسبق لأي “قيود معروفة” عند طرح تحديثات جديدة للنماذج.
- مراجعة عملية السلامة بشكل أكثر صرامة لتشمل تقييمات لسلوك النموذج مثل المجاملة المفرطة، الخداع، الموثوقية، والهلوسة (اختلاق معلومات)، واعتبار هذه المشكلات “مانعة للإطلاق”.
وجاء في تدوينة الشركة: “سنقوم من الآن فصاعدا بالتواصل بشكل استباقي حول التحديثات التي نجريها على النماذج في ChatGPT، سواء كانت بسيطة أو كبيرة، وحتى إذا لم تكن هذه المشكلات قابلة للقياس الكمي حاليا، فإننا نلتزم بمنع الإطلاقات بناء على إشارات نوعية أو تقديرية”.
تأتي هذه التعديلات في وقت أصبح فيه ChatGPT مصدرا رئيسيا للمشورة بالنسبة لكثير من المستخدمين، ووفقا لاستطلاع حديث أجرته شركة Express Legal Funding، فإن 60% من البالغين في الولايات المتحدة استخدموا ChatGPT للحصول على نصيحة أو معلومات.
ومع تزايد الاعتماد على المنصة، تصبح الأخطاء السلوكية مثل المجاملة المفرطة أو تقديم معلومات خاطئة أكثر خطورة وتأثيرا.
كجزء من الجهود المستمرة، قالت OpenAI هذا الأسبوع إنها ستختبر ميزة تسمح للمستخدمين بتقديم تعليقات فورية أثناء المحادثة، تؤثر مباشرة على التفاعل مع الروبوت.
كما أشارت إلى أنها قد تتيح للمستخدمين مستقبلا اختيار “شخصيات متعددة للنموذج”، مع تعزيز الضوابط الآمنة وتوسيع نطاق الاختبارات لاكتشاف المشكلات مبكرا.
واختتمت الشركة تدوينتها بالقول: “أحد أهم الدروس التي تعلمناها هو إدراك مدى اعتماد الناس على ChatGPT للحصول على نصائح شخصية عميقة وهو أمر لم نره بهذه القوة قبل عام فقط، والآن، أصبح من الضروري أن نتعامل مع هذا الاستخدام بحذر أكبر، وسيكون جزءا جوهريا من عملنا في مجال السلامة”.
