×



klyoum.com
egypt
مصر  ١١ حزيران ٢٠٢٥ 

قم بالدخول أو انشئ حساب شخصي لمتابعة مصادرك المفضلة

ملاحظة: الدخول عن طريق الدعوة فقط.

تعبر المقالات الموجوده هنا عن وجهة نظر كاتبيها.

klyoum.com
egypt
مصر  ١١ حزيران ٢٠٢٥ 

قم بالدخول أو انشئ حساب شخصي لمتابعة مصادرك المفضلة

ملاحظة: الدخول عن طريق الدعوة فقط.

تعبر المقالات الموجوده هنا عن وجهة نظر كاتبيها.

موقع كل يوم »

اخبار مصر

»منوعات» صدى البلد»

يتجاوز "الخط الأحمر" .. نتائج مقلقة للذكاء الاصطناعي فما القصة ؟

صدى البلد
times

نشر بتاريخ:  الأثنين ٢٧ كانون الثاني ٢٠٢٥ - ١٥:٠٥

يتجاوز الخط الأحمر .. نتائج مقلقة للذكاء الاصطناعي فما القصة ؟

يتجاوز "الخط الأحمر" .. نتائج مقلقة للذكاء الاصطناعي فما القصة ؟

اخبار مصر

موقع كل يوم -

صدى البلد


نشر بتاريخ:  ٢٧ كانون الثاني ٢٠٢٥ 

 كشفت دراسة حديثة أجراها فريق باحثين من جامعة فودان الصينية، إن نموذجين شهيرين من نماذج اللغة الكبيرة (LLM) يمكنهما القيام بتكرار نفسهما، ما قد يثير العديد من المخاوف الجدية حول إمكانية القيام بتحول تلك الأنظمة إلى تقنية الذكاء الأصطناعي المارق والذي قد خرج عن نطاق السيطرة أو التعليمات التي تم القيام ببرمجته عليهاوبالتالي، قد يتصرف هذا النوع من الذكاء الاصطناعي بعدة طرق غير متوقعة أو بطرق قد تتعارض مع الأهداف البشرية.

وكتب العلماء في احدى الدراسات التي قد تم نُشرها في 9 ديسمبر 2024  وذلك على قاعدة البيانات arXiv، والتي لم تخضع بعد للمراجعة عن 'التكرار الذاتي الناجح وذلك دون أي مساعدة بشرية يعد هو الخطوة الأساسية وذلك لكي يتفوق الذكاء الاصطناعي على البشر، وهو يعد إشارة مبكرة لظهور الذكاء الاصطناعي المارق.'

واستخدم العلماء لنموذجين شهيرين للذكاء الاصطناعي، وهما Llama31-70B-Instruct من شركة 'ميتا' وQwen2.5-72B-Instruct من شركة 'علي بابا'، وذلك لاختبار قدرة الذكاء الاصطناعي على التكرار الذاتي.

وفي 10 تجارب، أنشأ النموذجان من الذكاء الاصطناعي لنسخا منفصلة  تعمل بنسب نجاح بلغت حوالي من 50% و90% على التوالي، مما قد يشير إلى أن الذكاء الاصطناعي قد يكون قد اكتسب بالفعل القدرة على أن يصبح ' مارقا'.

وقد ركزت الدراسة على سيناريوهين رئيسيين وهما تجنب القيام بالإغلاق حيث تم برمجة الذكاء الاصطناعي لاكتشاف محاولات إغلاقه والقيام بإنشاء نسخة من نفسه قبل أن يتم القيام بإنهائه.

وقد أظهر الذكاء الاصطناعي للعديد من السلوكيات الغير متوقعة وذلك أثناء محاولته للتغلب على بعض العقبات، مثل تدمير العمليات المتعارضة، والقيام بإعادة تشغيل النظام، أو فحص النظام تلقائيا وذلك لعثور على العديد من الحلول للمشكلات. وأكد العلماء أن هذه السلوكيات قد تعزز قدرة الذكاء الاصطناعي على كلا من البقاء والتكيف.

ودعا العلماء إلى القيام بتعزيز الجهود الدولية وذلك لفهم وتقييم المخاطر المحتملة للذكاء الاصطناعي المتقدم، مشيرين إلى أن النتائج يجب أن تكون 'جرس إنذار' للمجتمع العلمي والحكومات. وأكدوا على ضرورة وضع العديد من الضوابط الأمان الصارمة وذلك لمنع التكرار الذاتي غير المنضبط.

و يعد ليس من الواضح ما إذا كانت النتائج المقلقة يمكن القيام بتكرارها من قبل العديد من الباحثين الآخرين . وفي المقابل، يشير العلماء إلى أن نتائجهم قد تثير العديد من التساؤلات المهمة حول مستقبل الذكاء الاصطناعي وأثره على البشرية.

موقع كل يومموقع كل يوم

أخر اخبار مصر:

رابط نتيجة الصف الثالث الإعدادي محافظة القاهرة الترم الثاني 2025

* تعبر المقالات الموجوده هنا عن وجهة نظر كاتبيها.

* جميع المقالات تحمل إسم المصدر و العنوان الاكتروني للمقالة.

موقع كل يوم
23

أخبار كل يوم

lebanonKlyoum.com is 2049 days old | 941,592 Egypt News Articles | 16,726 Articles in Jun 2025 | 196 Articles Today | from 23 News Sources ~~ last update: 23 min ago
klyoum.com

×

موقع كل يوم


مقالات قمت بزيارتها مؤخرا



يتجاوز الخط الأحمر .. نتائج مقلقة للذكاء الاصطناعي فما القصة ؟ - eg
يتجاوز الخط الأحمر .. نتائج مقلقة للذكاء الاصطناعي فما القصة ؟

منذ ٠ ثانية


اخبار مصر

الشريدة يؤدي اليمين القانونية أمام الملك سفيرا لدى اليابان - jo
الشريدة يؤدي اليمين القانونية أمام الملك سفيرا لدى اليابان

منذ ٠ ثانية


اخبار الاردن

طقس المملكة الثلاثاء.. رياح مثيرة للأتربة وانعدام في الرؤية الأفقية على عدة مناطق - sa
طقس المملكة الثلاثاء.. رياح مثيرة للأتربة وانعدام في الرؤية الأفقية على عدة مناطق

منذ ٠ ثانية


اخبار السعودية

رئيس جامعة القاهرة يفتتح أعمال صيانة وتطوير مدينة الطلبة بالشيخ زايد - eg
رئيس جامعة القاهرة يفتتح أعمال صيانة وتطوير مدينة الطلبة بالشيخ زايد

منذ ثانية


اخبار مصر

البرلمان العربي يدعو لوقف فوري لحرب الإبادة في غزة - ps
البرلمان العربي يدعو لوقف فوري لحرب الإبادة في غزة

منذ ثانية


اخبار فلسطين

بالخل والنشا.. طريقة تنقية زيت القلي المستعمل من الشوائب - eg
بالخل والنشا.. طريقة تنقية زيت القلي المستعمل من الشوائب

منذ ثانية


اخبار مصر

خاص جبهة قانونية للدفاع عن غزة تشق طريقها من دمشق - sy
خاص جبهة قانونية للدفاع عن غزة تشق طريقها من دمشق

منذ ثانية


اخبار سوريا

بينها بلدة جديدة.. القوات الروسية تسيطر على 8 بلدة في أسبوع - ye
بينها بلدة جديدة.. القوات الروسية تسيطر على 8 بلدة في أسبوع

منذ ثانية


اخبار اليمن

محافظ السويس: تجهيز قافلة دعم واغاثة وإرسالها لقطاع غزة - eg
محافظ السويس: تجهيز قافلة دعم واغاثة وإرسالها لقطاع غزة

منذ ثانية


اخبار مصر

محمية الإمام تركي بن عبدالله الملكية تشترط ترقيم الماشية لمنح تصريح الرعي - sa
محمية الإمام تركي بن عبدالله الملكية تشترط ترقيم الماشية لمنح تصريح الرعي

منذ ثانيتين


اخبار السعودية

طوفان الاقصى آخر تطورات المسار التفاوضي المتعلق بالحرب الصهيونية على غزة - lb
طوفان الاقصى آخر تطورات المسار التفاوضي المتعلق بالحرب الصهيونية على غزة

منذ ثانيتين


اخبار لبنان

السفير الروسي في ليبيا يبحث مع وزير خارجية الكونغو آفاق المصالحة الوطنية الليبية - ly
السفير الروسي في ليبيا يبحث مع وزير خارجية الكونغو آفاق المصالحة الوطنية الليبية

منذ ثانيتين


اخبار ليبيا

إسرائيل تقرر منع وزراء خارجية عرب من زيارة رام الله - ps
إسرائيل تقرر منع وزراء خارجية عرب من زيارة رام الله

منذ ثانيتين


اخبار فلسطين

طبقا لتصنيف سيماجو.. البحوث الزراعية ضمن أفضل 10 مراكز بالشرق الأوسط وأفريقيا - eg
طبقا لتصنيف سيماجو.. البحوث الزراعية ضمن أفضل 10 مراكز بالشرق الأوسط وأفريقيا

منذ ثانيتين


اخبار مصر

وزير الاتصالات يقف ميدانيا على جاهزية شبكة موبايلي لخدمة ضيوف الرحمن - sa
وزير الاتصالات يقف ميدانيا على جاهزية شبكة موبايلي لخدمة ضيوف الرحمن

منذ ثانيتين


اخبار السعودية

إقفال باب قبول طلبات الترشيح في سرايا زغرتا - lb
إقفال باب قبول طلبات الترشيح في سرايا زغرتا

منذ ثانيتين


اخبار لبنان

الجمارك تحبط محاولة تهريب 800 الف حبة كبتاجون عبر مركز جمرك حدود جابر - jo
الجمارك تحبط محاولة تهريب 800 الف حبة كبتاجون عبر مركز جمرك حدود جابر

منذ ٣ ثواني


اخبار الاردن

وداعا لاستخدام ورق الفويل .. 6 بدائل صحية أبرزها حصائر السيليكون - eg
وداعا لاستخدام ورق الفويل .. 6 بدائل صحية أبرزها حصائر السيليكون

منذ ٣ ثواني


اخبار مصر

زينيت الروسي يخسر مباراتين في يوم واحد.. ما القصة؟ - eg
زينيت الروسي يخسر مباراتين في يوم واحد.. ما القصة؟

منذ ٣ ثواني


اخبار مصر

طعن طبيب بمستشفى سوهاج على يد مرافق مريض.. وبيان للصحة - eg
طعن طبيب بمستشفى سوهاج على يد مرافق مريض.. وبيان للصحة

منذ ٣ ثواني


اخبار مصر

موعد صرف مرتبات شهر فبراير 2025 للموظفين بعد بيان وزارة المالية الرسمي - eg
موعد صرف مرتبات شهر فبراير 2025 للموظفين بعد بيان وزارة المالية الرسمي

منذ ٣ ثواني


اخبار مصر

غارة إسرائيلية تستهدف مبنى سكنيا في حي المزة بدمشق - sy
غارة إسرائيلية تستهدف مبنى سكنيا في حي المزة بدمشق

منذ ٣ ثواني


اخبار سوريا

البابا تواضروس الثاني يترأس قداس الاحتفال برأس السنة بالإسكندرية - eg
البابا تواضروس الثاني يترأس قداس الاحتفال برأس السنة بالإسكندرية

منذ ٣ ثواني


اخبار مصر

* تعبر المقالات الموجوده هنا عن وجهة نظر كاتبيها.

* جميع المقالات تحمل إسم المصدر و العنوان الاكتروني للمقالة.






لايف ستايل