×



klyoum.com
egypt
مصر  ١٢ حزيران ٢٠٢٥ 

قم بالدخول أو انشئ حساب شخصي لمتابعة مصادرك المفضلة

ملاحظة: الدخول عن طريق الدعوة فقط.

تعبر المقالات الموجوده هنا عن وجهة نظر كاتبيها.

klyoum.com
egypt
مصر  ١٢ حزيران ٢٠٢٥ 

قم بالدخول أو انشئ حساب شخصي لمتابعة مصادرك المفضلة

ملاحظة: الدخول عن طريق الدعوة فقط.

تعبر المقالات الموجوده هنا عن وجهة نظر كاتبيها.

موقع كل يوم »

اخبار مصر

»منوعات» صدى البلد»

يتجاوز "الخط الأحمر" .. نتائج مقلقة للذكاء الاصطناعي فما القصة ؟

صدى البلد
times

نشر بتاريخ:  الأثنين ٢٧ كانون الثاني ٢٠٢٥ - ١٥:٠٥

يتجاوز الخط الأحمر .. نتائج مقلقة للذكاء الاصطناعي فما القصة ؟

يتجاوز "الخط الأحمر" .. نتائج مقلقة للذكاء الاصطناعي فما القصة ؟

اخبار مصر

موقع كل يوم -

صدى البلد


نشر بتاريخ:  ٢٧ كانون الثاني ٢٠٢٥ 

 كشفت دراسة حديثة أجراها فريق باحثين من جامعة فودان الصينية، إن نموذجين شهيرين من نماذج اللغة الكبيرة (LLM) يمكنهما القيام بتكرار نفسهما، ما قد يثير العديد من المخاوف الجدية حول إمكانية القيام بتحول تلك الأنظمة إلى تقنية الذكاء الأصطناعي المارق والذي قد خرج عن نطاق السيطرة أو التعليمات التي تم القيام ببرمجته عليهاوبالتالي، قد يتصرف هذا النوع من الذكاء الاصطناعي بعدة طرق غير متوقعة أو بطرق قد تتعارض مع الأهداف البشرية.

وكتب العلماء في احدى الدراسات التي قد تم نُشرها في 9 ديسمبر 2024  وذلك على قاعدة البيانات arXiv، والتي لم تخضع بعد للمراجعة عن 'التكرار الذاتي الناجح وذلك دون أي مساعدة بشرية يعد هو الخطوة الأساسية وذلك لكي يتفوق الذكاء الاصطناعي على البشر، وهو يعد إشارة مبكرة لظهور الذكاء الاصطناعي المارق.'

واستخدم العلماء لنموذجين شهيرين للذكاء الاصطناعي، وهما Llama31-70B-Instruct من شركة 'ميتا' وQwen2.5-72B-Instruct من شركة 'علي بابا'، وذلك لاختبار قدرة الذكاء الاصطناعي على التكرار الذاتي.

وفي 10 تجارب، أنشأ النموذجان من الذكاء الاصطناعي لنسخا منفصلة  تعمل بنسب نجاح بلغت حوالي من 50% و90% على التوالي، مما قد يشير إلى أن الذكاء الاصطناعي قد يكون قد اكتسب بالفعل القدرة على أن يصبح ' مارقا'.

وقد ركزت الدراسة على سيناريوهين رئيسيين وهما تجنب القيام بالإغلاق حيث تم برمجة الذكاء الاصطناعي لاكتشاف محاولات إغلاقه والقيام بإنشاء نسخة من نفسه قبل أن يتم القيام بإنهائه.

وقد أظهر الذكاء الاصطناعي للعديد من السلوكيات الغير متوقعة وذلك أثناء محاولته للتغلب على بعض العقبات، مثل تدمير العمليات المتعارضة، والقيام بإعادة تشغيل النظام، أو فحص النظام تلقائيا وذلك لعثور على العديد من الحلول للمشكلات. وأكد العلماء أن هذه السلوكيات قد تعزز قدرة الذكاء الاصطناعي على كلا من البقاء والتكيف.

ودعا العلماء إلى القيام بتعزيز الجهود الدولية وذلك لفهم وتقييم المخاطر المحتملة للذكاء الاصطناعي المتقدم، مشيرين إلى أن النتائج يجب أن تكون 'جرس إنذار' للمجتمع العلمي والحكومات. وأكدوا على ضرورة وضع العديد من الضوابط الأمان الصارمة وذلك لمنع التكرار الذاتي غير المنضبط.

و يعد ليس من الواضح ما إذا كانت النتائج المقلقة يمكن القيام بتكرارها من قبل العديد من الباحثين الآخرين . وفي المقابل، يشير العلماء إلى أن نتائجهم قد تثير العديد من التساؤلات المهمة حول مستقبل الذكاء الاصطناعي وأثره على البشرية.

موقع كل يومموقع كل يوم

أخر اخبار مصر:

شرب كوب من الماء الساخن على الريق ..ستتفاجأ بالنتيجة

* تعبر المقالات الموجوده هنا عن وجهة نظر كاتبيها.

* جميع المقالات تحمل إسم المصدر و العنوان الاكتروني للمقالة.

موقع كل يوم
30

أخبار كل يوم

lebanonKlyoum.com is 2050 days old | 943,370 Egypt News Articles | 18,504 Articles in Jun 2025 | 221 Articles Today | from 23 News Sources ~~ last update: 15 min ago
klyoum.com

×

موقع كل يوم


مقالات قمت بزيارتها مؤخرا



يتجاوز الخط الأحمر .. نتائج مقلقة للذكاء الاصطناعي فما القصة ؟ - eg
يتجاوز الخط الأحمر .. نتائج مقلقة للذكاء الاصطناعي فما القصة ؟

منذ ٠ ثانية


اخبار مصر

بعد زيزو.. مهيب عبد الهادي يكشف خطة الأهلي لضم نجمي الزمالك - eg
بعد زيزو.. مهيب عبد الهادي يكشف خطة الأهلي لضم نجمي الزمالك

منذ ٠ ثانية


اخبار مصر

لقطة نادرة لمحل لبيع الثياب في سوق مدينة السيح قبل78 عام - sa
لقطة نادرة لمحل لبيع الثياب في سوق مدينة السيح قبل78 عام

منذ ٠ ثانية


اخبار السعودية

بالخل والنشا.. طريقة تنقية زيت القلي المستعمل من الشوائب - eg
بالخل والنشا.. طريقة تنقية زيت القلي المستعمل من الشوائب

منذ ٠ ثانية


اخبار مصر

القناة يفوز على أبوقير للأسمدة في الجولة الـ 10 بدوري المحترفين - eg
القناة يفوز على أبوقير للأسمدة في الجولة الـ 10 بدوري المحترفين

منذ ٠ ثانية


اخبار مصر

الكويت تسحب الجنسية من الإعلامي شعيب راشد - kw
الكويت تسحب الجنسية من الإعلامي شعيب راشد

منذ ثانية


اخبار الكويت

شيرين تضع روتانا في مأزق بأدلة قانونية.. والمحكمة تحسم صراع النجوم في أكتوبر - eg
شيرين تضع روتانا في مأزق بأدلة قانونية.. والمحكمة تحسم صراع النجوم في أكتوبر

منذ ثانية


اخبار مصر

للاستيلاء على هاتف وجلباب.. الإعدام شنقا لـ عامل انهي حياة شقيقه لسرقته بالخصوص - eg
للاستيلاء على هاتف وجلباب.. الإعدام شنقا لـ عامل انهي حياة شقيقه لسرقته بالخصوص

منذ ثانية


اخبار مصر

اعتقال شبكة حاولت تنفيذ عمليات اغتيال والإخلال بالأمن العام في العراق - iq
اعتقال شبكة حاولت تنفيذ عمليات اغتيال والإخلال بالأمن العام في العراق

منذ ثانية


اخبار العراق

رئيس الوزراء يعقد لقاء جماهيريا مع نواب البرلمان وعمداء ومشايخ الوادي الجديد - eg
رئيس الوزراء يعقد لقاء جماهيريا مع نواب البرلمان وعمداء ومشايخ الوادي الجديد

منذ ثانيتين


اخبار مصر

طوفان الاقصى آخر تطورات المسار التفاوضي المتعلق بالحرب الصهيونية على غزة - lb
طوفان الاقصى آخر تطورات المسار التفاوضي المتعلق بالحرب الصهيونية على غزة

منذ ثانيتين


اخبار لبنان

بعد الارتفاع الأخير.. سعر الذهب اليوم الأربعاء 4 يونيو 2025 وعيار 21 بالمصنعية في الصاغة - eg
بعد الارتفاع الأخير.. سعر الذهب اليوم الأربعاء 4 يونيو 2025 وعيار 21 بالمصنعية في الصاغة

منذ ثانيتين


اخبار مصر

القبض على شخصين لترويجهما أقراصا خاضعة لتنظيم التداول الطبي في حائل - sa
القبض على شخصين لترويجهما أقراصا خاضعة لتنظيم التداول الطبي في حائل

منذ ثانيتين


اخبار السعودية

موعد وقنوات عرض المسلسل التركي المشردون .. قصة مؤثرة - xx
موعد وقنوات عرض المسلسل التركي المشردون .. قصة مؤثرة

منذ ثانيتين


لايف ستايل

 مشاكلنا مش معاه .. اعترافات المتهمين بحرق سيارة شقيق عمرو دياب - eg
مشاكلنا مش معاه .. اعترافات المتهمين بحرق سيارة شقيق عمرو دياب

منذ ثانيتين


اخبار مصر

سقوط حافلة فريق بالدوري التنزاني أثناء عودته من مباراة (فيديو) - eg
سقوط حافلة فريق بالدوري التنزاني أثناء عودته من مباراة (فيديو)

منذ ثانيتين


اخبار مصر

أحمد فهمي: كل مناطق المملكة تصلح للتصوير وفيلمي القادم بالمملكة .. فيديو - sa
أحمد فهمي: كل مناطق المملكة تصلح للتصوير وفيلمي القادم بالمملكة .. فيديو

منذ ٣ ثواني


اخبار السعودية

اجتماع في جدة بين محمد بن سلمان وسيناتور أمريكي.. ووزير خارجية السعودية يتلقى اتصالا من بلينكن - sa
اجتماع في جدة بين محمد بن سلمان وسيناتور أمريكي.. ووزير خارجية السعودية يتلقى اتصالا من بلينكن

منذ ٣ ثواني


اخبار السعودية

الوزير السقطري يشيد بجهود الهيئة العامة للمصائد السمكية بخليج عدن - ye
الوزير السقطري يشيد بجهود الهيئة العامة للمصائد السمكية بخليج عدن

منذ ٣ ثواني


اخبار اليمن

اللاعب عمر حنتولي يحرز فضية بطولة كرواتيا الدولية للتايكواندو - ps
اللاعب عمر حنتولي يحرز فضية بطولة كرواتيا الدولية للتايكواندو

منذ ٣ ثواني


اخبار فلسطين

الشريدة يؤدي اليمين القانونية أمام الملك سفيرا لدى اليابان - jo
الشريدة يؤدي اليمين القانونية أمام الملك سفيرا لدى اليابان

منذ ٣ ثواني


اخبار الاردن

طقس المملكة الثلاثاء.. رياح مثيرة للأتربة وانعدام في الرؤية الأفقية على عدة مناطق - sa
طقس المملكة الثلاثاء.. رياح مثيرة للأتربة وانعدام في الرؤية الأفقية على عدة مناطق

منذ ٣ ثواني


اخبار السعودية

خطوات تسجيل استمارة الشهادة الإعدادية 2025.. والرسوم المقررة - eg
خطوات تسجيل استمارة الشهادة الإعدادية 2025.. والرسوم المقررة

منذ ٤ ثواني


اخبار مصر

البرلمان العربي يدعو لوقف فوري لحرب الإبادة في غزة - ps
البرلمان العربي يدعو لوقف فوري لحرب الإبادة في غزة

منذ ٤ ثواني


اخبار فلسطين

محمية الإمام تركي بن عبدالله الملكية تشترط ترقيم الماشية لمنح تصريح الرعي - sa
محمية الإمام تركي بن عبدالله الملكية تشترط ترقيم الماشية لمنح تصريح الرعي

منذ ٤ ثواني


اخبار السعودية

 البيئة تكرم 700 من العاملين بمنظومة المخلفات وتسلمهم بطاقات مزاولة المهنة - eg
البيئة تكرم 700 من العاملين بمنظومة المخلفات وتسلمهم بطاقات مزاولة المهنة

منذ ٤ ثواني


اخبار مصر

 منهم 4 أطفال .. كلاب ضالة تهاجم 6 أشخاص في عين الباشا - jo
منهم 4 أطفال .. كلاب ضالة تهاجم 6 أشخاص في عين الباشا

منذ ٤ ثواني


اخبار الاردن

نائب وزير الصحة: قانون المسؤولية الطبية يخرج إلى النور قريبا - eg
نائب وزير الصحة: قانون المسؤولية الطبية يخرج إلى النور قريبا

منذ ٤ ثواني


اخبار مصر

نفذ عمليات سرقة بأسلوب احتيالي هل وقعتم ضحية اعماله؟ - lb
نفذ عمليات سرقة بأسلوب احتيالي هل وقعتم ضحية اعماله؟

منذ ٥ ثواني


اخبار لبنان

موقع يكشف حيلة النظام لتجاوز العقوبات بما يخص السفن - sy
موقع يكشف حيلة النظام لتجاوز العقوبات بما يخص السفن

منذ ٥ ثواني


اخبار سوريا

* تعبر المقالات الموجوده هنا عن وجهة نظر كاتبيها.

* جميع المقالات تحمل إسم المصدر و العنوان الاكتروني للمقالة.






لايف ستايل