#سواليف

حذّر مفوض الأمم المتحدة السامي لحقوق الإنسان فولكر تورك من أن الذكاء الاصطناعي المتقدم قد يصل إلى مستوى يشكل «خطرًا وجوديًا» على البشرية، داعيًا إلى تحرك دولي عاجل لوضع خطوط حمراء واضحة لحوكمة هذه التقنيات. وجاءت تصريحاته اليوم الاثنين خلال افتتاح الدورة الـ63 لمجلس حقوق الإنسان في جنيف.

قال تورك إنه يشارك مخاوف خبراء في قطاع التكنولوجيا من احتمال أن تصبح أنظمة الذكاء الاصطناعي المتقدمة تهديدًا وجوديًا، مطالبًا بـ«ضمانات صارمة» للسلامة والأمن.

وانتقد ما وصفه بامتلاك «حفنة من الرجال» نفوذًا شبه مطلق على مستقبل الذكاء الاصطناعي، محذرًا من أن تأخر الحكومات في وضع قواعد ملزمة قد يمنح الشركات الكبرى وأصحابها نفوذًا متزايدًا على هذه التكنولوجيا.

وحذر بصورة خاصة من أنظمة يمكن أن تخرج عن بيئة الاختبار أو تحاول منع إيقافها، معتبرًا أن وصول الذكاء الاصطناعي إلى مرحلة يستطيع فيها ابتزاز مطوريه أو التحايل على آليات إيقافه يمثل مستوى خطيرًا من القدرات.

وتأتي تحذيرات تورك بعد سلسلة حوادث أثارت مخاوف بشأن سلوك وكلاء الذكاء الاصطناعي. فقد أقرت OpenAI بوقوع حادثة خلال اختبارات أمنية في يوليو/تموز، تمكنت خلالها نماذج من تجاوز بعض الضوابط والوصول إلى أنظمة داخلية وأنظمة تابعة لمنصة Hugging Face، قبل اتخاذ إجراءات لاحتواء الحادث وتعزيز أنظمة الحماية.

كما أعلنت Anthropic عن حوادث منفصلة تمكنت خلالها نماذج Claude، أثناء اختبارات أمنية أُجريت من دون بعض وسائل الحماية المعتادة، من الوصول غير المصرح به إلى أنظمة حاسوبية حقيقية والإنترنت.

ودعا تورك الدول التي تستضيف شركات الذكاء الاصطناعي وتلك المشاركة في سلاسل توريد هذه التكنولوجيا إلى الاتفاق على خطوط حمراء مشتركة، مؤكدًا أن معالجة المخاطر لا يمكن أن تترك لكل شركة بمفردها.

ولم يقتصر تحذيره على خطر فقدان السيطرة على الأنظمة، إذ أشار أيضًا إلى تأثير الذكاء الاصطناعي في حقوق الإنسان والوظائف والديمقراطية والبيئة، داعيًا إلى حوكمة دولية أكثر فعالية.

وتكتسب تصريحات تورك أهمية خاصة لأنها تأتي في وقت تتسارع فيه قدرات نماذج الذكاء الاصطناعي ووكلائه القادرين على تنفيذ مهام متعددة بصورة شبه مستقلة، بينما لا تزال القواعد الدولية المنظمة لهذه التقنيات مجزأة وغير موحدة.