انتشار الفيديوهات المزيفة بالذكاء الاصطناعي يثير المخاوف
klyoum.com
أخر اخبار السعودية:
المتحدث الرسمي لوزارة الدفاع: اعتراض وتدمير مسيرة في المنطقة الشرقيةفي أكتوبر الماضي، انتشر على تطبيق "تيك توك" مقطع فيديو يظهر امرأة تجري مقابلة مع مراسلة تلفزيونية حول بيع قسائم الطعام المخصصة لذوي الدخل المحدود في الولايات المتحدة، بحسب ما كتب ستيفن لي مايرز وستيوارت إيه طومسون.
لكن الحقيقة أن المرأة لم تكن حقيقية، ولم تُجرَ المقابلة أصلًا، إذ تم إنتاج الفيديو بالكامل باستخدام تقنيات الذكاء الاصطناعي. ومع ذلك، اعتقد كثير من الناس أن المقطع حقيقي وأنه يوثق عملية بيع قسائم الطعام مقابل المال، وهو ما يعد مخالفة قانونية.
ولم يكن المثال الوحيد؛ فقد انخدعت قناة "فوكس نيوز" بمقطع مشابه، واعتبرته دليلاً على الغضب الشعبي تجاه إساءة استخدام قسائم الطعام، قبل أن يتم حذف المقال لاحقًا من موقعها الإلكتروني.
وتكشف هذه المقاطع، ومنها المقابلة المفبركة التي أنشئت عبر تطبيق "سورا" الجديد من شركة "أوبن إيه آي"، مدى سهولة التأثير في الرأي العام باستخدام أدوات قادرة على خلق واقع بديل عبر أوامر بسيطة.
وخلال الشهرين اللذين تلا إطلاق "سورا"، انتشرت مقاطع فيديو مضللة على منصات "تيك توك"، و"إكس"، و"يوتيوب"، و"فيسبوك"، و"إنستغرام"، وفقًا لخبراء رصد المحتوى، ما أثار مخاوف من موجة جديدة من الأخبار الكاذبة والمعلومات المضللة.
قصور أدوات مكافحة التضليل
تعتمد شركات التواصل الاجتماعي الكبرى سياسات تُلزم بالإفصاح عن المحتوى المنشأ بالذكاء الاصطناعي، وتحظر المواد التي تهدف إلى التضليل، إلا أن هذه السياسات تبدو عاجزة عن مواكبة التطور الكبير الذي تمثله أدوات مثل "سورا".
وبينما يندرج كثير من المحتوى المفبرك ضمن إطار السخرية أو الترفيه، مثل صور أطفال أو حيوانات أليفة، يسعى جزء آخر إلى إذكاء خطاب الكراهية، خاصة في النقاشات السياسية على الإنترنت، وقد استُخدم بالفعل ضمن حملات تأثير أجنبي.
مسؤولية الشركات
يرى باحثون متخصصون في تتبع الاستخدامات المضللة أن العبء الأكبر يقع على عاتق الشركات المالكة للمنصات لضمان قدرة المستخدمين على التمييز بين الحقيقي والمصطنع.
وفي هذا السياق، تساءل سام غريغوري، المدير التنفيذي لمنظمة "ويتنس Witness" المعنية بحقوق الإنسان ومخاطر التكنولوجيا: "هل يمكنهم تحسين إدارة المحتوى ومكافحة المعلومات المضللة والمغلوطة؟ من الواضح أنهم لا يفعلون ذلك. هل يمكنهم بذل المزيد من الجهد في البحث الاستباقي عن المحتوى المولّد بواسطة الذكاء الاصطناعي وتصنيفه بأنفسهم؟ الإجابة هي نعم – لكنهم لا يفعلون ذلك".
ولم يقتصر استخدام الفيديوهات المفبركة على السخرية من الفقراء، بل شمل أيضًا شخصيات سياسية بارزة، من بينها الرئيس الأمريكي السابق دونالد ترمب.
وعلى الرغم من اعتماد المنصات بشكل كبير على صناع المحتوى للإفصاح عن كون المواد المنشورة غير حقيقية، فإن هذا الإفصاح لا يتم دائمًا، ورغم امتلاك المنصات لتقنيات لرصد الفيديوهات المصنوعة بالذكاء الاصطناعي، فإنها لا تنبه المشاهدين دائمًا بشكل فوري.
وقالت نبيهة سيد، المديرة التنفيذية لمؤسسة "موزيلا"، غير الربحية المعنية بسلامة التكنولوجيا: "كان ينبغي عليهم أن يكونوا مستعدين".
مؤشرات كشف التزييف
تؤكد الشركات المطورة لأدوات الذكاء الاصطناعي أنها تسعى لتوضيح طبيعة المحتوى المنشأ بواسطة الكمبيوترات للمستخدمين. فكل من "سورا" و"فيو" التابعة لـ"غوغل" يضعان علامة مائية مرئية على الفيديوهات التي تنتجانها، إضافة إلى بيانات وصفية غير مرئية يمكن للحاسوب قراءتها لتحديد مصدر الفيديو.
وتهدف هذه الإجراءات إلى إعلام المستخدمين بأن ما يشاهدونه ليس حقيقيًا، وتزويد المنصات بالإشارات الرقمية اللازمة لكشف المحتوى تلقائيًا.
وبدأت بعض المنصات بالفعل في استخدام هذه التقنية؛ إذ أعلنت "تيك توك" مؤخرًا تشديد قواعد الإفصاح عن استخدام الذكاء الاصطناعي، ووعدت بتقديم أدوات جديدة تتيح للمستخدمين تحديد نسبة المحتوى المصطنع الذي يرغبون في مشاهدته. كما يستخدم "يوتيوب" العلامة المائية غير المرئية لتقنية "سورا" لإضافة ملصق صغير يشير إلى أن الفيديوهات معدلة أو مصطنعة.
سهولة الالتفاف
ورغم ذلك، قد تظهر هذه العلامات بعد أن يكون الفيديو قد شاهده آلاف أو ملايين الأشخاص، أو قد لا تظهر على الإطلاق. كما اكتشف بعض المستخدمين طرقًا للتحايل على قواعد الإفصاح، سواء بتجاهلها أو إزالة العلامات المائية عبر التعديل.
ورصدت صحيفة "نيويورك تايمز" عشرات المقاطع المصنوعة بواسطة "سورا" على "يوتيوب" دون أي إشارة تعريفية. كما أن إعادة نشر الفيديوهات أو تعديلها قد يؤدي إلى حذف البيانات الوصفية التي تُظهر أنها مُنشأة بالذكاء الاصطناعي.
وبحسب تحليل التعليقات الذي أجرته "نيويورك تايمز"، فإن نحو ثلثي المستخدمين الذين علقوا على أحد فيديوهات "تيك توك" حول قسائم الطعام تعاملوا مع المقطع كما لو كان حقيقيًا.
وأكدت شركة "أوبن إيه آي" في بيان لها أنها تحظر الاستخدامات الخادعة لتطبيق "سورا"، وتتخذ إجراءات ضد منتهكي سياساتها، مشيرة إلى أن التطبيق ليس سوى واحد من عشرات الأدوات القادرة على إنتاج فيديوهات واقعية، كثير منها لا يفرض أي قيود على الاستخدام.
وأضافت الشركة أن معالجة المحتوى المضلل تتطلب جهدًا شاملاً من جميع الأطراف المعنية، نظرًا لتعدد الأدوات والمنصات التي يُنشأ ويُتداول عبرها هذا المحتوى.
من جانبها، قالت شركة "ميتا" إن تصنيف جميع الفيديوهات المولدة بالذكاء الاصطناعي ليس دائمًا ممكنًا في ظل التطور السريع للتقنية، مؤكدة أنها تعمل على تحسين أنظمة التصنيف لديها، في حين لم ترد منصتا "إكس" و"تيك توك" على طلبات التعليق.
غياب الحافز المالي
ويرى ألون يامين، الرئيس التنفيذي لشركة "Copyleaks" المتخصصة بكشف محتوى الذكاء الاصطناعي، أن منصات التواصل الاجتماعي لا تمتلك حافزًا ماليًا لتقييد انتشار الفيديوهات طالما استمر المستخدمون في التفاعل معها.
وأضاف: "على المدى البعيد، عندما تصبح الغالبية العظمى من حركة المرور على المحتوى في منصتك مولدة بواسطة الذكاء الاصطناعي، فإن ذلك يثير تساؤلات حول جودة المنصة والمحتوى. وربما على المدى الطويل، قد توجد حوافز مالية أكبر لضبط محتوى الذكاء الاصطناعي فعليًا، لكن على المدى القصير، لا يمثل ذلك أولوية".