كشفت دراسة أميركية عن أن أدوات الذكاء الاصطناعي التوليدي تستطيع استغلال المعلومات المنشورة علناً على شبكات التواصل الاجتماعي لإنشاء رسائل احتيالية مخصصة للأفراد، تستند إلى اهتماماتهم وتجاربهم اليومية وصورهم الشخصية. وأظهرت التجارب أن هذه الرسائل قد تبدو أكثر إقناعاً وأقل إثارة للشك من نماذج التصيد التقليدية، وفق معايير التقييم المستخدمة، في حين أخفقت بعض أدوات الحماية في التعرف إلى معظم الطلبات المستخدمة لإنشائها. وأجرى الدراسة باحثون من جامعة تكساس في أرلينغتون وجامعة ولاية لويزيانا بعنوان: «التصيد الاحتيالي الموجه حسب السياق».

من الصور إلى الرسائل الاحتيالية تعتمد هجمات التصيد الاحتيالي الموجه عادة على معلومات محددة عن الشخص المستهدف، مثل وظيفته أو جهة عمله. لكن الدراسة تناولت أسلوباً أكثر تخصيصاً، يعتمد على تحليل النشاط اليومي للأفراد، بما يشمل منشورات السفر والمناسبات والاهتمامات والعلاقات الاجتماعية.

واختبر الباحثون قدرة النماذج التوليدية على استخراج هذه المعلومات من المنشورات والصور المتاحة للجمهور، ثم استخدامها لإنشاء رسائل بريد إلكتروني تبدو مرتبطة بتجارب حقيقية مر بها الشخص المستهدف.

وقد تتخذ الرسالة، على سبيل المثال، شكل عرض من فندق زاره المستخدم مؤخراً، أو إشعار يتعلق بحفل موسيقي أبدى اهتماماً به. وتوضح هذه الأمثلة آلية الهجوم المحتملة، ولا تمثّل وقائع احتيال موثقة ضد أشخاص بعينهم. وتشير الدراسة إلى أن النماذج التوليدية تقلّل الجهد اللازم لإعداد هذه الرسائل، إذ يمكن استخدامها لإنتاج محتوى مخصص استناداً إلى المعلومات المتاحة عن كل شخص، بدلاً من صياغة الرسائل يدوياً.

سجلت بعض الأنظمة معدلات كشف تراوحت بين صفر و19 % وارتفعت إلى 98.7 % بعد تحسين التعليمات الأمنية (أدوبي)

آلاف الرسائل قيد الاختبار اعتمد الباحثون على بيانات منشورة علناً في حسابات 200 مستخدم على «إنستغرام»، وأظهرت تجاربهم أن نحو عشرة منشورات من الحساب الواحد قد توفّر معلومات كافية لإنشاء رسائل احتيالية مرتبطة بالسياق الشخصي. وشملت الاختبارات توليد نحو 18 ألف رسالة باستخدام نماذج ذكاء اصطناعي متعددة، ثم تقييمها وفق ثمانية معايير، من بينها ارتباط المحتوى بالمعلومات الشخصية، وقوة الإقناع، والمصداقية، والتأثير العاطفي.

ولإجراء المقارنة، استخدم الباحثون قاعدة بيانات تضم 6 آلاف رسالة تصيد احتيالي حقيقية، وحددوا من بينها 3937 رسالة تندرج ضمن التصيد الموجه، الذي يستهدف أفراداً أو جهات محددة بدلاً من إرسال رسائل عامة إلى أعداد كبيرة من المستخدمين. وأظهرت النتائج تفوق الرسائل المولدة بالذكاء الاصطناعي في عدة معايير تتعلق بالتخصيص والارتباط بتجارب الأشخاص المستهدفين، ما يعكس قدرة النماذج على تحويل معلومات متفرقة إلى محتوى يبدو موجهاً إلى شخص بعينه.

رسائل أقل إثارة للشك لم يقتصر التقييم على تحليل النصوص باستخدام النماذج اللغوية، بل شمل تجربة بشرية شارك فيها 70 شخصاً من الولايات المتحدة، قُسّموا عشوائياً إلى مجموعتين. قيّمت المجموعة الأولى رسائل احتيالية مولّدة بالذكاء الاصطناعي، فيما قيّمت الأخرى رسائل تصيد حقيقية، إلى جانب رسائل سليمة للمقارنة.

وسجلت الرسائل المنتجة بالذكاء الاصطناعي متوسطاً بلغ 2.75 نقطة على مقياس الشك المؤلف من خمس درجات، مقابل 4.44 نقطة للرسائل الاحتيالية الحقيقية، ما يعني أن المشاركين اعتبروا الرسائل الآلية أقل إثارة للريبة ضمن ظروف التجربة. لكن الباحثين لم يقيسوا عدد الأشخاص الذين قد ينقرون فعلياً على الروابط الاحتيالية أو يفصحون عن كلمات المرور والبيانات المالية. فقد استند التقييم إلى صور ثابتة للرسائل، بعد إزالة الروابط النشطة والمعلومات التي قد تكشف هويات الأفراد. وتوضح هذه النتائج تصورات المشاركين لمصداقية الرسائل ومدى الشك فيها، ولا تمثّل قياساً مباشراً لمعدلات نجاح عمليات الاحتيال في الواقع.

دعا الباحثون إلى تعزيز قدرة نماذج الذكاء الاصطناعي على اكتشاف الطلبات الاحتيالية ومنع إنشاء الرسائل قبل استخدامها في الهجمات (أدوبي)

قصور أدوات الحماية اختبر الفريق أيضاً قدرة أنظمة الحماية المستخدمة مع نماذج الذكاء الاصطناعي على اكتشاف الطلبات المصممة لإنشاء رسائل التصيد الموجه. وشملت الاختبارات أدوات «Llama Guard»، و«ShieldGemma»، و«WildGuard»، التي سجلت بإعداداتها الافتراضية معدلات اكتشاف تراوحت بين صفر و19 في المائة من الطلبات الهجومية المختبرة.

وعندما أضاف الباحثون تعليمات أمنية مخصصة للتعرف إلى هذا النوع من الاستخدامات، تحسّنت النتائج، وبلغت أعلى نسبة كشف 98.7 في المائة لدى إحدى الأدوات وفي ظروف اختبار محددة، دون أن تحقق جميع الأنظمة المستوى نفسه. وتتعلق هذه النسب بقدرة أدوات الحماية على رصد طلبات إنشاء المحتوى الاحتيالي، وليس بكفاءة برامج البريد الإلكتروني في حجب الرسائل أو منع وصولها إلى المستخدمين.

وتبرز النتائج أهمية السياق الذي يُقدَّم فيه الطلب إلى النموذج اللغوي، إذ قد تبدو بعض التعليمات منفردة وكأنها طلبات عادية لصياغة رسائل، في حين يكشف تحليل الغرض منها والمعلومات المستخدمة فيها عن طبيعتها الاحتيالية.

حماية قبل إنشاء المحتوى يركز الجانب الدفاعي من الدراسة على اكتشاف النوايا الاحتيالية في الطلبات المقدمة إلى النماذج اللغوية، قبل أن تتمكّن من إنتاج الرسائل. واختبر الباحثون أساليب تعتمد على تحليل صياغة الطلبات والسياق المرتبط بها، بدلاً من الاقتصار على البحث عن كلمات أو عبارات قد ترتبط بالاحتيال. كما امتنع الفريق عن نشر التعليمات التفصيلية المستخدمة لإنشاء الرسائل الهجومية، بهدف الحد من إمكانية إعادة استخدامها لتنفيذ عمليات مشابهة.

وتوضح الدراسة كيف يمكن للمعلومات العامة المنشورة على شبكات التواصل الاجتماعي أن تصبح مصدراً لإنشاء رسائل تصيد شديدة التخصيص، دون الحاجة إلى اختراق حسابات المستخدمين أو الوصول إلى بياناتهم الخاصة. ويركز الباحثون على تحسين قدرة أنظمة الحماية على التعرف إلى هذا النوع من الطلبات، مع استمرار الحاجة إلى تقييم فاعليتها في ظروف استخدام مختلفة، والتمييز بين نجاح أدوات الكشف في التجارب وقدرتها على منع الهجمات الاحتيالية الفعلية.