تتجه شركة OpenAI إلى اعتماد وسيلة جديدة لتمييز النصوص التي ينتجها شات جي بي تي، عبر تقنية تعتمد على علامات مائية غير مرئية يمكن لأنظمة الكشف المتخصصة رصدها. وتأتي هذه الخطوة في إطار الاستجابة لمتطلبات الشفافية التي يفرضها قانون الذكاء الاصطناعي في الاتحاد الأوروبي، مع بدء تطبيق التقنية تدريجيًا على بعض خدمات الشركة.

علامة مائية غير مرئية على نصوص شات جي بي تي

لن تظهر العلامة المائية الجديدة على شكل رمز أو عبارة داخل النص الذي يكتبه شات جي بي تي، إذ تعتمد OpenAI على تعديل دقيق في الطريقة التي يختار بها النموذج الكلمات أثناء إنشاء المحتوى.

وينتج عن هذه التعديلات نمط معين داخل النص لا يستطيع القارئ رؤيته أو تمييزه عند القراءة العادية، لكنه يمكن أن يكون قابلًا للرصد بواسطة أنظمة مخصصة للكشف عن المحتوى الناتج عن الذكاء الاصطناعي.

وتتميز التقنية بأن العلامة المائية ترتبط بالنص نفسه، وبالتالي يمكن أن تستمر عند نسخ المحتوى ولصقه في تطبيق أو موقع آخر، بدل أن تكون مرتبطة بواجهة شات جي بي تي أو بالمنصة التي أنشئ فيها النص.

لماذا تضيف OpenAI العلامة المائية؟

يرتبط تطبيق العلامة المائية الجديدة بقواعد الشفافية الواردة في قانون الذكاء الاصطناعي للاتحاد الأوروبي، التي تتضمن متطلبات للتعامل مع المحتوى الذي تنتجه أنظمة الذكاء الاصطناعي بطريقة تسمح للأنظمة الأخرى بالتعرف عليه.

وتستهدف هذه الإجراءات زيادة وضوح مصدر المحتوى الرقمي، خصوصًا مع الانتشار الواسع لأدوات الذكاء الاصطناعي التوليدي وقدرتها على إنتاج كميات كبيرة من النصوص خلال وقت قصير.

وبحسب OpenAI، سيبدأ تفعيل العلامة المائية بصورة تدريجية خلال الأسابيع المقبلة لمستخدمي ChatGPT وCodex المؤهلين داخل الاتحاد الأوروبي، على أن يشمل ذلك جميع الباقات.

هل ستظهر العلامة المائية لجميع المستخدمين؟

لا تخطط OpenAI في الوقت الحالي لجعل العلامة المائية النصية إعدادًا افتراضيًا لجميع مستخدمي خدماتها حول العالم.

وسيقتصر التطبيق الأول على مستخدمي ChatGPT وCodex في الاتحاد الأوروبي، بينما يحصل المطورون الذين يستخدمون واجهة برمجة التطبيقات الخاصة بـOpenAI على إمكانية تفعيل التقنية مع نماذج محددة من أي مكان في العالم.

وتكون الميزة غير مفعلة تلقائيًا عبر واجهة البرمجة، ما يمنح المطورين إمكانية تحديد الحالات التي يرغبون فيها باستخدامها.

كيف تعمل تقنية textGrain؟

كشفت OpenAI بالتزامن مع الإعلان عن تقرير تقني يشرح النظام الذي تعتمد عليه في وضع العلامة المائية، ويحمل اسم textGrain.

وتعتمد الطريقة على استخدام مفتاح سري يساعد على تنظيم توقعات النموذج للكلمات المحتملة التي يمكن أن تأتي بعد كل جزء من النص. ومع استمرار عملية التوليد، يتشكل نمط إحصائي يمكن استخدامه لاحقًا للتحقق من مصدر المحتوى.

وتسمح هذه الآلية لأداة الكشف بالاعتماد على النص نفسه إلى جانب المفتاح المستخدم، من دون الحاجة إلى الاطلاع على المحادثة الأصلية أو الوصول إلى معلومات شخصية عن المستخدم.

وشارك في إعداد التقرير باحثون من جامعتي بنسلفانيا وييل، لتقديم شرح تقني للطريقة التي يمكن من خلالها استخدام هذا النمط في التعرف على النصوص التي أنشأتها نماذج OpenAI.

العلامة المائية لا تكشف هوية المستخدم

أكدت OpenAI أن التقنية الجديدة لا تهدف إلى معرفة الشخص الذي استخدم شات جي بي تي لإنشاء النص؛ فالعلامة المائية، وفقًا للشركة، يمكنها الإشارة إلى أن أحد أنظمة OpenAI أنشأ محتوى معينًا أو عالجه، لكنها لا تقدم معلومات عن هوية المستخدم أو تفاصيل حسابه.

كما قالت الشركة إنها لم تلاحظ تغييرًا كبيرًا في أداء نماذجها عند استخدام العلامة المائية، وهو ما يشير إلى محاولة دمج التقنية في عملية إنشاء النص من دون التأثير بصورة واضحة في تجربة الاستخدام.

هل يمكن إزالة العلامة المائية من نص شات جي بي تي؟

رغم أن العلامة المائية مصممة لتكون جزءًا من النص، فإنها ليست غير قابلة للتأثر بالتعديلات التي يجريها المستخدم على المحتوى.

وأظهرت اختبارات OpenAI أن إعادة صياغة أجزاء من النص أو استبدال بعض الكلمات بمرادفاتها يمكن أن تقلل قدرة أنظمة الكشف على التعرف على العلامة المائية.

وفي أحد الاختبارات، أدى تغيير نحو 10% من كلمات النص إلى انخفاض معدل اكتشاف المحتوى من حوالي 92% إلى 66%.

كما أشارت الشركة إلى أن بعض أنواع المحتوى تمثل تحديًا أكبر أمام التقنية، ومن بينها النصوص القصيرة، والإجابات الخاصة بالمعادلات الرياضية، بالإضافة إلى النصوص التي خضعت للترجمة.

غياب العلامة المائية لا يعني أن النص بشري

تشدد OpenAI على أن أدوات الكشف لا ينبغي التعامل معها باعتبارها حكمًا نهائيًا على مصدر أي نص؛ فعدم العثور على العلامة المائية لا يعني بالضرورة أن المحتوى كتبه شخص من دون مساعدة الذكاء الاصطناعي، إذ يمكن أن تكون هناك أسباب أخرى لعدم اكتشافها، مثل قصر النص أو تعرضه لتعديلات كبيرة.

كذلك، قد يكون النص قد أُنشئ بواسطة نموذج ذكاء اصطناعي تابع لشركة أخرى، وبالتالي لن يحمل بالضرورة العلامة المائية الخاصة بأنظمة OpenAI.

وفي الاتجاه المقابل، فإن وجود العلامة المائية لا يحدد حجم الدور الذي لعبه الإنسان في إنتاج المحتوى، فقد يكون المستخدم قدم التعليمات والسياق وأجرى تعديلات واسعة على النص قبل استخدامه بصورته النهائية.

OpenAI تتيح الكشف للباحثين في البداية

وبسبب القيود الحالية المتعلقة بدقة الكشف، أوضحت OpenAI أنها ستتعامل بحذر مع إتاحة أدوات اكتشاف العلامات المائية.

وتعتزم الشركة في البداية توفير الوصول إلى أنظمة الكشف للباحثين المعتمدين والمنظمات المتخصصة؛ بهدف اختبار مدى موثوقية التقنية ودراسة الاستخدامات المناسبة لها قبل توسيع نطاق الوصول إليها.

وتعكس هذه الخطوة رغبة الشركة في تقييم التقنية في ظروف مختلفة، خاصة أن تعديل النصوص يمكن أن يؤثر في قدرة النظام على اكتشاف العلامة المائية.

Anthropic سبقت OpenAI في وضع العلامات المائية

لا تأتي خطوة OpenAI بمعزل عن تحركات شركات الذكاء الاصطناعي الأخرى؛ إذ اتجهت Anthropic أيضًا إلى استخدام تقنية للعلامات المائية مع النصوص التي ينتجها برنامج Claude، مع تطبيقها على مستوى عالمي.

وأثار هذا التوجه نقاشًا بين بعض مستخدمي Claude، خاصة من رأوا أن الاعتماد على العلامة المائية قد لا يعكس حجم المساهمة البشرية في النص، خصوصًا عندما يكون المستخدم هو من يقدم التعليمات والمعلومات والسياق ويجري التعديلات النهائية.

وسبق أن أشارت تقارير صحفية في عام 2024 إلى أن OpenAI كانت قد طورت بالفعل تقنية لوضع علامات مائية على النصوص، لكنها لم تطلقها في ذلك الوقت، وسط مخاوف من أن يؤدي تطبيقها إلى دفع بعض المستخدمين نحو أدوات منافسة لا تستخدم العلامات المائية.

وتأتي الخطوة الحالية في وقت تواصل فيه شركات التكنولوجيا تطوير طرق للتعامل مع المحتوى المولّد بالذكاء الاصطناعي، خاصة مع زيادة الاعتماد عليه في الكتابة وإنتاج المحتوى الرقمي.

شركات تقنية تلتزم بقواعد الذكاء الاصطناعي الأوروبية

تضم قائمة الشركات التي التزمت بمدونة قواعد الممارسة الخاصة بالاتحاد الأوروبي بشأن المحتوى الناتج عن الذكاء الاصطناعي عددًا من أكبر شركات التكنولوجيا، من بينها OpenAI وAnthropic وGoogle وMeta وMicrosoft.

ويعكس ذلك اتجاهًا متزايدًا نحو تطوير أدوات يمكنها مساعدة المستخدمين والمنصات على معرفة ما إذا كان المحتوى الرقمي قد تم إنتاجه أو معالجته باستخدام أنظمة الذكاء الاصطناعي، مع استمرار النقاش حول مدى دقة هذه التقنيات وحدود استخدامها.