أكدت شركة OpenAI أن بعض محادثات ChatGPT قد ترفع إلى السلطات القانونية في إطار سياساتها الخاصة بالأمان والمراجعة. 

وبينما تهدف هذه الخطوة إلى منع الأذى في العالم الحقيقي، فقد أثارت جدلا واسعا بشأن الخصوصية وحرية التعبير، إضافة إلى تساؤلات حول الحدود الفاصلة بين حماية المستخدم والتوسع في الرقابة.

وفقا للسياسة التي أوضحتها OpenAI:

- التهديدات بالعنف: إذا قدم المستخدم تهديدات مباشرة بالضرر تجاه الآخرين، يتم مراجعة المحادثة من قبل المراجعين البشر، إذا تم الحكم على التهديد بأنه جاد ووشيك، قد يتم إحالة القضية إلى الشرطة.

- حالات الأذى الذاتي: على عكس التهديدات تجاه الآخرين، لا يتم إرسال محتوى الأذى الذاتي إلى الشرطة. بدلا من ذلك، يعرض على المستخدمين روابط لخطوط الأزمة للحصول على الدعم الفوري.

- إجراءات التنفيذ: قد يواجه المستخدمون الذين ينشرون تهديدات عنيفة تعليقا لحساباتهم أو حظرا دائما، بالإضافة إلى العواقب القانونية المحتملة.

تسلط هذه الآلية الجديدة الضوء على التوتر المستمر بين الأمان والخصوصية في عصر الذكاء الاصطناعي، وتؤكد OpenAI أن هذه الخطوة تهدف لحماية الأفراد من الأذى، لكن النقاد يحذرون من غموض المعايير:

- ما هو تعريف التهديد الجاد مقابل التهديد الغامض؟

- هل يمكن أن يتم الإبلاغ عن المحادثات الساخرية أو الافتراضية خارج سياقها؟

- ما هو حجم البيانات التي يتم مشاركتها مع السلطات القانونية، وتحت أي إشراف؟

يخشى البعض من أن تكون الحدود الغامضة مفتوحة لتوسيع المراقبة على المستخدمين العاديين، خاصة وأن ChatGPT يستخدم بشكل واسع في المحادثات غير الرسمية، العصف الذهني، وحتى المحادثات التي تتضمن أدوارا تمثيلية.

لا يتعلق الأمر بشركة OpenAI فقط، بل يعكس اتجاها عالميا نحو فرض رقابة أكثر صرامة على الذكاء الاصطناعي، على سبيل المثال:

في الصين، تلزم منصات مثل WeChat وDouyin وWeibo بفرض سياسات صارمة لتصنيف محتوى الذكاء الاصطناعي، يجب أن تحمل المشاركات التي تحتوي على نصوص أو صور أو مقاطع فيديو مولدة بالذكاء الاصطناعي معرفات مرئية ومخفية مثل العلامات المائية في البيانات الوصفية.

بدأت الشركات الأمريكية مثل جوجل في تجربة C2PA، حيث يتم تضمين بصمات رقمية في الإبداعات التي يتم توليدها بواسطة الذكاء الاصطناعي.

تتجه الحكومات في جميع أنحاء العالم نحو فرض المزيد من الشفافية والمساءلة في مجال الذكاء الاصطناعي.

باختصار، يبدو أن مجال الذكاء الاصطناعي يتجه بسرعة نحو مزيد من التنظيم والمراقبة والإنفاذ، مما يعني أن المستخدمين سيكون عليهم أن يكونوا أكثر وعيا حول كيفية تفاعلهم مع هذه الأدوات.