-

Openai تواصل جهودها للتضييق على المحتوى المنشأ

(اخر تعديل 2024-05-10 22:16:11 )
بواسطة

أصبحت أدوات إنشاء الصور المعتمدة على الذكاء الاصطناعي متطورة للغاية لدرجة يصعب تمييز الصور التي تم إنشاؤها عن الصور الحقيقية. يثير هذا التقدم مخاوف جهات عديدة، مثل OpenAI، بشأن إمكانية إساءة استخدام هذه الأدوات.

حرصًا على الشفافية وإحترام الأصالة، كانت شركة OpenAI قد بدأت بالفعل في وضع علامات مائية على الصور المُنتجة بواسطة الذكاء الاصطناعي DALL-E 3. والآن تواصل الشركة جهودها من خلال تطوير أداة جديدة تُمكّن من التمييز بفعالية بين الصور الحقيقية وتلك التي تم إنشاؤها بواسطة النموذج DALL-E الذي يُحوّل النصوص إلى صور.

أعلنت شركة OpenAI في منشور جديد على مدونتها الرسمية أنها تعمل على طرق جديدة لاكتشاف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. ووفقًا للشركة، فإن الهدف هو مساعدة الباحثين على دراسة صحة المحتوى والانضمام إلى Coalition for Content Provenance and Authenticity Steering Committee (C2PA)، وهو معيار يُستخدم على نطاق واسع لمنح الشواهد للمحتوى الرقمي. سيسمح هذا لصناع المحتوى الرقمي بوضع علامة على المحتوى الخاص بهم والمصادقة عليه للتحقق من أصله الحقيقي.

أعلنت OpenAI كذلك عن خططها لدمج بيانات C2PA أيضًا في أداة Sora الخاصة بها، والتي تم الكشف عنها مؤخرًا. تتيح Sora للمستخدمين تحويل النصوص إلى مقاطع فيديو. وتشير التوقعات إلى أن Sora ستكون خدمة مدفوعة مشابهة لـ DALL-E 3، حيث سيكون الوصول إليها مقصورًا على المشتركين. وبحسب تقارير سابقة، فمن المقرر أن تصبح Sora متاحة للجمهور في وقت لاحق من العام 2024.

كما ذكرنا أعلاه، تعمل OpenAI أيضًا على أداة جديدة تستخدم الذكاء الاصطناعي لاكتشاف الصور التي تم إنشاؤها بواسطة DALL-E 3. وبشكل أكثر تحديدًا، فإنه يتنبأ بإحتمالية إنشاء الصورة بواسطة الأداة. ووفقًا للشركة، لا يزال من الممكن إكتشاف الصورة بعد ضغطها، أو تعديل التشبع فيها، أو حتى في حالة قصها. ناهيك عن أن هذه الأداة تهدف إلى أن تكون أكثر مقاومة لمحاولات إزالة الإشارات المتعلقة بأصل المحتوى.

تقول الشركة الناشئة إن دقة هذه الأداة في إكتشاف الصور التي تم إنشاؤها بواسطة DALL-E تصل إلى 98%، والأهم من ذلك، أنها لا تُعرف الصور التي لم يتم إنشاؤها بواسطة الذكاء الاصطناعي على أنها صور تم إنشاؤها بواسطة الذكاء الاصطناعي.

لقد وفرت الشركة بالفعل إمكانية تقديم الطلبات للوصول إلى أداة الكشف عن الصور الجديدة للدفعة الأولى من المختبرين، والذين يشملون مختبرات الأبحاث والمؤسسات الإعلامية غير الربحية، وتهدف إلى جمع التعليقات والملاحظات من هؤلاء الباحثين قبل إطلاقها على نطاق واسع.

المصدر.