يدعو مجلس الرقابة في Meta الشركة إلى تحديث قواعدها بشأن التزييف العميق الجنسي الصريح. وقدم المجلس هذه التوصيات ضمن قراره في قضيتين تتعلقان بصور لشخصيات عامة تم إنشاؤها باستخدام الذكاء الاصطناعي.
وتأتي هذه الحالات في أعقاب شكويين من المستخدمين بشأن الصور التي أنشأها الذكاء الاصطناعي لشخصيات عامة، على الرغم من رفض المجلس تسمية الأشخاص. منشور تم نشره على موقع Instagram يظهر امرأة هندية عارية.
تم الإبلاغ عن المنشور إلى Meta، ولكن تم إغلاق التقرير تلقائيًا بعد 48 ساعة، كما هو الحال مع السيرة الذاتية اللاحقة للمستخدم.
قامت الشركة في النهاية بإزالة المنشور بعد أن لفت انتباه مجلس الرقابة إليه، لكن هذا ألغى قرار ميتا الأصلي بترك الصورة.
وأظهر المنشور الثاني، الذي تمت مشاركته في مجموعة على فيسبوك حول فن الذكاء الاصطناعي، “صورة تم إنشاؤها بواسطة الذكاء الاصطناعي لامرأة عارية بينما يتلمس رجل ثدييها.” قامت ميتا تلقائيًا بإزالة المنشور لأنه تمت إضافته إلى نظام داخلي يمكنه التعرف على الصور تم الإبلاغ عنها مسبقًا للشركة. وخلص مجلس الرقابة إلى أن ميتا كانت على حق في حذف المنشور.
وفي كلتا الحالتين، قالت الهيئة الرقابية إن التزييف العميق للذكاء الاصطناعي انتهك قواعد الشركة التي تحظر الصور المعدلة بالفوتوشوب ذات “الطبيعة الجنسية المسيئة”. ومع ذلك، في توصياته إلى Meta، قال مجلس الرقابة إن اللغة المستخدمة حاليًا في هذه القواعد قديمة وقد تجعل من الصعب على المستخدمين الإبلاغ عن الصور الصريحة التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
وبدلاً من ذلك، يقول المجلس إنه يجب عليه تحديث سياساته لتوضيح أن الصور الصريحة وغير التوافقية التي يتم إنشاؤها أو التلاعب بها بواسطة الذكاء الاصطناعي محظورة. وكتب المجلس: “يتم إنشاء العديد من الصور الجنسية غير التوافقية المتداولة عبر الإنترنت اليوم باستخدام نماذج الذكاء الاصطناعي التوليدية التي تقوم إما بتحرير الصور الموجودة تلقائيًا أو إنشاء صور جديدة تمامًا”. تقنيات التحرير مفهومة لكل من المستخدمين ومسؤولي الشركة.
وانتقد مجلس الإدارة أيضًا ممارسة ميتا المتمثلة في إغلاق طعون المستخدمين تلقائيًا، والتي قالوا إنها قد يكون لها “تأثير كبير على حقوق الإنسان” للمستخدمين. ومع ذلك، قال المجلس إنه ليس لديه “معلومات كافية” حول هذه الممارسة لتقديم توصية.
أصبح انتشار صور الذكاء الاصطناعي الصريحة قضية ذات أهمية متزايدة حيث أصبحت “الإباحية المزيفة العميقة” شكلاً واسع الانتشار من أشكال المضايقات عبر الإنترنت في السنوات الأخيرة. ويأتي قرار اللجنة بعد يوم من موافقة مجلس الشيوخ الأمريكي بالإجماع على مشروع قانون يهدف إلى اتخاذ إجراءات صارمة ضد التزييف العميق الصريح. وإذا دخل هذا الإجراء حيز التنفيذ، فيمكن للضحايا مقاضاة منشئي هذه الصور بمبلغ يصل إلى 250 ألف دولار.
ليست هذه هي المرة الأولى التي يدفع فيها مجلس الرقابة شركة Meta لتحديث قواعدها المتعلقة بالمحتوى الذي ينشئه الذكاء الاصطناعي. وفي قضية أخرى رفيعة المستوى، حققت اللجنة في مقطع فيديو تم تعديله بشكل ضار للرئيس جو بايدن. أدت هذه القضية في النهاية إلى قيام شركة ميتا بمراجعة إرشاداتها لتصنيف المحتوى الناتج عن الذكاء الاصطناعي.
