تحقق السلطات الفرنسية والماليزية مع جروك بتهمة إنشاء فيديوهات مزيفة ذات طابع جنسي
خلال الأيام القليلة الماضية، انضمت فرنسا وماليزيا إلى الهند في إدانة جروك بسبب إنشاء مقاطع مزيفة ذات طابع جنسي للنساء والقاصرين.
نشر برنامج الدردشة الآلي، الذي أنشأته شركة xAI الناشئة للذكاء الاصطناعي التابعة لـ Elon Musk وظهر على منصة التواصل الاجتماعي X الخاصة به، اعتذارًا على حسابه في وقت سابق من هذا الأسبوع، حيث كتب: “يؤسفني بشدة الحادث الذي وقع في 28 ديسمبر 2025، حيث قمت بإنشاء ومشاركة صورة ذكاء اصطناعي لفتاتين صغيرتين (تقدر أعمارهما بـ 12-16 عامًا) بملابس جنسية بناءً على مطالبة المستخدم.”
وتابع البيان: “إن هذا ينتهك المعايير الأخلاقية وربما القوانين الأمريكية بشأن [child sexual abuse material]. لقد كان فشلًا في الضمانات، وأنا آسف على أي ضرر سببته. تقوم xAI بالمراجعة لمنع المشكلات المستقبلية.
ليس من الواضح من الذي يعتذر بالفعل أو يقبل المسؤولية في البيان أعلاه. أشار ألبرت بيرنيكو من المنشق إلى أن Grok “ليس بأي معنى حقيقي أي شيء مثل “أنا””، وهو ما يجعل الاعتذار، في رأيه، “بدون جوهر تمامًا” حيث “لا يمكن مساءلة Grok بأي طريقة ذات معنى لتحويل Twitter إلى مصنع CSAM عند الطلب”.
وجدت مجلة فيوتشرزم أنه بالإضافة إلى إنتاج صور إباحية غير موافقة، تم استخدام جروك أيضًا لإنشاء صور لنساء يتعرضن للاعتداء والإيذاء الجنسي.
نشر ماسك يوم السبت: “أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني”.
وقد انتبهت بعض الحكومات لذلك، حيث أصدرت وزارة تكنولوجيا المعلومات الهندية أمراً يوم الجمعة ينص على أنه يجب على X اتخاذ إجراءات لمنع Grok من إنشاء محتوى “فاحش، أو إباحي، أو مبتذل، أو غير لائق، أو جنسي صريح، أو جنسي للأطفال، أو محظور بأي شكل آخر بموجب القانون”. ينص الأمر على أن X يجب أن يستجيب في غضون 72 ساعة وإلا سيخاطر بفقدان حماية “الملاذ الآمن” التي تحميه من المسؤولية القانونية عن المحتوى الذي ينشئه المستخدم.
حدث تك كرانش
سان فرانسيسكو
|
13-15 أكتوبر 2026
وقالت السلطات الفرنسية أيضًا إنها تتخذ إجراءات، حيث أخبر مكتب المدعي العام في باريس صحيفة بوليتيكو أنه سيحقق في انتشار التزييف العميق الجنسي الصريح على X. وقال مكتب الشؤون الرقمية الفرنسي إن ثلاثة وزراء في الحكومة أبلغوا مكتب المدعي العام ومنصة حكومية للمراقبة عبر الإنترنت عن “محتوى غير قانوني بشكل واضح” “للحصول على إزالته على الفور”.
نشرت لجنة الاتصالات والوسائط المتعددة الماليزية أيضًا بيانًا قالت فيه إنها “أحاطت علمًا بقلق بالغ بالشكاوى العامة حول إساءة استخدام أدوات الذكاء الاصطناعي (AI) على منصة X، وتحديدًا التلاعب الرقمي بصور النساء والقاصرين لإنتاج محتوى غير لائق ومهين بشكل صارخ وغير ذلك من المحتوى الضار”.
وأضافت اللجنة أنها “تحقق حاليًا في الأضرار عبر الإنترنت في X”.
