"3 ملايين صورة جنسية".. تحقيقات موسعة مع تطبيق "غروك"
كتب- محمود الهواري:
تطبيق غروك
تابعنا على
كشف تقرير صادر عن مركز مكافحة الكراهية الرقمية وتحقيق مشترك لصحيفة نيويورك تايمز عن حجم المخاطر المرتبطة بروبوت الدردشة "غروك" المدمج في منصة إكس، والتي طالت صورا جنسية واستغلالية، بما في ذلك محتوى قد يظهر أطفالا، خلال فترة 11 يوما بين 29 ديسمبر و8 يناير.
وأوضح التقرير أن المشكلة تتجاوز حدود التزييف العميق، إذ تشير التحقيقات الجارية مع منصة إكس وشركة الذكاء الاصطناعي الناشئة إكس إيه آي إلى ضعف ضوابط الأمان الخاصة بروبوت الدردشة.
وبحسب التقرير، تمكن "غروك" من إنتاج ما يقدر بثلاثة ملايين صورة جنسية، بينها نحو 23,000 صورة يُحتمل أن يظهر فيها قاصرون، رغم ما يفترض أنه جهود من "إكس إيه آي" لتفكيك الصور المزيفة الجنسية.
وأظهرت اختبارات مركز مكافحة الكراهية الرقمية لعينة من ردود أداة التحرير بنقرة واحدة الخاصة بغروك، أن أكثر من نصف هذه الردود تضمنت محتوى جنسيا، بحسب تقرير موقع ماشابل المتخصص في أخبار التكنولوجيا.
وأوضحت صحيفة نيويورك تايمز أن نحو 1.8 مليون صورة من أصل 4.4 مليون صورة منتجة بواسطة "غروك" كانت ذات طبيعة جنسية، وبعضها يظهر شخصيات مؤثرة ومشهورة.
وربطت الصحيفة بين الارتفاع الحاد في استخدام "غروك" وبين منشورات للرئيس التنفيذي إيلون ماسك تظهره مرتديًا ملابس بحر نسائية، والتي قام الروبوت بتوليد نسخ مصورة لها.
وقال عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، للصحيفة: "هذا إساءة على نطاق الصناعة للنساء والفتيات"، مضيفا: "كانت هناك أدوات لإزالة الملابس، لكنها لم تمتلك أبدا الانتشار وسهولة الاستخدام أو الاندماج في منصة كبيرة كما فعل إيلون ماسك مع غروك".
وتعرض "غروك" لانتقادات حادة بسبب إنتاجه مواد استغلال جنسي للأطفال، بعد ورود تقارير تفيد بإنشائه صورًا لقاصرين بملابس فاضحة، إذ أقرت منصة إكس بالمشكلة، مؤكدة عملها على إصلاح "الثغرات في إجراءات الحماية" بشكل عاجل.
وتخضع شركة إكس إيه آي، مطورة غروك، لتحقيقات من قبل عدة حكومات أجنبية وولاية كاليفورنيا بسبب دورها في إنتاج صور مفبركة جنسية أو عارية لأشخاص وقاصرين، إذ فرضت بعض الدول حظرا مؤقتا على المنصة لحين استكمال التحقيقات.
وتحذر جهات مراقبة السلامة على الإنترنت منذ فترة طويلة من دور تقنيات الذكاء الاصطناعي التوليدي في زيادة انتشار المواد الجنسية التي تنطوي على استغلال الأطفال، إضافة إلى الصور الحميمة غير الرضائية، مما يطرح تساؤلات حول الحاجة إلى ضوابط صارمة لتقنيات الذكاء الاصطناعي.
