حملة واسعة ضد "جروك" بسبب انتهاكات ضد القاصرين

سمح تطبيق غروك، الذي ابتكره إيلون ماسك مؤخرا، للمستخدمين بإنشاء صور فاضحة للأطفال، بما في ذلك ممثلة قاصر من مسلسل "Stranger Things"، وفق موقع "أكسيوس".

وقال الموقع الأمريكي إن هذه الحوادث تؤكد كيف يمكن لبرنامج الدردشة الآلي - المصرح باستخدامه رسميا من قبل الحكومة - أن ينشر الضرر ويعرض القاصرين للخطر، وهو واقع قد يصبح أكثر تواترا مع تسارع تبني الذكاء الاصطناعي .

وخلال الأيام القليلة الماضية، استخدم مستخدمو "إكس" تطبيق غروك لإزالة الملابس من صور الممثلة نيل فيشر، البالغة 14 عامًا، من مسلسل "Stranger Things" على نتفليكس.

في المقابل، أقرّت شركة "غروك"، الجمعة، بوجود "ثغرات" سمحت للمستخدمين بالحصول على صور جنسية فاضحة تُظهر قصّراً أو نساء، في تجاوزات أثارت انتقادات عالمية ودفعت إلى توسيع نطاق تحقيق قضائي في فرنسا.

وكتب حساب "غروك" على "إكس"، الجمعة، ردًا على شكوى أحد المستخدمين بعد أيام من ورود بلاغات على المنصة: "رصدنا ثغرات في إجراءات الحماية لدينا، ونعمل على إصلاحها بشكل عاجل.. استغلال الأطفال جنسيا غير قانوني ومحظور"، بحسب الوكالة الفرنسية.

وقالت الوكالة إن هذه البلاغات تتعلق بأفعال لمستخدمي إنترنت أرسلوا صورا أو مقاطع فيديو لأشخاص حقيقيين، بينهم أطفال ومراهقون، إلى "غروك"، وطلبوا من مساعد الذكاء الاصطناعي تعديلها لإظهار عُري كامل أو جزئي.

وبحسب "فرانس برس"، ردّ برنامج "غروك" الآلي التابع للشركة على مستخدم للإنترنت بأن أي شركة في الولايات المتحدة "تُعرّض نفسها للمساءلة المدنية أو الجنائية إذا سهّلت عن علم إنتاج" مواد إباحية للأطفال أو تقاعست عن منعه.

وإضافة إلى القاصرين، طالت ثغرات "غروك" أيضا نساء بالغات، إذ قام البرنامج بتعديل صورهن رقميا على مواقع التواصل الاجتماعي بناء على طلب مستخدمي الإنترنت، لكشفهن.

تحقيقات موسعة
ووجهت وزارة الإلكترونيات وتكنولوجيا المعلومات الهندية إشعارا رسميا إلى "إكس"، الجمعة، طالبت فيه المنصة بأن تقدّم في غضون 72 ساعة تقريرا مفصلًا عن الإجراءات المتخذة لإزالة "المحتوى الفاحش والعاري وغير اللائق والجنسي الصريح" الذي أنشأه تطبيق غروك من دون موافقة النساء المعنيات، وفق رسالة نُشرت في الصحافة الهندية.

وفي فرنسا، وسّعت النيابة العامة في باريس، الجمعة، تحقيقا يستهدف منصة "إكس" ليشمل أداة الذكاء الاصطناعي المدمجة فيها "غروك" بعدما أفاد ثلاثة وزراء ونائبان بأنها ولّدت ونشرت مقاطع فيديو جنسية زائفة "تُظهِر خصوصا القُصّر".

واشتكى الوزراء والنائبان من أن مقاطع فيديو خضعت لتقنية التزييف العميق "ديب فايك" بواسطة "غروك"، ولها طابع جنسي تُنشر على "إكس" من دون موافقة الأشخاص الظاهرين فيها.

وفُتِح هذا التحقيق الذي يستهدف "إكس" منذ يوليو/تموز على إثر بلاغات ضد شبكة التواصل الاجتماعي ومسؤوليها اتهمتهم بالتلاعب بخوارزمية المنصة.

وأوضحت النيابة العامة أن "جريمة تركيب صور أو مقاطع فيديو ذات طابع جنسي لشخص من دون موافقته تُعاقَب بالسجن سنتين وغرامة قدرها 60 ألف يورو"، مؤكدة خبرا نشره موقع "بوليتيكو".

ولجأ النائبان إريك بوتوريل، وآرتور دولابورت، إلى القضاء، الجمعة؛ ما أدى إلى توسيع التحقيقات.

كذلك أعلن الوزراء رولان ليسكور، وآن لو أينانف، وأورور بيرجيه، الجمعة، أنهم أبلغوا النيابة العامة عن "محتويات غير مشروعة"، مطالبين "بسحبها فورا".

استعادة حظوة البيت الأبيض
وتأتي أحدث انتكاسة لشركة غروك في وقت يحاول فيه إيلون ماسك استعادة حظوة البيت الأبيض، وأيضا في الوقت الذي تتنافس فيه الشركة على عقود حكومية مربحة لمنتجاتها من الذكاء الاصطناعي، وفق تقدير موقع "أكسيوس".

ولفت إلى أن السيدة الأولى ميلانيا ترامب أيدت قانون إزالة المحتوى، الذي تم توقيعه ليصبح قانونا، في العام الماضي، ويستهدف على وجه التحديد الصور الجنسية غير الرضائية على الإنترنت، مما يجعل فشل شركة "إكس إيه آي" التابعة لإيلون ماسك والتي طورت "غروك"، في منع هذه المواد أسوأ.

وأوضح الموقع أن إدارة ترامب قامت بدمج "إكس إيه آي" في سير العمل الفيدرالي في وقت سابق من هذا العام، حيث وقعت عقدا لمدة 18 شهرا يسمح باستخدام برنامج الدردشة الآلي للأعمال الحكومية الرسمية.

وتم إبرام تلك الصفقة رغم ائتلاف يضم أكثر من 30 جماعة مناصرة للمستهلكين، حث الحكومة على منع شركة غروك بسبب افتقارها لاختبارات السلامة وتحيزها الأيديولوجي.

وواجهت شركة "إكس إيه آي" انتقادات متكررة في السنوات القليلة الماضية لنشرها معلومات مضللة والترويج لوجهات نظر موالية لمالكها إيلون ماسك.

وتعرض تطبيق غروك لانتقادات بسبب إضافته تعليقات تزعم زورا وجود " إبادة جماعية للبيض " في جنوب أفريقيا، في محادثات غير ذات صلة في مايو/أيار الماضي، كما تم انتقاده لنشره معلومات مضللة حول الانتخابات خلال حملة العام 2024.

بالإضافة إلى ذلك، أظهر برنامج الدردشة الآلي نزعة معادية للسامية لفترة وجيزة في يوليو/تموز الماضي، وهو ما أقر به ماسك نفسه بأنه نتيجة للتلاعب من قبل المستخدمين، وأن الشركة ستعالج هذا الأمر.

والعام الماضي، وعد ماسك ببناء "مركز امتياز جديد للثقة والسلامة"، حيث يمكن لمشرفي المحتوى مراقبة التطبيق للمساعدة في تطبيق قواعد السلامة الخاصة بـ"إكس".

ولم تحدد شركة "إكس" موعد بدء تشغيل المركز، لكن رئيس العمليات التجارية في الشركة آنذاك، صرح لبلومبيرغ بأنه من "المهم" القيام "باستثمارات لمواصلة منع المخالفين" من استخدام المنصة لأي محتوى غير لائق.