"غروك" تقر بثغرات في نظامها بعد بلاغات عن توليدها محتويات جنسية فاضحة

وكتب حساب "غروك" على "إكس"، يوم الجمعة ردا على شكوى أحد المستخدمين بعد أيام من ورود بلاغات على المنصة: "رصدنا ثغرات في إجراءات الحماية لدينا، ونعمل على إصلاحها بشكل عاجل. استغلال الأطفال جنسيا غير قانوني ومحظور".

إقرأ المزيد

الاتحاد الأوروبي يحقق في روبوت "غروك" على "إكس" بسبب تعليقات معادية للسامية والإسلام

وتتعلق هذه البلاغات بأفعال لمستخدمي إنترنت أرسلوا صورا أو مقاطع فيديو لأشخاص حقيقيين، بينهم أطفال ومراهقون، إلى "غروك" وطلبوا من مساعد الذكاء الاصطناعي تعديلها لإظهار عُري كامل أو جزئي.

ولم تُصدر "إكس إيه آي"، شركة الذكاء الاصطناعي التابعة لرجل الأعمال الأمريكي إيلون ماسك والتي طورت "غروك"، أي رد علني على هذا الجدل الأخير المحيط بمساعده الذي سبق أن وُجهت إليه انتقادات في الأشهر الأخيرة بسبب نشره ردودا مثيرة للجدل حول الحرب في غزة والنزاع الهندي الباكستاني وتصريحات معادية للسامية.

واكتفت الشركة بالرد الآلي على استفسارات لوكالة "فرانس برس" قائلة إن "وسائل الإعلام التقليدية تكذب"، من دون أي تعليق إضافي، ومع ذلك، ردّ برنامج "غروك" الآلي التابع للشركة بأن أي شركة في الولايات المتحدة "تُعرّض نفسها للمساءلة المدنية أو الجنائية إذا سهّلت عن علم إنتاج" مواد إباحية للأطفال أو تقاعست عن منعه.

وإضافة إلى القاصرين، طالت ثغرات "غروك" أيضا نساء بالغات، إذ قام البرنامج بتعديل صورهن رقميا على مواقع التواصل الاجتماعي بناء على طلب المستخدمين، لكشفهن دون موافقتهن.

ووجهت وزارة الإلكترونيات وتكنولوجيا المعلومات الهندية إشعارا رسميا إلى "إكس" الجمعة طالبت فيه المنصة بأن تقدّم في غضون 72 ساعة تقريرا مفصلا عن الإجراءات المتخذة لإزالة "المحتوى الفاحش والعاري وغير اللائق والجنسي الصريح" الذي أنشأه تطبيق "غروك" من دون موافقة النساء المعنيات، وفق رسالة نُشرت في الصحافة الهندية.

وفي فرنسا، وسّعت النيابة العامة في باريس الجمعة تحقيقا يستهدف منصة "إكس" ليشمل أداة الذكاء الاصطناعي "غروك" بعدما أفاد ثلاثة وزراء ونائبان بأنها ولّدت ونشرت مقاطع فيديو جنسية زائفة "تُظهِر قُصّرا".

واشتكى الوزراء والنائبان من أن مقاطع فيديو خضعت لتقنية التزييف العميق "ديب فايك" بواسطة "غروك" وتحمل طابعا جنسيا وتُنشر على "إكس" من دون موافقة الأشخاص الظاهرين فيها.

فُتِح هذا التحقيق الذي يستهدف "إكس" منذ يوليو الماضي على إثر بلاغات ضد شبكة التواصل الاجتماعي ومسؤوليها اتهمتهم بالتلاعب بخوارزمية المنصة.

وأوضحت النيابة العامة أن جريمة تركيب صور أو مقاطع فيديو ذات طابع جنسي لشخص من دون موافقته يعاقَب عليها بالسجن سنتين وبدفع غرامة قدرها 60 ألف يورو.

ولجأ النائبان إريك بوتوريل وآرتور دولابورت إلى القضاء الجمعة ما أدى إلى توسيع التحقيقات.

كذلك أعلن الوزراء رولان ليسكور وآن لو أينانف وأورور بيرجيه الجمعة أنهم أبلغوا النيابة العامة عن "محتويات غير مشروعة"، مطالبين بسحبها فورا.

المصدر: فرانس برس

إقرأ المزيد

"رويترز" تفضح ثغرات سياسات "غروك" في إنتاج صور جنسية دون موافقة أصحابها

كشفت وكالة "رويترز" استمرار روبوت الدردشة "غروك" في إنتاج صور ذات طابع جنسي لأشخاص دون موافقتهم، رغم القيود الجديدة التي أعلنتها X للحد من هذا النوع من المحتوى.

تقرير صادم: الذكاء الاصطناعي يضاعف الاستغلال الجنسي للأطفال

وجد تقرير صادر عن مؤسسة مراقبة الإنترنت (IWF) أن متحرشي الأطفال استخدموا الذكاء الاصطناعي لإنتاج أكثر من 3000 مقطع فيديو لإساءة معاملة الأطفال خلال عام 2025.

"تأثير الدومينو".. هيئة سلامة الإنترنت في بريطانيا تفتح تحقيقا بشأن خدمة "Grok" التابعة لمنصة "إكس"

فتحت الهيئة البريطانية المستقلة للسلامة على الإنترنت (أوفكوم)، الاثنين، تحقيقا بشأن روبوت الدردشة الذكي "غروك" التابع لمنصة "إكس" بعد استخدامه في إنشاء صور جنسية للنساء والأطفال.

بعد فضيحة الصور الجنسية.. Grok يعلق خدمة إنشاء الصور

أوقفت منصة X نظام الذكاء الاصطناعي الخاص بها لإنشاء الصور لمعظم المستخدمين، بعد استغلاله لعدة أيام في إنتاج صور مسيئة للنساء والأطفال.

بريطانيا تهدد بفرض إجراءات صارمة تصل إلى الحظر على منصة "إكس"

أفادت صحيفة "ديلي تلغراف" البريطانية بأن المملكة المتحدة قد تتخذ إجراءات صارمة ضد منصة "إكس"، بما في ذلك حظرها بسبب الصور الفاضحة التي ينتجها روبوت "غروك" بواسطة الذكاء الاصطناعي.

"ماسك بالبكيني".. صورة فاضحة تجتاح مواقع التواصل!

أثارت صورة متداولة للملياردير الأمريكي إيلون ماسك بملابس سباحة نسائية تفاعلا واسعا بين رواد التواصل الاجتماعي.

محكمة تركية تحظر برنامج "غروك" للدردشة

حظرت محكمة تركية برنامج الدردشة "غروك" في تركيا، بعد أنباء عن بث البرنامج محتوى مسيئا للرئيس التركي وآخرين.

"واشنطن بوست": خدمة الذكاء الاصطناعي غروك 3 تخالف ماسك بشأن القضايا السياسية

ذكرت صحيفة "واشنطن بوست" أن خدمة الذكاء الاصطناعي "غروك 3" التابعة لرجل الأعمال إيلون ماسك تخالفه تماما بشأن قضايا الهجرة، وكذلك سياسات الإدماج والمساواة.