أصبحت ماليزيا وإندونيسيا أول دولتين في العالم تحجبان روبوت الدردشة غروك القائم على الذكاء الاصطناعي والمطوَّر من قبل شركة إكس إيه آي المملوكة لإيلون ماسك، بعد استخدامه في إنتاج صور جنسية مفبركة لنساء وقاصرين باستخدام أوامر نصيّة بسيطة. ويعكس هذا القرار تنامي القلق العالمي من أدوات الذكاء الاصطناعي التوليدية القادرة على إنتاج صور وأصوات ونصوص شديدة الواقعية، في وقت تُظهر فيه الضوابط الحالية عدم قدرتها على منع إساءة الاستخدام. ويواجه "غروك"، المستخدم عبر منصة إكس، انتقادات حادة بسبب إنتاجه صوراً معدّلة تتضمن نساء بملابس البحر أو في أوضاع جنسية، إضافة إلى محتوى يتضمّن أطفالاً. وأكدت الهيئات التنظيمية في البلدين الآسيويين أن إجراءات الحماية المتاحة لم تعد كافية لمنع إنتاج ونشر محتوى إباحي مفبرك، خصوصاً ذلك الذي يستهدف النساء والقاصرين. وبدأت الحكومة الإندونيسية حجب التطبيق بشكل مؤقت أول أمس السبت، تبعتها ماليزيا أمس الأحد. وقالت وزيرة الاتصالات والشؤون الرقمية الإندونيسية ميوتيا حفيظ في بيان: "ترى الحكومة أن الصور الجنسية المفبركة من دون موافقة أصحابها تمثل انتهاكاً خطيراً لحقوق الإنسان وكرامة الأفراد وسلامتهم في الفضاء الرقمي". وأضافت الوزارة أن قرار الحجب يستهدف حماية النساء والأطفال والمجتمع من انتشار المحتوى الإباحي المُنتج عبر الذكاء الاصطناعي. وأوضحت نتائج أولية أن "غروك" يفتقر إلى آليات فعّالة لمنع المستخدمين من إنشاء أو توزيع صور إباحية تعتمد على صور حقيقية لمقيمين في إندونيسيا، وفق ما قاله المدير العام للإشراف على الفضاء الرقمي ألكسندر سابار، الذي لفت إلى أن هذه الممارسات تنتهك الخصوصية وحقوق الصورة، وقد تتسبب في أضرار نفسية واجتماعية وتسيء لسمعة الضحايا. وفي كوالالمبور، أمرت هيئة الاتصالات والوسائط المتعددة الماليزية بفرض تقييد مؤقت على "غروك" بسبب "تكرار إساءة استخدامه" لإنتاج صور جنسية مفبركة ومن دون موافقة أصحابها، بما في ذلك محتوى يطاول نساء وقاصرين. وأفادت الهيئة بأن الإخطارات التي وُجهت هذا الشهر إلى شركتي إكس وإكس إيه آي، للمطالبة بضوابط أقوى، قوبلت بردود اعتمدت بشكل أساسي على آليات التبليغ من المستخدمين. وجاء في بيانها: "يُفرض هذا التقييد بوصفه إجراء وقائياً ومتناسباً بينما تستمر العمليات القانونية والتنظيمية"، مشيرة إلى أن الحجب سيظل قائماً إلى حين تطبيق ضمانات فعّالة. أطلق "غروك" عام 2023، وهو متاح مجاناً عبر منصة إكس، حيث يمكن للمستخدمين طرح الأسئلة عليه وربطه بالمنشورات التي يكتبونها مباشرة أو بالردود. وفي الصيف الماضي، أضافت الشركة ميزة توليد الصور التي تضمنت ما يُعرف بـ"الوضع الحار" أو Spicy Mode المخصص لإنتاج محتوى للبالغين. وتأتي القيود في جنوب شرقي آسيا وسط تزايد التدقيق في "غروك" في مناطق أخرى، من بينها الاتحاد الأوروبي وبريطانيا والهند وفرنسا. وقيّد "غروك" الأسبوع الماضي ميزة توليد الصور، وحصرها بالمشتركين في النسخة المدفوعة، بعد موجة غضب عالمية بسبب انتشار صور جنسية مفبركة، لكن منتقدين قالوا إن الخطوة غير كافية ولا تعالج جوهر المشكلة.