حظر «غروك» يشعل الجدل حول رقابة الذكاء الاصطناعي عالميًا

أعلنت إندونيسيا، يوم السبت، حظرًا مؤقتًا على روبوت الدردشة «غروك» التابع لإيلون ماسك، بسبب مخاطر تتعلق بإنتاج محتوى إباحي مولّد بالذكاء الاصطناعي، لتكون بذلك أول دولة تتخذ خطوة من هذا النوع بحق الأداة.
وجاء القرار في ظل موجة إدانات وتحقيقات فتحتها حكومات وهيئات تنظيمية من أوروبا إلى آسيا، على خلفية انتشار محتوى جنسي عبر التطبيق، شمل صورًا مزيفة وقضايا تتعلق بالأطفال. وفي محاولة لمعالجة الثغرات، أعلنت شركة «xAI» المطوّرة لـ«غروك» أنها ستقصر ميزة إنشاء وتحرير الصور على المشتركين في الباقات المدفوعة فقط.
وأكد وزير الاتصالات والشؤون الرقمية الإندونيسي، موتيا حفيظ، أن التزييف الجنسي العميق من دون موافقة يشكل انتهاكًا خطيرًا لحقوق الإنسان وكرامته وأمن المستخدمين في الفضاء الرقمي، مشيرًا إلى أن السلطات استدعت مسؤولي منصة «إكس» لبحث تداعيات القضية.
من جهته، شدد إيلون ماسك على أن أي مستخدم يوظف «غروك» لإنتاج محتوى غير قانوني سيواجه العواقب القانونية نفسها كما لو قام بنشره بنفسه.
وتأتي هذه الإجراءات في بلد يطبق قوانين صارمة ضد المحتوى الفاحش على الإنترنت، في إطار سعيه لحماية القاصرين وضبط استخدام تقنيات الذكاء الاصطناعي.