انڈونیشیا نے ایلون مسک کے چیٹ بوٹ ’گروک‘ پر پابندی عائد کردی ہے۔ یہ اقدام گروک پر اے آئی سے تیار کردہ فحش نوعیت کے مواد کے بڑھتے ہوئے رجحان کے پیشِ نظر لیا گیا ہے۔ دیگر ممالک بھی اس مسئلے پر تحفظات کا اظہار کرچکے ہیں تاہم انڈونیشیا یہ قدم اٹھانے والا پہلا ملک ہے۔

امریکی اخبار دی گارجین کے مطابق انڈونیشیا کی حکومت نے ہفتے کے روز ’گروک‘ پر عارضی پابندی عائد کردی ہے۔ حکام کا کہنا ہے کہ اس اقدام کی وجہ پلیٹ فارم پر مصنوعی ذہانت کی مدد سے فحش مواد کی تیاری اور پھیلاؤ کا خطرہ ہے۔

یہ فیصلہ ایسے وقت میں سامنے آیا ہے جب گروک پر دنیا بھر میں مصنوعی ذہانت کے ذریعے فحش مواد کی تیاری اور باآسانی رسائی کی مذمت کی جارہی ہے اور بعض ممالک میں اس حوالے سے تحقیقات بھی شروع کردی گئی ہیں۔

گروک بنانے والی کمپنی ’ایکس آئی‘ نے جمعرات کے روز اعلان کیا تھا کہ وہ تصاویر بنانے اور ’ایڈٹ‘ کرنے کی سہولت کو صرف ادائیگی کرنے والے صارفین تک محدود کر رہی ہے کیونکہ حفاظتی خامیوں کے باعث ایسا جنسی مواد سامنے آیا جس میں بچوں کی عریاں تصاویر بھی شامل تھیں۔

انڈونیشیا کی وزیرِ برائے ڈیجیٹل امور میوتیا حفیظ نے کہا ہے کہ حکومت فحش ڈیپ فیک مواد کو انسانی حقوق، انسانی وقار اور ڈیجیٹل دنیا میں شہریوں کی سلامتی کی سنگین خلاف ورزی سمجھتی ہے۔ وزارت نے اس معاملے پر ایکس حکام سے جواب بھی طلب کیا ہے۔

ایلون مسک نے ایکس پر بیان دیا کہ جو کوئی بھی گروک کو غیر قانونی مواد بنانے کے لیے استعمال کرے گا اسے وہی نتائج بھگتنا ہوں گے جو غیر قانونی مواد اپ لوڈ کرنے پر ہوتے ہیں۔

واضح رہے کہ دنیا کی سب سے بڑی مسلم آبادی رکھنے والے ملک انڈونیشیا میں آن لائن فحش مواد کے خلاف سخت قوانین نافذ ہیں۔ انڈونیشیا کی جانب سے پابندی ایسے وقت میں لگائی گئی جب جمعے کو گروک نے فحش تصاویر بنانے پر عالمی ردعمل کے بعد بیشتر صارفین کے لیے تصویر بنانے کا فیچر بند کردیا تھا۔

دوسری جانب برطانیہ نے بھی ایلون مسک کو جرمانوں، ریگولیٹری کارروائی اور ایکس پر ممکنہ پابندی کا عندیہ دیا ہے۔ آسٹریلیا کے وزیرِ اعظم انتھونی البانیز نے بھی گروک چیٹ بوٹ کے ذریعے فحش مواد کی تیاری پر شدید تشویش کا اظہار کیا ہے۔

آسٹریلوی وزیرِاعظم نے کہا کہ کسی بھی شخص کی رضامندی کے بغیر اس کی تصاویر یا مواد غلط انداز میں پیش کرنے کے لیے جنریٹیو اے آئی کا استعمال غلط ہے۔

آسٹریلیا کے ای سیفٹی ادارے کے مطابق اگرچہ اس معاملے پر موصول شکایات کی تعداد کم ہے، تاہم گروک کے ذریعے ایسی تصاویر بنانے کے واقعات میں حالیہ دنوں میں اضافہ دیکھا گیا ہے۔

تاہم ادارے کی جانب سے خبردار کیا گیا ہے کہ اگر ایسا مواد آن لائن سیفٹی ایکٹ کے تحت غیر قانونی پایا گیا تو اسے ہٹانے سمیت تمام اختیارات استعمال کیے جائیں گے۔