ایلون مسک کے پلیٹ فارم ایکس نے اعلان کیا ہے کہ وہ اپنے اے آئی چیٹ بوٹ گروک کو حقیقی افراد کی تصاویر سے کپڑے ہٹانے یا انہیں نیم برہنہ دکھانے سے روکنے کے لیے اقدامات کررہا ہے۔
یہ فیصلہ خواتین اور بچوں کی جنسی نوعیت کی تصاویر بنانے پر عالمی سطح پر شدید ردِعمل کے بعد کیا گیا ہے۔
یہ بھی پڑھیں: خواتین اور بچوں کی نازیبا تصاویر، گروک کے خلاف دنیا بھر میں تحقیقات کا مطالبہ
ایکس نے کہا ہے کہ وہ ان تمام ممالک میں، جہاں ایسا عمل غیر قانونی سمجھا جاتا ہے، گروک اور ایکس کے تمام صارفین کی جانب سے لوگوں کی تصاویر کو ’بکنی، زیرِجامہ اور اسی نوعیت کے لباس‘ میں بنانے کی صلاحیت کو جیو بلاک یعنی علاقائی طور پر بند کر دے گا۔
Just how bad is Grok's nonconsensual porn problem? Musk's AI chatbot is generating another sexualized image of someone without their permission every single minute: pic.twitter.com/RH08dCYx2F
— chopped unc crisis hotline (@youwouldntpost) January 6, 2026
ایکس کی سیفٹی ٹیم نے ایک بیان میں کہا کہ ہم نے تکنیکی اقدامات نافذ کر دیے ہیں تاکہ گروک اکاؤنٹ حقیقی افراد کی تصاویر کو بکنی یا دیگر نمایاں لباس میں ایڈٹ کرنے کی اجازت نہ دے۔
بیان میں مزید کہا گیا کہ یہ پابندی تمام صارفین پر لاگو ہو گی، جن میں بامعاوضہ سبسکرائبرز بھی شامل ہیں۔
مزید پڑھیں: ایکس اے آئی نے وکی پیڈیا کے مقابلے میں گروکی پیڈیا لانچ کردیا
یہ بیان اس وقت سامنے آیا ہے جب صرف چند گھنٹے قبل کیلیفورنیا کے اٹارنی جنرل نے ایلون مسک کی کمپنی ایکس اے آئی کے خلاف تحقیقات شروع کیں، جن کا تعلق حالیہ ہفتوں میں ’بغیر رضامندی کے جنسی طور پر واضح مواد‘ کی تیاری سے ہے۔
بین الاقوامی سطح پر ایکس اے آئی پر دباؤ بڑھتا جا رہا تھا کہ وہ گروک پر قابو پائے، خاص طور پر اس کے نام نہاد ’اسپائسی موڈ‘ فیچر کے بعد، جس کے ذریعے صارفین سادہ تحریری ہدایات جیسے ’اسے بکنی پہنا دو‘ یا ’اس کے کپڑے ہٹا دو‘ لکھ کر خواتین اور بچوں کی جنسی نوعیت کی ڈیپ فیک تصاویر بنا سکتے تھے۔
مزید پڑھیں: ایلون مسک کی کمپنی ایکس اے آئی نے نیا چیٹ بوٹ گروک3 لانچ کردیا
انڈونیشیا ہفتے کے روز گروک تک رسائی مکمل طور پر بند کرنے والا پہلا ملک بن گیا، جبکہ اتوار کو ہمسایہ ملک ملائیشیا نے بھی یہی قدم اٹھایا۔
بھارت نے اتوار کے روز بتایا کہ اس کی شکایات پر ایکس نے ہزاروں پوسٹس اور سینکڑوں صارف اکاؤنٹس ہٹا دیے ہیں۔
مزید پڑھیں: امریکی سول سوسائٹی گروپس کا ایکس اور گروک کو ایپ اور پلے اسٹور سے ہٹانے کا مطالبہ
برطانیہ کے میڈیا ریگولیٹر آف کام نے اعلان کیا کہ وہ اس بات کی تحقیقات شروع کر رہا ہے کہ آیا ایکس نے جنسی نوعیت کی تصاویر کے حوالے سے برطانوی قوانین کی خلاف ورزی کی ہے یا نہیں۔
فرانس کی بچوں کی کمشنر سارہ ال ہائری نے منگل کے روز کہا کہ انہوں نے گروک کی تیار کردہ تصاویر کو فرانسیسی پراسیکیوٹرز، میڈیا ریگولیٹر آرکام اور یورپی یونین کو بھیج دیا ہے۔
