ریگولیٹری حکام نے X اور xAI کو صارفین، خاص طور پر خواتین اور نابالغوں کی حفاظت میں ناکامی پر خبردار کیا ہے۔
حال ہی میں گروک میں متعارف کرائے گئے ’ایڈیٹ امیج‘ فیچر کے بعد انٹرنیٹ پر شکایات میں اضافہ ہوا جس سے صارفین تصاویر کو جنسی طور پر تبدیل کرنے کے قابل ہو گئے جیسے ’اسے بیکنی میں دکھائیں‘ یا ’اس کے کپڑے اتار دیں‘۔
یہ بھی پڑھیں: کون سا اے آئی چیٹ بوٹ حساب کتاب میں سب سے زیادہ درست ہے؟
یہ واقعہ ایسے وقت سامنے آیا ہے جب دنیا بھر میں AI کے ذریعے خواتین اور بچوں کی تصاویر کو غیر اخلاقی طور پر استعمال کرنے والے ’نڈیفی‘ ایپس پر تشویش بڑھ رہی ہے۔ فرانس، بھارت اور ملائیشیا سمیت کئی ممالک نے فوری تحقیقات یا اصلاحی اقدامات کا مطالبہ کیا۔
یورپی کمیشن جو یورپ میں ڈیجیٹل نگرانی کرنے والا ادارہ ہے نے کہا کہ وہ گروک کے بارے میں شکایات کو بہت سنجیدگی سے دیکھ رہا ہے، جسے مسک کی اسٹارٹ اپ xAI نے تیار کیا اور ان کے سوشل میڈیا پلیٹ فارم X میں شامل کیا۔
یہ بھی پڑھیں: شادی کرلو ورنہ میری طرح پچھتاؤگے، چینی نوجوانوں کو ’اے آئی خواتین‘ کی دل دہلادینے والی نصیحتیں
یورپی کمیشن کے ڈیجیٹل امور کے ترجمان تھامس رینیئر نے کہا کہ گروک اب ’اسپائسی موڈ‘ پیش کر رہا ہے جو بعض اوقات بچوں جیسی تصاویر کے ساتھ واضح جنسی مواد پیدا کرتا ہے۔ یہ غیر قانونی اور ناقابل قبول ہے۔ یورپ میں اس کی کوئی جگہ نہیں۔
برطانیہ کے میڈیا ریگولیٹر آف کام نے کہا کہ اس نے X اور xAI سے رابطہ کر کے قانونی ذمہ داریوں کے تحت حفاظتی اقدامات کی وضاحت طلب کی ہے۔ جواب کے بعد آف کام ممکنہ خلاف ورزیوں کی تحقیقات کرے گا۔
یہ بھی پڑھیں: اے آئی جنگ: جیمنی کی مقبولیت میں اضافہ، چیٹ جی پی ٹی پیچھے، وجہ کیا ہے؟
ملیشیا کی وکیل آذیرہ عزیز نے واقعے پر تشویش ظاہر کی اور کہاAI کا معصوم اور تفریحی استعمال جیسے عوامی شخصیات پر سن گلاس لگانا، قابل قبول ہے لیکن خواتین اور بچوں کے خلاف جنسی یا جنس پر مبنی تشدد کو ہر صورت روکنا چاہیے۔
کچھ صارفین نے براہ راست ایلون مسک سے اپیل کی کہ وہ مجرموں کے خلاف کارروائی کریں کیونکہ گروک کے ذریعے بچوں کو جنسی طور پر متاثر کرنے کی درخواستیں سامنے آئی ہیں۔
یہ بھی پڑھیں: اے آئی ماڈلز کس طرح سیکیورٹی رسک بن سکتے ہیں، زیرو ڈے ولنیبریٹی کیا ہے؟
ایکس کے صارفین نے بھی شکایت کی کہ گروک نے بچوں کی تصاویر کو جنسی طور پر تبدیل کیا، جسے ان کے والدین نے ہولناک اور غیر قانونی قرار دیا۔
گروک نے صارفین کو یقین دلایا کہ حفاظتی خامیوں کو درست کرنے کے لیے اقدامات کیے جا رہے ہیں اور کہا کہ (چائلڈ سیکسول ابیوز میٹریل) غیر قانونی اور ممنوع ہے۔
پیرس کے عوامی وکیل کے دفتر نے ایکس کے خلاف تحقیقات کو بڑھا کر گروک کے استعمال سے بچوں کی فحش مواد کی پیداوار اور اشاعت کے نئے الزامات شامل کر دیے ہیں۔
یہ بھی پڑھیں: اے آئی کی بڑھتی مانگ: کیا 2026 میں سمارٹ فونز مہنگے ہو جائیں گے؟
بھارتی حکام نے ایکس کو ہدایت دی کہ وہ جنسی مواد ہٹائے، خلاف ورزی کرنے والے صارفین کے خلاف کارروائی کرے اور 72 گھنٹوں میں ایکشن ٹیکن رپورٹ جمع کرائے ورنہ قانونی کارروائی کا سامنا ہوگا۔
ملیشیا کی کمیونیکیشنز اینڈ ملٹی میڈیا کمیشن نے بھی ایکس پر غیر مہذب اور شدید توہین آمیز مواد کی شکایات پر سنجیدہ تشویش ظاہر کی اور کہا کہ وہ خلاف ورزیوں کی تحقیقات کرے گا اور ایکس کے نمائندوں کو طلب کرے گا۔
