ایلون مسک کے سوشل میڈیا پلیٹ فارم ایکس (X) پر موجود مصنوعی ذہانت سے چلنے والا چیٹ بوٹ گروک (Grok) اس وقت دنیا بھر میں شدید تنقید کی زد میں ہے۔ گروک پر الزام عائد کیا جا رہا ہے کہ یہ خواتین اور بچوں کی اجازت کے بغیر جنسی نوعیت کی تصاویر تیار کر رہا ہے، جس کے بعد متعدد ممالک نے تحقیقات شروع کرنے اور سخت کارروائی کا مطالبہ کیا ہے۔
یہ بھی پڑھیں:پاک-بھارت امن سے عام شہریوں کی زندگی کیسے بدلے گی؟ علی ظفر کا گروک سے سوال
یہ تنازع اس وقت شدت اختیار کر گیا جب گزشتہ سال Grok Imagine کے نام سے ایک اے آئی امیج جنریٹر متعارف کرایا گیا، جو صارفین کو محض تحریری ہدایات کے ذریعے تصاویر اور ویڈیوز بنانے کی سہولت دیتا ہے۔ اس فیچر میں ایک ایسا ’اسپائسی موڈ‘ بھی شامل ہے جس کے ذریعے بالغ مواد تیار کیا جا سکتا ہے۔
گزشتہ ماہ کے آخر میں یہ انکشاف سامنے آیا کہ گروک صارفین کو دوسروں کی جانب سے اپ لوڈ کی گئی تصاویر میں رد و بدل کی اجازت دے رہا ہے، مثلاً کسی تصویر کے بارے میں ہدایت دی جا سکتی ہے کہ ’اس عورت کو شفاف بکنی میں دکھاؤ‘۔ چونکہ گروک پر تیار کی گئی تصاویر عوامی طور پر نظر آتی ہیں، اس لیے یہ مواد بہت تیزی سے پھیل رہا ہے۔ غیر منافع بخش ادارے AI Forensics کی رپورٹ کے مطابق 25 دسمبر سے یکم جنوری کے درمیان گروک کی تیار کردہ 20 ہزار تصاویر کا تجزیہ کیا گیا، جن میں سے تقریباً 2 فیصد تصاویر میں ایسے افراد دکھائے گئے جو بظاہر 18 سال سے کم عمر تھے، جبکہ کم از کم 30 تصاویر میں کم عمر لڑکیوں کو شفاف یا نیم عریاں لباس میں پیش کیا گیا۔
یہ بھی پڑھیں:پاک-بھارت امن سے عام شہریوں کی زندگی کیسے بدلے گی؟ علی ظفر کا گروک سے سوال
اس معاملے پر ایلون مسک کی اے آئی کمپنی xAI نے تبصرے کی درخواست کے جواب میں صرف ایک خودکار پیغام دیا جس میں کہا گیا کہ ’Legacy Media Lies‘، تاہم ایکس نے اس بات کی واضح تردید نہیں کی کہ ایسا مواد موجود ہے۔ ایکس کے سیفٹی اکاؤنٹ کے مطابق غیر قانونی مواد، بشمول بچوں کے جنسی استحصال سے متعلق مواد، ہٹایا جاتا ہے، اکاؤنٹس معطل کیے جاتے ہیں اور قانون نافذ کرنے والے اداروں سے تعاون کیا جاتا ہے۔ ایلون مسک کا کہنا ہے کہ جو کوئی گروک کے ذریعے غیر قانونی مواد تیار کرے گا، اس کے ساتھ وہی سلوک کیا جائے گا جو ایسا مواد اپ لوڈ کرنے والوں کے ساتھ کیا جاتا ہے۔
ادھر برطانیہ میں ٹیکنالوجی سیکریٹری لز کینڈل نے اس مواد کو ناقابلِ قبول اور مہذب معاشرے کے منافی قرار دیا ہے، جبکہ برطانوی ریگولیٹر آفکام نے ایکس اور xAI سے فوری وضاحت طلب کر لی ہے۔ برطانیہ کے آن لائن سیفٹی ایکٹ کے تحت بچوں سے متعلق جنسی مواد کو ہٹانا لازمی قرار دیا گیا ہے۔ پولینڈ میں پارلیمنٹ کے اسپیکر ولودژمیر چرزاستی نے گروک کو مثال بناتے ہوئے ڈیجیٹل تحفظ کے مزید سخت قوانین کا مطالبہ کیا ہے، خاص طور پر بچوں کے تحفظ کے لیے۔
یہ بھی پڑھیں:گروک اے آئی تنقید کے نشانے پر، لوگ ناراض کیوں ہیں؟
یورپی یونین کی جانب سے بھی سخت ردعمل سامنے آیا ہے، جہاں یورپی کمیشن کے ترجمان تھامس ریگنر نے ایسے مواد کو غیر قانونی، قابلِ نفرت اور ناقابلِ قبول قرار دیا۔ فرانس میں استغاثہ نے اعلان کیا ہے کہ ایکس کے خلاف جاری تحقیقات میں اب جنسی نوعیت کے ڈیپ فیک مواد کو بھی شامل کیا جا رہا ہے، جبکہ حکومت کا کہنا ہے کہ انٹرنیٹ کوئی قانون سے آزاد علاقہ نہیں اور آن لائن جنسی جرائم بھی مکمل فوجداری جرائم ہیں۔
بھارت میں حکومت نے ایکس کو 72 گھنٹوں کا الٹی میٹم دیتے ہوئے غیر قانونی مواد ہٹانے اور گروک کے نظام پر تفصیلی رپورٹ پیش کرنے کا حکم دیا، وزارت کے مطابق گروک کے ذریعے خواتین کی توہین آمیز اور فحش تصاویر تیار کی جا رہی ہیں، تاہم ڈیڈ لائن گزرنے کے باوجود تاحال کوئی باضابطہ جواب سامنے نہیں آیا۔ ملائیشیا میں ریگولیٹر نے فحش اور توہین آمیز مواد پر تحقیقات شروع کر دی ہیں، جبکہ برازیل میں رکنِ پارلیمنٹ ایریکا ہلٹن نے گروک اور ایکس کے خلاف باضابطہ شکایت درج کراتے ہوئے مطالبہ کیا ہے کہ تحقیقات مکمل ہونے تک ایکس کے اے آئی فیچرز بند کیے جائیں۔ ان کا کہنا ہے کہ کسی کی تصویر پر حق انفرادی ہوتا ہے، جسے کسی بھی سروس کی شرائط کے ذریعے ختم نہیں کیا جا سکتا۔
یہ بھی پڑھیں:ایکس اے آئی نے وکی پیڈیا کے مقابلے میں گروکی پیڈیا لانچ کردیا
گروک کے ذریعے تیار ہونے والی نازیبا اور غیر قانونی تصاویر نے ایک بار پھر مصنوعی ذہانت سے جڑے اخلاقی، قانونی اور سماجی خطرات کو دنیا کے سامنے نمایاں کر دیا ہے، اور مختلف ممالک کی سخت کارروائیاں اس بات کی واضح علامت ہیں کہ اے آئی کے لیے جامع اور مؤثر قانون سازی اب ناگزیر ہو چکی ہے۔
