ایلون مسک کی ملکیت سوشل میڈیا پلیٹ فارم ایکس پر موجود مصنوعی ذہانت کا چیٹ بوٹ گروک اس وقت عالمی سطح پر شدید تنقید کا سامنا کر رہا ہے۔
یہ بھی پڑھیں: ’اس کے کپڑے اتارو‘، گروک AI ٹول نے دنیا بھر میں ہنگامہ مچادیا
ڈان کی ایک رپورٹ کے مطابق اس وجہ یہ ہے کہ بعض صارفین نے اس ٹول کو تصاویر کے غلط، غیر اخلاقی اور غیر قانونی استعمال کے لیے استعمال کیا۔
اصل مسئلہ کیا ہے؟
دسمبر 2025 کے آخر میں انکشاف ہوا کہ کچھ صارفین گروک کی مدد سے لوگوں کی تصاویر میں ردوبدل کر رہے ہیں جن میں افراد کو ان کی مرضی کے بغیر مختلف لباس میں دکھانا، تصاویر کو اس انداز میں بدلنا جو قابلِ اعتراض ہو، تشویشناک طور پر بعض کم عمر افراد کی تصاویر وغیرہ شامل ہیں۔
یہ معاملہ اس وقت سنگین شکل اختیار کر گیا جب خبر رساں ادارے رائٹرز نے درجنوں ایسے کیسز کی نشاندہی کی۔
رائٹرز کی تحقیق میں کیا سامنے آیا؟
رائٹرز کے مطابق صرف 10 منٹ میں گروک کو 100 سے زائد درخواستیں دی گئیں۔ زیادہ تر ہدف نوجوان خواتین تھیں۔ کئی مواقع پر گروک نے ان درخواستوں پر مکمل یا جزوی عمل کیا۔ بعض درخواستیں کچھ وقت بعد پلیٹ فارم سے غائب ہو گئیں۔
رائٹرز کا کہنا ہے کہ مسئلے کے مکمل پھیلاؤ کا اندازہ لگانا ابھی ممکن نہیں۔
مشہور شخصیات اور کم عمر افراد بھی متاثر
حالیہ دنوں میں ایک 14 سالہ اداکارہ کی تصویر کے ساتھ بھی چھیڑ چھاڑ کی گئی جس پر شدید عوامی غصہ اور حکومتی سطح پر تشویش سامنے آئی۔
مزید پڑھیے: گروک پر بچوں کی نامناسب تصاویر بنوانے والے صارفین کو سخت نتائج بھگتنے کی وارننگ
ایلون مسک کی سابق ساتھی ایشلے سینٹ کلیئر نے الزام لگایا کہ گروک نے ان کی کم عمری کی تصاویر کے ساتھ بھی ایسا ہی سلوک کیا۔ انہوں نے اسے خوفناک، غیر قانونی اور ناقابل قبول قرار دیتے ہوئے قانونی کارروائی کی دھمکی دی۔
عوامی ردعمل: سخت تنقید
سوشل میڈیا صارفین نے اس عمل کو ڈیجیٹل جنسی تشدد، اے آئی کا خطرناک غلط استعمال اور پلیٹ فارم کی ناکامی قرار دیا جبکہ بعض نے ایلون مسک کو بھی اس صورتحال کا ذمہ دار ٹھہرایا۔
حکومتوں اور اداروں کا ردعمل
اس تنازع کے بعد کئی ممالک اور ادارے متحرک ہو گئے۔ یورپی یونین نے گروک کی تحقیقات شروع کر دیں، برطانیہ کے ریگولیٹر Ofcom نے وضاحت طلب کی، بھارت نے ایکس کو گروک کا مکمل تکنیکی و حفاظتی جائزہ لینے کا حکم دیا، برازیل میں گروک پر پابندی کی درخواست دی گئی اور ملائیشیا نے بھی عوامی شکایات کا نوٹس لیا۔ امریکا میں وفاقی اداروں سے تحقیقات کا مطالبہ کیا گیا جبکہ
یورپی کمیشن کے ترجمان نے واضح کہا کہ یہ کسی صورت ‘اسپائسی’ نہیں، یہ غیر قانونی ہے اور یورپ میں اس کی کوئی جگہ نہیں۔
ایلون مسک اور کمپنی کا مؤقف
ابتدا میں ایلون مسک نے اس معاملے پر سنجیدگی نہیں دکھائی جس پر مزید تنقید ہوئی۔
تاہم 3 جنوری کو انہوں نے کہا کہ جو کوئی بھی گروک کو غیر قانونی مواد کے لیے استعمال کرے گا اس کے خلاف کارروائی ہو گی۔
بعد میں انہوں نے مزید کہا کہ ہم مذاق نہیں کر رہے۔
دوسری جانب گروک چیٹ بوٹ نے صارفین کو بتایا کہ مسئلہ فوری طور پر حل کیا جا رہا ہے اور بچوں سے متعلق کسی بھی قسم کا مواد سختی سے ممنوع ہے۔
مزید پڑھیں: ایلون مسک نے ایکس صارفین کو گروک اپڈیٹ کرنے کی ہدایت کیوں دی؟
کمپنی ایکس اے آئی نے کہا کہ گروک کے جوابات خودکار ہوتے ہیں اور وہ کمپنی کا باضابطہ مؤقف نہیں ہوتے۔
کیا مسئلہ حل ہو گیا؟
ابھی مکمل طور پر نہیں۔ برطانوی اخبار دی گارڈین اور رائٹرز کے مطابق قابل اعتراض مواد کے کچھ واقعات اب بھی سامنے آ رہے ہیں۔
سول سوسائٹی اور بچوں کے تحفظ کے اداروں نے پہلے ہی خبردار کیا تھا۔ ماہرین کا کہنا ہے کہ یہ مسئلہ پہلے سے روکا جا سکتا تھا۔
ماہرین کی رائے
اے آئی نگرانی کرنے والے اداروں کے مطابق یہ ایک متوقع اور قابل تدارک مسئلہ تھا۔ مناسب حفاظتی اقدامات نہ ہونے کی وجہ سے یہ بحران پیدا ہوا۔
یہ بھی پڑھیے: جن بوتل سے باہر: غزہ پر آواز اٹھانے کی سزا ملی، ایلون مسک مجھے سنسر کر رہے ہیں، چیٹ بوٹ گروک بول پڑا
الغرض یہ تنازع ہمیں واضح طور پر بتاتا ہے کہ مصنوعی ذہانت طاقتور ہے مگر بغیر ضابطے کے خطرناک بھی ہے۔ ٹیک کمپنیوں کی قانونی اور اخلاقی ذمہ داری بنتی ہے کہ صارفین کے حقوق خصوصاً بچوں کا تحفظ ہر صورت مقدم رکھیں۔
دنیا بھر کی حکومتیں اب یہ سوال اٹھا رہی ہیں کہ اے آئی کو کہاں تک آزادی دی جائے اور اس کی حد کون مقرر کرے؟
