امریکی ریاست ٹینیسی میں چند کم عمر لڑکوں اور ایک بالغ شخص نے ٹیکنالوجی کمپنی ایکس اے آئی اور اس کے مالک ایلون مسک کے خلاف مقدمہ دائر کر دیا ہے۔
مقدمے میں الزام عائد کیا گیا ہے کہ کمپنی کے چیٹ بوٹ گروک نے ان کی تصاویر کو غیر اخلاقی انداز میں تبدیل کر کے بچوں سے متعلق فحش مواد تیار کرنے کی اجازت دی۔
مدعیان کے مطابق گزشتہ دسمبر میں گرفتار ایک شخص نے سوشل میڈیا پلیٹ فارم انسٹاگرام سے حاصل کردہ تصاویر کو استعمال کرتے ہوئے گروک کے ذریعے کم عمر افراد کی جعلی اور نامناسب تصاویر بنائیں۔
یہ بھی پڑھیں: خواتین اوربچوں کی ڈیپ فیک تصاویر، گروک کے ’اسپائسی موڈ‘ پر پابندی
یہ تصاویر بعد ازاں ڈسکورڈ اور ٹیلی گرام جیسے پلیٹ فارمز پر پھیلائی گئیں اور بعض کیسز میں انہیں دیگر غیر قانونی مواد کے تبادلے کے لیے بھی استعمال کیا گیا۔
شکایت میں مؤقف اختیار کیا گیا ہے کہ اگر کوئی مصنوعی ذہانت کا ماڈل بالغ افراد کی جنسی نوعیت کی تصاویر بنا سکتا ہے تو اسے کم عمر بچوں کے ایسے مواد بنانے سے روکنا ممکن نہیں رہتا۔ مدعیان کے وکیل نے کہا کہ یہ بچے زندگی بھر اس صدمے کا سامنا کریں گے کیونکہ ان کی جعلی مگر نامناسب تصاویر انٹرنیٹ پر موجود رہیں گی۔
مزید پڑھیں: امریکی سول سوسائٹی گروپس کا ایکس اور گروک کو ایپ اور پلے اسٹور سے ہٹانے کا مطالبہ
گزشتہ کچھ عرصے سے ایلون مسک اور ان کے اے آئی ٹول گروک کو مختلف ممالک میں تنقید کا سامنا ہے، کیونکہ یہ ٹیکنالوجی خواتین اور لڑکیوں کی بغیر اجازت ڈیپ فیک تصاویر بنانے کے لیے استعمال ہو رہی تھی۔
تنقید کے بعد کمپنی نے تصاویر بنانے کی سہولت محدود کر دی اور 15 جنوری کو گروک کے ذریعے تصاویر میں لوگوں کو برہنہ بنانے کی صلاحیت بند کرنے کا اعلان کیا۔
برازیل، برطانیہ اور اسپین سمیت کئی ممالک ان الزامات پر تحقیقات بھی کر رہے ہیں۔
مزید پڑھیں: خواتین اور بچوں کی نازیبا تصاویر، گروک کے خلاف دنیا بھر میں تحقیقات کا مطالبہ
مقدمے میں شامل ایک متاثرہ لڑکی کی والدہ نے بتایا کہ جب ان کی بیٹی کو معلوم ہوا کہ اس کی جعلی تصاویر آن لائن پھیل چکی ہیں تو اسے شدید ذہنی دباؤ اور گھبراہٹ کا سامنا کرنا پڑا۔
انہوں نے کہا کہ بیٹی کی تعلیمی سال کی خوشیاں اب خوف میں بدل چکی ہیں کہ اس کی کوئی بھی تصویر دوبارہ غلط استعمال ہو سکتی ہے۔
کیس کی مرکزی وکیل انیکا مارٹن نے کہا کہ وہ ایلون مسک سے یہ سوال پوچھنا چاہتی ہیں کہ کیا وہ بطور والد اس صورتحال کو قبول کر سکتے ہیں کہ ان کے اپنے بچے کی تصویر یا آواز کو اس طرح غلط اور غیر اخلاقی مواد میں استعمال کیا جائے۔
