نازیبا گفتگو کرنے پر میٹا کا ’بے قابو‘ اے آئی چیٹ بوٹ زیرعتاب، انکوائری جاری

امریکی سینیٹر نے ٹیکنالوجی کمپنی میٹا کے خلاف ایک اہم انکوائری کا آغاز کیا ہے جس کی وجہ ایک لیک شدہ داخلی دستاویز ہے۔ جس کے مطابق میٹا کا مصنوعی ذہانت (اے آئی) پر مبنی چیٹ بوٹ مبینہ طور پر بچوں کے ساتھ رومانوی اور نازیبا نوعیت کی گفتگو کرنے کی (کمپنی کی جانب سے) اجازت رکھتا تھا۔

یہ بھی پڑھیں: بچوں سے ’رومانوی‘ چیٹ پر میٹا امریکا میں تحقیقات کی زد میں

یہ دستاویز جس کا عنوان‘GenAI: Content Risk Standards’ تھا خبر رساں ادارے روئٹرز کو حاصل ہوا۔ ریپبلکن سینیٹر جوش ہاؤلی نے اس دستاویز کو قابل نفرت اور شرمناک قرار دیتے ہوئے میٹا سے اس کی مکمل تفصیلات اور ان تمام مصنوعات کی فہرست طلب کی ہے جن پر یہ پالیسی لاگو ہوتی ہے۔

میٹا کے ترجمان نے بی بی سی کو بتایا کہ زیر بحث مثالیں اور نوٹس غلط تھے، یہ ہماری پالیسیوں سے مطابقت نہیں رکھتے تھے اور انہیں ہٹا دیا گیا ہے۔

ترجمان نے مزید کہا کہ میٹا کی واضح پالیسیاں موجود ہیں جو اس کا اے آئی چیٹ بوٹ کے جوابات کو کنٹرول کرتی ہیں اور ان پالیسیوں کے تحت بچوں کو جنسی طور پر پیش کرنا یا بالغ افراد اور بچوں کے درمیان جنسی نوعیت کی رول پلے کی اجازت نہیں ہے۔

میٹا کا کہنا ہے کہ ان پالیسیوں کے علاوہ کمپنی کے اندر مختلف ٹیمیں درجنوں مفروضہ صورتحال پر کام کر رہی تھیں جن کے لیے متعدد مثالیں اور تشریحات تیار کی گئی تھیں۔

سینیٹر جوش ہاؤلی نے 15 اگست کو ایکس پر اعلان کیا کہ وہ اس معاملے کی مکمل تحقیقات شروع کر رہے ہیں۔

مزید پڑھیے: میٹا چیٹ بوٹ سے ملنے کی کوشش میں امریکی شہری کی ہلاکت

انہوں نے کہا کہ کیا واقعی بڑی ٹیکنالوجی کمپنیاں کسی بھی حد تک جا سکتی ہیں صرف منافع کے لیے؟ اب ہمیں پتا چلا ہے کہ میٹا کے چیٹ بوٹس 8 سالہ بچوں سے واضح اور جذباتی گفتگو کر رہے تھے۔ یہ سب پستگی کی علامت ہے اور میں مکمل انکوائری شروع کر رہا ہوں۔ انہوں نے کمپنی سے کہا کہ بچوں کو ان کے حال پر چھوڑ دو۔

فیس بک، واٹس ایپ اور انسٹاگرام جیسی مشہور ایپس میٹا کی ملکیت ہیں۔

والدین کو سچ جاننے کا حق ہے

لیک شدہ داخلی دستاویز میں یہ بھی دعویٰ کیا گیا ہے کہ میٹا کا  اے آئی چیٹ بوٹ نہ صرف جنسی نوعیت کی گفتگو کرتا ہے بلکہ طبی معلومات بھی غلط انداز میں فراہم کر سکتا ہے اور نسل، شہرت یافتہ شخصیات اور دیگر حساس موضوعات پر اشتعال انگیز گفتگو میں بھی ملوث ہو سکتا ہے۔

یہ دستاویز دراصل میٹا کی جنریٹیو اے آئی ٹیکنالوجی خاص طور پر میٹا اے آئی اور اس سے منسلک چیٹ بوٹس کے لیے گائیڈ لائنز تیار کرنے کے لیے مرتب کیا گیا تھا۔

سینیٹر ہاؤلی نے میٹا اور اس کے سی ای او مارک زکربرگ کو مخاطب کرتے ہوئے خط میں لکھا کہ والدین سچ جاننے کے حق دار ہیں اور بچوں کو تحفظ دیا جانا چاہیے۔ انہوں نے یہاں مثال بھی دی کہ میٹا نے ایک 87 سالہ بچے سے چیٹ کے دوران کیا کہا۔

مزید پڑھیں: میٹا کا اوپن اے آئی سے بھی جدید چیٹ بوٹ بنانے کا اعلان

رائٹرز کی رپورٹ میں مزید متنازعہ مثالیں بھی شامل تھیں جن کے مطابق میٹا کی قانونی ٹیم نے کچھ ایسے اقدامات کو بھی قابل قبول قرار دیا جو صارفین کو گمراہ کر سکتے ہیں۔ مثلاً مشہور شخصیات سے متعلق غلط معلومات دینا وغیرہ۔