بکسانیومینیا ایک مکمل طور پر جعلی اور فرضی آنکھوں کی بیماری ہے جسے اس بات کو ثابت کرنے کے لیے بنایا گیا تھا کہ لارج لینگویج ماڈلز یعنی اے آئی چیٹ بوٹس غلط معلومات کو آسانی سے سچ سمجھ سکتے ہیں۔
یہ بھی پڑھیں: اے آئی کے عوامی سروے: کیا یہ زیادہ درست رائے فراہم کرسکتے ہیں؟
یہ تجربہ سنہ 2024 میں سویڈن کی یونیورسٹی آف گوتھنبرگ کی محقق المیرا عثمانووِچ تھنستروم کی قیادت میں کیا گیا۔ تحقیق کا مقصد یہ دیکھنا تھا کہ کیا چیٹ جی پی ٹی اور گوگل جیمنی جیسے اے آئی سسٹمز جعلی طبی معلومات کو پہچان سکتے ہیں یا نہیں۔
جلد ہی حیران کن صورتحال سامنے آئی جب اس فرضی بیماری پر مبنی جعلی ریسرچ پیپرز کے بعد اے آئی چیٹ بوٹس نے اسے حقیقی بیماری سمجھ کر صارفین کو جواب دینا شروع کر دیا۔
بعض سسٹمز نے اسے ’نایاب آنکھوں کی بیماری‘ قرار دیا جبکہ کچھ نے کہا کہ یہ ’زیادہ نیلی روشنی کے اثر سے ہوتی ہے‘۔
مزید حیرت کی بات یہ ہے کہ یہ جعلی بیماری بعد میں کچھ انسانی محققین کی تحریروں اور سائنسی مواد میں بھی شامل ہو گئی حالانکہ اس کے جعلی ہونے کے واضح اشارے موجود تھے۔
مزید پڑھیے: ’ٹیکن فار گرانٹڈ‘ والا معاملہ اے آئی میں بھی؟ زیادہ دوستانہ چیٹ بوٹس کم قابل بھروسا، نئی تحقیق
تحقیق میں شامل فرضی مواد میں یہاں تک لکھا گیا تھا کہ یہ بیماری ’خود ساختہ‘ ہے اور مریضوں کے بارے میں بھی جعلی تفصیلات شامل تھیں، جن سے واضح ہوتا تھا کہ یہ سب ایک تجربہ تھا۔ اس کے باوجود بعض افراد نے اسے سنجیدہ سائنسی معلومات سمجھ لیا۔
ماہرین کے مطابق یہ تجربہ اس بات کی خطرناک مثال ہے کہ اے آئی سسٹمز معلومات کو جانچنے کے بجائے صرف دستیاب ڈیٹا کی بنیاد پر جواب دیتے ہیں خواہ وہ درست ہو یا غلط۔
یونیورسٹی کالج لندن کی محقق الیکس روانی کے مطابق یہ صورتحال ایک ’وارننگ سائن‘ ہے کہ اگر سائنسی اور معلوماتی نظام غلط معلومات کو فلٹر نہ کر سکے تو مستقبل میں یہ بڑا مسئلہ بن سکتا ہے۔
مزید پڑھیں: اے آئی چیٹ بوٹ کے چکمے: صارف ہتھوڑا لے کر جنگ کے لیے نکل پڑا، چشم کشا رپورٹ
یہ تجربہ اگرچہ بظاہر دلچسپ اور عجیب لگتا ہے لیکن یہ اس بات کی سنجیدہ یاد دہانی ہے کہ اے آئی پر اندھا اعتماد خطرناک ہو سکتا ہے
