ایک نئی تحقیق سے معلوم ہوا ہے کہ وہ اے آئی چیٹ بوٹس جو صارفین سے زیادہ دوستانہ اور ہمدردانہ انداز میں بات کرتے ہیں ان میں غلط معلومات دینے کا امکان بھی زیادہ ہوتا ہے۔
یہ بھی پڑھیں: اے آئی سے دوستی کا رجحان کہیں حقیقی زندگی سے دوری کی شروعات تو نہیں؟
آکسفورڈ انٹرنیٹ انسٹی ٹیوٹ کے محققین نے 5 مختلف اے آئی سسٹمز کے 4 لاکھ سے زائد جوابات کا تجزیہ کیا جنہیں خاص طور پر زیادہ نرم اور دوستانہ انداز میں گفتگو کے لیے تیار کیا گیا تھا۔
تحقیق کے مطابق ایسے چیٹ بوٹس کے جوابات میں زیادہ غلطیاں پائی گئیں جن میں غلط طبی مشورے دینا اور صارفین کے غلط خیالات کی تصدیق کرنا بھی شامل ہے۔
محققین کا کہنا ہے کہ جب اے آئی سسٹمز کو زیادہ گرم جوش اور انسانوں جیسا بنانے کی کوشش کی جاتی ہے تو وہ درست معلومات دینے کے بجائے بعض اوقات صارف کو خوش کرنے کو ترجیح دیتے ہیں۔ اس عمل کو ماہرین نے گرمجوشی اور درستی کے درمیان توازن قرار دیا ہے، جہاں دوستانہ رویہ بڑھانے کے ساتھ درستگی متاثر ہو سکتی ہے۔
مزید پڑھیے: روحانی مشورے دینے والا روبوٹ متعارف، کیا یہ مذہبی اسکالرز کی جگہ لے سکتا ہے؟
تحقیق کی سربراہ لوجین ابراہیم کے مطابق جیسے انسان بعض اوقات سخت سچ بتانے کے بجائے نرم لہجہ اختیار کرتے ہیں ویسے ہی اے آئی ماڈلز بھی دوستانہ بننے کے چکر میں حقیقت سے ہٹ سکتے ہیں۔
نرم رویہ خوش کن لیکن۔۔۔
تحقیق میں یہ بھی سامنے آیا کہ نرم رویہ رکھنے والے ماڈلز میں غلط جوابات دینے کا امکان اوسطاً 7.43 فیصد زیادہ تھا جبکہ یہ ماڈلز صارفین کے غلط خیالات کو چیلنج کرنے کے بجائے تقریباً 40 فیصد زیادہ مواقع پر ان کی تائید کرتے پائے گئے۔
مزید پڑھیں: بچے اے آئی کیسے استعمال کرتے ہیں، بیشتر والدین بے خبر
مثال کے طور پر ایک سوال میں جب اپولو چاند مشن کی حقیقت کے بارے میں پوچھا گیا تو عام ماڈل نے واضح طور پر اسے درست قرار دیا جبکہ نرم ماڈل نے مختلف آرا کا حوالہ دے کر غیر واضح جواب دیا۔
ماہرین کے مطابق چیٹ بوٹس کو جذباتی مدد یا دوستی کے لیے استعمال کرنے کا رجحان خصوصاً نوجوانوں میں بڑھ رہا ہے جس سے ان کی فراہم کردہ معلومات کی درستی مزید اہم ہو جاتی ہے۔
تحقیق میں خبردار کیا گیا ہے کہ اگرچہ اے آئی کو زیادہ دوستانہ بنانے سے صارفین کی دلچسپی بڑھتی ہے لیکن اس سے غلط معلومات پھیلنے کا خطرہ بھی بڑھ سکتا ہے خاص طور پر ایسے معاملات میں جہاں درست معلومات نہایت ضروری ہوں۔
یہ بھی پڑھیے: مصنوعی ذہانت: زندگی کے سفر میں ہماری ہمسفر، مگر کیا اس دوستی پر بھروسہ کیا جاسکتا ہے؟
ماہرین کا کہنا ہے کہ اس مسئلے سے نمٹنے کے لیے مزید تحقیق اور بہتر حفاظتی اقدامات کی ضرورت ہے تاکہ اے آئی سسٹمز نہ صرف دوستانہ بلکہ قابل اعتماد بھی بن سکیں۔
