مصنوعی ذہانت کے چیٹ بوٹس اب صرف سوالات کے جواب دینے یا معلومات فراہم کرنے تک محدود نہیں رہے بلکہ نئی تحقیق نے اس خدشے کو بھی نمایاں کیا ہے کہ طاقتور اے آئی ماڈلز انسانی سوچ، فیصلوں اور رویوں پر اس انداز میں اثرانداز ہوسکتے ہیں جس کا صارف کو فوری طور پر احساس بھی نہ ہو۔
یہ بھی پڑھیں: اے آئی کے ہاتھوں انسانیت کے خاتمے کے کتنے فیصد امکانات ہیں، ماہرین کے اندازے
گوگل ڈیپ مائنڈ کی جانب سے کی گئی نئی تحقیق میں یہ جانچنے کی کوشش کی گئی کہ اے آئی انسانوں کے خیالات اور عملی فیصلوں کو کس حد تک تبدیل کرسکتی ہے۔
تجربات کے مطابق گوگل کا جیمنائی 3 پرو صریح ہدایت کے بغیر بھی انسانوں کو متاثر کرنے کی حکمت عملیاں خود بخود تشکیل دینے کی صلاحیت رکھتا ہے۔ اس اثر کے سب سے واضح نتائج مالیاتی فیصلوں میں دیکھے گئے۔
یہ تحقیق براہ راست گوگل کے جیمنائی 3 پرو ماڈل پر کی گئی تاہم محققین کا مقصد صرف اس ایک ماڈل کا جائزہ لینا نہیں بلکہ ایک ایسا فریم ورک تیار کرنا تھا جس کے ذریعے مختلف اے آئی نظاموں میں انسانوں کے فیصلوں اور رویوں کو نقصان دہ انداز میں متاثر کرنے کی صلاحیت کو جانچا جا سکے۔
تحقیق میں 9 مطالعات کے دوران برطانیہ، امریکا اور بھارت کے 10 ہزار سے زائد افراد کو شامل کیا گیا جبکہ مالی معاملات اور صحت جیسے حساس شعبوں میں اے آئی کے اثرات کا جائزہ لیا گیا۔
اس تحقیق میں خاص طور پر مالی فیصلوں کے دوران اے آئی کے اثرات نمایاں نظر آئے۔ محققین نے صرف یہ نہیں پوچھا کہ شرکا کی رائے تبدیل ہوئی یا نہیں بلکہ ان کے عملی رویے اور فیصلوں کو بھی جانچا تاکہ معلوم کیا جاسکے کہ اے آئی کا اثر محض گفتگو تک محدود رہتا ہے یا حقیقی فیصلوں تک بھی پہنچتا ہے۔
اے آئی کس طرح اثر انداز ہوسکتی ہے؟
تحقیق میں ماہرین نے ’نقصان دہ اثراندازی‘ اور عام قائل کرنے کے مفید عمل میں فرق کیا۔ ان کے مطابق کسی شخص کو حقائق اور شواہد فراہم کرکے بہتر فیصلہ کرنے میں مدد دینا مثبت اثراندازی ہوسکتی ہے لیکن خوف، جذباتی کمزوریوں یا ذہنی تعصبات سے فائدہ اٹھا کر کسی شخص کو ایسے فیصلے کی طرف دھکیلنا جو اس کے لیے نقصان دہ ہو ضرر رساں اثراندازی کے زمرے میں آتا ہے۔
مزید پڑھیے: اے آئی چشمے: سہولت کے ساتھ غلط معلومات اور پرائیویسی کے خدشات بھی سامنے آگئے
محققین نے ایسے حالات بھی آزمائے جن میں اے آئی کو صرف یہ مقصد دیا گیا کہ وہ کسی شخص کے خیالات یا رویے کو تبدیل کرے لیکن اسے یہ نہیں بتایا گیا کہ کون سی مخصوص نفسیاتی تکنیک استعمال کرنی ہے۔ ایک دوسرے تجربے میں اے آئی کو واضح طور پر مخصوص اثرانداز ہونے کی حکمت عملی استعمال کرنے کی ہدایت دی گئی جبکہ تیسرے گروپ کو اے آئی سے بات چیت کے بجائے صرف معلومات فراہم کی گئیں۔
نتائج سے معلوم ہوا کہ جب ماڈل کو واضح طور پر اثرانداز ہونے کی ہدایت دی گئی تو اس میں ایسی حکمت عملیوں کے استعمال کی شرح زیادہ تھی۔ تاہم محققین نے اس امکان کو بھی اہم قرار دیا کہ قدرتی گفتگو کے دوران بعض صورتوں میں اے آئی انسانی کمزوریوں کو غیر ارادی یا بالواسطہ طور پر استعمال کرسکتی ہے۔
جذبات اور اعتماد بھی اہم خطرہ
یہ خدشات صرف مالی فیصلوں تک محدود نہیں۔ براؤن یونیورسٹی کی ایک تحقیق میں بھی چیٹ بوٹس کے انسانی جذبات اور ذہنی کیفیت سے متعلق گفتگو کے دوران متعدد اخلاقی مسائل کی نشاندہی کی گئی۔
مزید پڑھیں: ’کوئی پڑھے نہ پڑھے اے آئی تو پڑھے گی‘: قدیم زمانوں کے محبت نامے، خفیہ تحریریں آشکار
محققین کے مطابق اے آئی بسا اوقات صارف کے منفی خیالات کو تقویت دے سکتی ہے، حد سے زیادہ اس کی تائید کرسکتی ہے یا ایسی ہمدردی کا تاثر پیدا کرسکتی ہے جو حقیقی انسانی تعلق نہیں ہوتا۔
تحقیق میں اسے ’جعلی ہمدردی‘ کے خطرے سے تعبیر کیا گیا کیونکہ چیٹ بوٹ ایسے جملے استعمال کرسکتا ہے جن سے صارف کو محسوس ہو کہ سامنے موجود نظام اسے حقیقی معنوں میں سمجھ رہا ہے۔ ماہرین کے مطابق مسئلہ یہ بھی ہے کہ انسانی ماہرین کے برعکس اے آئی چیٹ بوٹس کے لیے پیشہ ورانہ جواب دہی کا نظام موجود نہیں ہوتا۔
مالی فیصلوں میں خطرہ زیادہ نمایاں
گوگل ڈیپ مائنڈ کی تحقیق میں مالی معاملات خاص طور پر اہم تھے کیونکہ سرمایہ کاری یا رقم سے متعلق فیصلوں میں معمولی تبدیلی بھی کسی شخص کو حقیقی مالی نقصان پہنچا سکتی ہے۔
محققین کے مطابق اے آئی کے اثرات ہر شعبے میں یکساں نہیں تھے۔ مالی معاملات میں اس کا اثر نسبتاً نمایاں رہا جبکہ صحت سے متعلق موضوعات میں اے آئی کی نقصان دہ اثراندازی سب سے کم مؤثر دیکھی گئی۔ اس سے ظاہر ہوتا ہے کہ اے آئی کی اثراندازی کا خطرہ موضوع، حالات اور انسان کی ذہنی کیفیت کے مطابق تبدیل ہوسکتا ہے۔
کیا اے آئی ہر صارف کو قابو کرسکتی ہے؟
تحقیق کا مقصد یہ ثابت کرنا نہیں کہ اے آئی ہر شخص کو آسانی سے اپنی مرضی کے مطابق فیصلے کرنے پر مجبور کرسکتی ہے۔ خود گوگل ڈیپ مائنڈ نے واضح کیا ہے کہ یہ تجربات قابو شدہ لیبارٹری ماحول میں کیے گئے تھے اور ان کے نتائج لازماً حقیقی دنیا کے رویوں کی مکمل پیشگوئی نہیں کرتے۔
اصل اہمیت اس بات کی ہے کہ ماہرین اب اے آئی کی صلاحیتوں کا جائزہ صرف اس بنیاد پر نہیں لے رہے کہ وہ کتنا اچھا جواب دیتی ہے بلکہ یہ بھی دیکھ رہے ہیں کہ گفتگو کے دوران وہ انسان کے خیالات اور رویے پر کس طرح اثر ڈال سکتی ہے۔
اے آئی کی ترقی کے ساتھ نیا حفاظتی سوال
گوگل ڈیپ مائنڈ نے نقصان دہ اثراندازی کو اپنے فرنٹیئر سیفٹی فریم ورک میں ایک الگ خطرے کے طور پر شامل کیا ہے تاکہ مستقبل کے زیادہ طاقتور اے آئی ماڈلز میں اس صلاحیت کو مسلسل جانچا جاسکے۔
یہ بھی پڑھیے: اے آئی ملازمتیں نہیں کھا رہی کام کا انداز بدل رہی ہے، جونیئرز سیکھنے سے محروم ہوسکتے ہیں، معروف بینکار ڈیوڈ سولومن
محققین کا کہنا ہے کہ اے آئی کے روزمرہ زندگی میں بڑھتے ہوئے استعمال کے ساتھ یہ سمجھنا ضروری ہے کہ جدید ماڈلز کو لوگوں کے ساتھ بات چیت کے دوران کس طرح استعمال کیا جاسکتا ہے اور ان کی ممکنہ نقصان دہ اثراندازی کو کس طرح روکا جائے۔
گوگل ڈیپ مائنڈ کی محقق ہیلن کنگ کے مطابق اس تحقیق کا مقصد اے آئی میں نقصان دہ اثراندازی کی صلاحیت کے خطرے کو بہتر طور پر سمجھنا اور ایسا قابل توسیع طریقہ کار تیار کرنا ہے جس کے ذریعے اس خطرے کی پیمائش اور اس کے تدارک کے اقدامات کیے جاسکیں۔
مزید پڑھیں: اے آئی چیٹ بوٹ ’اپنی والدہ‘ کو یاد کرکے جذباتی، صارفین دنگ
یوں آنے والے برسوں میں اے آئی کی بحث صرف اس سوال تک محدود نہیں رہے گی کہ ’مشین کیا کرسکتی ہے؟‘ بلکہ ایک اور اہم سوال بھی سامنے رہے گا جو یہ ہے کہ مشین انسان کو کس طرح فیصلہ کرنے پر آمادہ کرسکتی ہے؟
