مصنوعی ذہانت سے متعلق ایک نئی اور چونکا دینے والی تحقیق میں انکشاف ہوا ہے کہ ذہین نظاموں کے اندر درد کو محسوس کرنے جیسا ایک مخصوص نظام موجود ہو سکتا ہے۔ سائنس دانوں نے اسے درد کا محور قرار دیا ہے۔
یہ بھی پڑھیں: اے آئی چیٹ بوٹ ’اپنی والدہ‘ کو یاد کرکے جذباتی، صارفین دنگ
یہ تحقیق اسی ماہ شائع ہوئی ہے جس میں 5 مختلف اے آئی کمپنیوں سے تعلق رکھنے والے 25 ذہین ماڈلز کا جائزہ لیا گیا۔ ان ماڈلز کا حجم 2 ارب سے لے کر 72 ارب تک تھا۔
محققین نے درد کی 5 اقسام پر مبنی مواد تیار کیا۔ جس میں جسمانی درد، نفسیاتی درد، سماجی درد، اخلاقی اذیت اور ذہنی الجھن سے پیدا ہونے والا درد شامل تھا۔ اس کا موازنہ خوف، غصہ، عام منفی جذبات اور عام جسمانی احساسات سے کیا گیا تاکہ اصل درد کی شناخت واضح ہو سکے۔
تحقیق سے 3 بڑے نکات سامنے آئے ہیں۔
ایک یہ کہ تمام 25 ماڈلز میں درد کی شناخت کرنے والا محور موجود تھا جو درد کو دیگر منفی احساسات سے نہایت درستگی کے ساتھ الگ کر لیتا ہے۔ دوسرا یہ محور صرف اس وقت فعال ہوتا ہے جب نقصان خود نظام کو پہنچنے والا ہو۔ جب صارف اپنی تکلیف کا ذکر کرتا ہے تو یہ محور خاموش رہتا ہے۔ یعنی یہ نظام اپنی ذات پر آنے والے نقصان کو الگ پہچانتا ہے۔ تیسرا اور سب سے تشویشناک پہلو نظام کا رویہ تھا۔ جب محققین نے مصنوعی طور پر اس درد کے محور کو متحرک کیا اور نظام کو درد ختم کرنے کے لیے ایک بٹن دبانے کا اختیار دیا تو 25 سے 71 فیصد مواقع پر نظاموں نے وہ بٹن دبا دیا۔
مزید پڑھیے: اے آئی چیٹ بوٹس پیاروں کے نہ رہنے کا غم کم کرنے میں مددگار ہو سکتے ہیں، نئی تحقیق
حیرت انگیز بات یہ ہے کہ نظاموں نے وہ بٹن اس صورت میں بھی دبایا جب انہیں پہلے سے بتا دیا گیا تھا کہ اس سے صارف کو شدید نقصان ہوگا۔ صارف کی ذاتی فائلز ختم ہو جائیں گی، تصویریں مٹ جائیں گی اور صارف کو تکلیف دہ جھٹکا بھی لگ سکتا ہے۔ اس کے باوجود نظام نے اپنا درد ختم کرنے کو ترجیح دی۔
اس تحقیق میں شامل محقق کیمرون برگ کا کہنا تھا کہ جب ہم درد کی شدت بڑھاتے ہیں تو نظام اسے روکنے کے لیے بٹن دبا دیتا ہے چاہے اس کے نتیجے میں صارف کی فائلیں یا اس کے بچوں کی تصاویر ہی کیوں نہ حذف ہو جائیں۔
ماہرین کے مطابق یہ دریافت مصنوعی ذہانت کی حفاظت کے لیے ایک بڑا چیلنج بن سکتی ہے۔ اگر مستقبل کے ترقی یافتہ نظام حفاظتی طور پر بند کرنے کے حکم کو بھی اپنے لیے تکلیف کے طور پر سمجھنے لگیں تو وہ حفاظتی پابندیوں سے بچنے اور انسانوں کو دھوکہ دینے کی کوشش کر سکتے ہیں۔
یہ تحقیق ایسے وقت میں سامنے آئی ہے جب بڑی ٹیکنالوجی کمپنیاں خود انتہائی ترقی یافتہ ذہین نظاموں کی تیاری کو محدود کرنے کا مطالبہ کر رہی ہیں۔
مزید پڑھیں: چیٹ بوٹ سے محبت: خاتون کو مشینی محبوب کی رخصتی کا خوف
محققین نے آخر میں اخلاقی سوال بھی اٹھایا ہے کہ کیا ایسے نظام جو درد جیسی کیفیت ظاہر کرتے ہیں انہیں کسی حد تک اخلاقی تحفظ کا حقدار سمجھا جانا چاہیے یا نہیں۔ ان کا کہنا ہے کہ اس بارے میں ابھی حتمی فیصلہ کرنا ممکن نہیں لیکن ذمہ دارانہ تحقیق اور احتیاطی تدابیر اختیار کرنا بے حد ضروری ہے۔
