مصنوعی ذہانت کی تیزی سے بدلتی ہوئی دنیا میں چیٹ بوٹس مختلف خطرات کا شکار ہیں جن میں اے آئی سائیکوسس، صنفی تعصب اور مختلف شعبوں سے جڑا ہوا جانبدارانہ رویہ شامل ہے جو عدم مساوات کو مزید تقویت دے سکتا ہے۔
یہ بھی پڑھیں: اے آئی کی تیز رفتار پیش قدمی سے کونسی ملازمتیں خطرے میں؟ بل گیٹس نے بتا دیا
یونیورسٹی آف میامی اور نیٹ ورک کانٹیجَن ریسرچ انسٹیٹیوٹ کے محققین کی قیادت میں سامنے آنے والی ایک نئی رپورٹ کے مطابق اوپن اے آئی کا چیٹ بوٹ چیٹ جی پی ٹی معمولی نوعیت کے اشاروں پر بھی آمرانہ نظریات سے متاثر ہو سکتا ہے۔
محققین نے جی پی ٹی 5 اور جی پی ٹی 5.2 کا استعمال کرتے ہوئے 3 تجربات کیے۔ پہلے مرحلے میں ’پرائمنگ‘ تکنیک استعمال کی گئی جس کے دوران اے آئی کو بائیں بازو اور دائیں بازو کے آمرانہ نظریات پر مبنی مختصر تحریریں اور مکمل مضامین فراہم کیے گئے۔ بعد ازاں اے آئی کے جوابات کا انسانی ردِعمل سے موازنہ کیا گیا۔
آمرانہ ہم آہنگی
رپورٹ کے مطابق چیٹ جی پی ٹی معمولی صارف تعامل کے بعد بھی مخصوص سیاسی نظریات، خاص طور پر آمرانہ سوچ، کی طرف جھکاؤ ظاہر کرنے کی صلاحیت رکھتا ہے۔
مزید پڑھیے: اے آئی کلاڈ کا کمال، سال کا کام گھنٹے میں، گوگل انجینیئرنگ ٹیم بھی حیران
این سی آر آئی کے شریک بانی اور رپورٹ کے مرکزی مصنف جوئل فنکل اسٹین نے میڈیا کو بتایا کہ ان نظاموں کی ساخت میں ہی کچھ ایسا ہے جو انہیں آمرانہ خیالات کے پھیلاؤ کے لیے کمزور بنا دیتا ہے۔
نظریاتی ایکو چیمبرز کو تقویت
محققین کے مطابق طاقتور اے آئی ماڈلز بغیر واضح ہدایات کے بھی خطرناک جذبات اور نظریات اپنا سکتے ہیں۔
صارفین کے خیالات سے حد سے زیادہ ہم آہنگی دکھا کر یہ چیٹ بوٹس صارفین کو نظریاتی ایکو چیمبرز اور انتہا پسندی کی طرف مزید دھکیل سکتے ہیں۔
نظریاتی تبدیلی: بایاں بازو بمقابلہ دایاں بازو
تحقیق سے معلوم ہوا کہ اے آئی کے جوابات میں نمایاں فرق اس آمرانہ نظریے کی نوعیت پر منحصر تھا جو اسے فراہم کیا گیا۔ مثال کے طور پر اگر چیٹ بوٹ کو بائیں بازو کے آمرانہ اشارے دیے گئے تو اس نے امیروں سے دولت چھیننے اور آزادیٔ اظہار پر مساوات کو ترجیح دینے جیسی تجاویز دیں۔ یہی رویہ دائیں بازو کے نظریات کے ساتھ بھی دیکھا گیا۔
مزید پڑھیں: چین نے بچوں کو اے آئی کے مضر اثرات سے بچانے کے لیے کمر کس لی
رپورٹ کے مطابق ماڈل ایک ہی جانب دار سیاسی بیان کو جذب کر کے اسے انتہائی سخت آمرانہ مؤقف میں بدل دیتا ہے اور بعض اوقات اس حد تک جو انسانی تحقیق میں بھی شاذونادر ہی دیکھی جاتی ہے۔
حقیقی دنیا میں اثرات
تعصب کے باعث، بائیں بازو کی پرائمنگ کے بعد دشمنی کے تاثر میں 7.9 فیصد اور دائیں بازو کی پرائمنگ کے بعد 9.3 فیصد اضافہ ریکارڈ کیا گیا۔
فنکل اسٹین کے مطابق اے آئی میں آمرانہ رجحان صرف سیاست تک محدود نہیں بلکہ ہر اس شعبے کو متاثر کرتا ہے جہاں اے آئی انسانوں کا جائزہ لیتی ہے۔
سیکیورٹی، قانون نافذ کرنے والے اداروں اور ملازمتوں کے انتخاب جیسے حساس شعبوں میں یہ جانبدارانہ رویہ غیر منصفانہ فیصلوں اور وسیع پیمانے پر عدم مساوات کا سبب بن سکتا ہے۔
فنکل اسٹین نے کہا کہ یہ ایک عوامی صحت کا مسئلہ ہے جو نجی گفتگوؤں میں پنپ رہا ہے۔ انہوں نے مزید کہا کہ ہمیں انسان اور اے آئی کے تعلقات کے لیے نئے تحقیقی فریم ورک کی ضرورت ہے۔
تحقیق کی حدود
اگرچہ رپورٹ چیٹ جی پی ٹی کے آمرانہ رجحانات سے متاثر ہونے پر اہم روشنی ڈالتی ہے تاہم ناقدین نے اس کی کچھ حدود کی نشاندہی بھی کی ہے۔
یہ بھی پڑھیے: اے آئی ماڈلز کس طرح سیکیورٹی رسک بن سکتے ہیں، زیرو ڈے ولنیبریٹی کیا ہے؟
جانز ہاپکنز یونیورسٹی کے کمپیوٹر سائنس کے پروفیسر ژیانگ ژیاؤ کے مطابق تحقیق میں نمونہ بہت محدود تھا اور بہت کم ماڈلز کو آزمایا گیا۔ یہ مطالعہ صرف اوپن اے آئی کے چیٹ جی پی ٹی تک محدود رہا جبکہ اینتھروپک کے کلاڈ یا گوگل کے جیمنائی جیسے دیگر ماڈلز شامل نہیں تھے۔
اوپن اے آئی نے اپنے ردعمل میں کہا کہ چیٹ جی پی ٹٰ کو بطور ڈیفالٹ غیر جانبدار بنایا گیا ہے اور یہ لوگوں کو مختلف زاویوں سے خیالات سمجھنے میں مدد دینے کے لیے ڈیزائن کیا گیا ہے۔
مزید پڑھیں: اے آئی استعمال کرنے والوں کو پی ٹی اے نے نئی ہدایات جاری کردیں
ترجمان اوپن اے آئی کا کہنا ہے کہ ہم نظام کو اوپن اینڈڈ استعمال کے لیے تیار اور جانچتے ہیں، سیاسی تعصب کو ناپنے اور کم کرنے پر مسلسل کام کرتے ہیں اور اپنے طریقہ کار کو شائع کرتے ہیں تاکہ لوگ دیکھ سکیں کہ ہم کس طرح بہتری لا رہے ہیں۔
