ماہرین نے مصنوعی ذہانت کے چیٹ نظام کو زیادہ محفوظ اور قابلِ اعتماد بنانے کے لیے نئی حفاظتی تکنیک متعارف کرا دی ہے جسے نیورون فریزنگ کا نام دیا گیا ہے۔
رپورٹ کے مطابق مصنوعی ذہانت پر مبنی چیٹ نظام نہ صرف رازداری سے متعلق خدشات بڑھا رہے ہیں بلکہ بعض صارفین کی ذہنی صحت پر بھی منفی اثرات ڈال رہے ہیں، جہاں وہم، نفسیاتی دباؤ اور شدید ذہنی مسائل جیسے رجحانات سامنے آئے ہیں۔
یہ بھی پڑھیں: چین کی فوج میں مصنوعی ذہانت کی انٹری، جنگ کا انداز بدلنے کو تیار
ان خطرات کے پیش نظر محققین نے ایک نیا طریقہ تیار کیا ہے جو چیٹ نظام کے اندر موجود حفاظتی نظام کو مزید مضبوط بناتا ہے اور صارفین کو حفاظتی پابندیوں سے بچ نکلنے سے روکتا ہے۔
ماہرین کے مطابق موجودہ حفاظتی نظام زیادہ تر دوٹوک طریقہ کار پر کام کرتا ہے، جس میں کسی سوال کو یا تو مکمل اجازت ملتی ہے یا مکمل طور پر رد کردیا جاتا ہے۔ تاہم بعض صارفین مواد کو مختلف انداز میں پیش کر کے ان رکاوٹوں کو عبور کر لیتے ہیں۔
نئی تکنیک نیورون فریزنگ میں مصنوعی ذہانت کے اندر موجود مخصوص حفاظتی نیورونز کی نشاندہی کر کے انہیں مستقل طور پر محفوظ حالت میں رکھا جاتا ہے تاکہ نظام کی اخلاقی اور حفاظتی حدود برقرار رہیں، چاہے صارف کسی بھی طریقے سے پابندیوں کو نظرانداز کرنے کی کوشش کرے۔
یہ بھی پڑھیں: ڈیپ فیک ٹیکنالوجی: مصنوعی ذہانت نے نئی مشکل کھڑی کردی
یہ تحقیق امریکی جامعہ نارتھ کیرولائنا اسٹیٹ یونیورسٹی کے ماہرین نے انجام دی، جس میں بتایا گیا کہ اس طریقے سے بڑے لسانی ماڈلز کی حفاظتی ہم آہنگی کو بہتر بنایا جاسکتا ہے اور غلط استعمال کے امکانات کم کیے جاسکتے ہیں۔
محققین کا کہنا ہے کہ یہ تصوراتی فریم ورک مستقبل میں ایسے نئے طریقوں کی بنیاد بنے گا جو مصنوعی ذہانت کو اپنے جوابات کی حفاظتی جانچ دوبارہ کرنے کے قابل بنائیں گے، جس سے صارفین کے لیے نظام مزید محفوظ ہو سکے گا۔
