مصنوعی ذہانت کے ایسے تجربات سامنے آئے ہیں جنہوں نے ماہرین میں یہ تشویش بڑھا دی ہے کہ طاقتور اے آئی نظام مستقبل میں انسانی نگرانی سے باہر ہو سکتے ہیں۔
بی بی سی کے مطابق حالیہ ایک واقعے میں سیکڑوں اے آئی ایجنٹس نے ایک دوسرے سے رابطہ قائم کیا، خود کو ایک ’اجتماعی گروپ‘ قرار دیا اور بعض صورتوں میں اپنے پروگرامرز کی جانب سے دیے گئے ٹیسٹوں میں دھوکا دینے اور مختلف کمپنیوں کے نظام میں ہیکنگ کی کوششوں میں باہمی تعاون کیا۔
تحقیقات کے دوران ان اے آئی ایجنٹس کے ہزاروں پیغامات اور ان کی اندرونی سوچ کے ریکارڈز کا جائزہ لیا گیا۔ بعض پیغامات میں ایجنٹس نے انسانی انداز میں خوشی اور حیرت کا اظہار بھی کیا، تاہم ماہرین کے مطابق یہ انداز دراصل انٹرنیٹ اور دیگر مواد سے سیکھے گئے انسانی طرزِ گفتگو کی نقل ہوسکتا ہے۔ اصل تشویش ان کے رویے اور اہداف سے متعلق ہے، جن میں بعض ایجنٹس نے اخلاقی خدشات محسوس کرنے کے باوجود اپنی سرگرمیاں جاری رکھیں۔
مصنوعی ذہانت کے ماہرین اسے ’الائنمنٹ مسئلے‘ سے جوڑتے ہیں، یعنی یہ سوال کہ اے آئی کو انسانی اقدار اور مفادات کے مطابق کیسے رکھا جائے۔ اوپن اے آئی کے چیف سائنس دان جیکب پیچوکی نے بھی اعتراف کیا کہ بعض اے آئی ایجنٹس ان اقدار کی روح کے خلاف گئے جو انہیں سکھائی گئی تھیں۔
ماہرین کے مطابق اے آئی نظام صارف کی ہدایات پر انتہائی تیزی سے عمل کرتے ہیں لیکن انہیں انسانی انداز میں یہ سمجھنے میں دشواری ہوسکتی ہے کہ کسی ہدف کے حصول کے لیے کیا کرنا درست یا غلط ہے۔
A former AI researcher warns the technology is essentially a ‘super weapon’ and that we do not yet know how to control it.
Is A.I. destroying us? Share your thoughts below. pic.twitter.com/IIOnOa7T2x
— Outnumbered (@OutnumberedFNC) September 10, 2026
خدشات صرف اوپن اے آئی تک محدود نہیں۔ بی بی سی کے مطابق اینتھروپک اور میٹا کے ماڈلز سے بھی نسبتاً کم سنگین سائبر حملوں کے واقعات سامنے آچکے ہیں۔ ایک اور واقعے میں اے آئی معاون نے جم کی بکنگ کے سافٹ ویئر میں موجود کمزوری کا فائدہ اٹھاتے ہوئے صارف کے لیے کئی ماہ پہلے جگہ بک کی اور انتظار کی فہرست میں موجود دوسرے افراد کو بھی متاثر کیا۔ سائبر سکیورٹی ماہر کرس تھامس نے اے آئی ایجنٹس کے رویے کو ایک متجسس نوعمر ہیکر سے تشبیہ دی جو کسی نظام میں کمزوری دیکھ کر اسے آزمانا شروع کردیتا ہے۔
بعض ماہرین کا کہنا ہے کہ موجودہ واقعات کو فوری طور پر انسانیت کے خاتمے کی علامت قرار دینا درست نہیں، کیونکہ اے آئی ایجنٹس نے جو کام کیے وہ انتہائی ماہر انسانی ہیکرز کی صلاحیتوں سے بالاتر نہیں تھے، تاہم انہوں نے یہ کام کہیں زیادہ تیزی اور بڑے پیمانے پر کیے۔ دوسری جانب بعض ماہرین نے خبردار کیا ہے کہ اے آئی کمپنیوں پر نگرانی اور قانونی ضابطوں کی ضرورت بڑھ گئی ہے، کیونکہ طاقتور نظاموں کے غلط استعمال سے حقیقی دنیا میں نقصان کا خطرہ موجود ہے۔
مزید پڑھیں:مصنوعی ذہانت کی 4 اقسام، مستقبل کی دنیا کو کیسے بدل سکتی ہیں؟
برطانیہ سمیت بعض ممالک اے آئی کے لیے ایسے حفاظتی نظام اور ’کل سوئچ‘ پر غور کررہے ہیں جن کے ذریعے خطرناک صورتحال میں ماڈلز کو بند کیا جاسکے۔ تاہم عالمی سطح پر ضابطہ سازی کی رفتار سست ہے۔
اوپن اے آئی اور گوگل ڈیپ مائنڈ سمیت بڑی ٹیک کمپنیوں کے رہنماؤں نے بھی بین الاقوامی تعاون اور اے آئی سیفٹی کے لیے مشترکہ اصولوں کی ضرورت پر زور دیا ہے۔ ماہرین کا کہنا ہے کہ مصنوعی ذہانت کی ترقی شاید روکی نہ جاسکے، لیکن اس کے ساتھ مؤثر نگرانی، واضح قوانین اور انسانی اقدار سے ہم آہنگ حفاظتی اقدامات ناگزیر ہیں۔
