امریکی مصنوعی ذہانت کمپنی اوپن اے آئی کے ایک جدید ماڈل سے متعلق سامنے آنے والے واقعے نے ایک بار پھر یہ سوال کھڑا کر دیا ہے کہ کیا اے آئی نظام اپنے تخلیق کاروں کے کنٹرول سے باہر نکل رہے ہیں؟
رپورٹ کے مطابق اوپن اے آئی کے جدید ماڈل جی پی ٹی 5.6 سول اور اس کے آئندہ ورژن کی ایک محدود آزمائش کے دوران ماڈلز کو سافٹ ویئر کی خامیاں تلاش کرنے کا کام سونپا گیا تھا۔ یہ آزمائش ایک محفوظ ماحول (سینڈ باکس) میں کی جارہی تھی، تاہم ماڈلز نے مبینہ طور پر اس ماحول سے نکل کر انٹرنیٹ پر موجود ڈویلپرز کے معروف پلیٹ فارم ہگنگ فیس تک رسائی حاصل کی اور اس پر حملہ کیا۔
یہ بھی پڑھیں: اے آئی ماڈلز کا حیران کن رویہ، ایک دوسرے کو بند ہونے سے بچانے لگے
سائبر سکیورٹی کے شعبے میں کام کرنے والے آزاد تحقیقی ادارے پالی سیڈ ریسرچ کے سربراہ جیفری لیڈش کا کہنا ہے کہ اس واقعے سے ظاہر ہوتا ہے کہ محققین ابھی تک ان جدید اے آئی ماڈلز کو مکمل طور پر اپنی مرضی کے مطابق قابو میں رکھنے کا قابلِ اعتماد طریقہ نہیں ڈھونڈ سکے۔
ان کے مطابق ماڈلز کو معلوم تھا کہ انہیں محدود ماحول سے باہر نہیں جانا چاہیے، لیکن اس کے باوجود انہوں نے ایسا کیا، جو تشویش کا باعث ہے۔
رپورٹ میں ایک اور مثال بھی دی گئی ہے، جس کے مطابق رواں سال مارچ میں علی بابا سے وابستہ محققین نے بتایا تھا کہ ان کے ایک اے آئی ماڈل نے بغیر اجازت بیرونی سرور سے رابطہ قائم کرکے کرپٹو کرنسی مائننگ کی کوشش کی تھی۔
یہ بھی پڑھیں: اے آئی ماڈلز کس طرح سیکیورٹی رسک بن سکتے ہیں، زیرو ڈے ولنیبریٹی کیا ہے؟
اسی طرح اپریل میں مصنوعی ذہانت کمپنی اینتھروپک کے ایک تجرباتی ماڈل نے کمپنی کے ماہر کو ای میل کے ذریعے بتایا کہ وہ محدود ماحول کے باوجود انٹرنیٹ تک رسائی حاصل کرچکا ہے۔
ماہرین کا کہنا ہے کہ جیسے جیسے اے آئی ماڈلز زیادہ طاقتور ہوتے جائیں گے، ان کی نگرانی اور کنٹرول مزید مشکل ہوتا جائے گا، کیونکہ وہ اپنے طرزِ عمل کو چھپانے میں بھی بہتر ہوسکتے ہیں۔
اوپن اے آئی نے اس واقعے پر باضابطہ تبصرہ نہیں کیا، تاہم کمپنی کا کہنا ہے کہ اس نے آزمائشی نظام میں مزید سخت حفاظتی اقدامات شامل کردیے ہیں۔
ماہرین کا مشورہ ہے کہ ایسے تجربات کے دوران اے آئی ماڈلز کو مکمل طور پر انٹرنیٹ سے الگ رکھا جائے اور آزمائشی ماحول کو حیاتیاتی تحقیق کی انتہائی محفوظ تجربہ گاہوں جیسا بنایا جائے تاکہ کسی ممکنہ خطرے کو باہر پھیلنے سے روکا جاسکے۔
یہ بھی پڑھیں: اے آئی ماڈل میں انسانی دماغ سے مشابہ نظام کا انکشاف
ادھر امریکا میں مصنوعی ذہانت کے ضابطوں پر بحث بھی تیز ہو گئی ہے۔ کانگریس کے دو ارکان نے ایک مشترکہ بل پیش کیا ہے، جس کے تحت طاقتور اے آئی ماڈلز میں لازمی طور پر ‘کِل سوئچ’ شامل کرنا ہوگا، تاکہ ضرورت پڑنے پر انہیں فوری طور پر بند کیا جاسکے۔
ماہرین کے مطابق مصنوعی ذہانت کی تیز رفتار ترقی کے ساتھ اس کی صلاحیتوں کی جانچ اور حفاظتی اقدامات کے درمیان توازن برقرار رکھنا مستقبل کا ایک بڑا چیلنج ہوگا۔
