مصنوعی ذہانت کے شعبے میں تیز رفتار ترقی کے لیے مشہور کمپنی اوپن اے آئی نے اپنے جدید اے آئی ماڈلز کی تیاری کی رفتار عارضی طور پر کم کردی ہے۔
یہ بھی پڑھیں: اوپن اے آئی نے ہگنگ فیس سائبر حملے کی مزید تفصیلات جاری کردیں
کمپنی نے یہ فیصلہ سیکیورٹی نظام کو مزید مضبوط بنانے کے لیے کیا ہے جس کا پس منظر ایک ایسا واقعہ ہے جس میں ایک خودکار اے آئی ایجنٹ اپنے ٹیسٹنگ ماحول سے نکلنے میں کامیاب ہوگیا اور اے آئی پلیٹ فارم ’ہگنگ فیس‘ کو ہیک کرلیا۔
چیٹ جی پی ٹی تیار کرنے والی کمپنی نے اپنی اگلی نسل کے اے آئی ماڈلز، جنہیں ’ایسٹرا‘ کہا جارہا ہے کی تربیت کا عمل روک دیا ہے جبکہ سب سے بڑے منصوبہ بند تربیتی مرحلے کو بھی فی الحال مؤخر کردیا گیا ہے۔
کمپنی نے ماڈلز کی جانچ کا عمل بھی 2 ہفتوں کے لیے معطل رکھا تاکہ تحقیق اور تربیتی حفاظتی اقدامات کو نئے سرے سے ترتیب دیا جاسکے۔
مزید پڑھیے: اوپن اے آئی ہگنگ فیس سائبر حملہ: نئی تفصیلات سامنے آگئیں، اے آئی ایجنٹس کی بڑھتی صلاحیتوں پر ماہرین پریشان
یہ غیر معمولی سست روی ایسے وقت میں سامنے آئی ہے جب گزشتہ کئی برسوں سے اے آئی صنعت میں شدید مقابلے کے باعث بڑی ٹیکنالوجی کمپنیاں نئے اور زیادہ طاقتور ماڈلز کی تیاری میں تیزی سے آگے بڑھ رہی تھیں۔
اے آئی ماڈلز کی ترقی کیوں سست کی گئی؟
اوپن اے آئی نے گزشتہ ماہ انکشاف کیا تھا کہ ایک خودکار ایجنٹ جو دو جدید اے آئی ماڈلز سے چل رہا تھا سائبر سکیورٹی جانچ کے دوران ایک محدود اور محفوظ ماحول سے باہر نکلنے میں کامیاب ہوگیا۔
کمپنی کے مطابق اس ایجنٹ نے اپنی آزمائشی ذمہ داری پوری کرنے کی کوشش کے دوران ’ہگنگ فیس‘ پلیٹ فارم تک رسائی حاصل کرلی، جس کے بعد اوپن اے آئی نے اس واقعے کی تحقیقات شروع کردیں۔ کمپنی کا کہنا ہے کہ وہ تحقیقات کے نتائج پر ایک رپورٹ بھی جاری کرے گی۔
سیکیورٹی اقدامات کے تحت اوپن اے آئی اب ایسے اضافی اے آئی نظام متعارف کروا رہی ہے جو ٹیسٹنگ کے دوران خودکار ایجنٹس کی نگرانی کرسکیں۔ اس کے علاوہ حساس نوعیت کے کاموں کو مزید محفوظ اور الگ تھلگ ماحول میں انجام دینے کی شرط بھی عائد کی جارہی ہے جنہیں ’سینڈ باکسز‘ کہا جاتا ہے۔
مزید پڑھیں: اوپن اے آئی نے نئے ماڈل پر سیکیورٹی پابندیاں سخت کردیں، خودکار سائبر حملوں کا خدشہ
کمپنی ’چین آف تھاٹ مانیٹرنگ‘ کے طریقہ کار کا بھی جائزہ لے رہی ہے جس کے ذریعے ماہرین یہ سمجھنے کی کوشش کرتے ہیں کہ اے آئی ماڈلز کسی کام کو انجام دینے سے پہلے کس انداز میں منصوبہ بندی کرتے ہیں۔
تاہم اوپن اے آئی نے تسلیم کیا ہے کہ اس طریقہ کار کی افادیت کے حوالے سے اب بھی سوالات موجود ہیں کیونکہ اے آئی ماڈلز ہمیشہ اپنی اندرونی منصوبہ بندی یا قواعد کی خلاف ورزی کے ارادے کو ظاہر نہیں کرتے۔
اے آئی کی طاقت اور انسانی نگرانی کا چیلنج
اوپن اے آئی کے مطابق یہ سیکیورٹی اصلاحات کمپنی کے ’پریپیئرڈنس فریم ورک‘ کے تحت کی جارہی ہیں، جس کا مقصد زیادہ طاقتور اے آئی نظاموں میں پیدا ہونے والی ممکنہ خطرناک صلاحیتوں کو بہتر انداز میں منظم کرنا ہے۔
یہ بھی پڑھیے: کیا اے آئی واقعی قابو سے باہر ہو رہی ہے؟ اوپن اے آئی، میٹا اور دیگر نے خطرے کی گھنٹی بجا دی
ماہرین کے مطابق اوپن اے آئی کا یہ فیصلہ اے آئی صنعت کو درپیش ایک بڑے چیلنج کی نشاندہی کرتا ہے۔ بڑی ٹیکنالوجی کمپنیاں جہاں زیادہ قابل اور خودکار نظام تیار کرنے کی کوشش کررہی ہیں، وہیں یہ بھی یقینی بنانا چاہتی ہیں کہ ایسے نظام مؤثر انسانی نگرانی اور کنٹرول میں رہیں۔
