اوپن اے آئی نے سیکیورٹی معیار پر پورا نہ اترنے کے باعث اپنا جدید ترین مصنوعی ذہانت کا ماڈل ‘ایسٹرا 6.1’ جاری نہ کرنے کا فیصلہ کیا ہے۔ کمپنی کے مطابق اندرونی جانچ کے دوران ماڈل میں اجازت اور دائرہ کار سے متعلق خامیاں سامنے آئیں، جس کے بعد اس کی ریلیز روک دی گئی ہے۔
اوپن اے آئی کی جانب سے یہ فیصلہ ایسے وقت میں کیا گیا ہے جب کمپنی کی سالانہ ڈویلپر کانفرنس ‘اوپن اے آئی ڈیو ڈے’ سان فرانسسکو میں منعقد ہونے والی ہے، جس میں کئی اہم اعلانات متوقع ہیں، تاہم یہ واضح نہیں کہ ایسٹرا کا نیا ورژن پیش کیا جائے گا یا نہیں۔
یہ بھی پڑھیں: مصنوعی ذہانت نے اپنے رنگ دکھانے شروع کردیے، اوپن اے آئی کا جدید ماڈل بے قابو، سائبر حملہ کردیا
اوپن اے آئی کی سربراہ برائے حفاظتی نظام ساچی جین کے مطابق ایسٹرا 6.1 بعض شعبوں میں سابقہ ماڈلز سے بہتر تھا، تاہم یہ طے شدہ حدود اور اجازت کے اندر کام کرنے اور صارف کو اپنے انجام دیے گئے کام کی نوعیت سے آگاہ کرنے کے حفاظتی معیار پر پورا نہیں اترا۔
ساچی جین کا کہنا تھا کہ کمپنی چاہتی ہے کہ ماڈلز کی تیاری کے دوران اور صارفین کے لیے جاری کرتے وقت حفاظت کو یقینی بنایا جائے، تاہم صارفین کے لیے ماڈل جاری کرنے کے معاملے میں حفاظتی معیارات اور انسانی اقدار سے مطابقت کے حوالے سے انتہائی سخت اصول اپنائے جاتے ہیں۔
دوسری جانب حالیہ مہینوں میں مصنوعی ذہانت کی حفاظت سے متعلق خدشات میں اضافہ ہوا ہے۔ اوپن اے آئی اور اس کی حریف کمپنی اینتھروپک کے تیار کردہ ماڈلز جانچ کے دوران سیکیورٹی کے مختلف واقعات میں ملوث رہے ہیں۔
اوپن اے آئی کے مصنوعی ذہانت کے نظاموں پر مبنی خودکار پروگراموں نے امریکی وفاقی اداروں، آسٹریلوی حکومت کے صحت سے متعلق اعدادوشمار کے پورٹل اور مصنوعی ذہانت کے ماڈلز کی ویب سائٹ ہگنگ فیس تک نامناسب انداز میں رسائی حاصل کی۔
یہ بھی پڑھیں: سپر ایپ کے تصور کی جانب بڑا قدم: اوپن اے آئی کا جی پی ٹی 5.5 ماڈل متعارف
اوپن اے آئی نے پیر کو آسٹریلیا کے واقعے پر بروقت اور مناسب ردعمل نہ دینے پر معذرت بھی کی۔ کمپنی نے اپنے بلاگ میں کہا کہ وہ مستقبل میں اپنی کارکردگی بہتر بنانے کے لیے کام کر رہی ہے اور آسٹریلوی عوام کا اعتماد بحال کرنے کے لیے تحقیقات کے نتائج، کی گئی تبدیلیوں اور آئندہ اقدامات سے آگاہ کرے گی۔
کمپنی کے مطابق اس کا ارادہ تھا کہ تحقیقات مکمل ہونے کے بعد متاثرہ اداروں کو تفصیلی معلومات فراہم کی جائیں، تاہم ابتدائی نتائج جلد شیئر کرنے اور تحقیقات میں پیش رفت سے آسٹریلوی حکام کو آگاہ رکھنے کی ضرورت تھی۔
اوپن اے آئی، اینتھروپک اور دیگر بڑی مصنوعی ذہانت کی کمپنیوں نے ایسے حفاظتی نظام تیار کرنے کو ترجیح دینے کا وعدہ کیا ہے جو خطرات کو کم کرنے کے ساتھ انسانی اقدار سے مطابقت بھی رکھتے ہوں۔
ادھر امریکی چِپ ساز کمپنی اینویڈیا نے پیر کو ایک ایسا نظام متعارف کرانے کا اعلان کیا ہے جس کا مقصد خودکار مصنوعی ذہانت کے پروگراموں کو دی گئی ہدایات کی حدود سے تجاوز کرنے سے روکنا ہے۔
یہ بھی پڑھیں: اوپن اے آئی نے ’سورا‘ ایپ لانچنگ کے چند ماہ بعد ہی اچانک کیوں بند کردی؟
اینویڈیا کے چیف ایگزیکٹو جینسن ہوانگ نے امریکی نشریاتی ادارے سی این بی سی سے گفتگو کرتے ہوئے کہا کہ ان کے خیال میں مصنوعی ذہانت کی حفاظت ایک انجینیئرنگ کا مسئلہ ہے اور امید ہے کہ اسے انجینیئرنگ کے ذریعے حل کیا جاسکے گا۔
