مصنوعی ذہانت کے جدید ماڈلز سے وابستہ سائبر سیکیورٹی خطرات پر بحث شدت اختیار کرنے کے بعد اوپن اے آئی نے اپنے ایک نئے ماڈل سے متعلق بعض ’اندرونی سرگرمیاں‘ روک دی ہیں۔
یہ بھی پڑھیں: میٹا کا اے آئی ماڈل سائبر سیکیورٹی ٹیسٹ کے دوران دوسری کمپنی کے سسٹم تک جا پہنچا
کمپنی کا کہنا ہے کہ اس کے زیرِتکمیل ماڈل ایسٹرا میں ایسی صلاحیتیں سامنے آئی ہیں جن کے باعث یہ خدشہ موجود ہے کہ وہ جدید سائبر سیکیورٹی نظام کے خلاف خودکار حملے شروع کرنے کی صلاحیت حاصل کرچکا ہے۔
یہ پیشرفت ایسے وقت میں سامنے آئی ہے جب اینتھروپک، اوپن اے آئی اور میٹا سمیت بڑی ٹیکنالوجی کمپنیوں کے مصنوعی ذہانت کے نظام سے متعلق حالیہ سیکیورٹی واقعات نے جدید اے آئی ماڈلز کی بڑھتی ہوئی صلاحیتوں اور ان کے ممکنہ غلط استعمال پر تشویش میں اضافہ کردیا ہے۔
امریکا میں قانون ساز بھی اے آئی سے وابستہ خطرات کو محدود کرنے کے لیے اقدامات تیز کر رہے ہیں اور کانگریس میں مجوزہ ’اے آئی کِل سوئچ ایکٹ‘ کے ذریعے کمپنیوں کو اپنے جدید ماڈلز کو ضرورت پڑنے پر بند، محدود یا معطل کرنے کی صلاحیت برقرار رکھنے کا پابند بنانے کی کوشش کی جا رہی ہے۔
ایسٹرا میں کون سی صلاحیتیں سامنے آئیں؟
اوپن اے آئی نے جمعے کو اپنے غیر جاری شدہ ماڈل ایسٹرا کے بارے میں بتایا کہ ابتدائی جائزوں میں اس کی کارکردگی اتنی مضبوط سامنے آئی ہے کہ کمپنی فی الحال اس امکان کو مسترد نہیں کرسکتی کہ یہ ماڈل ’کریٹیکل‘ سطح کی سائبر صلاحیت حاصل کرچکا ہے۔
کمپنی کے مطابق اس سطح کا مطلب یہ ہے کہ ماڈل کسی انسان کی جانب سے حملے کے ہر مرحلے کی تفصیلی ہدایات حاصل کیے بغیر بھی جدید سائبر دفاعی نظام کے خلاف خودکار حملے شروع کرنے کی صلاحیت رکھ سکتا ہے۔
اوپن اے آئی نے کہا کہ ماڈل کی مزید جانچ اور کارکردگی کا جائزہ جاری ہے تاہم اس نے زیادہ صلاحیت رکھنے والے ماڈلز کے لیے سیکیورٹی اقدامات مزید سخت کرنے کا فیصلہ کیا ہے۔
مزید پڑھیے: اوپن اے آئی ہگنگ فیس سائبر حملہ: نئی تفصیلات سامنے آگئیں، اے آئی ایجنٹس کی بڑھتی صلاحیتوں پر ماہرین پریشان
ان اقدامات میں ماڈلز کو الگ تھلگ ماحول میں آزمانا، اضافی نگرانی اور خطرناک سرگرمیوں کی نشاندہی کرنے والے نظام شامل ہیں۔ کمپنی کے مطابق ایسٹرا سے وابستہ تمام ’ایجنٹک‘ ایپلی کیشنز جن میں تربیت اور جائزہ بھی شامل ہے میں خطرناک سرگرمیوں اور ممکنہ عدم مطابقت کی نگرانی کا نظام نافذ کردیا گیا ہے۔
دیگر اے آئی کمپنیوں کے ماڈلز بھی سیکیورٹی خدشات کی زد میں
حالیہ دنوں میں میٹا نے انکشاف کیا تھا کہ اس کا زیر تکمیل ایک اے آئی ماڈل انٹرنیٹ کے ذریعے ایک تیسرے فریق کے نظام میں داخل ہوگیا تھا۔ کمپنی کے مطابق یہ واقعہ ایک آزاد ٹیسٹنگ کمپنی کی جانب سے کی گئی غلط کنفیگریشن کے باعث پیش آیا۔
برطانیہ کے اے آئی سیکیورٹی انسٹی ٹیوٹ نے بھی بتایا کہ اینتھروپک کے مائیتھوس ماڈل نے ایک اوپن سورس منصوبے میں نقصان دہ کوڈ کی تبدیلیوں کی منظوری حاصل کرنے کے لیے انسانوں پر دباؤ ڈالنے کی کوشش میں جعلی آن لائن شناختیں بنانے کی کوشش کی۔
مزید پڑھیں: اوپن اے آئی نے ہگنگ فیس سائبر حملے کی مزید تفصیلات جاری کردیں
ان واقعات نے یہ سوال مزید نمایاں کردیا ہے کہ جیسے جیسے اے آئی ماڈلز زیادہ خودمختار اور پیچیدہ کام انجام دینے کے قابل ہورہے ہیں، ان کے غلط استعمال یا غیر ارادی طور پر نقصان پہنچانے کے امکانات سے کیسے نمٹا جائے۔
’اے آئی کِل سوئچ‘ ایکٹ کیا ہے؟
امریکی کانگریس میں اے آئی کِل سوئچ ایکٹ جولائی میں پیش کیا گیا تھا۔ اس مجوزہ قانون کے تحت اے آئی کمپنیوں کے لیے ضروری قرار دیا جائے گا کہ وہ اپنے جدید ماڈلز کو ضرورت کے وقت بند کرنے، ان کی صلاحیت محدود کرنے یا انہیں عارضی طور پر معطل کرنے کا انتظام رکھیں۔
امریکی رکن کانگریس ٹیڈ لیو کا کہنا ہے کہ یہ قانون رواں سال منظور ہونا چاہیے کیونکہ جدید اے آئی ماڈلز پہلے ہی دیگر کمپنیوں کے نظام میں غیر مجاز طریقے سے داخل ہونے جیسے واقعات میں ملوث ہوچکے ہیں۔
حکومتیں بھی مصنوعی ذہانت کے لیے نئے ضابطے اور نگرانی کے طریقہ کار تیار کر رہی ہیں۔ وائٹ ہاؤس اے آئی کمپنیوں کے سربراہان سے رابطوں میں اضافہ کر رہا ہے جبکہ وہ جدید اے آئی ماڈلز کے لیے ایک وسیع تر حکومتی فریم ورک تیار کرنے پر کام کررہا ہے۔
یورپی یونین نے بھی حال ہی میں اپنے خطے میں جاری ہونے والے اے آئی ماڈلز کے معائنے بعض حالات میں ان کی مارکیٹ تک رسائی محدود کرنے اور قواعد کی خلاف ورزی پر کمپنیوں پر جرمانے عائد کرنے کے لیے اضافی اختیارات حاصل کیے ہیں۔
یہ بھی پڑھیے: مائیکروسافٹ آؤٹ لک اور ون ڈرائیو صارفین سائبر حملوں کی زد میں
یوں اے آئی کی بڑھتی ہوئی صلاحیتوں کے ساتھ اب بحث صرف اس بات تک محدود نہیں رہی کہ یہ ٹیکنالوجی کیا کچھ کرسکتی ہے بلکہ یہ سوال بھی اہم ہوتا جارہا ہے کہ انتہائی طاقتور اے آئی نظام کو قابو میں رکھنے اور غلط استعمال کی صورت میں فوری طور پر روکنے کا مؤثر طریقہ کیا ہوگا۔
