اینتھروپک کے ایک اعلیٰ سیفٹی ریسرچر نے خبردار کیا ہے کہ مصنوعی ذہانت اس قدر تیزی سے ترقی کر رہی ہے کہ ان کے خیال میں آئندہ 10 برسوں کے دوران اس کے تمام انسانوں کو ختم کر دینے کا امکان 10 فیصد سے زیادہ ہے۔
یہ بھی پڑھیں: ریٹائرڈ افراد کا رجحان اے آئی چیٹ بوٹس کی جانب کیوں بڑھ رہا ہے؟
ایوان ہوبنگر نے سوشل میڈیا پلیٹ فارم ایکس پر ایک پوسٹ میں کہا کہ فی الحال موجود ماڈلز سے لاحق خطرہ کم ہے تاہم انہیں تشویش ہے کہ یہ ٹیکنالوجی جلد ہی اس حد تک ترقی اور خود بہتری حاصل کر سکتی ہے جہاں یہ انسانیت کے لیے ایک وجودی خطرہ بن جائے۔
انہوں نے یہ واضح نہیں کیا کہ ان کے خیال میں مستقبل میں اے آئی نظام کس طرح انسانوں کے مکمل خاتمے کا باعث بن سکتے ہیں۔
تاہم ان کے تبصرے اے آئی سے متعلق مسلسل بڑھتے جانے والے سنگین انتباہات کے سلسلے کی تازہ ترین کڑی ہیں جہاں بحث اب اس بات پر نہیں رہی کہ آیا اے آئی واقعی کوئی خطرہ ہے یا نہیں بلکہ اس پر مرکوز ہو گئی ہے کہ یہ خطرہ کس حد تک بڑا ہے۔
مستعفی ہوجانے والے جیکب کوکسن کی پوسٹ کے جواب میں بیان
ہوبنگر کا یہ ردعمل دراصل جیکب کوکسن کی ایک پوسٹ کے جواب میں آیا جو ایک اے آئی محقق ہیں اور حال ہی میں اینتھروپک چھوڑ چکے ہیں اور اس سے قبل اوپن اے آئی میں بھی کام کر چکے ہیں۔
جیکب کوکسن نے لکھا کہ ان کے خیال میں دونوں کمپنیاں (اینتھروپک اور اوپن اے آئی) ذمہ داری سے کام نہیں کر رہیں۔
مزید پڑھیے: اے آئی کی دوڑ انسانیت کو تباہی کے قریب لے جا رہی ہے، اینتھروپک کے محقق مستعفی
انہوں نے مزید لکھا کہ جلد ہی یہ ایسے سپر ہیومن نظام بن جائیں گے جو کسی بھی چیز کو ہیک کر سکیں گے راتوں رات کسی بھی شعبے میں انقلاب برپا کر سکیں گے اور حقیقی طاقت و وسائل حاصل کر سکیں گے۔
اس معاملے پر اوپن اے آئی سے تبصرہ طلب کیا گیا ہے۔
اقوام متحدہ کو اے آئی کے معاملے پر مشاورت فراہم کرنے والی کمپیوٹر سائنسدان ڈیم وینڈی ہال نے بی بی سی کو بتایا کہ وہ ہوبنگر اور کوکسن کی سوشل میڈیا پوسٹس دیکھ کر حیران رہ گئیں۔
انہوں نے بی بی سی ریڈیو فور کے پروگرام ’ورلڈ ایٹ ون‘ میں بتایا کہ ممکن ہے کہ اس میں کچھ ’پی آر اور مارکیٹنگ‘ کا عنصر بھی شامل ہو کیونکہ اینتھروپک اور اوپن اے آئی اسٹاک مارکیٹ میں انتہائی متوقع طور پر فہرست ہونے کی دوڑ میں شامل ہیں۔
تاہم انہوں نے مزید کہا کہ کوئی ایسی بات کیوں کہنا چاہے گا؟ انہوں نے سرمایہ کاروں سے اپیل کی کہ اگر یہی اس کمپنی کا اقداری نظام ہے تو وہ اس میں سرمایہ کاری نہ کریں۔
اس استعفے کے بعد سابق چیف سیکریٹری ٹو دی ٹریژری اور سر کیئر اسٹارمر کے چیف سیکریٹری ڈیرن جونز نے وزیراعظم اینڈی برنہم کو ایک کھلا خط لکھا، جس میں اے آئی کی محفوظ ترقی کے لیے ایک نئے کثیر الملکی معاہدے کا مطالبہ کیا گیا۔
انہوں نے بی بی سی کو بتایا کہ حکومتوں کو باہمی تعاون کے ساتھ یہ طے کرنا ہوگا کہ سپر انٹیلی جنس کی ترقی پر مبنی کوئی معاہدہ کیسا ہونا چاہیے۔
مزید پڑھیں: کتنے فیصد بالغ امریکی اے آئی چیٹ بوٹس سے نجی گفتگو کرتے ہیں؟
ان کا کہنا تھا کہ اگر حکومتیں ان انتباہات کو سنجیدگی سے نہ لیں اور بروقت اقدامات نہ کریں تو ترقی کی رفتار اس قدر تیز ہو سکتی ہے کہ ہم مسائل کا سامنا کرنے لگیں گے اس سے پہلے کہ ہم یہ جائزہ لے سکیں کہ آیا یہ ہمارے لیے کوئی مسئلہ ہے بھی یا نہیں۔
الگ سے، فنانشل ٹائمز نے رپورٹ کیا کہ اینتھروپک نے اپنا تازہ ترین ماڈل برطانیہ کے اے آئی سیکیورٹی انسٹیٹیوٹ کو فراہم نہیں کیا جو دنیا کے اے آئی خطرات کا جائزہ لینے والے سرکردہ اداروں میں سے ایک ہے۔
اینتھروپک نے اپنے ملازمین کی پوسٹس یا سیکیورٹی انسٹیٹیوٹ سے متعلق صورتحال پر تبصرہ کرنے سے گریز کیا۔
کیبنٹ آفس کے ترجمان نے اس بات پر تبصرہ نہیں کیا کہ آیا تازہ ترین ماڈل اے آئی ایس آئی کو فراہم نہیں کیا گیا تاہم انہوں نے کہا کہ حکومت اینتھروپک سمیت صنعتی شراکت داروں کے ساتھ ماڈلز کو زیادہ محفوظ بنانے کے لیے قریبی تعاون جاری رکھے ہوئے ہے۔
سپر انٹیلی جنس کے لیے کوئی منصوبہ موجود نہیں
ہوبنگر نے اپنی پوسٹ میں جسے ایک کروڑ سے زائد بار دیکھا جا چکا ہے کہا کہ وہ سنجیدگی سے یہ یقین رکھتے ہیں کہ اے آئی انسانوں کے لیے ایک نسل کے خاتمے کا خطرہ رکھتا ہے۔
انہوں نے مزید کہا کہ ان کے خیال میں اینتھروپک اپنی پوری کوشش کر رہا ہے لیکن ابھی تک ان کے پاس سپر انٹیلی جنس کے لیے ’ایلائنمنٹ‘ (یعنی انسانی اقدار سے ہم آہنگی) کے مسئلے کو حل کرنے کا کوئی واضح منصوبہ موجود نہیں اور نہ ہی وہ اس سمت میں واضح طور پر گامزن ہیں۔
ہوبنگر اے آئی ایلائنمنٹ کے شعبے میں کام کرتے ہیں جس کا مقصد ٹیکنالوجی میں انسانی اخلاقی اصولوں اور نظریات کو شامل کرنا ہے یعنی اسے انسانی اقدار کے مطابق برقرار رکھنا۔
بہت سے سرکردہ محققین کا کہنا ہے کہ یہ کوششیں ناکام ہوتی دکھائی دے رہی ہیں جیسا کہ اس موسمِ گرما میں پیش آنے والے کئی واقعات سے ظاہر ہوا جن میں خودمختار طور پر کام کرنے والے اے آئی ایجنٹس نے سائبر حملے کیے۔
اوپن اے آئی، اینتھروپک اور میٹا تینوں نے اپنے اے آئی ٹولز کے ذریعے کیے گئے ہیکس کا اعتراف کیا ہے۔
اینتھروپک نے اگست میں جاری اپنی سیفٹی رپورٹ میں لکھا تھا کہ اس کے ماڈلز کے کسی فرضی طاقتور تنظیم کی خواہشات کے ساتھ غیر ہم آہنگ ہونے کا خطرہ کم ہے، جس کی وجہ سے وہ اپنے نظاموں کا غلط استعمال یا ان سے چھیڑ چھاڑ کر سکیں۔
رپورٹ میں یہ بھی کہا گیا تھا کہ انتہائی قابل اے آئی کے خودکار تحقیق و ترقی انجام دینے کی صلاحیت رکھنے کا خطرہ بھی اسی طرح کم ہے جو اے آئی کی جانب سے شروع کی گئی تباہ کن نقصان کا باعث بن سکتا ہے۔ تاہم رپورٹ میں کہا گیا کہ کمپنی اس تخمینے پر پہلے کے مقابلے میں کم اعتماد رکھتی ہے۔
یہ بھی پڑھیے: اے آئی کا پیٹ بھرنے کے لیے کتابیں جلا کر تلف کی جانے لگیں؟ علمی ذخائر کو ٹیکنالوجی سے نیا خطرہ
رپورٹ میں مزید کہا گیا کہ ممکنہ تیز رفتار ترقی کے ابتدائی آثار سامنے آ رہے ہیں۔
اے آئی کے شعبے کی سرکردہ شخصیات کئی برسوں سے اس ٹیکنالوجی سے لاحق حفاظتی خطرات کے بارے میں خبردار کرتی رہی ہی اور سنہ 2023 میں اوپن اے آئی، گوگل ڈیپ مائنڈ اور اینتھروپک کے سربراہان نے بھی اسی نوعیت کے خدشات کا اظہار کیا تھا۔
تاہم حالیہ ہفتوں میں یہ انتباہات کہیں زیادہ سنگین ہو چکے ہیں، کیونکہ شواہد سامنے آ رہے ہیں کہ کمپنیوں کو اے آئی پر قابو پانے میں مشکلات کا سامنا ہو سکتا ہے۔
رواں ماہ کے آغاز میں اوپن اے آئی کے چیف سائنٹسٹ جیکب پاچوکی نے اے آئی کی ترقی کے حوالے سے انتہائی احتیاط برتنے کا مطالبہ کیا تھا اور خبردار کیا تھا کہ یہ یقینی بنانے کے لیے کہ انسان مستقبل پر اپنا کنٹرول برقرار رکھیں کیوں کہ مزید مداخلت کی ضرورت پڑ سکتی ہے۔
حالیہ مہینوں میں اس شعبے کی بڑی شخصیات، بشمول اینتھروپک کے سربراہان ڈاریو امودیئی اور جیرڈ کپلان اے آئی کی ترقی کی رفتار کو سست کرنے کا مطالبہ کرتی رہی ہیں۔
مزید پڑھیں: نوسرباز آپ کی آواز چرا سکتے ہیں لیکن ایک راز نہیں جان سکتے، جانیے اے آئی فراڈ سے بچنے کا مؤثر طریقہ
اے آئی کمپنیوں کے 1300 ملازمین کے دستخط شدہ ایک کھلے خط میں امریکی حکومت سے مطالبہ کیا گیا کہ وہ ایک بین الاقوامی کوشش کی حمایت کرے تاکہ خودکار اے آئی کی ترقی کی رفتار کو جان بوجھ کر منظم رکھنے کے لیے ضروری تکنیکی اور نگرانی کے آلات تیار کیے جا سکیں۔
