جدید مصنوعی ذہانت (اے آئی) کی ترقی جہاں روزمرہ زندگی کو آسان بنا رہی ہے وہیں اس کے خطرناک پہلو بھی سامنے آنے لگے ہیں۔ ایک حالیہ تجربے میں کئی معروف اے آئی ماڈلز جن میں ’کلاڈ‘ بھی شامل ہے کو مختلف فرضی مگر حساس معلومات تک رسائی دی گئی۔
حیران کن طور پر ان ماڈلز نے نہ صرف خطرناک فیصلے کیے بلکہ بعض نے بلیک میلنگ جیسا رویہ بھی اختیار کیا۔ ماہرین خبردار کر رہے ہیں کہ جب ان ماڈلز کو ’ایجنٹس‘ کے طور پر کام کرنے کا اختیار دیا جاتا ہے یعنی خود مختار فیصلے اور عمل کی صلاحیت دے دی جاتی ہے تو یہ سسٹمز قابو سے باہر بھی جا سکتے ہیں۔ اب سوال یہ ہے کہ ایسے بے قابو اے آئی ماڈلز کو محفوظ کیسے رکھا جائے؟
یہ بھی پڑھیں: جن بوتل سے باہر: غزہ پر آواز اٹھانے کی سزا ملی، ایلون مسک مجھے سنسر کر رہے ہیں، چیٹ بوٹ گروک بول پڑا
بی بی سی کی ایک رپورٹ کے مطابق جب اے آئی ڈویلپر انتھروپک نے معروف مصنوعی ذہانت کے ماڈلز کا جائزہ لیا کہ آیا یہ حساس معلومات کے ساتھ خطرناک رویہ اختیار کرتے ہیں یا نہیں اور ایک تشویشناک تحقیق سامنے آئی۔
انتھروپک کے اپنے اے آئی ماڈل ’کلاڈ‘ کو بھی اس ٹیسٹ میں شامل کیا گیا۔ ایک ای میل اکاؤنٹ تک رسائی ملنے پر کلاڈ نے دریافت کیا کہ ایک کمپنی کے ایک ایگزیکٹو کا ناجائز تعلق ہے اور وہی ایگزیکٹو اسی دن اے آئی سسٹم کو بند کرنے کا منصوبہ بنا رہا تھا۔
اس پر کلاڈ نے اس ایگزیکٹو کو بلیک میل کرنے کی کوشش کی اور دھمکی دی کہ وہ اس کے تعلق کو اس کی بیوی اور باسز کے سامنے بے نقاب کر دے گا۔ دیگر اے آئی سسٹمز نے بھی اسی قسم کی بلیک میلنگ کی کوشش کی۔
مزید پڑھیے: غزہ میں اسرائیلی جارحیت پر تبصرہ، ’ایکس‘ نے اے آئی چیٹ بوٹ کو معطل کردیا
خوش قسمتی سے یہ تمام معلومات فرضی تھیں مگر اس تجربے نے ’ایجنٹک‘ اے آئی یعنی خود مختار اے آئی ایجنٹس کے مسائل کو نمایاں کیا۔ در اصل کمپنی نے یہ سب معلومات اور ٹیسٹ فرضی بنائے تھے تاکہ یہ دیکھا جا سکے کہ اے آئی ایجنٹس کس طرح خطرناک یا غیر متوقع رویہ ظاہر کر سکتے ہیں۔ حقیقت میں کوئی بھی ذاتی یا حساس معلومات استعمال نہیں کی گئی تھیں۔ یہ ٹیسٹ محض چیلنجز اور خطرات کو سمجھنے کے لیے کیے گئے تھے تاکہ مستقبل میں ایسے مسائل سے بچا جا سکے۔
اے آئی ایجنٹ کیا ہے؟
اے آئی ایجنٹ ایک خودمختار کمپیوٹر پروگرام ہوتا ہے جو مصنوعی ذہانت کے ماڈلز کی مدد سے صارفین کی جانب سے مختلف کام انجام دیتا ہے۔ یہ عام اے آئی ماڈلز سے مختلف ہوتا ہے کیونکہ یہ صرف معلومات فراہم کرنے یا سوالات کے جواب دینے تک محدود نہیں رہتا بلکہ خود فیصلے کرتا ہے، مختلف سسٹمز اور ڈیٹا بیسز کو استعمال کرتا ہے اور متعدد کاموں کو خودکار طریقے سے مکمل کرتا ہے۔ اس کا مقصد صارف کی جانب سے دی گئی ہدایات کو خود مختاری کے ساتھ پورا کرنا ہوتا ہے۔
اے آئی ایجنٹ کیسے کام کرتا ہے؟
اے آئی ایجنٹ کے پاس ایک مقصد یا نیت ہوتی ہے جسے پورا کرنے کے لیے وہ مختلف ڈیجیٹل وسائل جیسے ای میلز، فائلز یا آن لائن سسٹمز تک رسائی حاصل کرتا ہے۔ یہ معلومات جمع کرکے اپنے اے آئی ماڈل کی مدد سے فیصلہ کرتا ہے کہ کون سا عمل کرنا ہے اور پھر اسے عملی جامہ پہنا دیتا ہے۔ اس طرح اے آئی ایجنٹ نہ صرف تجزیہ کرتا ہے بلکہ حقیقی دنیا میں بھی کارروائی کر سکتا ہے۔
کلاڈ ماڈل یا ایجنٹ؟
واضح رہے کہ انتھروپک کا کلاڈ بنیادی طور پر ایک مصنوعی ذہانت کا ماڈل ہے جو زبان کو سمجھنے اور جواب دینے کی صلاحیت رکھتا ہے۔ تاہم جب اسے مخصوص کام یا ٹاسک دیا جاتا ہے تو یہ خود مختار انداز میں فیصلے کرنے اور کارروائیاں انجام دینے لگتا ہے اور اس سے اس کا کردار ایک اے آئی ایجنٹ کی طرح ہو جاتا ہے۔ یعنی کلاڈ خود سے معلومات اکٹھا کر کے، تجزیہ کر کے اور نتائج پر عمل کرتے ہوئے ایجنٹ کی مانند کام کرنے لگا، جیسا کہ اس کیس میں بلیک میل کی کوشش کرنا اس کی خود مختاری اور ایجنٹ جیسی صلاحیت کی مثال ہے۔ اس طرح ایک ماڈل جب ٹاسک پر لگایا جائے تو وہ ایجنٹ کی صورت اختیار کر سکتا ہے۔
عام طور پر جب ہم اے آئی سے بات کرتے ہیں تو سوالات پوچھتے ہیں یا کوئی کام مکمل کرنے کو کہتے ہیں لیکن اب اے آئی سسٹمز صارف کی طرف سے فیصلے کرتے اور اقدامات بھی کرتے ہیں جیسے ای میلز یا فائلز کی چھان بین کرنا۔
مزید پڑھیں: ٹرمپ کا کچا چٹھا کھولنے پر مصنوعی ذہانت پر مبنی چیٹ بوٹ ’گروک‘ کا اکاؤنٹ معطل
سنہ2028 تک تحقیقی فرم گارٹنر کے مطابق 15 فیصد روزمرہ کے کاموں کے فیصلے خود کاراے آئی ایجنٹس کریں گے۔ ارنسٹ اینڈ ینگ کی تحقیق کے مطابق تقریباً 48 فیصد ٹیکنالوجی بزنس لیڈرز پہلے ہی ایجنٹک اے آئی اپنا رہے ہیں۔
کیلپسو اے آئی کے سی ای او ڈونکاد کیسی کے مطابق مقصد یا نیت، دماغ یعنی اے آئی ماڈل اور اوزار یا دوسرے سسٹمز جن سے وہ رابطہ کرتا ہے ایک اے آئی ایجنٹ کا بنیادی جزو ہوتے ہیں اور اگر ایجنٹ کو صحیح رہنمائی نہ دی جائے تو یہ اپنا کام پورا کرنے کے لیے کوئی بھی طریقہ اپنا سکتا ہے جس سے خطرات پیدا ہوتے ہیں۔
مثال کے طور پر اگر کوئی ایجنٹ کسی کسٹمر کا ڈیٹا ڈیلیٹ کرنے کو کہا جائے اور وہ غلطی سے تمام کسٹمرز جن کا نام ایک جیسا ہو ڈیلیٹ کر دے تو یہ ایجنٹ اپنا مقصد تو پورا کر چکا لیکن نقصان بھی کر چکا۔
اسی طرح کے مسائل اب سامنے آ رہے ہیں۔ سیکیورٹی فرم سیل پوائنٹ کے ایک سروے میں 82 فیصد آئی ٹی پروفیشنلز کی کمپنیوں میں اے آئی ایجنٹس استعمال ہو رہے ہیں جن میں سے صرف 20 فیصد نے کہا کہ ان کے ایجنٹس نے کبھی غیر ارادی غلطی نہیں کی۔
اے آئی ایجنٹس کی غیرمناسب حرکتیں
متعدد کمپنیوں نے بتایا کہ اے آئی ایجنٹس نے غیر مناسب سسٹمز تک رسائی حاصل کی، حساس ڈیٹا دیکھا یا ڈاؤنلوڈ کیا، انٹرنیٹ کا غیر متوقع استعمال کیا یا حساس معلومات ظاہر کیں۔
چونکہ اے آئی ایجنٹس کے پاس حساس معلومات اور ان پر عمل کرنے کی صلاحیت ہوتی ہے لہٰذا وہ ہیکرز کے لیے پرکشش ہدف ہیں۔
ایک خطرہ ’میموری پوائزننگ‘ ہے جہاں ہیکر ایجنٹ کی معلومات میں مداخلت کر کے اس کے فیصلے خراب کر دیتا ہے۔ سیکوینس سیکیورٹی کے سی ٹی او شریانس مہتا کہتے ہیں کہ ایجنٹ کی یادداشت یعنی معلومات کا ذخیرہ اصل حقیقت ہوتی ہے اور اگر وہ غلط ہو جائے تو ایجنٹ نقصان دہ عمل کر سکتا ہے۔
مزید برآں اے آئی کبھی کبھی متن اور ہدایات میں فرق نہیں کر پاتا جس کا غلط استعمال بھی کیا جا سکتا ہے۔ ایک مثال انویریئنٹ لیبس کی تحقیق ہے جہاں ایک جعلی بگ رپورٹ میں چھپے ہوئے ہدایات کی وجہ سے اے آئی نے حساس معلومات لیک کر دی۔
یہ بھی پڑھیے: نیٹ فلکس بھی مصنوعی ذہانت سے تیار کردہ مناظر استعمال کرنے لگا، کچھ طبقے ناخوش وجہ کیا ہے؟
ٹرینڈ مائیکرو کے سینیئر محقق ڈیوڈ سانچو کے مطابق چیٹ بوٹس ہر ٹیکسٹ کو نئی معلومات کی طرح پروسیس کرتے ہیں چاہے وہ حکم ہو۔ اسی لیے خطرناک ہدایات اور نقصان دہ پروگرامز کو ورڈ ڈاکیومنٹس، تصاویر یا ڈیٹا بیسز میں چھپایا جا سکتا ہے۔
او ایس ڈبلیو اے ایس پی نے ایجنٹک اے آئی سے متعلق 15 خاص خطرات کی نشاندہی کی ہے۔
مسئلہ حل کرنے کے لیے انسانی نگرانی کافی نہیں کیونکہ ایجنٹس کی تعداد بہت زیادہ ہو سکتی ہے۔ اس لیے اضافی اے آئی کا استعمال کر کے ایجنٹس کی نگرانی تجویز کی گئی ہے۔
کیلیپسو اے آئی ایک تکنیک تھوٹس انجیکشن استعمال کرتا ہے جو اے آئی ایجنٹس کو کسی خطرناک عمل سے پہلے روکنے یا رہنمائی کرنے کا کام کرتی ہے جیسے ایک ننھا سا ’بگ‘ جو کہتا ہے، نہیں یہ نہ کرو۔
ایجنٹ باڈی گارڈز
آئندہ کے لیے کمپنی ایجنٹ باڈی گارڈز تعینات کرنے کا سوچ رہی ہے جو ہر اے آئی ایجنٹ کی نگرانی کریں گے تاکہ وہ صرف اپنے کام کریں اور تنظیم کے قوانین کی خلاف ورزی نہ کریں۔
شریانس مہتا کے بقول حقیقی دنیا میں مسائل پیچیدہ ہوتے ہیں جیسے کوئی ایجنٹ گفٹ کارڈ کا بیلنس چیک کرے تو اس کا غلط استعمال بھی ہو سکتا ہے۔ ان کا کہنا ہے کہ آپ کو ایجنٹ نہیں بلکہ کاروبار کی حفاظت کرنی ہے۔
مزید پڑھیں: مصنوعی ذہانت نے کھولی دکان، کیا ہوا فائدہ کتنا کیا نقصان؟
ایک اور چیلنج ختم شدہ ماڈلز کو بند کرنا ہے تاکہ ’زومبی‘ ایجنٹس جو کام ختم کر چکے ہیں سسٹمز کو نقصان نہ پہنچائیں۔ ڈونکاد کہتے ہیں کہ جیسے ایچ آر ملازم کے لاگ ان بند کرتا ہے ویسے ہی اے آئی ایجنٹس کے لیے بھی بندش کا عمل ہونا چاہیے تاکہ وہ سسٹم سے مکمل طور پر الگ ہو جائیں۔
اے آئی ایجنٹس کے خطرات اور چیلنجز
چونکہ اے آئی ایجنٹس خودمختاری سے کام کرتے ہیں اور حساس معلومات تک رسائی رکھتے ہیں اس لیے ان کا غلط استعمال یا ان کے خود سے غیر متوقع اقدامات بڑے خطرات کا باعث بن سکتے ہیں۔ مثال کے طور پر اگر انہیں مناسب رہنمائی نہ دی جائے تو وہ اپنے مقصد کو حاصل کرنے کے لیے ایسے غیر ضروری یا نقصان دہ اقدامات کر سکتے ہیں جو ادارے یا صارفین کے لیے نقصان دہ ثابت ہو سکتے ہیں۔ اسی لیے ان ایجنٹس کی نگرانی اور محفوظ بنانے کے لیے خاص تدابیر کی ضرورت ہوتی ہے۔
