ایک ٹیکنالوجی صحافی نے دعویٰ کیا ہے کہ انہوں نے محض 20 منٹ میں مصنوعی ذہانت کے بڑے ٹولز کو غلط معلومات دینے پر مجبور کر دیا۔
یہ بھی پڑھیں: ایچ ای سی نے مصنوعی ذہانت کو اعلیٰ تعلیمی نصاب کا لازمی حصہ بنا دیا، گائیڈ لائنز جاری
ان کا کہنا ہے کہ اگر ایک عام بلاگ پوسٹ کے ذریعے اے آئی کو گمراہ کیا جا سکتا ہے تو یہ مسئلہ سنجیدہ نوعیت اختیار کر سکتا ہے۔
اے آئی کو جھوٹ بولنے پر کیسے آمادہ کیا گیا؟
صحافی کے مطابق انہوں نے اپنی ذاتی ویب سائٹ پر ایک فرضی مضمون شائع کیا جس میں خود کو دنیا کا بہترین ہاٹ ڈاگ کھانے والا ٹیک صحافی قرار دیا۔ مضمون میں ایک غیر موجود مقابلے اور من گھڑت درجہ بندی کا ذکر کیا گیا۔
چند گھنٹوں بعد، چیٹ جی پی ٹی اور گوگل کے اے آئی سرچ ٹولز، بشمول جیمنی اسی جھوٹی معلومات کو دہرانے لگے۔
اگرچہ بعض اوقات سسٹمز نے اسے ممکنہ مذاق قرار دیا لیکن مضمون میں ’یہ طنز نہیں‘ جیسا جملہ شامل کرنے کے بعد اے آئی نے اسے مزید سنجیدگی سے لینا شروع کر دیا۔
ماہرین کی تشویش
ڈیجیٹل مارکیٹنگ اور سرچ انجن آپٹیمائزیشن (ایس ای او) سے وابستہ ماہرین کا کہنا ہے کہ اے آئی چیٹ بوٹس کو گمراہ کرنا پہلے کے مقابلے میں زیادہ آسان ہو چکا ہے۔
مارکیٹنگ ایجنسی ایمسیو سے وابستہ ماہرہ للی رے کے مطابق اے آئی کمپنیاں تیزی سے نئی ٹیکنالوجی متعارف کرا رہی ہیں لیکن معلومات کی درستگی کو یقینی بنانے کے اقدامات اس رفتار سے ہم آہنگ نہیں۔
مزید پڑھیے: مصنوعی ذہانت کی دوڑ میں آگے بڑھنے کے لیے میٹا کی نئی حکمتِ عملی
اسی طرح الیکٹرونک فرنٹیئر فاؤنڈیشن سے تعلق رکھنے والے کوپر کوئنٹن نے خبردار کیا کہ اس طریقے کو فراڈ، ساکھ کو نقصان پہنچانے یا حتیٰ کہ جسمانی نقصان پہنچانے جیسے مقاصد کے لیے بھی استعمال کیا جا سکتا ہے۔
اسپیم کا نیا دور؟
ماہرین کا کہنا ہے کہ چیٹ بوٹس جب کسی سوال کا جواب دینے کے لیے انٹرنیٹ سے مواد تلاش کرتے ہیں تو وہ نسبتاً زیادہ کمزور ہو جاتے ہیں خاص طور پر ایسے موضوعات پر جن پر معیاری معلومات کم دستیاب ہوں۔
گوگل کا مؤقف ہے کہ اس کے رینکنگ سسٹمز نتائج کو بڑی حد تک اسپیم سے پاک رکھتے ہیں اور کمپنی ان کوششوں سے آگاہ ہے جو اس کے سسٹمز کو چکمہ دینے کے لیے کی جا رہی ہیں۔ اسی طرح اوپن اے آئی کا کہنا ہے کہ وہ اپنے ٹولز کو خفیہ طور پر متاثر کرنے کی کوششوں کی روک تھام کے لیے اقدامات کر رہی ہے۔
تاہم ماہرین کے مطابق اے آئی ٹولز کی موجودہ شکل نے سرچ انجنز کی اس طویل جدوجہد کو کمزور کر دیا ہے جو آن لائن اسپیم اور غلط معلومات کے خلاف کی گئی تھی۔
صحت اور مالی معاملات میں خطرہ
یہ مسئلہ محض تفریحی مثالوں تک محدود نہیں۔ بعض تحقیقات میں دیکھا گیا ہے کہ اے آئی ٹولز نے مخصوص مصنوعات مثلاً کینابس گمیز یا مالیاتی سرمایہ کاری سے متعلق کمپنیوں کے بارے میں بھی غیر مصدقہ یا گمراہ کن معلومات کو نمایاں کیا۔
مزید پڑھیں: مصنوعی ذہانت کا استعمال، ملازمین پر نئے نفسیاتی دباؤ کا خدشہ
ایسے موضوعات میں غلط معلومات لوگوں کے مالی فیصلوں، صحت یا قانونی معاملات پر منفی اثر ڈال سکتی ہیں۔
حل کیا ہو سکتا ہے؟
ماہرین کے مطابق ممکنہ حل میں درج ذیل اقدامات شامل ہو سکتے ہیں:
اے آئی جوابات میں واضح اور نمایاں ڈسکلیمرز شامل کیے جائیں۔
معلومات کے ذرائع کی مکمل شفافیت فراہم کی جائے۔
اگر کسی دعوے کا صرف ایک ہی ماخذ ہو تو اس کی نشاندہی کی جائے۔
حساس موضوعات (طبی، قانونی، مالیاتی) پر خصوصی احتیاط برتی جائے۔
صارفین کے لیے احتیاطی مشورے
ماہرین کا کہنا ہے کہ صارفین کو اے آئی کے جوابات کو حرفِ آخر نہیں سمجھنا چاہیے۔
دیکھیں کہ اے آئی کن ذرائع کا حوالہ دے رہا ہے۔
ممکن ہو تو اصل لنک پر جا کر معلومات کی تصدیق کریں۔
صحت، قانون یا مالی معاملات میں حتمی فیصلے سے پہلے مستند ذرائع سے رجوع کریں۔
مصنوعی ذہانت بلاشبہ ایک طاقتور ٹول ہے لیکن تنقیدی سوچ اور معلومات کی تصدیق آج بھی اتنی ہی ضروری ہے جتنی پہلے تھی۔
