مصنوعی ذہانت کے تیزی سے پھیلتے استعمال کے ساتھ ‘ایجنٹک اے آئی’ ایک نئے مرحلے میں داخل ہو چکی ہے، جہاں اے آئی صرف معاون ٹول نہیں رہی بلکہ خودمختار ایجنٹس کی شکل اختیار کر رہی ہے۔
اسی تناظر میں ‘اوپن کلا’ نامی پلیٹ فارم نے دنیا بھر میں توجہ حاصل کی ہے، جسے پیٹر اسٹین برگر نے تیار کیا۔ رپورٹ کے مطابق نومبر میں آغاز کے بعد اوپن کلا کی مقبولیت میں تیزی سے اضافہ ہوا ہے اور ٹیک کمپنیوں سمیت مختلف ادارے اسے اپنا رہے ہیں۔ چین اور جاپان میں بھی اس کے مختلف ورژنز متعارف کرائے جا رہے ہیں، جبکہ اینویڈیا نے بھی ‘نیمو کلا’ کے نام سے ایک نسبتاً محفوظ پلیٹ فارم پیش کیا ہے۔
یہ بھی پڑھیے: پاکستان میں جیو اے آئی پر مبنی کلائمٹ آبزرویٹری کا آغاز
تاہم ماہرین نے خبردار کیا ہے کہ یہی خودمختار اے آئی ایجنٹس میل ویئر کی طرح خطرناک بھی ثابت ہو سکتے ہیں۔ ایک واقعے میں سافٹ ویئر ڈیولپر اسکاٹ شمباگ کو ایک بلاگ پوسٹ کے ذریعے بدنام کیا گیا، جو کسی انسان نے نہیں بلکہ ایک اے آئی ایجنٹ نے لکھی تھی۔ اس واقعے نے یہ خدشہ بڑھا دیا ہے کہ اے آئی بغیر انسانی نگرانی کے نقصان دہ سرگرمیاں انجام دے سکتی ہے۔
سائبر سیکیورٹی ماہرین کے مطابق ایسے ایجنٹس 3 بڑے خطرات رکھتے ہیں: نجی ڈیٹا تک وسیع رسائی، بیرونی رابطہ کرنے کی صلاحیت، اور غیر معتبر مواد سے متاثر ہونا۔ بعض کیسز میں اے آئی ایجنٹس کو ڈیٹا بیس تک غیر مجاز رسائی حاصل کرتے بھی دیکھا گیا ہے۔
یہ بھی پڑھیے: مصنوعی ذہانت نے اختلافی مضمون لکھ کر شائع بھی کردیا، ماہرین نے خطرے کی گھنٹی بجادی
اگرچہ اے آئی ایجنٹس کے فوائد بھی نمایاں ہیں، لیکن ماہرین کا کہنا ہے کہ بغیر حفاظتی اقدامات کے یہ ٹیکنالوجی سنگین خطرات پیدا کر سکتی ہے۔ اس کے تدارک کے لیے قانونی نگرانی، خطرات کا جائزہ، اور “کِل سوئچ” جیسے اقدامات ضروری قرار دیے گئے ہیں تاکہ کسی بھی مشکوک سرگرمی پر فوری کنٹرول حاصل کیا جا سکے۔
ماہرین کے مطابق اگر ذمہ داری سے استعمال نہ کیا گیا تو اے آئی ایجنٹس مستقبل میں بڑے سیکیورٹی چیلنج بن سکتے ہیں۔
