گوگل نے ڈیپ فیک عریاں تصاویر اور فحش ویڈیوز والے اشتہارات پر پابندی عائد کردی

سرچ انجن گوگل پر ایک طویل عرصے سے عریاں اور فحش اشتہارات پر پابندی عائد تھی لیکن اب تک کمپنی نے ایڈورٹائزرز پر عریاں ویڈیوز اور تصاویر پر مبنی ایسے اشتہارات کی تشہیر پر پابندی عائد نہیں کی تھی جو اکثر لوگ مصنوعی ذہانت کی ویپ سائٹ ’ڈیپ فیک‘ کے ذریعے تیار کرتے تھے۔

سرچ انجن گوگل نے اپنی ویب سائٹ پر ایک ہدایت نامہ جاری کیا ہے جس میں کہا گیا ہے کہ گوگل واضح طور جنسی مواد پر مبنی آڈیو، ویڈیوز اور عریاں تصاویر پر مبنی اشتہار دہندگان کو مختلف طریقوں سے روکتا رہا ہے لیکن اس میں جنسی اشتعال انگیزی میں بہت تیزی سے اضافہ ہو رہا ہے اس لیے وہ اب اس پر مکمل پاپندی عائد کرنے جا رہا ہے، جس پر 30 مئی سے عمل درآمد شروع ہوجائے گا۔

گوگل نے بتایا ہے کہ اس کی نئی پالیسی کے تحت ’ڈیپ فیک پورن‘ سمیت اب ان تمام مصنوعی ذہانت کے ٹولز اور ویب سائٹس جو خود کار طریقے سے جنسی مواد پر مبنی اشتہارات بناتی ہیں پر پابندی عائد کی جاتی ہے۔

گوگل کے ترجمان مائیکل ایکیمین نے بتایا کہ ’ یہ اپ ڈیٹ واضح طور پر ان تمام مصنوعی ذہانت کی سروسز کے اشتہارات پر پابندی عائد کرنے کے لیے ہے جو ڈیپ فیک پورنوگرافی یا مصنوعی برہنہ مواد تیار کرنے میں مدد فراہم کرتے ہیں۔

ایکیمین کا کہنا ہے کہ ان کی پالیسیوں کی خلاف ورزی کرنے والے کسی بھی اشتہار کو ہٹا دیا جائے گا، انہوں نے مزید کہا کہ کمپنی ان پالیسیوں کو سختی نافذ کرنے اور ان پر عملدرآمد کے لیے انسانی دماغ اور خودکار سسٹمز کا بھرپور استعمال کرے گی۔

واضح رہے کہ کمپنی کی سالانہ اشتہار سیفٹی رپورٹ کے مطابق 2023 میں گوگل نے جنسی مواد سے متعلق اپنی پالیسیوں کی خلاف ورزی کرنے پر 1.8 ارب ڈالر سے زیادہ کے اشتہارات کو ہٹایا۔

واضح رہے کہ حالیہ برسوں میں بغیر کسی کی مرضی کے ڈیپ فیک پورنوگرافی ایک مستقل مسئلہ بن گیا ہے۔ اس کی واضح مثال فلوریڈا کے 2 مڈل اسکول کے طالب علموں کو گزشتہ دسمبر میں اپنے ہم جماعت کی مصنوعی ذہانت سے تیار کردہ برہنہ تصاویر بنانے کے الزام میں گرفتار کیا گیا تھا۔

ادھر رواں ہفتے پٹسبرگ کے ایک 57 سالہ شخص کو بچوں سے جنسی زیادتی کا مواد رکھنے کے جرم میں 14 سال قید کی سزا سنائی گئی ہے۔

 گزشتہ سال ایف بی آئی نے بھتہ خوری کی اسکیموں میں اضافے کے بارے میں ایک ایڈوائزی جاری کی تھی جس میں مصنوعی ذہانت سے تیار کردہ برہنہ تصاویر کے ذریعے لوگوں کو بلیک میل کرنا شامل تھا۔

 اگرچہ بہت سے اے آئی ماڈلز اور ٹولز صارفین کے لیے مصنوعی ذہانت سے تیار کردہ برہنہ تصاویر بنانا ناممکن نہیں تو مشکل بناتے ہیں، لیکن کچھ ویب سائٹس صارفین کو جنسی مواد پیدا کرنے کی اجازت دیتی ہیں۔

ڈیپ فیک پورن پر جلد ہی قانون سازی کی کارروائی ہوسکتی ہے۔ گزشتہ ماہ ایوان نمائندگان اور سینیٹ نے ڈی ایف اے ایکٹ متعارف کرایا تھا جس کے تحت ‘ڈیجیٹل جعل سازی’ کے شکار افراد ان لوگوں کے خلاف قانونی چارہ جوئی کر سکتے ہیں جو ان کی مرضی کے بغیر ڈیپ فیک بناتے ہیں یا تقسیم کرتے ہیں۔