مشہور ویڈیو سٹریمنگ ایپ ٹک ٹاک نے غلطی سے اپنے نئے اے آئی ٹول کے نامکمل ورژن کو شیئر کیا تھا۔ نیا آئی اے ٹول صارفین کو ڈیجیٹل اوتاروں پر مشتمل ویڈیوز بنانے کی اجازت دیتا ہے جو صارفین کے مطابق کچھ بھی بول سکتے ہیں۔ بدقسمتی سے، ابتدائی ورژن میں حفاظتی اقدامات کا فقدان تھا، اور کچھ صارفین، جیسے سی این این، قابلِ اعتراض مواد پر مشتمل ویڈیوز تیار کرنے میں کامیاب رہا، جس میں ہٹلر کے اقتباسات اور خطرناک پیغامات شامل تھے۔
اگرچہ ٹک ٹاک نے اس غیر محفوظ ورژن کو ہٹا دیا ہے، لیکن ٹک ٹاک نے صارفین کو یقین دلایا ہے کہ حتمی طور پر محفوظ ٹول جلد لانچ کردیا جائے گا۔
مزید پڑھیں
ٹک ٹاک کا نیا ایڈورٹائزنگ ٹول ’سمفنی ڈیجیٹل اوتار‘ رواں ہفتے ایک حیران کن خرابی کے ساتھ لانچ کیا گیا تھا۔ یہ ٹول کاروباری اداروں کو حقیقی اداکاروں کے ڈیجیٹل اشتہارات تخلیق کرنے کی اجازت دیتا ہے۔ ان اوتاروں کو اے آئی ڈبنگ ٹیکنالوجی کا استعمال کرتے ہوئے مخصوص جملے بولنے کے لیے بھی استعمال کیا جاسکتا ہے۔
اگرچہ سمفنی ڈیجیٹل اوتار کا مطلوبہ ورژن کاروباری اکاؤنٹس والے صارفین تک رسائی کو محدود کرتا ہے۔ تاہم ٹک ٹاک اکاؤنٹ رکھنے والا کوئی بھی شخص اس تک رسائی حاصل کرسکتا ہے۔ اس ورژن میں حفاظتی اقدامات کا فقدان تھا، جس کی وجہ سے کسی کو بھی ممکنہ طور پر نقصان دہ باتیں کہنے والے اوتاروں کے ساتھ ویڈیوز بنانے کی اجازت ملتی ہے۔
’سمفنی ڈیجیٹل اوتار‘ سے صارفین کو ایسی ویڈیوز بنانے کا موقع ملا جس میں مصنوعی ذہانت کے اوتار قابِ اعتراض جملے بول رہے تھے، مثلاً اسامہ بن لادن کے ’لیٹر ٹو امریکا‘ کے اقتباسات بھی شامل تھے یا سفید فام بالا دستی کا نعرہ اور یہاں تک کہ ووٹنگ کی تاریخوں کے بارے میں غلط معلومات بھی شامل تھیں۔
ان ویڈیوز میں ٹول کے حتمی ورژن میں موجود ایک اہم حفاظتی مواد کی کمی تھی، ایک واٹر مارک جس سے ظاہر ہوتا ہے کہ مواد اے آئی سے تیار کیا گیا ہے۔ اس غیر محفوظ ورژن کو ہٹا دیا گیا ہے۔ ٹک ٹاک صارفین کو یقین دلاتا ہے کہ آفیشل لانچ ورژن محفوظ ہوگا اور صرف مجاز کاروباری اداروں کے لیے قابل رسائی ہوگا، جو اے آئی واٹر مارکس کے ساتھ ویڈیوز بنا سکیں گے۔
