خواتین کے خلاف نامناسب تصاویر تیار کرنے کیلئے اے آئی ٹیکنالوجی کا استعمال بڑھ گیا

آرٹی فیشل انٹیلی جنس (اے آئی) ٹیکنالوجی کی مدد سے خواتین کی نامناسب جعلی تصاویر تیار کرنے والی ایپس اور ویب سائٹس کے استعمال میں حالیہ مہینوں میں بہت زیادہ اضافہ ہوا ہے۔

یہ بات ایک نئی تحقیق میں سامنے آئی۔

Graphika نامی کمپنی کی تحقیق میں بتایا گیا کہ ستمبر 2023 میں ہی 2 کروڑ 40 لاکھ افراد نے ڈیپ فیک تصاویر تیار کرنے والی ویب سائٹس کو استعمال کیا۔

ڈیپ فیک ٹیکنالوجی استعمال کرنے والی بیشتر ایپس یا ویب سائٹس کی جانب سے مقبول سوشل نیٹ ورکس کو مارکیٹنگ کے لیے استعمال کرکے لوگوں کو اپنی جانب کھینچا گیا۔

فیک ویڈیوز اور آڈیوز بنانا اتنا آسان کیوں ہوتا جارہا ہے؟

دور جدید میں جہاں ٹیکنالوجی نے طرز زندگی کو آسان بنادیا ہے تو وہیں اس کا غلط استعمال کئی زندگیاں متاثر کرنے کا سبب بھی بن رہا ہے۔

واضح رہے کہ ڈیپ فیک ایک ایسی ہی ٹیکنالوجی ہے جس میں کسی فرد کے چہرے یا آواز کو دوسرے شخص سے با آسانی بدلا جاسکتا ہے،جس سے لگتا ہے کہ وہ ایسے شخص کی فوٹو، ویڈیو یا آڈیو ہے جو دراصل اس کی ہوتی ہی نہیں۔

تحقیق میں بتایا گیا کہ 2023 کے دوران سوشل میڈیا پلیٹ فارمز جیسے ایکس پر اس طرح کی ایپس کے لنکس کی تعداد میں 24 سو فیصد سے بھی زیادہ اضافہ ہوا۔

تحقیق کے مطابق اس طرح کی بیشتر سروسز صرف خواتین کی تصاویر پر ہی کام کرتی ہیں۔

محققین نے بتایا کہ اس طرح کا مواد سوشل میڈیا پلیٹ فارمز پر پوسٹ کر دیا جاتا ہے جس سے خواتین کو مسائل کا سامنا ہوتا ہے۔

تحقیق میں یہ بھی انکشاف کیا گیا کہ ایکس میں ایک ایسی ایپ کی جانب سے تصویر پوسٹ کرکے لوگوں کو کہا گیا کہ وہ نامناسب تصاویر تیار کرکے اس فرد کو بھیج سکتے ہیں جس کی وہ تصویر ہو۔

اس طرح کی ایک ایپ نے یوٹیوب پر بھی اسپانسر مواد چلایا۔

اس حوالے سے گوگل کے ایک ترجمان نے بتایا کہ ہم ایسے اشتہارات کی اجازت نہیں دیتے جس میں نامناسب مواد موجود ہوتا ہے اور پالیسیوں کی خلاف ورزی پر اشتہارات کو ڈیلیٹ کر دیا جاتا ہے۔

فلمی ستاروں کی اس طرح کی جعلی تصاویر یا ویڈیوز پہلے ہی انٹرنیٹ پر کافی وائرل ہو رہی ہیں مگر ماہرین کو خدشہ ہے کہ اے آئی ٹیکنالوجی میں پیشرفت سے ڈیپ فیک سافٹ وئیر کا استعمال زیادہ آسان ہو جائے گا جبکہ جعلی مواد کو پکڑنا بہت مشکل ہو جائے گا۔

محققین کے مطابق ہم نے دیکھا ہے کہ عام افراد کو ہدف بنایا جا رہا ہے۔

تحقیق میں بتایا گیا کہ بیشتر متاثرہ خواتین کو تصاویر کے بارے میں معلوم نہیں ہوتا اور جن کو اس کا علم ہوتا ہے، انہیں قانونی کارروائی کرنے میں مشکلات کا سامنا ہوتا ہے۔