آرٹیفیشل انٹیلیجنس اور ڈیپ فیکس کی وباء، حکومت پاکستان کو اب سخت ایکشن لینا چاہیے ! 

تجزیہ : وجیہہ تمثیل مرزا

اکتوبر 2024 کی بات ہے کہ جیسے ہی انسٹاگرام اور فیس بک کو کھولا تو اچانک فاہد مصطفی اور ہانیہ عامر کا غیر مناسب سین سامنے آیا، ڈرامہ تو بڑا دلچسپ اور بہترین تھا اور پیمرا رولز کےمطابق تھا لیکن ڈرامے کا ایک بہترین سین لے کر کچھ گھٹیا عناصر نے " ڈیپ فیک " کا استعمال کرتے ہوۓ ڈرامے اور اس کے کرداروں کی کردار کشی کرنے کی خوب کوشش کی، چونکہ ہم سب نے پورا ڈرامہ دیکھ رکھا تھا تو لہذا ہمیں علم تھا کہ یہ چیز فیک ہے۔ اب یہ ڈیپ فیک کیا ہے اس کے بارے میں بھی بات کرتے ہیں۔ یہ تو چلو ڈرامہ تھا اور اس کے کرداروں کے خلاف ایک پروپیگینڈا تھا وہ بھی آرٹیفیشل انٹیلیجنس کی مدد سے، لیکن عام عوام بھی آرٹیفیشل انٹیلیجنس کی وباء سے بچ نہیں پا رہی ہے اور اس وباء کی خوبی یہ ہے کہ یہ دیکھنے والوں کو بالکل اصل معلوم ہوتی ہے یعنی جس بھی شخص کو آرٹیفیشل انٹیلیجنس کی چکی میں پسہ جا رہا ہے وہ بیچارہ خود دنگ ہے کہ یہ میں ہوں یا میری پرچھاٸی ؟  ڈیپ فیک ایک ویڈیو یا آواز کی ریکارڈنگ جو کسی کے چہرے یا آواز کو کسی اور کے چہرے سے بدل دیتی ہے ، اس طرح سے جو حقیقی معلوم ہوتی ہے۔
ڈیپ فیک اس وقت پیدا ہوئے جب کسی نے ایسی ویڈیوز پوسٹ کیں جو مشہور شخصیات کے چہروں کو فحش اداکاروں میں تبدیل کرتی ہیں۔ ڈیپ فیک (Deepfake) ایک جدید ٹیکنالوجی ہے جو مصنوعی ذہانت (AI) اور مشین لرننگ (Machine Learning) کا استعمال کرکے کسی شخص کی تصویر، ویڈیو یا آواز میں اس طرح ترمیم کرتی ہے کہ وہ حقیقت کے قریب ترین نظر آئے۔ اس ٹیکنالوجی کے ذریعے کسی کی آواز یا چہرے کو کسی اور کے ساتھ تبدیل کیا جا سکتا ہے، جس سے جعلی لیکن حقیقت جیسے نظر آنے والے ویڈیوز یا آڈیوز بنائے جا سکتے ہیں۔
ڈیپ فیک کو مثبت اور منفی دونوں مقاصد کے لیے استعمال کیا جا سکتا ہے۔ ایک طرف، یہ فلم انڈسٹری اور تفریحی دنیا میں تخلیقی مقاصد کے لیے استعمال ہوتی ہے، جبکہ دوسری طرف، اس کا غلط استعمال جعلی خبروں، غلط معلومات، اور بدنام کرنے کے لیے کیا جا سکتا ہے۔ اب ایک بات اور ہے کہ ڈیپ فیک کیا ہے 
اس کو کیسے پتا لگایا جاۓ ؟ senstiy AI ایک ایسی ایپ ہے جو اس وباء کی تشخیص کرنے میں مدد گار ثابت ہو سکتی ہے لیکن پھر بھی کچھ اثرات باقی رہ جاتے ہیں۔
پاکستان میں ڈیپ فیک کے گھنونے واقعات اس حد بڑھ گۓ ہیں کہ پاکستانی سیاست دان عظمیٰ بخاری کو اپنی ایک جعلی تصویر نے گھیر لیا، ایک جنسی نوعیت کی ڈیپ فیک ویڈیو شائع کی گئی تاکہ ملک کی چند خواتین لیڈروں میں سے ایک کے طور پر ان کے کردار کو بدنام کیا جا سکے۔
لاہور کی ایک رپورٹ ہے کہ پولیس نے الیکٹرانک کرائمز ایکٹ (پیکا) 2025 کے تحت مبینہ طور پر سوشل میڈیا پر اے آئی سے تیار کردہ ڈیپ فیک غیر اخلاقی ویڈیوز اور تصاویر اپ لوڈ کرنے اور ریاستی اداروں کے خلاف بدنیتی پر مبنی پروپیگنڈہ پھیلانے کے الزام میں تین مقدمات درج کر لیے تھے
ایف آئی آر شاہدرہ، شاہدرہ ٹاؤن اور کوٹ لکھپت تھانوں میں درج کی گئی تھیں جن میں پاکستان پینل کوڈ (PPC) کی دفعہ 500، 504 اور 505-1 (C) سمیت کچھ دیگر الزامات کا بھی ذکر کیا گیا تھا۔
دفعہ 500 ہتک عزت کی سزا کی وضاحت کرتی ہے۔ اس میں کہا گیا ہے کہ جو شخص کسی دوسرے کو بدنام کرتا ہے اسے دو سال تک قید، جرمانہ یا دونوں سزائیں ہو سکتی ہیں۔ یہ ڈیپ فیک پاکستان میں ایک جنجال بنتی جا رہی ہے اور ایک ناسور بنتی جا رہی ہے۔
مصنوعی ذہانت نے صحت کی دیکھ بھال سے لے کر تفریح تک متعدد صنعتوں میں انقلاب برپا کر دیا ہے، پھر بھی اس کی گہری ایپلی کیشنز اہم چیلنجز کا باعث ہیں۔ ایسی ہی ایک شے ڈیپ فیک ٹیکنالوجی ہے، جو تصاویر، آڈیو اور ویڈیو میں ہیرا پھیری کرنے کے لیے جدید ترین AI الگورتھم استعمال کرتی ہے، جو انتہائی حقیقت پسندانہ لیکن مکمل طور پر من گھڑت مواد تیار کرتی ہے۔
اس کا استعمال اکثر مشہور شخصیات، سیاست دانوں اور عوامی شخصیات کو نشانہ بنانے کے لیے ہوتا ہے۔ یہ غلط استعمال عالمی بن چکا ہے، اور پاکستان میں، جعلی صریح اور گستاخانہ ویڈیوز کی تخلیق اور گردش میں اضافے کے ساتھ، صورتحال خاص طور پر تشویشناک ہے۔

عالمی سطح پر، ڈیپ فیک ٹیکنالوجی کو ڈیجیٹل پرائیویسی اور آن لائن سیکیورٹی کے لیے سب سے شدید خطرات میں سے ایک کے طور پر تسلیم کیا جاتا ہے۔ مطالعات سے پتہ چلتا ہے کہ آن لائن ڈیپ فیک مواد کا 96 فیصد فحش ہے، بنیادی طور پر خواتین کو نشانہ بناتا ہے، اور اس کی تخلیق خطرناک حد تک قابل رسائی ہو گئی ہے۔ پاکستان میں، گہرے جعلی استحصال کے نفسیاتی، جذباتی اور سماجی اثرات بہت گہرے ہیں۔ متاثرین، خاص طور پر مشہور شخصیات اور ہائی پروفائل افراد کو اکثر عوامی غم و غصے، شدید جذباتی پریشانی، اور انتہائی صورتوں میں، جسمانی تشدد کا سامنا کرنا پڑتا ہے۔
ملک میں قانون نافذ کرنے والے ادارے اور قانونی ماہرین ڈیپ فیک مواد کے بڑھتے ہوئے ہتھیار سازی کے بارے میں خطرے کی گھنٹی بجا رہے ہیں، جو نہ صرف انفرادی زندگیوں کو خطرے میں ڈال رہا ہے بلکہ سماجی ہم آہنگی اور اعتماد کے لیے بھی وسیع خطرہ ہے۔ اس بحران سے نمٹنے کے لیے فوری قانونی اصلاحات، عوامی بیداری کی مہمات اور AI سے چلنے والے آلات کے غلط استعمال کو روکنے کے لیے تکنیکی جدت کا مطالبہ کیا گیا ہے۔
عالمی سطح پر، ڈیپ فیک ٹیکنالوجی تیزی سے مقبول ہوتی جا رہی ہے، خاص طور پر اس کی تخلیق اور تقسیم کو آسان بنانے کے لیے پلیٹ فارمز اور ٹولز کے عروج کے ساتھ۔ حالیہ رپورٹس کے مطابق، آن لائن گردش کرنے والی 96 فیصد سے زیادہ ڈیپ فیک ویڈیوز فحش ہوتی ہیں، جن میں مشہور شخصیات سب سے زیادہ متاثر ہوتی ہیں۔ 2023 تک، ڈیپ فیک تخلیق کرنے والی کمیونٹیز میں 609,000 سے زیادہ شامل ہو چکے تھے، جن میں سے ہر ایک نقصان دہ مواد کے پھیلاؤ میں حصہ ڈال رہا تھا۔
ڈیپ فیک ٹیکنالوجی کی رسائی اس کے وسیع پیمانے پر استعمال میں ایک اہم عنصر ہے۔ ڈیپ نیوڈ جیسے ٹولز، جو چہرے کی بنیادی تصویروں سے واضح مواد تیار کرتے ہیں، نے دنیا بھر میں نمایاں توجہ حاصل کی ہے، جس سے کسی کے لیے بھی جعلی، نقصان دہ مواد بنانا آسان ہو گیا ہے۔ نتیجے کے طور پر، ڈیپ فیک ٹیکنالوجی سائبر کرائمینز، ناراض سابق پارٹنرز، اور دوسروں کے لیے ایک ہتھیار بن گئی ہے جو ذاتی یا سیاسی فائدے کے لیے دوسروں کا استحصال کرنا چاہتے ہیں۔ اگر حکومت نے فوری طور پر اس جعلساز وباء کی روک تھام نہیں کی تو ناجانے کتنے افراد اور گھرانے یہ ڈیپ فیک نگل جاۓ۔

کالم نگار ایک صحافی ہے جنہیں نیشنل/بین الاقوامی جرنلسٹ کونسلز، فورمز اور ایسوسی ایشنز کے لیے نامزد کیا گیا ہےاور ڈیجیٹل، پرنٹ اور الیکٹرانک میڈیا پر اپنے صحافتی فرائض سر انجام دے رہی ہیں۔

انتباۃ: یہ تحریر کالم نگار کی ذاتی آرا پر مبنی ہے، ادارے کا اس سے متفق ہونا ضروری نہیں۔