دیپ فیک چیست و چرا دنیا از آن واهمه دارد؟

تکنولوژی دیپ فیک چیست و چرا باید از آن بترسید؟

این روز ها با سر زدن به شبکه های اجتماعی مانند اینستاگرام، لینکدین و تیک تاک، شاهد ویدیو هایی هستیم که افراد در آن ها از صورت یا صدای سلبریتی ها استفاده کرده اند و تصاویر، ویدیو و صدا هایی تولید کرده اند که در عین تقلبی بودن، کاملا قابل باور است. اگر بخواهیم یک مثال کاملا ملموس بزنیم، می توانیم به آهنگ تماشا از شادمهر عقیلی اشاره کنیم که با استفاده از دیپ فیک، شاهد بازسازی آهنگ با صدای مهستی بودیم.

دیپ فیک نوعی هوش مصنوعی است که کار آن ایجاد تصاویر، ویدیو و صوت هایی است که برای افراد کاملا باورپذیر است. Deepfake همانطور که از نامش پیدا است، یک محتوای جعلی تولید می کند و این کار را با ایجاد تغییر در محتوای اصلی انجام می دهد. در اصل این فناوری باعث می شود، جای شما با شخص دیگری عوض شود. این فناوری نسخه بدون درد و خون‌ریزی اتفاقاتی است که در سینمایی FACE/OFF دیده اید.

افراد می توانند با استفاده از این فناوری کارهای را انجام دهند و حرف هایی بزنند که تا پیش از این انجام نشده یا اصلا بیان نشده است. این دقیقا بزرگ ترین خطری است که به واسطه این تکنولوژی ایجاد شده است. انتشار اکاذیب و اطلاعات نادرست از منابع قابل اعتماد به گونه ای که حتی یک درصد هم احتمال نمی دهید، این اخبار دروغ باشد. به عنوان مثال در سال 2022، ویدیویی در یوتیوب منتشر که شد که در آن Volodymyr Zelenskyy، رئیس جمهور اکراین از سربازانش خواسته بود که تسلیم نیروهای روسیه شوند.

بسیاری از مسئولین در کشور های مختلف از وجود این تکنولوژی ابراز نگرانی کرده اند، چرا که ممکن است از آن برای دخالت در انتخابات استفاده شود. در حالی که دیپ فیک بسیاری از افراد را ترسانده و کاری کرده که آن ها فکر کنند در معرض تهدید های جدی هستند، کاربرد های مفیدی و مشروعی مانند صدا و تصویر در بازی های ویدیویی، خدمات پشتیبانی به مشتریان در کسب و کار ها و موارد بسیار دیگری نیز برای آن تعریف شده است. حتما تا اینجای کار حس کنجکاویتان به شدت تحریک شده است می خواهید با این تکنولوژی خارق العاده هوش مصنوعی بیشتر آشنا شوید، پس تا انتها همراه ما بمانید، چون قرار است چیز هایی بگوییم که از شدت تعجب چشمهایتان چهارتا شود و برق از سرتان بپرد.

دیپ فیک چیست؟

دیپ فیک، تصویری واقعی از جعل

Deepfakes تکنولوژی است که از آن برای ایجاد ویدیو و تصاویر جدید استفاده می کنند. تفاوتی که این تکنولوژی با سایر تکنولوژی های مشابه اش دارد، این است که خروجی آن تصویری است که در واقعیت اصلا رخ نداده است. اصطلاح Deepfakes از یکی از شاخه های مهم کاربردی هوش مصنوعی، یعنی دیپ لرنینگ گرفته شده است. با استفاده از این تکنولوژی سیستم می آموزد که مشکلاتش را با استفاده از مجموعه بزرگی از داده ها حل کند. عاملی که باعث ترسناک شدن این تکنولوژی شده، این است که برای ایجاد اخبار جعلی اش از افراد واقعی استفاده می کند.

تاریخچه فناوری دیپ فیک

در سال 2017 یکی از کاربران Reddit با نام کاربری «Deepfake»، ویدیو های مستهجنی را ایجاد کرده بود که در آن چهره افراد مشهور و سلبریتی ها را جایگزین سوژه های اصلی شده بود. باورش سخت است اما با این که این فناوری کارایی های بسیاری دارد؛ اما 96 درصد از ویدیو هایی که توسط آن ایجاد می شود به صورت غیر قانونی و برای ساخت فیلم بزرگسالان است.

با این حال، اینجا، نقطه شروع داستان دیپ فیک نیست. همانطور که پیش تر گفتیم، یادگیری عمیق همان تکنولوژی است که دیپ فیک از آن نشات می گیرد. یادگیری عمیق و هوش مصنوعی سال های سال است که وجود دارند، اما از آنجایی که قدرت پردازش گرافیکی رایانه ها در گذشته بسیار ضعیف و دست و پاگیر بوده است، امکان استفاده از آن عملا سلب می شده.

شبکه عصبی مصنوعی هینتون، جز جدایی ناپذیر تکنیک ‌های پیشرفته این تکنولوژی است که امروزه استفاده می شود. قرار بود این شبکه عصبی مصنوعی؛ شباهت زیادی به معماری مغز انسان داشته باشد و بتواند مشابه مغز، سیگنال ‌ها را از طریق لایه ‌هایی متشکل از گره‌ ها که مقادیر زیادی داده را برای یادگیری و طبقه‌ بندی اطلاعات پردازش می‌ کنند، منتقل‌ کند.

این کار دقیقا مشابه عملی است که نورون ‌های مغزی در انسان هنگام پردازش داده‌ های دریافتی خود انجام می دهند. شبکه‌های عصبی مصنوعی که به ANN معروف هستند، داده‌ های خام که همان نویز است را در لایه ورودی دریافت می کند و به ترتیب به لایه های میانی و خروجی منتقل می کند.

اینجاست که متوجه می شویم دقیق ترین خروجی های ساخته شده با استفاده از این تکنولوژی آن هایی هستند که از داده های بیشتر و با کیفیت تر استفاده کرده اند. به عنوان مثال می توانیم به کریس اومه یکی از تیک تاکر های معروف، اشاره کنیم که محبوب ترین ویدیو های دیپ فیک را ساخته و برای این کار نیز از تصویر بازیگر محبوب هالیوود، تام کروز استفاده کرده است. تصاویر زیر گویای اتفاقاتی است که رخ داده است.

تغییر چهره تیک تاکر به تام کروز با دیپ فیک

تام کروز و دیپ فیک

طی مصاحبه ای که Science Weekly با کریس اومه داشت، متوجه شدیم که ایجاد ویدیو، صوت و تصاویر با استفاده از دیپ فیک هنگامی رخ می دهد که حجم بالایی از داده را در اختیار داشته باشید و بتوانید از بین آن ها بهترین و کاربردی ترین داده ها را جدا کنید. راز موفقیت ویدیو های تام کروز در تیک تاک نیز همین فراوانی داده ها است.

شاید این سوال برای شما ایجاد شده است که داده هایی که کریس اومه از آن صحبت می کند؛ چیست؟ بیش از 40 سال است که عکس ها و ویدیو های بسیاری از تام کروز منتشر می شود که همه آن ها تبدیل به حجم انبوهی از داده شده اند. این داده ها بهترین ابزار برای آموزش در یادگیری عمیق و هوش مصنوعی است و به همین دلیل نیز خروجی های ساخته شده توسط این فناوری بسیار دقیق و خیره کننده است.

دیپ فیک چگونه کار می کند؟

Deepfakes از دو الگوریتم generator (مولد) و discriminator (متمایز کننده) استفاده می کند که کاربرد آن ها در ایجاد و اصلاح محتوا های جعلی است. الگوریتم generator یا مولد، بر اساس خروجی که مد نظر دارد، مجموعه ای از داده های آموزشی را ایجاد می کند که بر اساس آن محتوای جعلی اولیه ای ساخته می شود. این در حالی است که الگوریتم discriminator یا متمایز کننده وظیفه تجزیه و تحلیل محتوای تولید شده را دارد تا مشخص کند که این محتوا با اصل آن چقدر تفاوت دارد. این فرایند به سازنده محتوا کمک می کند تا بتواند محتوایی بسازد که به اصل آن نزدیک تر است و بالاترین کیفیت ممکن را دارد.

ترکیب این دو الگوریتم شبکه ای را ایجاد می کند که دارای ویژگی متخاصم مولد (generative adversarial network) است. از این به بعد به این شبکه GAN می گوییم. GAN با استفاده از یادگیری عمیق به تشخیص الگو ها در تصاویر واقعی می پردازد و پس از آن الگو ها را به کار می گیرد تا محتوا های جعلی بسازد. به طور مثال شما می خواهید یک عکس جعلی درست کنید، اینجاست که GAN وارد صحنه می شود و عکس هدف را از زوایای مختلف بررسی می کند تا تمام جزئیات آن را ثبت کند تا خروجی به شما بدهد که به واقعیت نزدیک باشد.

همین عملکرد GAN را می توان در ساخت ویدیو های جعلی نیز مشاهده کرد. GAN ویدیو را بار ها و بار ها از زوایای مختلف نگاه می کند تا بتواند تمام رفتار ها، حرکت ها و الگو ها را بشناسد و آن ها را تجزیه و تحلیل کند. سپس داده های به دست آمده چندین و چند بار اجرا می شوند تا تصویر یا ویدیویی واقع گرایانه ایجاد شود، به گونه ای که کاربر نتواند اصل یا تقلبی بودن آن را تشخیص دهد.

کارایی دیپ فیک در حوزه های مختلف به چه صورت است؟

دیپ فیک چگونه کار می کند؟

کارایی این تکنولوژی در حوزه های مختلف، متفاوت است. هر کسی با توجه به نیاز و هدفی که دارد آن را به کار می گیرد. در ادامه کاربرد های اصلی این فناوری را آورده ایم تا متوجه شوید که در حوزه های مختلف چگونه از آن استفاده می کنند.

هنر: یکی از کاربرد های این فناوری در شاخه های هنری است که بسیار هم مورد توجه کاربران قرار دارد. از دیپ فیک در تولید موسیقی جدید استفاده می شود. برای ایجاد یک ترک جدید از آثار آن هنرمند استفاده می شود. مثالی که برای آهنگ مهستی و شادمهر در قسمت های قبل آورده ایم، مصداق این مورد است.
باج گیری و آسیب به شهرت افراد معروف: این مورد از کاربرد های deepfakes یکی از ترسناک ترین، بدترین و غیر اخلاقی ترین کاربرد های آن است، چرا که مستقیما شهرت افراد را نشانه گرفته است. در این مورد تصاویر و ویدیوهای فردی که مورد هدف قرار گرفته است، در موقعیت های غیر قانونی و نامناسب نشر داده می شود. به طور مثال فرد معروف را در موقعیتی قرار می دهند که دروغی را می گویید، مواد مخدر مصرف می کند یا اعمال ناشایستی از او سر می زند. این تصاویر و ویدیو ها برای نابود کردن شهرت یک فرد، انتقام گرفتن و یا به قصد اخاذی و باج گیری سایبری ایجاد می شوند.
ارائه خدمات پاسخگویی به تماس گیرندگان: شاید باورتان نشود ولی یکی از کاربرد های این تکنولوژی در ارائه خدمات پاسخگویی به تماس گیرندگان است. در این مورد به تماس گیرندگان پاسخ های شخصی به درخواست های تماس گیرنده داده می شود.
پشتیبانی تلفنی: این سرویس از صدا های جعلی برای انجام کارهای ساده ای مانند ثبت شکایات یا بررسی موجودی استفاده می کند.
صنعت سرگرمی: فیلم های هالیوودی یکی از مشتریان ثابت دیپ فیک هستند. در هالیوود برای فیلم ها و بازی هایی که می سازند، از صدای بازیگران برای صححنه های خاصی استفاده می شود. زمانی که فیلم برداری یک صحنه سخت باشد، از این تکنولوژی استفاده می کنند. یا زمانی که فیلم برداری به کلی تمام شده است و حالا در مرحله تدوین به صدای آن بازیگر نیاز است و آن بازیگر دیگر در دسترس نیست، دست به دامن این تکنولوژی می شوند. این کار باعث صرفه جویی در زمان بازیگر و تیم سازنده فیلم می شود.
تولید محتوا طنز: یکی دیگر از کاربرد های این تکنولوژی جذاب در تولید محتوای طنز و تقلید است. در این محتوا ها، مخاطب متوجه می شود که ویدیو غیر واقعی است، اما از موقعیت طنزی که توسط این فناوری ساخته شده است، لذت می برد. اگر بخواهیم مثال بزنیم، می توانیم به جایگذاری بازگر معروف هالیوود، دواین جانسون "The Rock"در نقش Dora the Explorer اشاره کرد که انصافا هم خیلی خنده دار بود.

شواهد دروغین: منظور از شواهد دروغین ساخت ویدیو و تصاویر نادرستی است که می تواند به عنوان یک مدرک دال بر گناهکار بودن یا بی گناهی یک نفر در دادگاه ها و مراجع قانونی ارائه شود.
تقلب و جعل هویت افراد: متاسفانه دیپ فیک برای جعل هویت نیز استفاده می شود و افراد سود جو با استفاده از آن به استخراج اطلاعات شناسایی شخصی فرد مانند شماره حساب بانکی یا اطلاعات کارت های اعتباری می پردازند. این کار حتی می تواند خطرناک تر از این هم باشد. جعل هویت مدیران یک شرکت یا سایر کارمندان یک مجموعه برای دستیابی به اطلاعات حساس نیز یکی از کارهایی است که افراد شیاد با استفاده از این فناوری انجام می دهند.
دستکاری اطلاعات و اخبار سیاسی: صحبت هایی که توسط سیاستمداران زده می شود، جزو اخبار معتبر است. این بار هم افراد و گروه هایی که منافعش با این افراد و صحبت هایشان در تضاد است، دست به استفاده سوء از این تکنولوژی زده اند و اخبار دروغ از زبان این سیاستمداران منتشر می کنند که نتیجه آن بر هم زدن آرامش جامعه و ایجاد تشویش در افکار و اذهان عمومی است. نمونه آن نیز می توان به ویدیویی اشاره کرد که از زبان رئیس جمهور اوکراین در جنگ با روسیه منتشر شد که موجب سردرگمی سربازان جنگ شد.
دستکاری سهام: دستکاری سهام نیز یکی از موارد منفی استفاده از دیپ فیک است که بر قیمت سهام شرکت های مختلف تاثیر گذار است. دیده شده که ویدیو جعلی از مدیر اجرایی یک سازمان منتشر شد که این فرد در ویدیو اظهارات مخربی را علیه آن سازمان بازگو می کرد که این اظهارات موجب افت ارزش سهام آن شرکت شد. حتی بعضا دیده اید که ویدیویی جعلی از پیشرفت تکنولوژی یا عرضه یک محصول منتشر می شود که می تواند سهام یک شرکت را میزان قابل توجهی افزایش دهد.
ارسال پیامک: وزارت امنیت داخلی ایالات متحده در گزارشی اعلام کرده است که افراد کلاهبردار با استفاده از این فناوری، هویت شخص دیگری را جعل می کنند و از سمت او به سایرین پیامک ارسال می کنند که این امر نوعی تهدید به حساب می آید.

Deepfake چه تفاوتی با دیگر رسانه های دستکاری شده دارد؟

آیا هر تصویر جعلی و گمراه کننده ای که می بینیم با استفاده از این تکنولوژی به وجود آمده است؟ از شما دعوت می کنیم پیش از آن که ادامه مطلب را مشاهده کنید به تصاویر زیر نگاه کنید و بگویید که آیا آن ها با استفاده از فناوری دیپ فیک ساخته شده اند یا خیر؟ در ادامه به شما خواهیم گفت که در واقع چه داستانی پشت این تصاویر پنهان شده است.

خبر جعلی دستگیری ترامپ ساخته شده با دیپ فیک

دستکاری رسانه با دیپ فیک

پاپ با کاپشن پفی سفید ساخته دیپ فیک

نکته ای که قرار است درباره آن صحبت کنیم، این است که هر تصویر جعلی که تولید می شود، کار این فناوری نیست. پاپ در کاپشن بلند سفید پفی، یا صحنه جعلی دستگیری دونالد ترامپ کمی پیش از اعلام جرم او تصاویری هستند که توسط هوش مصنوعی تولید شده اند اما این تصاویر دیپ فیک نیست. تصاویری از این دست زمانی که با اطلاعات گمراه کننده همراه می شوند، به عنوان shallowfakes یا فیک های سطحی شناخته می شوند.

Shallowfake بر خلاف deepfake، برای دستکاری محتوا ها از یادگیری ماشین و سیستم های الگوریتمی استفاده نمی کند. در عوض برای ایجاد این تغییرات از نرم افزارهای ویرایش ویدیو و تصویر برای ایجاد محتوا های تقلبی سطحی استفاده می کنند. وقتی صحبت پیرامون deepfake باشد، کاربر فقط در پایان فرآیند تولید تصمیم می گیرد که آیا آنچیزی که ایجاد کرده؛ همان چیزی است که می خواهد یا خیر.

در واقع کاربر در آنچیزی که توسط این فناوری تولید می شود، دخل و تصرفی ندارد و تنها کاری کاربر می تواند انجام دهد، تنظیم داده های آموزشی و گفتن «بله» یا «نه» به آنچیزی است که رایانه تولید می کند. فناوری و ابزار هایی مانند فوتوشاپ و CGI برای ایجاد رسانه استفاده می شوند و تفاوتی که با deepfake دارند این است که انسان در تمام مراحل تولید، دست دارد و تعیین کننده خروجی کار است که این موجب پیشگیر از توسعه ابزار هایی مانند Firefly Adobe می شود.

دیپ فیک چگونه ایجاد می شود؟

روش های مختلفی برای ایجاد دیپ فیک وجود دارد، اما رایج تررین روش استفاده از شبکه های عصبی دیپ لرنینگ است که کار تعویض چهره را انجام می دهند. مواد اولیه برای تهیه یک ویدیو دیپ فیک خوش رنگ و لعاب باور پذیر، ویدیویی به عنوان پایه و سپس مجموعه ای از کلیپ های شخصی است که می خواهید او را مورد هدف قرار دهید. نکته ای که باید بدانید این است که ویدیو ها می تواند کاملا غیر مرتبط باشد، پس خیلی به خودتان سخت نگیرید.

به عنوان مثال هدف شما می تواند یک کلییپ از فیلم های هالیوود باشد و در کنار آن ویدیو های شخصی از کلیپ های تصادفی که از یوتیوب دانلود کرده اید. این تکنولوژی ظاهر فرد را در شرایط و وضعیت های مختلف حدس می زند و با پیدا کردن ویژگی های مشترک، آن شخص را روی شخص دیگری در ویدیو منطبق می کند.

نوع دیگری از یادگیری ماشین به این ترکیب اضافه شده است که به آن شبکه های متخاصم مولد (GANs) می گویند. این شبکه هر گونه نقص در محتوای تولید شده را شناسایی می کند و این کار را بار ها و بار ها انجام می دهد تا خروجی مطلوبی داشته باشد. یکی دیگر از کاربرد های شبکه های عصبی متخاصم این است که آشکار سازی دیپ فیک های تولید شده را با استفاده از رمزگذاری سخت تر می کنند.

اگرچه این فرایند پیچیده است، اما نرم افزار هایی وجود دارند که این کار را انجام می دهند. این نرم افزار ها تولید دیپ فیک را برای افراد مبتدی نیز آسان می کنند. از جمله این اپلیکیشن ها می توان به اپلیکیشن چینی Zao،FakeApp ،DeepFace Lab و Face Swap و تعداد بسیار زیاد دیگر، اشاره کرد. پیشنهاد می کنیم برای پیدا کردن اپلیکیشن های بیشتر به گیت هاب مراجعه کنید.

آیا Deepfake قانونی است؟

نظر chat gpt درباره دیپ فیک

این تکنولوژی علیرغم تهدید های جدی که ممکن است برای افراد داشته باشد، قانونی است و مجریان قانون نمی توانند در برابر آن کاری کنند. در ایران هنوز قانونی برای استفاده یا عدم استفاده از دیپ فیک تصویب نشده است، اما استفاده از این فناوری در کشور های خارجی تنها در صورتی غیر قانونی است که قوانینی چون آزار های جنسی کودکان، افترا یا سخنان مشوق نفرت نقض شوند.

در سه ایالت آمریکا نیز استفاده از این فناوری دارای ممنوعیت و محدودیت است. در ایالت تگزاس استفاده از دیپ فیک هایی که هدفشان تاثیرگذاری بر انتخابات است، به کلی ممنوع است. در ایالت ویرجینیا؛ استفاده از این تکنولوژی برای تولید محتوا های غیر اخلاقی ممنوع است و در نهایت در ایالت کالیفرنیا قوانینی برای استفاده از این تکنولوژی وجود دارد که مهم ترین آن ها عدم استفاده از این فناوری به مدت 60 روز پس از انتخابات سیاسی و تولید محتوا های غیر اخلاقی است.

فقدان قوانین علیه این تکنولوژی به علت آن است که جمعیت گسترده ای از افراد از وجود این تکنولوژی، کاربرد ها و مضرات آن بی خبر هستند. همین عامل نیز موجب شده تا قربانیان دیپ فیک تحت حمایت قانون قرار نگیرند. در این جا نظر chat gpt را درباره دیپ فیک پرسیده ایم که می توانید، پاسخ آن را در تصویر بالا مشاهده کنید.

روش های تشخیص دیپ فیک چیست؟

اگر از این تکنولوژی و کار هایی که می تواند انجام دهد، ترسیده اید، پس حتما این بخش را بخوانید تا با ترس هایتان خداحافطی کنید. روش های مختلفی برای تشخیص محتوا های تولید شده با این تکنولوژی وجود دارد. مواردی که در ادامه به شما می گوییم نشانه هایی هستند که دانستن آن ها به شما کمک می کند تا محتوای های این فناوری احتمالی را تشخیص دهید. این نشانه ها عبارتند از:

وضعیت غیرمعمول یا نامناسب در ناحیه صورت
حرکت های غیر طبیعی و نا هماهنگ اعضای بدن
ترکیب رنگی غیر طبیعی در نواحی مختلف پوست
ویدیو هایی با بزرگ نمایی های عجیب و غیر طبیعی
صدا های ناهماهنگ و سینک نشده با تصویر
تار بودن چهره فرد به نسبت محیطی که در آن قرار دارد
نورپردازی غیر طبیعی
افرادی که در ویدیدو ها پلک نمی زنند
غلط املایی در محتوا های فیک متنی
استفاده از جملاتی در متن که به طور معمول استفاده نمی شوند
آدرس ایمیل منبع مشکوک
عباراتی که با فرستنده فرضی مطابقت ندارد
پیام های خارج از بحث که به هیچ موضوع یا رویدادی مرتبط نیستند

البته فراموش نکنید که هوش مصنوعی توانایی غلبه بر تعدادی از این موارد را دارد و توسعه دهندگان آن نیز به طور پیوسته در تلاش اند تا بر تک تک این شاخصه ها غلبه کنند. به طور مثال می توان به ابزار هایی اشاره کرد که کمک می کنند تا فرد به طور معمول پلک بزند تا چیزی غیر طبیعی به نظر نرسد.

نحوه دفاع در برابر دیپ فیک

شاید برای شما جالب باشد که بدانید، شرکت ها، سازمان های خصوصی و دولتی در سراسر دنیا از جمله آژانس پروژه های تحقیقاتی پیشرفته دفاعی وزارت دفاع ایالت متحده آمریکا، در حال تحقیق و توسعه فناوری هایی هستند که منجر به شناسایی و مسدود کردن محتوا هایی هست که با استفاده از این تکنولوژی تولید شده اند.

جالب تر از مورد قبل این است که برخی از شرکت ها و سازمان های بزرگ و البته مهم، پیش از آن که ویدیویی را وارد پلتفرمشان کنند، آن را به وسیله فناوری بلاک چین بررسی می کنند تا منابع آن ها تایید شود. به این ترتیب شاهد تولید محتوا هایی هستم که منابع قابل اعتماد آن ها را تولید کرده اند و دیگر نگرانی بابت جعل ویدیو و تصویر وجود ندارد. فیسبوک و توییتر دو پلتفرم محبوبی هستند که استفاده از این محتوا های جعلی را ممنوع کرده اند.

نرم افزار های محافظت Deepfake را بشناسید

در این بخش تعدادی از نرم افزار هایی را معرفی کرده ایم که به تولید کننده محتوا یا کاربرانی که آن ها را می بینند کمک می کند تا بتوانند محتوای جعلی را امضا کنند و آن را نیز تشخیص دهند. این برنامه ها عبارتند از:

Adobe: این نرم افزار سیستمی دارد که به سازندگان ویدیو کمک می کند تا امضایی را به ویدیو و تصاویرشان اضافه کنند. این امضا در جزئیات قرار می گیرد.
Microsoft: مایکروسافت نیز نرم افزاری مبتنی بر هوش مصنوعی دارد که به تشخیص اصلی و جعلی بودن محتوا های تولید شده با این فناوری کمک می کند. این نرم افزار عکس ها و ویدیو ها را تجزیه و تحلیل می کند تا متوجه شد که محتوا اصلی است یا تقلبی.
Operation Minerva: کاری که این ابزار انجام می دهد به این صورت است که به ویدیو و تصاویر دیپ فیکی که قبلا تولید شده اند، نگاه می کند تا متوجه شود که این محتوای جدید جعلی است که با اهداف شوم تولید شده است یا دارای دارای امضای دیجیتال است.
Sensity :Sensity یک پلتفرم تشخیص مبتنی بر یادگیری عمیق ارائه می دهد که برای شناسایی محتوا های دیپ فیک استفاده می شود. این همان روشی است که برای تشخیص بد افزار ها استفاده می شود. این نرم افزار هنگامی که کاربران به مشاهده ویدیو های جعلی بپردازند، به آن ها ایمیل می زند.

نمونه ای از دخالت دیپ فیک در جریان های مهم

مارک زاکربرگ، موسس کمپانی فیسبوک، یکی از قربانیان یک دیپ فیک است که در آن نشان می داد فیس بوک چگونه کاربران خود را تحت کنترل درآورده و به نوعی مالک آن ها شده است. این ویدئو با این هدف تهیه شده بود که سوشال مدیا هایی مانند فیسبوک چگونه مردم می توانند برای فریب دادن عموم افراد استفاده کنند.
جو بایدن، رئیس‌جمهور ایالات متحده آمریکا یکی دیگر از قربانیان این تکنولوژی است. در سال ۲۰۲۰ ویدیو های بسیاری با استفاده از دیپ ‌فیک‌ ساخته شد که او را در حالات اغراق‌آمیز زوال عقلی نشان می‌داد تا بتواند بر انتخابات ریاست‌جمهوری آمریکا تأثیر بگذارد و نتیجه را تغییر دهد. روسای جمهور سابق آمریکا، باراک اوباما و دونالد ترامپ نیز قربانی ویدیو های ساخته شده با دیپ فیک شده اند که بعضی از این ویدیو ها برای انتشار اطلاعات نادرست واخبار جعلی و بعضی دیگر به عنوان طنز و سرگرمی هستند.
در طول تهاجم روسیه به اوکراین در سال 2022، رئیس جمهور اوکراین؛ زلنسکی در پیام ویدیویی دیده شد که به سربازانش می گوید تسلیم روس ها شوند. به جرئت می توان گفت این مورد ترسناک ترین اتفاقی است که به وسیله این تکنولوژی رقم زده شد.

کلام آخر درباره دیپ فیک

در این مطلب هر آنچیزی را که باید درباره دیپ فیک بدانید، به شما گفتیم. صرف نظر از روش تولید این محتواها ، آنچیزی که دنیا را می ترساند، محتوای جعلی است که می تواند نظم یک جامعه را بر هم بزند. تصور کنید یک فرد با تسلط به چند ابزار اینترنتی کاری انجام می دهد که زندگی هزاران نفر را تحت تاثیر قرار می دهد و این مردم هستند که با آگاهی می توانند جلوی هرگونه سو استفاده ای را بگیرند. ما نیز در این مطلب، به شما آموختیم که چگونه محتوا های جعلی را شناسایی کنید.

تا زمانی که قوانینی برای استفاده از این تکنولوژی وضع شود، این شما هستید که باید خودتان را از هر خطر و تهدیدی در امان نگه دارید. اگر علاقه مند هستید ویدیو های بیشتری ببینید که با این فناوری هوش مصنوعی ساخته شده است، پیشنهاد می کنیم به یوتیوب سر بزنید. اگر این محتوا برای شما مفید بود، پس آن را با دوستانتان به اشتراک بگذارید و سوالات خود را نیز در قسمت کامنت ها بپرسید تا به آن ها پاسخ دهیم. به نظر شما دیپ فیک در چند سال آینده دستخوش چه تغییراتی می شود و شما چه آینده ای را برای آن پیش بینی می کنید.

سوالات متداول :

چگونه یک دیپ فیک بسازیم؟

برای ساخت یک ویدیو یا تصویر با این تکنولوژی باید به یادگیری دیپ لرنینگ بپردازید. الگوریتم های دیپ لرنینگ به شما کمک می کنند تا بتوانید چهره فردی را که می خواهید جایگزین کنید از زوایای مختلف بررسی کنید تا حین جایگذاری چیزی غیر عادی به نظر نرسد. در کنار آن ابزار های متفاوتی نیز وجود دارد که به شما کمک می کنند تا خروجی کارتان را بهبود ببخشید و محتوایی ایجاد کنید که برای افراد قابل باور باشد. اسامی این ابزار ها را در مطالب بالا آورده ایم.

تشخیص کدام نوع محتوا دیپ فیک سخت تر است؟

تشخیص محتوا با فرمت متنی در مقایسه با سایر محتوا هایی با فرمت تصویر و ویدیو می تواند چالش برانگیز تر باشد. دستکاری در محتوا های صوتی و بصری اغلب نشانه‌ هایی دارند که تشخیص آن ها را ساده تر می کند. مانند ناهماهنگی‌ هایی در ویدیو یا تصویر یا صدا هایی ناآشنا و آزار دهنده در محتوا هایی با فرمت صوت.

با این حال، در محتوا ‌های متنی شاخص‌ های واضح کمتری وجود دارد که می‌تواند صحت محتوا را تایید کند، زیرا کاربران اغلب دستور زبان و علائم نگارشی را نادیده می‌گیرند و تنها به دنبال مطالعه سریع متن و دریافت پیامی است که برای آن ها ارسال شده است. علاوه بر این، ظهور و استفاده گسترده از ChatGPT به افراد شیاد کمک می کند تا موانع زبانی را دور بزنند و اسکریپت ‌های فیشینگ متقاعد کننده ای ایجاد کنند.

مخترع این تکنولوژی فوق العاده چه کسی است؟

Deepfakes با برنامه Video Rewrite که در سال 1997 کارش را شروع کرد. این برنامه توسط Christoph Bregler، Michele Covell و Malcolm Slaney ایجاد شده است. با این حال، هیچ مخترع واحدی برای دیپ فیک وجود ندارد و مشخص نیست اولین بار چه کسی از این تکنولوژی استفاده کرده است. یکی از ضروری ‌ترین اجزای دیپ ‌فیک ‌ها که در قسمت های قبل درباره آن صحبت کردیم، شبکه‌های متخاصم مولد (GAN) هستند که در سال ۲۰۱۴ توسط Ian Goodfellow اختراع شد.

چه تعداد محتوا با استفاده از این فناوری تا کنون ساخته شده است؟

آخرین گزارش های منتشر شده نشان می دهد که تا سال 2023 بیش از 85 هزار ویدیو با استفاده از این تکنولوژی ساخته شده است که بیشتر آن ها ویدیو هایی با محتوا های آزار دهند و همچنین محتوا های خبر جعلی هستند. به طور کلی می توان گفت تعداد ویدیو هایی که ساخته می شود هر 6 به دو برابر افزایش پیدا می کند.

چگونه محتوا های جعلی را شناسایی کنیم؟

حواستان به منبعی که ویدیو را ارسال کرده باشد و اگر از آن مطمئن نیستید به دنبال ویدیوی اصلی بگردید.
به نواحی مختلفی چون صورت مخصوصاً فرم دهان، چشم ها و حتی افق دید فرد، حالت ابرو ها، عینک، موهای صورت مانند ریش در مردان، خال ها و هماهنگی صدا و حرکات لب توجه کنید. این ها نشانه هایی هستند که می توانند جعلی بودن یک ویدیو یا تصویر را نمایان کنند.
به دنبال نا هماهنگی در رنگ پوست نواحی مختلف بدن و چین و چروک روی پوست باشید.
از جستجوی عکس معکوس برای یافتن تصاویر مشابه یا دستکاری شده استفاده کنید. این روش به شدت راهگشا است.
از پارامتر های نرم، مانند نحوه صحبت کردن یا حرکت یک فرد، برای مقایسه با رفتار عادی خود استفاده کنید تا متوجه شوید که آیا اعمالی که از او سر می زند طبیعی است یا خیر.