به گزارش پایگاه خبری پیام خانواده؛ پیشرفت هوش مصنوعی، ساخت تصاویر، صداها و ویدئوهای جعلی اما باورپذیر را آسان‌تر از همیشه کرده است. دیپ‌فیک‌ها با تهدید حریم خصوصی، گسترش کلاهبرداری و انتشار اطلاعات نادرست، اعتماد عمومی به محتوای دیجیتال را با چالش جدی روبه‌رو کرده‌اند؛ چالشی که مقابله با آن به همکاری جهانی و تدوین قوانین مشترک نیاز دارد.

دیپ‌فیک چیست و چرا به یک تهدید جهانی تبدیل شده است؟

دیپ‌فیک (Deepfake) به محتوای تصویری، صوتی یا ویدئویی گفته می‌شود که با استفاده از هوش مصنوعی تولید یا دست‌کاری شده و به شکلی واقع‌گرایانه، چهره، صدا یا رفتار یک فرد یا حتی یک رویداد را بازسازی می‌کند؛ به‌گونه‌ای که مخاطب ممکن است آن را با واقعیت اشتباه بگیرد.

در سال‌های گذشته، ساخت چنین محتواهایی به دانش فنی و تجهیزات تخصصی نیاز داشت؛ اما توسعه ابزارهای هوش مصنوعی مولد باعث شده است افراد بیشتری بتوانند تنها با چند تصویر یا نمونه صوتی، محتوایی بسیار شبیه به واقعیت تولید کنند.

این فناوری در کاربردهای مشروعی مانند سینما، دوبله، آموزش و تولید محتوای خلاقانه نیز استفاده می‌شود؛ اما امکان سوءاستفاده از آن، نگرانی‌های جدی برای افراد و جوامع ایجاد کرده است.

از کلاهبرداری مالی تا جعل هویت؛ روی تاریک دیپ‌فیک‌ها

یکی از مهم‌ترین تهدیدهای دیپ‌فیک، استفاده از آن برای فریب افراد و سوءاستفاده مالی است. مجرمان می‌توانند با شبیه‌سازی صدای اعضای خانواده، مدیران شرکت‌ها یا مسئولان دولتی، پیام‌هایی جعلی تولید کنند و از مخاطبان درخواست پول یا اطلاعات محرمانه داشته باشند.

در ژوئیه ۲۰۲۶، مرکز شکایت جرایم اینترنتی پلیس فدرال آمریکا (FBI) درباره کلاهبرداری‌هایی هشدار داد که در آن مجرمان با استفاده از ویدئوهای تولیدشده توسط هوش مصنوعی، خود را به‌جای مأموران و مسئولان این نهاد معرفی می‌کردند و افراد را به وب‌سایت‌های جعلی هدایت می‌کردند.

این خطر تنها به مسائل مالی محدود نیست. جعل تصویر و صدای افراد، تولید محتوای خصوصی و غیراخلاقی بدون رضایت آنان، اخاذی و تخریب اعتبار اجتماعی نیز از جمله پیامدهای این فناوری است.

در چنین شرایطی، حتی انتشار یک ویدئوی جعلی از یک فرد می‌تواند به اعتبار شغلی، روابط خانوادگی و امنیت روانی او آسیب وارد کند.

تهدید اعتماد عمومی؛ وقتی واقعیت و جعل در هم می‌آمیزند

یکی از پیچیده‌ترین پیامدهای دیپ‌فیک، آسیب به اعتماد عمومی است. در گذشته، تصویر و صدای ضبط‌شده معمولاً به‌عنوان شواهدی از وقوع یک اتفاق تلقی می‌شدند؛ اما امروز همین شواهد نیز می‌توانند به‌راحتی دست‌کاری شوند.

انتشار یک ویدئوی جعلی از یک مقام سیاسی، شخصیت اجتماعی یا رویداد مهم می‌تواند افکار عمومی را تحت تأثیر قرار دهد، تنش‌های اجتماعی ایجاد کند یا حتی بر روند تصمیم‌گیری‌های سیاسی اثر بگذارد.

از سوی دیگر، گسترش این فناوری زمینه‌ای برای انکار واقعیت نیز فراهم می‌کند؛ به این معنا که افراد می‌توانند حتی تصاویر و صداهای واقعی و مستند را جعلی معرفی کنند. بنابراین خطر دیپ‌فیک تنها انتشار دروغ نیست، بلکه تضعیف اعتماد به شواهد واقعی نیز هست. سازمان ملل متحد در اصول جهانی یکپارچگی اطلاعات، بر ضرورت همکاری بین‌المللی برای مقابله با دست‌کاری اطلاعات و حفاظت از اعتماد عمومی در فضای دیجیتال تأکید کرده است.

مقابله با دیپ‌فیک‌ها؛ آیا فناوری می‌تواند جعل را تشخیص دهد؟

با افزایش کیفیت محتوای تولیدشده توسط هوش مصنوعی، روش‌های سنتی تشخیص تصاویر و ویدئوهای جعلی دیگر همیشه قابل اعتماد نیستند. در برخی موارد، حتی کاربران حرفه‌ای نیز نمی‌توانند صرفاً با مشاهده یک تصویر یا شنیدن یک صدا، جعلی بودن آن را تشخیص دهند.

با این حال، متخصصان فناوری راهکارهایی برای مقابله با این مسئله توسعه داده‌اند که مهم‌ترین آن‌ها عبارت‌اند از:

• واترمارک دیجیتال: درج نشانه‌های قابل شناسایی در محتوای تولیدشده توسط هوش مصنوعی.

• بررسی منشأ محتوا: ثبت اطلاعات مربوط به سازنده، زمان تولید و تغییرات انجام‌شده روی تصویر یا ویدئو.

• سامانه‌های تشخیص جعل: استفاده از الگوریتم‌های هوش مصنوعی برای شناسایی نشانه‌های دست‌کاری.

• احراز هویت دیجیتال: ایجاد روش‌هایی برای اطمینان از هویت واقعی افراد در ارتباطات تصویری و صوتی.

مؤسسه ملی استاندارد و فناوری آمریکا (NIST) در گزارشی تخصصی در نوامبر ۲۰۲۴، روش‌هایی مانند واترمارک‌گذاری، ردیابی منشأ محتوا، تشخیص محتوای مصنوعی و استانداردسازی ابزارهای بررسی اصالت رسانه‌ها را از راهکارهای مهم مقابله با این تهدید معرفی کرده است.

البته هیچ‌کدام از این روش‌ها به‌تنهایی تضمین‌کننده تشخیص همه محتواهای جعلی نیستند و به همین دلیل، ترکیب راهکارهای فنی، نظارتی و آموزشی ضرورت دارد.

مقررات بین‌المللی؛ جهان چگونه به مقابله با دیپ‌فیک‌ها می‌رود؟

از آنجا که تولید و انتشار محتوای جعلی به مرزهای جغرافیایی محدود نیست، مقابله با آن نیز نمی‌تواند تنها بر قوانین داخلی کشورها متکی باشد. ممکن است محتوایی در یک کشور تولید شود، از طریق یک پلتفرم بین‌المللی انتشار یابد و قربانیان آن در چندین کشور زندگی کنند.

به همین دلیل، تدوین چارچوب‌های مشترک بین‌المللی برای تعیین مسئولیت شرکت‌های فناوری، حفاظت از حقوق افراد و مقابله با انتشار محتوای گمراه‌کننده اهمیت ویژه‌ای دارد.

اتحادیه اروپا؛ الزام به شفافیت محتوای هوش مصنوعی

یکی از اقدامات مهم در این زمینه، قانون هوش مصنوعی اتحادیه اروپاست. بر اساس ماده ۵۰ این قانون، از دوم اوت ۲۰۲۶ الزامات شفافیت برای برخی سامانه‌های هوش مصنوعی اجرایی شده است.

مطابق این مقررات، ارائه‌دهندگان سامانه‌های تولیدکننده محتوای مصنوعی باید امکان شناسایی ماشینی محتوای تولید یا دست‌کاری‌شده را فراهم کنند. همچنین انتشاردهندگان دیپ‌فیک در شرایط مشمول قانون باید به‌روشنی مصنوعی بودن محتوا را اعلام کنند.

برای برخی سامانه‌هایی که پیش از این تاریخ وارد بازار شده‌اند، مهلت انتقالی تا دوم دسامبر ۲۰۲۶ در نظر گرفته شده است.

سازمان ملل؛ همکاری جهانی برای حفاظت از فضای دیجیتال

سازمان ملل متحد نیز در سپتامبر ۲۰۲۴ «پیمان جهانی دیجیتال» را در چارچوب اجلاس آینده تصویب کرد. این سند بر همکاری بین‌المللی در حکمرانی فناوری‌های دیجیتال و هوش مصنوعی، تقویت اعتماد عمومی، مقابله با اطلاعات نادرست و حفاظت از فضای دیجیتال تأکید دارد.

این پیمان را می‌توان یکی از چارچوب‌های مهم همکاری جهانی در این حوزه دانست؛ هرچند به معنای وجود یک قانون کیفری واحد و الزام‌آور جهانی برای مقابله با تمام انواع دیپ‌فیک نیست.

نقش خانواده‌ها در عصر تصاویر و صداهای جعلی

گسترش دیپ‌فیک‌ها تنها مسئله دولت‌ها و شرکت‌های فناوری نیست؛ خانواده‌ها نیز باید خود را برای مواجهه با این پدیده آماده کنند.

کودکان و نوجوانان که بخش قابل توجهی از ارتباطات و دریافت اطلاعات خود را از شبکه‌های اجتماعی انجام می‌دهند، ممکن است بیش از دیگران در معرض فریب محتوای جعلی قرار بگیرند. آموزش تفکر انتقادی و عادت به بررسی منابع، می‌تواند از آسیب‌پذیری آنان بکاهد.

برای افزایش امنیت خانواده در برابر این تهدیدها، رعایت چند نکته ضروری است:

1. در برابر ویدئوها و پیام‌های هیجان‌انگیز یا شوکه‌کننده، پیش از بازنشر، از صحت آن‌ها اطمینان حاصل کنید.

2. درخواست‌های فوری برای انتقال پول، حتی اگر با صدای یکی از اعضای خانواده همراه باشند، باید از طریق تماس با شماره‌ای مستقل و شناخته‌شده تأیید شوند.

3. تصاویر شخصی، به‌ویژه تصاویر کودکان، بدون ضرورت در صفحات عمومی منتشر نشوند.

4. اخبار و ویدئوهای حساس از طریق رسانه‌های معتبر و منابع رسمی بررسی شوند.

5. کودکان و نوجوانان با مفهوم جعل هویت دیجیتال و شیوه‌های سوءاستفاده از تصاویر و صداها آشنا شوند.

پلیس فدرال آمریکا نیز در توصیه‌های خود به مردم، استفاده از عبارت محرمانه خانوادگی برای تأیید هویت در تماس‌های مشکوک و بررسی مستقل درخواست‌های مالی را پیشنهاد کرده است.

جمع‌بندی؛ آینده دیجیتال به اعتماد نیاز دارد

هوش مصنوعی فرصت‌های بزرگی برای پیشرفت علم، آموزش، ارتباطات و تولید محتوا فراهم کرده است؛ اما گسترش دیپ‌فیک‌ها نشان می‌دهد که توسعه فناوری بدون توجه به مسئولیت‌های اخلاقی و حقوقی می‌تواند امنیت و اعتماد عمومی را تهدید کند.

مقابله با این پدیده به مجموعه‌ای از اقدامات هماهنگ نیاز دارد؛ از تدوین قوانین شفاف و الزام شرکت‌های فناوری به نشانه‌گذاری محتوای مصنوعی گرفته تا توسعه ابزارهای تشخیص جعل و آموزش سواد رسانه‌ای به شهروندان.

در عصر هوش مصنوعی، دیگر نمی‌توان صرفاً به آنچه می‌بینیم یا می‌شنویم اعتماد کرد. حفاظت از حقیقت در فضای دیجیتال، مسئولیتی مشترک میان دولت‌ها، شرکت‌های فناوری، رسانه‌ها و خانواده‌هاست؛ مسئولیتی که بدون همکاری بین‌المللی و تدوین استانداردهای مشترک به نتیجه مطلوب نخواهد رسید.