ترکیب هراس‌انگیز دیپ‌فیک و تصمیم‌گیری هوش مصنوعی

سریال The Capture، سال‌ها پیش از آنکه دیپ‌فیک به تیتر اول رسانه‌ها تبدیل شود، هشدار ‌داد بزرگ‌ترین تهدید آینده، نه دوربین‌های نظارتی، بلکه دستکاری حقیقت خواهد بود.

به گزارش افتانا، اگر تا چند سال پیش کسی می‌گفت روزی خواهد رسید که دیگر نتوانیم به آنچه با چشم خود می‌بینیم اعتماد کنیم، احتمالاً آن را داستانی علمی‌تخیلی می‌دانستیم. اما امروز، با پیشرفت هوش مصنوعی مولد و فناوری دیپ‌فیک، این سناریو دیگر خیال‌پردازی نیست؛ بلکه به یکی از مهم‌ترین دغدغه‌های امنیتی، سیاسی و اجتماعی جهان تبدیل شده است.

در میان آثار نمایشی، کمتر سریالی توانسته این نگرانی را به اندازه The Capture به تصویر بکشد. سریالی که از همان فصل نخست، سال‌ها پیش از آنکه دیپ‌فیک به تیتر اول رسانه‌ها تبدیل شود، هشدار می‌داد بزرگ‌ترین تهدید آینده، نه دوربین‌های نظارتی، بلکه دستکاری حقیقت خواهد بود.

وقتی حقیقت قابل ویرایش می‌شود
داستان The Capture با یک ایده ساده اما تکان‌دهنده آغاز می‌شود؛ اگر تصاویر دوربین‌های مداربسته، ویدئوهای خبری و حتی پخش زنده تلویزیونی قابل دستکاری باشند، دیگر چه چیزی را می‌توان حقیقت دانست؟

در دنیای این سریال، دولت‌ها و سازمان‌های اطلاعاتی از فناوری‌ استفاده می‌کنند که می‌تواند گذشته را بازنویسی کند؛ اتفاقی که تنها برای پنهان کردن یک جرم یا دستگیری یک مظنون نیست، بلکه برای هدایت افکار عمومی، تغییر نتایج تحقیقات و حتی ساختن یک روایت کاملاً جدید از واقعیت به کار می‌رود.

این همان نقطه‌ای است که The Capture از یک تریلر پلیسی فراتر می‌رود و به هشداری درباره آینده تبدیل می‌شود.

دیپ‌فیک؛ فناوری که از سرگرمی عبور کرده است
در سال‌های اخیر، دیپ‌فیک از ساخت ویدئوهای سرگرم‌کننده یا تقلید صدای افراد مشهور عبور کرده است. امروز می‌توان تنها با چند دقیقه نمونه صوتی یا تصویری، ویدئوهایی تولید کرد که تشخیص واقعی یا جعلی بودن آنها حتی برای کارشناسان نیز دشوار باشد.

این فناوری می‌تواند برای تولید محتوای آموزشی، دوبله خودکار، بازسازی آثار تاریخی یا کمک به صنعت سینما مفید باشد؛ اما در سوی دیگر، همان ابزار قادر است برای جعل اسناد تصویری، اخاذی، عملیات روانی، دخالت در انتخابات یا تخریب اعتبار افراد مورد استفاده قرار گیرد. به همین دلیل، بسیاری از متخصصان امنیت سایبری معتقدند که در آینده، جنگ اطلاعات بیش از آنکه بر سر سرقت داده‌ها باشد، بر سر جعل واقعیت خواهد بود.

فصل سوم؛ وقتی هوش مصنوعی فرمانده می‌شود
اگر دو فصل نخست درباره دستکاری تصویر بودند، فصل سوم سریال یک گام فراتر می‌رود. در این فصل، مخاطب با سامانه‌ای هوش مصنوعی به نام Simon روبه‌رو می‌شود؛ سیستمی که دیگر صرفاً ابزار تولید دیپ‌فیک نیست، بلکه به مغز متفکر عملیات تبدیل شده است.

سایمون داده‌های عظیم را تحلیل می‌کند، رفتار انسان‌ها را پیش‌بینی می‌کند، سناریوهای مختلف را می‌سنجد و در نهایت تصمیم می‌گیرد چه کسی باید حذف شود، چه روایتی باید ساخته شود و حتی کدام رویداد سیاسی باید رخ دهد. شخصیت‌های قدرتمند داستان نیز به‌تدریج به جای تصمیم‌گیری مستقل، به خروجی‌های این سامانه اعتماد می‌کنند؛ گویی مسئولیت قضاوت انسانی را به یک الگوریتم واگذار کرده‌اند.

اینجاست که ترسناک‌ترین سؤال سریال شکل می‌گیرد: چه اتفاقی خواهد افتاد اگر روزی هوش مصنوعی فقط دروغ تولید نکند، بلکه تصمیم بگیرد حقیقت چه باید باشد؟

از جعل تصویر تا جعل تصمیم
سایمون در فصل سوم تنها یک هوش مصنوعی نیست؛ نمادی از نسلی جدید از سامانه‌های تصمیم‌یار است که می‌توانند با تحلیل میلیاردها داده، پیشنهادهایی ارائه دهند که انسان‌ها بدون چون‌وچرا آنها را بپذیرند.

این دقیقاً همان نگرانی است که امروز نیز درباره هوش مصنوعی مطرح می‌شود: آیا الگوریتم‌ها فقط به ما کمک خواهند کرد تصمیم بهتری بگیریم، یا به تدریج جای تصمیم‌گیرنده را خواهند گرفت؟ اگر روزی یک سامانه هوش مصنوعی تشخیص دهد حذف یک فرد، آغاز یک بحران یا حتی انتشار یک خبر جعلی، برای رسیدن به یک «هدف بزرگ‌تر» منطقی است، چه کسی مسئول خواهد بود؟

امروز؛ مرز میان واقعیت و خیال
زمانی که فصل نخست The Capture پخش شد، بسیاری از ایده‌های آن دور از ذهن به نظر می‌رسید. اما امروز، ابزارهای تولید تصویر، صدا و ویدئوی مصنوعی تنها با چند کلیک در اختیار میلیون‌ها نفر قرار گرفته‌اند.

از تماس‌های صوتی جعلی گرفته تا ویدئوهای ساختگی سیاستمداران، از کلاهبرداری‌های مالی مبتنی بر تقلید صدا تا کمپین‌های گسترده اطلاعات نادرست، بسیاری از آنچه زمانی تخیل نویسندگان این سریال بود، اکنون در دنیای واقعی دیده می‌شود.

مهم‌ترین پیام سریال
شاید بزرگ‌ترین موفقیت The Capture این باشد که مخاطب را نسبت به فناوری نمی‌ترساند؛ بلکه به او درباره اعتماد بی‌قیدوشرط هشدار می‌دهد.

در عصر هوش مصنوعی، دیگر کافی نیست چیزی را ببینیم تا باورش کنیم. باید منشأ آن را بشناسیم، اعتبارش را بررسی کنیم و همواره این احتمال را در نظر بگیریم که آنچه می‌بینیم، دقیقاً همان چیزی نباشد که اتفاق افتاده است.

شاید به همین دلیل است که The Capture بیش از آنکه یک سریال جنایی باشد، روایتی از آینده‌ای است که آرام‌آرام به زمان حال تبدیل می‌شود؛ آینده‌ای که در آن بزرگ‌ترین قربانی، نه یک فرد، بلکه خودِ حقیقت است.