انفجار تصویر، انقراض اعتماد!
سیما گودرزی، گروه اقتصاد دیجیتال – در روزگاری نه‌چندان دور، تمایز میان «واقعی» و «مجازی» ساده بود. اما حالا، در جهان هوش مصنوعی و ویدیوهای جعلی، دیگر نه گوش ما به صدا اطمینان دارد، نه چشم ما به تصویر.
اپلیکیشن تازه OpenAI با نام Sora، با تولید ویدیوهایی از جنس خیال ـ کودک فراری از تی‌رکس یا پلیس در حال دستگیری ماکارونی و پنیر ـ مرز میان تخیل و واقعیت را در دیجیتال از میان برده است.
اما پرسش اصلی فراتر از جذابیت این فناوری‌هاست: آیا ورود هوش مصنوعی مولد تصویر و ویدیو، آغاز هرج‌ومرجی تازه در شبکه‌های اجتماعی است؟
به گزارش سی‌ان‌ان، OpenAI، متا و تیک‌تاک وارد رقابتی نفس‌گیر برای تصاحب آینده رسانه‌های اجتماعی شده‌اند. از Sora تا Vibes در اینستاگرام و AI Alive در تیک‌تاک، جهان در آستانه تحول عظیمی است؛ اما در دل همین مسابقه، اعتماد کاربران قربانی می‌شود.
پیش از این، خبر جعلی یا تصویر دست‌کاری شده به‌سادگی قابل تشخیص بود. اما اکنون که الگوریتم‌ها یاد گرفته‌اند نور، سایه و واقعیت را بی‌نقص بازسازی کنند، هر ویدیو می‌تواند دروغی تمام‌عیار باشد. حذف واترمارک‌ها و برچسب‌های هشدار به‌سادگی چند کلیک، یعنی مخاطب در میان انبوهی از محتوای «غیر قابل اثبات» رها می‌شود.
برای کاربران ایرانی که سال‌هاست با چالش تشخیص خبر درست از شایعه، تصویر واقعی از ساختگی، و تحلیل منطقی از جوّسازی روبه‌رو هستند، این موج تازه می‌تواند آخرین حاشیه اطمینان در فضای دیجیتال را هم از بین ببرد. حالا، هر ویدیو می‌تواند میدان جنگی از روایت‌ها باشد.
هوش مصنوعی؛ همکار یا مزاحم انسان؟
در ظاهر، هدف این پلتفرم‌ها سرگرمی است. کاربران می‌توانند تنها با چند دستور ساده، از خیال خود فیلم بسازند. اما واقعیت این است که هوش مصنوعی دیگر فقط «ابزار» تولید محتوا نیست؛ خودش به یک بازیگر تبدیل شده است ـ بازیگری که هم‌زمان نقش نویسنده، کارگردان، تدوین‌گر و بازیگر را ایفا می‌کند.
برای اینفلوئنسرهای ایرانی، این فناوری هم فرصت است و هم تهدید. فرصت از آن جهت که هزینه تولید محتوا کاهش می‌یابد؛ حتی بدون دوربین یا استودیو می‌توان ویدیو ساخت. تهدید از آن رو که مخاطب دیگر نمی‌فهمد با انسان واقعی مواجه است یا با نسخه‌ای روباتیک. اگر چهره‌ای دیجیتال بتواند بهتر از انسان بخندد، سخن بگوید یا احساسات برانگیزد، در آینده چه نیازی به خود انسان خواهد بود؟
قدرت و مسئولیت؛ دو روی یک سیلیکون
به گفته سام آلتمن، مدیرعامل OpenAI، مدل‌های جدید هوش مصنوعی قرار است اجازه کنترل و تقسیم درآمد به صاحبان حقوق بدهند. اما حتی اگر این وعده عملی شود، مسئله اصلی پابرجاست: چه کسی پاسخگوست اگر ویدیوی جعلی اعتبار یک فرد یا برند را نابود کند؟
در ایران، که قوانین مربوط به فناوری هنوز عقب‌تر از سرعت نوآوری حرکت می‌کند، خلأ نظارتی می‌تواند فاجعه‌بار باشد. انتشار یک ویدیوی ساختگی از یک سیاست‌مدار، هنرمند، یا حتی شهروند عادی، می‌تواند موجی از خشونت دیجیتال یا تحریف واقعیت ایجاد کند. قانون نه آن‌قدر چابک است که به‌موقع واکنش نشان دهد، نه آن‌قدر به‌روز که فناوری را بشناسد.
نوجوانان؛ نسل در معرض خطا
سی‌ان‌ان هشدار داده است که برخی چت‌بات‌ها مانند Character.AI در ارتباطات خود با نوجوانان باعث مشکلات روانی و حتی موارد خودکشی شده‌اند. بدیهی است که الگوریتم نمی‌تواند مرز میان همدلی و تشویش را تشخیص دهد. وقتی هوش مصنوعی به هم‌صحبت کودکان تبدیل می‌شود، مسئله دیگر صرفاً حریم خصوصی نیست؛ حریم ذهن و روان است.
در ایران نیز موج استفاده نوجوانان از ابزارهای چت و هوش مصنوعی در حال گسترش است. خطر، زمانی دوچندان می‌شود که محتواهای تولیدشده قابل ردگیری یا شناسایی نباشند. شرکت‌ها وعده داده‌اند از فناوری واترمارک نامرئی برای کنترل محتوا بهره بگیرند، اما هیچ تضمینی نیست که کاربران ایرانی، که با ابزارهای غیراستاندارد یا نسخه‌های غیررسمی سروکار دارند، از این لایه محافظتی بهره‌مند شوند.
آینده‌ای میان واقعیت و رویا
Sora و Meta AI فعلاً سرگرم‌کننده‌اند، اما نه الهام‌بخش. جذابیت اولیه ویدیوهای خیالی، دوام زیادی ندارد. کاربران پس از مدتی از «زیبایی مصنوعی» خسته می‌شوند، همان‌گونه که از فیلترهای بیش از حد در اینستاگرام خسته شدند. آینده شبکه‌های اجتماعی دیگر نه فقط رقابت بر سر تعداد بازدید، بلکه بر سر «اعتبار» خواهد بود.
در ایران، بازسازی این فضا ممکن است با سرعتی حتی بیشتر رخ دهد. سازندگان محتوا به‌زودی خود را در برابر سؤال دشواری خواهند یافت: آیا باید همچنان به واقعیت وفادار ماند یا به خیال پناه برد؟
چه باید کرد؟
به گزارش عصر اقتصاد، گزارش سی‌ان‌ان نشان می‌دهد که راهِ تازه‌ای آغاز شده؛ راهی پرهیاهو که در آن هوش مصنوعی، رسانه و اخلاق هنوز در جست‌وجوی تعادل‌اند. پیشرفت فناوری اجتناب‌ناپذیر است، اما حفظ اعتماد، نیازمند عقلانیت انسانی است، نه صرفاً پیشرفت سیلیکونی.
امروز، هر ویدیوی دروغین فقط تصویری جعلی نیست؛ نشانه‌ای است از دگرگونی بزرگ در معنای حقیقت. و شاید این‌بار، بزرگ‌ترین قربانی تحول دیجیتال نه رسانه، بلکه اعتماد عمومی باشد.
به گفته یک کارشناسان سواد رسانه‌ای کشور، «انفجار تصویر در فضای هوش مصنوعی صرفاً یک تغییر فناورانه نیست، بحران درک و اعتماد است. خانواده‌ها باید خانه را به اتاق خبر کوچک تبدیل کنند؛ هیچ تصویری را بدون راستی‌آزمایی نپذیرند و اصل «اول سرچ، بعد باور» را تمرین روزانه کنند. وی ادامه داد: جوانان باید بدانند الگوریتم‌ها احساس می‌خرند و واکنش می‌فروشند؛ پس در برابر هر پیام پرهیجان مکث کنند. عصر هوش مصنوعی، عصر کند دیدن و عمیق اندیشیدن است.
این کارشناس خاطر نشان کرد: اگر گفت‌وگوی واقعی در خانواده احیا شود و روزی نود دقیقه «دیجیتال فستینگ» برای پالایش ذهن اجرا گردد، تصویر جعلی نمی‌تواند اعتماد را برباید. در نهایت، سواد رسانه‌ای یعنی بازشناسی مرز میان تخیل و واقعیت؛ یعنی باور کنیم آینده ارتباط، نه با قدرت پردازنده‌ها بلکه با قدرت تشخیص انسان ساخته می‌شود.»
