به گزارش خبرگزاری خبرآنلاین، ماجرای «دایناسور خراسان» شاید در نگاه اول یک شوخی اینترنتی به نظر برسد، اما یک مسئله جدیتر را نشان میدهد: در عصر هوش مصنوعی، دیگر نمیتوان صرفاً با نگاه کردن به یک تصویر درباره واقعی بودن آن تصمیم گرفت.
تا چند سال پیش، یک تصویر برای بسیاری از کاربران نوعی سند محسوب میشد؛ اگر چیزی را در عکس میدیدیم، پیشفرض ذهنی این بود که دوربینی در جایی آن را ثبت کرده است. ابزارهای تولید تصویر این معادله را تغییر دادهاند. امروز میتوان تصویری ساخت که در آن یک انسان، حیوان، ساختمان یا حتی یک رویداد کاملاً خیالی، در محیطی واقعی و با جزئیات بسیار بالا نمایش داده شود؛ بدون اینکه هیچکدام از آنها واقعاً در آن مکان وجود داشته باشند.
بنابراین باید پرسید: «این تصویر از کجا آمده و چه شواهدی برای واقعی بودن آن وجود دارد؟»
البته هنوز هم بررسی بصری میتواند سرنخهایی به ما بدهد. جزئیات غیرطبیعی، نوشتههای عجیب، اشیایی که با قوانین فیزیک سازگار نیستند، سایههای نامتناسب یا بخشهایی از تصویر که بیش از حد مصنوعی به نظر میرسند، میتوانند زنگ خطر باشند.
اما مشکل اینجاست که این نشانهها دیگر قابل اتکا بهعنوان «آزمایش قطعی» نیستند. مدلهای جدید تولید تصویر بسیاری از خطاهای کلاسیک تصاویر هوش مصنوعی را برطرف کردهاند. در نتیجه، اگر تصویری کاملاً طبیعی به نظر برسد، این موضوع بهتنهایی اصالت آن را ثابت نمیکند.
اولین سؤال: تصویر را چه کسی منتشر کرده است؟
برای خبرنگار یا کاربری که با یک تصویر عجیب مواجه میشود، مهمترین مرحله شاید اصلاً فنی نباشد. باید ابتدا سراغ منبع اولیه رفت. تصویر را چه کسی ثبت کرده؟ آیا عکاس مشخص است؟ نخستین بار چه حساب یا رسانهای آن را منتشر کرده؟ آیا اطلاعاتی درباره زمان و مکان ثبت تصویر وجود دارد؟ آیا فرد منتشرکننده شاهد ماجرا بوده است؟
در ماجرای دایناسور خراسان، همین مسئله اهمیت ویژهای دارد. تصویر بهتنهایی نمیتواند اثبات کند که موجودی ناشناخته در طبیعت مشاهده شده است؛ برای چنین ادعایی باید شواهد مستقل دیگری وجود داشته باشد.
جستوجوی معکوس؛ ردپای تصویر را پیدا کنید
یکی از روشهای مهم راستیآزمایی، پیدا کردن نسخههای قدیمیتر یا مشابه یک تصویر است. اگر تصویری ادعا میکند امروز در یک نقطه مشخص ثبت شده، اما نسخهای مشابه از همان تصویر ماهها یا سالها قبل در جای دیگری منتشر شده باشد، اعتبار ادعا زیر سؤال میرود.
در این مرحله، به جای تمرکز صرف بر اینکه «عکس واقعی است یا نه»، باید تاریخچه انتشار آن را بررسی کرد. این روش بهخصوص برای تصاویری که در شبکههای اجتماعی بدون منبع مشخص منتشر میشوند، اهمیت دارد.
متادیتا؛ شناسنامهای که همیشه باقی نمیماند
تصاویر دیجیتال ممکن است اطلاعاتی درباره نحوه ایجاد یا ویرایش خود داشته باشند. در فناوریهای جدیدتر، استانداردهایی مانند C۲PA و Content Credentials تلاش میکنند منشأ و سابقه تغییرات یک فایل را ثبت کنند. این اطلاعات میتواند به کاربر نشان دهد که یک محتوا چگونه ایجاد یا ویرایش شده و چه ابزارهایی در روند تولید آن دخیل بودهاند.
اما یک نکته مهم وجود دارد: نبودن اطلاعات منشأ، به معنی واقعی بودن تصویر نیست.
ممکن است فایل از شبکه اجتماعی دانلود شده باشد، اسکرینشات گرفته شده باشد یا در جریان تبدیل و فشردهسازی، بخشی از اطلاعات آن از بین رفته باشد. بنابراین متادیتا یک سرنخ مهم است، نه حکم نهایی.
واترمارکهای نامرئی وارد میدان شدهاند
شرکتهای فناوری برای مقابله با همین مشکل، سراغ روشهایی رفتهاند که برای چشم انسان قابل مشاهده نیستند. یکی از نمونهها SynthID گوگل است؛ فناوری که سیگنال نامرئی را در محتوای تولیدشده با برخی مدلها و محصولات هوش مصنوعی قرار میدهد و امکان شناسایی آن را فراهم میکند. گوگل میگوید SynthID در مقیاس بسیار بزرگی برای تصاویر و ویدئوهای تولیدشده توسط ابزارهایش به کار گرفته شده است.
OpenAI نیز ابزاری برای بررسی منشأ تصاویر ارائه کرده که میتواند به دنبال نشانههایی مانند C۲PA و SynthID مرتبط با ابزارهای OpenAI بگردد. اما اینجا هم یک سوءبرداشت رایج وجود دارد: اگر چنین ابزاری هیچ نشانهای پیدا نکند، نمیتوان نتیجه گرفت که تصویر حتماً واقعی است.
ممکن است تصویر با ابزار دیگری تولید شده باشد یا اطلاعات مربوط به منشأ آن از بین رفته باشد.
پس هوش مصنوعی را با هوش مصنوعی تشخیص دهیم؟
ابزارهای تشخیص تصویر تولیدشده با هوش مصنوعی میتوانند در فرآیند راستیآزمایی کمککننده باشند، اما نباید آنها را «دستگاه دروغسنج تصویر» تصور کرد.
بهترین روش، استفاده از چند لایه بررسی است: منبع تصویر + سابقه انتشار + اطلاعات منشأ + بررسی فنی + شواهد مستقل
هرچه این لایهها یکدیگر را تأیید کنند، اطمینان ما بیشتر میشود. در واقع، آینده راستیآزمایی تصویر بیشتر از اینکه به پیدا کردن «یک ابزار جادویی» وابسته باشد، به ساختن یک فرآیند چندمرحلهای وابسته است.
یک چکلیست برای قبل از بازنشر
قبل از اینکه یک تصویر عجیب و هیجانانگیز را در شبکههای اجتماعی بازنشر یا به خبر تبدیل کنیم، چند سؤال ساده میتواند جلوی انتشار یک خبر جعلی را بگیرد:
- منبع اولیه تصویر کجاست؟
- آیا فرد یا نهادی که ادعا میشود تصویر را ثبت کرده، مشخص است؟
- آیا نسخه قدیمیتر یا مشابهی از تصویر وجود دارد؟
- آیا تصویر دارای اطلاعات منشأ یا Content Credentials است؟
- آیا نشانهای از تولید یا ویرایش با هوش مصنوعی وجود دارد؟
- آیا یک منبع مستقل، خودِ رویداد را تأیید کرده است؟
- آیا آنچه تصویر نشان میدهد با واقعیت علمی، جغرافیایی و زمانی سازگار است؟
از «عکس واقعی» به «منشأ قابل اعتماد»
ماجرای دایناسور خراسان یک نمونه کوچک از تغییر بزرگی است که هوش مصنوعی در فضای رسانهای ایجاد کرده است. مسئله دیگر فقط ساخت تصاویر جعلی نیست؛ مسئله این است که مرز میان تصویر و واقعیت در حال کمرنگ شدن است. در چنین شرایطی، سواد رسانهای دیگر فقط به تشخیص یک تصویر عجیب یا پیدا کردن ایراد در دستها و چهرهها محدود نمیشود. کاربر و بهویژه خبرنگار باید بتواند منشأ محتوا، مسیر انتشار، شواهد همراه آن و نشانههای فنی اصالت را بررسی کند.
وقتی حتی متخصصان هم ممکن است فریب بخورند
اما مسئله فقط این نیست که تصاویر تولیدشده با هوش مصنوعی چقدر واقعی به نظر میرسند؛ چالش مهمتر این است که این فناوری میتواند فرآیند استدلال مخاطب را نیز هدف قرار دهد.
ستاره بنیادی، دکتری ارتباطات علم و فناوری، در کافه خبر با اشاره به همین موضوع میگوید هوش مصنوعی از پایه ذهن انسان را درگیر میکند و میتواند محتوایی تولید کند که در ظاهر، سرشار از استدلالها و نشانههای منطقی باشد؛ بهگونهای که همزمان «سیستم شماره دو» مغز و قوه استدلال مخاطب را درگیر کند و به همین دلیل، تشخیص واقعیت از جعل دشوارتر شود.
او با اشاره به تفاوت این وضعیت با الگوی سنتی اخبار جعلی توضیح میدهد: «در مدل سنتی اخبار جعلی، ما به مخاطب توصیه میکردیم که تفکر پرسشگرانه داشته باشد؛ مثلاً بپرسد آیا تصویر با متن همخوانی دارد؟ یا منبع اصلی این محتوا چیست؟ اما اتفاقی که اکنون رخ میدهد این است که نشانهگذاریهای متنی و محتوایی با هوش مصنوعی به سمتی رفته که باورپذیری به حداکثر رسیده است.»
به گفته بنیادی، این سطح از باورپذیری تنها مخاطبان عادی را در معرض خطا قرار نمیدهد و حتی متخصصان و رسانههای حرفهای نیز ممکن است در دام محتوای تولیدشده با هوش مصنوعی بیفتند؛ رسانههایی که سالها برای کسب اعتبار و اعتماد مخاطب تلاش کردهاند.
او تأکید میکند که این خطا حتی میتواند به شکل سیستمی و نهادی رخ دهد؛ موضوعی که کنترل و مهار آن بهمراتب دشوارتر است. به همین دلیل، مسئله تشخیص محتوای جعلی دیگر صرفاً به توانایی یک کاربر برای پیدا کردن ایراد در تصویر محدود نمیشود.
در واقع، اگر از زاویه مصرفکننده محتوا به ماجرا نگاه کنیم، هوش مصنوعی با تولید محتوایی که هم از نظر بصری و هم از نظر استدلالی باورپذیر است، فرآیند تشخیص حقیقت را پیچیدهتر از گذشته کرده است. همین تغییر باعث میشود در مواجهه با یک تصویر، حتی اگر کاملاً واقعی به نظر برسد، تنها به چشمها و قوه تشخیص شخصی خودمان اکتفا نکنیم؛ بلکه منبع، منشأ، سابقه انتشار و شواهد مستقل آن را نیز بررسی کنیم.
۲۲۷۲۲۷
نظر شما