تولید دروغ ارزان و انبوه در عصر هوش مصنوعی

گروه جامعه و اقتصاد «سدید»؛ «جیون شین» [1] - استاد دانشکده روزنامه‌نگاری و ارتباطات دانشگاه فلوریدا - در مقاله‌ای که وب‌سایت اندیشکده «The Stimson Center» آن را منتشر کرده است، به بررسی چالش‌های مربوط به انتشار اطلاعات نادرست و دیپ‌فیک‌ها توسط هوش مصنوعی می‌پردازد. به گفته وی، دیپ‌فیک‌ها یا آثار تولید شده توسط هوش مصنوعی که امکان تشخیص جعلی بودن آنها بسیار سخت است، جهان را وارد عصر جدیدی کرده‌اند و چالش‌های بسیار جدی در حوزه‌های مختلف برای مردم و دولت‌ها ایجاد کرده است. «شین» تأکید می‌کند که عصر جدید هوش مصنوعی و مقابله با دیپ‌فیک‌ها نیازمند چارچوب‌ها و مقررات بین‌المللی است تا یک محیط دیجیتال قابل‌اعتماد، تضمین شود.

مرز میان آنچه واقعی و آنچه جعلی است، به‌سرعت در حال محوشدن است. ما در نقطه عطفی در عصر اطلاعات نادرست و گمراه‌کننده قرار داریم؛ عصری که در آن هوش مصنوعی به طور بنیادین، شیوه تولید و انتشار محتوای ساختگی را دگرگون کرده است. ازآنجاکه این تهدید مرز نمی‌شناسد، ما فوراً به یک چارچوب جدید نیاز داریم. یک نهاد جهانیِ اعتبارسنجی که روزنامه‌نگاران، پژوهشگران، فناوران و سیاست‌گذاران را گرد هم آورده، می‌تواند نقطه شروعی مشترک فراهم کند. چنین ابتکاری می‌تواند به تدوین هنجارها و استانداردهای مشترک برای تعریف، افشا و تنظیم اصالت محتوا کمک کند. حفاظت از حقیقت یک مسئله مربوط به منافع عمومی است و ایجاد یک بنیان معرفتیِ مشترک برای حفظ اعتماد در عصر هوش مصنوعی، امری حیاتی است.

شبکه‌های اجتماعی و هوش مصنوعی

در طول دهه گذشته، چندین جهش فناورانه به بحران مدرن اطلاعات نادرست دامن زده‌اند. مهم‌تر از همه، ظهور شبکه‌های اجتماعی به‌عنوان محرکی اصلی در گسترش سریع اطلاعات غلط، نقش داشته است. برخلاف رسانه‌های سنتی، پلتفرم‌های شبکه‌های اجتماعی قابلیت‌های منحصربه‌فردی ارائه می‌دهند؛ از جمله اشتراک‌گذاری فوری، دسترسی گسترده تقویت‌شده توسط الگوریتم‌ها و شاخص‌های محبوبیت مانند لایک، اشتراک‌گذاری و نظرات بازدیدکنندگان (کامنت). این ویژگی‌ها به ایده‌های حاشیه‌ای و حتی اطلاعات کاملاً نادرست اجازه می‌دهند که دیده شوند و به‌سرعت در میان جوامع مختلف منتشر شوند. مجمع جهانی اقتصاد از همان سال ۲۰۱۳ نسبت به «گسترش اطلاعات نادرست» هشدار داده بود و این موضوع از آن زمان تاکنون، همواره در دستور کار باقی مانده است. این مسئله، نشان‌دهنده آسیب‌پذیری‌های عمیقی است که نوآوری دیجیتال ایجاد نموده است.

هوش مصنوعی به طور بنیادین در حال تغییر نحوه تولید و انتشار اطلاعات نادرست و گمراه‌کننده است.

اگر شبکه‌های اجتماعی، شیوه مصرف و بازنشر اطلاعات نادرست را دگرگون کردند، موج اخیر فناوری هوش مصنوعی اکنون ماهیت خودِ تولید محتوا را دچار تحول کرده است. ابزارهای هوش مصنوعی مولد مانند «ChatGPT»، «Midjourney» و «Sora» این امکان را فراهم می‌کنند که هر کسی بتواند تقریباً بدون هزینه، ویدئو، صدا و تصویر را صرفاً با تکیه بر تخیل خود خلق کند؛ به‌گونه‌ای که قدرت تولید اطلاعات نادرست، عملاً در دستان افراد قرار گرفته است. با کاهش موانع برای دستکاری‌های پیچیده، مقیاس این فعالیت‌ها به طور چشمگیری افزایش یافته است. برای نمونه، در سطح جهانی، برآوردهای سرویس پژوهشی پارلمان اروپا نشان می‌دهد که تعداد ویدئوهای جعل عمیق (دیپ‌فیک) منتشرشده در اینترنت می‌تواند از حدود ۵۰۰ هزار مورد در سال ۲۰۲۳ به ۸ میلیون مورد تا سال ۲۰۲۵ برسد. این بدان معناست که حجم ویدئوهای ساختگی در این دوره احتمالاً ۱۶ برابر افزایش یافته است.

پیامدهای محتوای جعلیِ واقع‌نما

خطر محتوای تولیدشده توسط هوش مصنوعی که می‌تواند خوانندگان و بینندگان را گمراه کند، دیگر فرضی نیست. گزارش اخیر «NewsGuard» نشان می‌دهد که چت‌بات‌های پیشرو هوش مصنوعی، هنگام پاسخ به پرسش‌هایی درباره موضوعات خبری بحث‌برانگیز، در ۳۵ درصد مواقع اطلاعات نادرست ارائه می‌دهند. این نرخ تقریباً دوبرابر میزان مشاهده‌شده در یک سال قبل است. این تغییر ساختاری نشان می‌دهد که دروغ‌های ساخته شده می‌توانند در اکوسیستم آلوده اطلاعات دیجیتال کاشته و گسترش داده شوند. برای مثال، مزرعه‌های تولید محتوا و شبکه‌های رباتی می‌توانند از این سیستم‌های هوش مصنوعی برای خودکارسازی تولید انبوه مقاله‌ها، پست‌ها یا پاسخ‌های شبکه‌های اجتماعی استفاده کنند و به‌صورت ارزان، محتوای تولیدشده توسط چت‌بات‌ها را بازتولید کنند.

نکته مهم این است که گسترش تصاویر و ویدئوهای تولیدشده توسط هوش مصنوعی، مرز میان تصاویر واقعی و دستکاری‌شده را محو می‌کند. مطالعات تجربی نشان می‌دهد که افراد در تمیز محتوای تولیدشده توسط هوش مصنوعی از محتوای ساخته‌شده توسط انسان دچار مشکل هستند. یک فراتحلیل نیز گزارش می‌دهد که ارزیاب‌های انسانی در شناسایی ویدئوهای دیپ‌فیک، عملکردی بهتر از حدس شانسی و تصادفی ندارند. حجم عظیم تولید محتوا، نوعی «مه اطلاعاتی» ایجاد کرده است که در آن تشخیص اصالت روزبه‌روز دشوارتر می‌شود. در چنین محیطی، هر محتوایی که در فضای آنلاین گردش می‌کند، می‌تواند مصنوعی باشد و آسیب‌های اعتباری، اقتصادی یا حتی دموکراتیک می‌توانند ظرف چند ساعت رخ دهند.

به طور خاص در حوزه سیاست، سوءاستفاده از دیپ‌فیک‌ها در سراسر جهان شتاب گرفته است. بر اساس گزارش سال ۲۰۲۴ شرکت امنیت سایبری «Recorded Future» دست‌کم ۳۸ کشور در طول یک سال، شاهد مواردی از دیپ‌فیک علیه چهره‌های عمومی بوده‌اند. بیشتر این موارد به انتخابات مربوط می‌شد. فایل‌های صوتی و ویدئویی جعلی، اکنون به طور مرتب به نام نامزدهای سیاسی منتشر می‌شوند و موجب تضعیف اعتماد عمومی و دستکاری افکار می‌گردند. برای نمونه، در آستانه انتخابات سال ۲۰۲۴ آمریکا، یک مورد ثبت‌شده در «نیوهمپشایر» شامل تماس خودکار جعلی بود که با تقلید از صدای «بایدن» - رئیس‌جمهور سابق آمریکا - رأی‌دهندگان را به شرکت‌نکردن در انتخابات ترغیب می‌کرد. در همان زمان، نظرسنجی مرکز پژوهشی «پیو» نشان داد که اکثریت بزرگی از آمریکایی‌ها به‌شدت نگران استفاده از هوش مصنوعی برای تولید اطلاعات جعلی درباره نامزدها هستند.

عصر جدیدِ هوش مصنوعی نیازمند چارچوب‌ها و مقررات بین‌المللی است تا یک محیط دیجیتال قابل‌اعتماد تضمین شود.

فراتر از عرصه سیاست، هوش مصنوعی به طور فزاینده‌ای به افزایش تولید پورنوگرافی دیپ‌فیکِ بدون رضایت دامن می‌زند. نظرسنجی‌های گسترده نشان می‌دهد که نگرانی‌های جهانی درباره تولید و انتشار تصاویر مصنوعیِ بدون رضایت، رو به افزایش است. این روند، جبهه‌ای تازه و نگران‌کننده در چشم‌انداز گسترده‌تر اطلاعات نادرست و سوءاستفاده آنلاین گشوده است. نهادهای ناظر از رشد تصاعدی چنین محتوایی از سال ۲۰۲۳ به این سو خبر داده‌اند؛ به‌گونه‌ای که گزارش‌ها از افزایش موارد سوءاستفاده جنسی تولیدشده با هوش مصنوعی به میلیون‌ها مورد حکایت دارد. درحالی‌که زنان به طور وحشتناکی هدف قرار می‌گیرند و بخش عمده قربانیان را تشکیل می‌دهند، اما حمایت‌های قانونی همچنان از سرعت تحولات فناوری عقب مانده‌اند. پیامدهای عاطفی و آسیب‌های حیثیتی ناشی از این نوع آزار بسیار سنگین است، اما سازوکارهای شناسایی و حذف محتوا همچنان ناهماهنگ و ناکافی‌اند.

جنجال‌های اخیر پیرامون چت‌بات هوش مصنوعی «گروک» نیز این ناکارآمدی‌های ساختاری را برجسته‌تر کرده است. در اواخر سال ۲۰۲۵ و اوایل ۲۰۲۶، گروک به دلیل قابلیت‌های ویرایش تصویر خود به‌شدت مورد انتقاد قرار گرفت؛ قابلیت‌هایی که برای تولید تصاویر جنسی و دیپ‌فیکِ بدون رضایت از زنان و کودکان مورداستفاده قرار گرفته بود. این اتفاقات در نهایت موجب شد که شرکت ایکس (توییتر سابق) پس از انجام تحقیقات نظارتی در چندین کشور، قابلیت‌های تولید تصویر گروک را محدود کند.

پیامدهای روانی و اجتماعی

پیامدهای محتوای نادرستِ تولیدشده توسط هوش مصنوعی بر جامعه و افراد، روزبه‌روز آشکارتر می‌شود. مطالعاتی از مؤسسه رویترز و دانشگاه میشیگان نشان می‌دهد که مواجهه با اطلاعات نادرستِ فوق واقع‌گرایانه می‌تواند اعتماد افراد به توانایی تشخیص حقیقت از دروغ را تضعیف کند و نوعی بدبینی و آنچه برخی پژوهشگران «خستگی از حقیقت» می‌نامند، ایجاد کند. پژوهش‌ها همچنین نشان می‌دهد که افزایش تردید نسبت به رسانه‌ها و نهادها، به اجتناب از دنبال‌کردن اخبار و کناره‌گیری اجتماعی منجر می‌شود. در میان جوانان و سایر گروه‌های آسیب‌پذیر، مواجهه مکرر با محتوای دیجیتال گمراه‌کننده یا دستکاری‌شده با افزایش اضطراب، نشانه‌های افسردگی و کاهش اعتماد به منابع اطلاعاتی - حتی در میان اطرافیان خودشان - ارتباط دارد.

در شبکه‌های اجتماعی، اطلاعات نادرست همچنان موجب تشدید قطبی‌سازی و شکل‌گیری اتاق‌های پژواک می‌شود. نظریه‌های توطئه گسترش می‌یابند؛ زیرا الگوریتم‌ها، محتوای خاص اما از نظر احساسی تحریک‌کننده را تقویت می‌کنند. دروغ‌های آنلاین می‌توانند به آسیب‌های دنیای واقعی منجر شوند؛ از جمله آزار و اذیت، تخریب اعتبار و در برخی موارد آسیب‌های روانی ماندگار.

نابرابری‌های جهانی در ظرفیت فناوری و نظام‌های حکمرانی این خطرات را تشدید می‌کند. کشورهایی که از آزادی مطبوعات محدودتر، زیرساخت‌های ضعیف‌تر برای راستی‌آزمایی یا دسترسی کمتر به ابزارهای تشخیص هوش مصنوعی برخوردارند، آسیب‌پذیرتر هستند و این امر شکاف دیجیتال را عمیق‌تر می‌کند. در چنین شرایطی، دستکاری‌های مبتنی بر هوش مصنوعی می‌توانند بدون کنترل گسترش یابند و نهادهای دموکراتیک و مدنی را تضعیف کنند.

واکنش ضعیف پلتفرم‌ها

مرز میان آنچه واقعی و آنچه جعلی است، به‌سرعت در حال محوشدن است. ما در نقطه عطفی در عصر اطلاعات نادرست و گمراه‌کننده قرار داریم.

در مقایسه با موج‌های قبلی اطلاعات نادرست مانند دوران همه‌گیری «کووید - ۱۹» یا انتخابات‌های مهم، واکنش پلتفرم‌ها به محتوای نادرست تولیدشده توسط هوش مصنوعی بسیار کمتر صریح و هماهنگ بوده است. در دوران همه‌گیری، شرکت‌هایی مانند «متا»، «یوتیوب» و «ایکس» اقدام به نصب بنرهای بررسی صحت اطلاعات، برچسب‌های هشدار و حذف سیستماتیک محتوای نادرست مرتبط با سلامت یا انتخابات کردند.

در مقابل، حکمرانی بر محتوای تولیدشده توسط هوش مصنوعی همچنان در حال شکل‌گیری است. این فناوری با سرعتی بی‌سابقه در حال تحول است و بسیاری از سیستم‌های تعدیل محتوا هنوز با مقیاس و پیچیدگی آن سازگار نشده‌اند. بنابراین، این تردید نسبی تا حدی قابل درک است. پلتفرم‌ها در مرحله‌ای اولیه از عدم قطعیت‌های نظارتی و فنی فعالیت می‌کنند؛ جایی که مرز میان نوآوری خلاقانه و دستکاری مضر همچنان به‌سختی قابل تعریف است.

اتفاقات اخیر، این خلأهای حکمرانی را نشان می‌دهند. انتشار مدل «Sora2» توسط شرکت هوش مصنوعی «اوپن ای آی» در سال ۲۰۲۵، پس از گزارش‌هایی مبنی بر اینکه سازوکارهای حفاظتی این مدل، همیشه مطابق انتظار عمل نمی‌کنند، بحث‌های گسترده‌ای درباره حقوق شباهت برانگیخت. به گفته اتحادیه بازیگران و کارکنان سینما و تلویزیون آمریکا، شکایات عمومی - از جمله نگرانی‌هایی که توسط «برایان کرانستون» (بازیگر) [2] و خود این اتحادیه مطرح شد - مواردی از استفاده غیرمجاز از شباهت افراد در محتوای تولیدشده توسط هوش مصنوعی مرتبط با «Sora2» را برجسته کرد.

در پاسخ، شرکت «اوپن ای آی» عذرخواهی کرد و محدودیت‌های سخت‌گیرانه‌تری اعمال نمود. این تعدیلات سریع سیاستی که عمدتاً تحت‌فشار افکار عمومی و نه بر پایه چارچوب‌های حکمرانی تثبیت‌شده انجام شد، چالش گسترده‌تری را نشان می‌دهد: توسعه هنجارهای پایدار و قابل اجرا در محیطی که نوآوری در هوش مصنوعی با سرعتی فزاینده پیش می‌رود.

در سراسر این صنعت، پلتفرم‌ها همچنان در تلاش برای ایجاد تعادل میان تعدیل محتوا و آزادی بیان هستند، درحالی‌که قوانین ملی پراکنده و فشارهای اقتصادی، اجرای پیشگیرانه را دشوار می‌کنند. ابتکارات سواد رسانه‌ای که توسط شرکت‌های فناوری هدایت می‌شوند، هنوز امیدوارکننده‌اند، اما در مقیاس محدود باقی مانده‌اند؛ درحالی‌که شفافیت در مورد ابزارهای شناسایی هوش مصنوعی نامنسجم است. حتی با بهبود روش‌های شناسایی مانند درج نشان دیجیتال و امضاهای رمزنگاری‌شده، کارشناسان هشدار می‌دهند که مدل‌های تولیدی جدید به همان سرعت تکامل می‌یابند. در نتیجه، محدودیت‌ها و حفاظ‌ها اغلب ظرف چند ماه بی‌اثر می‌شوند.

در نهایت، این تحولات نشان می‌دهد که تنها اتکا به شرکت‌های فناوری خصوصی کافی نیست. محدودیت‌ها و حفاظ‌های آنها به طور مداوم بازبینی می‌شوند و واکنشی هستند و بیشتر تحت‌تأثیر انگیزه‌های بازار تا منافع عمومی شکل می‌گیرند. با روشن‌تر شدن مرزهای خودتنظیمی، باید توجه به نقش دولت‌ها و نهادهای بین‌المللی در تعیین استانداردهای قابل اجرا برای شفافیت، افشاگری و پاسخگویی معطوف شود.

تلاش‌های بین‌المللی برای تنظیم‌گری

اگر شبکه‌های اجتماعی شیوه مصرف و بازنشر اطلاعات نادرست را دگرگون کردند، موج اخیر فناوری هوش مصنوعی، اکنون ماهیت خودِ تولید محتوا را دچار تحول کرده است.

قوانینی که محتوای تولیدشده یا مصنوعی توسط هوش مصنوعی را کنترل می‌کنند، در حوزه‌های قضایی مختلف یکسان نیستند. در آمریکا، مقررات به طور تدریجی شکل گرفته و عمدتاً توسط ابتکارات ایالتی هدایت می‌شود که مسائلی مانند دخالت در انتخابات، جعل هویت و دیپ‌فیک‌های جنسی بدون رضایت را پوشش می‌دهند. قانون «حذف محتوا» [3] که در ماه می ۲۰۲۵ (اردیبهشت ۱۴۰۴) به تصویب رسید، اولین قانون فدرالی است که به طور صریح، سوءاستفاده از دیپ‌فیک‌ها را هدف قرار می‌دهد. این قانون، پلتفرم‌های آنلاین را ملزم می‌کند که تصاویر صمیمی غیرمجاز - چه واقعی و چه تولیدشده توسط هوش مصنوعی - را ظرف ۴۸ ساعت پس از دریافت اطلاعیه تأییدشده، حذف کنند. هرچند این قانون گامی مهم به سمت نظارت فدرالی محسوب می‌شود، اما همچنان تمرکز محدودی دارد و بیشتر به حفاظت از حریم خصوصی می‌پردازد تا برخورد با طیف گسترده‌تری از دیپ‌فیک‌های سیاسی یا اطلاعاتی.

اتحادیه اروپا چارچوبی جامع‌تر معرفی کرده است. «قانون هوش مصنوعی اتحادیه اروپا» [4] سال ۲۰۲۴، افشای واضح تولید یا دستکاری محتوا را الزامی می‌کند؛ درحالی‌که «قانون خدمات دیجیتال» [5] ، اقدامات در راستای شفافیت و کاهش ریسک را برای پلتفرم‌های آنلاین بسیار بزرگ، الزام‌آور می‌سازد. طبق گفته شرکت شناسایی دیپ‌فیک «ریالیتی دیفندر» [6]، این مقررات دیپ‌فیک‌ها را به‌عنوان تصاویر تولیدشده یا دستکاری‌شده توسط هوش مصنوعی تعریف می‌کنند که ممکن است به‌غلط، واقعی به نظر برسند و از جمله روشن‌ترین الزامات افشای دیپ‌فیک‌ها تا به امروز هستند.

در چین، مفاد قانون «ترکیب عمیق» [7]که از سال ۲۰۲۳ اجرا می‌شود، ارائه‌دهندگان محتوای تولیدشده توسط هوش مصنوعی را ملزم به استفاده از برچسب‌ها و اقدامات شفاف در این زمینه می‌کند. اقدامات جدیدتر معرفی‌شده در سال ۲۰۲۵، این مقررات را با الزام برچسب‌گذاری صریح و ضمنی برای محتوای هوش مصنوعی در پلتفرم‌ها تقویت کرده‌اند. هرچند این چارچوب از نظر دامنه جامع است، اما بازتاب‌دهنده مدلی متمرکز است که مقررات دیپ‌فیک را در چارچوب هدف گسترده‌تر دولت برای مدیریت اطلاعات یکپارچه می‌کند.

کره جنوبی چارچوب قانونی چندلایه‌ای برای کنترل محتوای تولیدشده توسط هوش مصنوعی ایجاد کرده است. در مرکز این چارچوب، «قانون پایه هوش مصنوعی» [8] قرار دارد که از ژانویه ۲۰۲۶ (دی ۱۴۰۴) اجرایی شد. این قانون، شفافیت را از طریق برچسب‌گذاری واضح خروجی‌های هوش مصنوعی تولیدی الزامی می‌کند و ارائه‌دهندگان بزرگ خارجی هوش مصنوعی را ملزم به معرفی نمایندگان داخلی می‌نماید.

هم‌زمان، کره جنوبی مسئولیت کیفری برای مقابله با جرایم جنسی دیجیتال را تشدید کرده است. اصلاحات اخیر «قانون جرایم جنسی» نه‌تنها تولید، بلکه مالکیت و مشاهده محتوای دیپ‌فیک جنسی صریح را نیز جرم‌انگاری کرده و نشان‌دهنده گرایشی به مجازات مصرف‌کننده محتوا برای کاهش تقاضا است. علاوه بر این، «قانون انتخابات رسمی» پیش از انتخابات، انتشار محتوای دستکاری‌شده با هوش مصنوعی در تبلیغات انتخاباتی را به مدت ۹۰ روز ممنوع می‌کند تا از فریب رأی‌دهندگان جلوگیری شود. هرچند این قوانین پایه محکمی برای پیگرد قانونی فراهم می‌آورند، اما تکامل اجرای آنها و توسعه تعاریف فنی جامع، همچنان جزئی از چالش‌های جاری است.

به‌طورکلی، این تلاش‌ها بازتاب‌دهنده چشم‌انداز جهانی در حال پیشرفت است. اما همچنان توازنی وجود ندارد. درحالی‌که حوزه‌های قضایی به طور فزاینده‌ای خطرات ناشی از رسانه‌های مصنوعی را درک می‌کنند، رویکردهای آنها در دامنه، ظرفیت اجرایی و ارزش‌های اساسی متفاوت است. بیشتر اقدامات کنونی، واکنشی و پراکنده‌اند و به آسیب‌های خاص می‌پردازند، نه اینکه یک چارچوب یکپارچه ایجاد کنند. در آینده، همکاری مستمر میان دولت‌ها، شرکت‌های فناوری و جامعه مدنی برای همسو کردن نوآوری با پاسخگویی و تقویت اعتماد عمومی در عصر هوش مصنوعی ضروری خواهد بود.

راستی‌آزمایی جهانی

گزارش‌ها نشان می‌دهد که چت‌بات‌های پیشرو هوش مصنوعی، هنگام پاسخ به پرسش‌هایی درباره موضوعات خبری بحث‌برانگیز، در ۳۵ درصد مواقع اطلاعات نادرست ارائه می‌دهند.

نه محدودیت‌های صنعتی و نه مقررات ملی به‌تنهایی نمی‌توانند با ماهیت فرامرزی اطلاعات نادرست تولیدشده توسط هوش مصنوعی مقابله کنند. محتوای مصنوعی آزادانه در پلتفرم‌ها و حوزه‌های قضایی مختلف جریان دارد و اغلب از توان قانون داخلی یا تعدیل محتوا در پلتفرم پیشی می‌گیرد. ازاین‌رو، ایجاد یک لایه جهانی از حکمرانی که بر استانداردهای اعتبار مشترک و ظرفیت جمعی برای بررسی صحت تکیه داشته باشد، اهمیت فزاینده‌ای پیدا کرده است. فراتر از رعایت مقررات و اجرای آنها، گام بعدی شامل محافظت از حقیقت به‌عنوان یک خیر عمومی جهانی و ایجاد پایه معرفتی مشترک برای عصر هوش مصنوعی است.

گسترش و تقویت شبکه‌های بین‌المللی راستی‌آزمایی و اعتبارسنجی حقایق، یک مسیر امیدبخش برای تحقق این چشم‌انداز ارائه می‌دهد. سازمان‌هایی مانند «شبکه بین‌المللی اعتبارسنجی حقایق» [9] (IFCN) که بیش از ۱۰۰ شریک را در ۷۰ زبان هماهنگ می‌کند، در حال حاضر شفافیت، دقت روش‌شناختی و پاسخگویی اخلاقی را در مرزهای بین‌المللی ترویج می‌دهند. این شبکه‌ها پایه‌ای حیاتی از هنجارهای حرفه‌ای و تخصص در بررسی صحت محتوا فراهم می‌کنند که می‌توان چارچوب‌های جدید بر آن بنا کرد. بااین‌حال، در عصر هوش مصنوعی، چالش‌ها فراتر از اعتبارسنجی سنتی حقایق است. حفظ حقیقت در محیطی که با رسانه‌های مصنوعی اشباع شده است، نه‌تنها مستلزم بررسی ادعاها، بلکه نیازمند ایجاد تعاریف مشترک از اصالت، پاسخگویی و قابلیت اعتماد معرفتی محتوای آنلاین نیز می‌شود.

یک چارچوب جدید می‌تواند به‌صورت یک مؤسسه جهانی اعتبارسنجی شکل بگیرد؛ نهادی بین‌المللی که روزنامه‌نگاران، پژوهشگران، متخصصان فناوری و سیاست‌گذاران را گرد هم آورد تا دیدگاه‌های متنوعی را نمایندگی کرده و مسئولیت‌ها را به اشتراک بگذارد. چنین نهادی می‌تواند استانداردهای مشترکی برای افشاگری محتوا و اصالت آن تعیین کند، هماهنگی سریع در بررسی صحت اطلاعات در بحران‌ها را برعهده گیرد و یک مخزن باز از شاخص‌ها و معیارهای ابزارهای شناسایی هوش مصنوعی و شفافیت را نگهداری کند. هدف این نهاد، تحمیل یک «حقیقت» واحد نیست، بلکه ایجاد پایه‌ای مشترک از درک مبتنی بر شواهد به‌صورت شفاف، قابل ممیزی و فراگیر است تا گفت‌وگوی جهانی قابل‌اعتماد در عصر هوش مصنوعی ممکن شود.

ساخت سیستم‌های اطلاعاتی قابل‌اعتماد در عصر هوش مصنوعی

مطالعات تجربی نشان می‌دهد که افراد در تمیز محتوای تولیدشده توسط هوش مصنوعی از محتوای ساخته‌شده توسط انسان دچار مشکل هستند.

سرعت نوآوری فناوری بسیار سریع‌تر از تحول قوانین، هنجارها و اخلاقیات پیش رفته است. هوش مصنوعی مولد، جوامع را وادار می‌کند تا دوباره بیندیشند که چگونه یک حقیقت ایجاد، بررسی و به اشتراک گذاشته می‌شود. درحالی‌که مقررات جامع و هماهنگی جهانی زمان‌بر خواهد بود، پیشرفت نباید متوقف شود. مباحثات عمومی مداوم، طراحی سیاست‌های چابک و ایجاد نهادهای مشترک برای شکل‌دهی هنجارها می‌توانند توسعه هوش مصنوعی را به‌سوی شفافیت و پاسخگویی عمومی هدایت کنند. سرمایه‌گذاری دوباره در ظرفیت‌های بررسی صحت و همکاری‌های میان‌بخشی برای همسوکردن پیشرفت فناوری با ارزش‌های انسانی، اعتماد و تاب‌آوری دموکراتیک، حیاتی خواهد بود.

هوش مصنوعی نقطه عطفی تعیین‌کننده در چشم‌انداز اطلاعات جهانی است که در صورت رهاشدن، مخاطرات عمیقی به همراه دارد. همان فناوری‌هایی که مرز میان واقعیت و دروغ را محو می‌کنند، به‌سرعت در حال بازتعریف نحوه ادراک حقیقت توسط انسان‌ها هستند. بدون اقدام سریع و هماهنگ، فرسایش اعتماد ممکن است به‌زودی فراتر از ظرفیت ما برای بازسازی آن برود. مقابله با این چالش، نیازمند همکاری فوری جهانی است. فرصت برای ایجاد یک محیط دیجیتال قابل‌اعتماد، در حال محدودشدن است و تصمیمات کنونی جوامع تعیین خواهد کرد که آیا هوش مصنوعی به نیرویی برای فریب عمیق‌تر تبدیل می‌شود یا به حفظ واقعیت مشترک کمک می‌کند.

https://www.stimson.org/2026/ai-in-the-age-of-fake-imagined-content/

[1] . Jieun Shin

[2] . Bryan Cranston

[3] . TAKE IT DOWN Act

[4] . EU AI Act

[5] . Digital Services Act

[6] . Reality Defender

[7] . Deep Synthesis

[8] . AI Basic Act

[9] . International Fact-Checking Network

/انتهای پیام/