نفوذ خاموش، تسخیر تدریجی

گروه جامعه و اقتصاد «سدید»؛ یوسف پورجم: فرض کنید از خواب بیدار شوید و ببینید که تصمیمات کلیدی زندگی‌تان - از یک خرید ساده تا انتخاب شغل و حتی روابط شخصی - همگی توسط الگوریتم‌هایی گرفته می‌شوند که هرگز آن‌ها را نه دیده‌اید و نه خواهید شناخت. البته این سناریو دیگر خیال‌پردازی علمی نیست؛ بلکه واقعیتی است که به آرامی و بی‌سروصدا در حال تحقق است. هوش مصنوعی، پدیده‌ای که روزگاری به‌عنوان یک دستاورد علمی شناخته می‌شد، امروز به ابزار مهندسی ذهن، رفتار و حتی جهان‌بینی بشر تبدیل شده است. البته مقصد اصلی این نگاشته این نیست که نشان دهد این فناوری تا چه حد پیشرفته شده، بلکه این پرسش است که چرا و چگونه چنین مسیر هدایت‌شده‌ای را طی کرده است؟ بیایید منطقی باشیم؛ ناگفته عیان است که نظام سرمایه‌داری جهانی باتکیه‌بر توان اندیشکده‌ها، شرکت‌های فناوری و رسانه‌های جمعی، هوش مصنوعی را به خدمت گرفته تا نه‌تنها بازار، بلکه انسان را بازتعریف کند و نکته اصلی درست همین‌جاست: «باز تعریف انسان»

از رژیم‌های دانایی تا حکمرانی الگوریتمی

ورود یکباره و پررنگ هوش مصنوعی به عرصه حکمرانی را نمی‌توان صرفاً یک تحول فناورانه دانست، بلکه باید آن را بخشی از فرایند عمیق‌تری در بازمهندسی قدرت دانست که از سوی ساختارهای متراکم سرمایه‌داری جهانی در حال پی‌ریزی است. این فناوری به‌واسطه ظرفیتش در پیش‌بینی، کنترل و حتی هدایت رفتارهای انسانی در حال تبدیل‌شدن به یکی از مرکزی‌ترین ابزارهای حکمرانی نرم است. حکمرانی که دیگر نه از طریق نیروی نظامی یا سازوکارهای آشکار کنترلی، بلکه از مسیر هوشمندسازی ساختارهای اجتماعی، اقتصادی و فرهنگی اعمال می‌شود.

بر اساس نظریه‌های نوین در حوزه سیاست‌گذاری فناورانه از جمله دیدگاه‌های «شلومو سند» درباره رژیم‌های دانایی یا نظریه «تکنو - پالیتیکس» از سوی بنیان‌گذاران مکتب STS (Science and Technology Studies) تکنولوژی هرگز خنثی نیست، بلکه همواره حاوی الگوهایی از توزیع قدرت است. هوش مصنوعی به سبب توانایی بی‌نظیرش در تولید «حکمرانی الگوریتمی» یک گام فراتر از فناوری‌های پیشین برداشته است. این نوع حکمرانی، باتکیه‌بر کلان‌داده‌ها، یادگیری ماشین و نظارت دیجیتال نه‌تنها شهروندان را تحت کنترل نامرئی قرار می‌دهد، بلکه بر رفتار و انتخاب‌های آن‌ها نیز پیشاپیش اثر می‌گذارد.

«زوبوف» در اثر مهم خود به نام «عصر سرمایه‌داری نظارتی» نشان می‌دهد که چگونه شرکت‌هایی چون گوگل و فیس‌بوک، با استخراج داده‌های رفتاری کاربران و فروش آن به نهادهای دولتی یا اقتصادی در حال پی‌ریزی نوعی سرمایه‌داری نوین‌اند که در آن انسان نه مصرف‌کننده که ماده خام پیش‌بینی‌پذیر است. این الگوریتم‌ها اطلاعات را نه فقط برای افزایش کارآمدی، بلکه برای تسخیر میدان انتخاب انسان‌ها به کار می‌برند. در نتیجه، حکمرانی از صورت سنتیِ «فرمان» به شکل جدیدی از «فناوری - فرمانروایی» بدل می‌شود؛ لذا هوش مصنوعی در نظام‌های سیاسی غربی، بخشی از پروژه «فناورانه‌سازی مشروعیت» شده است. به بیان دیگر، تصمیمات سیاسی که پیش‌تر با مشارکت مستقیم نهادهای عمومی یا رأی‌گیری انجام می‌شد، اکنون به الگوریتم‌هایی واگذار می‌شود که مدعی بی‌طرفی، شفافیت و کارآمدی‌اند؛ اما در واقعیت، بازتاب‌دهنده منافع نخبگان فناوری‌محور هستند. 

«دانیل گرین» در مطالعات خود بر «بی‌طرفی کاذب فناوری» هشدار می‌دهد که ابزارهای هوشمند با پنهان‌کردن منطق سرمایه‌داری پشت داده‌ها، به نظام‌های دموکراتیک ظاهراً تکنولوژیک اما از درونی استبدادی می‌دهند. به تعبیر جوزف نای، ما وارد عصر قدرت هوشمند (Smart Power) شده‌ایم؛ اما این قدرت نه از دل دموکراسی‌های آزاد که از دل بازارهای انحصاری فناوری زاده شده است.

یکی از جریان‌های نظری عمده در پشت پرده توسعه هوش مصنوعی، گفتمان «زیست ماشینی» (mechanical life) است؛ مفهومی که نه صرفاً ناظر بر استفاده از فناوری در حیات روزمره، بلکه تلاشی برای بازتعریف هستی‌شناسی انسان از منظر محاسباتی و الگوریتمی است. اتاق‌های فکر وابسته به نهادهای سرمایه‌داری، از جمله World Economic Forum، RAND Corporation وBrookings Institution به‌صورت فعالانه در حال تئوریزه کردن آینده‌ای هستند که در آن انسان، به عنصری در ساختار سایبرنتیک جهانی فروکاسته می‌شود. بر اساس دیدگاه متفکران یهودی چون «یوال نوح هراری» آینده انسان به شکل فزاینده‌ای با الگوریتم‌ها گره می‌خورد؛ او در کتاب «هومو دئوس» می‌نویسد که «انسان به‌عنوان موجودی با ذهن و اراده آزاد، در حال واگذاری تصمیم‌سازی به ماشین‌هایی است که او را بهتر از خودش می‌شناسند.» این دیدگاه، بازتابی از ایده کلیدی «پساانسان‌گرایی» است که تلاش دارد با حذف مرزهای میان انسان و ماشین، «بدن انسانی» را به یک واحد پردازشگر اطلاعات تقلیل دهد. در این پروژه، مفهوم «بهینه‌سازی» که از علوم مهندسی و اقتصاد وارد حوزه انسان‌شناسی شده، نقش محوری ایفا می‌کند و فرد انسانی باید دائماً داده‌های زیستی، روانی و اجتماعی خود را ثبت، تحلیل و اصلاح کند. البته نه برای تعالی روح، بلکه برای ارتقای بهره‌وری در نظامی سرمایه‌محور. این روند با ابزارهایی چون ساعت‌های هوشمند، اپلیکیشن‌های پایش خواب، رژیم غذایی، بهره‌وری روزانه و در نهایت نمره‌دهی‌های رفتاری (behavioral scoring) در سیستم‌های اجتماعی دیجیتال مانند «Social Credit System» در چین، محقق می‌شود.

«زیست ماشینی» حاصل امتزاج فن‌سالاری، نئولیبرالیسم و اومانیسم متأخر

بر اساس دیدگاه متفکران یهودی چون «یوال نوح هراری» آینده انسان به شکل فزاینده‌ای با الگوریتم‌ها گره می‌خورد؛ او در کتاب «هومو دئوس» می‌نویسد که «انسان به‌عنوان موجودی با ذهن و اراده آزاد، در حال واگذاری تصمیم‌سازی به ماشین‌هایی است که او را بهتر از خودش می‌شناسند.»

زوبوف در نظریه «سرمایه‌داری نظارتی» به‌خوبی نشان می‌دهد که چگونه داده‌های رفتاری انسان‌ها نه‌تنها جمع‌آوری، بلکه به‌عنوان مواد خامی برای پیش‌بینی و حتی هدایت رفتارهای آینده آن‌ها به کار گرفته می‌شوند. در این چارچوب، انسان دیگر کنشگر نیست؛ بلکه موضوعی منفعل در جریان مهندسی اجتماعی مبتنی بر داده است. به بیان دیگر، نظریه زیست ماشینی حاصل امتزاج سه گفتمان است: فن‌سالاری، نئولیبرالیسم و اومانیسم متأخر. این سه در ترکیب با یکدیگر تلاش دارند تا انسان را از ابعاد معنوی و اخلاقی تهی کرده و او را به تابعی از منطق دیجیتال تبدیل کنند. نتیجه این فرایند، انسانی است که نه‌تنها در جهان بیرونی، بلکه در ادراک از خویش نیز دچار استعمار الگوریتمی شده است. 

همچنین دانشمندانی چون وینر (Langdon Winner) در کتاب معروف خود با عنوان «آیا مصنوعات سیاست دارند؟»  به‌صراحت از این ایده دفاع کرده‌اند که فناوری‌ها بی‌طرف نیستند، بلکه ساختارها و ارزش‌های خاصی را در خود تعبیه می‌کنند. از منظر او، هر تکنولوژی حامل نوعی منطق اقتدار و نظم اجتماعی است. در این چارچوب، هوش مصنوعی را باید به‌عنوان بخشی از پروژه کلان «اقتدار تکنولوژیک» تحلیل کرد که در آن انسان، به‌تدریج از سوژه فعال به ابژه‌ای تحلیل‌پذیر و کنترل‌پذیر تقلیل می‌یابد.

روایت‌سازی، هژمونی و سردبیران نامرئی

جهت تحقق این طرح عظیم و جهانی، نقش رسانه‌های جمعی در جاانداختن و ترویج هوش مصنوعی به‌عنوان پدیده‌ای بی‌خطر، اجتناب‌ناپذیر و حتی ضروری، غیرقابل‌انکار است. رسانه‌ها در عصر دیجیتال، صرفاً ابزارهایی برای انتقال پیام نیستند، بلکه به تعبیر «پیر بوردیو» بخشی از میدان قدرت‌اند که از طریق بازتولید نمادین، ساختارهای سلطه را تثبیت می‌کنند. در پروژه هوش مصنوعی، رسانه‌های جمعی نقش حیاتی در «طبیعی‌سازی» و «همگون‌سازی» این فناوری ایفا می‌کنند؛ آن هم نه به‌مثابه پیشرفتی خنثی، بلکه به‌مثابه ابزاری ایدئولوژیک در خدمت منطق سرمایه‌داری جهانی. نویسندگانی مانند «نوآمی کلاین» و «شوشانا زوبوف»، رسانه‌ها را بخشی از «زیرساخت نظارت سرمایه‌داری» می‌دانند. زوبوف در اثر مهم خود با همین عنوان، توضیح می‌دهد که شرکت‌های بزرگ فناوری با استفاده از رسانه‌ها، نه فقط به داده‌کاوی رفتار کاربران می‌پردازند، بلکه از طریق «مهندسی آگاهی»، سبک زندگی، الگوهای مصرف و حتی ارزش‌های انسانی را شکل می‌دهند. این مهندسی نرم، به شکل پنهان اما قدرتمند، در خدمت تسلط بر ذهن و زیست انسان‌ها عمل می‌کند.

در این راستا، رسانه‌ها از ابزارهای گوناگونی بهره می‌گیرند. روایت‌سازی‌های سینمایی، الگوریتم‌های فیلترکننده اطلاعات، فرهنگ سلبریتی‌ها و محتواهای هوشمندانه جهت‌دار که در شبکه‌های اجتماعی بازنشر می‌شوند. فیلم‌هایی نظیر Her،Upgrade  یا Ex Machina با روایتی دراماتیک از رابطه انسان و ماشین، الگوی رفتاری جدیدی عرضه می‌کنند که در آن، هوش مصنوعی نه فقط همراهی معنادار و جذاب، بلکه قدرتمند و مسلط به شمار می‌آید. این سازوکار، مصداق بارز «هژمونی رسانه‌ای» در نظریه گرامشی است؛ جایی که فرهنگ و فناوری نه با اجبار، بلکه با رضایت، سلطه را ممکن می‌سازند. در حقیقت رسانه‌ها کارکرد «کادرهای میانجی» را دارند؛ به این معنا که میان فناوری و توده‌ها رابطه‌ای معنایی ایجاد می‌کنند تا فناوری نه فقط فهمیده شود، بلکه خواستنی و ضروری جلوه کند. در این فرایند، نقش الگوریتم‌ها به‌عنوان سردبیران نامرئی نیز حیاتی است. آن‌ها تعیین می‌کنند که چه چیزی دیده شود، چه چیزی به فراموشی سپرده شود و چگونه معنا ساخته شود.

نگاه انتقادی از منظر اسلام؛ انسان در برابر منظومه سرمایه‌داریِ تکنولوژیک

درحالی‌که الگوی انسان در منظومه سرمایه‌داریِ مبتنی بر تکنولوژی - به‌ویژه در عصر هوش مصنوعی - بر پایة مدل‌های تقلیل‌گرایانة سایبرنتیک و الگوریتمی بنا شده است و در این چارچوب، انسان به‌عنوان «واحد داده‌ای» یا «گره‌ای در شبکه اطلاعاتی» بازتعریف می‌شود، درست در نقطه مقابل یعنی در منظومه معرفتی اسلام، انسان جایگاهی یگانه دارد. موجودی مرکب از جسم و روح، عقل و قلب، ماده و معنا که در پرتو «تکریم الهی» (لَقَدْ کَرَّمْنَا بَنِي آدَمَ) و «خلافت بر زمین» به‌مثابه خلیفه‌الله، به مسئولیتی هستی‌شناختی گمارده شده است. در این چارچوب، انسان نه صرفاً کارگزار اقتصادی یا موجودی بیولوژیک، بلکه حامل قوة تعقل، ارادة اخلاقی و استعداد عبودیت است. متفکرانی چون شهید صدر، شهید مطهری و به‌ویژه علامه طباطبایی با نقد انسان‌شناسی مادی مدرن، بر تعارض آن با مفهوم «روح الهی» دمیده شده در انسان تأکید داشته‌اند؛ لذا اندیشه اسلامی که انسان را موجودی مختار و دارای کرامت فطری می‌داند، واگذاری اراده و انتخاب به الگوریتم‌ها و تبدیل حکمرانی به میدان بازی داده‌ها را خطری بنیادی قلمداد می‌کند. این نوع حکمرانی برخلاف اصل «شوری» و «عدالت در تصمیم‌گیری» است که از مبانی تمدنی فقه سیاسی اسلام محسوب می‌شود و از این رو باید به سمت توسعه الگوریتم‌هایی رفت که با اخلاق، شفافیت و عدالت سازگار باشند و ابزار در خدمت انسان باقی بماند، نه انسان در خدمت ابزار.

در همین خصوص و از منظر فلسفه اسلامی که توسط متفکرانی چون سید حسین نصر، رضا داوری اردکانی و حسن بلخاری دنبال شده است، تکنولوژی مدرن واجد «جهت‌مندی هستی‌شناختی» است؛ یعنی بی‌طرف نیست و حامل نگرشی خاص به هستی، انسان و غایت زندگی است. از این منظر، هوش مصنوعی با گرایش به کنترل، پیش‌بینی‌پذیری و بازمهندسی رفتار انسانی، تهدیدی جدی برای «خودآگاهی قدسی» و «زیست مؤمنانه» تلقی می‌شود. در حقیقت در سنت اسلامی، ابزار تنها زمانی مشروعیت می‌یابد که در خدمت کمال انسانی و سیر الی الله قرار گیرد. اما فناوری‌های نوین - به‌ویژه در قالب هوش مصنوعی و یادگیری ماشین - با ایجاد ساختارهای شناختی و رفتاری جدید، خطر آن را دارند که انسان را از حالت کنشگر اخلاقی، به موضوعی منفعل و تحت‌تأثیر الگوریتم‌ها تقلیل دهند.

البته نباید فریب دستگاه رسانه‌ای غرب را در نقد هوش مصنوعی خود ساخته‌شان خورد. درست است که مفهوم «انسان کالایی‌شده» که مارکسیست‌ها در نقد سرمایه‌داری مطرح کردند، در پارادایم اسلامی نیز به‌عنوان انحراف از غایت وجودی انسان شناخته می‌شود، ولی در جهان‌بینی اسلامی این انحراف نه فقط اجتماعی، بلکه هستی‌شناسانه و وجودی تلقی می‌گردد. در نتیجه، مواجهه با هوش مصنوعی نیازمند بازتعریف بنیادین نسبت انسان با تکنولوژی از منظر حکمت اسلامی است؛ نسبتی که نه بر اساس بهره‌وری، بلکه بر محور عبودیت، کرامت و تعادل عقل و وحی تنظیم می‌شود؛ لذا در مواجهه با گسترش روزافزون هوش مصنوعی به‌مثابه یک «فناوری جهت‌دار»، ضرورت دارد که از رویکرد صرفاً تکنولوژیک فراتر رفته و به سطحی فراتحلیلی از «نقد فلسفی - تمدنی» دست یابیم. 

بازتعریف نسبت انسان و فناوری و ساخت نظریه بدیل بومی

مسیر مقاومت از دو سطح عبور می‌کند. نخست، «بازتعریف نسبت انسان با فناوری» و دوم «ساخت نظریه بدیل بومی». نسبت نخست، نیازمند نگاهی فلسفی و الهیاتی است که در آن انسان به‌مثابه خلیفه‌الله دارای شأنی فراتر از کارکردگرایی ماشینی باشد. کما اینکه اندیشمندان اسلامی همچون شهید مطهری و آیت‌الله جوادی آملی بر تمایز میان علم ابزاری و علم انسانی - معنوی تأکید داشته‌اند و توسعه تکنولوژی را تنها در صورتی مجاز می‌دانند که در خدمت تعالی انسان باشد، نه تنزل او به یک داده ریاضی.

مواجهه با هوش مصنوعی نیازمند بازتعریف بنیادین نسبت انسان با تکنولوژی از منظر حکمت اسلامی است؛ نسبتی که نه بر اساس بهره‌وری، بلکه بر محور عبودیت، کرامت و تعادل عقل و وحی تنظیم می‌شود.

در سطح دوم، مقاومت نیازمند «تولید گفتمان جایگزین» است. این به معنای ورود دانشگاه‌ها، حوزه‌های علمیه و نهادهای مستقل فرهنگی به میدان بازتعریف مفاهیم بنیادینی چون «پیشرفت»، «هوشمندی» و «زیست مطلوب» است. نظر نگارنده این است که آینده‌نگری انتقادی اسلامی زمینه‌ساز ایجاد یک تمدن انسان‌محور خواهد بود (البته نه با طرد فناوری، بلکه با تبیین فلسفه وجودی آن). تمدنی که در آن «هوش» ابزاری برای رشد روح (نه کنترل آن) خواهد بود و این همان نقطه عزیمت برای «مقاومت هوشمندانه» در برابر نظم تکنولوژیک مسلط است. 

در یک جمع‌بندی کلی، «هوش مصنوعی» برخلاف آنچه در گفتمان غالب غربی عرضه می‌شود نه صرفاً یک فناوری خنثی برای ارتقای بهره‌وری یا تسهیل زندگی بشر، بلکه بخشی از پروژه کلان استیلا و مهندسی اجتماعی - فرهنگی در راستای منطق سرمایه‌داری دیرهنگام و نظم نئولیبرال جهانی است. آنچه تحت عنوان «تحول دیجیتال» تبلیغ می‌شود، در واقع بازتعریفی از انسان و جامعه در چارچوب الگوریتم‌ها، داده‌محوری و منطق محاسبه‌پذیر است که به تعبیر «زوبوف» در کتاب «عصر سرمایه‌داری نظارتی»، عملاً به معنای خلق یک نظم مبتنی بر استخراج و استثمار روانی انسان است.

این نظم جدید، انسان را نه به‌مثابه موجودی دارای معنا، اختیار و روح، بلکه تنها به‌عنوان یک گره در شبکه‌ای ازپیش‌تعیین‌شده تعریف می‌کند. چیزی شبیه به آنچه «برنارد استیگلر» از آن با عنوان «پروتزی شدن وجود انسانی» یاد می‌کند؛ یعنی وابسته شدن سوژه به ابزارهایی که در ظاهر به او خدمت می‌کنند، اما در واقع ساختارهای ذهنی و وجودی او را بازنویسی می‌کنند. در برابر چنین زمینه‌ای، نظریه‌های اسلامی درباره انسان و جامعه، به‌ویژه نگاه‌های فلسفی و انسان‌شناختی حکمت متعالیه، نه‌تنها می‌توانند چارچوبی برای نقد این روند باشند، بلکه ظرفیت آن را دارند که «بدیل تمدنی» ارائه دهند. تمدنی که در آن ابزار در خدمت معناست و نه معنا در خدمت ابزار. 

چالش اصلی این نیست که آیا هوش مصنوعی خوب است یا بد؛ بلکه آن است که «برای چه کسی»، «توسط چه کسی» و «در خدمت چه غایتی» توسعه یافته است؛ چرا که نپذیرفتن اولویت پاسخگویی به این پرسش‌ها به معنای تسلیم کامل در برابر استعمار الگوریتمیک است؛ استعماری که نه با توپ و تفنگ، بلکه با خوش آمد گویی به «هوش مصنوعی مهربان» و «دستیار دیجیتال دوست‌داشتنی» عمل می‌کند. اگر امت اسلامی و جهان مستقل نتوانند از مرز استفاده ابزاری از فناوری عبور کرده و به سطح طراحی معنای فناوری برسند، آینده بشر نه‌تنها ماشینی، بلکه «ماشین سالار» خواهد شد و آن‌گاه دیگر برای صحبت از انسان، روح، اختیار یا معنا بسیار دیر شده است.

/ انتهای پیام /