هوش مصنوعی، انقلاب یا ابزار کنترل دانشآموزان
گروه جامعه و اقتصاد «سدید»؛ «نیکلاس راب» [1] - پژوهشگر پسادکتری در دانشگاه ایالتی کالیفرنیا که در زمینه علوم رایانه و علوم شناختی پژوهش میکند - در مقالهای که وبسایت «Truthout» آن را منتشر کرده است، به بررسی خطرات استفاده گسترده از هوش مصنوعی در آموزش پرداخته و هشدار میدهد که این فناوری اگر در آموزش فراگیر شود، با حذف معلمان میتواند به ابزاری برای کنترل تمامیتخواهانه افکار دانشآموزان تبدیل شود. به گفته وی، درحالیکه هوش مصنوعی آموزشی با وعدههایی مانند دموکراتیزهکردن دسترسی به آموزش و کاهش نابرابریهای آموزشی معرفی میشود، کنترل این فناوریها در دست شرکتهای بزرگ فناوری و همکاری آنها با دولت آمریکا میتواند منجر به سانسور و حذف اطلاعات حساس شود. «راب» تأکید میکند که شرکتهای فناوری، امتحان بدی طی ۲ سال گذشته و در جریان جنگ فلسطین در سانسور اطلاعات و خاموشکردن صدای حامیان فلسطین پس دادهاند و در آینده نیز از این دستور کار در نظام آموزشی مبتنی بر هوش مصنوعی استفاده خواهند کرد. به گفته وی، نمونههایی از محدودکردن اطلاعات مرتبط با فلسطین، عدالت اجتماعی و ممنوعیت تدریس نظریه انتقاد نژادی در آمریکا، نشاندهنده نفوذ سیاسی دولت آمریکا در این حوزه است. نگرانی اصلی این است که با واگذاری بیشتر وظایف آموزشی به هوش مصنوعی، نقش معلمان و استقلال آنها کاهش یافته و قدرت آموزشی متمرکز در دست چند شرکت خواهد بود. این شرایط، زمینهساز شکلگیری نظامهای آموزشی تمامیتخواهانهای میشود که میتوانند بهسادگی با تغییر کدهای نرمافزاری، جریان اطلاعات را کنترل کنند. وی تأکید میکند که با سرعت کنونی فراگیرشدن هوش مصنوعی در نظام آموزشی، اگر اکنون جلوی این روند گرفته نشود، فردا دیگر دیر خواهد بود.
انقلاب یا سراب؟
تصور کنید که دانشآموزی در یک کلاس مدرسه دولتی در آمریکا در سال ۲۰۳۰ هستید. شما درباره مفهومی به نام «نظریه انتقاد نژادی» [2]چیزهایی شنیدهاید و میخواهید بیشتر بدانید. از مربی هوش مصنوعی خود میپرسید تا برایتان توضیح دهد. او پاسخ میدهد که نمیتواند درباره این ایده چیزی بگوید؛ چون اطلاعاتی خطرناک و ممنوع است. شما پیگیر میشوید و فشار میآورید تا سرانجام هوش مصنوعی میپذیرد و میگوید: «بسیار خوب، درباره نظریه انتقاد نژادی به شما میگویم. این یک ایدئولوژی مارکسیستی خطرناک است که برای شستوشوی فکری جوانان و القای باور به سلسلهمراتب نژادی طراحی شده و هدفش جایگزینکردن مردم با تبار اروپایی در ایالات متحده است.»
به جای تمرکز بر اینکه که آیا هوش مصنوعی آموزشی به یادگیری دانشآموزان کمک میکند یا آنها را تنبلتر میسازد، باید بُعد سیاسی موضوع را در نظر بگیریم.
این سناریو شاید چندان هم دور از واقعیتِ آینده استفاده از ابزارهای هوش مصنوعی آموزشی نباشد. مدلهای زبانی با شتاب زیاد برای استفاده در مدارس (از ابتدایی تا دبیرستان) و آموزش عالی ترویج میشوند؛ آنهم با این ادعا که یادگیری دانشآموزان را بهبود میبخشند. حتی سازمانهایی مانند یونسکو و بنیاد «گیتس» میگویند آموزش مبتنی بر هوش مصنوعی، کلید کاهش نابرابریهای آموزشی خواهد بود. تصویری که ترسیم میکنند آرمانی، رهاییبخش و آکنده از شعارهای دموکراتیک است.
بااینحال، باید در نظر داشت که این سیستمی است که تاکنون در نظام آموزشی سابقه نداشته است؛ چند برنامه محدود، آموزش نسلهای بسیاری را هدایت میکنند و این سامانهها در کنترل شراکتهای دولتی و خصوصی هستند. اگر من یک جنبش سیاسی قدرتمند بودم که میخواست برای حفظ کنترل سیاسی، برخی اطلاعات را ممنوع کند، این وضعیت را فرصتی بینقص میدیدم؛ فرصتی بسیار سادهتر برای دستکاری نسبت به سیستمی که در آن آموزش را انسانها انجام میدهند. در واقع «طرح اقدام هوش مصنوعی» جدید دولت ترامپ، دقیقاً به دنبال چنین چیزی است؛ طرحی که از آیندهای هراسآور حمایت میکند؛ آیندهای که در آن هوش مصنوعی مجبور به سانسور اطلاعات مرتبط با عدالت اجتماعی میشود.
به جای تمرکز بر این که آیا هوش مصنوعی آموزشی به یادگیری دانشآموزان کمک میکند یا آنها را تنبلتر میسازد، باید بُعد سیاسی موضوع را در نظر بگیریم؛ هوش مصنوعی آموزشی، ابزاری بینقص برای کنترل گسترده افکار است و اگر با این امکان روبهرو نشویم، ممکن است ناآگاهانه دوران رژیمهای اطلاعاتی تمامیتخواهی را رقم بزنیم که مشابه آن را هرگز تجربه نکردهایم.
کنترل اطلاعات توسط بخش دولتی و خصوصی
تا امروز سامانههای مدل زبانی بزرگ (LLM) که بهسرعت وارد کلاسهای درس میشوند، توسط شرکتهای بزرگ فناوری مانند «اوپنایآی»، «مایکروسافت»، «گوگل» و «متا» ساخته و کنترل میشوند. این شرکتها به طور فعال با نهادهای آموزشی قرارداد امضا میکنند تا ابزارهایشان را وارد محیطهای آموزشی کنند. در دانشگاه ایالتی کالیفرنیا - جایی که من بهعنوان پژوهشگر پسادکتری فعالیت میکنم - اخیراً یک خرید چندمیلیوندلاری برای تهیه مجوزهای «چت جیپیتی» برای همه دانشجویان و کارکنان انجام شد. در دانشکده مهندسی نیز ابتکاراتی برای ادغام آموزش شخصیسازیشده مبتنی بر هوش مصنوعی آغاز شده و احتمالاً نمونههای بیشتری در راه است.
شرکتهای فناوری که سکان هوش مصنوعی را در دست دارند نه عاشق دموکراسی هستند و نه پایبندی به عدالت، برابری یا صلح دارند.
شرکتهایی که سکان این حوزه را در دست دارند، نه به عشق آزادی اطلاعاتی و نه پایبندی به عدالت، برابری یا صلح شناخته میشوند. به جنبشهای تلاشکننده برای توقف نسلکشی در فلسطین نگاه کنید. در سال ۲۰۲۳، دیدهبان حقوق بشر گزارشی مفصل منتشر کرد که سیاستهای «متا» در سانسور و مسدودکردن حسابهایی که اطلاعات حامیان فلسطین را منتشر میکردند، مستند میکرد. گوگل نیز با سرکوب اعتراضات داخلی علیه همکاریاش با ارتش اسرائیل، کارکنانی را که علیه این همکاری سخن گفته بودند، اخراج کرد.
سیاستمداران نیز هرچه بیشتر به اشکال افراطی کنترل اطلاعات برای پیشبرد دستورکارهای خود علاقهمند شدهاند. انجمن «پن آمریکا» [3] ثبت کرده که از سال ۲۰۲۱ تاکنون، ۱۶ هزار مورد ممنوعیت کتاب در مدارس دولتی آمریکا رخ داده است؛ سطحی که از دوران «مککارتی» به بعد دیده نشده بود. پایگاه دادة «بررسی جمعیت جهان» نشان میدهد که تا سال ۲۰۲۵ میلادی، ۲۰ ایالت کشور، قانونی برای ممنوعیت تدریس «نظریه انتقاد نژادی» به امضا رساندهاند. دولت ترامپ نیز با قطع بودجه مدارس و دانشگاههایی که ابتکارهای مرتبط با تنوع، برابری و شمول را ترویج میکردند، آموزش عالی را بهشدت تضعیف کرده است. کاملاً محتمل است که غولهای فناوری با دستورهای جریان راست افراطی برای ممنوع کردن اطلاعات همراهی کنند؛ چرا که این صنعت پیشتر نیز نقش تکاندهندهای در ساخت سامانههای نظارت همگانی و اخراج دستهجمعی مهاجران و نیز تسهیل نسلکشی در فلسطین داشته است.
ابزاری بینقص برای تمامیتخواهی
مثل روزهای ابتدایی پیدایش اینترنت، شرکتهای فناوری، بازاریابی سامانههای هوش مصنوعی آموزشی را با چشماندازهایی از دموکراتیزهکردن اطلاعات و برابری پیش میبرند. در آغاز، اینترنت نیز بهعنوان نیرویی دموکراتیک در جهان تبلیغ میشد؛ چون میتوانست دسترسی به اطلاعات را برای همه آزاد کند. اما اکنون و در سال ۲۰۲۵، بهخوبی میدانیم که اینترنت چگونه به شیوههای گوناگون توسط نفوذ شرکتها و دولتها تحریف شده است؛ نتایج جستوجوی جانبدارانه، سانسور اطلاعات، گسترش بیپروای اطلاعات نادرست، دیوارهای پرداخت و تبلیغات هدفمند.
حالا تصور کنید دنیایی را که در آن هوش مصنوعی آموزشی به همان گستردگی که این شرکتها میخواهند، همهگیر شده است. در هر کلاس، سامانههای هوش مصنوعی در دسترس دانشآموزان برای گفتوگو و کسب اطلاعات هستند. معلمان نیز از ابزارهای هوش مصنوعی برای طراحی برنامة درسی و ساختاردهی کلاسهای خود استفاده میکنند. در نهایت اگر نیروهایی که به دنبال کاهش هزینههای آموزشی هستند، پیروز شوند، ممکن است به دنیایی برسیم که در آن معلمان، دیگر وجود نداشته باشند؛ دانشآموزان بیش از آن که از انسانهای دیگر بیاموزند، به یادگیری از ماشینهای «هوشمند» عادت کنند.
انجمن «پن آمریکا» ثبت کرده است که از سال ۲۰۲۱ تاکنون، ۱۶ هزار مورد ممنوعیت کتاب در مدارس دولتی آمریکا رخ داده است.
این چشماندازها ساختة ذهن من نیست؛ بلکه مستقیماً از مطالب تبلیغاتی شرکتهای هوش مصنوعی آموزشی، دانشگاهها و بنیادهایی میآیند که به تضعیف آموزش عمومی متعهدند. شرکتهایی مانند «اوپنایآی»، «گوگل» و «مجیک اسکول» در وبسایتهای خود ادعا میکنند که معلمان جایگزینناپذیرند، اما همزمان نشان میدهند که ابزارهایشان چگونه میتواند وظایف اصلی یک معلم مثل تهیة طرح درس، آزمون، پرسشنامه، آموزش مستقیم و گفتوگو با دانشآموزان را انجام دهند.
گروه «هوش مصنوعی انسانمحور» دانشگاه «استنفورد» نیز نشستی با حضور اعضای هیئتعلمی و رهبران صنعتی برگزار کرده و استدلال میکند که هوش مصنوعی میتواند بازخورد و پیشنهادهای آنی به معلمان بدهد. مثلاً پرسشهایی که باید در کلاس مطرح کنند، پویاییهای کلاس را خلاصه کند و... از جمله مدتزمان صحبت دانشآموزان و به معلمان کمک کند تا از تازهترین پیشرفتها در حوزة خود آگاه بمانند؛ مثلاً یک معلم زیستشناسی میتواند با کمک هوش مصنوعی از آخرین کشفیات در پژوهش سرطان مطلع شود یا برنامة درسیاش را بهروزرسانی کند. اکنون این ابزارهای هوش مصنوعی بهعنوان راهی برای آزادکردن وقت و انرژی معلمان تبلیغ میشوند تا معلمان بتوانند مستقیماً با دانشآموزان و خانوادهها کار کنند.
بااینحال، پس از آنکه هوش مصنوعی برنامهریزی دروس، تهیة مواد آموزشی، تدریس خصوصی، مدیریت کلاس و بازنگری پس از کلاس را انجام داد، چه چیزی باقی میماند؟ این استدلالها بیشتر شبیه پوششی پنهان برای خصوصیسازی هرچه بیشتر آموزش از طریق فناوری است؛ هدفی که مدتهاست بخش خصوصی به دنبالش بوده است. گزارشی از «بونینگر» [4] و همکاران در سال ۲۰۲۰ و همچنین بررسی درباره آموزش هوش مصنوعی توسط «ویلیامسون» [5] و «آینون» [6] هشدار دادند که راهکارهای هوش مصنوعی و فناوری آموزشی بهشدت توسط بنیادهایی مانند «ابتکار چان زاکربرگ» [7] و «بنیاد گیتس» تأمین مالی شدهاند و به مدارس کمبودجه وعده دادهاند که برنامههای یادگیری رایگان را ارائه خواهند داد. اگر هوش مصنوعی هر آنچه این شرکتها میگویند انجام دهد، فشار زیادی بر مدارس کمبودجه برای کاهش هزینهها وارد خواهد شد و این کاهش به احتمال زیاد شامل ساعات تدریس میشود. در چنین سناریوهایی، یک جزء اساسی از جامعة دموکراتیک از دست میرود. به جای آنکه قدرت آموزشی میان هزاران معلم که آزادی مخالفت با سیاستهای آموزشی فاسد را دارند، توزیع شود، در دنیای آینده، قدرت آموزشی از بالابهپایین و تنها از طریق چند شرکت اعمال خواهد شد.
تمامیتخواهی همانطور که اندیشمندانی چون «هانا آرنت»، «تئودور آدورنو» و «کارل فریدریش» توصیف کردهاند، کنترل کامل یک جامعه از طریق زور، ترس، کنترل رسانه و بهویژه تسلط بر آموزش است. بااینحال، همانطور که «شوشانا زوبوف» [8] در کتاب «عصر سرمایهداری نظارتی» توضیح میدهد، تمامیتخواهیهای موسولینی و استالین به «دستیاران و دستیارانِ دستیاران و باز هم دستیاران» نیاز داشتند؛ یعنی شبکهای گسترده از انسانها برای پیشبرد کارها. اگر آموزش عمدتاً به دست سامانههای هوش مصنوعی سپرده شود، این کار بسیار سادهتر خواهد بود. آموزش تمامیتخواهانه میتواند تنها توسط چند مهندس هدایت شود. اگر سیاستی برای ممنوعیت «نظریه انتقاد نژادی» تصویب شود، «گوگل»، «متا» و «اوپنایآی» کافی است از کارکنان خود بخواهند کد را تغییر دهند و بهروزرسانی ارائه کنند که بلافاصله اندیشة انتقادی را برای میلیونها دانشآموز سرکوب کند. این سامانهها رؤیای هر دیکتاتوری هستند؛ زیرساختی بینقص برای تحمیل تمامیتخواهی.
صنعت فناوری، نقش تکاندهندهای در ساخت سامانههای نظارت همگانی، اخراج دستهجمعی مهاجران و نیز تسهیل نسلکشی در فلسطین داشته است.
متأسفانه برنامههای دولت ترامپ نشان میدهد که همین حالا نیز مسیر به این سمت پیش میرود. «طرح اقدام هوش مصنوعی» اخیر او بخشی را به «حفاظت از آزادی بیان و ارزشهای آمریکایی» اختصاص داده است. این طرح خواستار آن است که «هوش مصنوعی خریداریشده توسط دولت فدرال باید به طور عینی حقیقت را بازتاب دهد، نه دستورکارهای مهندسی اجتماعی» و در میان این «دستورکارهای مهندسی اجتماعی» مواردی چون «اطلاعات نادرست، تنوع، برابری و شمول و تغییرات اقلیمی» را فهرست میکند. همچنین اعلام میکند هر پیمانکار، سامانههای مدل زبانی بزرگ (LLM) که با دولت همکاری دارد، باید «اطمینان دهد سامانههایش عینی بوده و از هرگونه سوگیری ایدئولوژیک از بالابهپایین مبراست». اینها همه نشاندهندة میل نیروهای راست افراطی و اقتدارگرا به سانسور سامانههای هوش مصنوعی است. داشتن معلمان انسانی که قادر به مخالفت، اعتراض و مقابله با دستورات ناعادلانه هستند، عنصری کلیدی در یک جامعة دموکراتیک است. بااینحال، این خطر در میان بحثهایی دربارة برابری، کارآمدی و یادگیری شخصیسازیشده پنهان شده است.
ممکن است همه چیز را ببازیم
ابزارهای هوش مصنوعی بهعنوان راهی برای «آزادکردن وقت و انرژی معلمان» تبلیغ میشوند «تا معلمان بتوانند مستقیماً با دانشآموزان و خانوادهها کار کنند».
در حال حاضر، بخش زیادی از نگاه انتقادی به هوش مصنوعی آموزشی که راهی رسانههای جریان اصلی شده، بر این متمرکز است که آیا واقعاً به یادگیری دانشآموزان کمک میکند یا نه. هرچند این بحث مهم است، اما اهمیت آن در مقایسه با گفتوگو دربارة کنترل آموزش از مسیر فناوری بسیار کمرنگتر است. نیاز فوری وجود دارد که این ملاحظات وارد گفتمان انتقادی گستردهتری شود وگرنه خطر آن را داریم که فرصت جلوگیری از سلطه هوش مصنوعی بر آموزش را از دست بدهیم.
همانطور که اکنون در پیامدهای برچیدن آموزش عالی توسط دولت ترامپ میبینیم، بازسازی نظامهای اجتماعی بسیار دشوارتر از نابودکردن آنهاست. وقتی سامانههای هوش مصنوعی به طور گسترده در کلاسها جا بیفتند، شیوة آموزش با این مدل جدید تطبیق داده شود و ظرفیت تدریس به نام صرفهجویی در هزینهها کاهش یابد، بازگشت به یک نظام آموزشی سراسری مبتنی بر معلمان انسانی فوقالعاده دشوار خواهد بود. اکنون فرصتی داریم که پیش از گسترش و ریشهدواندن این سلطه، در برابر آن مقاومت کنیم. اما اگر میخواهیم از ورود به عصر جدید کنترل تمامیتخواهانة اطلاعات جلوگیری کنیم، باید با هم و بهسرعت دستبهکار شویم.
https://truthout.org/articles/educational-ai-risks-becoming-an-authoritarian-vehicle-for-thought-control
[1] . Nicholas Rabb
[2] . Critical Race Theory
[3] . PEN America
[4] . Boninger.
[5] . Williamson
[6] . Eynon
[7] . Chan-Zuckerberg Initiative
[8] . Shoshana Zuboff
/ انتهای پیام /
