هوش مصنوعی و مسائلی که معلمان نگران آن نیستند
گروه جامعه و اقتصاد «سدید»؛ هوش مصنوعی باوجود داشتن مزایای متعدد، میتواند تأثیرات منفی قابلتوجهی هم بر فرایند آموزش داشته باشد. از جمله این تأثیرات میتوان به کاهش تعاملات انسانی، وابستگی بیش از حد به این فناوری و کاهش مهارتهای تفکر انتقادی اشاره کرد. این عوامل میتوانند به کیفیت یادگیری دانشآموزان آسیب برسانند و در نهایت به عدم توانایی در حل مسائل پیچیده منجر شوند. مقاله حاضر که توسط سازمان (AFS) - فعال در زمینه تبادل دانشپژوه در سطح جهانی - تهیه شده است، بهتازگی در تاریخ ۱۲ فوریه ۲۰۲۵ منتشر گردیده و به بررسی هوش مصنوعی و تأثیرات منفی آن بر محیطهای آموزشی، معلمان و دانشآموزان در سطح بینالمللی میپردازد.
معلمان را فریب میدهد و دانشآموزان را تنبل میکند!
در تاریخ ۳۰ نوامبر ۲۰۲۲، شرکت «OpenAI» به طور رسمی از «چتجیپیتی» رونمایی کرد، اما این معرفی با استقبال چندانی روبرو نشد. تنها دو ماه بعد، این سکو به ۱۰۰ میلیون کاربر فعال ماهانه دست یافت و بهعنوان سریعترین اپلیکیشن در تاریخ شناخته شد. پس از آن طولی نکشید که هر صنعتی که بهنوعی با زبان انسانی در ارتباط بود، با تحولی عظیم مواجه گردید و حوزه آموزش نیز از این تحولات بینصیب نماند. این موضوع موجب نگرانی دانشگاهها و مؤسسات آموزشی در تمامی سطوح گردیده و این پرسش را برای آنها به وجود آورده است که چگونه میتوانند به این موضوع اعتماد کنند که تمامی فعالیتهای دانشآموزان در خارج از کلاس، ناشی از هوش خود آنهاست و نه هوش مصنوعی؟
پاسخ در همان فناوری نهفته است که در ابتدا مشکل را ایجاد کرده است. تصور میشد که ابزارهای تشخیص هوش مصنوعی میتوانند راهحلی کارآمد برای معلمان باشند که سعی داشتند بین تلاش و تفکر واقعی و تنبلی و فریب تمایز قائل شوند؛ اما حتی پیش از ظهور برنامههایی مانند چتجیپیتی، تشخیصدهندههای سرقت ادبی معروف به ارائه نتایج نادرست به معلمان بودند و این موضوع، منجر به تنبیه ناعادلانه دانشآموزان میشد. هوش مصنوعی تنها این مشکل را تشدید کرده است. اکنون دانشآموزان میتوانند با چند کلیک ساده، مقالات با کیفیت بالا و قابلقبولی تولید کنند و در این فرآیند، بار ذهنی که باید آنها را آموزش دهد، کاهش مییابد. معلمان در تلاش برای همگامشدن با پیشرفتهای فناوری، بهشدت به تشخیصدهندههای سرقت ادبی هوش مصنوعی وابسته شدهاند و همچنان محتوای اصلی را بهعنوان یک محصول تولیدشده توسط هوش مصنوعی شناسایی میکنند؛ اما این امر، عواقب وخیمی برای دانشآموزان متهم به تقلب به همراه دارد.
در این مقاله، به بررسی آسیبهای هوش مصنوعی به مدارس و برنامههای آموزشی در سطح جهانی، افزایش احتمال تقلب دانشآموزان، وابستگی به فناوری و دیگر مسائل مرتبط خواهیم پرداخت. همچنین به این موضوع مهم خواهیم پرداخت که معایب بارز این فناوری ممکن است در واقع بزرگترین مزیت آن را تحتالشعاع قرار دهد: چگونگی وادارکردن نهادها به تفکر در مورد انسانمحور کردن آموزش در مواجهه با تغییرات بیسابقه فناوری.
تقلب با استفاده از هوش مصنوعی
ظهور ابزارهای هوش مصنوعی مانند چتجیپیتی، راهی جدید و قوی برای تقلب در محیطهای آموزشی ایجاد کرده است و به دانشآموزان این امکان را میدهد تا بهراحتی از فرایندهای یادگیری سنتی عبور کرده و نمره لازم را کسب کنند. علاوه بر نوشتن مقالات استاندارد که بهعنوان معیاری برای ارزیابی توانایی تفکر انتقادی و ترکیب اطلاعات به یک استدلال منسجم و قانعکننده شناخته میشود، سکوهای هوش مصنوعی قادر به حل مسائل پیچیده ریاضی (با درجات مختلف موفقیت) و حتی تولید کدهای کامپیوتری با ورودی نسبتاً کم هستند.
مربیان در شناسایی استفاده از این ابزارها چندان موفق نیستند. در تحقیقی که در نشریه «پلاس وان[1]» منتشر شده است، پژوهشگران بهعنوان دانشجویان دانشگاه، مقالاتی که به طور کامل توسط هوش مصنوعی تولید شده بودند را در سیستمهای امتحانی یک برنامه روانشناسی در انگلستان ارائه کردند. نتیجه این تحقیق نشان داد که ۹۴ درصد از این ارسالها شناسایی نشدند. امکان سوءاستفاده از این فناوری تنها به نوشتن محدود نمیشود. در کلاسهای علوم رایانهای، معلمان نگران هستند که ابزارهایی نظیر «گیتهاب کوپایلوت[2]» - که یک ابزار پیشنهاد کد مایکروسافت است - شاید تغییرات بنیادینی در روشهای تدریس آنها ایجاد کند.
دانشآموزان بهشدت از این فرصت استقبال میکنند. در طی دو سال اخیر، صدها مورد تقلب با استفاده از هوش مصنوعی در اسکاتلند گزارش شده است. بهتازگی، یک دانشآموز در ترکیه بهخاطر استفاده از هوش مصنوعی در آزمون ورودی دانشگاه بازداشت شد. او به طرز خلاقانهای از دوربینی که بهصورت دکمه پیراهن طراحی شده بود، استفاده کرد و آن را از طریق یک روتر پنهان در کفش خود به نرمافزار هوش مصنوعی متصل کرد. این نرمافزار پاسخهای درست را تولید کرده و از طریق یک گوشی به دانشآموز منتقل میکرد.
وابستگی بیش از حد به فناوری
ورود هوش مصنوعی به محیطهای آموزشی، موجب افزایش کارایی و نوآوری شده است؛ اما درعینحال، نگرانیهایی درباره وابستگی بیش از حد به این فناوری به وجود آورده است. پژوهشهای منتشرشده در مجله رایانه و آموزش[3] نشان میدهد که استفاده از هوش مصنوعی توسط دانشآموزان به کاهش قدرت تصمیمگیری فردی منجر میشود؛ بهطوریکه به جای یادگیری از این فناوری، به آن متکی میشوند. این مطالعات نشان میدهد که ایجاد روشهای جدیدِ ترکیبیِ انسان و هوش مصنوعی در کلاسهای درس میتواند از اهمیت بیشتری برخوردار باشد.
در طی دو سال اخیر، صدها مورد تقلب با استفاده از هوش مصنوعی در اسکاتلند گزارش شده است. بهتازگی، یک دانشآموز در ترکیه بهخاطر استفاده از هوش مصنوعی در آزمون ورودی دانشگاه بازداشت شد
معلمان نیز به طور فزایندهای به ابزارهای هوش مصنوعی مانند تشخیصدهندههای سرقت ادبی وابسته شدهاند که به تولید نتایج مثبت کاذب معروف هستند. طبق یک نظرسنجی که توسط مرکز دموکراسی و فناوری [4] انجام شد، حداقل دو سوم از یک نمونه ملی شامل ۴۶۰ معلم در ایالات متحده، از این ابزارهای تشخیص محتوای هوش مصنوعی استفاده میکنند؛ این آمار بهوضوح با شواهد ناکارآمدی این ابزارها در تضاد است. جالب این که محققان «OpenAI» بهتازگی روشی برای برچسبگذاری محتویات تولیدشده توسط هوش مصنوعی یافتهاند که بسیار کارآمد و مؤثر است. بااینحال، فشارهای بازار این ابزار را در پشت درهای بسته نگه میدارد؛ زیرا انتشار آن احتمالاً منجر به هجوم کاربران چتجیپیتی به رقبای «OpenAI» خواهد شد و بهطورکلی مشکل را کاهش نخواهد داد. بااینوجود، تلاشهای جدید گوگل میتواند شناسایی متنهای تولیدشده توسط هوش مصنوعی را تسهیل کند.
روشهای نمرهدهی نیز بهمنظور گنجاندن ابزارهای هوش مصنوعی تغییر یافتهاند. معلمان به استفاده از چتجیپیتی و ابزارهای مشابه برای نمرهدهی به مقالات و پروژهها به طور مؤثرتری روی آوردهاند که این امر، موجب بروز اختلافنظر در میان آموزگاران درباره جنبههای اخلاقی و کارایی این اقدام شده است. علاوه بر این بحث، بارگذاری آثار یک دانشآموز در یک سکوی هوش مصنوعی بدون اجازه وی میتواند بهعنوان نقض جدی حریم خصوصی تلقی شود.
گسترش اطلاعات نادرست
سیستمهای هوش مصنوعی مبتنی بر مدلهای زبانی بزرگ، بهخاطر تمایل خود به ایجاد توهمات، شناخته شدهاند؛ به این معنا که اطلاعات نادرست را به شیوهای بسیار قانعکننده و با صدایی معتبر ارائه میدهند که حتی برای کاربران باتجربه نیز ممکن است بهراحتی قابلتشخیص نباشد. در
سیستمهای هوش مصنوعی مبتنی بر مدلهای زبانی بزرگ، بهخاطر تمایل خود به ایجاد توهمات، شناخته شدهاند؛ به این معنا که اطلاعات نادرست را به شیوهای بسیار قانعکننده و با صدایی معتبر ارائه میدهند که حتی برای کاربران باتجربه نیز ممکن است بهراحتی قابلتشخیص نباشد. در مؤسسات آموزشی که هدف آنها ارائه حقایق و آموزش توانایی تشخیص واقعیت از کذب به دانشآموزان است، این مسئله بهویژه نگرانکننده است.
این مسئله بههیچوجه جنبه نظری ندارد. در دسامبر ۲۰۲۳، یک دانشآموز در دبیرستان «هینگهام[5]» واقع در «ماساچوست[6]» به دلیل کپیبرداری از متنی که توسط یک برنامه هوش مصنوعی تولید شده بود و ارائه آن بهعنوان کار خود، نمره قبولی در پروژه تاریخ ایالات متحده را دریافت نکرد. متنی که دانشآموز ارائه کرد، شامل چندین ارجاع به منابعی بود که وجود نداشتند و این نشاندهنده خطای محض هوش مصنوعی بود. والدین این دانشآموز با ادعای اینکه مدرسه هیچ سیاست ضد هوش مصنوعی در قوانین خود ندارد، از مدرسه شکایت کردند تا نمره را اصلاح کرده و این رسوایی را از سوابق او پاک کنند، اما دادگاه منطقهای ایالات متحده در ماساچوست این درخواست را رد کرد.
آموزش عالی نیز از این معضل در امان نیست. تحقیقی که در نشریه «ساینتیفیک ریپورتس» [7] منتشر شده، نشان میدهد که از پیشینههای پژوهشی تولیدشده توسط چتجیپیتی ۳.۵ و چتجیپیتی ۴ به ترتیب ۵۵ درصد و ۱۸درصد ارجاعات کتابشناختی جعلی هستند که هیچ کار علمی واقعی برای آنها وجود ندارد. همانند گذشته، اساتید نیز باید به مشکلات و چالشهای خود توجه کنند. با افزایش تعداد معلمان که بهتدریج هوش مصنوعی را در برنامهریزی درسی خود به کار میبرند، احتمال ارائه اطلاعات نادرست به دانشآموزان به طور قابلتوجهی افزایش مییابد.
تعصبات موجود در مجموعه دادهها
ابزارهای هوش مصنوعی تحولی در یادگیری فردی به وجود آوردهاند، اما وابستگی آنها به دادههای وسیع و بدون پالایش، یک مشکل عمده را به همراه دارد: تشدید تعصب. تعصبِ الگوریتمی به وضعیتی اطلاق میشود که در آن برخی گروهها نسبت به سایرین بیشتر تحتتأثیر منفی قرار میگیرند؛ خواه یک ویژگی جمعیتی مانند جنسیت، نژاد یا ملیت باشد و خواه دیگر موارد. هنگامی که توسعهدهندگان فناوری مدلها را با دادههایی که تعصبات موجود را بازتولید میکنند - چه به طور آگاهانه و چه ناآگاهانه - آموزش میدهند، این امر میتواند تأثیرات قابلتوجهی بر روی کاربران این سیستمها داشته باشد.
حتی «OpenAI» هم به طور صریح به این نکته اشاره کرده و در وبسایت خود اعلام میکند که معلمان باید در ارزیابی خروجیهای چتجیپیتی احتیاط لازم را به عمل آورند؛ زیرا این سیستم به سمت دیدگاههای غربی گرایش دارد و ورودیهای زبان انگلیسی را ترجیح میدهد. همچنین وجود تعصب نسبت به افرادی که بهعنوان غیرانگلیسیزبان شناخته میشوند، در سیستمهای هوش مصنوعی یک چالش است؛ بهطوریکه برخی از ابزارهای تشخیص هوش مصنوعی نوشتههای دانشآموزان غیرانگلیسیزبان را نسبت به آثار نویسندگان بومی، با نرخ بیشتری بهعنوان تولیدات هوش مصنوعی شناسایی میکنند.
در مؤسسات آموزشی، هوش مصنوعی بهعنوان ابزاری برای تحلیل پیشبینی به کار گرفته میشود. این ابزارها معمولاً برای ارزیابی احتمال فارغالتحصیلی دانشآموزان از دبیرستان استفاده میشوند. اگرچه هدف آنها کمک به معلمان در حمایت از دانشآموزان در مسیر تحصیلیشان است، اما اغلب در این زمینه موفق نیستند و اقلیتهای نژادی را به اشتباه بهعنوان افرادی با احتمال کمتر برای موفقیت شناسایی میکنند. یکی از این سیستمها که در ویسکانسین[8] در سال ۲۰۱۲ معرفی شد، به طور مداوم دانشآموزان سیاهپوست و اسپانیاییتبار را در معرض خطر عدم فارغالتحصیلی قرار میداد. مشکل این است که الگوریتم مورد استفاده دولت، تقریباً در سهچهارم موارد نادرست عمل میکرد و این امر باعث ایجاد تصوری ناعادلانه از دانشآموزان اقلیت در ذهن معلمان شده است.
بهکارگیری هوش مصنوعی بهمنظور بهبود فرایند یادگیری در کلاس درس
علیرغم تمامی معایب فناوریهای هوش مصنوعی، این فناوریها پتانسیل تغییر مثبت کلاسهای درس را دارند؛ البته به شرطی که به طور مدبرانه برای بهبود تجربه تدریس و یادگیری به کار گرفته شوند. درصورتیکه مربیان قادر باشند این ابزارها را به طور مؤثر در یک تجربه یادگیری کارآمد، غنی و متمرکز بر انسان به کار ببرند، ممکن است چالشها و شوکهایی که چتجیپیتی و رقبای آن برای نهادهای آموزشی به ارمغان آوردهاند، به طور غیرمنتظرهای تبدیل به بزرگترین مزیت این فناوریها در این حوزه شوند.
در مؤسسات آموزشی، هوش مصنوعی بهعنوان ابزاری برای تحلیل پیشبینی به کار گرفته میشود. این ابزارها معمولاً برای ارزیابی احتمال فارغالتحصیلی دانشآموزان از دبیرستان استفاده میشوند.
پژوهشها نشان میدهند که ابزارهای هوش مصنوعی میتوانند بهعنوان همکاران مؤثر در فرایند ایدهپردازی برای دانشآموزان عمل کنند و بهعنوان محرک اولیهای برای ایجاد جریان کنجکاوی و پرسشگری عمل نمایند. بااینحال، ضروری است که دانشآموزان فرصتی برای تمرین و شکلدهی به خلاقیت خود قبل از استفاده از ابزارهایی مانند چتجیپیتی داشته باشند که میتوانند در مراحل بعدی برای گسترش یادگیری آنها به کار گرفته شوند. بهطورکلی، هوش مصنوعی میتواند بهعنوان یک معلم عمل کند که توضیحات عمیق و غنی ارائه میدهد، اما استفاده از آن بهعنوان تولیدکننده پاسخ، ممکن است بیشتر از هر چیز دیگری مانع یادگیری شود. برای معلمان، بازخوردهای مبتنی بر هوش مصنوعی و حتی تولید فعالیتهای آنی، از جمله الهامبخشترین کاربردهای این فناوری به شمار میآید که میتواند محیطی پاسخگو و هدایتگر برای یادگیرندگان ایجاد کند.
در پایان باید گفت که همانند سایر موضوعات، به نظر میرسد که ایجاد تعادل مناسب در استفاده از هوش مصنوعی در آموزش، راهی برای بهرهبرداری از قابلیتهای آن و کاهش آسیبهای احتمالی باشد.
https://afs.org.au/careers/science-technology/negative-effects-of-ai-on-education.html
[1] PLOS One
[2] GitHub Copilot
[3] Computers & Education Journal
[4] Center for Democracy & Technology
[5] Hingham
[6] Massachusetts
[7] Scientific Reports
[8] Wisconsin
/ انتهای پیام /
