چگونه هوش مصنوعی، راهبردهای جنگ شناختی را دگرگون میکند؟
گروه جامعه و اقتصاد «سدید»؛ «لزلی آلن هوروویتز» [1] - نویسنده، روزنامه‌نگار و پژوهشگر آمریکایی حوزه تاریخ علم - در مقاله‌ای که وب‌سایت «counterpunch» آن را منتشر کرده است، هشدار می‌دهد که قدرت‌های بزرگ، رقابت گسترده‌ای را در زمینه توسعه استفاده از هوش مصنوعی در راهبردهای نظامی خود آغاز کرده‌اند و این فناوری مثل انقلاب صنعتی در آستانه دگرگون‌کردن راهبردهای نظامی قرار دارد. به گفته وی، در حال حاضر، بسیاری از کشورها به‌ویژه آمریکا، چین و روسیه در حال سرمایه‌گذاری گسترده بر هوش مصنوعی نظامی هستند. استفاده از الگوریتم‌ها برای تحلیل تصاویر ماهواره‌ای، شناسایی تهدیدات سایبری، هدایت پهپادها و حتی پیشنهاد گزینه‌های نظامی در اتاق‌های جنگ، به‌سرعت در حال رایج شدن هستند. نویسنده هشدار می‌دهد که این اتکای روزافزون به سامانه‌های خودکار مبتنی بر هدایت هوش مصنوعی، می‌تواند سرعت درگیری‌ها را بیشتر کند و زمان برای مداخله انسانی را کاهش دهد؛ امری که ممکن است به جنگ‌های تصادفی یا تصمیم‌های اشتباه منجر شود. به گفته وی، گرچه برخی کشورها مدعی هستند که کنترل انسانی همیشه حفظ خواهد شد، اما واقعیت میدانی جنگ‌ها به‌ویژه در شرایط پرتنش و با حجم عظیم داده‌ها نشان می‌دهد که احتمال کنارگذاشتن انسان از چرخه تصمیم‌گیری وجود دارد. نگرانی‌های اخلاقی نیز در این میان وجود دارد؛ آیا ماشین‌ها می‌توانند بین غیرنظامی و نظامی تمایز قائل شوند؟ چه کسی مسئول پیامدهای اشتباه یک الگوریتم خواهد بود؟ رقابت تسلیحاتی مبتنی بر هوش مصنوعی، خطر گسترش فناوری به رژیم‌های غیرمسئول یا گروه‌های تروریستی را نیز افزایش می‌دهد.
شگفتانه‌های غیرقابل‌مهار
در فیلم «بازی‌های جنگی» [2] محصول ۱۹۸۳، یک ابررایانه در آستانه آغاز یک جنگ هسته‌ای میان ایالات متحده و اتحاد جماهیر شوروی قرار دارد، اما زیرکی یک نوجوان (با بازی متیو برودریک) مانع از وقوع فاجعه می‌شود. در نخستین فیلم ترمیناتور که یک سال بعد اکران شد، ابررایانه‌ای به نام «اسکای نت» تصمیم می‌گیرد نسل بشر را نابود کند؛ نه برای حفاظت از زرادخانه هسته‌ای آمریکا، بلکه چون انسان‌ها را تهدیدی برای بقای خود می‌بیند. اگرچه این فیلم‌ها، سناریوهایی تیره‌وتار از طغیان ماشین‌های هوشمند را به نمایش می‌گذاشتند، اما از جهاتی نیز پیشگویانه بودند.
هوش مصنوعی (AI) اکنون چنان فراگیر شده که حتی در یک جست‌وجوی ساده در گوگل نیز به کار گرفته می‌شود. اینکه این فناوری در راهبردهای نظامی هم گنجانده شود، چندان عجیب نیست. آنچه نگران‌کننده است، ناآگاهی ما از توانمندی این جنگ‌افزارهای پیشرفته است؛ چه آنها که آماده استفاده‌اند و چه آنها که هنوز در حال توسعه‌اند. ما همچنین آمادگی رویارویی با سامانه‌هایی را نداریم که ممکن است برای همیشه چهره جنگ را دگرگون کنند. در سراسر تاریخ، این هوش انسانی بوده که از فناوری استفاده کرده - نه خود فناوری - و این عامل تعیین‌کننده در پیروزی یا شکست در جنگ‌ها بوده است. اما این وضعیت ممکن است در آینده تغییر کند. ممکن است هوش انسانی به‌جای حضور مستقیم در میدان نبرد، صرف طراحی سامانه‌هایی شود که نسبت به توانمندی‌های دشمن برتری داشته باشند.
«امیرحسین» [3] - بنیان‌گذار و مدیرعامل شرکت «اسپارک‌کگنیشن» [4] - در مقاله‌ای برای «مدیا نیوز» یادآور می‌شود که هوش مصنوعی، فناوری‌ای نیست که به‌راحتی قابل شناسایی، نظارت یا ممنوع‌شدن باشد. ترکیب اجزای هوش مصنوعی - از جمله شناسایی بصری، تحلیل زبان، پیش‌بینی بر پایه شبیه‌سازی و انواع جست‌وجوی پیشرفته - با فناوری‌ها و پلتفرم‌های موجود، می‌تواند به‌سرعت قابلیت‌هایی کاملاً تازه و پیش‌بینی‌نشده پدید آورد. نتیجه چنین ترکیبی، می‌تواند شگفتانه‌های غیرقابل‌مهار خلق کند.
این احتمال که هوش مصنوعی، ممکن است عامل انسانی را به طور کامل از معادله حذف کند، بسیاری را وحشت‌زده کرده است.
این فناوری پیشرفته از همین حالا نیز در میدان جنگ به طور گسترده به کار گرفته شده است. استفاده از هواپیماهای بدون سرنشین (UAV) که معمولاً به نام «پهپاد» شناخته می‌شوند، هشدارهایی درباره ظهور ربات‌های قاتل را به دنبال داشته است. اما اگر زمانی برسد که این پهپادها دیگر تحت کنترل انسان نباشند و بتوانند به طور مستقل، مأموریت‌های نظامی را اجرا کنند، چه رخ خواهد داد؟ این پهپادها تنها محدود به آسمان نیستند؛ آنها می‌توانند روی زمین یا در زیر آب نیز عمل کنند. افزوده‌شدن هوش مصنوعی - به معنای اعطای قابلیت خودمختاری به این سلاح‌ها - دیگر دور از دسترس نیست. علاوه بر این، تولید و خرید آنها ارزان است. روس‌ها برای جنگ در اوکراین از ایران پهپاد می‌خرند و در مقابل، اوکراینی‌ها نیز صنعت خانگی ساخت پهپادهای خود را در برابر روس‌ها راه‌اندازی کرده‌اند.
سهولت نسبی تبدیل یک پهپاد تجاری به پهپادی با کاربرد نظامی، مرز میان فعالیت‌های تجاری و نظامی را بیش‌ازپیش مبهم کرده است. بااین‌حال، در حال حاضر همچنان انسان‌ها بر روند استفاده از این ابزارها کنترل دارند. همین چالش در سامانه‌های جمع‌آوری اطلاعات با کاربری دوگانه نیز دیده می‌شود؛ از جمله ماهواره‌ها، هواپیماهای سرنشین‌دار و بی‌سرنشین، رادارهای زمینی و زیردریایی و انواع حسگرها که هم در حوزه غیرنظامی و هم در حوزه نظامی به کار می‌روند.
هوش مصنوعی می‌تواند حجم عظیمی از داده‌های این سامانه‌ها را پردازش کرده و از میان آنها الگوهای معناداری را تشخیص دهد؛ الگوهایی که ممکن است از دید انسان پنهان بمانند. نیروهای آمریکایی در جنگ‌های عراق و افغانستان تا حدی به این دلیل ناکام ماندند که قادر به پردازش مؤثر این حجم از داده‌ها نبودند. حتی در حال حاضر، پهپادهای کنترل از راه دور برای برخاست، فرود و پروازهای روزمره از هوش مصنوعی بهره می‌گیرند. تنها بخش باقی‌مانده برای اپراتورهای انسانی، تمرکز بر تصمیمات تاکتیکی مانند انتخاب هدف و اجرای حمله است.
همچنین هوش مصنوعی به این سامانه‌ها امکان می‌دهد که با سرعتی بسیار بیشتر از آنچه در صورت دخالت انسان ممکن است، عمل کنند. تا امروز، سرعت تصمیم‌گیری، مهم‌ترین عامل در موفقیت در جنگ بوده است. اما اگر سامانه‌های مبتنی بر هوش مصنوعی مستقیماً با انسان‌ها وارد رقابت شوند، همواره دست بالا را خواهند داشت. بااین‌حال، همین احتمال که هوش مصنوعی عامل انسانی را به طور کامل از معادله حذف کند، بسیاری از کسانی را که نمی‌خواهند سناریوهای آخرالزمانی فیلم‌ها در دنیای واقعی تحقق یابد، وحشت‌زده میکند.
خودکار در برابر خودمختار
باید تفاوتی میان دو اصطلاح «خودکار» و «خودمختار» قائل شد. اگر ما کنترل یک پهپاد را در دست داشته باشیم، آن پهپاد «خودکار» است. اما اگر پهپاد به‌گونه‌ای برنامه‌ریزی شده باشد که بر اساس تشخیص و ابتکار خود عمل کند، آن را «خودمختار» می‌نامیم. بااین‌حال، وقتی از سلاح خودمختار صحبت می‌شود، منظور دقیقاً چیست؟ آیا منظور خود سلاح (مثلاً یک موشک نصب‌شده روی پهپاد) است یا خود پهپاد؟ برای نمونه، پهپاد نظامی «گلوبال‌هاوک» را در نظر بگیرید. این پهپاد تا زمانی که از سوی یک اپراتور زمینی کنترل می‌شود، خودکار است. اما اگر ارتباطش با مرکز کنترل قطع شود، می‌تواند به‌تنهایی فرود بیاید. آیا این ویژگی آن را خودکار می‌سازد یا خودمختار؟ یا هر دو؟
مهم‌ترین پرسش در این زمینه آن است که آیا سامانه موردنظر در دسته سامانه‌های ایمنی - حیاتی قرار می‌گیرد یا نه؟ به بیان دیگر، آیا سامانه توان تصمیم‌گیری برای استفاده از یک سلاح علیه هدفی مشخص، بدون دخالت انسان را دارد؟ برای مثال، ممکن است پهپادی بتواند به طور مستقل به یک هدف نظامی ثابت - مانند یک پایگاه دشمن - حمله کند، اما نه به یک هدف انسانی؛ زیرا احتمال تلفات غیرنظامی به‌عنوان خسارت جانبی، بسیار بالاست. بسیاری از کشورها در حال توسعه پهپادهایی هستند که قادرند در چنین مواردی به‌صورت مستقل و با تکیه بر تصویرسازی زنده، تصمیم‌گیری کنند؛ اما در مورد اهداف انسانی هنوز تصمیم‌گیری نهایی در اختیار انسان باقی مانده است.
پهپادها تنها سلاح‌هایی نیستند که می‌توانند به طور خودمختار عمل کنند. کشورهای آمریکا، چین و چند کشور اروپایی درحال‌توسعه سامانه‌های نظامی هستند که می‌توانند در هوا، زمین، دریا و زیر آب با درجاتی از موفقیت، به‌صورت خودمختار عمل کنند. چندین نوع هلیکوپتر خودمختار در حال طراحی هستند که بتوان آنها را با یک تلفن هوشمند توسط سرباز هدایت کرد. خودروهای زمینی خودمختار مانند تانک‌ها و خودروهای حمل‌ونقل و همچنین وسایل نقلیه زیرآبی خودمختار نیز در دست توسعه‌اند. بااین‌حال، در تقریباً تمام موارد، نهادهایی که این فناوری‌ها را توسعه می‌دهند، هنوز در عبور از مرحله آزمایشگاهی به مرحله بهره‌برداری عملیاتی دچار دشواری هستند. دلایل زیادی از جمله هزینه بالا و مشکلات فنی پیش‌بینی‌نشده برای این ناکامی‌ها وجود دارد، اما موانع سازمانی و فرهنگی نیز به همان اندازه چالش‌برانگیزند. به‌عنوان نمونه، ایالات متحده در عملیاتی‌کردن پهپادهای خودمختار به دلیل کشمکش‌های درون‌سازمانی و ترجیح سنتی به استفاده از هواپیماهای سرنشین‌دار با مشکل مواجه شده است.
جنگ شناختی می‌تواند نه‌تنها ادراک افراد از پیرامونشان، بلکه تصمیم‌گیری آنها را نیز دستخوش تغییر کند.
سرباز مهم آینده
در میدان نبرد آینده، ممکن است سربازان زبده به نمایشگرهای پیشروی چشمی مجهز باشند که حجم عظیمی از اطلاعات را که از طریق ابررایانه‌های قابل‌حمل در کوله‌پشتی آنها گردآوری و توسط موتور هوش مصنوعی پردازش می‌شود، در لحظه در اختیارشان قرار دهد. این داده‌ها به کمک هوش مصنوعی به‌سرعت تحلیل، پالایش و در قالب اطلاعات ضروری به نمایشگر بازگردانده می‌شوند. این تنها یکی از سناریوهای بالقوه‌ای است که مقامات وزارت دفاع ایالات متحده مطرح کرده‌اند.
پنتاگون از مفهومی نسبتاً ساده با عنوان «اپراتور فوق مجهز» [5] استقبال کرده است. هدف از این مفهوم، آن است که نیروهای ویژه در میدان نبرد به برتری شناختی یعنی توانایی تسلط بر موقعیت از طریق تصمیم‌گیری آگاهانه با سرعتی بیشتر از دشمن دست یابند. به بیان دیگر، این نیروها می‌توانند تصمیماتی سریع‌تر و دقیق‌تر از دشمن بگیرند؛ چراکه اطلاعات مربوطه را سریع‌تر و بهتر پردازش می‌کنند. مدل تصمیم‌گیری نظامی برای این منظور، چرخه‌ای موسوم به «OODA» [6] است: مشاهده، جهت‌گیری، تصمیم‌گیری، اقدام. این چرخه به کمک رایانه‌هایی انجام خواهد شد که تمام داده‌های مرتبط را دریافت و آنها را از طریق یک رابط کاربری ساده مانند نمایشگر چشمی، به اطلاعات قابل‌اجرا تبدیل می‌کنند. این نمایشگر همچنین دارای سامانه‌ای موسوم به «ترجمه محیط بصری» خواهد بود که ورودی‌های زبانی بیگانه را به‌صورت لحظه‌ای به زبان انگلیسی شفاف تبدیل میکند. این سامانه که «وی تا» نام دارد، هم شامل قابلیت ترجمه محیط بصری و هم ترجمه صوت به صوت است. موتور ترجمه «وی تا» به کاربر امکان می‌دهد که در گفت‌وگوهایی مؤثر شرکت کند که پیش از آن ممکن نبود.
سامانه‌های هوش مصنوعی دشمن
کارشناسان نظامی، حملات دشمن به سامانه‌های هوش مصنوعی را به چهار دسته تقسیم می‌کنند: گریز، استنتاج، مسموم‌سازی و استخراج. اجرای این نوع حملات نسبتاً آسان است و اغلب به مهارت‌های پیچیده رایانه‌ای نیاز ندارد.
در حملات «گریز»، دشمن تلاش میکند سامانه‌های تسلیحاتی مبتنی بر هوش مصنوعی را فریب دهد تا شناسایی نشود. برای نمونه، پنهان‌کردن یک حمله سایبری یا متقاعدکردن یک حسگر به اینکه یک تانک، در واقع یک اتوبوس مدرسه است. برای این کار ممکن است نوعی «استتار هوش مصنوعی» جدید طراحی شود؛ مانند استفاده استراتژیک از نوارچسب‌هایی که بتوانند الگوریتم‌های دید رایانه‌ای را گمراه کنند. در حملات «استنتاجی»، دشمن با جمع‌آوری اطلاعات درباره سازوکار داخلی سامانه هوش مصنوعی، شرایط لازم برای به‌کارگیری تکنیک‌های گریز را فراهم میکند.
حملات «مسموم‌سازی» نیز سامانه هوش مصنوعی را در مرحله آموزش با دخالت در داده‌هایی که این سامانه‌ها برای یادگیری استفاده می‌کنند، هدف قرار می‌دهند. برای نمونه، تصاویر وسایل نقلیه به‌گونه‌ای نادرست برچسب‌گذاری می‌شوند تا سامانه هدف‌گیری فریب بخورد یا داده‌های تعمیر و نگهداری به شکلی دست‌کاری می‌شوند که نقص فنی قریب‌الوقوع به‌صورت یک عملیات عادی طبقه‌بندی شود.
در حملات «استخراجی»، مهاجم با دسترسی به رابط سامانه هوش مصنوعی، آن‌قدر درباره سازوکار آن می‌آموزد تا یک مدل موازی بسازد. اگر سامانه‌های هوش مصنوعی از دسترسی غیرمجاز محافظت نشوند، دشمن می‌تواند پیش‌بینی کند که این سامانه‌ها در موقعیت‌های خاص، چه تصمیمی خواهند گرفت و سپس آن پیش‌بینی‌ها را برای تغییر مسیر یا عملکرد سامانه به کار گیرد. برای مثال، می‌توان واکنش یک سامانه کنترل‌شده با هوش مصنوعی را به محرک‌های دیداری یا الکترومغناطیسی خاص، پیش‌بینی و از آن برای فریب سامانه بهره برد.
حدود ۷ هزار تحلیلگر در آژانس امنیت ملی آمریکا (NSA) در تلاش‌اند هوش مصنوعی را در برنامه‌های عملیاتی خود ادغام کنند.
حملات فریبنده به‌ویژه در سال‌های اخیر شایع‌تر شده‌اند. برای مثال، الگوریتم‌های دسته‌بندی تصویر در برخی موارد با تصاویری روبه‌رو شده‌اند که عملاً وجود خارجی نداشته‌اند و در نتیجه، مفاهیم تصویری را اشتباه تفسیر کرده‌اند؛ مانند اشتباه‌گرفتن تصویر یک لاک‌پشت با یک تفنگ. به طور مشابه، ممکن است اتومبیل‌های خودران با استفاده از علائم تغییر داده شده، به سمت اشتباه منحرف شوند یا بدون توقف از چراغ ایست عبور کنند.
در سال ۲۰۱۹، چین از استراتژی نظامی جدیدی به نام «جنگ هوشمند» [7] رونمایی کرد که مبتنی بر هوش مصنوعی است. مقامات ارتش چین اعلام کرده‌اند که با بهره‌گیری از هوش مصنوعی می‌توانند از نظر قدرت نظامی از آمریکا پیشی بگیرند. یکی از اهداف این راهبرد، بازگرداندن تایوان به کنترل چین بدون توسل به جنگ متعارف است. با وجود این، تنها تعداد محدودی از مطالعات چینی در حوزه «جنگ هوشمند» بر جایگزینی سلاح با هوش مصنوعی تمرکز داشته‌اند. در مقابل، استراتژیست‌های چینی آشکارا از هدف خود برای کنترل مستقیم اراده دشمن شامل رئیس‌جمهور ایالات متحده، اعضای کنگره، فرماندهان عملیاتی و حتی شهروندان عادی سخن گفته‌اند. این مفهوم که «چیرگی اطلاعاتی» یا همان جنگ شناختی نامیده می‌شود، در واقع تلاش برای کنترل مغز دشمن است و حوزه‌ای کاملاً متفاوت از رویکردهای متعارف غربی نسبت به هوش مصنوعی محسوب می‌شود. به گزارش وزارت دفاع آمریکا در سال ۲۰۲۲ درباره تحولات نظامی چین، ارتش آزادی‌بخش خلق چین در حال آموزش و تجهیز نیروها برای استفاده از حسگرهای هوش مصنوعی و شبکه‌های رایانه‌ای است تا در زمان کوتاه، آسیب‌پذیری‌های کلیدی در سامانه عملیاتی آمریکا را شناسایی کرده و با تجمیع نیروها از حوزه‌های مختلف، حملات دقیقی را علیه آن نقاط ضعف ترتیب دهد. جنگ شناختی می‌تواند نه‌تنها ادراک افراد از پیرامونشان، بلکه تصمیم‌گیری آنها را نیز دستخوش تغییر کند. برای ارتش چین، این نوع جنگ در کنار حوزه‌های سنتی - هوا، زمین و دریا - یک میدان نبرد تمام‌عیار محسوب می‌شود. از این منظر، رسانه‌های اجتماعی به‌عنوان یک میدان نبرد کلیدی دیده می‌شوند.
روسیه نیز درحال‌توسعه ظرفیت‌های هوش مصنوعی خود است. از سال ۲۰۱۴، این کشور «مرکز ملی فرماندهی دفاعی» را در مسکو راه‌اندازی کرده است که یک مقر فرماندهی متمرکز برای ارزیابی و پاسخگویی به تهدیدات جهانی محسوب می‌شود. این مرکز، اطلاعات مربوط به تحرکات دشمن را از منابع مختلف گردآوری و به فرماندهان ارشد برای تصمیم‌گیری ارائه می‌دهد. روسیه اعلام کرده است که در آینده، سامانه‌ای مبتنی بر هوش مصنوعی خواهد ساخت که توانایی اداره جهان را داشته باشد. در جنگ اوکراین، روس‌ها با بهره‌گیری از هوش مصنوعی اقدام به اخلال در سیگنال‌های بی‌سیم ارتباطی میان پهپادهای اوکراینی و ماهواره‌های ناوبری کرده‌اند تا این پهپادها دچار خطا شوند و سقوط کنند.
همچنین وزارت دفاع روسیه در حال بررسی راه‌های استفاده از سامانه‌های بدون سرنشین مبتنی بر هوش مصنوعی در سه حوزه هوا، دریا و زمین است. درعین‌حال، در کوتاه‌مدت، سیاست رسمی روسیه بر حفظ حضور انسانی در چرخه تصمیم‌گیری تأکید دارد. به‌موازات این فعالیت‌ها، روس‌ها در تلاش‌اند قابلیت‌های پهپادی خود را با کمک هوش مصنوعی در زمینه فرماندهی، کنترل و ارتباطات ارتقا دهند. وزارت دفاع این کشور، استفاده از هوش مصنوعی را برای گردآوری و تحلیل داده‌ها، ادامه منطقی مسیر پیشرفت از فناوری‌های «دیجیتال» امروزی به فناوری‌های آینده‌نگر نظامی تلقی میکند.
کلاغ خبرچین در جنگ افغانستان
استفاده از هوش مصنوعی در میدان نبرد توسط نهادهای اطلاعاتی آمریکا - هرچند کوتاه‌مدت - نتایج امیدوارکننده‌ای به همراه داشت. «کلاغ خبرچین» [8] - ابزاری مبتنی بر هوش مصنوعی که در سال ۲۰۱۹ توسط گروهی از افسران اطلاعاتی آمریکایی با همکاری متخصصانی از «سیلیکون‌ولی» توسعه یافت - با هدف پیش‌بینی حملات شورشیان در افغانستان طراحی شده بود. این اقدام در مقطعی انجام گرفت که پایگاه‌های آمریکایی در حال تعطیلی، تعداد نیروها در حال کاهش و منابع اطلاعاتی در حال پراکنده شدن بود. سرهنگ «توماس اسپار» [9] - رئیس ستاد مأموریت اطلاعاتی در عملیات «حمایت قاطع» ناتو در کابل از ژوئیه ۲۰۱۹ تا ژوئیه ۲۰۲۰ - می‌گوید: «ما متوجه شدیم افزایش تعداد ماهواره‌های تجاری، در دسترس بودن گزارش‌های خبری در اینترنت، گسترش پست‌های رسانه‌های اجتماعی و پیام‌رسان‌هایی با عضویت میلیونی، فرصتی منحصربه‌فرد فراهم کرده است.»
این سامانه همچنین از الگوهای تاریخی فعالیت شورشیان در افغانستان در طول ۴۰ سال گذشته از جمله دوران اشغال این کشور توسط شوروی در دهه ۱۹۸۰ بهره می‌برد. علاوه بر این، عوامل محیطی نیز در تحلیل‌ها دخیل بودند. اسپار توضیح می‌دهد: «شورشیان معمولاً در روزهای خاصی از سال یا در تعطیلات یا در شرایط جوی مشخصی حمله می‌کنند. زیبایی کار با هوش مصنوعی این بود که این الگو دائماً به‌روزرسانی می‌شد. این الگوریتم با جذب داده‌های بیشتر، پیوسته یاد می‌گرفت.»
تا پیش از توقف عملیات در سال ۲۰۲۱ (هم‌زمان با خروج آمریکا از افغانستان)، «کلاغ خبرچین» توانسته بود کارایی خود را اثبات کند. این ابزار در پیش‌بینی حملات شورشیان دقتی در حدود ۷۰ درصد از خود نشان داده بود. به گفته اسپار، این سامانه تشخیص داده بود که حملات معمولاً در شرایط زیر بیشتر محتمل‌اند: دمای بالای ۴ درجه سانتی‌گراد، روشنایی ماه کمتر از ۳۰ درصد و عدم بارندگی. اسپار از عملکرد این ابزار رضایت داشت و گفت: «ما ثابت کردیم که اطلاعات تولیدشده توسط منابع تجاری و طبقه‌نشده هم می‌تواند به اطلاعات پیش‌بینی‌پذیر تبدیل شود.»
اوکراین، میدان آزمایش هوش مصنوعی
از زمان آغاز تهاجم روسیه در سال ۲۰۲۲، اوکراین به میدانی برای آزمایش هوش مصنوعی در جنگ تبدیل شده است. در برابر ارتشی که از نظر تجهیزات و نفرات برتری دارد، نیروهای اوکراینی با استفاده از ابزارهای در دسترس دست به ابتکار زده‌اند و سلاح‌هایی خودکار و مرگبار ساخته‌اند. ازسوی‌دیگر، روس‌ها نیز از هوش مصنوعی از جمله در حملات سایبری و اختلال در سیستم‌های جی‌پی‌اس. بهره برده‌اند. برای مثال، کوادکوپترهای «ساکر اسکات» [10] ساخت اوکراین قادرند به طور مستقل ۶۴ نوع از اهداف نظامی روسیه را شناسایی کنند و مورد حمله قرار دهند. این پهپادها برخلاف سایر نمونه‌هایی که اوکراینی‌ها به کار برده‌اند، در برابر جنگ الکترونیک و اختلال روسیه مقاوم هستند.
نیروهای اوکراینی توانسته‌اند با استفاده از رایانه‌های کوچک و کُدهایی که در اینترنت در دسترس هستند، ربات‌های کشنده جدیدی بسازند. جدای از پهپادهایی که حتی با تلفن همراه هم کنترل می‌شوند، آنها برجی مجهز به سلاح خودکار طراحی کرده‌اند که با همان کنترلر پلی‌استیشن یا تبلت، قابل هدایت است. پهپادهای رایج در اوکراین که گاهی شبیه به نمونه‌های موجود در فروشگاه‌هایی مانند «والمارت» هستند، پهپادهای نمای اول (FPV) نام دارند. این پهپادها که دارای چهار ملخ و یک دوربین هستند، با سرعتی تا ۱۶۰ کیلومتر در ساعت پرواز می‌کنند و تصاویر زنده‌ای را برای کاربر می‌فرستند. با نصب بمب، آنها به سلاحی مؤثر تبدیل می‌شوند که حتی توانایی نابودی یک تانک را دارند. قیمت پایین آنها نیز چشمگیر است. برخی از این پهپادها تنها با ۴۰۰ دلار توسط شرکت‌ها به فروش می‌رسند ولی می‌توانند یک تانک چند میلیون دلاری را نابود کنند.
درست مانند رفتار هماهنگ مورچه‌ها در طبیعت، سربازهای پهپادی خودکار نیز می‌توانند به شکل جمعی عمل کنند. حتی اگر چندین دستگاه منهدم یا ارتباطشان قطع شود، بقیه همچنان بدون نیاز به انسان در حلقه تصمیم‌گیری، مأموریت را ادامه می‌دهند. اگرچه در حال حاضر انسان همچنان در حلقه تصمیم‌گیری باقی مانده، اما این سلاح‌ها به‌راحتی می‌توانند به حالتی کاملاً خودمختار تبدیل شوند؛ یعنی بدون دخالت انسان، خودشان تصمیم بگیرند که چه هدفی را بزنند.
«پی. دبلیو. سینگر» [11] - تحلیلگر جنگ و فناوری - می‌گوید: «در شرکت‌های بزرگ دفاعی، اتفاقات هیجان‌انگیزی در حال رخ‌دادن است. در شرکت‌های بزرگ فناوری در سیلیکون‌ولی نیز اتفاقات مهمی در حال وقوع است. در استارتاپ‌های کوچک نیز نوآوری‌های شگفت‌انگیزی شکل گرفته‌اند.» یکی از این استارتاپ‌ها «اندوریل» [12] است که توسط «پالمر لاکی» [13] - مخترع هدست واقعیت مجازی اکولوس [14] - در سال ۲۰۱۷ تأسیس شد. او پس از فروش «اکولوس» به فیس‌بوک، شرکت «اندرویل» را با هدف تولید سلاح‌های مبتنی بر هوش مصنوعی بنیان گذاشت. لاکی می‌گوید: «اوکراین محیطی بسیار چالش‌برانگیز برای یادگیری است... گفته شده که هر پهپاد در میدان جنگ، عمر مفید حدوداً چهارهفته‌ای دارد. مسئله این است که آیا می‌توانی با سرعت پاسخ بدهی و خودت را تطبیق بدهی؟» اندرویل که نامش از شمشیری در ارباب حلقه‌ها گرفته شده است، دستگاه‌های خود را به ده کشور - از جمله آمریکا - فروخته است.
پهپاد اصلی این شرکت تحت عنوان «آلتیوس» [15] مانند یک موشک از درون لوله پرتاب می‌شود، بال‌ها و دم خود را باز میکند و مانند یک هواپیما پرواز میکند و قابلیت حمل کلاهکی ۳۰ پوندی دارد. به باور «لاکی» این روش باعث می‌شود سلاح‌های هوش مصنوعی سریع‌تر، ارزان‌تر و مؤثرتر از شرکت‌های سنتی دفاعی مانند «مک‌دانل داگلاس» تولید شوند. شرکت «اندرویل» همچنین در حال ساخت یک شهپاد زیرآبی برای گشت‌زنی در اعماق دریا است. این شهپاد خودران قادر است تا عمق ۶۰۰۰ متری (تقریباً ته همه اقیانوس‌ها) برود و مسیرهای طولانی را طی کند.
هوش مصنوعی در جنگ غزه
وضعیت ژئوپلیتیک جهان، توافق بین کشورها در زمینه هوش مصنوعی را غیرممکن میکند. این سلاح‌ها استفاده خواهند شد و در زرادخانه نظامی تقریباً همه کشورها جای خواهند گرفت.
در جریان تهاجم به غزه، ارتش اسرائیل (IDF) به طور فزاینده‌ای به برنامه‌ای متکی شده است که با پشتیبانی هوش مصنوعی به شناسایی و هدف‌گیری نیروهای حماس می‌پردازد. این اقدام اسرائیل، پیامدهای بحث برانگیزی داشته است. طبق گزارشی که در آوریل ۲۰۲۴ توسط مجله اسرائیلی انگلیسی‌زبان «+972» و سایت عبری «لوکال کال» [16] منتشر شد، ارتش اسرائیل از برنامه‌ای به نام «لاوندر» [17] استفاده میکند که چنان در عملیات نظامی این ارتش نقش محوری پیدا کرده که مسئولان اطلاعاتی، خروجی‌های این سیستم را همچون تصمیم انسانی تلقی کرده‌اند.
«لاوندر» توسط یگان نخبه اطلاعاتی ۸۲۰۰ اسرائیل طراحی شده است. این یگان، معادل آژانس امنیت ملی ایالات متحده (NSA) یا ستاد ارتباطات دولتی بریتانیا (GCHQ) است. دولت اسرائیل از این فناوری به‌عنوان ابزاری کارآمد و مؤثر دفاع کرده است. به گفته «ماگدا پاخولسکا» [18] - پژوهشگر و متخصص حقوق جنگ در ارتباط با فناوری‌های نوظهور - «ارتش اسرائیل از هوش مصنوعی برای تقویت فرآیند تصمیم‌گیری انسانی استفاده میکند. این استفاده مطابق با قوانین بین‌المللی بشردوستانه است؛ قوانینی که از زمان ۱۱ سپتامبر در بسیاری از جنگ‌های نامتقارن به کار رفته‌اند.»
برای توسعه «لاوندر»، داده‌هایی از بیش از ۲.۳ میلیون ساکن نوار غزه جمع‌آوری شده است؛ منطقه‌ای که پیش از تهاجم سال ۲۰۲۳ تحت نظارت شدید قرار داشت. بر اساس گزارش‌ها، حدود ۳۷ هزار فلسطینی به‌عنوان مظنون عضویت در گروه‌های مسلح شناسایی شدند و در فهرست‌های ترور قرار گرفتند. این فهرست‌ها پیش از تهاجم اسرائیل به غزه و در پاسخ به حمله حماس در ۷ اکتبر ۲۰۲۳ - که منجر به کشته‌شدن حدود ۱۲۰۰ نفر و ربوده شدن حدود ۲۵۰ نفر شد - آماده شده بودند.
در کنار «لاوندر»، یک سامانه هوش مصنوعی دیگر با عنوان «پدر کجاست؟» [19] نیز طراحی شده بود که وظیفه ردیابی حرکات افراد حاضر در فهرست «لاوندر» را بر عهده داشت. منابعی که با +۹۷۲ گفت‌وگو کرده‌اند، می‌گویند در ابتدا هیچ الزامی برای بررسی دقیق چرایی انتخاب اهداف توسط سیستم یا بررسی داده‌های خام اطلاعاتی وجود نداشت. مقامات اطلاعاتی، صرفاً مهر تأییدی بر تصمیم‌های سیستم می‌زدند. یکی از افسران اطلاعاتی به +۹۷۲ گفته است: «در این مرحله، برای هر هدف فقط حدود ۲۰ ثانیه وقت می‌گذاشتم و روزانه ده‌ها مورد را بررسی می‌کردم. هیچ ارزش افزوده‌ای به‌عنوان انسان نداشتم، جز اینکه مهر تأیید بزنم. ما زمان زیادی را صرفه‌جویی می‌کردیم.»
بر اساس گزارش‌ها، لاوندر در ۱۰ درصد از موارد دچار خطا می‌شد. یعنی شماری از کسانی که به‌عنوان اهداف شناسایی شده بودند، هیچ ارتباطی با حماس یا گروه‌های شبه‌نظامی دیگر نداشتند. از آنجا که حملات اغلب در شب انجام می‌شدند - زمانی که افراد معمولاً در خانه حضور داشتند - احتمال کشته یا زخمی‌شدن اعضای خانواده و همسایگان هدف بالا بود. هر فرد در این سیستم با نمره‌ای از ۱ تا ۱۰۰ ارزیابی می‌شد که نشان می‌داد تا چه میزان به شاخه نظامی حماس یا جهاد اسلامی وابسته است. افرادی با نمره بالا، بی‌هیچ بررسی انسانی جدی، به همراه اطرافیان خود، هدف حمله قرار می‌گرفتند. یکی از افسران اسرائیلی که از لاوندر استفاده کرده گفته است: «چنین چیزی را در عمرم ندیده‌ام. همه ما در ۷ اکتبر عزیزانی را از دست دادیم. اما ماشین با سردی تصمیم می‌گرفت و همین تصمیم‌گیری سرد، کار را برایمان آسان‌تر می‌کرد. همکارانم بیشتر از یک سرباز داغ‌دیده، به سازوکار آماری اعتماد داشتند.»
پیش‌تر نیز ارتش اسرائیل از سامانه هوش مصنوعی دیگری به نام «انجیل» [20] استفاده کرده بود. طبق تحقیقات قبلی +۹۷۲ و نیز منابع رسمی ارتش، این سیستم برای شناسایی ساختمان‌ها و زیرساخت‌های مرتبط با حماس به کار رفته است. «انجیل» با تحلیل میلیون‌ها داده اطلاعاتی، فهرست‌هایی از اهداف آن هم بیش از ۵۰ برابر سریع‌تر از گروهی متشکل از افسران اطلاعاتی انسانی تهیه میکند. در دو ماه نخست جنگ غزه، «انجیل» به شناسایی و حمله به روزانه ۱۰۰ هدف کمک کرده بود؛ آماری حدوداً پنج برابر بیشتر از درگیری‌های مشابه در یک دهه قبل. اهدافی که دارای اهمیت سیاسی یا نظامی برای حماس بودند، در طبقه‌بندی ارتش به‌عنوان «اهداف مهم» شناخته می‌شوند.
ضعف‌های تسلیحات مبتنی بر هوش مصنوعی
اگر یک سلاح مجهز به هوش مصنوعی خودمختار باشد، باید توانایی ادراک دقیقی داشته باشد. یعنی اگر چنین سیستمی یک خودروی غیرنظامی را با هدفی نظامی اشتباه بگیرد، سرعت واکنش آن بی‌اهمیت است؛ چون در هر صورت، غیرنظامیان در خودرو کشته می‌شوند. البته در بسیاری از موارد، سیستم‌های هوش مصنوعی در ادراک موفق عمل کرده‌اند؛ چرا که الگوریتم‌ها و ماشین‌های مجهز به هوش مصنوعی به مرور پالایش‌یافته‌تر شده‌اند. برای نمونه، هنگامی که ارتش روسیه آزمایشی با ۸۰ پهپاد، همراه با یک سامانه تصویربرداری یکپارچه را به طور هم‌زمان بر فراز میدان‌های نبرد سوریه اجرا کرد، وزیر دفاع وقت روسیه - «سرگئی شویگو» - آن را به فیلمی علمی - تخیلی تشبیه کرد که می‌تواند تمام اهداف احتمالی را آشکار کند.
اما مشکلات نیز می‌توانند پدیدار شوند. طراحی یک سلاح مبتنی بر هوش مصنوعی، نخست نیازمند داده‌های آموزشی است. اغلب سیستم‌های هوش مصنوعی با داده‌هایی آموزش می‌بینند که توسط یک سیستم خبره یا معمولاً یک انسان متخصص برچسب‌گذاری شده‌اند. (برای مثال، صحنه‌هایی که شامل یک سامانه پدافند هوایی‌اند). ولی عملکرد چنین سیستم‌هایی در شرایطی که تصاویر از محیط آموزش متفاوت باشند، به‌شدت افت میکند. برای مثال، تصاویری که در شرایط نوری نامناسب گرفته شده‌اند، از زاویه‌ای غیرمعمول ثبت شده‌اند یا بخشی از آنها پوشیده است، شاید برای سیستم قابل‌تشخیص نباشد. سامانه‌های شناسایی مبتنی بر هوش مصنوعی، واقعاً نمی‌فهمند که تصویر چیست؛ بلکه بافت‌ها و گرادینت‌های پیکسلی تصویر را یاد می‌گیرند. این بدان معناست که یک سیستم هوش مصنوعی ممکن است تنها بخشی از تصویر را به‌درستی شناسایی کند، نه کل آن را که این می‌تواند به طبقه‌بندی نادرستی منجر شود.
برای مقابله با این مشکل، مهندسان به سراغ «آموزش خصمانه» [21] می‌روند. در این روش، تصاویر فریبنده به سیستم داده می‌شود تا بیاموزد آنها را نادیده بگیرد و به اشتباه آنها را هدف نگیرد. اما حتی این راهکار نیز کامل نیست. به گفته «نیکولا پاپرنو» [22] - پژوهشگر دانشگاه ایالتی پنسیلوانیا - اگر تعداد تصاویر بسیار زیاد باشد، حتی سیستم آموزش‌دیده نیز می‌تواند از کار بیفتد. تصاویر فریبنده معمولاً بر اساس پدیده‌ای به نام «مرز تصمیم‌گیری» [23] طراحی می‌شوند. این مرزها، قوانینی نامرئی هستند که به سیستم می‌گویند تصویر پیش رو یک شیر یا یک پلنگ است. اگر داده‌ها را به‌صورت خوشه‌هایی در فضای ذهنی تصور کنیم، این مرزها همان خطوطی هستند که دو خوشه را از هم جدا می‌کنند. اما به گفته «جف کلون» [24] که در زمینه آموزش خصمانه پژوهش کرده است، این طبقه‌بندی‌ها بیش از حد سطحی هستند. او می‌گوید: «تمام کاری که با این شبکه‌ها می‌کنیم این است که یادشان می‌دهیم بین خوشه‌های داده خط بکشند، نه اینکه واقعاً بفهمند شیر یا پلنگ بودن یعنی چه.»
علاوه بر این، تهیه داده‌های آموزشی نیز یک چالش جدی است. بسیاری از پایگاه‌های داده بزرگ توسط شرکت‌هایی گردآوری می‌شوند که از روش‌های دستی بهره می‌گیرند. به‌ویژه در حوزه نظامی، محرمانگی اطلاعات مانع از اشتراک‌گذاری داده‌ها می‌شود. برای مثال، ممکن است یک مجموعه شامل تصاویر حرارتی باشد، اما اگر توسعه‌دهندگان به آنها دسترسی نداشته باشند، کارایی سلاح هوشمند کاهش می‌یابد.
مشکل دیگر، ناتوانی سیستم‌های هوش مصنوعی در «چندوظیفگی» است. یک انسان می‌تواند یک خودروی دشمن را شناسایی کند، تصمیم بگیرد از چه سلاحی استفاده کند، مسیر حرکت آن را پیش‌بینی کرده و سپس اقدام به شلیک کند. اما یک سیستم هوش مصنوعی، توان انجام این زنجیره اقدامات را ندارد. حتی سیستمی که برای شناسایی تانک «تی -۹۰» آموزش دیده، احتمالاً قادر به شناسایی تانک چینی مدل ۹۹ نخواهد بود؛ اگرچه هر دو تانک بوده و هر دو نیازمند تشخیص تصویری هستند. پژوهشگران تلاش دارند تا با توسعه قابلیت انتقال یادگیری، این مشکل را رفع کنند؛ اما این فناوری‌ها هنوز سال‌ها با کاربرد میدانی فاصله دارند. دشمنان تلاش خواهند کرد تا با فریب‌دادن سیستم‌های تشخیص تصویر و حسگرها، از این ضعف‌ها سوءاستفاده کنند. آنها ممکن است با حملات سایبری به سیستم‌های شناسایی نفوذ کنند یا داده‌هایی تحریف‌شده به سیستم‌های هوش مصنوعی وارد کنند تا نیازهای اطلاعاتی نادرست را در اختیار آنها بگذارند.
آمادگی آمریکا در زمینه هوش مصنوعی
وزارت دفاع ایالات متحده در طول این سال‌ها بیشتر به قرارداد بستن و ساخت سخت‌افزارهای نظامی تمایل داشته تا به‌کارگیری فناوری‌های نوین. بااین‌حال، نیروی هوایی آمریکا به همراه شرکت‌های «بوئینگ»، «جنرال اتومیکس» و «کراتوس» درحال‌توسعه پهپادهای مجهز به هوش مصنوعی است. آنها همچنین در حال آزمایش هواپیمای بدون سرنشین آزمایشی «ولکری» هستند که توسط هوش مصنوعی هدایت می‌شود. این پهپاد نسل جدید، نمونه اولیه‌ای است که نیروی هوایی امید دارد بتواند مکمل قدرتمندی برای ناوگان جنگنده‌های سنتی باشد. هدف این است که خلبانان انسانی، گله‌ای از همراهان رباتیک بسیار توانمند برای عملیات رزمی داشته باشند. با این وجود، «ولکری» کاملاً خودمختار نیست؛ اگرچه از هوش مصنوعی و حسگرها برای شناسایی و ارزیابی تهدیدات دشمن بهره می‌برد، اما تصمیم نهایی برای حمله به هدف بر عهده خلبانان است.
با وجود اینکه مقامات پنتاگون هنوز سلاح‌های کاملاً خودمختار را به کار نبرده‌اند، اما در حال آزمایش و بهینه‌سازی سلاح‌هایی هستند که نیازی به دخالت انسانی نداشته باشند. نمونه‌ای از این تلاش‌ها، پروژه «همگرایی» [25] ارتش آمریکا است. در یکی از آزمایش‌های این پروژه که در آگوست ۲۰۲۰ در پایگاه «یومای» آریزونا برگزار شد، ارتش از مجموعه‌ای از حسگرهای زمینی و هوایی برای ردیابی نیروهای دشمن شبیه‌سازی شده، استفاده کرد و سپس داده‌ها را با کمک رایانه‌های مجهز به هوش مصنوعی در پایگاهی در واشنگتن پردازش نمود. این رایانه‌ها دستور شلیک به توپخانه‌های زمینی در یومای آریزونا را صادر کردند. گزارش خدمات تحقیقاتی کنگره آمریکا این فرایند را چنین توصیف کرده است: «تمام این فرایند ظاهراً ظرف تنها ۲۰ ثانیه انجام شده است.»
در برنامه‌ای به نام «تکثیرکننده» [26] پنتاگون قصد دارد هزاران پهپاد خودمختار را به تولید انبوه برساند. اما تاکنون هیچ سیاست رسمی‌ای وجود ندارد که استفاده از سلاح‌های کاملاً خودمختار، یعنی دستگاه‌هایی که بدون تأیید انسان تصمیم به حمله بگیرند را تأیید کند. نیروی دریایی آمریکا نیز پروژه‌ای مشابه با «همگرایی» به نام «اورمچ» [27] دارد. به گفته آدمیرال «مایکل گیلدی» [28] - رئیس عملیات نیروی دریایی - هدف پروژه این است که نیروی دریایی را قادر سازد تا با گلوله‌های پر تعداد در دریا عمل کند و اثرات کشنده و غیرکشنده هماهنگ‌شده‌ای را از فاصله‌های نزدیک و دور و در تمام محورها و حوزه‌ها ارائه دهد. اطلاعات بیشتری درباره این پروژه تاکنون منتشر نشده است.
حدود ۷ هزار تحلیلگر در آژانس امنیت ملی آمریکا (NSA) در تلاش‌اند تا هوش مصنوعی را در برنامه‌های عملیاتی خود ادغام کنند. ژنرال «تیموتی هاف» - رئیس قبلی آژانس امنیت ملی آمریکا و فرمانده مرکز فرماندهی سایبری آمریکا - اعلام کرده است که تا سال ۲۰۲۴، این نهاد درگیر ۱۷۰ پروژه هوش مصنوعی بود که ۱۰ مورد آنها برای امنیت ملی حیاتی شمرده می‌شوند. وی می‌گوید: «۱۶۰ پروژه دیگر فرصت‌هایی برای آزمایش، بهره‌برداری و استفاده قانونی را برای افراد فراهم می‌کنند.»
در حال حاضر، هوش مصنوعی همچنان به‌عنوان ابزاری مکمل برای پلتفرم‌های سنتی تلقی می‌شود. در کنار آن، هوش مصنوعی برای چهار نقش مهم دیگر نیز در نظر گرفته شده است: اتوماسیون برنامه‌ریزی و استراتژی؛ ادغام و تفسیر سریع‌تر سیگنال‌ها نسبت به انسان یا سیستم‌های سنتی؛ کمک به سامانه‌های فضایی به‌ویژه در جمع‌آوری و ترکیب اطلاعات برای مقابله با تهدیدات ابرصوتی؛ توانمندسازی نسل بعدی جنگ سایبری و اطلاعاتی.
اخلاق استفاده از هوش مصنوعی در جنگ
خطاها و اشتباهات از جمله پدیده‌ای به نام «توهم‌های الگوریتمی» که نتایج ظاهراً منطقی اما کاملاً اشتباه تولید می‌کنند، در هوش مصنوعی نسبتاً رایج هستند.
هرچند استفاده از سلاح‌های خودمختار، موضوعی بحث‌برانگیز در چند دهه گذشته بوده، اما کمتر کسی انتظار دارد که توافق بین‌المللی جدیدی برای تنظیم قوانین آن شکل بگیرد؛ خصوصاً با توجه به اینکه کشورهایی مانند آمریکا، چین، اسرائیل و روسیه در حال رقابت برای توسعه سلاح‌های پیشرفته‌تر هستند. «الکساندر کمنت» [29] - مذاکره‌کننده ارشد اتریش در سازمان ملل درباره سلاح‌های خودمختار - می‌گوید: «وضعیت ژئوپلیتیک جهان، چنین توافقی را غیرممکن میکند. این سلاح‌ها استفاده خواهند شد و در زرادخانه نظامی تقریباً همه کشورها جای خواهند گرفت.»
بااین‌حال، سازمان «دیده‌بان حقوق بشر» خواستار مذاکره فوری و تصویب یک سند حقوقی الزام‌آور برای ممنوعیت و تنظیم استفاده از سیستم‌های سلاح خودمختار شده است. این سازمان کمپینی به نام «توقف ربات‌های قاتل» را راه‌اندازی کرده که بیش از ۲۷۰ گروه و ۷۰ کشور به آن پیوسته‌اند. اما «برایان شیمپف» [30] - مدیرعامل شرکت سازنده پهپادهای هوش مصنوعی «اندرویل» - دیدگاهی متفاوت دارد و می‌گوید: «سلاح‌های هوش مصنوعی به معنای حذف انسان از فرایند تصمیم‌گیری نیست. فکر نمی‌کنم این چارچوب اخلاقی درست باشد. مسئله اصلی این است که چگونه تصمیم‌گیرندگان انسانی را مؤثرتر و پاسخگوتر کنیم.» با این وجود، سلاح‌های خودمختار مبتنی بر هوش مصنوعی درحال‌توسعه هستند.
فراتر از مسائل اخلاقی درباره واگذاری تصمیمات مرگ و زندگی به ماشین‌ها، خود هوش مصنوعی هم مشکلاتی دارد. خطاها و اشتباهات از جمله پدیده‌ای به نام «توهم‌های الگوریتمی» وجود دارند که نتایج ظاهراً منطقی اما کاملاً اشتباه تولید می‌کنند و اینها در هوش مصنوعی نسبتاً رایج‌اند. این امر می‌تواند پیامدهای عمیقی در به‌کارگیری سلاح‌های هوش مصنوعی داشته باشد که با دستورالعمل‌های ناقص و غیرقابل‌تشخیص برای اپراتورهای انسانی کار می‌کنند. در سناریویی کاملاً نگران‌کننده، دشمن ممکن است به‌جای فرماندهان انسانی، از فرماندهان رباتیک استفاده کند و آمریکا مجبور شود همین کار را انجام دهد که منجر به تقابل غیرقابل‌پیش‌بینی و احتمالاً فاجعه‌آمیز میان سیستم‌های هوش مصنوعی در میدان جنگ شود.
دکتر «الکه شوارتز» [31] از دانشگاه «کوئین مری» لندن، مسئله سلاح‌های هوش مصنوعی را از دیدگاه نظریه‌های علوم سیاسی و تحقیقات تجربی بررسی میکند و معتقد است که استفاده از سلاح‌های مجهز به هوش مصنوعی، انسانیت‌زدایی اهداف جنگی را تسهیل میکند و به همین دلیل، تحمل نسبت به خسارات جانبی افزایش می‌یابد. به گفته او، اتوماسیون می‌تواند عامل اخلاقی را در اپراتورهای سیستم‌های هدف‌گیری هوش مصنوعی تضعیف کند و ظرفیت آنها برای تصمیم‌گیری اخلاقی را کاهش دهد. همچنین ممکن است تمایل به سیستم‌های خودمختار، صنعت دفاعی را به سرمایه‌گذاری بی‌وقفه در حوزه هوش مصنوعی نظامی ترغیب کند و این امر، دیدگاه‌های مربوط به مسئولیت‌پذیری در استفاده از هوش مصنوعی را تحت‌تأثیر قرار دهد. او از سیاست‌گذاران می‌خواهد که قبل از وقوع فجایع، ریسک‌ها را جدی بگیرند. «پیتر سینگر» [32] - استاد دانشگاه ایالتی «آریزونا» و استراتژیست و عضو ارشد مرکز پژوهشی «نیو آمریکا» - تحولات هوش مصنوعی در جنگ را با انقلاب صنعتی مقایسه میکند. او می‌گوید: «اثر هوش مصنوعی بسیار فراتر از ماشین‌های جنگی و هواپیماست. بیشتر شبیه به انتقال از نیروی عضلانی به قدرت ماشین در انقلاب صنعتی است.» این تحول، پرسش‌های جدیدی درباره درست و نادرست ایجاد کرده که پیش‌تر با آنها مواجه نبودیم. او خواستار ایجاد «چارچوب‌هایی برای تنظیم استفاده از هوش مصنوعی در جنگ» است که باید شامل همه افرادی باشد که در طراحی و کاربرد آن نقش دارند.
یکی از مسائلی که سینگر آن را «اجازه‌پذیری ماشین» می‌نامد، این است که ماشین چه کاری می‌تواند بدون کنترل انسانی انجام دهد. مسئله دوم که به گفته او هرگز با آن مواجه نبوده‌ایم، بحث پاسخگویی ماشین است؛ اگر اتفاقی بیفتد، چه کسی مسئول است درحالی‌که ماشین اقدام کرده؟ این مسئله در مورد خودروهای عادی قابل‌فهم است، اما برای خودروهای خودران پیچیده‌تر است. در میدان جنگ، آیا دستگاه، مسئول اشتباه در شناسایی هدف یا کشته‌شدن غیرنظامیان خواهد بود؟
https://www.counterpunch.org/2025/05/16/the-rise-of-ai-warfare-how-autonomous-weapons-and-cognitive-warfare-are-reshaping-global-military-strategy/
[1] . Leslie Alan Horvitz
[2] . War Games
[3] . Amir Husain
[4] . SparkCognition
[5] . hyper-enabled operator
[6] . Observe, Orient, Decide, Act
[7] . Intelligentized Warfare
[8] . Raven Sentry
[9] . Thomas Spahr
[10] . Saker Scout
[11] . P.W. Singer
[12] . Anduril
[13] . Palmer Luckey
[14] . Oculus
[15] . ALTIUS
[16] . Local Call
[17] . Lavender
[18] . Magda Pacholska
[19] . Where’s Daddy
[20] . The Gospel
[21] . Adversarial training
[22] . Nicolas Papernot
[23] . decision boundary
[24] . Jeff Clune
[25] . Project Convergence
[26] . Replicator
[27] . Overmatch
[28] . Michael Gilday
[29] . Alexander Kmentt
[30] . Brian Schimpf
[31] . Elke Schwarz
[32] . Peter Singer
/انتهای پیام/
