هوش مصنوعی مانند تیغ دو لبه عمل می‌کند
گروه جامعه و اقتصاد «سدید»؛ «جیمز آرویو» [1] مدیر بنیاد «دیچلی» انگلیس [2] که پیش از این یکی از رهبران ارشد تحول دیجیتال در سیاست خارجی و امنیت ملی برای دولت بریتانیا بوده است، در یادداشتی که مجله آمریکایی «Foreign Policy» آن را منتشر کرده است، به فرصت‌ها و تهدیدهایی می‌پردازد که با پیشرفت سریع هوش مصنوعی در مقابل بشریت قرار گرفته است. وی ضمن تأکید بر ضرورت سرمایه‌گذاری در حوزه‌های مختلف هوش مصنوعی، ابراز می‌دارد که باید برای خطراتی که هوش مصنوعی در حوزه‌های مختلف برای دولت‌ها ایجاد می‌کند نیز آماده بود. به گفته وی، تقویت سواد هوش مصنوعی شهروندان در مدارس و دانشگاه‌ها، یکی از ضروریات اصلی سال‌های آینده خواهد بود. در این میان، مدیران ارشد و میانی باید سریعاً درباره قابلیت‌ها و تهدیدات هوش مصنوعی آموزش داده شوند.
ضرورت درک درست از خطرات و مزایای هوش مصنوعی
درباره فناوری هوش مصنوعی (AI) اغلب به خطری اشاره می‌شود مبنی بر این که روزی ممکن است ماشین‌های هوشمندی بسازیم و کنترل آنها از دستمان خارج شده و آنها علیه خود ما اقدام کنند. اما نگرانی‌های مربوط به هوش مصنوعی، تنها به این مورد خلاصه نمی‌شود. درست است که می‌توانیم با هوش مصنوعی آسیب‌های زیادی بزنیم، اما بدون آن نیز ما مشکلی در ایجاد هرج و مرج نداشته‌ایم. بیشتر خطرات کوتاه‌مدت و میان‌مدت هوش مصنوعی به اقدامات مخرب خود انسان بستگی دارد. در مطالعه‌ای که در دانشگاه استنفورد در سال ۲۰۲۱ انجام شد، محققان در مورد خطرات مبرم هوش مصنوعی نوشتند: «این فناوری می‌تواند توسط جنایت‌کاران، دولت‌های سرکش، افراط‌گرایان ایدئولوژیک یا صرفاً گروه‌های ذی‌نفع خاص مورداستفاده قرار گیرد تا از افراد برای کسب منافع اقتصادی یا مزیت سیاسی سوءاستفاده کنند.»
خطرات هوش مصنوعی از سوءاستفاده انسانی برای جرایم سایبری و اخاذی از طریق تصاویر ساختگی و جعل هویت گرفته تا تهدیدات امنیتی دیگر متنوع است.
این درک از خطرات هوش مصنوعی به ما کمک می‌کند تا بهتر بتوانیم امکانات آن را نیز درک کنیم. تنها خواص می‌توانند توقف در وضعیت کنونی توسعه فناوری را به‌عنوان یک گزینه جذاب تصور کنند؛ اما فناوری هوش مصنوعی به‌زودی ممکن است به دورانی برسد که دانش، سریع‌تر از هر زمان دیگری در تاریخ ایجاد شود. بیوتکنولوژی، کاندیدای اصلی برای پیشرفت خواهد بود. دیگر اختراعاتی که از مدت‌ها پیش، وعده آنها داده شده بود، در حال حاضر در حال انجام هستند. برای مثال، تاکسی‌های خودران، اکنون در «فینیکس» و «سانفرانسیسکو» فعال هستند و در شرف آغاز آزمایش‌های آزادراهی هستند. محاسبات کوانتومی نیز در حال پیشرفت است و می‌تواند پیشرفت‌های سریعی به دنبال داشته باشد. ما مدیون کسانی هستیم که کمترین امتیاز را دارند و بیشتر در معرض تهدید تروریسم، جنگ و قحطی هستند تا ما سریع‌تر به‌پیش برویم.
البته تاریخ نشان می‌دهد که چنین قابلیت‌هایی قطعاً مورداستفاده قرار خواهند گرفت. سطوح جدیدی از آنچه که نظامی‌ها به آن نوآوری حساس به شلیک می‌گویند، وجود خواهد داشت که تحلیل داده‌ها برای شناسایی اهداف را انجام می‌دهد و با گذشت زمان، سطوح جدیدی از خودمختاری در به‌کارگیری نیروی نظامی نیز ایجاد خواهد شد. دکترین نظامی کنونی آمریکا در حال حاضر اجازه می‌دهد برای استفاده از فناوری‌های کشنده، یک انسان در حلقه نظارت و نه در حلقه تصمیم‌گیری باشد. یک افسر با رتبه عالی باید مجوز استفاده از یک سلاح خودران را صادر کند و مسئولیت آن را بر عهده بگیرد، اما این سیاست، تصریح می‌کند که زمان کافی برای ارجاع تصمیمات به یک فرآیند ارزیابی و تصمیم‌گیری نسبتاً کند انسانی وجود نخواهد داشت.
تیغ دو لبه
ما مطمئناً باید روی توافق‌های بین‌المللی در زمینه هوش مصنوعی کار کنیم، اما نباید نَفَس خود را در انتظار یک توافق چندجانبه تسلیحات استراتژیک حبس کنیم. این رقابتی که به‌تازگی آغاز شده است، خطر پاره شدن معاهداتی را که ما قبلاً داشته‌ایم، به همراه دارد. در عوض، این لحظه‌ای برای رهبری است. همان‌طور که دریادار «هورشیو نلسون» [3] زمانی گفته بود که اوقاتی وجود دارد که جسورانه‌ترین اقدامات، ایمن‌ترین اقدامات هستند. گاهی اوقات، کار درست این است که هیچ کاری نکنید، فقط صبر کنید و ببینید، یا به آرامی به سمت لبه صخره پیش بروید. در شرایط دیگر، لازم است که بدون اطمینان کامل به اینکه کجا فرود خواهیم آمد، به جلو بپریم. کشورها و شرکت‌هایی که اکنون به سرعت برای درک و سرمایه‌گذاری در قابلیت‌های هوش مصنوعی اقدام می‌کنند، آینده را شکل خواهند داد و رهبری خواهند کرد.
با این حال، این بدان معنا نیست که ما باید بی‌پروا باشیم. همچنان پویایی، شور و نشاط طبیعی و امید به سود، صدها میلیارد دلار سرمایه‌گذاری را در بخش تجاری هوش مصنوعی به همراه خواهد داشت. سرمایه‌گذاری در ایمنی، هنوز عقب‌مانده است و در حال حاضر مؤسسه ایمنی هوش مصنوعی ۱۰۰ میلیون پوندی بریتانیا، بزرگ‌ترین سرمایه‌گذاری انجام‌شده توسط یک دولت محسوب می‌شود. مانند تمام نوآوری‌های قدرتمند، هوش مصنوعی نیز یک شمشیر دو لبه است؛ مثل آتش می‌تواند خانه را بسوزاند یا گرم کند. ما به هر دو نیاز داریم تا به سرعت پیش برویم و خطرات را در حین بروز آنها مدیریت کرده و کاهش دهیم.
ما مطمئناً باید روی توافق‌های بین‌المللی در زمینه هوش مصنوعی کار کنیم، اما نباید نَفَس خود را در انتظار یک توافق چندجانبه تسلیحات استراتژیک حبس کنیم.
خطرات هوش مصنوعی از سوءاستفاده انسانی برای جرایم سایبری و اخاذی از طریق تصاویر ساختگی و جعل هویت گرفته تا تهدیدات امنیتی دیگر متنوع است؛ از تأثیرات منفی غیرمنتظره ناشی از به‌کارگیری هوش مصنوعی در سیستم‌هایی مانند اطلاعات، انرژی و مالی تا خطرات جدی و بنیادین‌تر ناشی از خروج یک سیستم هوش مصنوعی از کنترل و... همه موارد وجود دارد؛ بنابراین باید منابع مالی دولتی و تجاری را برای تأمین مالی تحقیقات در مورد خطرات و توسعه اقدامات محافظتی برای مقابله با تهدیدات تخصیص دهیم. اما بیایید به خطرات وجودی به‌گونه‌ای وسواس پیدا نکنیم که درک تأثیراتی که در این میان بر جامعه و دولت خواهد داشت، مورد غفلت قرار گیرد.
توسعه هوش مصنوعی به دسترسی به سخت‌افزار و دانش فنی مناسب برای راه‌اندازی مراکز داده بستگی دارد. هر دو تقاضای زیاد و عرضه کمی دارند. قابلیت‌های محاسباتی هوش مصنوعی باید به‌عنوان زیرساخت ملی حیاتی، هم برای دولت و هم برای بخش خصوصی دیده شود. انرژی سبز ارزان برای راه‌اندازی این مراکز داده در مقیاس مناسب ضروری خواهد بود و این موضوع، دلیلی دیگر برای تسریع در انتقال به سمت انرژی‌های سبز محسوب می‌شود. برای دستیابی به انرژی سبز ارزان، به منابع فراوانی از مواد معدنی حیاتی که به روش پاک و کم‌هزینه تولید شده‌اند، نیاز داریم که این نیز حوزه‌ای برای تحقیق و سرمایه‌گذاری است.
استعدادهای برتر باید جذب شوند
استعداد به همان اندازه مهم است که سخت‌افزار و انرژی مهم است. برنامه‌های درسی مدارس و دانشگاه‌های ما در مؤسسات مستقر باید با سرعت بیشتری تکامل یابد. ما به دوره‌های جدید و اشکال جدید دسترسی به آموزش پس از متوسطه و آموزش عالی برای بزرگسالان در تمام سنین نیاز خواهیم داشت؛ اما این به‌تنهایی کافی نخواهد بود. درب‌های جهان توسعه‌یافته باید به روی استعدادهای جهانی باز باشد. نه‌تنها با تسهیل مهاجرت برای افرادی که دارای شایستگی‌ها و مهارت‌های مناسب هستند، بلکه همچنین با توسعه مشارکت‌های گسترده و ارائه سخت‌افزارها، پلتفرم‌ها، نرم‌افزارها و راه‌های دسترسی به بازار در اقتصادهای نوظهور در سرتاسر جهان، باید استعدادها را جذب کرد.
چین نباید تنها کشوری باشد که قابلیت‌های هوش مصنوعی سطح متوسط را با قیمت مناسب به جهان نوظهور عرضه می‌کند؛ هم چنان‌که که در مورد 5G چنین بود. غرب همچنین فرصت رهبری در تأمین واکسن به جهان در حال ظهور را در طول همه‌گیری کرونا از دست داد. غرب نباید اشتباهات مشابه را بارهاوبارها تکرار کند، بلکه باید از پیشرفت‌های خود در زمینه هوش مصنوعی استفاده کند تا خود را به‌عنوان رهبر توسعه و اقتصاد محلی معرفی کرده و به کشورها و بخش‌های تجاری آنها کمک کند تا کاربردهای هوش مصنوعی را به زبان خودشان توسعه دهند و به مشکلاتشان رسیدگی کنند.
باید آماده باشیم
در حال حاضر، ما در مرحله «جنگ زرگری» در استقرار هوش مصنوعی هستیم که زیاد حرف زده می‌شود، اما اقدامات محدودی انجام می‌شود. وقتی هوش مصنوعی به اندازة کافی پیشرفت کند که بر سود شرکت‌ها و بودجه‌ها و توانایی‌های دولتی تأثیر بگذارد، آنگاه احتمال دارد که اوضاع به سرعت تغییر کند. تقویت سواد هوش مصنوعی در میان کارگران و شهروندان یک مسئولیت فوری برای دولت‌ها و شرکت‌ها است. نیازی به ایجاد وحشت نیست، اما این هم درست نیست که تأثیر بالقوه هوش مصنوعی را کم‌رنگ کنیم. ما باید افراد را توانمند کنیم تا زمانی که هنوز زمان برای انجام این کار وجود دارد، یاد بگیرند و به جای اینکه منتظر بمانیم تا تغییر به درب‌ها بکوبد، خود را در جایگاه و موقعیت مناسب قرار دهند. در اقتصاد جدید هوش مصنوعی، تقاضای زیادی برای نقش‌ها وجود خواهد داشت و افزایش بهره‌وری به خودی خود منابع جدیدی را برای تأمین مالی اشکال جدید کار ایجاد خواهد کرد؛ اما این نقش‌ها، تنها به افرادی با مهارت‌ها و ذهن مناسب و باز متعلق خواهد بود. یک تغییر صنعتی ناموفق دیگر می‌تواند اعتماد ملی را در دموکراسی‌ها تضعیف کند. ما باید از اکنون آماده شویم.
تقویت سواد هوش مصنوعی در میان عموم مردم و شهروندان، یک مسئولیت فوری برای دولت‌ها و شرکت‌ها است.
گروهی از کارمندان که نیاز فوری به آموزش و سواد دارند، کسانی هستند که مسئولیت‌ها را دارند؛ افرادی مانند مدیران ارشد و میانی در صنعت، سیاستمداران، مشاوران سیاسی و کارمندان ارشد دولتی در اولویت هستند. تغییرات در شرکت‌ها به دلیل پویایی بازار به آنها تحمیل خواهد شد. دولت‌ها و خدمات دولتی که ریسک‌گریز هستند، پیاده‌سازی هوش مصنوعی را دشوار خواهند یافت و در معرض خطر عقب‌افتادگی بیشتر از بخش خصوصی از نظر بهره‌وری، پاسخگویی و امکانات قرار دارند که دوباره می‌تواند اعتماد به دولت و خود دموکراسی را تضعیف کند.
ما باید به هوش مصنوعی نه‌تنها به‌عنوان یک ابزار بهره‌وری، بلکه به‌عنوان وسیله‌ای برای ارائه مشارکت و شفافیت بیشتر در تصمیم‌گیری‌های دموکراتیک نگاه کنیم. ما این فرصت را داریم که مشاوره و مشروعیت را در همه سطوح حکومتی - از محلی گرفته تا بین‌المللی - گسترش دهیم و باید از آن استفاده کنیم. برای امنیت ملی، دفاع و سیاست خارجی، توسعه و استقرار سریع قابلیت‌های هوش مصنوعی، به‌اندازه تأمین مهمات جنگی حیاتی خواهد بود.
ما به هوش مصنوعی نیاز خواهیم داشت تا حجم عظیم اطلاعاتی را که مجموعه‌های ماهواره‌ای و پهپادهای ما ارائه می‌دهند، نظارت و تحلیل کند. اگر یک طرف در یک درگیری بتواند تصمیمات زمان جنگ را خیلی سریع‌تر از طرف دیگر بگیرد، این یک مزیت آشکار خواهد بود. در داخل کشور، هوش مصنوعی به ما در پیشبرد تحقیقات در زمینه همجوشی کمک می‌کند؛ اما هوش مصنوعی، برای توسعه تسلیحات هسته‌ای کارآمد و قدرتمند به همان اندازه حیاتی خواهد بود.
از آنجایی که تولید محتوای دیجیتالی هوش مصنوعی شبیه انسان، در کلمات، تصاویر و ویدئوها به طور روزافزونی رایج می‌شود، می‌توانیم انتظار انبوه اطلاعات نادرست و تضعیف حق «کپی‌رایت» را داشته باشیم. دولت‌های مخل سعی خواهند کرد از این قابلیت‌ها برای ایجاد هرج‌ومرج استفاده کنند. در پاسخ، به قابلیت‌های هوش مصنوعی قدرتمند حقیقت‌یاب برای تشخیص حقیقت از دروغ و اصل از بدل و تقلب نیاز خواهیم داشت که با آموزش دیجیتال، بهتر همراه باشد. تهدیدهای سایبری نیز افزایش خواهند یافت. ما برای تقویت دفاع و محافظت از حریم خصوصی خود به هوش مصنوعی نیاز خواهیم داشت. ما به سازوکارهای جبرانی مناسب برای سازندگان محتوای انسانی نیاز خواهیم داشت.
ما به هوش مصنوعی نیاز خواهیم داشت تا حجم عظیم اطلاعاتی را که مجموعه‌های ماهواره‌ای و پهپادهای ما ارائه می‌دهند، نظارت و تحلیل کند.
همان‌طور که قدرت شرکت‌ها و دولت‌ها از طریق فناوری رشد می‌کند، ما باید شهروندان را با دموکراتیزه‌کردن دسترسی به ابزارهای هوش مصنوعی که برای حرکت در دنیایی به‌سرعت در حال تکامل هستند، توانمند کنیم. باید بر روی هوش مصنوعی تأکید کنیم که برای شهروندان کار کند و با آنها همکاری داشته باشد، نه اینکه بر روی آنها به‌عنوان مواد خامی که باید استخراج شوند یا به شکل خاصی درآیند، عمل کند. ما به قوانین، مقررات، قضات و هیئت‌های منصفه آگاه نیاز خواهیم داشت تا اطمینان حاصل کنیم که قدرت مبتنی بر هوش مصنوعی، فساد نمی‌آورد و اقدامات در این زمینه متناسب و منطقی هستند.
هیچ‌کس در «سیلیکون‌ولی» مطمئن نیست که آیا هوش مصنوعی شرکت‌های فعلی را بیشتر تقویت می‌کند یا موج جدیدی از استارت‌آپ‌های موفق را ایجاد می‌کند. ما به هر دو نیاز خواهیم داشت. پلتفرم‌های بزرگ فناوری برای توسعه قابلیت‌هایی که نیازمند منابع عظیم برای کاربردهای دولتی هستند، یا برای ادغام با ابزارهای بهره‌وری که روزانه از آنها استفاده می‌کنیم، بهترین جایگاه را دارند. از طرف دیگر، ما نمی‌خواهیم جهانی داشته باشیم که در آن، پلتفرم‌های اصلی دارای انحصار باشند؛ بنابراین، توسعه جایگزین‌ها و مدل‌های منبع باز هوش مصنوعی، برای نوآوری و توزیع مزایای اقتصادی بیشتر آمریکا، حیاتی است.
ممکن است زودتر از آنچه تصور می‌کنیم، هوش مصنوعی احتمالاً نه‌تنها برای ما و با ما کار خواهد کرد، بلکه همچنین درون ما خواهد بود و به طور مستقیم، به مغزهای ما متصل می‌شود. این امر به ما امکان می‌دهد که به دانش وسیع‌تری دسترسی پیدا کنیم، پاسخ‌هایی را از محاسباتی که خود نمی‌توانستیم درک کنیم، دریافت کنیم و به ما اجازه می‌دهد که ماشین‌ها را برای انجام خواسته‌های خود در دنیای دیجیتال و فیزیکی هدایت کنیم. چندین شرکت و پژوهشگر در حال حاضر روی رابط‌های مستقیم کامپیوتر به مغز کار می‌کنند. این امر، اهمیت سرمایه‌گذاری در ایمنی و آموزش را بیشتر می‌کند. اگر قرار است ماشینی به درون ما نفوذ کرده و در ذهن ما نجوا کند، ما نیاز داریم که حقیقت را به ما بگوید.
آمریکا باید با تسهیل قوانین مهاجرت، استعدادهای برتر را در حوزه هوش مصنوعی جذب کند.
شایان ذکر است که تمام موارد ذکر شده بر اساس پیشرفت در توسعه محدود هوش مصنوعی - به طور اساسی تحلیل‌های پیشرفته بسیار سریع - بوده و نه دستیابی به هوش عمومی پیشرفته؛ چرا که مورد دوم کاملاً داستان دیگری خواهد داشت.
بااین‌وجود، جوامع ما به طور چشمگیری تغییر خواهند کرد. نه فوراً ولی تغییر، گریزناپذیر است. زیرا پیاده‌سازی فناوری‌های جدید در مقیاس بزرگ، دشوار و پرهزینه است، اما قطعاً در طول ۱۰ سال آینده این تغییرات رخ خواهد داد. نگرانی در مورد این موضوع طبیعی و منطقی است. ما در گذشته پاسخ‌ها را نخواهیم یافت. نبوغ انسانی، فرصت دیگری برای حرکت به جلو در اختیار ما قرار داده است. این امر، همچون همیشه، خطرات خاص خود را دارد؛ اما بیایید حداکثر استفاده را از آن در خدمت آزادی و گسترش حقوق کامل انسانی ببریم و فرصت‌های بیشتری را برای درصد بیشتری از بشریت فراهیم کنیم.
[1] . James Arroyo
[2] . Ditchley Foundation
[3] . Horatio Nelson
/ انتهای پیام /
