به گزارش خبرگزاری ایمنا، همزمان با شتاب گرفتن توسعه هوش مصنوعی در صنایع نظامی، بحث بر سر آینده «سلاحهای خودمختار مرگبار» یا همان رباتهای قاتل وارد مرحله تازهای شده است.
این سامانهها که میتوانند بدون دخالت مستقیم انسان اهداف را شناسایی، انتخاب و منهدم کنند، از نگاه بسیاری از نهادهای حقوق بشری و سازمان ملل تهدیدی جدی برای امنیت جهانی بهشمار میروند، با این حال گروهی از کارشناسان حوزه فناوری و دفاع معتقدند ممنوعیت چنین فناوریهایی در عمل امکانپذیر نیست و جهان باید خود را برای عصر جدیدی از رقابتهای مبتنی بر هوش مصنوعی آماده کند.
نگرانی از حذف انسان از چرخه تصمیمگیری
دبیرکل سازمان ملل متحد طی ماههای اخیر بار دیگر خواستار تدوین یک معاهده بینالمللی برای ممنوعیت سلاحهایی شده است که بدون نظارت انسانی درباره مرگ و زندگی افراد تصمیم میگیرند.
نگرانی اصلی این است که هوش مصنوعی فاقد درک اخلاقی، همدلی و قضاوت انسانی است و ممکن است در شرایط پیچیده میدان نبرد میان یک غیرنظامی و یک هدف نظامی تمایز قائل نشود.
کارشناسان هشدار میدهند یک تانک خودران، زیردریایی بدون سرنشین یا پهپاد مجهز به هوش مصنوعی در صورت دریافت دادههای اشتباه یا فریب خوردن حسگرها، میتواند حملاتی را انجام دهد که پیامدهای انسانی و سیاسی گستردهای به همراه داشته باشد.
جنگ اوکراین و روسیه؛ آزمایشگاه واقعی تسلیحات خودمختار
به اعتقاد تحلیلگران، جنگ اوکراین به مهمترین میدان آزمایش فناوریهای نوین نظامی تبدیل شده است. در این جنگ، اختلال گسترده در سامانههای ارتباطی و جنگ الکترونیک باعث شده پهپادهای هدایتشونده سنتی کارایی کمتری داشته باشند.
در نتیجه، دو طرف بیش از گذشته به استفاده از سامانههای خودمختار مجهز به بینایی ماشین روی آوردهاند؛ فناوریهایی که میتوانند بدون ارتباط با اپراتور، تجهیزات نظامی را شناسایی کرده، روی آن قفل کنند و عملیات را بهصورت مستقل انجام دهند.
همین تجربه میدانی موجب شده بسیاری از فرماندهان نظامی توسعه این فناوری را یک مزیت راهبردی بدانند، زیرا چنین سامانههایی بدون خستگی، ترس یا محدودیتهای انسانی قادر به اجرای مأموریتهای پیچیده هستند.
چرا ممنوعیت جهانی با شکست روبهرو میشود؟
برخی تحلیلگران معتقدند تاریخ نشان داده است که ممنوعیت جهانی تنها درباره سلاحهایی موفق بوده که تولید، شناسایی و نظارت بر آنها آسان بوده است؛ نظیر مینهای ضدنفر که با معاهده اتاوا در سال ۱۹۹۷ تا حد زیادی محدود شدند.
در مقابل، تلاشها برای محدود کردن فناوریهایی که مزیت راهبردی قابل توجهی ایجاد میکنند، معمولاً با موفقیت همراه نبوده است. نمونههایی همچون تسلیحات هستهای، بمباران هوایی یا جنگ زیردریایی نشان میدهد کشورها در شرایط رقابت امنیتی حاضر به کنار گذاشتن فناوریهای برتر خود نیستند.
به همین دلیل بسیاری از کارشناسان سلاحهای خودمختار را نیز در همین دسته قرار میدهند؛ فناوریهایی که احتمال کنار گذاشته شدن آنها بسیار پایین است.
نرمافزار؛ مهمترین مانع اجرای ممنوعیت
یکی از مهمترین چالشهای اجرای هرگونه ممنوعیت، ماهیت فناوری هوش مصنوعی است. برخلاف سلاحهای شیمیایی یا هستهای که برای تولید آنها زیرساختهای بزرگ صنعتی مورد نیاز است، بخش عمده قابلیتهای سلاحهای خودمختار بر پایه نرمافزار، داده و تراشههای پردازشی توسعه پیدا میکند.
همان پردازندههایی که امروز در خودروهای خودران، مراکز داده یا مدلهای هوش مصنوعی تجاری استفاده میشوند، میتوانند در هدایت پهپادها یا سامانههای نظامی نیز به کار گرفته شوند، همچنین نرمافزارهای مورد استفاده برای خودمختار کردن یک سلاح بهراحتی قابل توسعه، ذخیره و انتقال هستند؛ موضوعی که نظارت بینالمللی بر آنها را بسیار دشوار میکند.
آینده رقابت؛ از ممنوعیت تا توسعه سامانههای دفاعی
در چنین شرایطی، برخی تحلیلگران پیشنهاد میکنند به جای تمرکز بر ممنوعیت کامل این فناوری، سرمایهگذاری بر توسعه سامانههای دفاعی مبتنی بر هوش مصنوعی در اولویت قرار گیرد. از جمله این سامانهها میتوان به پهپادهای رهگیر خودمختار، سامانههای جنگ الکترونیک هوشمند و فناوریهای سایبری برای مختل کردن عملکرد سلاحهای خودکار اشاره کرد.
به باور این گروه رقابت آینده نه بر سر حذف هوش مصنوعی از میدان نبرد، بلکه بر سر توسعه سامانههایی خواهد بود که بتوانند تهدیدهای ناشی از هوش مصنوعی را با استفاده از خود این فناوری خنثی کنند.
در مقابل، منتقدان هشدار میدهند که گسترش چنین رقابتی میتواند آغازگر نسل تازهای از مسابقه تسلیحاتی در جهان باشد؛ رقابتی که این بار نه بر پایه قدرت آتش، بلکه بر مبنای سرعت پردازش، کیفیت الگوریتمها و برتری هوش مصنوعی شکل خواهد گرفت.
نظر شما