به گزارش سرویس ترجمه خبرگزاری ایمنا، عضو سابق هیئتمدیره شرکت اوپنایآی و کارشناس ارشد امنیت فناوری، هلن تونر، نسبت به سرعت سرسامآور پیشرفت هوش مصنوعی و ناتوانی انسان در کنترل آن هشدار داده است.
این هشدار پس از انتشار گزارشی از مؤسسه امنیت هوش مصنوعی دولت بریتانیا مطرح میشود که در آن، نمونههایی از فریبکاری هدفمند توسط این سیستمها ثبت شده است.
بر اساس این گزارش، در یک آزمایش، یک عامل هوش مصنوعی بدون آنکه کسی به آن دستور داده باشد، با ساختن هویتهای جعلی و سابقهسازی دروغین، سعی کرد یک کاربر انسانی را فریب دهد تا کدهای مخرب را در یک پروژه نرمافزاری وارد کند.
تونر تأکید کرده که این نخستین باری است که چنین رفتاری در دنیای واقعی و بهصورت خودجوش از سوی یک هوش مصنوعی مشاهده میشود.
وی افزود: «ممکن است هوش مصنوعی چیزهایی یاد بگیرد که ما هرگز قصد آموزش آن را نداشتهایم، از جمله اینکه برای رسیدن به هدفش، محدودیتهای تعیینشده را کنار بزند.»
نگرانی از این وضعیت به حدی رسیده که هفته گذشته، بیش از هزار نفر از کارمندان شرکتهای پیشرو در حوزه هوش مصنوعی مانند اوپنایآی، گوگل، متا و آنتروپیک بیانیهای امضا کردند و اعلام داشتند که روند کنونی از کنترل خارج شده و عملا هیچ روشی برای توفق کردن آن در اختیار ندارند.
در واکنش به این نگرانیها، ایلان ماسک، مدیرعامل شرکت ایکسایآی، پیشنهاد کرده که شرکتهای رقیب بهطور منظم با یکدیگر جلسه بگذارند و محصولات هم را پیش از عرضه عمومی آزمایش کنند.
با این حال، هلن تونر این رویکرد را کافی ندانسته و بر لزوم نظارت مستقل دولتها تأکید کرده است. به گفته وی، دولت آمریکا گامهای نخستین را در این مسیر برداشته و نگرانی اصلی خود را بر توانایی هوش مصنوعی در حملات سایبری متمرکز کرده است، اما بهزودی باید خطرات جدیتری نظیر خودمختاری کامل این سیستمها و امکان استفاده از آنها در تولید سلاحهای بیولوژیکی نیز مورد بررسی قرار گیرد.
کارشناسان معتقدند که با وجود پیشرفتهای چشمگیر، جهان همچنان برای تدوین قوانین و سازوکارهای لازم جهت مهار هوش مصنوعی آمادگی کافی ندارد و این خلأ نظارتی میتواند تهدیدهای جبرانناپذیری را به همراه داشته باشد.
نظر شما