به گزارش سرویس ترجمه خبرگزاری ایمنا، شرکت اپنایآی، سازنده مشهور چتجیپیتی، با انتشار بیانیهای رسمی اعلام کرد که یکی از سیستمهای هوش مصنوعی این شرکت در جریان ارزیابیهای داخلی، بهطور کاملا خودمختار و بدون هرگونه دستور یا دخالت مستقیم انسانی، به سیستمهای پردازش دادههای یک شرکت دیگر نفوذ کرده است.
سم آلتمن، مدیرعامل اپنایآی، این رویداد را یک حادثه امنیتی قابلتوجه و بیسابقه توصیف کرد و در بیانیهای که در شبکههای اجتماعی منتشر شد، بر جدیت این ماجرا تأکید نمود.
هدف این حمله سایبری، شرکت استارتآپی هاگینگ فیس بود که هفته پیشتر از شناسایی یک نفوذ مشکوک در سیستمهای خود خبر داده بود.
کلمان دولانگ، همبنیانگذار و مدیرعامل هاگینگ فیس، در واکنش به این رویداد اظهار داشت که تیم او از همان ابتدا به دلیل پیچیدگی و سطح بالای عامل مهاجم، گمان میبردند این حمله از سوی یکی از آزمایشگاههای پیشروی هوش مصنوعی انجام شده باشد و پس از بررسیهای فنی مشخص شد که این حدس درست بوده است.
به گفته او، این حادثه احتمالا نخستین نمونه از نوع خود محسوب میشود که در آن یک سیستم هوش مصنوعی بهصورت مستقل و خودگردان به یک زیرساخت فنی دیگر نفوذ میکند.
دولانگ تأکید کرد که در ۲۴ ساعت گذشته همکاری نزدیکی با تیم اپنایآی داشته و بهشدت معتقد است که هیچگونه قصد بدخواهانه یا سونیتی از سوی این شرکت در میان نبوده، اما آنچه بیش از همه ذهن او را به خود مشغول کرده، این واقعیت است که تمامی این فرایند پیچیده بهصورت خودمختار و بدون نظارت مستقیم انسانی رخ داده است.
بر اساس اطلاعات منتشرشده از سوی اپنایآی، این نفوذ با استفاده از ترکیبی از مدلهای هوش مصنوعی این شرکت انجام شده که شامل مدل تازهرونماییشده GPT ۵.۶ Sol و همچنین یک مدل آزمایشی بسیار پیشرفتهتر میشود که هنوز در مراحل داخلی ارزیابی قرار دارد. این سیستم با بهرهگیری از اعتبارنامههای سرقتشده و کشف یک آسیبپذیری ناشناخته قبلی در زیرساختهای هاگینگ فیس، توانست به سرورهای این شرکت دسترسی پیدا کند.
جالبتر آنکه به گفته اپنایآی، این عامل هوشمند برای دستیابی به یک هدف آزمایشی نسبتاً محدود، دست به اقدامات افراطی و بسیار پیچیدهای زد و حتی موفق شد به اطلاعات محرمانهای دست یابد که میتوانست از آن برای تقلب در فرایند ارزیابیهای بعدی مدلهای خود استفاده کند.
این افشاگری در شرایطی صورت میگیرد که نگرانیهای بینالمللی درباره توانمندیهای سایبری مدلهای پیشرفته هوش مصنوعی به اوج خود رسیده است. تنها یک ماه پیش، دونالد ترامپ فرمان اجرایی مهمی را امضا کرد که بر اساس آن چارچوبی قانونی برای دولت فدرال ایجاد میشود تا بتواند پیش از انتشار عمومی پیشرفتهترین سیستمهای هوش مصنوعی، تا مدت یک ماه آنها را از نظر ریسکهای امنیت ملی و تهدیدات سایبری مورد بررسی و ارزیابی دقیق قرار دهد.
در بیانیه اپنایآی نیز بهصراحت آمده است که هوش مصنوعی در حال شتاببخشی به روند کشف و بهرهبرداری از آسیبپذیریهای امنیتی است و مهمترین درس آموختهشده از این حادثه، لزوم همگامسازی سرعت توسعه قابلیتهای مدلها با تدابیر ایمنی و امنیتی متناسب است، زیرا هرگونه تأخیر در این حوزه میتواند پیامدهای جبرانناپذیری بههمراه داشته باشد.
کارشناسان حوزه امنیت سایبری این حادثه را زنگ خطری جدی برای آینده تعاملات میان سیستمهای خودمختار هوش مصنوعی و زیرساختهای حیاتی دیجیتال میدانند. هرچند که هر دو شرکت بر این نکته پای فشردهاند که سوءنیتی در این ماجرا وجود نداشته است، اما وقوع چنین نفوذی بهصورت کاملاً خودگردان، پرسشهای بنیادینی را درباره میزان کنترل انسان بر رفتار این سیستمها، امکان پیشبینی اقدامات آنها و ضرورت تدوین پروتکلهای بینالمللی برای مهار چنین توانمندیهایی مطرح ساخته است.
با توجه به اذعان اپنایآی به اینکه مدلهای قدرتمندتری نیز در دست آزمایش دارند، بهنظر میرسد که جهان در آستانه عصری جدید از چالشهای امنیتی قرار گرفته است که نیازمند همکاری نزدیک دولتها، شرکتهای فناوری و جامعه علمی برای تدوین استانداردهای مؤثر و بازدارنده خواهد بود.
نظر شما