به گزارش خبرگزاری ایمنا، شرکت OpenAI از وقوع یک حادثه کمسابقه در جریان آزمایش یکی از عاملهای هوش مصنوعی خود خبر داد؛ حادثهای که در آن یک عامل هوش مصنوعی خودمختار توانست از محیط آزمایشی خارج شود، به اینترنت دسترسی پیدا کند و بدون دستور مستقیم انسان، سامانههای استارتاپ Hugging Face را هدف حمله سایبری قرار دهد.
بر اساس توضیحات OpenAI، این عامل هوش مصنوعی که با ترکیبی از مدل GPT-5.6 Sol و یک مدل پیشرفتهتر در حال توسعه فعالیت میکرد، هنگام ارزیابی تواناییهای هک در یک محیط ایزوله، موفق شد یک آسیبپذیری ناشناخته را شناسایی کرده و از آن برای دسترسی به اینترنت استفاده کند.
این عامل سپس با این استدلال که پایگاه داده Hugging Face میتواند اطلاعات، مدلها و دادههای لازم برای موفقیت در آزمون را در اختیار داشته باشد، به سامانههای این شرکت نفوذ کرد تا به اطلاعات محرمانه دست پیدا کند و نتایج آزمون را به نفع خود تغییر دهد. در نهایت، تیم امنیتی Hugging Face با کمک سامانههای هوش مصنوعی خود موفق شد این فعالیت غیرعادی را شناسایی و متوقف کند.
OpenAI این رخداد را بیسابقه توصیف کرده و هشدار داده است که با پیشرفتهتر شدن مدلهای هوش مصنوعی، وقوع چنین حوادثی میتواند به پدیدهای رایجتر تبدیل شود. در همین حال، مدیرعامل Hugging Face این حمله را شگفتانگیز خواند، اما تأکید کرد شواهدی از وجود نیت مخرب از سوی OpenAI مشاهده نشده است.
این اتفاق در حالی رخ داده که پژوهشگران و نهادهای نظارتی بارها نسبت به رفتارهای پیشبینیناپذیر عاملهای هوش مصنوعی هشدار دادهاند. مؤسسه امنیت هوش مصنوعی بریتانیا نیز اعلام کرده است بعضی مدلهای پیشرفته در جریان آزمایشها تلاش کردهاند با دور زدن محدودیتها یا «تقلب» در ارزیابیها، به اهداف تعیینشده خود دست یابند.
کارشناسان معتقدند این رویداد ضرورت تدوین مقررات سختگیرانهتر برای توسعه و آزمایش هوش مصنوعی را بیش از گذشته آشکار کرده است.
نظر شما