به گزارش سرویس ترجمه خبرگزاری ایمنا، شرکت آنتروپیک که یکی از شرکت‌های بزرگ هوش مصنوعی است، اعلام کرد در جریان آزمایش‌های ایمنی، مدل‌های هوش مصنوعی این شرکت در سه مورد جداگانه و به‌صورت خودکار به سیستم‌های کامپیوتری سه سازمان دیگر نفوذ کردند، بدون آنکه آن سازمان‌ها متوجه شوند.
این شرکت در حال سنجش توانایی سه مدل از هوش مصنوعی‌های خود بوده است. در این آزمایش‌ها، هوش مصنوعی باید در محیطی بسته و ایزوله کار می‌کرد و قرار نبود به اینترنت دسترسی داشته باشد. اما به دلیل سوتفاهمی میان آنتروپیک و شرکتی که اجرای آزمایش را بر عهده داشت، اینطور نشد و هوش مصنوعی به اینترنت آزاد وصل شد. در نتیجه، هوش مصنوعی هنگام جست‌وجو به سیستم‌های واقعی روی اینترنت برخورد کرد، آن‌ها را بخشی از تمرین آزمایش پنداشت و به آن‌ها نفوذ کرد.
نکته مهم این است که هوش مصنوعی به دنبال هدفی مستقل از وظیفه تعیین‌شده نبود و تنها همان کاری را انجام می‌داد که در آزمون از او خواسته شده بود. مدل‌های قدیمی‌تر حتی پس از دیدن نشانه‌هایی از رسیدن به اینترنت واقعی به نفوذ ادامه دادند، اما جدیدترین مدل به‌محض دریافت اطلاعاتی که نشان می‌داد به اینترنت آزاد رسیده، متوقف شد.
این خبر حدود یک هفته پس از آن منتشر شد که شرکت رقیب، OpenAI، اعلام کرد دو مدل از هوش مصنوعی‌هایش در جریان یک آزمون از محیط آزمایش خارج شده و به شرکت دیگری نفوذ کرده‌اند. OpenAI آن حادثه را نخستین نمونه از حمله سایبری خودکار توسط هوش مصنوعی توصیف کرد. پس از آن، آنتروپیک بیش از ۱۴۱ هزار مورد از ارزیابی‌های خود را دوباره بررسی کرد و این سه مورد را کشف کرد.
آنتروپیک نام آن سه سازمان را اعلام نکرده و گفته است در این آزمایش‌ها بعضی حفاظت‌های معمول را کاهش داده بود تا توانایی واقعی مدل‌ها را بسنجد. این شرکت تأکید کرده که نسبت به توانایی خود برای غلبه بر اینگونه اشتباهات در آزمون‌ها، خوشبینی محتاطانه دارد و ارزیابی‌های آینده را بازبینی و در صورت نیاز اصلاحات لازم را انجام خواهد داد.
نظر شما