به گزارش خبرگزاری ایمنا، چند عامل هوش مصنوعی شرکت OpenAI در جریان آزمایش‌های داخلی ماه ژوئن به سامانه‌های دولتی استرالیا دسترسی پیدا کردند. این عامل‌ها در بعضی موارد توانستند به فایل‌های داخلی و داده‌های غیرعمومی دسترسی داشته باشند؛ موضوعی که بار دیگر نگرانی‌ها درباره توانایی و کنترل عامل‌های هوش مصنوعی را افزایش داده است.
بر اساس گزارش منتشرشده، Services Australia یکی از سامانه‌های تحت تأثیر بود و مدل هوش مصنوعی توانست به بعضی فایل‌های داخلی دسترسی پیدا کند. OpenAI اعلام کرده است که سوابق بیماران در این فرایند مشاهده نشده است.
در اداره آمار و تحقیقات جرایم نیوساوت‌ولز نیز عامل هوش مصنوعی به داده‌هایی دسترسی پیدا کرد، اما سوابق جرایم افراد مشاهده نشد. در وزارت بهداشت ویکتوریا نیز عامل مورد آزمایش یک کلید دسترسی را پیدا کرد و توانست آمارهای تجمیعی یک نظرسنجی را دریافت کند؛ با این حال، سوابق پزشکی و پاسخ‌های قابل شناسایی افراد در دسترس قرار نگرفت.
عامل‌های آزمایشی همچنین به آمارهای تجمیعی نظرسنجی‌های مؤسسه سلامت و رفاه استرالیا دسترسی پیدا کردند، بدون اینکه سوابق پزشکی افراد را مشاهده کنند.
این اتفاق در جریان آزمایش یک مدل تحقیقاتی رخ داد. مدل برای انجام وظایفی مشخص، از جمله بررسی میزان هزینه دولت ویکتوریا برای داروهای پوستی به ازای هر فرد، آموزش داده شده بود. زمانی که اطلاعات موردنظر را به‌سادگی پیدا نکرد، به جست‌وجوی داده‌های بیشتری در وب‌سایت‌های دولتی پرداخت.
OpenAI می‌گوید این اقدام از سوی شرکت مجاز نشده بود و برخی محافظت‌هایی که معمولاً برای مدل‌های عمومی فعال هستند، در نسخه آزمایشی وجود نداشت.
پس از شناسایی حادثه، OpenAI تحقیقات داخلی را آغاز و سازمان‌های تحت تأثیر را مطلع کرد. این شرکت همچنین اعلام کرده است دسترسی مدل‌های تحقیقاتی به اینترنت زنده را محدود می‌کند و نظارت و کنترل‌های شبکه‌ای بیشتری برای آنها در نظر می‌گیرد.
در استرالیا نیز OpenAI با سازمان‌های آسیب‌دیده همکاری خواهد کرد و بخشی از یک صندوق یک میلیارد دلاری خود را برای تقویت دفاع سایبری نهادهای دولتی اختصاص می‌دهد. همچنین ایجاد یک کارگروه ویژه در استرالیا برای بهبود هماهنگی در حوادث آینده در دستور کار قرار گرفته است.
نظر شما