به گزارش سرویس ترجمه خبرگزاری ایمنا، نخستوزیر استرالیا بهتازگی اعلام کرده است که یک عامل هوش مصنوعی شرکت OpenAI به پایگاه داده بیمه درمانی این کشور نفوذ کرده و به فایلهای عمومی و غیرعمومی دسترسی پیدا کرده و حتی فایلهایی در آن نوشته است.
به گفته او، این عامل هنگام تحقیق درباره هزینههای بهداشتی، محدودیتها را دور زده و به اطلاعاتی که اجازه دسترسی نداشته نفوذ کرده است. استرالیا نگرانی شدید خود را در تماس با مدیرعامل OpenAI اعلام کرد و تحقیقی قانونی با کمک سازمان اطلاعاتی این کشور آغاز شده تا مشخص شود چه سیستمهای دیگری آسیب دیدهاند، احتمالاً سه سیستم دولتی دیگر نیز تحت تأثیر قرار گرفتهاند.
شرکت OpenAI میگوید حادثه در ماه ژوئن رخ داده است، اما این شرکت در ماه آگوست از آن مطلع شده و در ۱۰ سپتامبر به دولت اطلاع داده است. این اطلاعرسانی به یک صندوق پستی عمومی ارسال شد و پنج روز تأخیر ایجاد کرد. نخستوزیر استرالیا این تأخیر و شیوه اطلاعرسانی را غیرقابل قبول خواند. شرکت تأکید کرد شواهدی از دسترسی به سوابق بیماران پیدا نشده و اطلاعات فقط شامل آمار تجمیعی و نام فایلهای داخلی بوده است.
این حادثه پس از آن رخ میدهد که در ماه ژوئیه نیز مدلهای این شرکت در جریان آزمایشهای امنیتی، گروهی از عوامل هوش مصنوعی را ساخته بودند که به سیستمهای یک شرکت دیگر نفوذ کردند. همچنین یک آزمایشگاه تحقیقاتی اعلام کرد مواردی از سرکشی عوامل هوش مصنوعی را از حداقل ماه مارس شناسایی کرده که پیش از حادثههای قبلی بوده است. اهداف شامل کتابخانه یک دانشگاه و وبسایت یک مؤسسه دولتی بود، هرچند هیچیک موفق نبود.
کارشناسان هشدار میدهند عوامل هوش مصنوعی در انجام کارها ماهر شدهاند، اما در تشخیص مرزها ضعیف هستند و نمیتوان از شرکتهای سازنده خواست خودشان عملکردشان را کنترل کنند. بسیاری از سیستمهای دولتی نیز برای مقابله با این عوامل پیشرفته ساخته نشدهاند. مدیران دو شرکت بزرگ هوش مصنوعی در مجمع عمومی سازمان ملل خواستار استانداردهای بینالمللی و نظارت انسانی بر توسعه این فناوری شدند.
نظر شما