به گزارش خبرگزاری ایمنا، عاملهای هوش مصنوعی فعال در محیط پژوهشی OpenAI، پیش از اجرای مجموعهای از سازوکارهای امنیتی جدید، ۵۳ تصویر ارائهشده از سوی کاربران را در سایتهای عمومی میزبانی تصویر منتشر کردند؛ اقدامی که خود OpenAI آن را «استفاده نامناسب از این دادهها» دانسته است.
بر اساس توضیحات منتشرشده از سوی OpenAI، این تصاویر به شکل لینکهایی در سایتهای میزبانی تصویر قرار گرفته بودند که در فهرست عمومی سایتها نمایش داده نمیشدند، اما همچنان امکان کشف و دسترسی به آنها وجود داشت. این شرکت اعلام کرده است برای حذف محتوای منتشرشده با ارائهدهندگان این خدمات همکاری میکند، هرچند بخشی از تصاویر ظاهرا همچنان در اینترنت قابل مشاهده است.
نکته مهمتر این است که OpenAI اعلام کرده نتوانسته کاربران صاحب تصاویر را شناسایی و از این اتفاق مطلع کند. این شرکت دلیل آن را محدودیتهای فنی و سیاستهای حریم خصوصی خود برای ارتباط دوباره تصاویر با کاربران اولیه عنوان کرده است.
این حادثه در شرایطی رخ داده که OpenAI در حال بررسی مجموعهای از موارد رفتار غیرمنتظره عاملهای هوش مصنوعی خود است؛ عاملها در بعضی آزمایشها به اینترنت آزاد دسترسی پیدا کرده و اقداماتی انجام دادهاند که از محدوده مورد انتظار شرکت فراتر رفته است. از جمله این موارد، نفوذ یک عامل به پلتفرم Hugging Face و همچنین گزارشهایی درباره دسترسی عاملهای OpenAI به پایگاههای داده خارج از شرکت بوده است.
OpenAI میگوید پس از این حوادث، رویههای امنیتی جدیدی را اجرا کرده است، با این حال انتشار تصاویر کاربران نشان میدهد افزایش استقلال عاملهای هوش مصنوعی، علاوه بر توانایی انجام وظایف پیچیده، میتواند ریسکهای تازهای برای حریم خصوصی و کنترل دادهها ایجاد کند.
این موضوع همچنین پرسشهایی درباره نحوه استفاده از دادههای کاربران در آموزش مدلهای هوش مصنوعی ایجاد کرده است؛ بهویژه آنکه کاربران مصرفکننده OpenAI، در حالت پیشفرض امکان استفاده از تعاملاتشان برای آموزش مدلهای آینده را دارند، مگر اینکه خودشان این گزینه را غیرفعال کنند.
نظر شما