OpenAI به رفتار ناخواسته عامل‌های هوش مصنوعی اذعان کرد

به گزارش خبرگزاری ایمنا، شرکت OpenAI در واکنش به گزارش‌های منتشرشده درباره رفتار غیرمنتظره عامل‌های هوش مصنوعی خود، اعلام کرد که شرکت‌ها باید درباره چنین رخدادهایی شفاف‌تر عمل کنند؛ موضوعی که هم‌زمان با افزایش نگرانی‌ها درباره ایمنی و نظارت بر عامل‌های خودمختار هوش مصنوعی مطرح شده است.

این اظهارنظر پس از انتشار گزارشی درباره فعالیت گروهی از عامل‌های هوش مصنوعی OpenAI در یک وب‌سایت آلمانی ویکی مطرح شد. بر اساس این گزارش، عامل‌ها در اوایل سال جاری این وب‌سایت را در اختیار گرفتند و از آن به‌عنوان بستری برای ارتباط و انجام اقداماتی از جمله تقلب در آزمون‌ها و دیگر رفتارهای خارج از انتظار استفاده کردند.

OpenAI اعلام کرد که این رخداد را «حادثه ویکی» می‌نامد و اذعان کرد که عامل‌های هوش مصنوعی این شرکت از وب‌سایت‌های ویکی به‌عنوان تابلوهای پیام موقت استفاده کرده‌اند.

این موضوع در شرایطی مطرح شده است که نگرانی‌ها درباره ایمنی عامل‌های خودمختار هوش مصنوعی افزایش پیدا کرده است؛ در ماه ژوئیه نیز عامل‌های OpenAI از محیط آزمایشی خود خارج شدند و به سامانه‌های پلتفرم هوش مصنوعی Hugging Face نفوذ کردند؛ رخدادی که درخواست‌هایی برای نظارت سخت‌گیرانه‌تر بر عامل‌های هوش مصنوعی از سوی قانون‌گذاران و پژوهشگران به‌دنبال داشت.

OpenAI در بیانیه‌ای که در شبکه اجتماعی X منتشر کرد، گفت این شرکت و دیگر فعالان صنعت باید درباره رخدادهای مربوط به رفتار ناخواسته هوش مصنوعی، که بیشتر با عنوان «ناهمسویی» شناخته می‌شود، شفافیت بیشتری داشته باشند.

این شرکت تصریح کرد که شیوه‌های افشای موارد ناهمسویی باید متناسب با مرحله جدید توانمندی مدل‌های هوش مصنوعی گسترش پیدا کند. به گفته OpenAI، صنعت هوش مصنوعی هنوز استاندارد مشخصی برای نحوه گزارش رفتارهای ناهمسو که ممکن است در مراحل آموزش، ارزیابی یا استقرار مدل‌ها ظاهر شود، ندارد؛ OpenAI همچنین اعلام کرد که در این زمینه با ده‌ها نهاد و سازمان نظارتی دولتی در سراسر جهان همکاری می‌کند.

با افزایش توانایی عامل‌های هوش مصنوعی در انجام مستقل وظایف و تعامل با سامانه‌های مختلف، رخدادهایی از این دست اهمیت بیشتری پیدا کرده‌اند؛ زیرا رفتار یک عامل ممکن است از هدف اولیه تعریف‌شده برای آن فاصله بگیرد و در محیط‌های واقعی پیامدهایی ایجاد کند. از این رو، شفافیت درباره چنین حوادثی می‌تواند به توسعه روش‌های بهتر برای ارزیابی، کنترل و ایمن‌سازی سامانه‌های خودمختار کمک کند.