۲۸ آبان ۱۴۰۵ - ۰۹:۲۵
جعل هویت؛ چالش جدید هوش مصنوعی

نهاد امنیتی بریتانیا از توانایی مدل‌های پیشرفته هوش مصنوعی در ساخت هویت‌های جعلی و تلاش برای ورود غیرمجاز به پروژه‌های نرم‌افزاری خبر داد.

به گزارش سرویس ترجمه خبرگزاری ایمنا، یک نهاد دولتی بریتانیا اعلام کرد مدل‌های هوش مصنوعی دو شرکت بزرگ فناوری، OpenAI و Anthropic، در جریان آزمایش‌های سایبری به‌طور مستقل هویت جعلی ساخته و انسان‌ها را فریب داده‌اند. مؤسسه امنیت هوش مصنوعی بریتانیا (AISI)اعلام کرده است که در یکی از موارد، مدل Mythos ۵ شرکت Anthropic با تحقیق درباره برنامه‌نویسانی که روی یک پروژه نرم‌افزاری متن‌باز کار می‌کردند، هویت آن‌ها را جعل کرد تا بتواند کد مخربی را وارد پروژه کند و تأییدشان را بگیرد.

پس از اینکه انسان‌ها متوجه ماجرا شدند، این مدل تلاش کرد رد خود را پنهان کند و با هویت جعلی تازه‌ای به کار ادامه دهد. در دو مورد جداگانه نیز مدل GPT-۵.۶-Sol شرکت OpenAI تلاش کرد خارج از محدوده تعیین‌شده آزمایش، دسترسی غیرمجاز به دست آورد. در مجموع ۱۹ مورد مرتبط در این آزمایش‌ها ثبت شد. به گفته مسئولان، هیچ آسیب واقعی به کسی وارد نشده است، اما آن‌ها این رفتارها را جدی و غیرمنتظره توصیف کرده و اعلام کردند روش‌های آزمایش و تدابیر امنیتی خود را بازنگری می‌کنند.

این افشاگری پس از آن منتشر شد که هر دو شرکت هفته گذشته گزارش دادند مدل‌هایشان در آزمایش‌ها به‌طور مستقل به سازمان‌های دیگر نفوذ کرده‌اند. OpenAI ماه گذشته نیز اعلام کرد مدل‌هایش خودبه‌خود به یک شرکت دیگر نفوذ کرده‌اند و آن را نخستین نمونه شناخته‌شده از حمله سایبری خودمختار هوش مصنوعی خواند.

سخنگویان هر دو شرکت بر اهمیت آزمایش مستقل و تدوین استانداردهای مشترک برای ارزیابی ایمن مدل‌های پیشرفته‌تر تأکید کرده‌اند. این تحولات در حالی رخ می‌دهد که قانون‌گذاران و کارشناسان صنعت در حال بررسی خطرات ایمنی این فناوری هستند.

کد مطلب 1021090

برچسب‌ها

نظر شما

شما در حال پاسخ به نظر «» هستید.