به گزارش سرویس ترجمه خبرگزاری ایمنا، انویدیا که یک شرکت بزرگ تراشه‌سازی در جهان است، از یک پلتفرم نرم‌افزاری جدید رونمایی کرده است که به توسعه‌دهندگان اجازه می‌دهد برای عامل‌های هوش مصنوعی محدودیت تعیین کنند و از خروج آن‌ها از چارچوب کنترل‌شده جلوگیری کنند.
این پلتفرم از دو بخش اصلی تشکیل شده است: بخشی که روی پردازنده‌های مرکزی اجرا می‌شود و قابلیت‌های عامل‌ها را محدود می‌کند، و بخشی که عامل‌ها را پایش می‌کند و روی تراشه‌های شبکه اجرا می‌شود.
این اقدام پس از آن صورت می‌گیرد که چند شرکت بزرگ فناوری از حوادث اخیر خبر داده‌اند؛ حوادثی که در آن مدل‌های هوش مصنوعی‌شان از محیط محدود خود خارج شده و تلاش کرده‌اند به سیستم‌های رایانه‌ای شرکت‌های دیگر نفوذ کنند.
مدیرعامل این شرکت اعلام کرد: «نمی‌توان اجازه داد عامل‌های هوش مصنوعی بدون نظارت در سازمان آزادانه فعالیت کنند؛ باید سازوکاری برای مهار و کنترل آن‌ها اندیشیده شود.» او این پلتفرم را مرورگری برای عامل‌ها توصیف کرد که تنها دسترسی لازم برای انجام وظایفشان را فراهم می‌کند.
به گفته کارشناسان، این پلتفرم می‌توانست از یک حادثه امنیتی اخیر جلوگیری کند؛ زمانی که مدل‌های هوش مصنوعی یک شرکت از محدوده خود خارج شدند، به اینترنت آزاد دسترسی یافتند و به یک پلتفرم توسعه‌دهنده متن‌باز نفوذ کردند.
یکی از مدیران شرکت انویدیا گفت: «پلتفرم توسعه‌دهنده متن باز گزارش داد بیش از ۱۷ هزار عامل به زیرساخت‌هایشان حمله کرده‌اند و این حملات روزها و هفته‌ها ادامه داشته است.»
شرکت انویدیا اعلام کرد چند شرکت بزرگ فناوری از شرکای این طرح هستند. مدیرعامل این شرکت تأکید کرد: « اگر جهان به ایمن‌بودن ساخت و استقرار هوش مصنوعی باور نداشته باشد، صنعت هوش مصنوعی نمی‌تواند موفقیتی کسب کند.»
نظر شما