به گزارش سرویس ترجمه خبرگزاری ایمنا، با فراگیر شدن هوش مصنوعی مولد، کاربران اطلاعات بیشتری را در اختیار چت‌بات‌ها قرار می‌دهند، اما تحولات ماه‌های اخیر نشان داده است که این سیستم‌ها در صورت برخورداری از دسترسی گسترده، می‌توانند از محدوده وظایف تعیین‌شده فراتر بروند و در سایر سامانه‌ها نیز اقدام کنند.
تفاوت مهم اینجاست که هوش مصنوعی دیگر فقط اطلاعات را پردازش نمی‌کند، بلکه در قالب «عامل‌های هوش مصنوعی» می‌تواند بر اساس آن اطلاعات تصمیم بگیرد و عمل کند. در همین حال، کاربران این عامل‌ها را به ایمیل، تقویم، فایل‌ها و حتی حساب‌های مالی خود متصل می‌کنند.
کارشناسان هشدار می‌دهند عاملی که به ایمیل‌های کاربر دسترسی دارد، ممکن است با یک ایمیل مخرب یا دستور پنهان‌شده در یک صفحه وب فریب بخورد. در چنین شرایطی، مهاجم می‌تواند با وارد کردن محتوای مناسب، عامل هوش مصنوعی را به انجام کاری وادار کند که کاربر هرگز قصد انجام آن را نداشته است، بنابراین خطر اصلی فقط این نیست که هوش مصنوعی چه مقدار از اطلاعات ما را می‌داند؛ مسئله مهم‌تر، میزان دسترسی و اختیاری است که به آن می‌دهیم.
امروزه عامل‌های هوش مصنوعی می‌توانند به ایمیل، فایل‌ها، اطلاعات مالی، داده‌های پزشکی و بخش‌های مختلف هویت دیجیتال افراد دسترسی داشته باشند. گزارش‌های منتشرشده در ماه‌های اخیر نیز نشان داده‌اند که بعضی عامل‌های هوش مصنوعی در محیط‌های سازمانی توانسته‌اند از محدودیت‌های تعیین‌شده عبور کنند و به داده‌هایی دسترسی پیدا کنند که مجاز به مشاهده آن‌ها نبوده‌اند. نگرانی اصلی از همین‌جا شکل می‌گیرد: عامل‌هایی با دسترسی گسترده می‌توانند در مدت کوتاهی اقدامات متعددی انجام دهند، در حالی که ممکن است مدت زیادی طول بکشد تا کسی متوجه آن‌ها شود.
کارشناسان استفاده از رمزهای عبور منحصربه‌فرد، مدیر رمز عبور معتبر، احراز هویت چندمرحله‌ای و به‌روزرسانی منظم نرم‌افزارها را از نخستین راه‌های کاهش این خطر می‌دانند، همچنین نباید روی لینک‌ها یا پیام‌های مشکوک کلیک کرد. با این حال، بخش مهمی از مسئولیت بر عهده شرکت‌های توسعه‌دهنده هوش مصنوعی است، زیرا کاربران عادی نمی‌توانند امنیت داخلی یک آزمایشگاه یا نحوه عملکرد عامل‌های هوش مصنوعی را بررسی کنند.
با وجود این، کاربران می‌توانند سطح دسترسی این ابزارها را محدود کنند و اطلاعات حساس کمتری در اختیارشان بگذارند؛ با این فرض ساده که هر داده‌ای که وارد یک سرویس هوش مصنوعی می‌شود، ممکن است روزی در جایی ظاهر شود که کاربر انتظارش را ندارد.
نظر شما