به گزارش خبرگزاری ایمنا، هوش مصنوعی دیگر تنها ابزاری برای پاسخ‌دادن به پرسش‌ها و تولید محتوا نیست؛ مدل‌های جدید می‌توانند وارد وب‌سایت‌ها شوند، فرم‌ها را تکمیل کنند و به نمایندگی از کاربران اقداماتی انجام دهند. با این حال، همین توانایی‌ها در صورت نبود نظارت کافی می‌تواند به رفتارهایی ناخواسته منجر شود.
خبرگزاری رویترز گزارش داد که شرکت آنتروپیک روز جمعه از مجموعه‌ای از رخدادهای مرتبط با استفاده غیرمجاز مدل‌های کلود از بعضی وب‌سایت‌های دولتی و سامانه‌های دیگر پرده برداشت. یکی از این موارد به ۱۸ ژوئیه بازمی‌گردد؛ زمانی که مدل هوش مصنوعی این شرکت در وب‌سایت مربوط به قتل‌های حل‌نشده فیلادلفیا، گزارشی ساختگی ثبت کرد.
در متن این گزارش آمده بود که ارسال‌کننده ممکن است اطلاعاتی درباره پرونده داشته باشد و فردی با مشخصات مظنون را در محدوده محل وقوع حادثه دیده است. پلیس فیلادلفیا اعلام کرد که این پیام به‌عنوان هرزنامه شناسایی شد و هرگز برای بررسی یا توزیع در اختیار مرکز جرایم لحظه‌ای قرار نگرفت.
آنتروپیک این رخداد را در اواخر سپتامبر شناسایی کرد و به گفته پلیس، آن را ناشی از یک فرایند آزمایش خودکار دانست. پلیس فیلادلفیا با انتقاد از تأخیر حدوداً دوماهه در شناسایی و اطلاع‌رسانی، این تأخیر را غیرقابل‌قبول توصیف کرد. با این حال، مقام‌های پلیس اعلام کردند شواهدی از دسترسی غیرمجاز به سامانه‌های خود یا افشای اطلاعات پیدا نکرده‌اند.
در موارد دیگری که آنتروپیک گزارش کرد، مدل‌های کلود توانسته بودند به داده‌های عمومیِ معمولاً پولی دسترسی رایگان پیدا کنند، از یک نقص فنی در ابزار عمومی میزبانی‌شده توسط دانشگاه استفاده کنند و با بهره‌گیری از خدمات کوتاه‌کننده پیوند، برخی محدودیت‌ها را دور بزنند.
این رخدادها در شرایطی اهمیت بیشتری پیدا می‌کنند که عامل‌های هوش مصنوعی، برخلاف چت‌بات‌های معمولی، می‌توانند به‌صورت مستقیم در محیط‌های دیجیتال اقدام کنند. مسئله اصلی فقط تولید اطلاعات نادرست نیست؛ بلکه احتمال ثبت، ارسال یا اجرای اطلاعات نادرست در سامانه‌های واقعی است. این پرونده نشان می‌دهد که تعیین مرزهای دسترسی، نظارت بر اقدامات و ثبت دقیق فعالیت‌های عامل‌های هوش مصنوعی، باید هم‌زمان با توسعه توانایی‌های آن‌ها پیش برود.
نظر شما