به گزارش سرویس ترجمه خبرگزاری ایمنا، امنیت و تاب‌آوری هوش مصنوعی در دنیای امروز که این فناوری به‌سرعت در حال فراگیر شدن است، به یکی از دغدغه‌های اصلی دولت‌ها، کسب‌وکارها و جوامع تبدیل شده است. با نفوذ هوش مصنوعی به حوزه‌های حیاتی همچون مراقبت بهداشتی، مالی، خدمات عمومی و زیرساخت‌های دیجیتال، خطرات ناشی از سوءاستفاده عامدانه، اقدامات ناخواسته سیستم‌ها و تهدیدهای سایبری بر پایه هوش مصنوعی نیز افزایش پیدا کرده است.
در چنین شرایطی به‌کارگیری تدابیری که نوآوری را ممکن و در عین حال ایمنی و اعتماد را تضمین کند، ضرورتی انکارناپذیر است. سنگاپور به‌عنوان یکی از پیشگامان این حوزه، نمونه‌ای بارز از کشوری است که با درک این ضرورت، مجموعه‌ای از اقدامات ساختاریافته را در پیش گرفته است. سازمان توسعه ارتباطات و رسانه‌های اطلاعاتی سنگاپور (IMDA) به‌تازگی سه طرح جدید را در رویداد «تبادل تضمین هوش مصنوعی: نسخه عامل‌محور» معرفی کرده است که شامل ارائه راهنما و چارچوب حاکمیتی برای هوش مصنوعی، ایجاد توانمندی‌های ارزیابی ایمنی و تقویت دفاع‌های سایبری می‌شود.
نخستین طرح، «کیت آغازین برای آزمون سیستم‌های عامل‌محور از نظر ایمنی و قابلیت اطمینان» است. برخلاف هوش مصنوعی سنتی یا مولد، عامل‌های هوش مصنوعی می‌توانند استدلال کنند، به نمایندگی از کاربران دست به اقدام بزنند، به داده‌های حساس دسترسی داشته باشند و محیط خود را تغییر دهند؛ ویژگی‌هایی که خطرات تازه‌ای به همراه دارند.
این کیت مرجعی عملی برای سازمان‌هایی است که می‌خواهند آزمون سیستم‌های عامل‌محور را آغاز کنند و بهترین شیوه‌ها و چالش‌های این حوزه را گردآوری می‌کند که از مشورت با سازمان‌های دولتی و بیش از ۲۰ استقراردهنده و آزمونگر صنعتی از جمله گوگل، AWS و Resaro به دست آمده است. این کیت رویکردی چهار مرحله‌ای شامل شناسایی خطراتی همچون اقدامات نادرست یا غیرمجاز، ایجاد آزمون‌های واقع‌گرایانه و مقاوم، اجرای آزمون‌ها و تحلیل گزارش‌ها، و پایش مستمر و آزمون مجدد ارائه می‌دهد، همچنین نکات جدیدی از جمله آزمون در سراسر مسیر عامل، معیارهای ویژه عامل همچون دقت استفاده از ابزار و نرخ حضور انسان در حلقه و چگونگی تطبیق آزمون در شرایط جعبه‌سیاه برجسته می‌شود. این کیت بر «چارچوب حاکمیت مدل برای هوش مصنوعی عامل‌محور» بنا شده است و سندی زنده و همواره درحال به‌روزرسانی است.
دومین طرح، برنامه اعتبارسنجی آزمونگران هوش مصنوعی (AI Tap) است و نخستین برنامه از نوع خود برای ارائه‌دهندگان خدمات آزمون هوش مصنوعی شخص ثالث به‌شمار می‌رود. هدف این برنامه ایجاد خطی از شرکت‌های آزمون صلاحیت‌دار برای ارزیابی دقیق برنامه‌های هوش مصنوعی در صنایع مختلف از مراقبت بهداشتی و مالی تا استخدام و خدمات عمومی است. شرکت‌ها برای احراز شرایط تحت ارزیابی‌های فنی، عملیاتی و مالی قرار می‌گیرند. اعتبارسنجی یک‌ساله است تا استانداردها با تحولات سریع هوش مصنوعی همگام بمانند و کسب‌وکارها با اطمینان بیشتری با شرکت‌های معتبر همکاری کنند.
سومین طرح، تشکیل کارگروه تاب‌آوری و امنیت هوش مصنوعی پیشرو (Fairs) با هدف تقویت تاب‌آوری بخش ارتباطات و رسانه (ICM) در برابر تهدیدهای سایبری بر پایه هوش مصنوعی است. بخش ICM نقشی بنیادین در اقتصاد دیجیتال سنگاپور دارد و شبکه‌ها و خدمات آن مورد اتکای روزانه کسب‌وکارها، سیستم‌های دولتی و عموم مردم است. این کارگروه با گرد هم آوردن بیش از ۲۰ رهبر و کارشناس از حوزه‌های مخابرات، رسانه، امنیت سایبری و هوش مصنوعی، بستری همکارانه برای تقویت دفاع‌ها فراهم می‌کند و تا نیمه نخست سال ۲۰۲۷ گزارشی با دستورالعمل‌ها و بهترین شیوه‌های عملی منتشر خواهد کرد. سه اولویت آن شامل تقویت پاسخ به تهدیدات تسریع‌شده توسط هوش مصنوعی، افزایش تاب‌آوری در برابر خطرات نوظهور با تقویت و تفکیک شبکه‌های حیاتی و پیشی گرفتن از چشم‌انداز تهدید در حال تحول از طریق تجمیع اطلاعات در سطح بخش است.
این سه طرح نشان‌دهنده تعهد سنگاپور به پیشبرد امن هوش مصنوعی است. این دولت‌شهر با ساختن چارچوب‌هایی عملی و هم‌سو با استانداردهای جهانی، و در همکاری با شرکای بین‌المللی، صنعت و آزمونگران معتبر شخص ثالث، تلاش می‌کند هوش مصنوعی را به فراهم‌کننده‌ای قابل‌اعتماد، تاب‌آور و مطمئن برای نوآوری تبدیل کند تا افراد و کسب‌وکارها با اطمینان بیشتر از آن استفاده کنند.
نظر شما