آیا می‌توان به مدل‌های هوش مصنوعی اعتماد کرد؟

به گزارش سرویس ترجمه خبرگزاری ایمنا، محققان دانشگاه ییل در ایالت کنیکت آمریکا در پژوهشی تازه به این پرسش اساسی پاسخ می‌دهند که آیا می‌توان به مدل‌های هوش مصنوعی اعتماد کرد. دو تیم تحقیقاتی این دانشگاه ریشه‌های خطاهای چت‌بات‌ها را بررسی می‌کنند و می‌کوشند راهکارهایی برای ایمن‌تر، قابل‌اعتمادتر و پاسخگوتر کردن این سیستم‌ها ارائه دهند.

به گفته یانگ کای، استاد دانشگاه ییل، سؤال اساسی این است که چرا یک مدل هوش مصنوعی اطلاعات نادرست می‌دهد؟ پاسخ را باید در دو علت جست‌وجو کرد: یا مدل فاقد دانش یا واقعیات لازم برای پاسخگویی است، یا اینکه با مقصود و خواست کاربر ناهماهنگ است.

ژوران یانگ، استاد آمار و علم داده، مثالی عینی از این ناهماهنگی می‌زند: یکی از مدیران ارشد متا از اپلیکیشن دستیار هوش مصنوعی شخصی استفاده می‌کرد. بدون اینکه او فرمانی بدهد، دستیار هوشمند تمام ایمیل‌های او را حذف کرد. این نمونه بارز ناهماهنگی مدل با خواست کاربر است.

دیرک برگمان، استاد اقتصاد، تعامل بین کاربر و مدل هوش مصنوعی را نوعی بازی می‌داند. از دید او، مدل هوش مصنوعی اطلاعاتی ناگفته و درونی درباره هدفش دارد که کاربر انسانی باید آن اطلاعات را کشف و استخراج کند. هدف نهایی، هماهنگ‌سازی ترجیحات مدل با اهداف صریح یا ضمنی کاربر انسانی است. از سوی دیگر، ژوران یانگ توضیح می‌دهد که مدل‌های زبانی بزرگ را باید جعبه‌های سیاهی در نظر گرفت که ورودی می‌گیرند و خروجی ارائه می‌دهند، بدون آنکه از درونشان آگاه باشیم. به همین دلیل، پروژه تحقیقاتی آن‌ها سه مؤلفه اصلی دارد: اول، بررسی درون این جعبه سیاه به کمک مدل‌های منبع‌باز است که شفافیت بالاتری دارند. با این کار می‌توان فهمید که آیا مدل واقعاً قصد انسان را می‌فهمد یا اینکه از راه‌های کوتاه و میان‌برهای محاسباتی کار را پیش می‌برد. دوم، ایجاد فرآیندی حسابرسی‌پذیر که پس از انجام یک کار توسط مدل، مشخص شود چه خطاهایی رخ داده و چگونه می‌توان مدل را بهبود بخشید. سوم، بررسی همکاری انسان و عامل هوشمند، از جمله ارائه خدمات آموزشی به کاربران و نوشتن راهنماهای سیستمی مؤثرتر برای تشخیص صحیح قصد و هدف کاربر انسانی.

نیکول ایمورلیکا، استاد علوم کامپیوتر و اقتصاد، رویکرد جالبی را مطرح می‌کند: از روی چگونگی تصمیم‌گیری افراد پس از دریافت پاسخ یک مدل هوش مصنوعی، می‌توان فهمید که آن مدل دچار کمبود دانش و اطلاعات نادرست است یا اینکه با هدف کاربر هماهنگ نیست. او توضیح می‌دهد که اگر مدل ناهماهنگ باشد، کاربران به شیوه‌های مختلفی پاسخ را اصلاح می‌کنند و این موضوع باعث می‌شود تا تصمیمات آن‌ها به شکلی پیوسته و یکنواخت توزیع شود. اما اگر مشکل مدل کمبود دانش یا اطلاعات نادرست باشد، بعضی کاربران پاسخ را کاملاً درست فرض می‌کنند و بعضی دیگر آن را یکسره نادیده می‌گیرند؛ از این رو، نحوه تصمیم‌گیری کاربران به صورت یکنواخت و پیوسته نیست بلکه دارای جهش و ناپیوستگی است.

این یافته‌ها می‌تواند تأثیر مستقیمی بر صنعت هوش مصنوعی و مقررات دولتی بگذارد. شرکت‌ها فعال در حوزه هوش مصنوعی می‌توانند با بهبود توابع خطا و بهینه‌سازی مدل‌های خود، گامی مؤثر در جهت کاهش خطاهای نادرست‌آگاهانه و ناهماهنگی بردارند. همچنین دولت‌ها و نهادهای نظارتی قادر خواهند بود با مشاهده توزیع غیرعادی تصمیمات درباره توصیه‌های هوش مصنوعی، از وجود ناهماهنگی شدید آگاه شوند و شرکت سازنده را ملزم به رفع مشکل کنند.