مهنوش صالحی در گفتوگو با خبرنگار ایمنا با اشاره به ابعاد چندلایه ریسکهای ناشی از بهکارگیری هوش مصنوعی در امور مالی اظهار کرد: توسعه مدلهای پیشرفته، بهویژه هوش مصنوعی مولد، در کنار ایجاد فرصتهای جدید برای افزایش بهرهوری، کاهش هزینهها و بهبود دقت تصمیمگیری، طیفی از مخاطرات گسترده و سیستمیک را نیز به همراه دارد که نمیتوان آنها را بهصرف بهعنوان ریسکهای فنی در نظر گرفت، ریسکهای حریم خصوصی، امنیت سایبری، قابلیت توضیح، قابلیت اطمینان و بهویژه ریسک سیستمی ناشی از همگرایی مدلها، تمرکز بازار و افزایش ابهام، باید در کانون توجه سیاستگذاران، نهادهای ناظر و بازیگران مالی قرار گیرد.
وی افزود: هوش مصنوعی این ظرفیت را دارد که تابآوری سیستم مالی را در برابر شوکها افزایش دهد و فرایندهای اعتبارسنجی، مدیریت ریسک و نظارت را کارآمدتر کند، اما در عین حال آسیبپذیریهای تازهای نیز ایجاد میکند، نابرابری در دسترسی به داده و زیرساختهای پردازشی، تشدید سوگیریهای الگوریتمی و تمرکز قدرت محاسباتی در دست تعداد محدودی از بازیگران، میتواند به نبودتعادلهای جدید در بازار منجر شود و در صورت نبود پاسخهای نظارتی هوشمند، بیثباتی مالی را تشدید کند.
این ارزیاب اقتصادی با تشریح مهمترین خطرات مرتبط با هوش مصنوعی مولد (GenAI) تصریح کرد: نگرانیهای مربوط به حریم خصوصی و انصاف، از جمله بازتولید یا تشدید تبعیضهای ناخواسته، تهدیدات امنیتی و سایبری نظیر تسهیل حملات پیچیدهتر، نقض حقوق مالکیت معنوی، نبود شفافیت در نحوه تصمیمسازی مدلها و خروجیهای غیرقابل اعتماد، از جمله چالشهایی است که نمیتوان آنها را نادیده گرفت، حتی پیامدهای زیستمحیطی همچون افزایش مصرف انرژی، آب و انتشار کربن در مقیاس کلان باید بهعنوان بخشی از هزینههای پنهان توسعه هوش مصنوعی در نظر گرفته شود.
صالحی تأکید کرد: این ریسکها در حوزه مالی بهدلیل سرعت بالای تصمیمگیری، حجم بالای معاملات و حساسیت شدید بازارها، آثار تشدیدشدهای پیدا میکنند و میتوانند در بازه زمانی کوتاه، از سطح بنگاه به سطح سیستم مالی سرایت کنند.
وی با اشاره به ابعاد سیستمیک این فناوری اظهار کرد: ابهام ذاتی و نبود قابلیت توضیح بسیاری از مدلهای هوش مصنوعی، شناسایی و پیشبینی ریسکهای سیستمی را تا زمان وقوع آنها دشوار میسازد، این موضوع ضرورت تنوع در طراحی مدلها، پرهیز از استفاده گسترده از معماریهای یکسان و استقرار آزمونهای تنش قوی و مداوم را دوچندان میکند، استفاده فراگیر از مدلهای مشابه میتواند همبستگی در پیشبینیها و استراتژیهای معاملاتی را افزایش داده و احتمال واکنشهای همزمان بازار را بالا ببرد؛ پدیدهای که خطر سقوطهای ناگهانی و زنجیرهای را تشدید میکند.
این ارزیاب اقتصادی خاطرنشان کرد: تمرکز خدمات هوش مصنوعی در دست چند ارائهدهنده بزرگ، بهویژه در حوزه خدمات ابری، بعد دیگری از ریسک سیستمی است که میتواند وابستگی کل سیستم مالی به زیرساختهای محدود را افزایش دهد.
سه چالش کلیدی سیاستگذاری
صالحی در ادامه به سه محور اصلی چالشهای سیاستگذاری در این حوزه اشاره کرد و گفت: نخست، سیستمهای هوش مصنوعی خودمختار که بهعنوان «عامل» عمل میکنند و قادر به تصمیمگیری و اقدام مستقل هستند، این سیستمها مسائلی همچون ناهماهنگی اهداف، رفتارهای نوظهور و غیرقابل پیشبینی را ایجاد میکنند که پاسخ به آنها مستلزم مسئولیتپذیری بر پایه نتیجه، الزام به تفسیرپذیری تصمیمات، آزمونهای تنش منظم و استقرار حکمرانی ترکیبی انسان و ماشین است.
وی دومین چالش را نبود تقارن اطلاعاتی جدید دانست و افزود: هوش مصنوعی نابرابری در پردازش دادهها و دسترسی به دادههای جایگزین را تشدید کرده است، از اینرو استانداردسازی افشای اطلاعات شرکتها، بازتعریف استفاده منصفانه از دادهها و مقابله با رفتارهای الگوریتمی مخرب همچون تبانی الگوریتمی، باید بهطور جدی در دستور کار نهادهای ناظر قرار گیرد.
صالحی سومین محور را تعادل میان تعهد و انعطافپذیری در قراردادهای برپایه هوش مصنوعی عنوان کرد و گفت: استفاده از محرکهای از پیش تعریفشده برای مذاکره مجدد، قراردادهای ترکیبی انسان-هوش مصنوعی و سازوکارهای سازگار با انگیزه، میتواند ضمن جلوگیری از رفتارهای استراتژیک مخرب، ثبات قراردادی و انعطاف لازم را بهطور همزمان تضمین کند.
این ارزیاب اقتصادی در جمعبندی سخنان خود تأکید کرد: ادغام هوش مصنوعی در سیستمهای مالی یک تحول ساختاری عمیق است و نه یک اصلاح حاشیهای، این فناوری میتواند به بهبود عملکرد، دقت و شمول مالی منجر شود، اما در صورت غفلت از ریسکهای آن، ثبات و عدالت اقتصادی را به خطر خواهد انداخت.
صالحی تصریح کرد: سیاستگذاران اگر با نگاهی تطبیقی، آیندهنگر و بر پایه داده به این چالشها پاسخ دهند، میتوانند از هوش مصنوعی بهعنوان ابزاری برای تقویت اعتماد و کارایی نظام مالی استفاده کنند؛ در غیر این صورت، همین فناوری ممکن است به عاملی برای تضعیف بنیانهای اعتماد مالی تبدیل شود.
نظر شما