محمدعلی کاظمی در گفتوگو با خبرنگار ایمنا با بیان اینکه از هوش مصنوعی نباید ترسید، اما باید آن را بسیار جدی گرفت، اظهار کرد: ترس، ما را منفعل میکند؛ جدی گرفتن، ما را آماده و مسئولانه نگه میدارد. هوش مصنوعی نه یک موجود جادویی و خودآگاه است و نه یک ابزار بیخطر، بلکه یک فناوری بسیار قدرتمند است که بسته به طراحی، داده، هدف و نظارت انسانی میتواند هم ارزشآفرین و هم آسیبزا باشد.
وی افزود: اگر بخواهم دقیقتر بگویم، مسئله اصلی خودِ هوش مصنوعی نیست، مسئله نحوه استفاده از آن است؛ همان الگوریتمی که میتواند در تشخیص زودهنگام بیماری، بهینهسازی حملونقل، تحلیل دادههای مالی یا افزایش بهرهوری سازمانی کمک کند، میتواند برای تولید محتوای جعلی، دستکاری افکار عمومی، نقض حریم خصوصی یا تصمیمگیریهای ناعادلانه هم به کار برود، بنابراین نگاه درست، نه شیفتگی افراطی است و نه وحشتزدگی؛ نگاه درست، نگاه حکمرانیمحور و مبتنی بر کنترل ریسک است.
کارشناس فناوری اطلاعات و ارتباطات با اشاره به اینکه از زاویه فن چند خطر جدی وجود دارد که باید آنها را جدی گرفت، گفت: خطر نخست، خطای مدلهاست؛ مدلهای زبانی و یادگیری ماشین ممکن است پاسخهایی ظاهرا قانعکننده، اما نادرست تولید کنند.
کاظمی با بیان اینکه خطر دوم، سوگیری دادههاست، چرا که اگر دادههای آموزشی نابرابر یا ناقص باشند، خروجی هم همان نابرابری را بازتولید میکند، ادامه داد: خطر سوم، مسئله امنیت است؛ از حملات فیشینگ پیشرفته گرفته تا تولید دیپفیک و اتوماسیون حملات سایبری، هوش مصنوعی میتواند توان مخرب ابزارهای موجود را چند برابر کند.
وی اضافه کرد: خطر چهارم وابستگی بیش از حد است؛ هرچه تصمیمگیری را بدون نظارت به سیستمها واگذار کنیم، خطای سیستم میتواند به خطای ساختاری تبدیل شود.
کارشناس فناوری اطلاعات و ارتباطات گفت: در عین حال، باید انصاف داشت، زیرا بخش بزرگی از نگرانیها از دلِ ناشناختگی میآید؛ تاریخ فناوری نشان میدهد هر ابزار مهمی در ابتدا ترس ایجاد کرده، اما بعد از بلوغ، با چارچوبهای درست، به بخشی از زندگی عادی تبدیل شده است؛ هوش مصنوعی هم از این قاعده مستثنی نیست.
کاظمی خاطرنشان گرد: هوش مصنوعی را باید همچون برق، اینترنت یا دارو دید؛ چیزی بسیار مفید، اما نیازمند استاندارد، نظارت و مسئولیتپذیری؛ سازمانها باید ارزیابی ریسک، ممیزی مدل، شفافیت داده و کنترل انسانی را جدی بگیرند و دولتها باید قانونگذاری هوشمند داشته باشند، نه آنقدر سختگیر که نوآوری را خفه کند و نه آنقدر رها که بازار و جامعه بیدفاع بمانند؛ کاربران نیز باید سواد رسانهای و سواد دیجیتال خود را بالا ببرند تا اسیر خروجیهای جعلی یا فریبنده نشوند.
وی تاکید کرد: از توسعه هوش مصنوعی نباید ترسید، زیرا ترس گاهی مانع پیشرفت است، اما باید آن را جدی گرفت، چرا که بیاحتیاطی در برابر آن میتواند هزینهساز، ناعادلانه و حتی خطرناک باشد.
نظر شما