به گزارش خبرگزاری ایمنا، هر عصری برای خود یک ترس بزرگ دارد؛ ترسی که ابتدا در حاشیه مینشیند، بعد آرامآرام به اتاقهای تصمیمگیری راه پیدا میکند و سرانجام، از پشت درهای بسته به میان مردم میآید. روزگاری ماشین بخار، روزی بمب اتم و امروز هوش مصنوعی، هر کدام انسان را با این پرسش قدیمی روبهرو کردهاند که اگر ساخته دست بشر از توان کنترلکننده خود جلو بزند، چه اتفاقی خواهد افتاد؟
این پرسش در سپتامبر ۲۰۲۶ دیگر فقط موضوع داستانهای علمیتخیلی نیست. جیکوب کاکسون، پژوهشگری که سه سال در OpenAI و Anthropic در حوزه پیشآموزش مدلهای هوش مصنوعی کار کرده بود، از Anthropic استعفا داد و در شبکه اجتماعی X نوشت که این شرکتها بهدرستی و مسئولانه رفتار نمیکنند و در مسابقهای برای ساخت هوش مصنوعیِ خودبهبوددهنده شتاب گرفتهاند.
او هشدار داد که چنین سامانههایی میتوانند به سطحی از توانایی برسند که از کنترل انسانی فراتر رود. گزارشهای رسانهای نیز نشان میدهد استعفای او با نگرانیهای جدی درباره سرعت پیشرفت مدلهای پیشرفته و دشواری کنترل نسلهای آینده AI همراه بوده است.
آنچه این ماجرا را از یک استعفای معمولی جدا کرد، واکنش ایوان هوبینگر، پژوهشگر ارشد حوزه همسوسازی در Anthropic بود. هوبینگر در پاسخ به کاکسون گفت بر این باور است که هوش مصنوعی میتواند همه انسانها را از بین ببرد و احتمال شخصی خود را برای چنین رخدادی در دهه آینده، بیش از ۱۰ درصد اعلام کرد. او همزمان تأکید کرد که Anthropic برای ایمنی تلاش میکند، اما هنوز راهحلی برای مسئله همسوسازی ابرهوش در اختیار ندارد و روشن نیست که در مسیر حل این مشکل قرار گرفته باشد.
اینجا اما مسئله فقط خطر خودِ هوش مصنوعی نیست؛ شاید پرسش عمیقتر، مسابقهای باشد که میان شرکتها و قدرتهای فناوری شکل گرفته است. منطق این مسابقه ساده است؛ اگر یک شرکت مکث کند، رقیبش جلو میافتد؛ اگر یک کشور سرعت خود را کم کند، کشور دیگری ممکن است مزیت راهبردی پیدا کند، به همین دلیل حتی وقتی بخشی از سازندگان از خطر سخن میگویند، انگیزه اقتصادی، فناورانه و ژئوپلیتیکی برای ادامه حرکت همچنان پابرجاست.
با این حال نباید از کنار یک واقعیت مهم نیز گذشت؛ اینکه برخی پژوهشگران احتمال بسیار بالایی برای فاجعه قائلاند، به معنای وجود یک اجماع علمی درباره نابودی بشر نیست. شماری از متخصصان این سناریوها را بیش از حد بدبینانه یا بدون پشتوانه کافی میدانند و بر خطرهای ملموستری همچون حملات سایبری، سوءاستفاده و از دست رفتن کنترل در کاربردهای واقعی تأکید میکنند.
پس سؤال اصلی شاید این نباشد که آیا هوش مصنوعی روزی انسان را نابود میکند؛ سؤال جدیتر این است که انسان، پیش از رسیدن به نقطهای که پاسخ آن را نداند، چه میزان کنترل، قانون، نظارت و احتیاط برای این فناوری در نظر گرفته است؟
در ادامه همین نقطه خاکستری را دنبال میکنیم؛ مرز میان پیشرفت و شتابزدگی کجاست، آیا میتوان ابرهوش را واقعا همسو با انسان نگه داشت، و اگر خودِ سازندگان از آیندهای که در حال ساختنش هستند نگراناند، جامعه باید دقیقا از چه چیزی بترسد؟
خطر اصلی هوش مصنوعی در مسابقهای است که ترمز ندارد
محمد رسول میرزایی، کارشناس حوزه هوش مصنوعی و بازار کار در اینباره اظهار کرد: نباید بحث را به این سؤال تقلیل دهیم که آیا هوش مصنوعی بشر را نابود میکند یا نه؛ مسئله مهمتر این است که ما با یک فناوری روبهرو هستیم که سرعت رشد آن از سرعت شکلگیری سازوکارهای نظارت، قانونگذاری و حتی شناخت پیامدهایش بیشتر شده است، بنابراین خطر از همین شکاف آغاز میشود.
وی با بیان اینکه اقتصاد نیز اجازه نمیدهد شرکتها بهسادگی ترمز بکشند، افزود: سرمایهگذاری خصوصی جهانی در هوش مصنوعی در سال ۲۰۲۵ بیش از دو برابر شد و سرمایهگذاری مولد هوش مصنوعی بیش از ۲۰۰ درصد رشد کرد؛ وقتی میلیاردها دلار سرمایه، زیرساخت محاسباتی و رقابت ژئوپلیتیکی پشت یک فناوری قرار گرفته باشد، توصیه اخلاقی به کاهش سرعت، بهتنهایی کارایی ندارد.
این کارشناس حوزه هوش مصنوعی و بازار کار گفت: تصویر درست این نیست که فردا صبح میلیونها نفر بیکار میشوند؛ تغییر عمیقتر و خطرناکتر، تغییر در خودِ ساختار شغل است؛ سازمان بینالمللی کار میگوید حدود یکچهارم نیروی کار جهان در مشاغلی قرار دارند که نوعی رویارویی با هوش مصنوعی مولد دارند، اما بیشتر این مشاغل شاید تغییر میکنند، نه اینکه کامل حذف شوند، با این حال حدود ۳.۳ درصد اشتغال جهان در بالاترین سطح رویارویی قرار دارد.
تصمیمهای کاملا عقلایی میتوانند در مجموع به یک نتیجه غیرعقلایی برسند
میرزایی ادامه داد: این تحول ممکن است ابتدا کسانی را تحت فشار قرار دهد که هنوز وارد بازار کار نشدهاند یا در ابتدای مسیر حرفهای هستند؛گزارش ۲۰۲۶ استنفورد نشان میدهد اشتغال توسعهدهندگان نرمافزار ۲۲ تا ۲۵ ساله تقریبا ۲۰ درصد نسبت به ۲۰۲۴ کاهش پیدا کرده است. این یعنی مسئله فقط حذف شغل نیست؛ ممکن است نردبان ورود به شغل هم در حال کوتاه شدن باشد.
وی بیان کرد: از طرف دیگر نباید گرفتار انقراض بشر توسط هوش مصنوعی شویم؛ شواهد فعلی هنوز نشان نمیدهد که اقتصاد جهانی در حال تجربه یک موج گسترده بیکاری ناشی از AI است، حتی سازمان بینالمللی کار تأکید کرده شاخصهای رویارویی با هوش مصنوعی، پیشبینی مستقیم از بیکاری نیستند، بنابراین باید میان توانایی فنی یک مدل برای انجام یک وظیفه و حذف واقعی یک شغل تفاوت قائل شویم.
این کارشناس حوزه هوش مصنوعی و بازار کار با اشاره به مسئله اصلی افزود: به نظرم خطر بزرگتر، مسابقه است؛ وقتی یک شرکت فکر میکند اگر من آهستهتر حرکت کنم، رقیبم جلو میزند و یک کشور هم تصور میکند اگر او مکث کند، کشور دیگری مزیت راهبردی پیدا میکند، تصمیمهای کاملا عقلایی میتوانند در مجموع به یک نتیجه غیرعقلایی برسند؛ این همان منطق معمای زندانی است؛ با این تفاوت که اینبار موضوع، یک بازار یا قرارداد تجاری نیست، بلکه یک فناوری است که میتواند ساختار اقتصاد و قدرت را تغییر دهد.
میرزایی تأکید کرد: آینده هوش مصنوعی را فقط مهندسان تعیین نمیکنند؛ اقتصاددان، قانونگذار، دانشگاه، کارفرما و حتی نظام آموزشی هم در تعیین این آینده نقش دارند؛ اینکه سازمانها امروز چگونه هوش مصنوعی را وارد کار میکنند، چه میزان اختیار به عاملهای خودکار میدهند و برای ارزیابی مستقل مدلها چه سازوکاری میسازند، به اندازه خودِ پیشرفت فنی اهمیت دارد
خطرات واقعی هوش مصنوعی را از سناریوهای فرضی انقراض بشر جدا کنیم
محمدعلی کاظمی، کارشناس فناوری اطلاعات و ارتباطات اظهار کرد: هوش مصنوعی فناوری مهمی است و باید برای آن قانون، نظارت و چارچوب ایمنی ایجاد کنیم، اما از این نقطه به بعد به نظرم استدلال کمی بیش از اندازه به سمت ترس حرکت میکند، بنابراین ما نباید هر چیزی را که ممکن است، به چیزی که محتمل است تبدیل کنیم.
وی افزود: وقتی یک پژوهشگر میگوید احتمال دارد هوش مصنوعی در دهه آینده بشر را نابود کند، این یک دیدگاه شخصی درباره یک سناریوی بسیار پیچیده است، نه گزارشی از یک واقعیت مشاهدهشده.
این کارشناس فناوری اطلاعات و ارتباطات ادامه داد: اگر کسی بگوید احتمال سقوط یک هواپیما یک درصد است، این با مشاهده یک موتور خراب تفاوت دارد؛ در مورد ابرهوش هم هنوز خودِ موضوع، یعنی سامانهای با توانایی عمومی بسیار فراتر از انسان و استقلال عملی گسترده، به شکلی که در سناریوهای انقراض بشر فرض میشود، وجود خارجی ندارد.
کاظمی عنوان کرد: ما گاهی سه مفهوم را با هم قاطی میکنیم؛ توانایی، خودمختاری و قدرت؛ یک مدل ممکن است در برنامهنویسی، ریاضیات یا تولید متن عملکرد فوقالعادهای داشته باشد، اما این بهخودیخود به معنی داشتن اراده مستقل، هدف پایدار، دسترسی نامحدود به زیرساختها یا امکان تصرف منابع انسانی نیست.
وی خاطرنشان کرد: همین تفاوت برای فهم مسئله بازار کار هم ضروری است؛ اینکه هوش مصنوعی میتواند بخشی از یک شغل را انجام دهد، به این معنی نیست که کل آن شغل از بین میرود؛ یک وکیل با نرمافزار حقوقی حذف نمیشود؛ یک پزشک با سیستم تشخیص پزشکی حذف نمیشود و یک خبرنگار هم صرفا بهدلیل وجود مدل زبانی از بین نمیرود؛ چیزی که تغییر میکند، ترکیب مهارتهاست؛ ممکن است بعضی وظایف حذف شوند و همزمان وظایف جدیدی ایجاد شوند.
اگر تمام انرژی خود را صرف سناریوی نابودی بشر کنیم ممکن است مشکلاتی را که همین امروز جلوی چشم ما هستند دیر ببینیم
این کارشناس فناوری اطلاعات و ارتباطات گفت : اینکه شرکتها در رقابت هستند، الزاما به این معنا نیست که هیچ ترمزی وجود ندارد؛ همین امروز شرکتها برای ارزیابی ایمنی، تست مدل، محدودسازی دسترسی، پایش رفتار و ایجاد سامانههای حفاظتی هزینه میکنند، زیرا یک مدل خطرناک فقط برای جامعه خطرناک نیست؛ برای خود شرکت هم میتواند فاجعه اقتصادی، حقوقی و اعتباری ایجاد کند.
کاظمی تصریح کرد: اگر معتقد باشیم نزدیک شدن به ابرهوش ذاتا به معنای حرکت به سمت نابودی بشر است، باید توضیح دهیم چرا همین فناوری در بسیاری از حوزهها در حال افزایش بهرهوری، سرعت پژوهش، کشف دارو، برنامهنویسی و آموزش است؛ نمیشود فقط هزینههای احتمالی را دید و منافع بالفعل را نادیده گرفت.
وی اضافه کرد: نمیگویم خطر وجود ندارد؛ اتفاقا خطر وجود دارد، اما خطرهای واقعی امروز را باید از سناریوهای فرضی فردا جدا کنیم؛ حملات سایبری، جعل اطلاعات، سوءاستفاده از مدلها، وابستگی بیش از حد سازمانها به سیستمهای خودکار و حذف برخی مشاغل، خطرهایی هستند که همین حالا قابل مشاهدهاند؛ اگر تمام انرژی خود را صرف سناریوی نابودی بشر کنیم، ممکن است مشکلاتی را که همین امروز جلوی چشم ما هستند، دیر ببینیم.
این کارشناس فناوری اطلاعات و ارتباطات گفت : با جملهای مثل «ما داریم چیزی را میسازیم که نمیتوانیم کنترلش کنیم» مشکل دارم، زیرا بخش دوم این جمله هنوز اثبات نشده است؛ دقیقتر این است که بگوییم هنوز نمیدانیم در آینده با چه میزان توان و خودمختاری روبهرو خواهیم شد، بنابراین باید از امروز برای سناریوهای مختلف آماده باشیم؛ سیاستگذاری خوب از ترس آغاز نمیشود؛ از اندازهگیری آغاز میشود.
به گزارش ایمنا، ما با شکافی میان سرعت توانایی فنی و سرعت شکلگیری نهادهای نظارتی روبهرو هستیم، اما این شکاف را نمیتوان فقط با هشدار یا خوشبینی پر کرد؛ نمیتوان سناریوی انقراض را قطعی دانست، همچنین نمیتوان آن را صرفا بهعنوان یک داستان علمیتخیلی کنار گذاشت؛ تصمیم درست در شرایط نبود قطعیت، نه بدبینانهترین سناریو است و نه خوشبینانهترین؛ تصمیمگیری مقاوم است.
در این موضوع خطر بزرگتر مسابقه است؛ وقتی شرکتها و کشورها احساس میکنند توقف یعنی عقبماندن، حتی تصمیمهای عقلانی میتوانند به نتیجهای غیرعقلایی برسند. این همان منطق معمای زندانی است، اما اینبار موضوع یک بازار یا قرارداد تجاری نیست؛ زیرساخت محاسباتی، امنیت ملی و آینده اقتصاد جهانی است. راهحل هم فقط توصیه اخلاقی به کاهش سرعت نیست؛ باید توافقهای بینالمللی، استانداردهای مشترک ارزیابی مدل، گزارشدهی اجباری رخدادها و سازوکارهای راستیآزمایی وجود داشته باشد.
درست است که نباید احتمال را با واقعیت اشتباه گرفت. هنوز ابرهوشی با اراده مستقل، هدف پایدار و دسترسی نامحدود به زیرساختها وجود خارجی ندارد، اما در حوزه خطرهای فاجعهبار، استاندارد جهانی این نیست که تا وقوع فاجعه صبر کنیم. در هوانوردی منتظر سقوط هواپیما نمیمانیم تا ایمنی را جدی بگیریم. در هوش مصنوعی هم باید از همین امروز شاخصهای پیشهشدار، ارزیابی تواناییهای خطرناک، محدودسازی دسترسی به مدلهای بسیار توانمند و حسابرسی مستقل را بسازیم.
بازار کار هم دقیقا همانطور که در گزارش آمد، بیشتر دچار بازآرایی میشود تا حذف یکباره، اما خطر واقعی، بستهشدن نردبان ورود برای نیروی کار جوان است؛ اگر شرکتها از هوش مصنوعی برای حذف وظایف سطح ابتدایی استفاده کنند، یک نسل ممکن است فرصت یادگیری حرفهای را از دست بدهد. سیاست درست، ترکیبی از بازآموزی، تنظیم مقررات کار و ایجاد مسیرهای جدید مهارتآموزی است.
پرسش اصلی این نیست که از هوش مصنوعی بترسیم یا نه. پرسش این است که آیا میخواهیم احتیاط را نهادینه کنیم یا نه. ترس بدون نهاد، فلجکننده است؛ خوشبینی بدون نظارت، خطرناک. مسیر عاقلانه این است که از اندازهگیری شروع کنیم، اما اندازهگیری را به نهادهای مستقل بسپاریم و خطوط سرخ را پیش از رسیدن به نقطه بیبازگشت تعیین کنیم.
گزارش از: مهدی مردانی
نظر شما