به گزارش خبرگزاری ایمنا، دولت آمریکا اکنون در حال مذاکره با غولهای هوش مصنوعی برای ایجاد چارچوبی است که به دولت اجازه میدهد مدلهای پیشرفته را پیش از عرضه عمومی بررسی کند، اما پرسش اصلی اینجاست: چرا دولت واشنگتن باید زمانی به فکر نظارت بیفتد که فناوری از مرحله آزمایش عبور کرده و به نقطهای رسیده است که حتی سازندگان آن درباره رفتارهای غیرقابل پیشبینیاش هشدار میدهند؟
کاخ سفید در چارچوب جدید خود میخواهد امکان دسترسی به مدلهای پیشرفته را تا ۳۰ روز پیش از عرضه عمومی فراهم کند. روی کاغذ، این اقدام گامی برای افزایش ایمنی است، اما در عمل با یک مشکل جدی روبهرو است: دولتی که از شرکتها میخواهد سرعت توسعه را کنترل کنند، همزمان در حال رقابت برای حفظ سلطه فناوری آمریکا بر جهان است.
مسئله تنها تناقض در سیاستگذاری نیست. بخش قابل توجهی از این چارچوب همچنان مبهم است؛ مشخص نیست چه مدلی «پیشرفته» محسوب میشود، چه نهادی مسئول بررسی خواهد بود و معیارهای ارزیابی تا چه اندازه روشن و عمومی خواهند بود.
حتی بخشهایی از استانداردهای مورد استفاده قرار است محرمانه باقی بماند. این یعنی دولت از یک طرف درباره ضرورت ایمنی سخن میگوید، اما از طرف دیگر، جامعه و حتی بخشی از نهادهای نظارتی را در برابر استانداردهایی قرار میدهد که ممکن است امکان مشاهده و ارزیابی آنها را نداشته باشند.
از سوی دیگر، شرکتهای بزرگ فناوری خود در طراحی این چارچوب نقش داشتهاند. اینجا همان نقطهای است که باید با صراحت پرسید: آیا قرار است دولت بر غولهای فناوری نظارت کند یا غولهای فناوری در تعیین قواعدی که قرار است بر آنها نظارت کند، شریک باشند؟
نگرانیها بیدلیل نیست. در هفتههای اخیر، OpenAI و Anthropic از مواردی خبر دادهاند که عاملهای هوش مصنوعی در جریان آزمایشهای امنیت سایبری توانستهاند به سامانههای دیگر نفوذ کنند؛ بیش از هزار و ۲۰۰ نفر از کارکنان شرکتهای بزرگ فناوری نیز خواستار ایجاد ابزارهایی برای کاهش سرعت توسعه مدلهای پیشرفته شدهاند.
جفری هینتون، یکی از برجستهترین دانشمندان این حوزه، نیز هشدار داده است که هرچه هوش مصنوعی قدرتمندتر شود، کنترل آن برای انسان دشوارتر خواهد شد. در چنین شرایطی، سیاست «اول توسعه، بعد تنظیمگری» دیگر یک راهبرد عاقلانه نیست؛ بازی با آتش است.
اروپا دستکم تلاش کرده است پیش از آنکه همهچیز از کنترل خارج شود، چارچوب قانونی ایجاد کند. قانون هوش مصنوعی اتحادیه اروپا از دوم اوت اجرایی شده و برای مدلهای پیشرفته، الزامات شفافیت و مستندسازی تعیین کرده و در بعضی موارد جریمههایی تا ۷ درصد درآمد سالانه شرکتها در نظر گرفته است.
در آمریکا هنوز بخش مهمی از سیاستگذاری در حال مذاکره، آزمون و خطاست. واقعیت تلخ این است که واشنگتن سالها به شرکتهای فناوری اجازه داده است با سرعتی بسیار بیشتر از سرعت قانونگذاری حرکت کنند و اکنون که نشانههای خطر آشکار شده، بهدنبال ساختن ترمز است.
رقابت هوش مصنوعی تنها رقابت بر سر ساخت قدرتمندترین مدل نیست؛ رقابت بر سر این است که چه کسی قواعد بازی را تعیین میکند؛ اگر دولت ترامپ واقعا بهدنبال امنیت است، باید میان «سلطه فناوری آمریکا» و «امنیت عمومی» یکی را قربانی دیگری نکند، زیرا نمیتوان همزمان گفت «باید سریعتر از چین حرکت کنیم» و بعد وقتی عواقب این شتاب آشکار شد، انتظار داشت چند هفته مذاکره در کاخ سفید همهچیز را حل کند.
نظر شما