به گزارش سرویس ترجمه خبرگزاری ایمنا، هوش مصنوعی از مرحله پاسخ‌دهی فراتر رفته و اکنون ابزار به کار می‌گیرد، با سیستم‌های دیگر تعامل می‌کند و به نمایندگی از انسان اقدام می‌کند. این تحول، پرسش‌های تازه‌ای درباره امنیت، حق انتخاب مشتری و نظارت انسانی مطرح می‌کند. کارشناسان چند محور اصلی را برای طراحی کنترل‌ها، تجربه‌ها و شیوه‌های کار در این دوران برشمردند که در ادامه به بررسی تعدادی از آن‌ها می‌پردازیم.
خودمختاری بیشتر، کنترل‌های قوی‌تر
هنگامی که هوش مصنوعی از ارائه اطلاعات فراتر می‌رود و دست به اقدام می‌زند، ماهیت چالش دگرگون می‌شود. در چنین حالتی، عامل هوش مصنوعی را می‌توان به مغزی در شیشه تشبیه کرد که از طریق چند بازوی مجازی به سیستم‌های گوناگون متصل است. همین اتصال‌ها بستر لازم برای کنترل رفتار عامل را فراهم می‌کنند.
برای نمونه، می‌توان به یک عامل داخلی اجازه داد ایمیل را ببیند و پیش‌نویس تهیه کند، اما ارسال نهایی را به انسان واگذار کرد. اصل حاکم این است که کنترل‌ها با میزان تأثیر احتمالی هر اقدام هماهنگ شوند، نه اینکه توانایی هوش مصنوعی به‌کلی حذف شود. همچنین تأکید شده است که مسئولیت نهایی باید بر عهده انسان بماند و یک عامل نباید کدی را که خود نوشته، تأیید کند.
عامل‌های هوشمند در نقش مشتری
عامل‌های هوش مصنوعی در حال دگرگون‌کردن شیوه تعامل مشتریان با کسب‌وکارها هستند؛ از انجام پرداخت و مذاکره گرفته تا تعامل با محصولات و خدمات. این طیف از عامل‌های کمک‌کننده تا عامل‌های خودمختار گسترده است و توانایی تعیین مرزهای تعامل با آن‌ها را می‌توان حاکمیت تجاری نامید.
در همین راستا، پذیرفته شده است که مشتریان ممکن است بیش از پیش از طریق عامل‌های بیرونی با خدمات بانکی تعامل کنند؛ البته با تدابیر حفاظتی و کنترلی متناسب با خطرهای شناسایی‌شده.
هوش مصنوعی در نقش دستیار، نه تصمیم‌گیرنده
خودکارسازی فزاینده به معنای تمایل مشتریان به واگذاری کامل اختیار تصمیم نیست. سه الگوی متمایز تعامل قابل شناسایی است: واگذاری اجرا به سیستم، انجام کار توسط خود فرد، و اتکا به هوش مصنوعی برای انتخاب. انتظار می‌رود جایی که هوش مصنوعی دامنه گزینه‌ها را محدود می‌سازد اما اختیار تصمیم نهایی را برای فرد حفظ می‌کند، اهمیتی روزافزون بیابد.
این تمایز در بانکداری نقشی راهبردی دارد، زیرا اعتماد همزمان به فناوری و به کاربران آن گره خورده است. یافته‌های یک پژوهش مشترک نشان می‌دهد ۶۹ درصد از استرالیایی‌های بررسی‌شده، در صورت آگاهی از آموزش کارکنان بانک در استفاده ایمن و مسئولانه از هوش مصنوعی، احتمال بیشتری برای انتخاب آن بانک دارند.
آمادگی امنیتی برای نسل‌های آینده هوش مصنوعی
تیم‌های امنیتی نباید معماری سیستم‌های خود را تنها بر مبنای توانایی مدل‌های امروزی بنا کنند. تجربه نشان می‌دهد هوش مصنوعی هم‌اکنون در بازبینی امنیتی، رفع آسیب‌پذیری و تشخیص و واکنش به کار گرفته می‌شود؛ با این حال، توصیه راهبردی آن است که سازمان‌ها توانمندی‌های پیش‌رو را در طراحی خود لحاظ کنند.
این چالش ماهیتی دووجهی دارد: هوش مصنوعی همزمان به‌عنوان تهدید و ابزار عمل می‌کند. از یک سو، آسیب‌پذیری‌های تازه‌ای پدید می‌آورد و توان بازیگران مخرب را برای گسترش دامنه حملات افزایش می‌دهد؛ از سوی دیگر، امکانات تازه‌ای برای تقویت دفاع‌ها و شناسایی فعالیت‌های مشکوک در اختیار می‌گذارد.
پرورش مهارت انسانی در سایه هوش مصنوعی
هوش مصنوعی می‌تواند بهره‌وری نیروی کار باتجربه را ارتقا دهد، اما در همان حال ممکن است مسیرهای یادگیری افراد کم‌تجربه را محدود سازد. این الگو در بیش از ۳۰ حرفه گوناگون مشاهده شده است و سه عامل چالش، پیچیدگی و ارتباط انسانی به‌عنوان ارکان اصلی شکل‌گیری مهارت شناخته می‌شوند.
بر این اساس، سازمان‌ها باید ساختار کار را بازطراحی کنند تا بهره‌گیری از مزیت‌های بهره‌وری هوش مصنوعی، مانع پرورش توانمندی‌های انسانی نشود. رویکرد مطلوب، نه حفظ شیوه‌های پیشین کار است و نه واگذاری بی‌قیدوشرط به خودکارسازی، بلکه طراحی دوباره فرایندها به‌گونه‌ای است که هر دو هدف همزمان محقق شوند.
نظر شما