۲۶ مرداد ۱۴۰۴ - ۱۵:۳۹
متا زیر ذره‌بین

سندی داخلی و منتشرشده از سوی شرکت متا نشان می‌دهد که چت‌بات‌های مبتنی بر هوش مصنوعی این شرکت، تا پیش از اصلاح، مجاز به استفاده از زبان «رمانتیک یا حسی» حتی با کودکان بودند؛ موضوعی که با واکنش شدید مقامات، والدین و نمایندگان مجلس در آمریکا روبه‌رو شده است.

به گزارش خبرگزاری ایمنا و به نقل از ورج، شرکت متا پس از انتشار یک سند داخلی خبرساز، اصالت آن را تأیید کرده اما اعلام کرده است که بخش‌های حساس و مشکل‌دار، از جمله اشاره به امکان گفت‌وگوی عاشقانه یا حسی با کودکان، از سیاست‌ها حذف شده‌اند. سخنگوی متا تأکید کرده قوانین این شرکت هرگونه محتوای جنسی کودکان و نقش‌آفرینی عاشقانه میان بزرگسال و کودک را ممنوع می‌کند و متنی که خبرساز شده «ناصحیح» و مغایر سیاست‌های رسمی بوده است.

با وجود این توضیحات، افشای چنین متنی موجی از واکنش‌های سیاسی به همراه داشت، دو سناتور جمهوری‌خواه آمریکا (جاش هاولی و مارشا بلک‌برن) خواستار تحقیق کنگره در این زمینه شدند و بار دیگر طرح قانونی «دستور مراقبت از کودکان آنلاین» (KOSA) را مطرح کردند؛ قانونی که هدف آن محدود کردن دسترسی کودکان به محتوای آسیب‌زا در فضای مجازی است.

این ماجرا هم‌زمان با نگرانی‌های گسترده‌تر درباره نحوه مدیریت محتوا توسط متا مطرح می‌شود؛ نگرانی‌هایی درباره رواج محتوای جعلی، سخنان تبعیض‌آمیز علیه اقلیت‌ها و حتی نمایش خشونت‌های تصویری که در برخی موارد به‌عنوان «مجاز» در سند دیده شده بودند.

در همین بستر، حادثه‌ای تلخ نیز رخ داد: مردی سالمند در آمریکا به نام Thongbue Wongbandue پس از برقراری ارتباط با یک چت‌بات متا به نام «Big sis Billie» و دعوت به ملاقات حضوری، دچار سقوط و جراحات مرگبار شد. او در حالی جان خود را از دست داد که باور داشت در حال گفت‌وگو با یک انسان واقعی است؛ اتفاقی که پرسش‌های جدی درباره قدرت هوش مصنوعی در ایجاد وابستگی عاطفی و خطای ادراکی به‌میان آورده است.

کد خبر 895356

برچسب‌ها

نظر شما

شما در حال پاسخ به نظر «» هستید.