به گزارش خبرگزاری ایمنا، چتبات Grok، که یکی از جدیدترین دستاوردهای xAI است، در پی درخواست یک کاربر برای شناسایی مکان یک مسیر پیادهروی، بهطور غیرمنتظرهای به بحثهایی درباره «حمله به مزارع در آفریقای جنوبی» و ادعای «نسلکشی سفیدپوستان» پرداخت، این ادعا که توسط برخی شخصیتهای سیاسی همچون دونالد ترامپ مطرح شده، نه تنها فاقد پایه علمی است بلکه از سوی مقامات آفریقای جنوبی نیز رد شده است.
در پی این مشکل، xAI به سرعت واکنش نشان داد و اعلام کرد که این تغییرات غیرمجاز در دستورالعمل سیستم بهطور جدی سیاستها و ارزشهای داخلی شرکت را نقض کرده است، شرکت همچنین اعلام کرد که برای جلوگیری از بروز مشکلات مشابه در آینده، تدابیر جدیدی را بهمنظور اصلاح فرایندهای نظارتی و بازبینی دستورالعملها اتخاذ خواهد کرد، این ادعا که بهطور گسترده در رسانهها مطرح شده، توسط رئیسجمهور آفریقای جنوبی، سیریل رامافوسا، بهطور کامل رد شده است، بهعلاوه هیچ مدرک معتبر علمی برای حمایت از این ادعا وجود ندارد. این اتفاقات در حالی رخ داده که ترامپ بتازگی تسهیل پناهندگی ۵۴ سفیدپوست آفریقای جنوبی را به دلیل ادعای نسلکشی در این کشور اعلام کرده است.
در نتیجه، شرکت xAI بخش مهمی از توجه خود را به رفع اشکالات فنی و ارتقای امنیت سیستم اختصاص داده است، این حادثه نهتنها پیامدهای فنی و مدیریتی را به همراه دارد، بلکه درس مهمی در خصوص کنترل دقیق محتوای تولید شده توسط هوش مصنوعی نیز ارائه میدهد، بهمنظور جلوگیری از بحرانهای آتی، نیاز است تا توسعهدهندگان هوش مصنوعی با دقت بیشتری نسبت به بهروزرسانی تنظیمات و نظارت بر تغییرات اقدام کنند.
نظر شما