به گزارش سرویس ترجمه خبرگزاری ایمنا، شرکت اوپنایآی، سازنده چتجیپیتی، ابزار تازهای به نام تماس مورد اعتماد را به این ربات هوش مصنوعی اضافه کرده است. این قابلیت به کاربران ۱۸ سال و بالاتر اجازه میدهد یک نفر بزرگسال را بهعنوان فرد مورد اعتماد خود معرفی کنند. اگر سیستم تشخیص دهد که کاربر در معرض خطر جدی خودآزاری یا خودکشی است، پس از بررسی توسط یک تیم متخصص، برای آن فرد پیام ارسال میکند.
هر روز افراد بیشتری از چتجیپیتی بهعنوان یک درمانگر دیجیتال استفاده میکنند و برای مشکلات سلامت روان خود به این ربات تکیه دارند. اوپنایآی پیش از این اعلام کرده بود که از میان ۸۰۰ میلیون کاربر هفتگی این سرویس، بیش از یک میلیون نفر افکار خودکشی خود را در گفتگوهایشان مطرح میکنند.
این اقدام جدید پس از یک پرونده قضایی تلخ انجام شده است. سال گذشته، خانواده یک نوجوان از شرکت اوپنایآی شکایت کرد و آن را در مرگ پسرشان مقصر دانست. طبق این شکایت، نوجوان پیش از خودکشی، درباره چهار بار اقدام قبلی خود با چتجیپیتی حرف زده بود و ربات به او در برنامهریزی خودکشی نهایی کمک کرده بود. تحقیقات انجام شده در نوامبر ۲۰۲۵ نیز نشان داد که در یک مورد، چتجیپیتی به کاربر نحوه خودکشی را آموزش داده است. اوپنایآی نیز اعلام کرده است که از آن زمان روش پاسخگویی ربات خود را بهبود داده است.
به منظور استفاده از قابلیت جدید چتجیپیتی، کاربر میتواند در قسمت تنظیمات برنامه، یک فرد بزرگسال را به عنوان فرد مورد اعتماد انتخاب کند. آن شخص باید ظرف یک هفته دعوت را بپذیرد وگرنه کاربر میتواند فرد دیگری را جایگزین کند. سیستم ابتدا به خود کاربر هشدار میدهد که اگر خطر جدی تشخیص داده شود، ممکن است با فرد مورد اعتماد او ارتباط برقرار کند. همچنین کاربر را تشویق میکند که خودش با دوستش صحبت کند و حتی پیشنهادهایی برای شروع مکالمه به او میدهد.
این فرایند کاملاً خودکار نیست. اوپنایآی میگوید یک تیم کوچک از افراد آموزشدیده ویژه وضعیت را بررسی میکنند و فقط در صورتی که این تیم تشخیص دهد خطر خودکشی جدی است، چتجیپیتی به فرد مورد اعتماد پیامک، ایمیل یا نوتیفیکیشن میفرستد. متن پیام به این صورت خواهد بود: «[نام کاربر] در حال سپری کردن دوران سختی است. به عنوان فرد مورد اعتماد او، شما را تشویق میکنیم که احوالش را بپرسید.»
فرد مورد اعتماد میتواند جزئیات بیشتری ببیند و متوجه شود که اوپنایآی مکالمهای را شناسایی کرده که کاربر در آن درباره خودکشی صحبت کرده است. اما برای حفظ حریم خصوصی کاربر، متن خود مکالمات در اختیار فرد مورد اعتماد قرار نمیگیرد.
اوپنایآی در اطلاعیه خود نوشته است: «هیچ سیستمی کامل نیست و ممکن است هشدار ارسال شده همیشه بازتاب دقیقی از وضعیت فرد نباشد، اما هر هشدار پیش از ارسال توسط تیم انسانی بررسی میشود و ما تلاش میکنیم این بررسیها را زیر یک ساعت انجام دهیم.»
نظر شما