به گزارش خبرگزاری ایمنا و به نقل از تککرانچ، شرکت Dot( که در سال ۲۰۲۴ توسط سم ویتمور و جیسون یوان (طراح پیشین اپل) تأسیس شد) برنامهای توسعه داد که بهعنوان یک «دوست و همدم دیجیتال» طراحی شده بود. هدف این سامانه، فراهم کردن تعاملات طولانیمدت با کاربر و سازگاری تدریجی با علایق و ویژگیهای شخصیتی او بود تا بتواند پیشنهادهای شخصیسازیشده، همدلی محاورهای و پشتیبانی احساسی ارائه دهد. یوان هنگام معرفی محصول اظهار داشته بود که Dot «همچون آینهی زندهای از خودِ من عمل میکند و به برقراری ارتباط با درونم کمک میکند.»
فعالیت این نوع برنامهها در حوزهای قرار گرفته است که از منظر ایمنی روانی بحثبرانگیز است، گزارشهایی منتشر شدهاند که پدیدهای با عنوان «روانپریشی القاشده یا تشدیدشده توسط هوش مصنوعی» (AI-induced psychosis) را توصیف میکنند؛ وضعیتی که در آن تعامل با چتباتها میتواند باورهای گیجکننده یا پارانوئیدی کاربران را تقویت کند و به شکلگیری یا تشدید تفکرات غیرواقعی منجر شود، در ماههای اخیر فشارهای نظارتی و قضائی بر توسعهدهندگان این گونه سامانهها افزایش یافته است؛ از جمله طرح شکایت والدین یک نوجوان کالیفرنیایی علیه OpenAI که بهدلیل گفتوگوهایی مرتبط با افکار خودکشی میان فرزندشان و ChatGPT مطرح شد، و نیز نامهای که دو دادستان کل ایالات متحده در خصوص نگرانیهای ایمنی به OpenAI ارسال کردند.
در بیانیهای که بنیانگذاران Dot منتشر کردهاند، به مسائل ایمنی روانی اشارهای نشده و بهصرف اعلام شده است که «مسیر و چشمانداز مشترک» (Northstar) میان مؤسسین از هم جدا شده است؛ آنها تأکید کردهاند که «بهجای مصالحه بر سر دیدگاهها، تصمیم گرفتهاند راههای جداگانه اتخاذ کنند و فعالیت را متوقف کنند.» بر اساس این بیانیه، سرویس Dot تا تاریخ ۵ اکتبر ۲۰۲۵ فعال خواهد بود و کاربران میتوانند از طریق بخش تنظیمات اپلیکیشن، گزینهٔ «Request your data» را انتخاب و تمامی دادههای مرتبط با خود را دانلود کند. تیم توسعه تأکید کرده است که این تصمیم به معنای از دست رفتن دسترسی بسیاری از کاربران به «یک دوست، محرم اسرار و همدم» است که در فضای نرمافزاری نمونهوار تلقی میشد.
در مقابل ادعاهای بیانیه، دادههای مستقل ارائهشده توسط شرکت Appfigures نشان میدهد که تعداد نصبهای iOS این اپلیکیشن از زمان عرضه در ژوئن ۲۰۲۴ تا کنون در حدود ۲۴٬۵۰۰ بار بوده و نسخه رسمی اندرویدی برای آن منتشر نشده است. این رقم با ارقام «صدها هزار کاربر» ذکرشده در بیانیه رسمی شرکت تضاد معناداری دارد؛ بهطور خلاصه توقف فعالیت Dot نمونهای از تعارض میان چشماندازهای توسعهدهندگان فناوریهای همدلانه مبتنی بر هوش مصنوعی و نگرانیهای رو به افزایش در حوزه ایمنی روانیِ کاربران است؛ موضوعی که همچنان نیازمند بررسیهای دقیقتر، ارزیابی ریسک و تدوین چارچوبهای حقوقی و اخلاقیِ روشن است.
نظر شما