به گزارش خبرگزاری ایمنا و به نقل از بیبیسی،نتایج یک پژوهش تازه در دانشگاه آکسفورد زنگ خطری جدی درباره استفاده از چتباتهای هوش مصنوعی بهعنوان ابزار تصمیمگیری پزشکی به صدا درآورده است.
این تحقیق که با مشارکت ۱۳۰۰ نفر انجام شده، نشان میدهد مراجعه به هوش مصنوعی به امید دریافت مشاوره قابل اعتماد، به تصمیمهای دقیقتر یا ایمنتر منجر نمیشود، محققان دریافتند مدلهای زبانی هوش مصنوعی گاه پاسخهایی ناسازگار یا اشتباه ارائه میدهند و تشخیصهای احتمالی آنها در بسیاری از موارد تفاوت چندانی با جستجوهای عادی کاربران در اینترنت ندارد.
در بخشی از این گزارش آمده است که چتباتها پس از دریافت شرح علائم کاربران، همیشه به گزینههای تشخیص نزدیکتر یا معنادارتر نمیرسند. پزشک ارشد این مطالعه هشدار داده استفاده از هوش مصنوعی برای تحلیل علائم ممکن است کاربران را به نتیجهگیری نادرست سوق دهد، بهویژه در شرایطی که فرد قصد تصمیمگیری درباره مراجعه فوری یا اقدام پزشکی مهم دارد.
یکی از یافتههای کلیدی پژوهش، وجود یک «شکست ارتباطی دوطرفه» بود. از یک سو، بسیاری از کاربران نمیدانستند چه نوع اطلاعات یا جزئیاتی را باید هنگام مطرحکردن علائم در اختیار هوش مصنوعی قرار دهند؛ از سوی دیگر، دقت پاسخها بهطور قابلتوجهی به نحوه بیان سؤال وابسته بود. همین مسئله موجب شد در موارد مشابه، پاسخهای کاملاً متفاوتی ارائه شود. محققان این شرایط را نوعی وابستگی غیرقابلپیشبینی به ساختار سؤال و نحوه توصیف مشکل دانستند.
برخی متخصصان نیز در این پژوهش تأکید کردند که چتباتها به دلیل آموزش بر دادههای گذشته، ممکن است سوگیریهای موجود در دادههای پزشکی را بازتولید کنند. این سوگیریها در مواردی میتواند منجر به نادیدهگرفتن علائم خاص برخی گروههای جمعیتی یا اشتباه در اولویتبندی شدت علائم شود. پژوهشگران هشدار دادند که چنین خطاهایی در حوزه سلامت، بهویژه هنگام تصمیمگیری درباره مراجعه به پزشک یا اورژانس، میتواند ریسک قابلتوجهی به همراه داشته باشد.
در ادامه آمده است که شرکتهای توسعهدهنده هوش مصنوعی معمولاً پیشنهاد میکنند کاربران از این مدلها بهعنوان ابزار کمککننده، نه جایگزین پزشک استفاده کنند. با این حال، افزایش محبوبیت چتباتها باعث شده برخی افراد آنها را به چشم منبعی سریع و قابلاعتماد برای مشاوره اولیه تلقی کنند. پژوهش جدید آکسفورد نشان میدهد این اعتماد ممکن است بیش از حد خوشبینانه باشد.
محققان بر ضرورت تدوین استانداردهای نظارتی و دستورالعملهای دقیق برای استفاده از هوش مصنوعی در حوزه سلامت تأکید کردهاند. آنها معتقدند تا زمانی که این ابزارها به مرحله بلوغ کامل نرسیدهاند، باید از آنها صرفاً برای افزایش آگاهی عمومی یا کمک به تفسیر اطلاعات پزشکی استفاده شود، نه برای تصمیمگیریهای مهم درباره مراقبتهای پزشکی.
به گفته پژوهشگران، پیچیدگی علائم پزشکی، تفاوتهای فردی، و ضرورت تحلیل دقیق شرایط بالینی، استفاده از هوش مصنوعی را به چالشی جدی تبدیل میکند؛ چالشی که نیازمند رویکردی محتاطانه و آموزش بهتر کاربران است.
نظر شما