به گزارش خبرگزاری ایمنا، هوش مصنوعی به‌تدریج جایگاه خود را در بخش‌های مختلف نظام سلامت پیدا کرده است؛ از تحلیل تصاویر پزشکی و شناسایی الگوهای مرتبط با بیماری‌ها تا کمک به ارزیابی وضعیت بیماران و پیشنهاد روش‌های درمانی. این فناوری با قابلیت پردازش حجم گسترده‌ای از اطلاعات، می‌تواند در تصمیم‌گیری پزشکی نقش مؤثری داشته باشد، اما ورود آن به فرایند درمان، پرسش‌هایی درباره حدود اعتماد به خروجی سامانه‌ها و شیوه پاسخگویی در صورت بروز خطا مطرح می‌کند.
در حوزه پزشکی، اشتباه در تشخیص یا انتخاب روش درمان ممکن است پیامدهای جدی برای بیمار داشته باشد. در چنین شرایطی، مشخص کردن مسئولیت حقوقی همیشه ساده نیست، زیرا خطا می‌تواند به تصمیم پزشک، نقص فنی نرم‌افزار، کیفیت نامناسب داده‌های آموزشی یا استفاده نادرست از سامانه مربوط باشد و بررسی هر پرونده نیازمند شناسایی منشأ خطا و ارزیابی نقش هر یک از عوامل دخیل در فرایند تشخیص و درمان است.
در نظام حقوقی کشور، قواعد موجود درباره مسئولیت پزشکی و جبران خسارت می‌توانند مبنای بررسی پرونده‌های مرتبط با هوش مصنوعی باشند. ماده ۴۹۵ قانون مجازات اسلامی نیز در چارچوب شرایط و استثناهای مقرر، به مسئولیت پزشک در صورت وارد شدن آسیب به بیمار می‌پردازد. استفاده از ابزارهای هوشمند به‌خودی‌خود به معنای انتقال مسئولیت حرفه‌ای پزشک به سامانه نیست و در کنار این موضوع، حقوق بیمار برای دریافت اطلاعات کافی، آگاهی از روش‌های تشخیصی و درمانی و تصمیم‌گیری آگاهانه اهمیت دارد.
در سطح بین‌المللی نیز گسترش کاربرد هوش مصنوعی، توجه قانون‌گذاران و نهادهای تخصصی را به ضرورت نظارت و مدیریت خطر افزایش داده است. در اتحادیه اروپا، بعضی سامانه‌های مرتبط با تجهیزات پزشکی، با توجه به نوع کاربرد و شرایط قانونی، ممکن است در گروه سامانه‌های پرخطر قرار گیرند و مشمول الزامات ویژه شوند. این رویکرد بر اهمیت ایمنی، نظارت انسانی و پاسخگویی تأکید دارد؛ موضوعاتی که با توسعه هوش مصنوعی در پزشکی، برای نظام حقوقی ایران نیز اهمیت بیشتری پیدا می‌کنند.
هوش مصنوعی در پزشکی؛ اگر ماشین اشتباه کند، چه کسی پاسخگوست؟
سید محمدهادی حسینی‌مرام، حقوق‌دان و پژوهشگر حوزه حقوق خصوصی در گفت‌وگو با خبرنگار ایمنا با بیان اینکه هوش مصنوعی وارد اتاق معاینه شده، اما هنوز مسئولیت پزشک را از بین نبرده است، اظهار کرد: امروز هوش مصنوعی می‌تواند در تشخیص بیماری، تحلیل تصاویر پزشکی، پیشنهاد روش درمان و حتی ارزیابی وضعیت بیمار به پزشک کمک کند، اما از منظر حقوقی، این سوال مهم مطرح می‌شود که اگر تشخیص یا پیشنهاد یک سامانه هوش مصنوعی اشتباه باشد و بیمار آسیب ببیند، چه کسی باید پاسخگو باشد؟
وی با بیان اینکه در نظام حقوقی، هنوز قانون جامع و مستقلی که به‌طور ویژه مسئولیت ناشی از خطای هوش مصنوعی پزشکی را تعیین کند، وجود ندارد و بنابراین باید از قواعد موجود استفاده کرد، افزود: ماده ۴۹۵ قانون مجازات اسلامی در خصوص مسئولیت پزشک مقرر می‌کند که اگر پزشک در جریان معالجه موجب تلف یا صدمه بدنی شود، در شرایط مقرر قانونی ضامن است، مگر اینکه عمل او مطابق مقررات پزشکی و موازین فنی باشد یا شرایط قانونی دیگر وجود داشته باشد، بنابراین استفاده از هوش مصنوعی را نمی‌توان به‌سادگی وسیله‌ای برای انتقال مسئولیت از پزشک به ماشین دانست.
حقوق‌دان و پژوهشگر حوزه حقوق خصوصی با بیان اینکه پزشک نمی‌تواند بگوید «هوش مصنوعی این تشخیص را داد» و از مسئولیت حرفه‌ای خود خارج شود، تصریح کرد: یکی از اصول مهم در استفاده از هوش مصنوعی در پزشکی باید این باشد که هوش مصنوعی ابزار تصمیم‌یار پزشک باشد، نه جایگزین مسئولیت حرفه‌ای او و این مسئله با حقوق بیمار در کشور نیز ارتباط مستقیم دارد. در منشور حقوق بیمار، بر ارائه خدمات سلامت بر پایه دانش روز، برتری منافع بیمار، ارائه اطلاعات کافی و حق بیمار برای تصمیم‌گیری آزادانه و آگاهانه تأکید شده است، همچنین بیمار حق دارد درباره روش‌های تشخیصی و درمانی، نقاط قوت و ضعف و عوارض احتمالی اطلاعات دریافت کند.
حسینی‌مرام با بیان اینکه اگر هوش مصنوعی در فرایند تشخیص یا درمان نقش مؤثری داشته باشد، به نظر می‌رسد شفافیت درباره استفاده از آن نیز باید بخشی از رابطه حرفه‌ای پزشک و بیمار باشد، ادامه داد: در پرونده‌ای که هوش مصنوعی در آن دخالت داشته، ممکن است چند عامل کنار یکدیگر قرار داشته باشند که شامل پزشک، بیمارستان یا مرکز درمانی، شرکت تولیدکننده نرم‌افزار و حتی مجموعه‌ای که داده‌های مورد استفاده برای آموزش سامانه را فراهم کرده است، می‌شود.
وی گفت: باید مشخص شود خطا در کدام مرحله اتفاق افتاده است؛ آیا پزشک بدون بررسی مناسب به خروجی سامانه اعتماد کرده است؟ آیا نرم‌افزار از ابتدا استانداردهای لازم را نداشته است؟ آیا داده‌های آموزشی ناقص یا جانبدارانه بوده‌اند؟ یا استفاده از سامانه برای آن نوع تصمیم پزشکی مجاز و مناسب نبوده است؟
ورود جدی هوش مصنوعی به پزشکی، قانون‌گذار را ناگزیر می‌کند که مسئولیت بازیگران مختلف این زنجیره را روشن‌تر مشخص کند
حقوق‌دان و پژوهشگر حوزه حقوق خصوصی با بیان اینکه در حقوق کنونی کشور می‌توان از قواعد موجود مسئولیت پزشکی و قواعد عمومی جبران خسارت برای تحلیل این موارد استفاده کرد، اضافه کرد: به نظر می‌رسد ورود جدی هوش مصنوعی به پزشکی، قانون‌گذار را ناگزیر می‌کند که مسئولیت بازیگران مختلف این زنجیره را روشن‌تر مشخص کند.
حسینی‌مرام افزود: در اروپا و آلمان، هوش مصنوعی پزشکی در حوزه پرخطر قرار می‌گیرد و نظارت انسانی اهمیت ویژه‌ای دارد. در اتحادیه اروپا، «قانون هوش مصنوعی اتحادیه اروپا» یا AI Act برای سامانه‌هایی که می‌توانند خطر جدی برای سلامت، ایمنی یا حقوق بنیادین انسان ایجاد کنند، رویکرد سخت‌گیرانه‌تری در نظر گرفته است. سامانه‌های هوش مصنوعی مرتبط با تجهیزات پزشکی نیز در مواردی می‌توانند در دسته سامانه‌های پرخطر قرار بگیرند و با الزامات بیشتری روبه‌رو شوند. آلمان نیز در سال ۲۰۲۶ قانون ملی KI-MIG را برای اجرای مقررات اتحادیه اروپا در زمینه هوش مصنوعی به تصویب رسانده است و پیام این رویکرد روشن است که هرچه تصمیم هوش مصنوعی بیشتر با جان و سلامت انسان ارتباط داشته باشد، نمی‌توان آن را همچون یک نرم‌افزار عادی و کم‌خطر تلقی کرد.
وی ادامه داد: فرانسه نیز به سمت یک اصل مهم حرکت کرده است که هوش مصنوعی می‌تواند به پزشک کمک کند، اما نباید مسئولیت انسانی را محو کند. در فرانسه، استفاده از هوش مصنوعی در حوزه سلامت در کنار مقررات اروپایی و قوانین داخلی، با موضوع حفاظت از داده‌های سلامت و مسئولیت پزشکی مورد توجه قرار گرفته است. کمیسیون ملی انفورماتیک و آزادی‌های فرانسه (CNIL) نیز در سال ۲۰۲۶ برای توسعه و ارزیابی سامانه‌های هوش مصنوعی در حوزه سلامت، بر الزامات مرتبط با چرخه استفاده از داده‌های سلامت تأکید کرده است.
حقوق‌دان و پژوهشگر حوزه حقوق خصوصی خاطرنشان کرد: از سوی دیگر، آکادمی ملی پزشکی فرانسه در بحث مسئولیت پزشکی و هوش مصنوعی تصریح کرده که ورود AI اصول سنتی مسئولیت پزشکی را از بین نمی‌برد و بر اطلاع‌رسانی به بیمار، اعتبارسنجی داده‌ها و نظارت انسانی پزشک تأکید کرده است و به نظر می‌رسد یک اصل در حال شکل‌گیری است که هوش مصنوعی ممکن است ابزار پزشک باشد، اما نباید به سپری برای فرار از مسئولیت تبدیل شود.
هوش مصنوعی می‌تواند ظرفیت‌های تازه‌ای برای تشخیص و درمان بیماری‌ها فراهم کند، اما استفاده از آن در حوزه سلامت، ضرورت پاسخگویی در برابر خطاهای احتمالی را از میان نمی‌برد. هرچه نقش سامانه‌های هوشمند در تصمیم‌های مرتبط با جان و سلامت انسان پررنگ‌تر شود، تعیین حدود مسئولیت و ایجاد سازوکارهای روشن برای رسیدگی به خسارت‌های احتمالی اهمیت بیشتری پیدا می‌کند.
در بررسی خطاهای مرتبط با این فناوری، نمی‌توان بدون ارزیابی شرایط هر پرونده، مسئولیت را فقط متوجه پزشک یا تولیدکننده نرم‌افزار دانست. شیوه استفاده از سامانه، میزان بررسی مستقل خروجی آن، کیفیت فنی محصول و تناسب کاربرد آن با تصمیم پزشکی مورد نظر، از جمله عواملی هستند که می‌توانند در ارزیابی مسئولیت نقش داشته باشند. تشخیص مسئولیت نهایی باید بر اساس شواهد و قوانین قابل اعمال صورت گیرد.
حفظ حقوق بیمار نیز مستلزم شفافیت در فرایند تشخیص و درمان است. ارائه اطلاعات کافی درباره روش‌های مورد استفاده، توجه به محدودیت‌های سامانه‌های هوشمند و رعایت الزامات حفاظت از داده‌های سلامت، می‌تواند به تصمیم‌گیری آگاهانه‌تر و تقویت اعتماد بیمار کمک کند. در این میان، نظارت انسانی باید جایگاهی اساسی داشته باشد تا خروجی هوش مصنوعی بدون ارزیابی متناسب با وضعیت بیمار مبنای تصمیم‌گیری قرار نگیرد.
توسعه هوش مصنوعی پزشکی به چارچوبی نیاز دارد که ضمن حمایت از نوآوری، ایمنی بیمار و مسئولیت‌پذیری را تضمین کند. روشن‌تر شدن مسئولیت پزشکان، مراکز درمانی و تولیدکنندگان فناوری، در کنار تقویت سازوکارهای رسیدگی به خسارت، می‌تواند از ابهام در پرونده‌های آینده بکاهد. فناوری ممکن است ابزارهای تصمیم‌گیری را متحول کند، اما ضرورت حمایت از بیمار و پاسخگویی در برابر پیامدهای تصمیم‌های درمانی همچنان پابرجاست.
نظر شما