اگر قرار است هوش مصنوعی جایگاه گستردهتری در پاتولوژی پیدا کند، شناخت درست تواناییها و محدودیتهای آن نخستین گام است. فناوری را بهتر بشناسیم؛ اما قضاوت حرفهای و مسئولیت انسانی را به دست آن نسپاریم.
پاتولوژی شاپ در تولید محتوای آموزشی خود تلاش میکند فناوریهای جدید پاتولوژی را نه فقط از منظر امکانات، بلکه از زاویه کیفیت، محدودیتها و مسئولیت حرفهای بررسی کند. به همین دلیل، هدف این مقاله صرفاً معرفی قابلیتهای هوش مصنوعی نیست؛ بلکه میخواهیم ببینیم چگونه میتوان از این فناوری بهره گرفت، بدون آنکه دقت علمی، قضاوت تخصصی و مسئولیت در برابر بیمار تحتالشعاع جذابیت فناوری قرار گیرد.
وقتی هوش مصنوعی وارد فرآیند تشخیص میشود
پاتولوژی در حال تجربه تغییری است که فقط به دیجیتال شدن اسلایدها محدود نمیشود. با ورود هوش مصنوعی در پاتولوژی، تصویر بافت میتواند به مجموعهای از دادههای قابل تحلیل تبدیل شود؛ دادههایی که الگوریتم قادر است آنها را بررسی، طبقهبندی، اندازهگیری و با نمونههای دیگر مقایسه کند. از شناسایی سلولها و نواحی مشکوک گرفته تا کمک به درجهبندی تومورها، پیشبینی برخی ویژگیهای بیماری و بررسی ارتباط میان ظاهر بافت و ویژگیهای مولکولی، دامنه این کاربردها در حال گسترش است.
اما هرچه نقش ماشین در فرآیند تشخیص پاتولوژی پررنگتر شود، پرسش مهمتری شکل میگیرد: اگر هوش مصنوعی در تشخیص مشارکت کند، مرز میان توانایی ماشین و مسئولیت انسان کجاست؟
هوش مصنوعی در پاتولوژی چه کاربردهایی دارد؟
یکی از مهمترین حوزههای استفاده از AI، تحلیل تصاویر دیجیتال بافت است. الگوریتمها میتوانند سلولها و ساختارهای بافتی را شناسایی کنند، نواحی مشکوک را برجسته سازند و در برخی موارد در تشخیص یا طبقهبندی ضایعات نقش داشته باشند. شمارش سلولی، اندازهگیری مساحت مناطق درگیر و استخراج شاخصهای کمی نیز از کاربردهای مهم دیگر است؛ فعالیتهایی که انجام دستی آنها گاهی زمانبر و وابسته به مشاهده فردی است.
در سطح پیچیدهتر، سامانههای هوشمند برای درجهبندی برخی تومورها، پیشبینی پیشآگهی و بررسی ارتباط ویژگیهای مورفولوژیک با برخی نشانگرهای مولکولی مورد مطالعه قرار گرفتهاند. در کنار این موارد، اولویتبندی نمونهها، جستوجوی موارد مشابه در آرشیو و ساماندهی حجم عظیم اطلاعات پاتولوژی دیجیتال نیز میتواند به کمک AI انجام شود. برای نمونه، مرور پژوهشهای مربوط به گلیوما کاربردهایی مانند زیرگروهبندی، درجهبندی، پیشبینی نشانگرهای مولکولی و پیشبینی بقا را گزارش کرده است.
پس هوش مصنوعی همیشه نقش «تشخیصدهنده» ندارد. گاهی اندازهگیری میکند، گاهی الگو پیدا میکند و گاهی اطلاعاتی در اختیار متخصص میگذارد که میتواند در تصمیمگیری بالینی مؤثر باشد. همین تفاوت، میزان اعتماد و نظارت مورد نیاز را تغییر میدهد.
مزایای هوش مصنوعی در پاتولوژی چیست؟
یکی از ارزشمندترین قابلیتهای هوش مصنوعی، توانایی پردازش حجم بزرگی از اطلاعات در زمانی کوتاه است. الگوریتم میتواند یک تصویر وسیع را بدون خستگی بررسی کند و نواحی نیازمند توجه را مشخص سازد. چنین قابلیتی میتواند در کاهش بخشی از کارهای تکراری و مدیریت حجم بالای نمونهها مفید باشد.
مزیت دیگر، امکان تبدیل برخی مشاهدات به دادههای کمی و قابل مقایسه است. وقتی شمارش یا اندازهگیری با یک روش استاندارد انجام شود، مقایسه نمونهها آسانتر میشود و بخشی از اختلاف ناشی از مشاهدههای فردی کاهش مییابد.
اما شاید جذابترین قابلیت AI در پاتولوژی، کشف الگوهایی باشد که بررسی آنها با چشم انسان دشوار است. این ظرفیت میتواند پژوهش درباره رابطه میان مورفولوژی، ویژگیهای مولکولی و پیامدهای بیماری را گسترش دهد. البته عملکرد امیدوارکننده در پژوهش بهتنهایی برای استفاده بالینی کافی نیست؛ ارزیابی مستقل و بررسی قابلیت کاربرد در محیط واقعی همچنان ضروری است.
بنابراین ارزش هوش مصنوعی الزاماً در جایگزین کردن پاتولوژیست نیست؛ گاهی ارزش آن در این است که چیزهایی را سریعتر، منظمتر یا در مقیاسی بسیار بزرگتر از توان معمول انسان بررسی کند.
خطاهای هوش مصنوعی در پاتولوژی از کجا میآیند؟
در بحث خطا، نباید همه مشکلات را به «استفاده نادرست از فناوری» نسبت داد. خود سامانه هوش مصنوعی نیز میتواند منشأ خطا باشد. یک مدل ممکن است الگویی را از دادهها بیاموزد که از نظر آماری قابل تشخیص است، اما از نظر زیستی یا بالینی معنای درستی نداشته باشد. ممکن است در بیشتر نمونهها عملکرد بسیار خوبی داشته باشد و در یک مورد خاص، پاسخی نادرست تولید کند؛ حتی زمانی که کاربر ورودی مناسبی ارائه کرده است.
دادهها نیز اهمیت دارند. مجموعه آموزشی ناقص یا نامتوازن میتواند محدودیتهای خود را به مدل منتقل کند. تفاوت میان محیطی که مدل در آن آموزش دیده و محیطی که قرار است در آن استفاده شود نیز مسئله دیگری است. کیفیت اسکن، روش آمادهسازی و رنگآمیزی، تجهیزات و ویژگیهای جمعیتی بیماران میتوانند عملکرد یک سامانه را تغییر دهند.
اما محدودیت به همینجا ختم نمیشود. مدل ممکن است خودش نتواند تشخیص دهد که خروجیاش نادرست است. در برخی سامانههای مولد، حتی ممکن است اطلاعاتی تولید شود که مبنای واقعی ندارد اما با لحنی کاملاً مطمئن ارائه شود. این ویژگی را نمیتوان صرفاً به خطای کاربر یا کیفیت داده نسبت داد.
از طرف دیگر، سامانههای یادگیرنده میتوانند از بازخورد معتبر برای بهبود عملکرد استفاده کنند. این قابلیت، اگر بهدرستی طراحی و کنترل شود، یک مزیت مهم است؛ اما یادگیری از بازخورد لزوماً به معنای اصلاح خودکار خطا نیست. اگر بازخورد نادرست باشد، سیستم ممکن است همان اشتباه را بیاموزد و در موارد بعدی نیز تکرار کند.
بنابراین خطای AI یک منشأ واحد ندارد. مدل، داده، محیط استفاده و انسان همگی میتوانند در نتیجه نهایی نقش داشته باشند و گاهی این عوامل به یکدیگر متصل میشوند.
آیا هوش مصنوعی میتواند از خطاهای خود یاد بگیرد؟
توانایی یک سامانه برای یادگیری از تجربه میتواند یکی از ارزشمندترین ویژگیهای آن باشد. اگر سیستم بتواند موارد نامطمئن را شناسایی کند، از اصلاحات معتبر متخصص بیاموزد و پس از هر تغییر دوباره ارزیابی شود، عملکرد آن میتواند به مرور بهتر شود.
اما همین قابلیت یک پرسش اخلاقی تازه ایجاد میکند: چه کسی صحت یادگیری جدید ماشین را تأیید میکند؟ اگر یک متخصص در اصلاح یک مورد اشتباه کند و سامانه همان اصلاح را بهعنوان حقیقت بیاموزد، خطای انسانی میتواند وارد سیستم شود و در موارد بعدی گسترش پیدا کند. بنابراین یک سامانه قابل اعتماد فقط نباید توانایی یادگیری داشته باشد؛ باید سازوکاری برای کنترل، بازبینی و اعتبارسنجی آموختههای جدید نیز در نظر گرفته شود.
در واقع، هدف مطلوب «هوش مصنوعی بیخطا» نیست؛ چنین ادعایی اساساً میتواند خطرناک باشد. هدف، ساخت و استفاده از سامانهای است که خطاهای خود را بهتر آشکار کند، حدود اطمینانش را بشناسد و امکان اصلاح کنترلشده داشته باشد.
اعتماد به هوش مصنوعی چقدر باید باشد؟
خطر اخلاقی فقط زمانی ایجاد نمیشود که انسان بیش از اندازه به ماشین اعتماد کند. بیاعتمادی کامل نیز میتواند باعث کنار گذاشتن ابزاری شود که در شرایط مناسب واقعاً ارزشمند است.
مسئله، پیدا کردن اعتماد متناسب با شواهد است. پاتولوژیست باید بداند سامانه در چه شرایطی عملکرد قابل اتکایی دارد، کجا ممکن است دچار خطا شود و چه زمانی نتیجه آن نیازمند بررسی مستقل است. اعتماد حرفهای به AI نباید بر اساس پیچیدگی فناوری یا ظاهر مطمئن خروجی شکل بگیرد؛ باید بر عملکرد معتبر، شناخت محدودیتها و پایش مستمر استوار باشد.
سازمان جهانی بهداشت نیز در اصول اخلاقی استفاده از هوش مصنوعی در سلامت بر موضوعاتی مانند ایمنی، استقلال انسان، شفافیت، مسئولیتپذیری و عدالت تأکید کرده است. بنابراین مسئله اعتماد به AI فقط یک موضوع فنی نیست؛ بخشی از حکمرانی مسئولانه فناوری در سلامت است.
مسئولیت خطای هوش مصنوعی در پاتولوژی با چه کسی است؟
وقتی یک سامانه هوش مصنوعی در فرآیند پاتولوژی وارد میشود، نمیتوان مسئولیت را به خود نرمافزار نسبت داد. ماشین نه میتواند پیامد تصمیم خود را درک کند و نه در برابر بیمار پاسخگوست. اما از سوی دیگر، تمام مسئولیت نیز نباید صرفاً بر دوش پاتولوژیست گذاشته شود.
پاتولوژیست مسئول استفاده حرفهای از خروجی سامانه و تطبیق آن با شواهد بافتشناسی و اطلاعات بالینی است. آزمایشگاه و مرکز درمانی باید از اعتبار و تناسب سامانه با کاربرد موردنظر، آموزش کاربران و پایش عملکرد آن اطمینان حاصل کنند. سازنده فناوری نیز در برابر کیفیت طراحی، شفافیت درباره تواناییها و محدودیتها و اطلاعرسانی درباره تغییرات عملکرد سیستم مسئولیت دارد.
مسئولیت واقعی در چنین محیطی زنجیرهای است؛ از انتخاب و اعتبارسنجی فناوری آغاز میشود، در مرحله استفاده و نظارت ادامه پیدا میکند و با ثبت خطاها، اصلاح و ارزیابی مجدد کامل میشود. این نگاه با رویکردهای جدید حکمرانی AI در سلامت نیز همخوان است که بر پاسخگویی همه ذینفعان، نه فقط کاربر نهایی، تأکید دارند.
سخن پایانی
هوش مصنوعی را بشناسیم، اما مسئولیت را واگذار نکنیم. هوش مصنوعی میتواند پاتولوژی را سریعتر، دادهمحورتر و در برخی وظایف دقیقتر کند؛ اما نه فناوری بیخطایی است و نه تمام خطاهای آن را میتوان به کاربر یا داده نسبت داد. خود مدل، داده، محیط استفاده و نحوه تعامل انسان با سیستم، هرکدام میتوانند بر نتیجه اثر بگذارند.
اخلاق استفاده از هوش مصنوعی در پاتولوژی بیش از آنکه درباره «اعتماد کردن یا نکردن» به ماشین باشد، درباره شناخت تواناییها، پذیرفتن محدودیتها و تعیین مسئولیت است. پاتولوژی شاپ نیز با همین نگاه تلاش میکند در کنار معرفی محصولات و ابزارهای مورد استفاده در آزمایشگاههای پاتولوژی، درباره فناوری، کیفیت و مسئولیت حرفهای نیز محتوای آموزشی قابل اتکا ارائه کند.
اخلاق هوش مصنوعی در پاتولوژی، کاربرد هوش مصنوعی در پاتولوژی، خطاهای هوش مصنوعی در پاتولوژی، هوش مصنوعی و تشخیص پاتولوژی، پاتولوژی دیجیتال، مسئولیت هوش مصنوعی در پزشکی، هوش مصنوعی در تشخیص بیماری
پرسشهای متداول
- آیا هوش مصنوعی میتواند جایگزین پاتولوژیست شود؟
در وضعیت فعلی، بهتر است هوش مصنوعی را بیشتر بهعنوان ابزار کمکی در نظر گرفت تا جایگزین کامل پاتولوژیست. بسیاری از کاربردهای AI برای تحلیل تصویر، اندازهگیری، اولویتبندی و پشتیبانی از تصمیم طراحی شدهاند. تصمیم نهایی همچنان به تفسیر تخصصی و در نظر گرفتن شواهد بالینی نیاز دارد.
- مهمترین کاربرد هوش مصنوعی در پاتولوژی چیست؟
تحلیل تصاویر دیجیتال بافت یکی از مهمترین حوزههاست. شناسایی و شمارش سلولها، تشخیص نواحی مشکوک، طبقهبندی ضایعات، کمیسازی ویژگیهای بافتی و کمک به پیشبینی برخی ویژگیهای بیماری از جمله کاربردهای مورد مطالعه هستند.
- آیا هوش مصنوعی در پاتولوژی ممکن است اشتباه کند؟
بله. خطا ممکن است از خود مدل، دادههای آموزشی، تفاوت محیط آموزش و استفاده، کیفیت تصویر یا نحوه تعامل کاربر با سیستم ناشی شود. به همین دلیل، عملکرد یک سامانه باید در شرایط واقعی و متناسب با کاربرد موردنظر ارزیابی شود. مرورهای نظاممند نیز با وجود گزارش عملکرد امیدوارکننده، ناهمگونی مطالعات و خطر سوگیری را از محدودیتهای مهم این حوزه دانستهاند.
- آیا هوش مصنوعی میتواند از خطاهای خودش یاد بگیرد؟
برخی سامانههای یادگیرنده میتوانند با استفاده از بازخورد و دادههای جدید عملکرد خود را بهبود دهند، اما «یادگیری» با «اصلاح قطعی خطا» یکسان نیست. اگر داده یا بازخورد جدید نادرست باشد، امکان انتقال همان خطا به مدل وجود دارد. بنابراین یادگیری مستمر باید همراه با پایش و اعتبارسنجی باشد. سازمان جهانی بهداشت نیز در ملاحظات تنظیمی AI در سلامت، موضوعاتی مانند یادگیری مستمر، مداخله انسانی و پایش عملکرد را مورد توجه قرار داده است.
- مسئولیت خطای هوش مصنوعی در پاتولوژی با چه کسی است؟
مسئولیت را نمیتوان به یک عامل واحد محدود کرد. پاتولوژیست، آزمایشگاه، مرکز درمانی و سازنده فناوری، هرکدام در بخش متفاوتی از زنجیره مسئولیت قرار دارند؛ از انتخاب و اعتبارسنجی سامانه تا استفاده، نظارت، ثبت خطا و اصلاح عملکرد. رویکردهای اخلاقی WHO نیز بر پاسخگویی ذینفعان مختلف در طراحی و استفاده از AI در سلامت تأکید دارند.
- آیا استفاده از هوش مصنوعی در پاتولوژی از نظر اخلاقی قابل اعتماد است؟
قابل اعتماد بودن یک سامانه را نمیتوان فقط از روی عنوان «هوش مصنوعی» یا درصد دقت اعلامشده تعیین کرد. کاربرد موردنظر، کیفیت داده، اعتبارسنجی مستقل، شفافیت، پایش عملکرد، امنیت داده و میزان نظارت انسانی همگی در ارزیابی اخلاقی آن نقش دارند. به همین دلیل، اخلاق AI بیشتر از آنکه درباره اعتماد مطلق یا بیاعتمادی باشد، درباره اعتماد متناسب با شواهد است.
منابع
World Health Organization. Ethics and governance of artificial intelligence for health: WHO guidance. 2021.
این منبع برای بخش اخلاق، مسئولیت، پاسخگویی و حقوق انسانی بسیار مناسب است. صفحه رسمی WHO برای راهنمای اخلاق و حکمرانی هوش مصنوعی در سلامت
World Health Organization. Regulatory considerations on artificial intelligence for health. 2023.
برای اعتبارسنجی، پایش عملکرد، یادگیری مستمر، مدیریت ریسک و نقش ذینفعان استفاده میکنیم. صفحه رسمی WHO درباره ملاحظات تنظیمی هوش مصنوعی در سلامت
Rodriguez et al. Artificial intelligence as a tool for diagnosis in digital pathology whole slide images: A systematic review. Journal of Pathology Informatics, 2022.
یکی از منابع مناسب برای کاربرد AI در تشخیص بر اساس Whole Slide Images و محدودیتهای آن است.
McGenity et al. Artificial intelligence in digital pathology: a diagnostic test accuracy systematic review and meta-analysis. 2023.
برای بحث دقت تشخیصی و این نکته که عملکرد مطالعات مختلف بسیار متفاوت است، منبع خوبی است. در این مرور، با وجود عملکرد کلی امیدوارکننده، ناهمگونی مطالعات و خطر سوگیری مورد تأکید قرار گرفته است.
Basak et al. Whole Slide Images in Artificial Intelligence Applications in Digital Pathology: Challenges and Pitfalls. Turkish Journal of Pathology, 2023.
برای بخش مشکلات مربوط به کیفیت و تهیه تصاویر Whole Slide بسیار مناسب است.
World Health Organization. Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models. 2025.