هوش مصنوعی در مطب: کاربردهای واقعی، محدودیت‌ها و حریم خصوصی

هوش مصنوعی در مطب امروز بیشتر از آن‌که پزشک باشد، دستیار اداری است. کاربردهای واقعی‌اش این‌هاست: پاسخ دادن به پرسش‌های کارکنان درباره‌ی نوبت‌ها و بیماران و انجام کارهای ساده با تأیید آن‌ها، خلاصه کردن یک پرونده‌ی بلند پیش از ویزیت، و خواندن عددهای ماهانه‌ی مطب و گفتن این‌که چه تغییر کرده است. آنچه نباید به آن سپرد هم روشن است: تشخیص، تجویز دارو و تصمیم نهایی درباره‌ی بیمار.

هوش مصنوعی امروز در مطب چه می‌کند؟

وقتی از «نرم‌افزار پزشکی با هوش مصنوعی» حرف می‌زنیم، معمولاً منظور مدل‌های زبانی‌اند: مدل‌هایی که متن را می‌فهمند و متن می‌نویسند. توانایی اصلی آن‌ها خواندن، خلاصه کردن و پاسخ دادن است و به همین دلیل بیشترین کمک را در کارهایی می‌کنند که در مطب با جستجو، خواندن و گزارش‌گیری می‌گذرد. جدول زیر کاربردهای رایج را با این‌که تصمیم با کیست نشان می‌دهد:

نرم‌افزارهای دیگری هم هستند که یادداشت ویزیت را از صدای پزشک می‌نویسند یا فرم گزارش را از عکس صفحه‌ی دستگاه پر می‌کنند. این‌ها هنوز در همه‌ی سامانه‌ها نیست و هر خروجی‌شان هم باید به دست پزشک بازبینی شود.

دستیار فارسی برای منشی و پزشک

دستیار هوش مصنوعی به کارکنان اجازه می‌دهد به‌جای گشتن در صفحه‌ها، به فارسی بپرسند یا بخواهند: «فردا چه کسانی نوبت دارند؟»، «ساعت خالی پنجشنبه کی است؟» یا «برای خانم احمدی پرونده بساز». در بعضی سامانه‌ها دستیار فقط پاسخ نمی‌دهد، کار هم انجام می‌دهد: نوبت می‌دهد، پرونده پیدا می‌کند یا می‌سازد و کار منشی را سبک می‌کند. قاعده‌ی درست این است که هر تغییری که پیشنهاد می‌کند فقط با تأیید خود کارمند انجام شود؛ دستیار به‌تنهایی چیزی را عوض نکند.

در سامانه‌های خوب، پرسش‌های ساده و پرتکرار، مثل صف امروز، نوبت‌های فردا، ساعت‌های خالی یا درآمد این هفته، اصلاً به مدل زبانی فرستاده نمی‌شوند. پاسخ این‌ها مستقیم از داده‌های خود مرکز خوانده می‌شود؛ پس فوری است و داده‌ای بیرون نمی‌رود. مدل فقط برای درخواست‌هایی به کار می‌آید که واقعاً به فهمیدن جمله نیاز دارند.

بعضی نرم‌افزارها چت‌بات‌هایی برای پاسخ به پرسش‌های بیماران هم دارند. برای پرسش‌های ساده مثل ساعت کاری و نشانی مفیدند، اما پاسخ به پرسش‌های پزشکی بیمار بدون نظارت پزشک خطرناک است. دستیار باید برای کارکنان مرکز باشد، نه برای پاسخ پزشکی به بیمار.

خلاصه‌ی پرونده پیش از ویزیت

پرونده‌ی بیماری که سال‌ها به مطب آمده، ممکن است ده‌ها ویزیت، نسخه و جواب آزمایش داشته باشد. خلاصه‌ی پیش از ویزیت این سابقه را در چند خط جلوی پزشک می‌گذارد: مهم‌ترین مشکل‌ها، سابقه، هشدارها و آزمایش‌هایی که جوابشان هنوز نیامده است. خلاصه جای خواندن پرونده را نمی‌گیرد؛ فقط کمک می‌کند پزشک بداند از کجا شروع کند.

یک خلاصه‌ساز خوب پرونده را بدون نام، تلفن، کد ملی و شماره‌ی پرونده‌ی بیمار می‌فرستد، هیچ‌وقت تشخیص نمی‌دهد یا دارو پیشنهاد نمی‌کند، و روشن کردنش با خود مرکز است، نه پیش‌فرض.

تحلیل ماهانه‌ی مطب

هوش مصنوعی می‌تواند عددهای یک ماه مطب را بخواند و به زبان ساده بگوید چه تغییر کرده است: تعداد نوبت‌ها و ویزیت‌ها، درصد لغو، سهم نوبت‌های آنلاین، درآمد و نوبت‌هایی که بیمار نیامد. اگر مرکز چند شعبه دارد، تحلیل خوب شعبه‌ها را هم با هم مقایسه می‌کند و برای شعبه‌ی ضعیف‌تر پیشنهاد کاری می‌دهد. تصمیم درباره‌ی این پیشنهادها، مثل هر تصمیم مدیریتی دیگر، با مالک مطب است.

همه‌چیز هوش مصنوعی نیست: کارهایی که با قاعده بهتر انجام می‌شوند

بعضی امکاناتی که «هوشمند» به نظر می‌رسند، بهتر است با قاعده‌های روشن ساخته شوند تا با مدل زبانی، چون نتیجه‌شان قابل پیش‌بینی و قابل توضیح است و داده‌ای بیرون نمی‌فرستند. سه نمونه:

• احتمال نیامدن: روی نوبت‌های آینده، با قاعده‌هایی بر پایه‌ی سابقه‌ی خود همان بیمار در همان مطب حساب می‌شود؛ مثلاً نوبت‌های قبلی که نیامده یا لغو کرده، یا نوبتی که مدت‌ها پیش گرفته شده. تأیید حضور یا پرداخت بیعانه احتمال را پایین می‌آورد و دلیل هر احتمال کنارش نوشته می‌شود تا منشی پیش از نوبت تماس بگیرد. درباره‌ی راه‌های دیگر در مقاله‌ی کاهش غیبت بیماران نوشته‌ایم.
• پاسخ‌های سریع دستیار: همان پرسش‌های ساده‌ای که بالاتر گفتیم، از خود داده‌ها پاسخ داده می‌شوند، نه از مدل.
• نسخه‌ی تکراری و داروهای پرتکرار: تکرار نسخه‌ی قبلی بیمار و فهرست داروهای پرتکرار هر پزشک، نوشتن نسخه را کوتاه می‌کند بی‌آن‌که چیزی را حدس بزند.

آنچه نباید به هوش مصنوعی سپرد

مدل‌های زبانی گاهی با اطمینان کامل، چیزی نادرست می‌نویسند. این خطا در یک ایمیل اداری کوچک است، اما در پرونده‌ی بیمار می‌تواند آسیب بزند. برای همین این کارها باید با پزشک بماند:

• تشخیص و تجویز: بر پایه‌ی گزارش‌های خبری از هشدار سازمان غذا و دارو، هوش مصنوعی نباید مرجع تشخیص یا تجویز دارو باشد. ابزاری که خلاصه می‌کند یا کار اداری را سبک می‌کند مفید است؛ ابزاری که به‌جای پزشک تصمیم می‌گیرد، نه.
• مقدار دارو و تصمیم درمانی: هر متنی که هوش مصنوعی درباره‌ی دارو یا درمان بنویسد، باید پزشک دوباره بخواند و خودش تصمیم بگیرد.
• امضای نهایی گزارش و پرونده: هر خلاصه یا متنی که ماشین ساخته، پیش از تکیه کردن به آن باید با پرونده و معاینه جور باشد.
• پاسخ پزشکی به بیمار: بدون نظارت پزشک، نه.

سازمان جهانی بهداشت هم در راهنمای اخلاق و حکمرانی هوش مصنوعی در سلامت بر همین اصل تکیه می‌کند: انسان باید کنترل تصمیم‌های سلامت را در دست داشته باشد.

حریم خصوصی: چه داده‌ای کجا می‌رود؟

مدل‌های قدرتمند هوش مصنوعی معمولاً روی سرورهای شرکت سازنده اجرا می‌شوند. پس هر بار که از آن‌ها استفاده می‌کنید، بخشی از داده بیرون از نرم‌افزار مطب فرستاده می‌شود. پیش از روشن کردن هر امکان، از فروشنده بپرسید:

• دقیقاً چه داده‌ای فرستاده می‌شود؟ نام، تلفن و کد ملی بیمار هم؟
• داده در کدام کشور و نزد کدام شرکت پردازش می‌شود؟
• داده پس از پردازش نزد سازنده نگه داشته می‌شود؟
• امکان به‌طور پیش‌فرض روشن است یا مرکز خودش انتخاب می‌کند؟

برای پرسش‌های کلی‌تر درباره‌ی محل سرور، پشتیبان‌گیری و دسترسی کارکنان، مقاله‌ی امنیت پرونده الکترونیک بیمار را ببینید.

محدودیت‌هایی که باید بدانید

• خطا: هوش مصنوعی گاهی جمله را اشتباه می‌فهمد یا چیزی را که نبوده می‌نویسد. برای همین هر کاری که انجام می‌دهد، با تأیید یک انسان است.
• اینترنت: این امکانات به اتصال به سرور سازنده نیاز دارند و در قطعی اینترنت کار نمی‌کنند؛ کار اصلی مطب نباید به آن‌ها وابسته باشد.
• هزینه: هر درخواست به مدل هزینه دارد و معمولاً از اعتبار جداگانه کم می‌شود.
• زبان: کیفیت پاسخ مدل‌ها در فارسی، به‌ویژه با اصطلاح‌های پزشکی و نام داروها، همیشه به خوبی انگلیسی نیست.

با این محدودیت‌ها، هوش مصنوعی ابزاری است که اگر درست به کار رود، بخشی از وقت جستجو و کار اداری را به پزشک و منشی برمی‌گرداند، بی‌آن‌که جای قضاوت پزشک را بگیرد.