معرفی هوش مصنوعی به اتاق عمل همیشه آنطور که انتظار می‌رود پیش نمی‌رود. رویترز گزارشی مفصل منتشر کرده است، با مثال‌هایی برگرفته از دعاوی حقوقی مربوط به سه دستگاه پزشکی «تقویت‌شده با هوش مصنوعی». در دردناک‌ترین نمونه از یک دستگاه پزشکی با کمک هوش مصنوعی که دچار مشکل شده است، سیستم «تقویت‌شده» مقصر ایجاد اورژانس‌های پزشکی بزرگ، پاشیدن خون در اطراف اتاق عمل و ایجاد سکته مغزی در قربانیان شناخته شده است.

قبل از اینکه به جزئیات بپردازیم، باید توجه داشت که گزارش‌های FDA که توسط رویترز مشاهده شده‌اند، کامل نیستند، بنابراین به طور قطعی نشان نمی‌دهند که معرفی هوش مصنوعی علت اصلی افزایش حوادث بوده است. با این حال، دعاوی حقوقی این استدلال را مطرح می‌کنند که هوش مصنوعی به آسیب‌هایی که از زمان ورود «بهبودهای» ماشین‌آلات پزشکی رخ داده‌اند، کمک کرده است.

همچنین رویترز اشاره کرد که دستگاه‌های پزشکی هوش مصنوعی مورد تایید FDA، نرخ فراخوان دو برابری نسبت به خط پایه داشته‌اند. در همین حال، FDA در تلاش است تا با دستگاه‌های پزشکی تقویت‌شده با هوش مصنوعی که به بازار عرضه می‌شوند، همگام شود. متأسفانه، FDA تحت تأثیر کاهش بودجه در چارچوب ابتکار DOGE قرار گرفته است. در اینجا، به طور خاص، ۱۵ نفر از ۴۰ دانشمند هوش مصنوعی در بخش تصویربرداری، تشخیص و قابلیت اطمینان نرم‌افزار (DIDSR) اخراج شده یا ترک کرده‌اند، به گفته منابع داخلی.

سیستم ناوبری TruDi از Acclarent

TruDi از Acclarent توسط پزشکان برای درمان سینوزیت مزمن استفاده می‌شود. این سیستم برای ساده‌سازی برنامه‌ریزی جراحی و ارائه بازخورد بی‌درنگ در طول اقدامات ظریف مانند عمل‌های سینوس طراحی شده است.

پس از سه سال حضور در بازار و گزارش هشت نقص، این دستگاه توسط الگوریتم‌های هوش مصنوعی «تقویت» شد و از آن زمان تاکنون در «حداقل ۱۰۰ نقص و رویداد نامطلوب» نقش داشته است، گزارش رویترز اشاره می‌کند.

مشکلات منتسب به هوش مصنوعی TruDi شامل نشت مایع مغزی نخاعی، سوراخ شدن قاعده جمجمه، آسیب شریانی عمده و سکته مغزی بوده است.

دو مورد خاص (وحشتناک) در داستان منبع به تفصیل شرح داده شده است. اولین مورد مربوط به ارین رالف است. این قربانی در حال حاضر در حال پیگیری قانونی است و شکایت او ادعا می‌کند که سیستم TruDi پزشک را به اشتباه به قرار دادن ابزارهای جراحی در نزدیکی شریان کاروتید هدایت کرده است. ادعا می‌شود که این امر باعث لخته شدن خون و سکته مغزی شده است.

رالف متعاقباً به پنج روز مراقبت‌های ویژه نیاز پیدا کرد، تورم مغزی را تجربه کرد و بخشی از جمجمه او به عنوان بخشی از درمان ترمیمی برداشته شد. یک سال بعد، رالف به دلیل مشکلات جسمی مداوم همچنان در فیزیوتراپی است.

دونا فرنی‌ها نیز آسیب شریان کاروتید را تجربه کرد. طبق گزارش منبع، این شریان در طول عمل او «پاره شد» و «خون به همه جای» اتاق عمل پاشید. قربانی در این مورد دوباره دچار سکته مغزی شد. ظاهراً یک نماینده TruDi (Acclarent) این عمل پزشکی را تماشا می‌کرد.

وکلای فرنی‌ها می‌گویند که سیستم تقویت‌شده با هوش مصنوعی «ناسازگار، نادرست و غیرقابل اعتماد» است. علاوه بر این، Acclarent «استانداردهای ایمنی خود را برای عجله در عرضه فناوری جدید به بازار کاهش داده» و «به عنوان هدف تنها ۸۰٪ دقت برای برخی از این فناوری جدید قبل از ادغام آن در سیستم ناوبری TruDi» تعیین کرده است، شاکیان در این پرونده حقوقی اصرار دارند.

مشکلات سیستم eSonio Detect و مانیتور قلبی قابل کاشت Medtronic LINQ

سازنده آنالایزر تصویر جنین Sonio Detect متهم به استفاده از یک الگوریتم معیوب است. طبق گزارش، به دلیل این خطای ادعایی هوش مصنوعی داخلی، این دستگاه به طور نادرست ساختارها و اعضای بدن جنین را شناسایی می‌کند. هیچ گزارشی از آسیب بیمار ناشی از استفاده از این آنالایزر وجود ندارد.

مانیتورهای قلبی قابل کاشت Medtronic LINQ دستگاه‌های با کمک هوش مصنوعی هستند که ادعا می‌شود در تشخیص ریتم‌های غیرطبیعی یا مکث‌ها در بیماران شکست خورده‌اند. باز هم، هیچ حادثه‌ای از آسیب بیمار شناخته شده نیست.

علاوه بر تحت فشار بودن منابع FDA، همانطور که قبلاً اشاره شد، فرآیند غربالگری تأیید دستگاه‌های هوش مصنوعی این سازمان ممکن است نیاز به بازنگری داشته باشد. رویترز نشان می‌دهد که در حال حاضر، FDA به نظر می‌رسد که به شدت به شهرت قبلی یک دستگاه تکیه می‌کند. در واقع، منبع پیشنهاد می‌کند که آنها «دستگاه‌های جدید را به عنوان به‌روزرسانی‌هایی بر روی دستگاه‌های موجود معرفی می‌کنند». این ممکن است به سازندگان دستگاه کمک کند تا ماشین‌ها و ابزارهای تقویت‌شده با هوش مصنوعی خود را سریع‌تر به بازار عرضه کنند، اما زمانی که سلامت انسان در خطر است، به نظر نمی‌رسد به اندازه کافی دقیق باشد.