AI na sali operacyjnej: Śledztwo Reutersa ujawnia błędy medyczne i ryzyko dla pacjentów

Najnowsze śledztwo agencji Reuters rzuca cień na entuzjazm związany z wdrażaniem sztucznej inteligencji w chirurgii, dokumentując przypadki nieudanych zabiegów i błędnej identyfikacji narządów przez algorytmy. To krytyczny moment dla branży MedTech, w którym tempo innowacji zaczyna wyprzedzać skuteczność mechanizmów regulacyjnych, stawiając pod znakiem zapytania realne bezpieczeństwo pacjentów na stołach operacyjnych.

Choć producenci wyrobów medycznych agresywnie promują rozwiązania oparte na sztucznej inteligencji jako narzędzia mające zrewolucjonizować precyzję zabiegów, organy regulacyjne otrzymują coraz więcej zgłoszeń o obrażeniach odniesionych przez pacjentów. Analiza zebranych danych wskazuje na incydenty, w których systemy AI nie tylko nie zapobiegły błędom, ale same stały się ich źródłem. W najbardziej drastycznych przypadkach odnotowano błędne rozpoznanie struktur anatomicznych przez oprogramowanie, co prowadziło do uszkodzeń zdrowych tkanek lub niewłaściwego przeprowadzenia procedury medycznej.

Problem komplikuje fakt, iż obecne ramy prawne i standardy odpowiedzialności nie są w pełni dostosowane do specyfiki „decyzyjności” maszyn. W sytuacjach, gdy lekarz postępuje zgodnie z sugestią algorytmu, która okazuje się błędna, granica między błędem w sztuce lekarskiej a wadą produktu staje się niejasna. Eksperci ds. bezpieczeństwa pacjentów, w tym organizacje takie jak ECRI, wskazują, iż niewłaściwe użycie modeli AI – w tym chatbotów do planowania leczenia czy systemów wsparcia wewnątrzoperacyjnego – stanowi w tej chwili jedno z największych zagrożeń technologicznych w sektorze ochrony zdrowia.

Współczesne systemy AI w chirurgii, mimo swojego potencjału w przewidywaniu powikłań czy analizie obrazu, wciąż wykazują tendencję do tzw. „halucynacji” lub błędnej interpretacji nietypowych przypadków medycznych. Branża stoi przed wyzwaniem udowodnienia, iż korzyści z automatyzacji przeważają nad nowymi rodzajami ryzyka. Jak wynika z dokumentacji, wiele placówek medycznych wdraża te technologie bez dostatecznego przeszkolenia personelu w zakresie krytycznej weryfikacji sugestii podawanych przez systemy, co tworzy niebezpieczną lukę w procesie podejmowania decyzji ratujących życie.