AI w diagnostyce a wyroby medyczne: MDR, AI Act i nadzór człowieka

Przeznaczenie systemu jest ważniejsze niż marketing

Oprogramowanie analizujące wyniki badań może być zwykłym narzędziem administracyjnym albo produktem przeznaczonym do celów medycznych. O kwalifikacji przesądza jego zamierzone zastosowanie, w tym funkcje diagnozowania, zapobiegania, monitorowania, przewidywania lub wspierania określonych decyzji klinicznych. Sam napis „AI for healthcare” nie oznacza automatycznie statusu wyrobu medycznego; podobnie dodanie zastrzeżenia „tylko do celów informacyjnych” nie zawsze odpowiada rzeczywistemu sposobowi korzystania z narzędzia.

MDR i klasyfikacja oprogramowania

Rozporządzenie (UE) 2017/745 dotyczące wyrobów medycznych przewiduje odpowiednie wymagania bezpieczeństwa, oceny klinicznej, zarządzania ryzykiem i dokumentacji technicznej. Dla oprogramowania znaczenie mają reguły klasyfikacyjne, w tym odpowiednie zasady dla systemów wspierających decyzje diagnostyczne lub terapeutyczne. Wyższa klasa ryzyka może wiązać się z udziałem jednostki notyfikowanej. W praktyce trzeba zbadać rzeczywiste funkcje modelu i możliwe skutki błędnej rekomendacji.

AI Act i systemy wysokiego ryzyka

AI Act ustanawia odrębną strukturę obowiązków dla określonych zastosowań wysokiego ryzyka. W przypadku produktów objętych załącznikiem I i spełniających warunki art. 6 ust. 1 znaczenie ma relacja do sektorowej oceny zgodności. Zmiany prawne przyjęte w 2026 r. przesunęły stosowanie wymogów dla określonych systemów z tego zakresu na 2 sierpnia 2028 r. Nie oznacza to jednak zawieszenia obowiązywania MDR ani możliwości wprowadzania niebezpiecznych produktów do obrotu.

Odpowiedzialność dostawcy i użytkownika klinicznego

Producent wyrobu odpowiada za zgodność produktu i bezpieczeństwo w ramach właściwego reżimu. Placówka, która wdraża system, powinna zadbać o odpowiednią konfigurację, przeszkolenie personelu, zasady kontroli wyników i reagowania na błędy. Lekarz nie powinien traktować podpowiedzi systemu jako niepodważalnego rozpoznania. Zakres odpowiedzialności konkretnego podmiotu wymaga rozdzielenia wady produktu, wadliwej instrukcji, błędnego wdrożenia i nieprawidłowej decyzji klinicznej.

Błąd modelu to nie tylko niedokładność procentowa

W medycynie istotne są rodzaje błędów: wynik fałszywie dodatni może prowadzić do niepotrzebnego leczenia, zaś fałszywie ujemny do opóźnienia rozpoznania poważnej choroby. Trzeba oceniać czułość i swoistość w kontekście populacji pacjentów, dostępności metod weryfikacji i konsekwencji klinicznych. Model o wysokiej średniej trafności może działać gorzej dla niektórych grup, dlatego ocena nie powinna ograniczać się do jednego wskaźnika skuteczności.

Dane treningowe i reprezentatywność pacjentów

Jakość danych treningowych wpływa na rzetelność modeli diagnostycznych. Jeżeli system uczono na materiale pochodzącym z jednego ośrodka i wąskiej populacji, jego działanie w innej placówce może odbiegać od oczekiwań. Wymaga to analizy walidacji klinicznej, ograniczeń wynikających z dokumentacji i ewentualnych uprzedzeń statystycznych. W placówce należy monitorować skuteczność zastosowania u rzeczywistych pacjentów, z zachowaniem praw ochrony danych.

Nadzór człowieka powinien być rzeczywisty

Personel medyczny korzystający z algorytmu musi rozumieć jego przeznaczenie, ograniczenia i sytuacje, w których wynik wymaga dodatkowej diagnostyki. Warto wprowadzić zasady drugiej weryfikacji dla decyzji o dużych konsekwencjach i dokumentować wpływ rekomendacji AI na decyzję kliniczną. Nadzór nie powinien być wyłącznie formalnym kliknięciem zatwierdzającym. System ma pomagać w opiece, a nie zacierać odpowiedzialność za proces diagnostyczny.

RODO i dane dotyczące zdrowia

Dane medyczne należą do szczególnych kategorii chronionych przez RODO. Wdrożenie systemu AI wymaga ustalenia podstawy prawnej przetwarzania, odpowiedniego warunku z art. 9, roli dostawcy, minimalizacji i bezpieczeństwa. Placówka powinna też przeanalizować, czy dane pacjentów są wykorzystywane do ulepszania modelu i czy taki cel jest objęty odpowiednimi podstawami. Nie każda zgoda na leczenie jest zarazem zgodą na wykorzystanie danych do dowolnego treningu.

Zdarzenia niepożądane i nadzór po wdrożeniu

Producent oraz podmioty korzystające z wyrobu medycznego powinny znać obowiązki związane z monitorowaniem bezpieczeństwa i przekazywaniem informacji o incydentach. Zmiana modelu, danych lub integracji z urządzeniem diagnostycznym może wpływać na profil ryzyka. Warto utrzymywać rejestr błędów, ocenę skutków klinicznych i sposób wdrażania aktualizacji. Dokumentacja rozbieżności między wynikiem AI a diagnozą lekarza może być ważna dla bezpieczeństwa i doskonalenia systemu.

Wybór rozwiązania przez szpital

Przed zakupem trzeba zweryfikować deklarowane przeznaczenie, dokumentację zgodności, wymagane oznakowanie, zakres walidacji klinicznej, odpowiedzialność serwisową i zasady kontroli aktualizacji. Umowa powinna gwarantować możliwość audytu i dostępu do informacji niezbędnych do bezpiecznego wykorzystania produktu. W przypadku systemów przetwarzających dane zdrowotne trzeba również przeanalizować lokalizację przetwarzania i podwykonawców. Taki audyt powinien łączyć perspektywę medyczną, techniczną i prawną.

Rzeczywiste przeznaczenie wyrobu w dokumentacji

System reklamowany jako wsparcie administracyjne może w praktyce generować wskazówki diagnostyczne wykorzystywane przy leczeniu. W takim przypadku sama etykieta marketingowa nie powinna zastępować oceny prawnej. Należy przeanalizować instrukcję, interfejs, materiały reklamowe i realną funkcję produktu. Spójność przeznaczenia jest istotna dla klasyfikacji wyrobu oraz określenia właściwej ścieżki oceny zgodności. Placówka powinna znać granice dopuszczalnego zastosowania zamiast liczyć na szeroką interpretację deklaracji dostawcy.

Monitorowanie zmian po aktualizacji modelu

System oparty na uczeniu maszynowym może zmieniać zachowanie wskutek aktualizacji danych, architektury albo sposobu prezentacji wyników. Należy ocenić, czy zmiana wpływa na zgodność produktu, deklarowane przeznaczenie i walidację kliniczną. Placówka nie powinna automatycznie uruchamiać każdej wersji w krytycznym procesie diagnostycznym bez odpowiednich testów. Warto prowadzić rejestr zmian i analizę różnic w wynikach, szczególnie dla grup pacjentów niedostatecznie reprezentowanych w danych pierwotnych.

Informowanie pacjenta i odpowiedzialność kliniczna

Zastosowanie narzędzia diagnostycznego AI nie może prowadzić do zaniku komunikacji z pacjentem o istotnych ryzykach terapii. Lekarz powinien oceniać wyniki w świetle całokształtu obrazu klinicznego i właściwej wiedzy medycznej. W razie rozbieżności między rekomendacją modelu a innymi wynikami konieczne może być dodatkowe badanie. Dokumentacja powinna pozwalać odtworzyć, jakie informacje były dostępne i jakie znaczenie przypisano systemowi. Taka przejrzystość wzmacnia bezpieczeństwo i możliwość późniejszego wyjaśnienia zdarzenia.

Powiązane analizy

AI w rekrutacji i HR · Świadoma zgoda pacjenta