AI w diagnostyce medycznej: kto odpowiada za błędną rekomendację algorytmu

Wsparcie diagnostyki nie oznacza zastąpienia lekarza

System AI może wskazywać zmiany na obrazach radiologicznych, sugerować rozpoznania lub porządkować wyniki. Lekarz powinien jednak oceniać rekomendację w kontekście objawów, badań i historii pacjenta. Ryzyko pojawia się zarówno przy bezkrytycznym przyjmowaniu błędnych wskazań, jak i ignorowaniu istotnych ostrzeżeń bez uzasadnienia. Sposób korzystania z narzędzia powinien być zgodny z jego przeznaczeniem oraz aktualnymi standardami wiedzy medycznej.

Czy oprogramowanie jest wyrobem medycznym

Nie każda aplikacja wykorzystująca AI automatycznie stanowi wyrób medyczny. O kwalifikacji istotnie decyduje przeznaczenie określone przez producenta, w tym funkcja diagnostyczna i terapeutyczna w rozumieniu właściwych regulacji. W odniesieniu do wyrobów medycznych znaczenie ma rozporządzenie (UE) 2017/745 (MDR), wymagania zgodności, dokumentacja i nadzór nad bezpieczeństwem. Aplikacja ogólnego przeznaczenia nie powinna być traktowana jako certyfikowany system diagnostyczny tylko dlatego, że potrafi odpowiedzieć na pytanie o objawy.

AI Act i odrębna klasyfikacja wysokiego ryzyka

Niektóre systemy AI zintegrowane z wyrobami medycznymi mogą podlegać kwalifikacji wysokiego ryzyka na podstawie art. 6 ust. 1 i załącznika I AI Act. Należy jednak badać wszystkie przesłanki i relację do właściwych przepisów produktowych. Nie można automatycznie przypisywać każdemu systemowi w szpitalu tego samego statusu. Odmienne reżimy mogą dotyczyć narzędzia administracyjnego, algorytmu klasyfikującego obrazy oraz systemu wspierającego podjęcie określonej decyzji medycznej.

Harmonogram stosowania AI Act po zmianach z 2026 r.

Rozporządzenie (UE) 2026/1744 przesunęło stosowanie kluczowych wymogów rozdziału III sekcji 1–3 dla systemów high-risk z art. 6 ust. 1 i załącznika I na 2 sierpnia 2028 r. Dla systemów z art. 6 ust. 2 i załącznika III właściwą datą jest 2 grudnia 2027 r. Nie znaczy to, że do tych dat można lekceważyć istniejące obowiązki MDR, RODO, bezpieczeństwa pacjentów czy inne już stosowane przepisy AI Act. Harmonogram należy oceniać dla konkretnego produktu.

Odpowiedzialność lekarza i placówki

Prawidłowa analiza błędnej diagnozy uwzględnia standard staranności zawodowej, organizację procesu diagnostycznego i możliwość racjonalnego zweryfikowania rekomendacji AI. Placówka powinna określić, kto podejmuje decyzję kliniczną, jak postępuje przy niepewnym wyniku i kiedy konieczna jest konsultacja specjalisty. Brak procedury lub nieprawidłowe wdrożenie systemu może być odrębnym problemem organizacyjnym. Sam fakt użycia nowoczesnego narzędzia nie oznacza spełnienia obowiązku staranności.

Odpowiedzialność producenta oprogramowania

Jeżeli szkoda wynika z wady lub niezgodności produktu z właściwymi obowiązkami bezpieczeństwa, może powstać pytanie o odpowiedzialność producenta lub innego podmiotu uczestniczącego w udostępnieniu systemu. Konieczne jest ustalenie przyczyny błędu, danych treningowych, deklarowanego zastosowania, aktualizacji i ostrzeżeń. Należy rozróżniać odpowiedzialność kontraktową, produktową oraz obowiązki regulacyjne. Sama umowa przerzucająca odpowiedzialność na lekarza nie zawsze rozstrzyga o sytuacji pacjenta.

Dane pacjenta i bezpieczeństwo informacji

System diagnostyczny może przetwarzać dane o zdrowiu stanowiące szczególną kategorię danych osobowych. Placówka powinna określić podstawę przetwarzania, role podmiotów, retencję, bezpieczeństwo, ewentualny transfer danych i reguły wykorzystania wyników do rozwoju systemu. Zgoda na określony zabieg nie jest automatycznie zgodą na dowolny trening modelu cudzymi danymi medycznymi. Szczególną ostrożność należy zachować przy korzystaniu z narzędzi chmurowych poza zatwierdzonym procesem szpitalnym.

Wyjaśnialność i możliwość zakwestionowania wyniku

Personel powinien rozumieć ograniczenia systemu, wskaźniki jakości i sytuacje, w których nie należy polegać na jego rekomendacji. W przypadku sporu ważne są logi, wersja modelu, dane wejściowe oraz informacja, jakie ostrzeżenia system wyświetlił lekarzowi. Nie każdy model zapewnia pełną interpretowalność techniczną, lecz organizacja powinna posiadać wystarczającą dokumentację do oceny zgodności procesu diagnostycznego z prawem i standardami klinicznymi.

Zgoda i informowanie pacjenta

Korzystanie z technologii może być elementem procesu diagnostycznego, ale wymogi informowania pacjenta zależą od charakteru świadczenia i jego istotnych ryzyk. Nie należy zakładać, że każdy program komputerowy wymaga osobnej podpisanej zgody, ani że pacjent nigdy nie powinien wiedzieć o roli algorytmu przy podejmowaniu ważnej decyzji. Podstawą pozostają przepisy o prawach pacjenta, świadomej zgodzie i rzetelnym informowaniu o rozpoznaniu oraz metodach leczenia.

Audyt wdrożenia AI w szpitalu

Przed wdrożeniem warto sporządzić mapę przeznaczenia, kwalifikacji regulacyjnej, odpowiedzialnych osób, wymagań MDR i AI Act, danych, kontroli człowieka oraz procedur zgłaszania incydentów. Trzeba określić, jak system jest aktualizowany i jak placówka reaguje na pogorszenie jego jakości. Testy walidacyjne powinny obejmować rzeczywiste populacje pacjentów i ograniczenia kliniczne. Celem nie jest samo stworzenie regulaminu, ale udokumentowany, bezpieczny proces opieki.

Czy lekarz może bezkrytycznie przyjąć sugestię AI?

Standard profesjonalnej staranności wymaga krytycznej oceny wskazania narzędzia w świetle dostępnych informacji o pacjencie i przeznaczenia wyrobu. Sam fakt, że algorytm podał określony wynik, nie oznacza, iż każdy lekarz może bez dalszej analizy uznać go za rozpoznanie. Zakres koniecznej weryfikacji zależy od rodzaju systemu i kontekstu klinicznego. Przy istotnych rozbieżnościach warto zastosować właściwą ścieżkę konsultacji albo dalszej diagnostyki, z dokumentowaniem podstaw podjętej decyzji.

Kiedy oprogramowanie diagnostyczne jest wyrobem medycznym?

Nie rozstrzyga o tym sama obecność algorytmu AI ani to, że aplikacja jest używana w szpitalu. Zasadnicze znaczenie ma przeznaczenie określone przez producenta i funkcje systemu w rozumieniu MDR. Narzędzie służące do ogólnej organizacji wizyt może mieć inny status niż system analizujący obrazy w celu wykrywania choroby. Placówka powinna zbadać dokumentację producenta, ocenę zgodności, wymagania bezpieczeństwa i zakres przewidzianego użycia przed udostępnieniem oprogramowania personelowi.

Czy wszystkie wymogi AI Act obowiązują już w 2026 r.?

Nie. Po zmianie rozporządzeniem (UE) 2026/1744 terminy stosowania ważnych wymogów dla systemów wysokiego ryzyka zależą od podstawy kwalifikacji. Dla kategorii art. 6 ust. 1 i załącznika I wskazano 2 sierpnia 2028 r., a dla art. 6 ust. 2 i załącznika III — 2 grudnia 2027 r. Nie zwalnia to z przepisów już obowiązujących, w szczególności MDR, RODO i ochrony praw pacjenta. Każdy system wymaga odrębnej oceny.

Jakie dowody zabezpieczyć po błędnej rekomendacji systemu?

Warto ustalić wersję algorytmu, dane wejściowe, ostrzeżenia systemowe, wyniki przedstawione lekarzowi i rzeczywiste kroki personelu medycznego. Znaczenie mają dokumentacja kliniczna, logi urządzenia oraz informacje o aktualizacjach i znanych ograniczeniach. Sam zrzut ekranu z wynikiem AI może nie pozwalać odtworzyć procesu diagnostycznego. Dobra analiza powinna oddzielić potencjalną wadę produktu od błędnego zastosowania, nieprawidłowych danych i zaniechania profesjonalnej weryfikacji.

Konkluzja

Odpowiedzialność za diagnostykę wspomaganą algorytmem wymaga rozdzielenia funkcji producenta systemu, organizatora świadczenia i osoby podejmującej decyzję kliniczną. Prawidłowa rekonstrukcja zdarzenia opiera się na dokumentacji, standardzie staranności i związku przyczynowym, nie na twierdzeniu, że za wszystko odpowiada sama AI.

Źródła pierwotne

• MDR – rozporządzenie (UE) 2017/745
• AI Act – rozporządzenie (UE) 2024/1689
• Nowelizacja AI Act – rozporządzenie (UE) 2026/1744