Jak chronić dane medyczne w świecie sztucznej inteligencji, cyberwojny i komputerów kwantowych?

Sztuczna inteligencja coraz śmielej wkracza do ochrony zdrowia. Wspiera diagnostykę, pomaga analizować wyniki badań, przewiduje ryzyko wystąpienia chorób i wspomaga lekarzy w podejmowaniu decyzji terapeutycznych. Jednocześnie sektor medyczny staje się jednym z najatrakcyjniejszych celów cyberprzestępców, a rozwój AI oraz komputerów kwantowych tworzy zupełnie nowe wyzwania dla bezpieczeństwa danych pacjentów.

Wywiad z Szymonem Krupą, dyrektorem Departamentu Nowych Technologii w Agencji Rozwoju Przemysłu.

Czy medycyna cyfrowa wchodzi na nowy poziom ryzyka?

Zdecydowanie tak. Powiedziałbym nawet, że jesteśmy świadkami fundamentalnej zmiany sposobu postrzegania ryzyka w ochronie zdrowia.

Przez wiele lat cyberbezpieczeństwo szpitali koncentrowało się przede wszystkim na ochronie infrastruktury IT, dokumentacji medycznej oraz zapewnieniu ciągłości działania systemów. Dziś ten model przestaje być wystarczający. Wraz z rosnącym wykorzystaniem sztucznej inteligencji zmienia się nie tylko technologia, ale również charakter zagrożeń.

Algorytmy AI coraz częściej uczestniczą w procesie diagnostycznym i terapeutycznym. Analizują obrazy medyczne, wspierają interpretację wyników badań czy ocenę ryzyka wystąpienia chorób. Oznacza to, że potencjalnym celem ataku staje się już nie tylko baza danych lub serwer, ale również sam model AI oraz dane, na podstawie których podejmuje on określone rekomendacje.

To jakościowo nowa sytuacja. W tradycyjnym modelu cyberatak oznaczał utratę danych lub niedostępność systemu. W świecie medycyny wspieranej przez AI pojawia się ryzyko wpływania na proces diagnostyczny i terapeutyczny. To zasadnicza różnica w porównaniu z klasycznym postrzeganiem cyberbezpieczeństwa.

Jeszcze do niedawna skutki cyberataku kojarzyliśmy przede wszystkim z utratą poufności danych, niedostępnością systemów czy stratami finansowymi. Oczywiście były to poważne incydenty, jednak ich wpływ na proces leczenia miał najczęściej charakter pośredni. Dzisiaj sytuacja wygląda już inaczej.

Jeżeli algorytm sztucznej inteligencji wspiera radiologa w wykrywaniu zmian nowotworowych na tomografii komputerowej, jego błędna rekomendacja może wpłynąć na dalszą ścieżkę diagnostyczną pacjenta. Niewykryta zmiana może oznaczać opóźnienie rozpoznania choroby, konieczność wykonania dodatkowych badań lub rozpoczęcie leczenia na późniejszym etapie.

Podobnie wygląda sytuacja w przypadku systemów wspomagających ocenę ryzyka klinicznego. Coraz częściej algorytmy analizują setki parametrów jednocześnie – wyniki badań laboratoryjnych, wiek pacjenta, choroby współistniejące czy historię hospitalizacji – i pomagają identyfikować osoby zagrożone sepsą, niewydolnością oddechową czy nagłym pogorszeniem stanu zdrowia. Jeżeli taki system zacznie generować błędne wyniki, lekarz może nie otrzymać sygnału ostrzegawczego w odpowiednim momencie.

Ryzyko dotyczy również terapii. Już dziś istnieją rozwiązania wspierające dobór leków oraz ich dawkowanie. Systemy te uwzględniają funkcję nerek i wątroby, masę ciała, wiek pacjenta oraz potencjalne interakcje pomiędzy preparatami. Manipulacja danymi wejściowymi lub błędną rekomendacją algorytmu może prowadzić do zastosowania niewłaściwego leczenia albo konieczności dodatkowej weryfikacji przez personel medyczny.

Warto podkreślić, że nie oznacza to zastąpienia lekarza przez sztuczną inteligencję. Ostateczna odpowiedzialność za decyzję kliniczną nadal należy do człowieka. W środowisku medycznym coraz częściej mówi się o modelu Human-in-the-Loop, czyli „człowieka w pętli decyzyjnej”. (Szerzej opowiadałem o tym mechanizmie na Europejskim Kongresie Gospodarczym w 2025 r w kontekście wojny hybrydowej.) Oznacza on, że sztuczna inteligencja pełni rolę zaawansowanego systemu wspomagania decyzji, natomiast lekarz pozostaje osobą, która interpretuje rekomendacje, uwzględnia kontekst kliniczny i podejmuje ostateczną decyzję terapeutyczną.

To bardzo ważne rozróżnienie. Algorytm może wskazać, że na obrazie tomografii występuje wysokie prawdopodobieństwo zmiany nowotworowej, zasugerować ryzyko wystąpienia sepsy czy zwrócić uwagę na potencjalną interakcję lekową. Nie widzi jednak pacjenta w całej złożoności jego sytuacji – nie zna jego preferencji, nie odczytuje niuansów rozmowy z rodziną, nie uwzględnia wszystkich czynników psychospołecznych i nie ponosi odpowiedzialności za skutki decyzji.

Jednocześnie musimy mieć świadomość zjawiska określanego jako automation bias, czyli naturalnej skłonności człowieka do większego zaufania rekomendacjom systemów automatycznych. Jako ludzie z natury dążymy do oszczędzania energii poznawczej. Nasz mózg lubi iść na łatwiznę. Przetwarzanie danych i podejmowanie decyzji jest męczące, więc jeśli mamy pod ręką „inteligentne” narzędzie, chętnie zrzucamy na nie odpowiedzialność. Ponadto komputery kojarzą nam się z obiektywizmem i matematyczną precyzją, przez co podświadomie uznajemy je za nieomylne. Im bardziej skuteczne i powszechne stają się narzędzia AI, tym większe ryzyko, że ich wskazania będą traktowane jako niepodważalne. Paradoksalnie więc celem cyberataku może stać się nie tylko sam system, ale również proces decyzyjny człowieka, który z tego systemu korzysta.

Warto pamiętać, że Systemy AI i algorytmy są tak dobre, jak dane, na których je wytrenowano. Mogą się mylić, halucynować lub działać na podstawie nieaktualnych informacji.

Dlatego model „Human-in-the-Loop” nie powinien być postrzegany wyłącznie jako rozwiązanie technologiczne. To jeden z fundamentów bezpiecznego wykorzystania AI w medycynie. Oznacza konieczność zachowania krytycznego myślenia, możliwości zakwestionowania rekomendacji algorytmu oraz zapewnienia, że człowiek pozostaje ostatnim ogniwem odpowiedzialnym za decyzję dotyczącą zdrowia i życia pacjenta.

W mojej ocenie przyszłość medycyny nie polega na wyborze między lekarzem a sztuczną inteligencją. Przewagę będą osiągały te organizacje, które nauczą się budować efektywną współpracę człowieka z algorytmem – tak, aby wykorzystać moc obliczeniową AI, nie rezygnując z doświadczenia, intuicji klinicznej i odpowiedzialności lekarza.

Dlatego w erze medycyny cyfrowej musimy chronić nie tylko dane i infrastrukturę, ale również wiarygodność procesu podejmowania decyzji. Celem ataku może być już nie tylko system informatyczny. Celem może być zmiana sposobu, w jaki lekarz postrzega sytuację kliniczną pacjenta.

I właśnie dlatego bezpieczeństwo sztucznej inteligencji staje się integralnym elementem bezpieczeństwa klinicznego. Mówimy już nie tylko o ochronie informacji, ale o ochronie jakości diagnozy, skuteczności terapii i bezpieczeństwa pacjenta.

Dlatego coraz częściej mówię, że cyberbezpieczeństwo przestaje chronić wyłącznie dane. Coraz częściej chroni zdrowie i życie pacjentów.

Dlaczego dane medyczne są dziś jednym z najcenniejszych zasobów cyfrowych?

To może brzmieć zaskakująco, ale z perspektywy cyberprzestępców dane medyczne są często znacznie cenniejsze niż dane finansowe.

Kartę płatniczą można zastrzec, hasło zmienić, konto zamknąć. Natomiast historii chorób, wyników badań genetycznych czy dokumentacji psychiatrycznej nie da się wymienić na nowe. To informacje, które zachowują swoją wartość przez dziesięciolecia.

Szczególnym przypadkiem są dane genetyczne. Raz ujawnione pozostają aktualne przez całe życie człowieka, a w pewnym sensie dotyczą również członków jego rodziny. Dla cyberprzestępców, ale także dla podmiotów prowadzących działania wywiadowcze czy operacje wpływu, są to informacje o ogromnej wartości.

Czy sztuczna inteligencja staje się nowym celem cyberataków?

Bez wątpienia. W ostatnich latach pojawiła się zupełnie nowa powierzchnia ataku – sam model sztucznej inteligencji.

Jednym z najbardziej niebezpiecznych scenariuszy jest tzw. data poisoning, czyli celowe zanieczyszczanie danych wykorzystywanych do trenowania modeli. W efekcie algorytm może podejmować błędne decyzje, pozostając pozornie w pełni sprawnym.

Mówimy również o model poisoning, czyli manipulacji parametrami modelu, oraz o atakach typu adversarial AI. Badania pokazują, że niewielka modyfikacja obrazu diagnostycznego może doprowadzić do błędnej interpretacji przez algorytm.

W świecie medycyny konsekwencje są szczególnie poważne. Błąd algorytmu nie oznacza wyłącznie awarii systemu informatycznego. Może wpływać na diagnozę, proces leczenia, a w skrajnych przypadkach na zdrowie i życie pacjenta.

Dlatego bezpieczeństwo sztucznej inteligencji powinno być traktowane jako integralna część bezpieczeństwa klinicznego. Tak jak walidujemy leki czy urządzenia medyczne, tak samo powinniśmy testować odporność systemów AI na manipulacje i cyberataki.

Czy cyberwojna dotyczy również ochrony zdrowia?

Dzisiaj już nikt nie powinien mieć co do tego wątpliwości.

Współczesne konflikty coraz częściej obejmują cyberprzestrzeń. Państwa oraz grupy sponsorowane przez państwa poszukują celów, których zakłócenie może wywołać realne skutki społeczne i gospodarcze. Szpital idealnie wpisuje się w tę definicję.

To organizacja, która nie może sobie pozwolić na przestój. Każda godzina niedostępności systemów może wpływać na diagnostykę, leczenie i bezpieczeństwo pacjentów.

Co ciekawe, skutki cyberataku na szpital bardzo przypominają skutki ataku na klasyczną infrastrukturę krytyczną. Kiedy przestaje działać elektrownia, odczuwają to obywatele. Kiedy przestaje działać szpital, konsekwencje również dotyczą obywateli – tyle że w obszarze zdrowia i życia.

Dlatego coraz częściej ochrona zdrowia jest postrzegana jako jeden z filarów infrastruktury krytycznej państwa. Wymaga podobnego poziomu dojrzałości, jaki od lat budowany jest w energetyce, telekomunikacji czy sektorze finansowym.

Czy komputery kwantowe są realnym zagrożeniem dla danych medycznych?

Tak, choć nie w sposób, który większość osób sobie wyobraża.

Największym wyzwaniem jest scenariusz określany jako „Harvest Now, Decrypt Later lub Store Now, Decrypt Later”. Atakujący przechwytuje zaszyfrowane dane już dziś, archiwizuje je i czeka na moment, w którym rozwój komputerów kwantowych może pozwolić na przełamanie części obecnie stosowanych mechanizmów kryptograficznych.

W przypadku wielu danych biznesowych nie stanowiłoby to dużego problemu, ponieważ ich wartość wygasa po kilku latach. Dane medyczne są inne. Historia choroby, wyniki badań genetycznych czy dokumentacja psychiatryczna mogą zachować swoją wartość przez całe życie pacjenta.

Dlatego sektor ochrony zdrowia powinien już dziś przygotowywać się do ery postkwantowej. Nie chodzi jeszcze o masową wymianę infrastruktury, ale o budowę świadomości, identyfikację najważniejszych zasobów oraz rozwijanie zdolności określanej jako Crypto Agility, czyli możliwości szybkiej migracji do nowych standardów kryptograficznych.

Największym błędem byłoby uznanie, że jest to problem przyszłości.

Jak powinien wyglądać bezpieczny szpital przyszłości?

Przede wszystkim musimy odejść od myślenia, że cyberbezpieczeństwo to wyłącznie kwestia technologii.

Bezpieczny szpital przyszłości powinien opierać się na pięciu filarach: odpornej infrastrukturze IT, bezpieczeństwie sztucznej inteligencji, ochronie danych, gotowości postkwantowej oraz odporności operacyjnej ludzi i procesów.

Pierwszy filar to klasyczne bezpieczeństwo infrastruktury – architektura Zero Trust, monitoring, segmentacja sieci i skuteczne procedury reagowania na incydenty.

Drugi filar to bezpieczeństwo AI: walidacja modeli, testy odporności i audyty systemów wspierających decyzje kliniczne.

Trzeci filar to ochrona danych medycznych poprzez szyfrowanie, anonimizację oraz właściwe zarządzanie cyklem życia informacji.

Czwartym filarem jest gotowość postkwantowa. Organizacje medyczne już dziś powinny identyfikować dane wymagające wieloletniej ochrony i uwzględniać przyszłe wymagania kryptografii postkwantowej.

Piątym, często niedocenianym elementem, jest odporność operacyjna.

Wielu osobom wydaje się, że awaria systemów oznacza jedynie konieczność zapisania czegoś na kartce papieru. Tymczasem współczesny szpital jest organizmem, którego praktycznie każdy proces zależy od technologii cyfrowych.

Jeżeli przestają działać systemy, zatrzymuje się cały łańcuch diagnostyczno-terapeutyczny. Zlecenia laboratoryjne trzeba wypisywać ręcznie, próbki oznaczać manualnie, a wyniki przekazywać telefonicznie lub na papierze.

Na podstawie wyników badań lekarz podejmuje decyzję terapeutyczną. Przy niewydolności nerek dawki wielu leków wymagają modyfikacji. W normalnych warunkach wspierają go systemy uwzględniające wiek pacjenta, masę ciała, wyniki badań i potencjalne interakcje lekowe. Bez nich personel wraca do podręczników, doświadczenia i ręcznych kalkulacji.

Podobnie jest w diagnostyce obrazowej. Obrazy z tomografii komputerowej czy rezonansu trafiają do systemów PACS – cyfrowych archiwów i platform dystrybucji obrazów medycznych. Ich niedostępność wydłuża diagnostykę i utrudnia podejmowanie decyzji klinicznych.

Dotyczy to również apteki szpitalnej, gdzie systemy informatyczne wspierają gospodarkę lekową, kontrolę interakcji i zgodność ordynacji z historią leczenia.

Współczesny proces leczenia przypomina sztafetę, w której uczestniczą laboratorium, diagnostyka obrazowa, apteka, dokumentacja medyczna i personel. Technologia jest dziś niewidzialnym spoiwem łączącym wszystkie te elementy.

Kiedy to spoiwo znika, nie zatrzymuje się pojedynczy komputer. Zatrzymuje się proces podejmowania decyzji medycznych.

Dlatego cyberbezpieczeństwo w ochronie zdrowia nie jest już tylko problemem działu IT. Jest jednym z fundamentów bezpieczeństwa zdrowotnego państwa i warunkiem bezpiecznego leczenia pacjentów.