Nowa polityka Ministerstwa Finansów porządkuje wykorzystanie AI w resorcie

Polityka Rozwoju Sztucznej Inteligencji w Resorcie Finansów obejmuje nie tylko sam resort, lecz także Izby Administracji Skarbowej, Urzędy Skarbowe i celno-skarbowe, Krajową Informację Skarbową, Centrum Informatyki Resortu Finansów, Krajową Szkołę Skarbowości, Polski Instytut Ekonomiczny oraz Polską Agencję Nadzoru Audytowego.

Polityka ma stworzyć wspólne ramy dla projektowania, wdrażania i użytkowania narzędzi wykorzystujących AI. Jej autorzy podkreślają, że sztuczna inteligencja ma wspierać realizację zadań publicznych, poprawiać jakość usług i zwiększać zdolności analityczne, ale nie może zastępować człowieka w podejmowaniu decyzji ani zdejmować z niego odpowiedzialności.

AI jako element transformacji państwa

Dokument traktuje sztuczną inteligencję jako jeden z instrumentów cyfrowej transformacji resortu. Technologie AI mają przede wszystkim odciążać pracowników od powtarzalnych i czasochłonnych czynności, podnosić efektywność procesów oraz wspierać analizę danych istotnych dla finansów publicznych.

Polityka AI obejmuje szeroki katalog rozwiązań: od narzędzi i aplikacji po komponenty większych systemów IT. Nie ma przy tym znaczenia, czy dane rozwiązanie zostanie opracowane wewnętrznie, kupione od zewnętrznego dostawcy, czy udostępnione jako usługa.

Ważnym założeniem jest objęcie polityką całego cyklu życia systemu AI, od fazy koncepcyjnej i testów, przez wdrożenie i eksploatację, po aktualizacje, audyty oraz ewentualne wycofanie rozwiązania.

Preferencja dla polskich i europejskich technologii

Jednym z ważnych elementów dokumentu jest odwołanie do cyfrowej suwerenności. Resort finansów deklaruje, że w pierwszej kolejności będzie dążył do wykorzystywania rozwiązań rozwijanych w Polsce lub Unii Europejskiej, o ile spełnią wymagania dotyczące funkcjonalności, bezpieczeństwa i efektywności.

Dopuszczone jednak pozostaje korzystanie z technologii globalnych dostawców. Ma to być jednak rozwiązanie stosowane w sytuacji, gdy nie ma krajowej lub europejskiej alternatywy odpowiadającej potrzebom resortu. Jednocześnie każdy taki przypadek musi uwzględniać obowiązujące przepisy prawa oraz wewnętrzne regulacje bezpieczeństwa.

Podejście to ma ograniczać ryzyko vendor lock-in, wzmacniać niezależność technologiczną administracji i wspierać rozwój krajowego oraz europejskiego rynku AI.

Własna infrastruktura i ochrona danych

Specyfika resortu finansów oznacza konieczność przetwarzania danych objętych szczególną ochroną, w tym tajemnicą skarbową, celną i finansową.

Dlatego Polityka wskazuje, że priorytetem powinny być rozwiązania działające we własnej infrastrukturze lub w środowiskach zapewniających porównywalny poziom bezpieczeństwa i pełną kontrolę nad przetwarzaniem informacji.

Resort zapowiada rozwój bezpiecznej i suwerennej infrastruktury technicznej, w tym zasobów obliczeniowych w ośrodkach przetwarzania danych. Chodzi nie tylko o udostępnienie algorytmów, lecz także o stworzenie zaplecza pozwalającego zapewnić wysoką dostępność i ciągłość działania systemów AI wspierających kluczowe procesy.

Polityka AI zakłada również minimalizację zakresu danych wykorzystywanych przez systemy AI. Dane powinny być oczyszczane, standaryzowane i, gdy jest to konieczne, anonimizowane lub pseudonimizowane. Mają być chronione na każdym etapie cyklu życia systemu, a dostęp do nich musi podlegać kontroli i ograniczeniom.

Szczególne znaczenie ma zapis dotyczący dostawców zewnętrznych. Umowy zawierane z firmami technologicznymi powinny zawierać jednoznaczny zakaz wykorzystywania danych resortu do trenowania, dostrajania lub ulepszania własnych systemów tych dostawców.

Każde rozwiązanie musi przejść kontrolę

Dopuszczenie systemu zawierającego komponent AI wymaga nie tylko spełnienia standardowych warunków stosowanych przy wdrażaniu systemów informatycznych, lecz także akceptacji dyrektora komórki właściwej do spraw AI.

Każde rozwiązanie ma być wpisane do dwóch rejestrów:

• Rejestru Systemów Informatycznych, obejmującego eksploatowane systemy resortu;
• Centralnego Rejestru Użyć AI, w którym będą ewidencjonowane zgłoszone i dopuszczone zastosowania sztucznej inteligencji.

Przed wdrożeniem inicjatywa AI może zostać poddana testom w formule Proof of Concept. Ocena wyników takich testów ma pomóc ustalić, czy dane rozwiązanie jest uzasadnione, skuteczne i gotowe do dalszego rozwoju.

Dokument przewiduje także cykliczne audyty i stały monitoring już działających systemów. Kontrola ma obejmować m.in. nieprawidłowości, odchylenia od deklarowanego sposobu działania, spadki jakości wyników oraz inne sygnały wskazujące na potencjalne ryzyka. Audyt powinny przeprowadzać osoby niezależne od zespołów odpowiedzialnych za budowę, wdrożenie, utrzymanie lub eksploatację danego rozwiązania.

Rada do spraw Sztucznej Inteligencji w MF

Centralnym elementem modelu zarządzania będzie Rada ds. Sztucznej Inteligencji. W jej skład wejdą przedstawiciele obszarów związanych m.in. z informatyzacją administracji skarbowej, ochroną danych osobowych, bezpieczeństwem informacji, rozwojem IT oraz analizą danych.

Rada będzie opiniować:

• inicjatywy dotyczące wdrożenia AI;
• koncepcje i wyniki projektów Proof of Concept;
• rezultaty audytów;
• materiały i dokumenty dotyczące sztucznej inteligencji;
• kierunki rozwoju AI w resorcie finansów.

Posiedzenia Rady będą odbywać się zdalnie, w zależności od potrzeb, nie rzadziej niż raz w miesiącu. W jej pracach będą mogli uczestniczyć także eksperci i przedstawiciele jednostek organizacyjnych zaproszeni przez przewodniczącego.

Człowiek pozostaje odpowiedzialny za decyzje AI

Polityka jednoznacznie wskazuje, że AI ma wspierać podejmowanie decyzji, a nie zastępować człowieka. Za każdą decyzję wspomaganą przez system odpowiada uprawniony pracownik. Zarówno za samo rozstrzygnięcie, jak i za sposób wykorzystania wyniku wygenerowanego przez AI musi uzyskać jego aprobatę.

Dokument wyklucza automatyczne podejmowanie decyzji wywołujących skutki prawne lub faktyczne bez udziału i formalnej autoryzacji uprawnionego pracownika. Przed zastosowaniem wynik działania systemu musi zostać zweryfikowany.

Zasada ta ma szczególne znaczenie w administracji finansowej, gdzie decyzje mogą wpływać na sytuację prawną i ekonomiczną obywateli oraz przedsiębiorstw. Polityka przewiduje także prawo do uzyskania zrozumiałych wyjaśnień dotyczących wpływu rozwiązania AI na rozstrzygnięcie sprawy, a także możliwość zgłoszenia zastrzeżenia lub odwołania, z uwzględnieniem przepisów szczególnych.

Obowiązek informowania i szkolenia ze sztucznej inteligencji

Pracownik powinien zostać poinformowany w jasny i jednoznaczny sposób, że wchodzi w interakcję z rozwiązaniem wykorzystującym AI. Resort ma także informować pracowników o zakresie wdrożonych narzędzi, ich możliwościach, ograniczeniach i zasadach odpowiedzialnego korzystania.

Warunkiem dopuszczenia pracownika do korzystania z AI będzie ukończenie szkolenia. Ma ono być udostępniane centralnie na resortowej platformie edukacyjnej, aby zapewnić jednolity poziom przygotowania użytkowników.

Zakres kompetencji powinien odpowiadać roli pracownika i charakterowi wykorzystywanego rozwiązania. Obejmuje to m.in. znajomość zasad bezpieczeństwa, umiejętność weryfikacji wyników, rozumienie ograniczeń modeli oraz świadomość obowiązków prawnych i etycznych.

Autorzy polityki traktują rozwój kompetencji AI jako proces ciągły. Oprócz szkolenia obowiązkowego przewidziano także rozwój specjalistycznych umiejętności, krytycznego myślenia i kompetencji analitycznych.

Regulamin doprecyzuje praktykę wykorzystania AI

Sama polityka wyznacza ramy strategiczne i organizacyjne. Szczegółowe zasady użytkowania narzędzi AI ma określić Regulamin AI RF. Dokument powinien opisać m.in. klasyfikację inicjatyw, tryb prowadzenia projektów, zasady dopuszczania rozwiązań, ograniczenia ich użycia oraz powiązanie systemów z konkretnymi środowiskami IT.