Przejrzystość tego, co się dziś dzieje w technologii jest bardzo ważna

Z Grzegorzem Napieralskim, szefem Podkomisji stałej ds. sztucznej inteligencji i przejrzystości algorytmów rozmawiamy o pracach parlamentarnych nad regulacjami dotyczącymi wykorzystania algorytmów AI; konieczności ich wprowadzenia, abyśmy mogli żyć w sprawiedliwym kraju; wprowadzaniu AI Act do naszego systemu prawnego; firmach, które operują wyłącznie na algorytmach jeżeli chodzi o zatrudnianie i rozliczanie pracy.

Dlaczego powstała i czym ma się zająć kierowana przez Ciebie podkomisja?

Przede wszystkim przygotowaniem regulacji dla sztucznej inteligencji, czy też bardziej ogólnie algorytmów cyfrowych, które pojawiają się w naszym życiu. To nas czeka. Jest nieuniknione i – na razie – nie jest w Polsce w ogóle uregulowane. Tak naprawdę jest to termin, który w życiu publicznym pojawił się stosunkowo niedawno, a od roku stał się elementem poważnej debaty publicznej i politycznej.

W połowie marca 2024 roku Parlament Europejski przyjął rozporządzenie w sprawie sztucznej inteligencji – AI Act. Ustawa ta ma chronić „podstawowe prawa, demokrację, praworządność i środowisko przed systemami sztucznej inteligencji”. Zaczęliśmy debatować nad nim w Sejmie z początkiem kwietnia.

Poza drobnymi regulacjami, które były wprowadzane w niektórych krajach, nic „poważnego” się nie wydarzyło. A moim zdaniem wydarzyć się musi.

Dlaczego?

Dla naszego bezpieczeństwa, komfortu życia, nie tylko Polek i Polaków, ale i obcokrajowców, którzy przyjeżdżają do naszego kraju do pracy. Jest to też ważne dla zapewnienia przejrzystości tego, co się wokół nas dzieje. Mamy już w Polsce duże firmy, które operują wyłącznie na algorytmach jeżeli chodzi o zatrudnianie i rozliczanie pracy. Ocenia ją już nie kierownik zmiany, ale „maszyna”. Ona też na koniec miesiąca wylicza pensje.

Myślę, że pracownik powinien wiedzieć, co zrobić, aby zarobić więcej. Pracując nad stosowną ustawą w poprzednim parlamencie uważaliśmy, że nic złego się nie stanie, jeśli ta wiedza będzie dla niego dostępna. Będzie wiedział, że danego dnia zarobi więcej bo np. przeniesie ciężki karton dalej niż wczoraj, algorytm więc go za to „wynagrodzi”.

Przejrzystość tego, co się dziś w technologii dzieje jest bardzo ważna.

Czy to, że algorytmy „decydują” o wysokości wypłaty jest w polskim prawie zabronione?

Byłem niedawno na rozmowie u prezesa Państwowej Inspekcji Pracy. Mówi, że co prawda nie jest to zabronione, ale wciąż nie jest dobrze uregulowane. PIP ma bardzo dużo zgłoszeń od pracowników tzw. aplikacji żywieniowych, którzy mają poczucie niesprawiedliwości, jeżeli chodzi o sposób wynagradzania. To algorytm ocenia ich, rozlicza i obserwuje sposób w jaki dowożą posiłki.

Nie jest problemem, że tak się dzieje. Jedyne, na czym pracownikom zależy, to, aby wiedzieli, że jak będą jechali gdy pada deszcz, to aplikacja naliczy im 3 zł więcej za kurs. Algorytm uzna bowiem, że pracuje w trudnych warunkach. Powtórzę, przejrzystość jest najważniejsza.

W Podkomisji wróciliście do projektu Ustawy o zmianie ustawy o związkach zawodowych, która ma dać im prawo zajrzeć w algorytmy, które oceniają pracę ludzi w danej firmie.

To ustawa, która powstała w zeszłej kadencji. W dużej mierze bazuje na rozwiązaniach hiszpańskich. Tu nie chodzi o to, aby ktoś miał wgląd w sekrety firm. Chcemy, aby pracownik, bądź pracownica dokładnie wiedzieli, że np. liczba przeniesionych kartonów przekłada się na określoną płacę. Jeśli będą chcieli wiedzieć w jaki sposób jest ona obliczana, to związki zawodowe będą miały możliwość wejrzeć w ten algorytm. Dzięki temu pracownik będzie miał poczucie, że wie dlaczego raz zarabia 5 zł, innym 7 zł, a jeszcze innym 9 zł na godzinę.

Kiedy ustawa ta trafi pod obrady Sejmu?

Chcemy rozmawiać o niej na jednym z pierwszych posiedzeń Podkomisji, a następnie przenieść pod obrady Komisji Cyfryzacji. Jeśli zostanie przyjęta jednogłośnie, to trafi do Sejmu.

Jeden z właścicieli takich aplikacji w czasie protestu pracowników podobno zwolnił, a raczej odciął od swojej platformy wszystkich, którzy znajdowali się w miejscu protestu. Aplikacja pokazywała ich lokalizację.

To nie powinno mieć miejsca. Żyjemy w bardzo nowoczesnym świecie, ale też wypracowaliśmy wiele standardów cywilizacyjnych, z których nie powinniśmy rezygnować. Był wyzysk pracowników w wieku XVIII i XIX, ale żyjemy w wieku XXI, a prawa pracownicze i ich bezpieczeństwo, wolność jednostki są rzeczą najważniejszą.

Za wyrażanie zastrzeżeń do pracodawcy nikogo nie można karać. Dlaczego dzisiaj w kopalni górnik może strajkować, a chłopak, bądź dziewczyna, która jeździ na rowerze i rozwozi nam obiady nie? Każdy powinien mieć poczucie, że żyje w sprawiedliwym kraju, który go chroni.

Patrzymy dzisiaj na sztuczną inteligencję, algorytmy AI, jak na coś, co nam pomaga. Każdy, średnio zaawansowany technologicznie człowiek, bez algorytmów nie da sobie już rady, albo będzie mu coraz ciężej.

Wcześniej było tak ze smartfonami i instalowanymi na nich aplikacjami. Mamy w nich mapy, które ułatwiają nam dotarcie do celu. Możemy się niemalże natychmiast skomunikować z dowolną osobą na świecie. Przez aplikacje mobilne robimy zakupy. Śledzą one nasze parametry zdrowotne i sugerują co zrobić, abyśmy byli zdrowsi. Telefon reguluje dziś nasze życie. Przypomina nam o wielu rzeczach. To już się dzieje.

Nam, Parlamentarzystom chodzi o to, aby to wszystko, co dzieje się w obszarze technologii, było dla obywateli bezpieczne i uregulowane. Abyśmy mieli na tyle duże poczucie bezpieczeństwa, że jeżeli np. aplikacja zdrowotna mówi nam, co musimy zrobić, to zrobimy to ufając, że nie będzie to miało na nas negatywnego wpływu.

Sztuczna inteligencja, jeżeli chodzi o cały segment systemu ochrony zdrowia to jedno z największych, jeśli nie największe wyzwanie, które nas czeka. Oczywiście wszyscy chcemy mieć jak największy dostęp do osiągnięć nowoczesnej medycyny. Ale z drugiej strony chcemy mieć tak samo duże zaufanie do algorytmów AI, jak do lekarza, do którego teraz chodzimy.

Co to oznacza?

Oznacza to, że jeżeli np. nauczylibyśmy algorytmy rozpoznawać choroby – bazując na ogromnej liczbie zebranych zdjęć, w różnych populacjach ludzi, w różnym wieku, z różnych stron świata – to może nie musielibyśmy czekać na konsultacje lekarskie. Tuż po zrobieniu zdjęcia mielibyśmy od razu diagnozę, bez czekania w kolejce do specjalisty. Dzięki temu mielibyśmy szybszą diagnozę i szybciej podjęlibyśmy ewentualne leczenie.

Z drugiej strony musimy być pewni, że algorytm bazuje na właściwych, zweryfikowanych danych, że one są na tyle dobre, że „maszyna” podejmie właściwą decyzję. Na to oczywiście nakłada się bezpieczeństwo danych, w tym przypadku niezwykle wrażliwych oraz ich anonimizacja. W przypadku „powszechnych” chorób, jak rak płuca, nie jest to problem. Poczucie anonimowości jest zachowane. Jednak gdy mamy do czynienia z chorobami rzadkimi, występującymi może w promilu społeczeństwa, staje się to już wyzwaniem.

Jako politycy po pierwsze musimy zadbać o dostęp do bardzo dobrych technologii. Po drugie o bezpieczeństwo, a więc o to, aby ta technologia nam służyła i nie popełniała błędów. Po trzecie zaś musimy mieć na uwadze ochronę naszej prywatności.

Czy wykorzystanie algorytmów AI w zdrowiu to jedno z pierwszych zadań, które postawiliście sobie w Podkomisji?

Jedno z ważniejszych, dlatego, że to, co dzieje się z naszym zdrowiem – poza bezpieczeństwem – jest najważniejsze. To jest też coś co nas, polityków powinno determinować do pracy. O tym powinniśmy rozmawiać.

Ale są też inne dziedziny naszego życia, na które wpłynie AI, np. edukacja. Często już dzisiaj nauczycielki i nauczyciele mówią, że ChatGPT pisze wypracowania ich uczniów. Oczywiście nadal trzeba mieć trochę wiedzy, aby było ono dobre. Dzisiejsze osiągnięcia technologiczne powinny dawać rekomendacje do zmiany systemu edukacji.

Kiedy chodziłem do szkoły średniej, to trzeba było uczyć się np. przekroju skóry, czy wszystkich rzek na świecie. Czy wciąż powinniśmy to robić, skoro w ciągu 30 sekund – dzięki smartfonowi – dowiem się jaka rzeka płynie przez Węgry, Francję czy Włochy? Czy może raczej powinniśmy uczyć nasze dzieci jak wykorzystywać nowe technologie dla własnego rozwoju? Nie potrafię dziś na te pytania odpowiedzieć.

Algorytmy AI w systemie edukacji też będą stanowić bardzo duże wyzwanie.

Równie duże, jak te w systemie ochrony zdrowia. Co prawda nie ryzykujemy naszym życiem, ale w pewnym stopniu już swoją przyszłością, karierą, rozwojem i dobrobytem.

W tym momencie wchodzimy w dyskusję filozoficzną, na ile system może ingerować w nasze życie, abyśmy wciąż czuli się bezpiecznie. Gdzie leży nieprzekraczalna granica naszej prywatności. Czy chcemy, aby kamery – lub nasze telefony – sprawdzały nas, śledziły?

Jest też dyskusja – w sferze moralnej – oceny działania algorytmów AI w aplikacjach, o których wcześniej wspominałem. Weźmy np. jedną z aplikacji do zamawiania przewozów. Ona nie tylko instaluje się na naszym telefonie, ale też śledzi to, co się na nim dzieje. I „reaguje”. Przykładowo jeśli mamy mało baterii, np. 5%, to podwyższy nam cenę za kurs, bo mamy małe szanse na zamówienie kolejnego przewozu. Przetestowałem to kiedyś „na własnej skórze”. To pokazuje złożoność tego tematu, dla nas wszystkich, także ekspertów.

Ważna też rzecz jest taka, aby budując systemy oparte o AI, które mają nam pomagać, wykonywać wiele czynności za nas – także w administracji państwowej i samorządowej – były „sprawiedliwe”. Jeśli więc ktoś ten system będzie tworzył, to aby zadbał, by działał właśnie w ten sposób. Aby np. nie odrzucał kobiet, bo – zgodnie z informacjami z Głównego Urzędu Statystycznego – „statystycznie” są dłużej na zwolnieniach lekarskich niż mężczyźni. System więc uzna, że lepszym kandydatem do pracy będzie mężczyzna. W intencji budowania takiego systemu nikt nie miał nic złego „na myśli”. System wsparty algorytmami AI sam nauczył się, by preferować męską połowę społeczeństwa.

W sektorze bankowym kiedyś, gdy chciałem wziąć kredyt hipoteczny, to szedłem do banku na rozmowę z doradcą, rozmawialiśmy o moich planach, dochodach, zdolności finansowej. Na tej podstawie oceniał on czy i jaki kredyt mogę wziąć. W przyszłości system, wsparty AI, może być bezlitosny opierając się na „suchych” liczbach. Nie będzie dialogu. I co wtedy?

To jest wielowymiarowy, wielowątkowy problem. Dlatego stworzyliśmy podkomisję sejmową. Ma być ona forum dialogu z biznesem, dużymi firmami, specjalistami w nich zatrudnionych, ekspertami w systemie ochrony zdrowia. Bez tego nie przygotujemy dobrych regulacji. Tym bardziej, że my, politycy po pierwsze nie mamy takiej wiedzy. To inżynierowie pracujący w banku, w firmie IT, w dużej korporacji, która sprzedaje produkty na całym świecie są na bieżąco z tym, co dzieje się w rozwoju sztucznej inteligencji.

Będziecie tworzyć własne regulacje, czy poczekamy na AI Act?

Czekaliśmy na Unię Europejską, choć oczywiście będziemy rozporządzenie to dostosować do naszych realiów. W tak fundamentalnych sprawach powinniśmy na pierwszym miejscu stawiać przepisy unijne, a następnie przygotować ich implementację na rynek polski.

Ile może potrwać implementacja AI Act? Nowelizacji Krajowego Systemu Cyberbezpieczeństwa, który miał wprowadzić dyrektywę NIS z roku 2016, wciąż jeszcze nie ma, a w międzyczasie pojawiło się NIS2…

To jest trochę problem wewnętrzny państwa polskiego i sprawności uchwalania prawa, spadek po tamtej władzy. Teraz w Komisji Cyfryzacji musimy sobie z tym poradzić. Zapóźnienia mamy także w ustawie o Komunikacji elektronicznej. Tam opóźnienia mają już 3 lata, a ma ona uregulować cały ten rynek od nowa.

Wracając do AI Act, powinniśmy w miarę szybko i skutecznie przejmować przepisy unijne. Dlatego też powstała podkomisja, aby wszystko można było przedyskutować niejako z boku pracy Komisji Cyfryzacji, pracy rządu. Ma być ona miejscem dyskusji i wymiany myśli.

Jak będzie działo się już coś na poziomie ustawowym, to pewne rzeczy będziemy mieli wstępnie już ustalone. Dzięki temu też politycy, którzy w niej pracują będą mieli okazję zdobyć niezbędną wiedzę. Poczują ten temat, zrozumieją różnice np. między algorytmami Artificial Intelligence i Machine Learning, czym jest Deep Learning. Jak się tego nauczymy i poczujemy to też łatwiej będzie nam te przepisy przygotowywać. Nie będziemy tworzyli dobrego prawa, jeżeli nie będziemy mieli takiego dialogu.

Czy, jako państwo, możemy mieć wpływ na kolejne regulacje ds. AI, które ewentualnie mogą się pojawić?

Myślę, że przepisy te będą zmieniały się regularnie, a Polska może być bardzo pomocna w ich tworzeniu. Od listopada 2022 roku, premiery ChatGPT 3.5 rozwój algorytmów bardzo przyspieszył. Będzie więc pojawiało się coraz więcej nowych narzędzi, rozwiązań, możliwości ich zastosowania. Od lat też widzimy szybki rozwój nowych technologii.

Co możemy wnieść? Po pierwsze, bardzo dużo wspaniałych inżynierów i świetne zaplecze intelektualne nie tylko jeśli chodzi o rozwój informatyki, sztucznej inteligencji, a też w innych dziedzinach, np. ochronie zdrowia. Niedawno brałem udział w spotkaniach Polskiego Towarzystwa Kardiologicznego i Polskiego Towarzystwa Onkologicznego. Mamy ogromne osiągnięcia jeśli chodzi o badanie tych chorób. W ich przypadku także testuje się algorytmy AI w procesie diagnozy. Byłem również na wykładzie prof. dr hab. Jerzego Szaflika, jednego z najlepszych w Polsce okulistów. Na jego jubileuszu, poruszono temat leczenia jaskry ze wsparciem sztucznej inteligencji. Z takim zapleczem możemy nie tylko kupować technologię, ale też współtworzyć ją z największymi firmami. Mamy rolę do odegrania.

Ale nasuwa się pytanie, jaka powinna być rola Państwa polskiego w tym procesie? Jak możemy wspierać firmy, fundacje, start-upy, stowarzyszenia, które się zajmują rozwojem technologii? Jak wykorzystać ich potencjał do stworzenia dobrego prawa? Najlepiej słuchając ludzi, którzy odnoszą sukcesy w Polsce i poza jej granicami.

Będziecie w swoich pracach współpracować z odpowiednimi ministerstwami? Dużo mówiliśmy o wykorzystaniu AI w opiece zdrowotnej…

Oczywiście. Nie wyobrażam sobie prac bez zaangażowania ekspertów ze strony Ministerstwa Zdrowia, uczelni medycznych, stowarzyszeń, Narodowego Funduszu Zdrowia, Agencji Oceny Technologii Medycznych i Taryfikacji, ale też Ministerstwa Cyfryzacji.

Wiem, że poprzedni rząd miał przygotować katalog aplikacji, które są rekomendowane przez Ministerstwo Zdrowia. Czy powstał? Nie wiem? Będziemy chcieli to sprawdzić. Agencja Oceny Technologii Medycznych i Taryfikacji jest tutaj kluczowa. Ona ocenia nie tylko technologię dotyczącą produkcji leków, ale także aplikacje, które podają diagnozy, abyśmy – po jej uzyskaniu – czuli się bezpiecznie.

Jak widać, pracy przed nami co nie miara.

Mam takie wrażenie, że obecny rząd postawił na tę sztuczną inteligencję. W krótkim czasie ogłoszono wiele inicjatyw, czy to w Ministerstwie Cyfryzacji, czy w Sejmie. Czy to hasło „przewodnie” na najbliższe 4 lata?

Chcemy zbudować nowoczesne państwo, konkurencyjne na światowych rynkach. To jest dzisiaj jeden z priorytetów. Szczęściem jest to, że w tej kadencji Minister Cyfryzacji jest zarazem wicepremierem, a w dodatku z krwi i kości politykiem.

Mówiliśmy przed chwilą o tym, że technologie się na tyle szybko zmieniają, że prawo trzeba szybko dopasowywać do zmieniających się warunków. Mając silnego lidera, który ma pozycję polityczną, łatwiej będzie te procesy przeprowadzić przez parlament i rząd.

W latach 2019-2020 powstała strategia rozwoju AI w Polsce. Jakie są jej efekty?

W sumie niewiele się wydarzyło. Zabrakło funduszy, a jeżeli chcemy rozwijać sztuczną inteligencję w Polsce, to: po pierwsze trzeba znaleźć pieniądze na badania naukowe. Trzeba znaleźć pieniądze na startupy, które chciałyby się tym tematem zajmować. Trzeba by też zmienić trochę filozofię ich działania.

Bardzo podoba mi się ta, którą zauważyłem w Urzędzie ds. Innowacji w Izraelu. Inwestuje w 10 projektów, ale nawet jak wszystkie nie wyjdą, a wyjdzie 11, to z tego sukcesu najbardziej się cieszą. Tym bardziej, że inwestycje we wszystkie, 11 start-up’ów zwróci się wielokrotnie.

Musimy też zmienić sposób myślenia. To, że komuś coś nie wyjdzie, nie skreśla go. Tak właśnie trzeba do tego podejść. Ale muszą też być pieniądze, dobry system edukacji, proces budowy kompetencji wśród młodych ludzi. Nie wiemy, jak niektóre zawody będą wyglądały za 20 lat. Ale możemy przygotowywać młodych ludzi do tego, aby szybko poradzili sobie w nowych, pojawiających się zawodach. Ileś rzeczy państwo musi przyjąć na swoje barki.

Uczelnie europejskie absolutnie przemodelowują systemy kształcenia wykorzystując do tego nowe technologie. Powstają nowe kierunki. W Holandii powstał np. kierunek psychologii technologii. Przygotowuje się młodych ludzi do całkowicie innego systemu pracy.

Mówiliśmy o funduszach. Czy obejmą one też inwestycje w naukę, w tym pensje dla doktorantów?

To kolejna rzecz, którą powinno się zmienić. Musimy sowicie wynagradzać osoby, które poświęcają się nauce. W ten sposób budujemy przyszłość. Tak, jak kiedyś zainwestowaliśmy w system ochrony zdrowia, w którym lekarze dziś dobrze zarabiają.

Jeżeli nie będziemy inwestowali w edukację, od szkoły podstawowej po szkoły wyższe, to przegramy ten wyścig. Wszystkie państwa, które zainwestowały w system edukacji, zmieniły go wygrywają. Przykładów jest wiele – Korea Południowa, Izrael, Singapur, czy bliżej nas Finlandia. Celowo wymieniam te państwa, bo nie są dużymi, licznymi krajami. A dodatkowo udała im się ta transformacja w stosunkowo krótkim czasie.

Nie trzeba być dużym, olbrzymim państwem, jak Stany Zjednoczone, aby odnosić sukcesy. Ale trzeba umiejętnie inwestować pieniądze i kierować rozwojem kraju. Edukacja jest bardzo ważna na każdym szczeblu. Temu obszarowi musi zostać nadany strategiczny kierunek.

Kiedyś było to wyposażenie wszystkich szkół w sale komputerowe. Teraz są to bardziej gogle VR i drukarki 3D. Całkowicie inne narzędzia powinny się dziś w szkole znaleźć. Powinny powstać wyspecjalizowane laboratoria, w których dzieci będą zdobywać doświadczenia na przyrządach, których większość z nich nigdy nie będzie miała w domu.

Na amerykańskich uczelniach niektórzy profesorowie wymuszają zastosowanie generatywnej sztucznej inteligencji na swoich przedmiotach, np. z przedsiębiorczość. Czy jest możliwe, że każdy student w Polsce będzie mieć dostęp do tego typu narzędzia?

Jestem za tym, aby studenci mieli do czegoś dostęp, ale o to, co to powinno być powinniśmy zapytać ekspertów. Oni powinni poradzić jakiej technologii użyć. Kiedyś kupowaliśmy do szkół interaktywne tablice. Wcześniej w komputery. Dziś narzędzia, których obsługi powinni nauczyć się uczniowie są zupełnie inne. Udostępniane są w chmurze obliczeniowej, jak np. ChatGPT. Możemy z niego korzystać, uczyć dzieciaki nowych kompetencji.

Jeżeli jest jakaś firma, która w ramach budowania własnego wizerunku, czy poszukiwania nowych dróg rozwoju, chce inwestować w takie rozwiązania edukacyjne, to czemu z nich nie skorzystać?