Jeszcze pod koniec ubiegłego roku, co dziesiąte przedsiębiorstwo nie miało żadnego planu w zakresie dostosowania swoich technologii AI do krajowych i międzynarodowych regulacji – tak wynika z raportu SAS „AI Readiness: how organizations are preparing for the new requirements”. Powodem takiego stanu rzeczy był, w 44% przypadków, brak zrozumienia zapowiadanych przepisów. Jak się okazuje, biznes oczekuje wsparcia w zapewnieniu zgodności z nowymi regulacjami od dostawców technologii.
Popularyzacja rozwiązań sztucznej inteligencji wymaga uregulowania i uporządkowania zasad stosowania systemów i aplikacji opartych na AI. Na poziomie Unii Europejskiej próbą wprowadzenia stosownej legislacji jest przyjęte niedawno rozporządzenie AI Act. Czy organizacje są przygotowane na nowe regulacje?
Z odpowiedzi ankietowanych we wspomnianym badaniu wynika, że wykazują się oni dużą dozą pewności w zakresie zgodności swoich rozwiązań z nowymi lub zapowiadanymi przepisami. Prawie połowa respondentów wyraziła daleko idące przekonanie, że ich oprogramowanie wykorzystujące AI spełni wymogi regulacyjne, a 36% było o tym przekonanych do pewnego stopnia.
Co ciekawe, podczas gdy 30% firm w momencie przeprowadzania badania deklarowało, że ich oprogramowanie było już zgodne z wymogami dotyczącymi AI, to nawet 42% stwierdziło, że uzyskało od dostawcy technologii deklarację o zapewnieniu zgodności z przyszłymi przepisami.
Badanie wykazało też, że w procesy zagwarantowania zgodności oprogramowania z regulacjami dotyczącymi AI organizacje są bardziej skłonne zaangażować obecnego partnera, czyli dostawcę technologii (66% wskazań), niż wewnętrzne zespoły prawne czy zewnętrznych konsultantów (po 57%)
Niestety, istnieje też pewna – na szczęście stosunkowo wąska – grupa badanych organizacji, które do pociągu o nazwie „AI compliance” nawet nie wsiadły. 12% uczestników badania SAS nie zainicjowało procesów dostosowawczych – najczęściej z powodu braku zasobów i kompetencji (72% wskazań), braku wsparcia zewnętrznego dostawcy (48%) i braku zrozumienia nowych regulacji (44%).
Odpowiedzialność współdzielona
Na dostawcach technologii spoczywa więc ogromna odpowiedzialność. Po pierwsze, muszą zadbać o jakość wytwarzanego przez siebie oprogramowania – opracowywać modele sztucznej inteligencji w sposób etyczny, wiarygodny, transparentny, minimalizujący ryzyko nieprawidłowych, zafałszowanych wyników. Na poziomie technologicznym chodzi m.in. o wyjaśnianie i precyzyjne komunikowanie schematów działania algorytmów AI i wdrażanie procedur zarządzania AI i danymi, a na poziomie operacyjno-procesowym – o wytworzenie kultury organizacyjnej promującej wartości zgodne z zasadami i strategią organizacji.
Po drugie, dostawcy muszą adresować wysokie oczekiwania klientów, potrzebujących wsparcia w zakresie prawidłowego wdrażania i utrzymania systemów.
“Organizacje bardziej niż kiedykolwiek muszą zachować należytą staranność przy wyborze dostawcy. Potrzebują zaufanego partnera, który może doradzić w zakresie przyjęcia najlepszych praktyk w całej organizacji i ma możliwość tworzenia godnych zaufania rozwiązań AI” – skomentował Iain Brown, dyrektor działu Data Science w SAS Northern Europe. „Ponadto ważne jest, aby wspierać odpowiedzialność w firmie. Szkolenie personelu i świadomość dotycząca wykorzystania danych muszą mieć mocne oparcie w zasadach zarządzania nimi, w tym w ich jakości i pochodzeniu. Kluczowe jest również ustanowienie solidnego zarządzania modelami, aby stale monitorować zestaw modeli używanych w całej organizacji i zapewnić, że wyniki minimalizują potencjalną stronniczość” – dodał.
Jak osiągnąć gotowość na AI?
Rozwiązania sztucznej inteligencji otwierają przed biznesem możliwości uruchomienia zupełnie nowych strumieni przychodowych. Tylko od dojrzałości organizacji zależy, kiedy i w jakim stopniu projekty eksperymentalne, które wiele organizacji już prowadzi, przejdą z fazy testów do etapu finalnego wdrożenia. Raport SAS wyszczególnia cztery kroki, które mogą przyśpieszyć osiągnięcie gotowości na AI:
- Wczesne planowanie – wejście w życie regulacji dotyczących AI wymaga od organizacji szybkiego zainicjowania działań dostosowawczych, które zapewnią im operacyjną zgodność z nowymi regulacjami. Działania te należy już teraz podjąć w obszarach stosowanych w organizacji technologii oraz polityk, procedur i procesów obowiązujących personel.
- Koordynacja działań – zapewnienie zgodności z regulacjami jest wysiłkiem zbiorowym, dlatego warto rozważyć powołanie w organizacji komitetu sterującego bądź jednostki koordynacyjnej reprezentującej poszczególne piony przedsiębiorstwa. Zespół może trzymać rękę na pulsie postępów technologicznych i zmian legislacyjnych oraz współpracować z kontrahentami i partnerami.
- Wybór właściwego dostawcy – narzędzia sztucznej inteligencji należy rozwijać tak, aby sugerowane przez AI rozwiązania problemów były odpowiedzialne, transparentne, możliwe do wyjaśnienia i zgodne z prawem. Organizacje powinny więc współpracować z tymi dostawcami technologii, którzy na pierwszym miejscu stawiają odpowiedzialne innowacje.
- Łatanie luk kompetencyjnych – wdrożenie platform low code/no code pozwoli większej liczbie pracowników eksperymentować ze sztuczną inteligencją. Personel nietechniczny otrzyma narzędzia do opracowywania swoich modeli w ścisłych i zgodnych z przepisami ramach, dzięki czemu specjaliści ds. danych mogą skoncentrować się na najważniejszych kwestiach związanych z regulacjami i innowacjami.
