Jak skutecznie przeciwdziałać Shadow AI?

Narzędzia oparte na sztucznej inteligencji coraz mocniej wspierają pracę z różnego rodzaju dokumentami i danymi, dlatego skala ich wykorzystania w firmach systematycznie rośnie. W wielu organizacjach wdrażanie AI odbywa się jednak poza kontrolą, a czasem nawet bez wiedzy działów IT i kadry zarządzającej. To rodzi ogromne ryzyka m.in. w obszarze bezpieczeństwa danych. Podpowiadamy w jaki sposób zachować kontrolę nad AI w Twojej organizacji.

W kontekście bezpieczeństwa danych szczególnie problematyczny staje się fakt wykorzystania nieautoryzowanych, ogólnodostępnych narzędzi w zastosowaniach firmowych. Narzędzia dedykowane do zadań typowo konsumenckich mają często odmienną specyfikę działania niż rozwiązania przeznaczone do celów firmowych.

Co gorsza, w wielu organizacjach zarządy nie mają nawet świadomości faktycznej skali wykorzystania sztucznej inteligencji. Ich wiedza na ten temat często ogranicza się do obserwacji przebiegu oraz oceny efektów projektów pilotażowych, a więc inicjatyw realizowanych zwykle w sposób sformalizowany i przy udziale lub pod nadzorem zespołu IT.

W firmach brakuje wiedzy o rzeczywistej skali wykorzystania AI

W praktyce pracownicy realizujący codzienne zadania na niższych szczeblach organizacji bardzo często sięgają po ogólnodostępne narzędzia oraz usługi AI, które znają z zastosowań prywatnych. Mają bowiem świadomość jak bardzo takie narzędzia ułatwiają i przyspieszają realizację niektórych działań. Tworzenie prezentacji, tłumaczenie lub analiza dokumentów to tylko niektóre przykłady.

„Przypadki wycieków danych poprzez niewłaściwe wykorzystanie AI zwykle nie wynikają ze złej woli. Motywacje pracowników sięgających po rozwiązania AI są najczęściej pozytywne. Chcą wykonać swoją pracę szybciej, w lepszy i bardziej efektywny sposób. Modele generatywne zaangażowane do wykonania określonych działań bardzo często dopytują użytkowników, stopniowo zachęcając ich do przekazania dodatkowych, potencjalnie cennych informacji” – zauważa Diana Kisiała, Data Protection Officer w firmie Bluesoft. Jej zdaniem, główną przyczyną większości oddolnych inicjatyw zmierzających do użycia rozwiązań AI w kontekście wykonywanej pracy jest brak wiedzy, jasnych procedur i odpowiednich narzędzi udostępnionych przez pracodawcę.

„W realiach powszechnego wykorzystania AI należy szkolić ludzi w jaki sposób powinni chronić firmowe dane, na czym polega ich odpowiedzialność i jakie konsekwencje grożą za złamanie ustalonych reguł. Brak jasnych zasad używania sztucznej inteligencji w organizacji sprawia, że nie dostrzegają ryzyka związanego z przekazaniem ogólnodostępnemu modelowi AI wrażliwych danych” – mówi Diana Kisiała. „Równie ważne jest jednak zapewnienie pracownikom narzędzi pozwalających na wykorzystanie możliwości AI w sposób kontrolowany i bezpieczny” – dodaje.

Warto podjąć tego typu inicjatywy, ponieważ ryzyko związane ze zjawiskiem Shadow AI, a więc wykorzystaniem sztucznej inteligencji do celów służbowych poza wiedzą i kontrolą organizacji, jest ogromne.

Cenne lub poufne informacje przekazane do ogólnodostępnego modelu GenAI mogą być bowiem stosunkowo łatwo dostępne dla innych użytkowników takich narzędzi. Tym samym, wykorzystanie ogólnodostępnych usług AI może stanowić istotne źródło wycieków danych. Szerokim echem odbił się na rynku wyciek wrażliwych danych firmy Samsung, związany z wykorzystaniem platformy ChatGPT. Podobnych przykładów jest jednak więcej.

Ogromne znaczenie dla bezpieczeństwa danych w obliczu powszechnego wykorzystania technologii AI ma zatem kwestia uporządkowania reguł wykorzystania danych – i zapewnienia narzędzi pozwalających skutecznie kontrolować działania użytkowników.

Po pierwsze, analiza

Dostępne dziś usługi wykorzystujące sztuczną inteligencję – a w szczególności modele generatywne – zdemokratyzowały dostęp do takich narzędzi w zastosowaniach konsumenckich. Wiele osób poznało możliwości tej technologii, choćby za pomocą ogólnodostępnych asystentów i agentów AI. Trudno zatem oczekiwać, że nie będą chcieli wykorzystać podobnych narzędzi w codziennej pracy. „Postępu nie da się zatrzymać, podobnie jak w przypadku poprzednich rewolucji technologicznych. Machina AI jest na tyle rozpędzona, że wszystkie działania podejmowane w firmach można już uznać za spóźnione, choć nadal niezbędne” – podkreśla Diana Kisiała.

Technologie AI są na tyle powszechne, że trudno też negować ich wykorzystywanie przez użytkowników za pomocą zakazów czy obostrzeń. Ostatecznie jest to także kwestia wpływająca na efektywność procesów biznesowych, satysfakcję pracowników, a nawet wizerunek pracodawcy. „Nawet w najmniejszych firmach takie narzędzia są używane na szeroką skalę, choć niekoniecznie za wiedzą i zgodą zarządu. Dlatego tak ważne jest przeprowadzenie kompleksowej analizy, która pokaże jakie narzędzia wykorzystywane są w organizacji, kto z nich korzysta, a także w jakim celu? To pierwszy krok w kierunku zapewniania kontroli nad AI” – twierdzi Diana Kisiała.

Tego typu analiza stanowić będzie podstawę do dalszych działań, w tym stworzenia odpowiednich procedur, wdrożenia i opracowania katalogu dostępnych narzędzi AI oraz zapewnienia zgodności z regulacjami. „Oczekiwania użytkowników należy uspójnić, uśrednić i wybrać takie narzędzia, które sprostają potrzebom większości. Wszystko po to, aby pracownicy mogli wykonywać swoją pracę w sposób efektywny, zgodny z ich potrzebami i pomysłami” – mówi Diana Kisiała. Istotne jest zatem zinwentaryzowanie rozwiązań AI, z których faktycznie korzystają pracownicy, a także ich kontekstu.

Dlatego potrzebna jest weryfikacja rzeczywistego przebiegu procesów biznesowych oraz roli narzędzi faktycznie wykorzystywanych przez pracowników na wszystkich szczeblach organizacji – także tych, ogólnodostępnych, a więc niekontrolowanych przez firmowy dział IT czy zespół cyberbezpieczeństwa. „Warto wejść z pracownikami w dialog, zapytać z jakich rozwiązań faktycznie korzystają i dlaczego, a następnie spróbować udostępnić im podobne narzędzia w pełni kontrolowanych warunkach” – zapewnia Diana Kisiała.

Za AI w firmie odpowiada zarząd

W wielu organizacjach brakuje też pełnej świadomości przepisów związanych z ewentualnymi naruszeniami bezpieczeństwa lub poufności wrażliwych danych wskutek użycia AI. W przypadku usług i rozwiązań przeznaczonych do użytku konsumenckiego trudno jednak mówić o odpowiedzialności dostawcy. „Ostatecznie to zarząd odpowiada za konsekwencje wykorzystania AI w organizacji. Odpowiedzialność ta oznacza też wdrożenie odpowiednich polityk i reguł określających zasady użycia takich narzędzi. Nie chodzi jednak o to, aby zakazywać AI, ale o to, by dać pracownikom narzędzia i powiedzieć w jaki sposób mądrze z nich korzystać” – mówi Diana Kisiała.

Zapewnienie przejrzystych reguł korzystania z narzędzi AI nabiera szczególnego znaczenia w organizacjach przetwarzających dane osobowe w myśl RODO, a także tych, podlegających regulacjom branżowym. Odpowiednie zarządzanie danymi w organizacji, spójne zasady ich wykorzystania i monitorowania, okazują się niezbędne, aby ograniczyć ryzyko dotyczące niewłaściwego użycia danych także w realiach AI.

Odpowiedzialnością zarządu jest wskazanie pracownikom danych wrażliwych, którymi nie należy zasilać żadnych niekontrolowanych narzędzi zewnętrznych. „Dysponując taką wiedzą pracownik trzy razy zastanowi się zanim sięgnie po rozwiązanie spoza dozwolonej puli. Będzie bowiem znał ewentualne konsekwencje. Kluczowe znaczenie ma jednak edukacja, bo ostatecznie nic nie zastąpi myślenia” – uważa Diana Kisiała.

„Zadbajmy też o to, aby pracownicy nie obawiali się zgłaszać incydentów związanych z wykorzystaniem danych. To ważne, bo nawet jeśli zdarzy się wyciek lub przekazania wrażliwych informacji do modelu AI, to świadomość takiego incydentu daje czas na reakcję i ograniczenie potencjalnych skutków” – podkreśla Diana Kisiała.

Regulacje jako wytyczne

W opracowaniu polityk użytkowania AI w zastosowaniach biznesowych pomocne okazują się m.in. regulacje obejmujące kwestię ochrony danych, w tym ISO 27001. Standard ten określa choćby wymagania dotyczące Systemu Zarządzania Bezpieczeństwem Informacji. „Oczywiście niekoniecznie trzeba implementować całą normę ISO 27001, ale warto skorzystać z zawartych w niej wzorców i wdrożyć podstawowe procedury, reguły klasyfikacji danych czy zasady pracy z nimi” – zapewnia Diana Kisiała.

W praktyce norma ISO 27001 obejmuje m.in. wytyczne dotyczące ochrony poufności, zapewnienia integralności i dostępności danych oraz zarządzania ryzykiem związanym z ich wykorzystaniem w procesach biznesowych. Z kolei na poziomie operacyjnym pomocne okazują się m.in. rozwiązania klasy DLP (Data Leakage Prevention), a więc systemy wspomagające zapobieganie utracie danych.

„Pozwalają one wykryć i zablokować działania użytkowników, które mogą skutkować wyciekiem danych. Mam tu na myśli, przykładowo, próby wykorzystania ogólnodostępnych usług AI do pracy z dokumentami zawierającymi dane wrażliwe, jak choćby numer PESEL” – mówi Diana Kisiała. Tego typu operacje mogą być tylko rejestrowane, ale mogą też generować alerty ostrzegające użytkowników przed ewentualnymi konsekwencjami. Możliwe jest też blokowanie potencjalnie niebezpiecznych działań do czasu zatwierdzenia przez administratora.

Sztuczna inteligencja wyzwaniem w obszarze compliance

W praktyce upowszechnienie sztucznej inteligencji podnosi poprzeczkę wymagań w obszarze compliance. „AI staje się kolejnym obszarem przetwarzania danych, w szczególności tych wrażliwych. Rolą zarządu jest zapewnienie spójności w zakresie zgodności z regulacjami, takimi jak RODO i DORA, ale też wymaganiami dotyczącymi bezpieczeństwa danych” – dodaje Diana Kisiała.

Warto jednak dodać, że nie każda organizacja będzie w stanie samodzielnie sprostać tego typu wymaganiom. Potrzebne są bowiem nie tylko odpowiednie kompetencje, ale i narzędzia, jak choćby wspomniane rozwiązania klasy DLP. Warto zatem rozważyć wykorzystanie wsparcia ze strony zewnętrznego, wyspecjalizowanego dostawcy.

Kolejną istotną kwestią jest analiza warunków umownych dotyczących wykorzystywanych w firmie narzędzi AI. „Przeanalizujmy ryzyka i umowy. Sprawdźmy, czy mamy możliwość podpisania umowy powierzenia danych, czy model jest zamknięty i nie będzie się uczył na naszych danych oraz czy mamy możliwość stworzenia indywidualnych kont dla każdego użytkownika” – wymienia Diana Kisiała. „Kwestia zapewnienia samodzielnego dostępu dla każdego nazwanego użytkownika, a więc możliwość eliminacji sytuacji, kiedy kilku pracowników korzysta z jednego konta, kłóci się z RODO i wymogami w obszarze bezpieczeństwa. Uniemożliwia bowiem zapewnienie pełnej rozliczalności wykonywanych działań” – dodaje.

Co ważne, wspomniane praktyki są możliwe do wdrożenia w każdej organizacji, niezależnie od wielkości czy rodzaju działalności. Dotyczą bowiem w dużej mierze kwestii organizacyjnych, kulturowych i regulaminowych.

Oprac. na podstawie podcastu „AI już działa w Twojej organizacji. Czy masz nad nią kontrolę?” z cyklu Business Tech Talks powered by BlueSoft