Jakie są ryzykowne obszary związane z wykorzystaniem Generatywnej AI w biznesie?

Generatywna sztuczna inteligencja to przełomowa technologia umożliwiające transformację różnych obszarów funkcjonowania firm. Wykorzystanie GenAI wiąże się jednak z istotnymi wyzwaniami prawnymi i etycznymi, które wymagają odpowiedniego przygotowania pracowników zarówno pod względem merytorycznym, jak i technicznym. Organizacje powinny więc kształtować wszechstronne ramy zarządzania sztuczną inteligencją, obejmujące zgodność z prawem, poprawność etyczną i transparentność zasad, aby odpowiedzialnie wykorzystywać potencjał tej technologii.

Skuteczne wykorzystanie generatywnej sztucznej inteligencji w organizacji powinno polegać na odpowiednio rozdzielonej odpowiedzialności pracowników, uwzględnianiu obowiązujących ram prawnych i etycznych, a także ciągłym pogłębianiu wiedzy na temat zasad funkcjonowania AI. Istotna jest również polityka bezpieczeństwa, w tym stosowanie odpowiednich zabezpieczeń technicznych.

Jak wskazują specjaliści KPMG, nieodpowiednie i niewystarczające przygotowanie do wykorzystywania rozwiązań bazujących na sztucznej inteligencji może prowadzić do naruszenia zasad etyki pracy i niepożądanych skutków w postaci szkód reputacyjnych. Właściwe zarządzanie aplikacjami AI, oparte na uczciwości, integralności i przejrzystych zasadach, jest kluczowe w celu minimalizowania ryzyka wystąpienia niechcianych konsekwencji.

“Procesy biznesowe, niezależnie od ich stopnia skomplikowania, otwierają przed nami perspektywę optymalizacji dzięki zastosowaniu sztucznej inteligencji. Jednakże efektywność AI w pełni zależy od jakości dostarczanych danych oraz warunków brzegowych ustalanych przez osoby odpowiedzialne za wdrażanie rozwiązań opartych na sztucznej inteligencji w strukturach organizacyjnych. Poszukiwanie i implementacja etycznych oraz pragmatycznych strategii optymalizacyjnych wykorzystujących potencjał AI, stawiają przed kadrą zarządzającą znaczące wyzwanie, doskonale wpisujące się w dynamiczną rzeczywistość biznesową” – komentuje Łukasz Dylewski, dyrektor, Lider Data Science & AI w KPMG w Polsce.

Ryzykowne obszary związane z wykorzystaniem AI w biznesie to:

1. Prywatność i bezpieczeństwo danych osobowych

Modele generatywnej sztucznej inteligencji są zasilane i uczą się na obszernych zbiorach danych, w tym zawierających informacje osobowe lub poufne, co budzi zastrzeżenia dotyczące zgodności z przepisami RODO.

2. Własność intelektualna

GenAI korzysta z obszernej bazy istniejących dzieł, co skutkuje możliwością generowania treści przypominających istniejące, chronione prace. Niesie to za sobą obawy o naruszanie praw autorskich.

3. Precyzja dokonywanych analiz

Ryzyko tworzenia błędnych wniosków, znanych również jako „halucynacje”, wzrasta szczególnie w sytuacjach, gdy modele AI generują znaczną ilość danych lub wykorzystywane są w wysoko specjalistycznych branżach, w których nie są dostatecznie przeszkolone i brakuje im dostępu do adekwatnych źródeł informacji.

4. Dyskryminacja na tle praw obywatelskich

Wzrost zainteresowania modelami AI oraz ich coraz powszechniejsze zastosowanie w procesach biznesowych wywołuje pytania dotyczące etyki i sprawiedliwości społecznej. Generatywna sztuczna inteligencja niesie ze sobą ryzyko naruszania praw obywatelskich, gdy tworzone treści wykazują tendencje do dyskryminacji określonych grup społecznych.

5. Odpowiedzialność prawna

W ramach obowiązującej w Unii Europejskiej Dyrektywy w sprawie odpowiedzialności za produkty wadliwe oraz projektu Dyrektywy w sprawie odpowiedzialności za sztuczną inteligencję, operator systemu AI może ponosić odpowiedzialność za szkody wyrządzone przez ten system osobom trzecim.

“Wdrożenie odpowiedniego podejścia do AI pozwoli firmom odpowiedzialnie i transparentnie wykorzystywać generatywną sztuczną inteligencję, jednocześnie minimalizując ryzyka i maksymalizując korzyści zarówno dla własnej działalności, jak i społeczeństwa. Ostatecznie kluczowe jest znalezienie równowagi między adaptacją innowacji a ochroną fundamentalnych wartości, co otworzy perspektywę na przyszłość, w której genAI będzie wykorzystywana dla ogólnego dobra społeczeństw i gospodarek” – podsumowuje Łukasz Dylewski.