Przedsiębiorstwa coraz szybciej wdrażają sztuczną inteligencję, ale nie nadążają z budową mechanizmów kontroli. Choć 92% organizacji deklaruje, że wie, gdzie przechowywane są dane wykorzystywane przez AI, jedynie 49% ma nad nimi pełną kontrolę. Z kolei tylko 31% firm wdrożyło dojrzałe mechanizmy nadzoru nad agentową AI – wynika z badania Red Hat.
Jednym z pierwszych testów dojrzałości organizacyjnej jest zdolność do zmiany dostawcy modeli lub platform AI bez zakłócania działalności firmy. Badanie Red Hat wskazuje, że 63% przedsiębiorstw posiada formalną strategię wyjścia, która ma umożliwić taką migrację. Nie oznacza to jednak pełnej gotowości do migracji.
Spośród organizacji mających taki plan, 29% uważa, że zmiana dostawcy miałaby umiarkowany wpływ na działalność, a 10% spodziewa się znaczących zakłóceń. Jednocześnie 30% firm w ogóle nie przygotowało strategii wyjścia. W tej grupie 14% zakłada, że migracja byłaby łatwa, natomiast tylko 4% przewiduje znaczący wpływ zmiany dostawcy na funkcjonowanie organizacji.
„Rosnące uzależnienie od dostawców modeli AI zaczyna przypominać wcześniejsze doświadczenia rynku związane z uzależnieniem od pojedynczych platform chmurowych lub zamkniętych ekosystemów oprogramowania. Firmy przekonują się, że zmiana dostawcy usługi to nie tylko kwestia podpisania nowej umowy, ale często także przebudowy procesów, konieczności wykonania nowych integracji oraz przepisania polityki bezpieczeństwa” – komentuje Lubomir Stojek, Country Manager Red Hat w Polsce. „W przypadku sztucznej inteligencji stawka jest jeszcze wyższa i obejmuje kwestie związane z jakością udzielanych przez modele odpowiedzi, sposobem ich działania oraz kompatybilnością z własnymi zbiorami danych. Wszystkie te elementy sprawiają, że migracja może być znacznie bardziej skomplikowana niż w klasycznych środowiskach IT” – dodaje.
Większość firm wciąż nie jest gotowa na agentową AI
Rozwój agentowej AI, czyli systemów zdolnych do samodzielnego wykonywania zadań, zwiększa potrzebę nadzoru nad ich działaniem. Wspomniane badanie pokazuje, że:
- 64% firm wdrożyło przynajmniej podstawowe mechanizmy monitorowania agentów AI,
- jedynie 31% ocenia swoje mechanizmy zarządzania jako dojrzałe,
- 32% przyznaje, że posiada zasady nadzoru, ale widzi w nich istotne luki,
- 25% organizacji dysponuje jedynie podstawowymi regułami lub nie posiada ich wcale.
„Firmy coraz lepiej rozumieją, że sprawowanie nadzoru nad środowiskami AI nie sprowadza się już wyłącznie do wdrożenia polityki zgodności czy ochrony danych, ale obejmuje również kontrolę nad sposobem działania modeli, zakresem ich autonomii oraz możliwością szybkiego reagowania na błędy. Dlatego konieczne jest budowanie procesów przypominających te znane z dziedziny cyberbezpieczeństwa lub zarządzania ryzykiem operacyjnym. Ważnym czynnikiem jest tu czas, jako że rozwój AI postępuje znacznie szybciej niż tradycyjnych środowisk IT dla firm” – podkreśla Lubomir Stojek
Firmy wiedzą, gdzie są dane, ale nie zawsze mają nad nimi kontrolę
Kontrola nad danymi pozostaje jednym z największych wyzwań. Aż 92% przedsiębiorstw deklaruje przynajmniej częściową wiedzę o tym, gdzie przechowywane i przetwarzane są dane wykorzystywane przez AI oraz kto ma do nich dostęp. Jednak pełną widoczność i kontrolę deklaruje jedynie 49% respondentów.
Zdaniem autorów badania, sama wiedza o lokalizacji danych nie wystarcza. Organizacje muszą również kontrolować sposób ich wykorzystywania przez modele AI oraz przepływ informacji między poszczególnymi komponentami środowiska. Dopiero połączenie tych elementów pozwala budować systemy AI, które są elastyczne, bezpieczne i odporne na zmiany.
Badanie Red Hat pokazuje, że przedsiębiorstwa przechodzą obecnie z etapu eksperymentowania z AI do budowania mechanizmów zapewniających bezpieczeństwo i odporność operacyjną. W wielu organizacjach proces ten dopiero się rozpoczął, co oznacza, że rozwój sztucznej inteligencji wciąż wyprzedza tempo tworzenia skutecznych zasad jej nadzorowania.
Badanie przeprowadziła firma badawcza Censuswide na zlecenie Red Hat wśród 500 osób odpowiedzialnych za decyzje IT w przedsiębiorstwach z Wielkiej Brytanii, Holandii, Francji, Niemiec i Włoch.
