Agentów AI powinniśmy postrzegać z perspektywy sztucznego sprytu, czyli funkcjonalności, którą sami stworzyliśmy

Z Piotrem Zawadzkim, Consulting Managerem w BlueSoft, rozmawiamy o rzeczywistym potencjalne sztucznej inteligencji w zastosowaniach biznesowych, istocie generatywnej AI i rozwiązań konwersacyjnych, odpowiedzialności za decyzje podejmowane w zautomatyzowany sposób, a także dobrych praktykach związanych z wdrażaniem rozwiązań agentowych i technologiach AI rozwijanych przez zespół BlueSoft.

Wokół agentów AI narosło wiele mitów…

To prawda, choć o maszynach myślących mówimy już od czasów Alana Turinga, a więc od lat 50. minionego stulecia. Sztuczna inteligencja od dawna funkcjonuje też w popkulturze, gdzie jej wizerunek faktycznie może budzić obawy dotyczące naszej przyszłości.

W potocznym rozumieniu postrzeganie AI jest jednak dalekie od faktów. Posługujemy się pewnego rodzaju uproszczeniami. W szczególny sposób jest to widoczne dzisiaj, wraz z upowszechnieniem tzw. generatywnej sztucznej inteligencji.

W jaki sposób GenAI zmienia nasze postrzeganie sztucznej inteligencji?

Korzystając z generatywnej sztucznej inteligencji, a więc komunikując się z chatbotami opartymi na dużych modelach językowych, a tym bardziej z agentami AI, odnosimy wrażenie, że po drugiej stronie jest istota, może niekoniecznie człowiek, ale jakiś byt zdolny do rozmowy z nami. Mimo że generatywna sztuczna inteligencja opiera się na przewidywaniu kolejnych tokenów, jednostek danych i fragmentów tekstu czy obrazu, to nasze wrażenia są takie, jakbyśmy mieli do czynienia z myślącym bytem. Zapominamy, że sztuczna inteligencja opiera się na matematyce.

Teoretycznie mechanizm działania generatywnej sztucznej inteligencji jest bardzo prosty. Jeśli jednak w bardzo formalny sposób spojrzeć na pojęcie „sztuczna inteligencja”, to jest to pojęcie nie do końca właściwe. Nie możemy bowiem porównywać sposobu działania AI do inteligencji ludzkiej. Jesteśmy jednak na tyle skutecznie oszukiwani, że wydaje nam się, iż korzystając z GenAI, mamy do czynienia z kolejnym współpracownikiem czy asystentem.

Jak AI zmienia sposób działania organizacji biznesowych?

Obserwujemy coraz szerzej planowane wdrożenia sztucznej inteligencji w firmach. Zwykle nie są to jednak jeszcze dojrzałe rozwiązania agentowe. Najczęściej fundamentem szerszego wykorzystania AI jest czat połączony z dużym modelem językowym, często działający w ramach wykorzystywanego w firmie pakietu biurowego lub oprogramowania dziedzinowego, bądź wewnętrznego rozwiązania korporacyjnego. Niewątpliwie są to rozwiązania, które ułatwiają pracownikom wykonywanie stawianych im zadań, m.in. usprawniając wyszukiwanie i analizowanie danych czy tworzenie dokumentów. Co ważne, rozwiązania takie mogą być łączone z firmowymi bazami wiedzy i operować tylko na wskazanych im zbiorach danych oraz dokumentów.

Z kolei rozwiązania agentowe mają konkretny, określony cel działania. Mają pewien zdefiniowany obszar działania i poruszając się tylko w nim, realizują konkretne zadania. Granicą autonomiczności agentów jest wytrenowany obszar, czyli stojące za nimi zaplecze danych.

Jakie zadania mogą realizować agenci AI?

Zacząłbym od tego, jakich zadań realizować nie mogą. Aktywnie obserwując i tworząc ecosystem AI, widzimy niezrozumienie specyfiki rozwiązań agentowych. Powiedziałbym, że mamy do czynienia ze zjawiskiem znanym jako „agentic washing”, gdzie kolejni dostawcy określają swoje rozwiązania mianem technologii agentowych, choć w istocie, takimi nie są.

Nie jest to zaskakujące, ponieważ technologie agentowe – i szerzej, sztuczna inteligencja – stanowią nową, prężnie rozwijającą się gałąź gospodarki. To jest biznes. Faktem jest również, że oddajemy swoje dane kilku największym dostawcom AI na świecie, którzy dzięki nim trenują modele i rozwiązania agentowe. Po co to robią? Żeby funkcjonować i zarabiać pieniądze, ale też, aby mieć władzę, bo do tego modelu zmierza światowa gospodarka. Dlaczego natomiast decydujemy się na wykorzystanie AI? Z wygody, ze względu na presję rozwoju, poprawę efektywności i optymalizacji. Dotykamy tu również ważnych kwestii społecznych. Owszem, wiadomo, że rozwiązania agentowe mają potencjał do zastępowania ludzi i przejmowania ich obowiązków na niektórych stanowiskach. Na dziś są to niestety możliwości dość ograniczone i niedoskonałe.

Mówimy jednak przede wszystkim o zadaniach wymagających wykonywania powtarzalnych, ale nawet wieloetapowych operacji, szczególnie tych, które wymagają klasyfikowania i przetwarzania danych z wielu źródeł. Agenci AI sprawdzą się zatem m.in. pod kątem obsługi dużych wolumenów zapytań czy automatyzacji procesów w obszarach, takich jak: sprzedaż, marketing, administracja, finanse, obsługa klienta.

W jakim stopniu możemy dziś mówić o autonomiczności, samodzielności agentów AI?

Każdego agenta musimy postrzegać z perspektywy sztucznego sprytu, czyli funkcjonalności, którą sami stworzyliśmy. Zakres autonomii rozwiązań agentowych zależy od ich wyuczenia, funkcjonalności i czynności, które poszczególni agenci mogą wykonywać. To od nas zależy, czy raczej powinno zależeć, w jakim stopniu zgadzamy się na autonomiczność systemów agentowych, a w jakim zdecydowanie nie.

Często spotykam się z pytaniami o to, czy AI doprowadzi do masowych zwolnień. W mojej opinii, fakt, że dziś wiele organizacji decyduje się na zmniejszenie zatrudnienia, wynika m.in. z potrzeby oszczędzania. Jest to również efekt nadmiernego zatrudniania w okresie postpandemicznym. Wówczas firmy zwiększały zatrudnienia w tempie sięgającym nawet 20% rocznie. Dziś te same organizacje weryfikują swoje możliwości i potrzeby kadrowe. AI staje się tu narzędziem, a nie celem samym w sobie.

Poza tym, fluktuacje kadrowe są naturalne w każdej firmie. Każdy z nas ma inne doświadczenia na rynku pracy. Wiadomo jednak, że organizacje się zmieniają, rozwijają. Stanowiska powstają i są likwidowane. Paradoksalnie, likwidacja stanowiska powinna jednak mobilizować pracowników do rozwoju i pozyskiwania nowych kompetencji. Nie jest to łatwe, szczególnie w kontekście starzejącego się społeczeństwa – młodsze pokolenia inaczej podchodzą do nauki i wykorzystywania wiedzy. Jednocześnie, biorąc pod uwagę rosnącą średnią wieku społeczeństw, AI staje się dla biznesu rodzajem remedium na wyzwania socjologiczne.

Równocześnie, technologia agentowa daje nowe możliwości rozwoju i poprawy efektywności poprzez automatyzację. Nie oznacza to jednak eliminacji roli człowieka w kontekście konkretnych procesów, tylko jej zmianę. Nawet największe korporacje, które budują platformy do tworzenia i orkiestracji agentów AI, nie mają na tyle dużo zaufania do takich rozwiązań, aby pozostawić je w pełni bez nadzoru człowieka. Myślę, że taki moment nigdy nie nastąpi, a ludzie będą zaangażowani w kontrolowanie i weryfikowanie zadań realizowanych w sposób zautomatyzowany. W wielu organizacjach powstaną zatem nowe możliwości rozwoju kariery.

Jak więc powinny zostać zorganizowane zespoły funkcjonujące z udziałem agentów AI?

Faktyczną granicą wykorzystania AI są kwestie pragmatyczne, czyli użyteczność i przydatność takich rozwiązań w kontekście specyfiki działania danej organizacji czy zespołu. Odpowiednie oszacowanie, wybór oraz osadzenie rozwiązań agentowych w ramach istniejących lub planowanych procesów biznesowych jest zawsze decyzją ludzi. Podobnie jak wyznaczenie skali autonomii dostępnej dla agentów AI. W firmach korzystających z rozwiązań agentowych powinny pojawić się procedury, które w jednoznaczny sposób określają rolę agentów oraz ich miejsce w strukturze organizacyjnej. Kluczowe jest wyznaczenie granic działania i odpowiedzialności za funkcjonowanie agentów AI. Kwestie nazewnictwa są umowne.

Kto powinien odpowiadać za decyzje podejmowane przez agentów AI? W jaki sposób odpowiadać na zażalenia, przykładowo, ze strony klientów, dla których takie decyzje okazały się niekorzystne?

Dzisiaj nie ma jeszcze jednej, odrębnej struktury prawnej, jasno definiującej odpowiedzialność za działania i efekty pracy agentów AI. W naturalny sposób odpowiedzialność ta powinna jednak spoczywać na osobach odpowiedzialnych za dany proces, produkt, usługę lub projekt, w którym agent AI został wykorzystany. Agent AI nie powinien być traktowany jako samodzielny podmiot decyzyjny, ale jako narzędzie wspierające lub automatyzujące określone działania organizacji.

Istnieją natomiast regulacje określające zachowania, które nie powinny się wydarzyć, oraz obowiązki, które firma powinna spełnić, jeżeli wykorzystuje rozwiązania AI w procesach wpływających na prawa, interesy lub sytuację klientów. Mam tu na myśli m.in. RODO w zakresie wpływu czynności wykonywanych przez agenta na dane osobowe, w szczególności wtedy, gdy działanie agenta prowadzi do zautomatyzowanego podejmowania decyzji, profilowania albo istotnego wpływu na sytuację osoby fizycznej. To ważne, ponieważ RODO przypisuje odpowiedzialność administratorowi danych lub podmiotowi przetwarzającemu, a agent AI pozostaje narzędziem używanym przez organizację.

Istotne jest również to, że AI Act nie rozstrzyga wprost odpowiedzialności za każdą decyzję podjętą przez system agentowy. Koncentruje się raczej na sposobie klasyfikacji, wdrażania, nadzorowania i wykorzystywania systemów AI, zwłaszcza tych, które mogą być uznane za systemy wysokiego ryzyka. Oznacza to, że AI Act wzmacnia obowiązki organizacyjne, techniczne i nadzorcze, ale nie zwalnia firmy z odpowiedzialności za skutki zastosowania AI w konkretnym procesie biznesowym.

W tym miejscu praktyczne znaczenie może mieć standaryzacja AIUC-1 – standard dla agentów AI, obejmujący m.in. data & privacy, security, safety, reliability, accountability i societal risks; certyfikacja zakłada testy techniczne oraz przegląd kontroli operacyjnych; ISO/IEC 42001 = system zarządzania AI na poziomie organizacji, natomiast AIUC-1 = ocena konkretnego agenta/przypadku użycia AI. AIUC-1 można traktować jako operacyjny standard oceny i kontroli agentów AI, który porządkuje sposób patrzenia na bezpieczeństwo, prywatność, niezawodność, odpowiedzialność, ryzyka społeczne oraz jakość działania rozwiązań agentowych. W przeciwieństwie do ogólnych deklaracji dotyczących odpowiedzialnego AI, AIUC-1 schodzi na poziom konkretnego przypadku użycia: określa, jak agent został zaprojektowany, jakie dane przetwarza, jakie działania może podejmować, jakie ma ograniczenia, jak jest testowany, monitorowany i jak organizacja dokumentuje jego działanie.

Z perspektywy odpowiedzialności za decyzje agentów AI standaryzacja AIUC-1 pomaga wprowadzić kilka kluczowych zasad. Po pierwsze, każdy agent powinien mieć właściciela biznesowego, który odpowiada za cel, zakres i skutki jego użycia. Po drugie, agent powinien mieć właściciela technicznego odpowiedzialnego za jego konfigurację, integracje, bezpieczeństwo i monitorowanie. Po trzecie, organizacja powinna określić poziom autonomii agenta, czyli jasno wskazać, czy agent wyłącznie rekomenduje działanie, przygotowuje projekt decyzji, czy faktycznie inicjuje działanie wobec klienta. Po czwarte, dla decyzji istotnych dla klienta powinien istnieć mechanizm nadzoru człowieka, przeglądu decyzji oraz ścieżka odwoławcza.

W przypadku zażaleń lub reklamacji klientów organizacja nie powinna odpowiadać, że decyzję podjął system AI. Odpowiedź powinna być prowadzona tak, jak w przypadku każdego innego procesu biznesowego: należy wskazać podstawę decyzji, zweryfikować dane wejściowe, sprawdzić logi działania agenta, ocenić poprawność zastosowanych reguł, przeanalizować, czy doszło do błędu, uprzedzenia, halucynacji, przekroczenia zakresu uprawnień albo nieprawidłowej interpretacji danych. Klient powinien mieć możliwość uzyskania wyjaśnienia, przedstawienia swojego stanowiska oraz skierowania sprawy do ponownej oceny przez człowieka.

Nie powinniśmy legitymizować zachowań agentów wynikających z ich ułomnej funkcjonalności, ograniczeń modelu, błędnej konfiguracji, niewłaściwego promptu, braku aktualnych danych albo niskiej jakości danych, którymi agent został zasilony. Ograniczenia technologii AI nie mogą być traktowane jako usprawiedliwienie dla braku nadzoru organizacyjnego. Jeżeli organizacja decyduje się wykorzystać agenta AI w procesie obsługi klienta, sprzedaży, oceny ryzyka, windykacji, reklamacji, świadczenia usług lub podejmowania decyzji operacyjnych, musi zapewnić odpowiednie mechanizmy kontroli, dokumentowania i korekty.

Finalnie, odpowiedzialność za wykorzystanie sztucznej inteligencji spoczywa na właścicielach biznesowych tych obszarów działalności, w których AI znajduje zastosowanie. Standaryzacja AIUC-1 może pomóc tę odpowiedzialność uporządkować, ponieważ wymusza przypisanie ról, ocenę ryzyka, testowanie działania agentów, monitorowanie ich zachowania, utrzymywanie śladów audytowych oraz ustanowienie procedur reagowania na błędy, incydenty i skargi klientów. Dzięki temu odpowiedzialność za decyzje agentów AI nie pozostaje abstrakcyjna, lecz zostaje osadzona w konkretnych procesach, osobach, dowodach i mechanizmach nadzorczych.

W jaki sposób najlepiej podejść do wdrażania rozwiązań agentowych? Jak informować o tego typu projektach?

Wdrożenie rozwiązań agentowych nie powinno być celem samym w sobie, ale częścią szerszej transformacji procesów biznesowych. Podstawowym krokiem powinno być zdefiniowanie tych procesów, w których warto wykorzystać agentów AI. Oczywiście, określenie rzeczywistego przebiegu procesów i ocena możliwości ich optymalizacji nie powinny ograniczać się jedynie do kwestii związanych z użyciem AI. Faktem jest, że nawet firmy istniejące od dekad najczęściej nie dysponują ustrukturyzowanymi mapami procesów biznesowych.

Kontekst AI oznacza tu jednak dodatkowo konieczność zmiany perspektywy. Niezbędne jest spojrzenie, które pozwoli wykorzystać potencjał AI w usystematyzowany sposób. Jeśli organizacja dojrzale zarządza ryzykiem i potrafi przekuć szanse rynkowe w konkretne cele, może śmiało wdrażać AI. Taki fundament pozwala na skuteczne włączenie do biznesu zarówno rozwiązań konwersacyjnych typu Microsoft Copilot, jak i całych platform agentowych.
Sam zaś proces wdrożenia AI w takim układzie stanowi element zarządzania zmianą. Podobnie, kwestia umiejętnego zakomunikowania takich zmian pracownikom. Kluczowe znaczenie ma również wybór konkretnej technologii.

Jakiego rodzaju rozwiązania agentowe rozwija dziś zespół firmy BlueSoft?

Rozwijamy rozwiązania, które pozwalają na tworzenie agentów AI, ale także zapewniają orkiestrację, a więc koordynację ich działania. Mamy też gotowe rozwiązania agentowe, wyspecjalizowane w realizacji konkretnych zadań. I tak, jednym z naszych flagowych rozwiązań jest platforma Starboost for AI. To ustandaryzowane środowisko, zapewniające warunki do tego, aby w bezpieczny i efektywny kosztowo sposób przejść od fazy testów do realnych wdrożeń technologii agentowych. Umożliwia ona również tworzenie zaawansowanych agentów AI i automatyzację procesów biznesowych. W ramach platformy BlueSoft Starboost for AI oferujemy też – zaprojektowane na bazie naszych dobrych praktyk – rozwiązania agentowe, zapewniające m.in. analizę dokumentacji i obrazów.

Ciekawy jest również nasz asystent AI, wykorzystywany głównie na potrzeby procesów związanych z kontrolą jakości. Nie jest to agent AI, tylko rozwiązanie oparte na sztucznej inteligencji, które może współpracować z agentami, ale odpowiada m.in. za analizę różnego rodzaju treści, tak aby były one funkcjonalne dla użytkowników.

Oprac. na podstawie podcastu „AI agenci w firmach. Czy zastąpią pracowników?” z cyklu Business Tech Talks powered by BlueSoft