GenAI to dla nas realne oszczędności liczone w mln zł rocznie

Z Adamem Marciniakiem, prezesem zarządu VeloBanku rozmawiamy o portfolio blisko 60 projektów wykorzystujących Generative AI; pierwszych ich efektach; korzyściach, których bank się po nich spodziewa; a także tym w jaki sposób on sam korzysta z GenAI.

Z analizy Accenture „3 Ways Generative AI Will Transform Banking” wynika, że generatywna AI nie zmieni co prawda bankowości, ale zmieni sposób działania banków. Zgadzasz się z tym stwierdzeniem?

Powołujesz się na raport Accenture, z którego faktycznie wynika, że bankowość jest jednym z sektorów, na który Generative AI może mieć najbardziej pozytywny wpływ. Przede wszystkim w aspekcie rozszerzenia możliwości, jakimi dysponują pracownicy bankowości czy też podniesienia ich kompetencji, zarówno w obszarze doradztwa i tzw. back office. GenAI to także ułatwienie dla klientów, którzy poszukują aktualnej wiedzy na temat oferty i produktów VeloBanku. To dwa, najbardziej kluczowe obszary. Accenture ocenia, że GenAI może mieć pozytywny wpływ na poziomie od 35% do nawet 49% stanowisk w sektorze bankowym.

Z kolei wg amerykańskiego Bureau of Labor Statistics and the Occupational Information Network, aż 61% czasu pracy w 19 różnych branżach może zostać przekształcone przez nowe technologie, w tym duże modele językowe (LLM). W bankowości ma to być 73%.

Generatywna sztuczna inteligencja będzie miała wpływ na wszystkie sektory, w których ważna jest obsługa klienta, a jednocześnie obowiązują skomplikowane przepisy i regulaminy. Wszystkie sektory, w których bardzo specyficzna wiedza musi zostać dostarczona w ściśle określonym czasie, gdy klient jest dostępny i oczekuje odpowiedzi na pytania.

Tego typu działania mogą też oczywiście wpływać na jakość naszej pracy. Kiedy posiadasz odpowiednio skrojoną informację, dostarczoną w sposób dostosowany do potrzeb klienta, automatycznie przekłada się to na jego zadowolenie, rośnie również wskaźnik NPS (Net Promoter Score – przyp. red.) służący do pomiaru lojalności klientów.

Gdzie w VeloBanku widzisz największy, potencjalny zysk?

Po pierwsze w tych obszarach, w które dziś wszyscy inwestują. Przykładowo JPMorgan testuje aplikacje AI, które mogą generować automatycznie podsumowania zysków każdej firmy obsługiwanej przez bank. Stworzył także IndexGPT, usługę podobną do ChatGPT, która ma wspierać inwestorów w wyborze właściwej inwestycji.

Morgan Stanley wdrożył narzędzie generatywnej sztucznej inteligencji, które zapewnia doradcom finansowym – podczas rozmów z klientami – dostęp do „kapitału intelektualnego” banku, obejmującego ok. 100 000 raportów i dokumentów.

My zrealizowaliśmy podobny projekt, choć na początek na mniejszą skalę w części doradczej. Wdrożyliśmy dla pracowników chatbota opartego na generatywnej sztucznej inteligencji, który na bieżąco odpowiadał na pytania klientów dotyczące m.in. warunków i procesu wnioskowania o kredyt hipoteczny oferowany w ramach programu „Bezpieczny kredyt 2%”.

Nasz model LLM zasililiśmy kompletem dokumentów, regulaminów i innych, niezbędnych informacji. Jeśli nasz doradca nie mógł szybko, „z głowy”, odpowiedzieć na pytania klientów, to wpisywał je do chatbota. Otrzymywał odpowiedź na podstawie dostępnych w banku danych. Nie tylko przyspieszyło to obsługę klienta, ale także dało doradcom poczucie pewności, że dostarczają rzetelną informację.

Oczywiście założyliśmy zerową halucynację naszego modelu.

Jak zabezpieczacie się przed halucynowaniem?

Na pewno trzeba odpowiednio ustawić „temperaturę” modelu, tak aby bazował tylko na informacjach z dostarczonych dokumentów. Nie będziemy manipulować tym parametrem, bo nie chcemy pozwalać na różnego rodzaju interpretacje proponowane przez model. Klarowność i jednoznaczność to podstawa przy dostarczaniu informacji o usługach finansowych. Musimy być bardzo dokładni, szczególnie biorąc pod uwagę konieczność zapewnienia transparentności i rzetelności. Tego wymagają także regulacje.

Będziecie rozwiązanie dla doradców rozszerzać na inne produkty?

Oczywiście. To był pierwszy etap rozwoju tego typu narzędzi w VeloBanku. Teraz będziemy obejmować nim inne produkty, począwszy od kart kredytowych, a następnie kolejne, bardziej skomplikowane – inwestycyjne i ubezpieczeniowe.

To bardzo „wdzięczny” fragment działalności banku, który można obsłużyć GenAI. Bazuje on na skończonej liczbie dokumentów, które model po prostu musi poznać, nauczyć się ich i na tej podstawie dostarczać gotowych odpowiedzi.

Nie mamy tu problemu z przetwarzaniem danych osobowych, kwestii RODO itp. Pracownik czy klient mają dostęp do informacji o pełnej ofercie produktowej w formie nowoczesnej konwersacji. To jest główny obszar wykorzystania generatywnej sztucznej inteligencji, w który obecnie inwestujemy.

Jakie są pozostałe, w których chcecie wykorzystać GenAI?

Drugi dotyczy szeroko rozumianego back office. Widzimy tam pole do sporej optymalizacji. Narzędzia GenAI będą obejmowały kolejne procesy wewnętrzne takie, jak: prace analityczne, ocenę kredytową, antyfraudową czy ryzyka związane z przeciwdziałaniem praniu pieniędzy i finansowaniu terroryzmu AML. Wcześniej stosowaliśmy do tego typu celów roboty RPA (Robotic Process Automation – przyp. red.).

W wyniku tych działań banki mogą liczyć oszczędności w milionach złotych. Szacowana przez nas 10-15% ograniczenie kosztów może dać oszczędności rzędu 80-90 mln zł. Dodatkowo te projekty są najłatwiejsze do zrealizowania. Charakteryzują się najniższą barierą wejścia.

W drugiej kolejności skupiamy się na konkretnych procesach, które są najdroższe, najdłużej trwają, a jednocześnie są kluczowe z punktu widzenia monetyzacji obsługi produktów. Tego typu projektem było wdrożenie narzędzi GenAI na potrzeby platformy VeloMarket. Zamiast obciążania ok. 5-10 osób powtarzalną pracą czytania opisów produktów i ich klasyfikowania „zatrudniliśmy” model LLM.
W

bankowości jest mnóstwo manualnych, monotonnych czynności do wykonania. Ktoś musi przygotowywać umowę. Ktoś inny sprawdzić, czy regulaminy są zgodne z naszymi wewnętrznymi procedurami i przepisami prawa. Inna osoba poszukuje – w bazie reklamacji – wzorców, które pozwolą poprawić obsługę klienta. Na tej podstawie można budować modele, które później doradzają analitykowi czy pomagają prawnikowi odszukać np. sprawy precedensowe, których sposób rozwiązania przyspieszy przygotowanie najlepszej odpowiedzi dla klienta.

Mówimy o wszystkich działaniach na olbrzymich bazach danych i dokumentów. Tylko w przypadku GenAI nie musimy ich przeglądać w sposób manualny. Wystarczy zadać chatbotowi pytanie w języku naturalnym a algorytm przejrzy bazę, skoreluje dane i przygotuje możliwe rozwiązania.

Nie chcę jednak mówić o szczegółach realizowanych przez nas projektów. Przewagą konkurencyjną jest nie samo GenAI, ale konkretne Use Case’y, zwłaszcza te, które sprawdzą się u klientów. Użytecznych projektów może powstać tyle, ilu kreatywnych, wyposażonych w potencjał AI pracowników zatrudnia bank. Sam Copilot dostępny w usłudze M365 pozwala na 2-3-krotne przyspieszenie pracy nad dokumentami. Pilotażowo też to testujemy.

Jaki jest ostatni obszar Waszego zainteresowania GenAI?

Trzeci obszar, w który chcemy inwestować dotyczy bezpośrednio styku z klientem. Po pierwsze powinniśmy dać im możliwość łatwiejszego poruszania się po szerokiej gamie naszych produktów. Kluczową rzeczą – z punktu widzenia relacji z klientem – jest to, aby stosowany przez nas model, pamiętał tzw. kontekst, znał potrzeby klienta. To znacznie ułatwia i przyspiesza ścieżkę obsługi zdalnej, po zalogowaniu się klienta do bankowości mobilnej lub internetowej. Wymaga to jednak tego, aby model był sukcesywnie rozbudowywany o informacje na temat specyfiki potrzeb i preferencji klientów.

Oczywiście nie możemy zapominać tu o kwestiach związanych ze zgodnością z regulacjami, takimi jak te dotyczące przetwarzanie danych w chmurze obliczeniowej, RODO, czy zaleceniami pochodzącymi z komunikatów Komisji Nadzoru Finansowego.

Na razie wprowadzacie Generative AI w VeloBanku w pierwszym ze wspomnianych przez Ciebie obszarów, wspierającym działania Waszych doradców?

Tak i – jak wspomniałem – rozszerzamy go na kolejne produkty. Z narzędzi tych korzystać mogą nie tylko doradcy w call center, ale i w oddziałach, co jest spójne z naszą strategię rozwoju części digitalowej. Idziemy w tzw. scentralizowane doradztwo, dostępne przez kanały zdalne. Dlatego wyposażamy doradców w takie narzędzia i systemy, które uławiają im pracę, bo pozwalają lepiej poznać i zrozumieć każdy nasz produkt.

Czy równolegle pracujecie nad projektami w pozostałych dwóch obszarach?

Tak, uruchomiliśmy duży, strategiczny program związany z wykorzystaniem GenAI i realizujemy projekty w trzech równoległych strumieniach. Kolejnym, wspomnianym już przeze mnie projektem było wykorzystanie generatywnej sztucznej inteligencji na platformie VeloMarket. Dzięki niej zautomatyzowaliśmy proces oceny wystawianych przez sprzedawców produktów, pod kątem ich składu, wpływu na środowisko czy energooszczędności.

Wykorzystywany jest do tego model LLM, który przetwarza dane o produktach ze stron sprzedawców szukając m.in. w opisach ich składu słów kluczowych i ocen tych produktów ze względu na wybrane aspekty. Algorytm ma za zadanie ocenić, czy dany produkt ma neutralny, negatywny, czy pozytywny wpływ na środowisko. W ten sposób prezentujemy je klientom na VeloMarket.pl.

Nie dałoby się tego zrobić manualnie. Byłoby to kompletnie nieproduktywne i obarczone ryzykiem błędu. Stąd wykorzystanie narzędzi AI. W ten sam sposób, sukcesywnie będziemy chcieli wprowadzać GenAI do kolejnych procesów.

Wymagało to jednak wcześniejszego przygotowania architektury IT tak, aby móc łatwo wpinać do niej kolejne, gotowe usługi oparte o modele LLM. Oczywiście sam interfejs graficzny będzie dostosowywany do potrzeb konkretnych użytkowników i narzędzi, z których korzysta. Po stronie naszych pracowników mogą to być systemy CRM, czy core banking, a po stronie klienta końcowego bankowość mobilna lub internetowa.

Jak długo musicie uczyć model LLM, aby dodać nową funkcję?

To zależy od liczby dokumentów, którymi go zasilimy. Ale nie jest to tak długi i skomplikowany projekt, jak wdrożenie asystenta głosowego w aplikacji IKO. Realizowałem go będąc jeszcze w PKO BP. Wówczas rok zajęło nam stworzenie podstawowych funkcji transakcyjnych.

Teraz takie rzeczy można wykonać co najmniej 10 razy szybciej. W przypadku części informacyjnej, wiąże się to z „załadowaniem” paczki dokumentów, zaindeksowaniem ich i zbudowaniem na tej podstawie bazy pytań i odpowiedzi.

Kiedy to klient będzie mógł sam odpytywać Wasz model?

Na naszej roadmapie zapisaliśmy uruchomienie tego typu usług w połowie 2024 roku.

Na jaki okres zaplanowana jest roadmapa projektów GenAI w VeloBanku?

Na cały ten rok. Łącznie jest to ok. 60 projektów. Oczywiście trzeba pamiętać, że jesteśmy w trakcie transakcji przejęcia VeloBanku przez nowego właściciela. Zobaczymy więc jak on będzie postrzegał naszą dotychczasową strategię, także w kontekście wykorzystania AI. Chociaż trudno jest mi sobie wyobrazić, aby ktoś zrezygnował z projektów pozwalających na tak dużą optymalizację funkcjonowania banku i poprawę jakości obsługi klienta.

Tym bardziej, że widać, iż nie ma już odwrotu od wykorzystania GenAI. Technologia ta jest zbyt łatwo adoptowalna, a osiągane efekty są zbyt dobrej jakości, aby pozwolić sobie na ich pominięcie w organizacji. Widzimy te korzyści już w przypadku najbardziej podstawowych modeli, które do tej pory wdrożyliśmy. Współpraca człowieka z GenAI daje ok. 10-krotne zwiększenie efektywności.

Czy te projekty wpływają bezpośrednio na ponoszone przez Was koszty?

Pracownik wyposażony w AI zwiększa znacznie swoje możliwości m. in. rozwiazywania złożonych problemów. Efekty takiej współpracy widać także w naszych finansach. Przede wszystkim w tempie wzrostu działalności VeloBanku – zarówno pod względem skali, jak i nowych produktów.

GenAI będzie miała ogromny, pozytywny wpływ na działalność VeloBanku. Wcześniej, zakładając tak duży wzrost, musielibyśmy zaplanować odpowiednie zwiększenie liczby placówek i rozbudowę innych kanałów kontaktu z klientami. Oczywiście można tradycyjnie to optymalizować, ale na końcu i tak nie wykorzystuje się pełnego potencjału.

W sytuacji, kiedy skróci się „Time-to-Market”, jeśli chodzi o obsługę klienta, a nasi pracownicy będą mieli dużo większy zakres wiedzy, bo stanie się ona łatwiejsza do pozyskania, to będziemy bardziej precyzyjni i efektywni.

Zakładamy bardzo intensywny wzrost biznesu przez kolejne 3 lata przy założeniu, że nasza obsada będzie w miarę stabilna.

Jak mierzycie tę rosnącą efektywność? Analizowaliście może np. o ile krócej Wasz doradca obsługiwał klienta, jeśli chodzi o Bezpieczny kredyt 2%?

Działamy na zbyt małej próbce, aby już teraz móc precyzyjnie odpowiedzieć na to pytanie. Wszystko zależy od zadawanych przez naszych doradców pytań i posiadanej przez nich wiedzy. Możemy na razie oceniać to po liczbie sprzedanych kredytów i tym, czy klienci zgłaszali zastrzeżenia lub reklamacje. W procesie obsługi klienta hipotecznego, a więc także tego, który brał Bezpieczny kredyt 2%, nie zauważyliśmy ich wzrostu.

Z analiz Accenture wynika, że w ciągu 3 lat – dzięki zastosowaniu narzędzi GenAI – można oczekiwać nawet 17% wzrostu czasu przeznaczonego na interakcje z klientami, a to może przełożyć się nawet na 9% wzrostu przychodów.

To jest realny do osiągnięcia efekt. Jeżeli coś będzie się działo automatycznie, to – nawet zakładając tę samą obsadę – uzyskamy większą dostępność pracowników, którzy będą mogli przeznaczyć czas na budowanie relacji z klientem czy prace kreatywne. Będą też oni w stanie zaoferować klientom szerszą ofertę produktów. Oczywiście klient musi chcieć je zamówić. Ale w tym wspierać nas mogą zaawansowane modele AI, które oceniają skłonność klienta do zakupu tego lub innego kredytu czy lokaty, rozpoznają jego sentyment.

Naszym idée fixe, swego rodzaju Biegunem Północnym, który chcielibyśmy zdobyć jest to, aby wirtualny doradca był w stanie – na podstawie historii klienta, jego zachowań i transakcji – prognozować rozwój potrzeb vs. możliwości finansowe i doradzać wybór idealnie dostosowanych do tego produktów.

Rozumiem, że tego typu analizy dokonywane będą już na bazie „tradycyjnych” rozwiązań AI, tzw. predykcyjnej sztucznej inteligencji?

Nie. Zakładamy, że jak dobrze zostanie przygotowany stack technologiczny GenAI, to będziemy mogli w VeloBanku przetwarzać dane klientów – nawet te wrażliwe – w chmurze, w zgodzie z komunikatem Komisji Nadzoru Finansowego.

Po pierwsze jednak musimy osiągnąć swego rodzaju doskonałość i efektywność wykorzystania chmury. Po drugie musimy spełniać wszystkie wymogi regulacyjne. Po trzecie zaś musimy mieć model LLM, który będzie działał w zgodzie z nimi w modelu hybrydowym – on-premise i chmurowym. Wtedy, na podstawie szerokiej próbki danych posiadanych przez bank, będzie można model LLM nauczyć wzorców zachowań klientów.

To nie będzie publicznie dostępny model, z którego ja korzystam, odpytując ChatGTP 4?

Nie, to muszą być nasze modele, bo dostarczane informacje nie mogą być później powszechnie dostępne. Publiczny model GPT-4 nie może się na nich uczyć.

Kiedy można spodziewać się „wysypu” rozwiązań GenAI w sektorze bankowym?

Myślę, że w tym roku pojawi się wiele sposobów użycia generatywnej sztucznej inteligencji. Będą one miały bardzo pragmatyczne zastosowania. Ważne jest, aby rozwijając możliwości doradców czy gamę produktów przy pomocy AI – inwestycje przełożyły się na wynik banku. Czy to z punktu widzenia lepszej efektywności działania, obniżenia kosztów czy też poprawy sprzedaży.

NPS też jest kluczowym wskaźnikiem, bo wpływa na popularyzację naszych usług wśród nowych klientów i ułatwia ich pozyskiwanie. Dbanie o jakość i produkt są też kluczowe z punktu widzenia obniżania kosztów pozyskiwania nowych klientów. Równie ważne jest spersonalizowane podejście do nich tak, aby każdy klient bankowości internetowej czuł się jak odbiorca usług Private Banking. Widzimy w tym naprawdę duży potencjał na wzrost.

A analizujecie już koszty versus zyski z inwestycji w GenAI?

Każde z działań, które realizujemy ma pozytywny Net Present Value, czyli wartość bieżącą netto w zakresie oceny przedsięwzięć inwestycyjnych.

Czy wykorzystanie GenAI wymaga pozyskania po waszej stronie nowych kompetencji?

Oczywiście, przede wszystkim musimy mieć kogoś, kto wie, jak obsłużyć te mechanizmy. Musimy wiedzieć jak zbudować – w oparciu o chmurę – stack technologiczny GenAI. Potem zaś wiedzieć jak „dopinać” do niego nowe narzędzia i kolejne procesy. Kompetencyjnie jest to zupełnie nowy obszar, który trzeba rozwijać w ramach mieszanych zespołów.

Budując chatbota stosowaliście techniki związane z zapewnieniem Responsible AI. Jak ważna jest etyka w zakresie wykorzystania sztucznej inteligencji w sektorze bankowym?

Sektor finansowy jest chyba jednym z najbardziej uregulowanych. Niewłaściwie przedstawiona klientowi lub błędna informacja wiąże się z konkretnymi konsekwencjami. Dotyczy to także tzw. miss sellingu. Nie możemy sobie pozwolić na jakąkolwiek halucynację zastosowanego modelu. Dlatego jego „temperatura” jest ustawiona na poziomie zero.

Ale będziemy tego też uczyć pracowników. Myślę, że to będzie najtrudniejszy etap w procesie wdrożenia GenAI. Ale z drugiej strony też najciekawszy, bo model LLM rozwijając się będzie pytał operatora, co ma odpowiedzieć albo dlaczego dostał takie, a nie inne pytanie od klienta.

Jak powstają pomysły na kolejne Use Case’y?

Mamy zespół, który bada – tak, jak kiedyś w przypadku robotów RPA – obszary, które są najbardziej „kaloryczne”, z największym potencjałem do automatyzacji. Oczywiście te potencjalne projekty muszą wpisywać się w naszą strategię akwizycji i lojalizacji klientów. Dla nas najważniejsza jest budowa bazy osób aktywnie bankujących. Im musimy zaoferować wyższą wartość niż inne banki. Współpracujemy też z firmami, które wyszukują dla nas przykłady i Use Cases z rynku. Choć nie ma ich jeszcze wiele.

Jak kontrolujecie, zarządzacie kosztami rozwiązań opartych o GenAI?

Na razie projekty te traktujemy jako inwestycję w R&D. Są na tak wczesnym etapie, że klasyfikujemy wydatki na nie jako koszty rozwoju. Zdobywamy też doświadczenia na przyszłość, aby móc lepiej nimi zarządzać, gdy te projekty będą realizowane w większej skali.

Z jakichś narzędzi GenAI sam korzystasz?

Korzystam z samego ChatGPT, np. ostatnio pytałem o pomysły na prezent urodzinowy. Ale też w wielu aplikacjach mam zaszytych różnego typu wirtualnych doradców. Jest np. aplikacja WHOOP, która podpowiada mi różne rzeczy, np. że w miniony weekend za dużo jeździłem na rowerze (śmiech), że powinienem już położyć się spać, czy też, że mój sen ostatniej nocy był niekonsystentny.