Bezpieczeństwo, agenci i nowa filozofia procesów w systemach ERP

Sztuczna inteligencja w systemach ERP przestała być gadżetem. Staje się wbudowanym „układem nerwowym” tego typu systemu – zwłaszcza kiedy działa blisko danych, wewnątrz bezpiecznej architektury, a nie na zewnętrznych platformach. Agenci AI automatyzują zaś konkretne procesy – od windykacji po prognozowanie płatności.

Wywiad Maksymiliana Wysockiego z Piotrem Rusinem, Product Managerem w Comarch ERP

Jak technicznie i strategicznie Comarch definiuje wykorzystanie sztucznej inteligencji w architekturze swoich systemów ERP? Jakie znaczenie może to mieć dla klientów i zwykłych użytkowników?

Trend rynkowy jest podobny. Większość poważnych producentów ERP buduje rozwiązania sztucznej inteligencji wewnątrz własnej architektury. My też idziemy tą drogą.

W osiągnięciu tego celu kluczowe dla nas są dwa aspekty – bezpieczeństwo danych i wygoda użytkownika. Nie chcemy więc, aby rozwiązania wychodziły poza nasze środowisko, działały na zewnętrznych platformach agentowych.

Gdy AI działa wewnątrz systemu ERP, mamy pełną kontrolę nad danymi, które nigdzie nie wychodzą. Użytkownik nie musi być „informatykiem”, wiedzieć, jak skutecznie promptować ani testować agentów AI. Po prostu korzysta z narzędzia, które rozwiązuje konkretny proces biznesowy.

To ważne, bo nasi klienci działają w różnych branżach – od księgowości po produkcję i handel.

Dużo mówi się ostatnio o agentach AI. Jaką rolę pełnią oni w systemach Comarch? Jakie problemy biznesowe rozwiązują? Jak wygląda ich współpraca z człowiekiem?

Dla mnie agenci AI to asystenci pracownika, którym można powierzyć wybrane zadania. Technicznie są to automatyzacje skupione wokół jednego, konkretnego procesu.

Z agentami AI nie musimy jednak komunikować się przez czat. Czasem wystarczy ikona lub prosty komunikat: „Zrobiłem to”. Najważniejsze jest to, że działają autonomicznie, choć – co ważne – zawsze z ostateczną weryfikacją człowieka.

Nie oddajemy też agentom AI pełnej odpowiedzialności za realizowane zadania w obszarach o konsekwencjach finansowych czy prawnych.

Czy AI zmienia filozofię działania systemu ERP?

I tak, i nie. Mamy systemy oferowane na rynku od wielu lat, np. Comarch ERP Optima i Comarch ERP XL. Tam AI stanowi dodatkową funkcję dobudowaną do systemu.

Teraz jednak jesteśmy na etapie głębokiej modernizacji naszych najpopularniejszych systemów ERP. Obie platformy przechodzą na wersje webowe, w które od samego początku wbudowujemy AI. Co za tym idzie, te systemy są dostosowywane do tego, jak działają algorytmy sztucznej inteligencji, a nie odwrotnie.

Coraz więcej osób zgadza się, że największym błędem jest dopasowywanie AI do starych, nieoptymalnych procesów. Powinniśmy więc równolegle w organizacji wdrażać technologię sztucznej inteligencji i przebudowywać procesy. Startupy robią to naturalnie. Większe firmy będą musiały dojrzeć do tej zmiany. Inaczej konkurencja ich wyprzedzi.

W Comarch przekształcamy nasze oprogramowanie z systemów ewidencjonujących pracę wykonaną przez człowieka, w systemy, które wspierają człowieka w wykonywaniu zadań – szczególnie w zakresie monotonnych i powtarzalnych operacji, takich jak rozliczanie płatności na podstawie wyciągów bankowych, czy kategoryzowanie i księgowanie faktur.

Dlaczego zdecydowaliście się na podejście „agenci wbudowani w ERP”, a nie integrację z zewnętrznymi platformami?

Przede wszystkim dlatego, że – dzięki temu – użytkownicy nie muszą wyprowadzać danych, w tym danych osobowych poza swój system. Bierzemy też pełną odpowiedzialność za dostrajanie i działanie agenta AI. Z poziomu naszego interfejsu wszystko jest prostsze. Klient nie konfiguruje dodatkowych narzędzi, ani nie łączy systemów. To ogromna wygoda i poprawa bezpieczeństwa.

Oczywiście pojawiają się głosy, że takie rozwiązanie mocniej „wiąże” klienta z dostawcą. Uważam jednak, że w naszym przypadku przeważa zaufanie. Klienci wiedzą, że dbamy o aspekty prawne i bezpieczeństwo. Dlatego w naszej ocenie takie podejście jest znacznie bezpieczniejsze niż migrowanie danych zewnętrznych aplikacji agentowych.

Jak technicznie budujecie agentów AI? Mówimy o zamkniętych deterministycznych algorytmach, czy raczej o orkiestracji modeli LLM z RAG wewnątrz struktur bazodanowych?

Raczej to drugie. Pracujemy nad orkiestracją modeli LLM wewnątrz naszych struktur bazodanowych. Agent dostaje narzędzia. Przykładowo może wykonać konkretne zapytanie SQL, ale nie ma dostępu do całej bazy. Korzysta również z technologii RAG, czyli swego rodzaju bazy wiedzy. Możliwa jest też komunikacja agent-agent.

Modele LLM z natury są probabilistyczne, tzn. operują na określonym poziomie prawdopodobieństwa. Ale dzięki narzędziom – i precyzyjnie zdefiniowanym rolom agentów – cały proces lub jego część, mogą stać się deterministyczne w kluczowych momentach, które wymagają pewności, a nie prawdopodobieństwa.

Agent AI może również wywoływać klasyczne algorytmy tam, gdzie potrzebna jest 100-proc. precyzja lub takie podejście jest zwyczajnie efektywniejsze.

Gdzie AI już przynosi konkretne efekty klientom, a co jest dopiero w planach?

Już teraz działają rozwiązania w obszarze automatyzacji windykacji i zarządzania ryzykiem finansowym w Comarch ERP XL. AI bardzo tu pomaga, tym bardziej że problem opóźnionych płatności dotyczy niemalże każdej firmy w Polsce. Według Biura Informacji Kredytowej, aż 84% doświadcza opóźnień w płatnościach, a 33% firm czeka na zapłatę faktur dłużej niż 60 dni.

AI w naszych systemach w proaktywny sposób wspiera użytkowników w procesie windykacji, m.in. prognozuje termin płatności od konkretnego klienta na podstawie historii płatności oraz ocenia kontrahenta i automatycznie sugeruje bezpieczny poziom kredytu kupieckiego. Dla niezapłaconych faktur automatycznie zaś generuje upomnienia i noty odsetkowe, które automatycznie wysyła.

Z funkcji opartych na AI, które już teraz przynoszą użytkownikom naszych systemów realne efekty, warto wyróżnić też prognozowanie popytu. Jest ono dostępne w module Bilans Stanu Towarów w systemie Comarch ERP XL. Pozwala, na bazie realnych danych związanych z popytem, odpowiedzieć precyzyjnie na pytania: co kupić, ile kupić i na kiedy?

Pomocne okazują się również rekomendacje AI dla e-commerce, które uczą się zachowań odwiedzających dany e-sklep. Na tej podstawie tworzą sugestie produktów podobnych i komplementarnych.

W planach jest kolejna duża zmiana, czyli wprowadzenie większej liczby agentów AI. Planujemy udostępnić kilkadziesiąt agentów rozsianych po systemach ERP i wybranych aplikacjach. Najpierw skupiamy się mocno na księgowości. Pracujemy nad funkcjonalnościami, takimi jak: automatyczna dekretacja, kategoryzacja dokumentów czy weryfikacja danych kontrahentów.

Jednocześnie tworzymy agentów, którzy optymalizują zatowarowanie magazynu, czy wspierają handlowców w przygotowaniu oferty dla klienta w trakcie wizyty.

Jak mierzycie sukces wdrożenia AI? Jakie KPI są dla Was najważniejsze?

Wszystko zależy od kontekstu firmy i konkretnego procesu, który automatyzujemy. Dla producenta liczy się redukcja przestojów, dla firmy handlowej – efektywność pracy magazynu, np. dzięki inteligentnemu kompletowaniu zamówień w WMS. Możemy jednak wyróżnić uniwersalne metryki, m.in. zaoszczędzony czas, odsetek błędów, trafność prognoz i redukcja błędów ludzkich.

Ale ostatecznie wszystko sprowadza się to do dwóch rzeczy: oszczędności zasobów lub wzrostu przychodów. Najbardziej przekonujące dla zarządów są zawsze konkretne liczby.

Decyzje w ERP mają realne konsekwencje finansowe i prawne. Jak budujecie zaufanie firm do tej technologii? Słyszałem mocne zdanie: „Nie zakładamy zaufania do AI, budujemy je”.

Na zaufanie składa się rygorystyczna architektura. Agent nie widzi całej bazy, tylko dostaje precyzyjne narzędzia. Ważna jest też pełna zgodność z prawem, w tym od samego początku przygotowanie na wejście w życie AI Act.

Najważniejszy jest jednak inny element – możliwość wyjaśnienia. Wprowadzamy logi oraz sposobność podejrzenia procesu myślowego agenta, tzw. chain-of-thought. To, co należy szczególnie mocno podkreślić, to fakt, że dane klientów nigdy nie są wykorzystywane do trenowania publicznych modeli. Warto również zaznaczyć, że autonomia agenta jest wysoka przede wszystkim w przypadku prostych zadań.

Przy bardziej złożonych procesach człowiek pozostaje włączony w realizację działań zgodnie z podejściem human- in-the-loop. Należy także pamiętać, że ostateczna decyzja i akceptacja zawsze należą do użytkownika.

Jak wspieracie firmy w adopcji nowych, wprowadzanych do Waszych systemów ERP narzędzi i agentów AI? Jak przekonujecie użytkowników, którzy zazwyczaj są niechętni zmianom?

Projektujemy funkcje tak, aby nie wymagały szkoleń. Najlepszy przykład to interfejs czatowy. Jest tak intuicyjny, jak zwykła rozmowa. Funkcje są wbudowane w system. Nie trzeba nic konfigurować czy integrować z zewnętrznymi narzędziami. Wystarczy zaakceptować regulamin i działać. Podobnie funkcjonują agenci – pracują w tle lub są wywoływani przyciskiem w interfejsie, nie wymagają pisania skomplikowanych promptów.

W przyszłości, jeśli klienci będą potrzebowali, przygotujemy tutoriale i szkolenia. Naszym celem jest jednak, aby użytkownik po prostu zaczął korzystać z narzędzi sztucznej inteligencji i szybko zobaczył wynikającą z tego wartość.