Aby robić to w sposób odpowiedzialny, organizacje powinny uwzględnić aspekty etyczne, jednak na przeszkodzie takim działaniom może stanąć tendencyjność danych. Z przeprowadzonego przez Progress badania wynika, że zarządy większości firm rozumieją znaczenie tego zjawiska i uważają, że jest ono powszechne w ich przedsiębiorstwach, ale napotykają problemy z jego skuteczną neutralizacją.
Sztuczna inteligencja szturmem zdobywa kolejne branże – od ochrony zdrowia przez finanse po e-commerce i produkcję. Firmy coraz chętniej wykorzystują AI do podejmowania decyzji na bazie reguł dotyczących np. określania zdolności kredytowej czy segmentacji klientów. Korzyści w postaci poprawy wydajności pracy, obniżenia kosztów czy przyspieszenia rozwoju firm są zauważalne dla ich właścicieli oraz konsumentów, którzy zyskują sprawniejszą i szybszą obsługę.
Warto jednak pamiętać, że procesy stojące za wykorzystaniem AI mają pewną wadę – dane wykorzystywane do zasilania tych systemów nie są neutralne. Zawsze istnieje jakaś forma wykreowanego uprzedzenia, które wynika z charakteru medium, za pomocą którego dane zostały zaczerpnięte. Sztuczna inteligencja odzwierciedla i wzmacnia uprzedzenia swoich twórców, co rodzi obawy etyczne związane z prywatnością, bezpieczeństwem, stereotypami i obiektywną oceną.
“Z tendencyjnością danych mamy do czynienia wtedy, gdy ze względu na obecne w nich błędy, określona grupa faworyzowana jest kosztem innej. Zazwyczaj skutkiem tego jest podejmowanie przez algorytm niesprawiedliwych decyzji, gdyż dostępne dane nie odzwierciedlają w dokładny sposób postaw całej reprezentowanej populacji. Tendencyjność powoduje różnice między przewidywanymi, a rzeczywistymi wartościami modelu. Te uprzedzenia mogą być oparte na stereotypach, a nie na konkretnej wiedzy o osobach lub okolicznościach” – tłumaczy Niklas Enge, dyrektor regionalny Nordics i Polska w firmie Progress.
Jak zapobiegać tendencyjności danych?
Przeprowadzone przez Progress badanie wykazało, że 78% osób odpowiedzialnych za podejmowanie decyzji biznesowych i związanych z IT uważa, iż różnego rodzaju uprzedzenia obecne w danych staną się większym problemem wraz ze wzrostem wykorzystania AI/ML. Jednak tylko 13% obecnie zajmuje się tym zjawiskiem i wypracowało stały proces oceny jego skali.
Największe bariery, jakie dostrzegają ankietowani, to brak świadomości występowania tendencyjności danych, zrozumienia, jak identyfikować uprzedzenia, a także brak dostępu do zasobów eksperckich, takich jak konsultacje z naukowcami zajmującymi się danymi.
Chcąc zapobiegać zjawisku tendencyjności danych należy zastosować podejście, które będzie wynikało bezpośrednio z polityki i kultury organizacyjnej w firmie. Sztuczna inteligencja oraz uczenie maszynowe są coraz bardziej zintegrowane z operacjami biznesowymi. Takie podejście powinno obejmować ustanowienie standardów etycznych, najlepszych praktyk w zakresie gromadzenia danych i opracowywania modeli, regularną ocenę modeli, bieżące monitorowanie oraz współpracę między wszystkimi stronami zaangażowanymi w ich wykorzystanie – podsumowują twórcy badania.
