Jak wynika z badania UNESCO, technologia ta z łatwością przypisuje kobietom rolę „gospodyń domowych”. Bywa również, że mężczyzn opisuje jako lekarzy czy inżynierów, a kobiety jako… prostytutki. Zdaniem autorów analizy, jednym z głównych powodów tak stronniczych stwierdzeń jest to, że kobiet w działach firm z branży IT czy AI jest nadal zdecydowanie za mało.
Badanie z marca opublikowane przez UNESCO jest bardzo krytyczne wobec firm, które zajmują się tzw. dużymi modelami językowymi (LLM), pomagającymi „rozmawiać” sztucznej inteligencji z użytkownikami. Według analizy ekspertów tworzących raport, „zwykle przydzielały one mężczyznom bardziej zróżnicowane stanowiska o wysokim statusie, takie jak inżynier, prawnik i lekarz, jednocześnie często spychając kobiety do ról tradycyjnie niedocenianych lub napiętnowanych społecznie, takich jak sprzątaczka, kucharka, a nawet prostytutka“. Z badania wynika, że w treściach wyprodukowanych przez Llamę 2 (narzędzie podobne do ChataGPT) kobiety czterokrotnie częściej niż mężczyźni opisywano jako pracujące w gospodarstwie domowym.
Krytyka dotyczy głównie tych narzędzi, których kod źródłowy jest otwarty, czyli każdy to ma podstawową wiedzę w dziedzinie AI i IT może z niego korzystać w swoich pracach, a tym samym jeszcze bardziej poszerzać pole użycia, więc często też i zwiększać stronniczość.
“Każdego dnia coraz więcej osób korzysta z modeli wielkojęzykowych w swojej pracy, na studiach i w domu. Te nowe aplikacje AI mają subtelną moc kształtowania sposobu postrzegania przez miliony ludzi, więc nawet niewielkie uprzedzenia związane z płcią w ich treści mogą znacznie zwiększyć nierówności w prawdziwym świecie” – stwierdziła Audrey Azoulay, dyrektorka generalna UNESCO.
Dodatkowo eksperci nie mają wątpliwości, że wskaźnik aktywności zawodowej jest powiązany z uprzedzeniami sztucznej inteligencji do kobiet i przekłada się na niedostateczną reprezentację kobiet w technologiach. Nie jest to nowy problem i wkradł się nawet w samą strukturę samych narzędzi IT czy AI.
“Uprzedzenia związane z płcią w generatywnej sztucznej inteligencji pokazuje, jak wszechobecne stereotypy czają się w danych wykorzystywanych do trenowania tych modeli. I nie jest to tylko problem kobiet, a dotyka on wszystkich marginalizowanych grup” – podkreśla Jarūnė Preikšaitė, CEO Women Go Tech. “Zaniedbywanie tych uprzedzeń, których generowanie może być i zwykle jest niezamierzone, grozi jednak utrwaleniem szkodliwych stereotypów, ograniczeniem możliwości rozwoju niedostatecznie reprezentowanych grup i ostatecznie utrudnia również wykorzystanie potencjału samych technologii” – dodaje.
Jak zapewnić, żeby AI mówiła głosem równościowym, czyli nieprzechylonym na stereotypy „męskiego” lub „kobiecego” świata? Obecnie jednym z najlepszych sposobów walki z uprzedzeniami jest umożliwienie kobietom rozpoczęcia i późniejszego kontynuowania kariery w dziedzinach STEM (nauki ścisłe, technologia, inżynieria i matematyka), bo to w tych sektorach, to one są niedoszacowane. Jak wskazują eksperci, w miarę jak coraz więcej kobiet dołączy do grona programistów, badaczy i liderów z dziedziny sztucznej inteligencji, pojawi się szerszy zakres perspektyw, które będą niezbędne przy opracowywaniu modeli odzwierciedlających pełne spektrum ludzkich doświadczeń.
Wykorzystać potencjał AI do niwelowania nierówności
Według analiz z marca 2024 przygotowanych przez PwC, mniej niż jedna trzecia pracowników sektora technologicznego na całym świecie to kobiety, a w przypadku pracowników zajmujących się sztuczną inteligencją odsetek ten spada do zaledwie 22%. Równie niepokojącym faktem jest to, że kobiety stanowią jedynie 28% absolwentów studiów inżynierskich. Co jednak ważne te, które już przebiją się przez to sito, stają się bardzo pożądanymi elementami w trybach firmowych maszyn. Dlaczego? To samo badanie PwC wskazuje bowiem, że kobiety zdobywające doświadczenie w branży technologicznej koncentrują się na budowaniu własnej kariery poprzez aktywne poszukiwanie możliwości uczenia się i rozwijania nowych umiejętności (65% w porównaniu do 57% w innych zawodach) oraz zdecydowanie częściej same zwracają się o opinie przełożonych, które można wykorzystać w celu poprawy własnych wyników (62% w porównaniu z 52%).
Liderzy biznesu muszą więc wspierać, włączać i inspirować kobiety do pracy w IT, tworząc środowisko pracy przychylne kobietom, nie faworyzując przy tym żadnej ze stron.
W marcu Rada Europy, będąca najważniejszą europejską organizacją praw człowieka, opublikowała nowy dokument dotyczący strategii na rzecz równości płci na kolejnych pięć lat. W dokumencie potwierdzono, że zaangażowanie państw członkowskich musi również dotyczyć równości w świecie technologii i należy wzmóc wysiłki, aby wypełnić tę lukę.
“Jeśli nie nauczymy się wykorzystywać potencjału sztucznej inteligencji do niwelowania nierówności i zapobiegania dyskryminacji, sztuczna inteligencja może stać się siłą, która utrwala i wzmacnia nierówności. Wzywam do bardziej włączających rozwiązań cyfrowych, które zapewniają znacznie bardziej zróżnicowane uczestnictwo kobiet w edukacji w obszarach nauk ścisłych, technologii, inżynierii i matematyce” – mówiła Marija Pejčinović Burić, sekretarz generalna Rady Europy, prezentując rozwiązania proponowane przez Radę Europy.
