Pracownicy OpenAI i Google Deep Mind apelują w sprawie “prawa do ostrzegania” w obszarze AI

Obecni i byli pracownicy pionierskich firm zajmujących się sztuczną inteligencją (OpenAI, Google Deep Mind oraz Anthropic), mając świadomość zagrożeń stwarzanych przez technologie, opublikowali otwarty list, w którym apelują o wprowadzenie “prawa do ostrzegania” (A Right to Warn) w obszarze wykorzystania sztucznej inteligencji. 

Jak podkreślają autorzy apelu, wierzą oni w potencjał technologii AI w zakresie zapewnienia ludzkości bezprecedensowych korzyści, jednocześnie jednak zdają sobie sprawę z poważnych zagrożeń stwarzanych przez nią.

“Zagrożenia te sięgają od dalszego utrwalania istniejących nierówności, przez manipulację i dezinformację, po utratę kontroli nad autonomicznymi systemami sztucznej inteligencji, co może doprowadzić do wyginięcia ludzi” – czytamy w opublikowanym apelu. “Mamy nadzieję, że ryzyko to może zostać odpowiednio złagodzone dzięki wystarczającym wskazówkom ze strony społeczności naukowej, decydentów i opinii publicznej. Firmy zajmujące się sztuczną inteligencją mają jednak silną motywację finansową do unikania skutecznego nadzoru i nie uważamy, aby dostosowane struktury ładu korporacyjnego były wystarczające, aby to zmienić” – dodają przedstawiciele wspomnianych wcześniej firm.

Autorzy apelu wzywają więc firmy zajmujące się zaawansowaną sztuczną inteligencją do przestrzegania następujących zasad:

• Firma nie będzie zawierać ani egzekwować żadnych umów, które zabraniają „dyskredytowania” lub krytykowania firmy za obawy związane z ryzykiem, ani nie będzie podejmować działań odwetowych za krytykę związaną z ryzykiem poprzez utrudnianie uzyskania jakichkolwiek korzyści ekonomicznych.
• Spółka ułatwi obecnym i byłym pracownikom anonimowy proces zgłaszania obaw związanych z ryzykiem zarządowi spółki, organom regulacyjnym i odpowiedniej niezależnej organizacji posiadającej odpowiednią wiedzę specjalistyczną.
• Spółka będzie wspierać kulturę otwartej krytyki i umożliwi swoim obecnym i byłym pracownikom zgłaszanie obaw związanych z ryzykiem dotyczącym jej technologii opinii publicznej, zarządowi spółki, organom regulacyjnym lub odpowiedniej niezależnej organizacji posiadającej odpowiednią wiedzę specjalistyczną, o ile tajemnice handlowe i inne interesy związane z własnością intelektualną będą odpowiednio chronione;
• Firma nie będzie podejmować działań odwetowych wobec obecnych i byłych pracowników, którzy publicznie dzielą się poufnymi informacjami związanymi z ryzykiem po tym, jak inne procesy zawiodły. Zgadzamy się, że wszelkie wysiłki mające na celu zgłaszanie obaw związanych z ryzykiem powinny unikać niepotrzebnego ujawniania informacji poufnych. W związku z tym, gdy istnieje odpowiedni proces anonimowego zgłaszania obaw zarządowi spółki, organom regulacyjnym i odpowiedniej niezależnej organizacji posiadającej odpowiednią wiedzę specjalistyczną, akceptujemy, że obawy powinny być początkowo zgłaszane w ramach takiego procesu. Dopóki jednak taki proces nie istnieje, obecni i byli pracownicy powinni zachować swobodę zgłaszania swoich obaw opinii publicznej.