Amerykańska Federalna Komisja Handlu (FTC) wszczęła dochodzenie w sprawie OpenAI w związku z twierdzeniami, iż firma ta naruszyła przepisy dotyczące ochrony konsumentów, narażając ich reputację oraz dane osobowe na ryzyko – poinformował Reuters.
FTC wysłała w tym tygodniu list z żądaniem udostępnienia dokumentacji dotyczącej przetwarzania danych osobowych, możliwości przekazywania użytkownikom niedokładnych informacji oraz tego, w jaki sposób OpenAI – twórca generatywnego chatbota sztucznej inteligencji ChatGPT – odnosi się do zagrożeń związanych z modelami sztucznej inteligencji. Agencja zbada czy firma OpenAI angażowała się w nieuczciwe praktyki, które doprowadziły do “uszczerbku na reputacji” użytkowników ChatGPT.
Jak informuje Reuters, jedno z pytań, jakie FTC zadała OpenAI, dotyczy kroków, jakie firma podjęła w celu zaradzenia potencjalnemu “generowaniu fałszywych, wprowadzających w błąd lub dyskredytujących stwierdzeń na temat prawdziwych osób”.
Sam Altman, dyrektor generalny OpenAI, zapewnił w serii tweetów, że najnowszą wersję ChatGPT – GPT-4 – zbudowano na podstawie wieloletnich badań nad bezpieczeństwem, a systemy zaprojektowano w celu poznania świata, a nie osób prywatnych. “Oczywiście będziemy współpracować z FTC” – dodał.
Wniosek FTC o udzielenie informacji – uważany za rodzaj administracyjnego wezwania do sądu – ma również na celu uzyskanie od OpenAI zeznań na temat wszelkich skarg, które firma otrzymała od opinii publicznej, listy procesów sądowych, w które jest zaangażowana, a także szczegółów dotyczących wycieku danych, do którego OpenAI przyznało się w marcu tego roku. Firma poinformowała wtedy, że tymczasowo ujawniła historie czatów użytkowników oraz dane dotyczące płatności.
Jak poinformowało CNN Business, amerykańska agencja wezwała również do opisania, w jaki sposób OpenAI testuje, dostosowuje i manipuluje swoimi algorytmami – w szczególności w celu uzyskania różnych odpowiedzi, w różnych językach. Ponadto FTC poprosiło również o wyjaśnienie wszelkich kroków podjętych w celu rozwiązania przypadków “halucynacji”, terminu branżowego opisującego wyniki, w których sztuczna inteligencja generuje fałszywe informacje.
Prowadzone dochodzenie może skomplikować relacje OpenAI z decydentami, z których wielu było pod wielkim wrażeniem technologii firmy i jej dyrektora generalnego, wskazuje CNN Business. Może również skupić dalszą uwagę na roli OpenAI w globalnej debacie na temat zagrożeń, jakie generatywna sztuczna inteligencja może stanowić m.in. dla miejsc pracy, bezpieczeństwa narodowego czy samej demokracji.
