Anthropic protestuje przeciwko wykorzystaniu swoich modeli do budowy broni autonomicznej

Pentagon zagroził Anthropic umieszczeniem na czarnej liście. Powód, brak zgody na zniesienie ograniczeń bezpieczeństwa dotyczących zastosowań wojskowych. Pete Hegseth, Sekretarz Wojny, dał firmie czas na decyzję do piątku (27 lutego).

Prośba amerykańskiego Departamentu Wojny jest prosta: pozwólcie nam używać swoich modeli do wszystkiego, co jest technicznie legalne – rozwój broni, gromadzenie danych wywiadowczych, operacje na polu bitwy, masowa inwigilacja obywateli amerykańskich.

Protest przeciwko wykorzystaniu AI przeciwko obywatelom USA

Anthropic jest gotowy wycofać się z negocjacji i kontraktu o wartości 200 mln USD z Departamentem Wojny, jeśli nie zostanie zagwarantowane to, że ich technologia nie zostanie wykorzystana do budowy w pełni autonomicznej broni, ani do masowego inwigilowania obywateli USA.

„Konstytucyjna ochrona naszego wojska opiera się wyłącznie na zdolności żołnierzy do przeciwstawienia się nielegalnemu rozkazowi. Broń oparta na sztucznej inteligencji nie ma takiej 'odporności’” – argumentuje odmowę Dario Amodei, prezes Anthropic.

Ostrzegł również, że sztuczna inteligencja może całkowicie ominąć Czwartą Poprawkę. Obecnie rząd nie jest w stanie przetworzyć każdej rozmowy nagranej w przestrzeni publicznej.

„Dzięki jednak zdolności sztucznej inteligencji do błyskawicznego zapisywania i łączenia milionów punktów danych, może ona w ciągu kilku sekund z łatwością stworzyć mapę opozycji politycznej” – dodaje Dario Amodei.

W odpowiedzi Pete Hegseth stwierdził, że na podstawie ustawy o produkcji obronnej (Defense Production Act) może zmusić Anthropic do zezwolenia na korzystanie z ich usług, „niezależnie od tego, czy chcą tego, czy nie”.

Anthropic na cenzurowanym amerykańskiego rządu

Na wtorkowym (24 lutego) spotkaniu poszedł dalej, mówiąc, że Anthropic może objąć Ustawa o Produkcji Obronnej (Defense Production Act), która umożliwia rządowi przejęcie kontroli nad firmami i ich produktami „w imię bezpieczeństwa narodowego”.

W ostatnich tygodniach między Anthropic a Pentagonem narastały napięcia w związku z tym, w jaki sposób jej modele AI zostały wykorzystane podczas operacji pojmania prezydenta Wenezueli Nicolása Maduro.

Jednocześnie The Washington Post pisze, że Pentagon przyspieszył działania mające na celu integrację sztucznej inteligencji ze swoimi systemami uzbrojenia, napędzany konkurencją z Chinami – które chcą pozyskać technologie sztucznej inteligencji dla swoich sił zbrojnych – oraz nowymi zagrożeniami, takimi jak superszybkie pociski hipersoniczne, na które ludzie nie są w stanie wystarczająco szybko zareagować.

Po upłynięciu terminu na podjęcie decyzji, Anthropic oświadczył, że ​​nie zgodzi się na warunki Pentagonu dotyczące pełnego dostępu do swojego narzędzia sztucznej inteligencji Claude, twierdząc, że nie może złagodzić ograniczeń dotyczących jego wykorzystania w całkowicie autonomicznej broni lub masowego nadzoru wewnętrznego.

W odpowiedzi Donald Trump, prezydent USA nakazał każdej agencji rządowej Stanów Zjednoczonych natychmiastowe zaprzestanie korzystania z technologii firmy Anthropic zajmującej się sztuczną inteligencją.

OpenAI chce zastąpić Anthropic w kontraktach wojskowych

Sam Altman, prezes OpenAI opublikował zaś takie oświadczenie:

„Dziś wieczorem osiągnęliśmy porozumienie z Departamentem Wojny w sprawie udostępnienia naszych modeli w ich tajnej sieci. We wszystkich naszych interakcjach DoW wykazywało głęboki szacunek dla kwestii bezpieczeństwa i chęć współpracy w celu osiągnięcia jak najlepszych rezultatów.

Bezpieczeństwo sztucznej inteligencji i szeroka dystrybucja świadczeń stanowią sedno naszej misji. Dwie z naszych najważniejszych zasad bezpieczeństwa to zakaz masowej inwigilacji w kraju oraz odpowiedzialność człowieka za użycie siły, w tym w odniesieniu do autonomicznych systemów uzbrojenia. Departament Wojny (DoW) zgadza się z tymi zasadami, odzwierciedla je w prawie i polityce, a my uwzględniamy je w naszej umowie. (…)

Zwracamy się do Departamentu Pracy (DoW) z prośbą o zaoferowanie tych samych warunków wszystkim firmom z branży sztucznej inteligencji, które naszym zdaniem wszyscy powinni być gotowi zaakceptować. Wyraziliśmy zdecydowaną chęć deeskalacji konfliktu, odejścia od działań prawnych i rządowych na rzecz rozsądnych porozumień.”

Patrząc na to, co dzieje się w USA, Chinach i podobno Rosji, może warto ograniczyć zakres działania AI? Może europejski AI Act nie jest taki zły?