Amazon chce osłabić przewagę Nvidii. Stawia na PyTorch i własne układy AI

Amazon Web Services udostępnił TorchNeuron, narzędzie, które ma ułatwić uruchamianie aplikacji AI na autorskich układach Trainium. Dzięki integracji z PyTorch programiści będą mogli przenosić modele na sprzęt Amazona bez przepisywania kodu aplikacji. To kolejny krok AWS w rywalizacji z Nvidią, której przewagę na rynku AI wzmacnia ekosystem CUDA, ściśle zintegrowany z popularnymi narzędziami programistycznymi.

TorchNeuron współpracuje z PyTorch, otwartoźródłowym frameworkiem wykorzystywanym do tworzenia i trenowania modeli AI. Według AWS, migracja aplikacji na układy Trainium może wymagać zmiany zaledwie jednej linii konfiguracji. Programiści nie muszą więc uczyć się nowego środowiska ani przebudowywać całego kodu.

Amazon szacuje, że około 85% aplikacji AI powstaje z wykorzystaniem PyTorch. Framework ten, rozwijany początkowo przez Facebooka, jest obecnie projektem open source wspieranym przez Linux Foundation. Jego popularność od lat sprzyja Nvidii. Należąca do spółki platforma CUDA pozwala uruchamiać aplikacje na własnych procesorach graficznych, a ścisła integracja z narzędziami AI sprawiła, że sprzęt firmy stał się dla wielu zespołów domyślnym wyborem. Amazon chce osłabić tę przewagę, ułatwiając programistom korzystanie z alternatywnych układów.

AWS chce obniżyć koszty wdrażania AI…

Sama migracja na Trainium ma być stosunkowo prosta. Amazon przekonuje jednak, że większą korzyścią jest dostęp do całej infrastruktury AWS, która pozwala rozwijać projekt od prototypu aż po wdrożenie produkcyjne. Firma przedstawia to jako alternatywę dla wyspecjalizowanych dostawców mocy obliczeniowej, takich jak CoreWeave czy Nebius, których infrastruktura w dużej mierze opiera się na technologiach Nvidii.

AWS argumentuje też, że wykorzystanie tej samej platformy do trenowania modeli i ich późniejszego uruchamiania może obniżyć całkowity koszt przetwarzania. Nie musi to oznaczać najniższej ceny pojedynczego tokena. Liczy się ekonomika całego procesu oraz integracja z pozostałymi usługami chmurowymi.

Jako przykład Amazon podaje firmę Deepgram, dostawcę technologii głosowych AI. Według AWS, po przejściu na Trainium firma przetwarza o 70% więcej danych audio na każdego wydanego dolara, zachowując dokładność wymaganą w środowisku produkcyjnym.

… i zmienić sam PyTorch

Plany firmy wykraczają poza promowanie własnych układów. Amazon zamierza współpracować ze społecznością PyTorch nad usunięciem fragmentów kodu, które wiążą framework z konkretnym sprzętem. Zmiany mają trafić do głównego nurtu projektu, tak aby ograniczyć zależność od jednego producenta i ułatwić obsługę różnych architektur.

To może przynieść korzyści także producentom układów AMD i Apple, a nie tylko Amazonowi. Z drugiej strony, większa niezależność od sprzętu nie gwarantuje automatycznie lepszej wydajności ani niższych kosztów. Różnice między platformami nadal mogą wymagać dodatkowej optymalizacji.

Jeśli Amazon skutecznie ograniczy zależność PyTorch od rozwiązań Nvidii, konkurencja na rynku infrastruktury AI może przenieść się z samych układów scalonych na oprogramowanie, które pozwala z nich korzystać. Dla AWS stawką jest pozyskanie klientów do własnej chmury. Dla Nvidii to potencjalne osłabienie przewagi, którą przez lata budowała dzięki połączeniu sprzętu i ekosystemu CUDA.

Źródło: TechCrunch