OpenAI i Broadcom pokazują Jalapeño. Nowy chip AI ma zmniejszyć zależność od Nvidii

OpenAI zaprezentowało pierwszy autorski procesor przeznaczony do obsługi wnioskowania modeli sztucznej inteligencji. Układ o nazwie Jalapeño, opracowany wspólnie z Broadcomem, ma zwiększyć wydajność działania usług AI i obniżyć koszty ich eksploatacji. To kolejny krok firmy w budowie własnego zaplecza technologicznego, od modeli i oprogramowania po centra danych i specjalizowane układy scalone.

Przedstawiciele OpenAI podkreślają, że układ stworzono z myślą o specyficznych wymaganiach własnych systemów AI. W pracach nad jego projektowaniem wykorzystano również autorskie modele sztucznej inteligencji OpenAI. Choć procesor znajduje się jeszcze w fazie testów, pierwsze wyniki mają wskazywać na wyraźnie lepszą efektywność energetyczną w porównaniu z obecnie stosowanymi rozwiązaniami. Oznacza to możliwość wykonywania większej liczby operacji przy niższym zużyciu energii, co ma kluczowe znaczenie dla ekonomiki usług AI.

Odpowiedź na dominację Nvidii

Od kilku lat rynek sztucznej inteligencji zdominowany jest przez procesory graficzne Nvidii, które odpowiadają zarówno za trenowanie modeli, jak i ich późniejsze uruchamianie. Coraz więcej znaczących firm technologicznych stara się jednak ograniczyć tę zależność poprzez rozwój własnych układów. Podobną strategię realizują już m.in. Google oraz Amazon Web Services, które rozwijają własne akceleratory AI przeznaczone do obsługi modeli uczenia maszynowego.

Partnerstwo OpenAI i Broadcom ogłoszono już wcześniej, jednak dopiero teraz firma ujawniła szczegóły pierwszego układu powstałego w ramach tej współpracy.

Układ do wnioskowania, nie do trenowania

Chip Jalapeño nie został stworzony po to, aby całkowicie zastąpić infrastrukturę obliczeniową OpenAI. Układ zaprojektowano z myślą o wnioskowaniu, czyli etapie odpowiadającym za generowanie odpowiedzi przez ChatGPT, Codexa i inne usługi firmy. To właśnie obsługa milionów zapytań użytkowników każdego dnia generuje dziś jedne z najwyższych kosztów operacyjnych dostawców AI. Nawet niewielki wzrost wydajności lub poprawa efektywności energetycznej może więc przełożyć się na znaczące oszczędności i niższy koszt działania modeli.

Bardziej wymagające procesy, takie jak trenowanie kolejnych generacji modeli, najprawdopodobniej nadal będą realizowane z wykorzystaniem wyspecjalizowanych akceleratorów Nvidii.

Premiera Jalapeño wpisuje się w strategię polegającą na przejmowaniu kontroli nad kolejnymi elementami infrastruktury AI. OpenAI rozwija dziś nie tylko modele i aplikacje, ale także własne centra danych, systemy wdrożeniowe, rozwiązania pamięci masowej i sieciowej oraz specjalizowane układy scalone. Według przedstawiciele spółki, taka pionowa integracja pozwala optymalizować cały ekosystem pod jeden cel – zwiększanie szybkości działania modeli, poprawę ich niezawodności oraz obniżanie kosztów korzystania z AI. W dłuższej perspektywie może to okazać się równie istotne dla konkurencyjności OpenAI jak rozwój samych modeli językowych.