Nowy standard dla lokalnego AI: procesor AMD Ryzen AI Max+ z obsługą 128 mld parametrów

Podczas targów CES 2025 firma AMD zaprezentowała pierwszy procesor AI, który umożliwia obsługę algorytmu sztucznej inteligencji o wielkości nawet 128 miliardów parametrów na konsumenckim komputerze osobistym z systemem Windows. Dotychczas tak zaawansowane modele mogły być uruchamiane jedynie w dużych centrach danych. Możliwość korzystania z tak potężnego modelu bezpośrednio na PC otwiera nowe, znacznie szersze możliwości zastosowań i wdrożeń AI zarówno w domu, jak i w środowisku biznesowym.

Dzięki aktualizacji sterowników Adrenalin Edition 25.8.1 WHQL i wsparciu dla zmiennej pamięci graficznej (VMM), nowy procesor Ryzen AI Max+ 395 z 128 GB VGM obsługuje modele o wielkości do 128 miliardów parametrów, w tym m.in. Llama 4 Scout 109B firmy Meta (z 17B aktywnymi parametrami).

Procesor ten oferuje:

• do 15 tokenów/s przy modelach typu MoE (mixture-of-experts),
• obsługę modeli od 1B do Mistral Large z różnymi wariantami kwantyzacji (GGUF),
• pełną kompatybilność z llama.cpp, także dla modeli 16-bitowych.

Nowy procesor AMD obsługuje również okna kontekstowe do 256 000 tokenów (z Flash Attention i pamięcią podręczną Q8 KV), co pozwala na realizację zaawansowanych przepływów pracy opartych na agentach (MCP). Dla porównania, standardowe modele ograniczone są do 4096 tokenów.

Dzięki temu, AMD Ryzen AI Max+ to obecnie jedna z najbardziej elastycznych platform AI na rynku PC – niezależnie od tego czy użytkownik potrzebuje szybkiego, lekkiego modelu, czy pełnowymiarowego asystenta AI do pracy offline. Takie rozwiązanie to przełom, przenosi bowiem dotychczas wymagającą obliczeniowo technologię AI do rąk zwykłych użytkowników komputerów, umożliwiając lokalne uruchamianie skomplikowanych modeli i znacznie rozszerzając spektrum zastosowań AI w praktyce.