Pe 29 iulie, AMD a lansat un nou driver integrat în pachetul Adrenalin Edition 25.8.1, extinzând capabilitățile procesorului Ryzen AI Max+ 395. Driverul permite sistemelor dotate cu acest procesor să execute localmodele mari de inteligență artificială (LLM), cu până la 128 de miliarde de parametri, fără necesitatea unei plăci video dedicate sau conectare la cloud.
Cum funcționează îmbunătățirea Ryzen AI Max+
Driverul activează funcția de memorie grafică variabilă, permițând procesorului grafic integrat să utilizeze o parte din memoria RAM a sistemului ca memorie video. Această alocare permite sistemelor cu procesor Ryzen AI Max+ 395 (128GB) să ruleze modele precum Llama 4 Scout 109B, capabile să prelucreze text și imagini și compatibile cu Protocolul de Context al Modelului (MCP). Acest sistem permite agenților AI să interacționeze cu servicii și baze de date externe, utilizând infrastructura llama.cpp și API-ul Vulkan.
Deși modelul Llama 4 Scout activează simultan doar 17 miliarde de parametri (un model hibrid – MoE), întregul set de 109 miliarde de parametri trebuie încărcat în memorie. 
O altă inovație este suportul pentru ferestre de context de până la 256.000 de tokeni. Aceasta înseamnă că modelele AI pot procesa cantități mari de text, benefice în aplicații precum analiza documentelor ample, rezumate de date sau generare de răspunsuri complexe.
Această funcționalitate este utilă în special în scenarii cu agenți AI, unde mai multe acțiuni sunt desfășurate secvențial, fiecare având nevoie de context extins.
Un alt avantaj al acestei actualizări este flexibilitatea: sistemele cu Ryzen AI Max+ 395 pot rula o gamă largă de modele, de la asistenți conversaționali la instrumente complexe pentru programare sau sarcini vizuale, potrivit necesităților utilizatorului.
Pentru utilizatorii interesați de aceste capabilități AI, AMD recomandă utilizarea aplicației LM Studio, un instrument intuitiv pentru executarea locală a modelelor de limbaj, fără expertiză tehnică avansată.
Care sunt beneficiile acestei actualizări?
AMD oferă această îmbunătățire deoarece procesorul Ryzen AI Max+ 395 include un procesor grafic puternic Radeon 8060S, bazat pe arhitectura RDNA 3.5 și dotat cu 40 de unități de calcul (Compute Units). Acesta oferă performanță intermediară, comparabilă cu o placă NVIDIA RTX 4060/4070 în teste comparative.
Prin funcția de memorie grafică variabilă (VGM), AMD permite procesorului grafic integrat să utilizeze până la 96 GB din memoria sistemului (laptop sau desktop) ca memorie video dedicată, oferind spațiu suficient pentru modele mari LLM precum Llama 4 Scout 109B.
De ce ai dori să rulezi un LLM pe un procesor grafic integrat bazat pe RAM-ul sistemului? Poți obține performanțe satisfăcătoare fără investiții costisitoare în plăci grafice dedicate. Utilizarea memoriei RAM consumă mai puțină energie decât un GPU dedicat, constituind o soluție accesibilă și adaptativă pentru executarea locală a AI.
Situația este mai complexă: pentru aplicații AI avansate, un GPU dedicat este recomandat. Însă, pentru utilizare ocazională, această actualizare poate fi foarte utilă.
