AMD ha rilasciato ROCm 10, nuova versione della propria piattaforma software open source per il calcolo accelerato e l’intelligenza artificiale, che coincide con il decimo anniversario del progetto. La prima versione di ROCm, la 1.0, era stata pubblicata nell’aprile 2016. Con questa generazione AMD introduce anche la disponibilità generale di ROCm.AI, un’esperienza di sviluppo pensata per integrare strumenti basati sull’intelligenza artificiale direttamente nel flusso di lavoro degli sviluppatori.
ROCm.AI rappresenta il principale elemento distintivo della versione 10 e riunisce tre componenti: ROCm CLI, AMD Skills e ROCm Hyperloom. L’obiettivo non è soltanto fornire librerie e compilatori per l’esecuzione dei carichi di lavoro, ma intervenire sulle diverse fasi necessarie per installare, configurare, eseguire, analizzare e ottimizzare applicazioni AI su hardware AMD.
Clicca per ingrandire
Secondo i dati comunicati da AMD, un sistema configurato con ROCm.AI può raggiungere un miglioramento medio di 3,3 volte nelle prestazioni di inferenza e di 2,4 volte nel training rispetto a ROCm 7 sulla stessa piattaforma hardware. I risultati provengono dai test di AMD Performance Labs condotti su una piattaforma con otto acceleratori AMD Instinct MI355X, utilizzando i modelli GLM-5, Kimi-K2.5 e DeepSeek-R1-0528. I miglioramenti sono attribuiti, tra gli altri elementi, a ottimizzazioni di kernel, gestione della memoria, parallelismo e scheduling.
Il primo componente di ROCm.AI è ROCm Hyperloom, un sistema agentico open source destinato ad automatizzare il processo di ottimizzazione delle applicazioni di inferenza. Il software parte dalla definizione di una baseline delle prestazioni, analizza il carico di lavoro per individuare i colli di bottiglia, valuta possibili interventi, applica le modifiche e verifica successivamente sia le prestazioni sia la correttezza del risultato.
L’approccio interessa sia il codice eseguito sulla CPU sia i kernel GPU. Con ROCm 10 Hyperloom amplia inoltre il supporto agli acceleratori AMD Instinct e ai framework di serving vLLM e SGLang, consentendo di intervenire su codice HIP, Triton e FlyDSL. Il sistema produce report con le modifiche suggerite e con le prestazioni misurate o attese. AMD sostiene che un processo che in precedenza poteva richiedere settimane di lavoro manuale possa essere ridotto a poche ore, grazie all’esecuzione automatizzata di più cicli di analisi e ottimizzazione.
Clicca per ingrandire
La seconda componente è AMD Skills, una raccolta di conoscenze e procedure validate da AMD che viene resa disponibile all’interno degli assistenti per la programmazione basati sull’intelligenza artificiale. Il sistema è compatibile con strumenti come Claude Code, Cursor e Codex e permette di fornire indicazioni specifiche sull’ecosistema ROCm senza costringere lo sviluppatore a cambiare ambiente di lavoro.
Il catalogo delle Skills copre tre aree principali: flussi di lavoro client per l’AI locale e l’integrazione nelle applicazioni, procedure cross-stack per diagnostica, routing, analisi dei replay e ottimizzazione, e attività server-oriented per acceleratori Instinct e processori EPYC, comprese operazioni di serving, profiling e analisi delle prestazioni. Le Skills presentate inizialmente da AMD sono ora disponibili attraverso i marketplace di Claude Code, Codex e Cursor, oltre che tramite il catalogo open source pubblicato su GitHub. AMD afferma che ogni Skill distribuita viene sottoposta a test strutturali e comportamentali prima della pubblicazione.
Il terzo elemento è ROCm CLI, disponibile in Technology Preview. Si tratta di un’interfaccia a riga di comando unificata che concentra in un singolo strumento attività precedentemente distribuite tra script e procedure differenti. Attraverso la CLI è possibile installare e gestire ambienti ROCm, verificare la configurazione del sistema, eseguire diagnostica, avviare modelli, aggiornare componenti e controllare i runtime.
Tra i comandi disponibili figurano, ad esempio, rocm serve per avviare un modello per l’inferenza e rocm examine per analizzare problemi relativi all’ambiente software e ai driver. La CLI può inoltre essere utilizzata in modalità manuale, attraverso un agente AI oppure all’interno di ambienti di continuous integration. È disponibile come binario precompilato per Windows e Linux e non richiede che ROCm sia già installato.
Un’altra caratteristica riguarda la possibilità di mantenere più runtime ROCm contemporaneamente, con funzioni di attivazione e rollback, oltre alla gestione integrata dei motori di serving. Sono previsti anche scenari air-gapped, nei quali le dipendenze possono essere scaricate come pacchetto autonomo insieme al binario. Gli adattatori disponibili includono Lemonade su alcuni sistemi client AMD e vLLM per il serving sugli acceleratori Instinct.
All’interno della CLI è presente anche ROCm Console, precedentemente indicata come “dash”, che fornisce una vista in tempo reale dello stato del sistema e dell’attività dei carichi di lavoro. Tra i parametri monitorabili figurano l’utilizzo della GPU, la salute del runtime ROCm, l’attività di model serving e la telemetria dei benchmark. Sui sistemi Instinct supportati possono essere visualizzati anche l’utilizzo della memoria HBM, il consumo energetico e il rapporto tra token elaborati e watt.
ROCm CLI rimane per il momento una Technology Preview e viene progettata per offrire un’esperienza indipendente dalla specifica versione del software, a partire da ROCm 7.13. Il supporto ufficiale a ROCm 10 è indicato da AMD come in arrivo.
Clicca per ingrandire
Le novità di ROCm.AI si inseriscono all’interno di un aggiornamento più ampio della piattaforma. ROCm 10 introduce ROCm Core SDK, una base più modulare per la realizzazione e l’esecuzione dei carichi di lavoro AI. AMD ha inoltre aggiornato librerie, compilatori, framework, strumenti di sviluppo, supporto ai modelli, ottimizzazioni delle prestazioni e piattaforme hardware.
Il nuovo stack è destinato a coprire l’ecosistema GPU AMD in maniera più ampia, dagli acceleratori Instinct alle schede grafiche Radeon e alla grafica integrata dei processori Ryzen, con supporto per sistemi Windows e Linux.
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
