Etched è una startup di San Jose fondata nel 2022 da Gavin Uberti, Robert Wachen e Chris Zhu. Sviluppa chip e sistemi completi per l’inferenza, la fase in cui un modello di intelligenza artificiale già addestrato elabora una richiesta e genera la risposta.
La società punta a sostituire le GPU in una parte dei carichi di lavoro IA dei data center. La sua proposta non consiste soltanto in un acceleratore, ma in sistemi rack-scale che integrano chip, memoria, interconnessioni, raffreddamento e software. L’hardware è progettato esclusivamente per l’inferenza, mentre le GPU di NVIDIA e degli altri produttori conservano una maggiore flessibilità e possono essere impiegate anche per l’addestramento.
Su questa specializzazione gli investitori hanno appena impegnato altri 700 milioni di dollari, attribuendo a Etched una valutazione di 21 miliardi. Il round è stato guidato da Jane Street, società di trading quantitativo che ha testato l’hardware e ricevuto il primo sistema rack-scale prodotto dalla startup.
La valutazione raddoppia dopo il primo rack
Il finanziamento arriva meno di un mese dopo il round da 300 milioni annunciato il 23 luglio, quando Etched era stata valutata 10,3 miliardi. A dicembre la valutazione era ancora di 5 miliardi. In circa otto mesi, quindi, il valore attribuito alla società è più che quadruplicato.
Al nuovo round hanno partecipato anche Kleiner Perkins, Sequoia Capital, Andreessen Horowitz, Tiger Global, Blackstone e Peter Thiel.
Jane Street era già tra gli investitori di Etched. Prima di guidare l’operazione ha sottoposto il sistema a test interni e ha dichiarato di essere soddisfatta dei primi risultati. Il passaggio dal laboratorio al primo cliente ha probabilmente contribuito alla rapida rivalutazione della società.
La validazione presenta comunque un limite: Jane Street è contemporaneamente cliente e investitore. Non sono stati pubblicati benchmark indipendenti, configurazioni complete o confronti omogenei con sistemi NVIDIA. La consegna dimostra che Etched dispone di un prodotto funzionante, ma non permette ancora di valutarne prestazioni, costi e affidabilità su larga scala.
Etched dichiara inoltre contratti per oltre un miliardo di dollari con aziende che sviluppano modelli, cloud provider e altri operatori del settore. La società non ha specificato quanti sistemi siano stati ordinati, quando saranno consegnati o quale parte del valore contrattuale si sia già trasformata in ricavi.
Un’alternativa specializzata alle GPU
La scommessa di Etched nasce dalla crescente separazione tra addestramento e inferenza. L’addestramento richiede grandi quantità di capacità di calcolo per costruire un modello. L’inferenza usa quel modello per generare risposte, immagini, codice o altre elaborazioni.
Con la diffusione dei servizi di IA, l’inferenza può diventare un costo ricorrente molto superiore a quello sostenuto una sola volta per addestrare il modello. Latenza, consumo energetico e costo per token assumono quindi un peso crescente nell’economia dei data center.
Etched utilizza circuiti ASIC progettati per una classe di carichi più ristretta rispetto alle GPU. Eliminare le funzioni non necessarie all’inferenza permette in teoria di destinare una quota maggiore del silicio all’elaborazione effettiva, riducendo consumi e costi. In cambio, il cliente accetta una minore flessibilità e una maggiore dipendenza dall’architettura e dal software del fornitore.
I primi chip della società sono stati prodotti da TSMC con il processo N4P. Etched li inserisce in rack progettati internamente, insieme alle schede, alle interconnessioni e ai sistemi di raffreddamento necessari per eseguire modelli di grandi dimensioni.
Prefill e decode richiedono risorse differenti
L’architettura interviene sulle due fasi principali dell’inferenza. Durante il prefill, il sistema analizza il prompt e il contesto ricevuto dal modello. È una fase caratterizzata da numerose operazioni matematiche e da un’elevata intensità di calcolo.
Etched afferma di affrontarla con Low Voltage Inference, una tecnologia che fa funzionare i blocchi matematici del chip a una tensione inferiore rispetto agli acceleratori convenzionali. La riduzione della tensione dovrebbe contenere il calore e limitare il thermal throttling, cioè l’abbassamento della frequenza imposto al processore quando temperatura e consumi raggiungono determinate soglie.
La fase successiva, il decode, produce uno dopo l’altro i token che compongono la risposta. In questo caso le prestazioni dipendono soprattutto dalla rapidità con cui il processore può recuperare dalla memoria i parametri del modello e i dati già elaborati.
Per ridurre questo collo di bottiglia, Etched ha sviluppato Cluster Scale Memory. L’architettura combina memoria HBM e SRAM con un’interconnessione proprietaria, creando un pool condiviso accessibile dai chip del rack. L’obiettivo è aumentare la capacità disponibile senza rinunciare alla bassa latenza richiesta dalla generazione dei token.
Secondo Etched, il sistema può mantenere oltre l’80% delle prestazioni teoriche di picco nell’esecuzione di modelli Mixture of Experts con migliaia di miliardi di parametri, senza ridurre la frequenza per ragioni termiche. Il dato proviene da test aziendali e non è accompagnato da una metodologia sufficiente per confrontarlo direttamente con altre piattaforme.
La produzione sarà il test decisivo
Etched deve ora dimostrare di poter trasformare il primo rack in una produzione ripetibile. Costruire un acceleratore funzionante è soltanto una parte del lavoro: la società deve garantire disponibilità dei componenti, resa produttiva, affidabilità, supporto software e integrazione nei data center.
La startup ha aperto un impianto a Taiwan e costruito nell’area di San Jose un laboratorio da 10 MW per la validazione dell’hardware. Ha inoltre dichiarato di avere avviato la produzione di sistemi per centinaia di milioni di dollari.
Il finanziamento offre le risorse per accelerare questa fase, ma la valutazione da 21 miliardi incorpora già aspettative elevate. Per diventare un’alternativa credibile alle GPU non basteranno le promesse sull’architettura: serviranno consegne a più clienti, benchmark verificabili e dati sui costi operativi dei sistemi in produzione.
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
