NVIDIA ha pubblicato nuove ricette di deployment basate su Dynamo, progettate per portare in produzione i modelli aperti più avanzati del Corea. Tra i modelli citati ci sono A.X K2 sviluppato da SK Telecom, K-EXAONE 2.0 di LG AI Research, Solar Open 2 di Upstage e Motif-3 di Motif Technologies. Quando un modello supera la capacità di un singolo GPU, deve essere suddiviso su più unità, richiedendo una coordinazione attenta della routatura delle richieste. Le istruzioni sono disponibili sul blog di NVIDIA e consentono l’esecuzione locale dei modelli, riducendo la necessità di infrastrutture esterne.
NVIDIA Dynamo Recipes Bring Korea’s Leading Open Models to Production
Ricette di deployment per modelli aperti in Corea
NVIDIA sta rilasciando ricette ottimizzate per il framework Dynamo per aiutare l'uso dei modelli aperti più avanzati in Corea del Sud, tra cui A.X K2 di SK Telecom, K-EXAONE 2.0 di LG AI Research, Solar Open 2 di Upstage e Motif-3 di Motif Technologies.
