Mistral AI e NVIDIA hanno annunciato oggi il rilascio del modello di linguaggio di ultima generazione, Mistral NeMo 12B, progettato per essere facilmente personalizzabile e implementabile in applicazioni aziendali. Questo modello supporta chatbot, compiti multilingue, codifica e sintesi, aprendo nuove opportunità per le aziende.
Grazie alla combinazione dell’esperienza di Mistral AI nei dati di addestramento e dell’ecosistema hardware e software ottimizzato di NVIDIA, il modello Mistral NeMo offre alte prestazioni per applicazioni diversificate. “Siamo fortunati a collaborare con il team di NVIDIA, sfruttando il loro hardware e software di prim’ordine,” ha dichiarato Guillaume Lample, cofondatore e capo scienziato di Mistral AI. “Insieme, abbiamo sviluppato un modello con un’accuratezza, flessibilità, efficienza e supporto di livello aziendale senza precedenti, grazie al deployment di NVIDIA AI Enterprise.”
Il Mistral NeMo è stato addestrato sulla piattaforma NVIDIA DGX Cloud AI, che offre accesso scalabile alle ultime architetture NVIDIA. Per migliorare e ottimizzare il processo, sono stati utilizzati anche NVIDIA TensorRT-LLM per le prestazioni di inferenza e la piattaforma di sviluppo NVIDIA NeMo per la creazione di modelli generativi personalizzati.
Eccellendo nelle conversazioni multi-turno, nella matematica, nel ragionamento di buon senso, nella conoscenza del mondo e nella codifica, questo modello AI di livello aziendale offre prestazioni precise e affidabili in compiti diversi. Con una lunghezza del contesto di 128K, Mistral NeMo elabora informazioni estese e complesse in modo coerente e accurato, garantendo output rilevanti e contestuali.
Il modello è disponibile con licenza Apache 2.0, promuovendo l’innovazione e supportando la comunità AI. Utilizzando il formato dati FP8 per l’inferenza, riduce la dimensione della memoria e velocizza il deployment senza compromettere l’accuratezza.