Microsoft Open Source la nouvelle version Phi-4 : l'efficacité d'inférence big pump de 10 fois, peut être exécutée sur un ordinateur portable.

Jin10 données 10 juillet, ce matin, Microsoft a open source la dernière version de la famille Phi-4, Phi-4-mini-flash-reasoning, sur son site officiel. La version mini-flash conserve les caractéristiques de faible puissance et de haute performance de la famille Phi-4, et est spécifiquement conçue pour les scénarios limités par la puissance de calcul, la mémoire et la latence, fonctionnant sur un seul GPU, et adaptée aux appareils de bord tels que les ordinateurs portables et les tablettes. Par rapport à la version précédente, le mini-flash utilise l'architecture innovante SambaY développée par Microsoft, l'efficacité de l'inférence a connu un big pump de 10 fois, la latence a été en moyenne réduite de 2 à 3 fois, et la performance d'inférence globale a considérablement augmenté.
Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.
Commentaire
0/400
Aucun commentaire