🚀Le concours de trading Miracle Play (MPT) démarre avec des prix d’une valeur de 10 000 $ ! ⏳ Période de l’événement : 22h04-29h04 11h00 [UTC+8] ✅ Tradez $MPT$ pour gagner une part de 8 000 $ ✅ Des avantages exclusifs pour les nouveaux utilisateurs de partager une cagnotte de 1 000 $ ✅ Invitez de nouveaux utilisateurs et profitez de 1 000 $ de récompenses 💸 Impliquez-vous : https://www.gate.io/zh/article/36075 #Gateio #MPT #Trade

Selon un rapport de Webmaster’s Home du 6 janvier, l’équipe de TinyLlama a publié un modèle Open Source d’IA haute performance qui n’occupe que 637 Mo, TinyLlama. TinyLlama est une version compacte du modèle de langage open source Llama2 de Meta, qui dispose de 1 milliard de paramètres et de performances supérieures pour la recherche de modèles de langage multi-domaines, et sa version finale surpasse les modèles de langage open source existants de taille comparable, notamment Pythia-1.4B, OPT-1.3B et MPT-1.3B. Il est rapporté que TinyLlama peut être déployé sur des appareils de périphérie et peut également être utilisé pour aider au décodage spéculatif de grands modèles.

Selon le rapport "Kechuangban Daily" du 2 août, la plate-forme de modèles à grande échelle Baidu Smart Cloud Qianfan a terminé une nouvelle série de mises à niveau, accédant pleinement à 33 modèles à grande échelle, y compris la série complète de LLaMA2, ChatGLM2, RWKV, MPT, Dolly , OpenLLaMA et Falcon , est devenue la plate-forme avec le plus grand nombre de grands modèles en Chine, et les modèles connectés ont subi une amélioration secondaire des performances de la plate-forme Qianfan, et le coût du raisonnement du modèle peut être réduit de 50 %. Dans le même temps, la plateforme Qianfan a lancé une bibliothèque preset_template avec 103 modèles, couvrant plus de dix scénarios de dialogue, de jeux, de programmation et d'écriture. De plus, cette mise à niveau a de nouveau publié un certain nombre de nouveaux plug-ins.

Selon le rapport d'IT House du 25 juin, la startup d'intelligence artificielle MosaicML a récemment publié son modèle de langage MPT-30B. Le modèle comporte 30 milliards de paramètres, et le coût de formation n'est "qu'une fraction des autres modèles concurrents similaires". élargit l'application des modèles d'IA dans un plus large éventail de domaines. Naveen Rao, PDG et co-fondateur de MosaicML, a déclaré que le coût de formation du MPT-30B est de 700 000 dollars américains (environ 5,0244 millions de yuans), ce qui est bien inférieur aux dizaines de millions de dollars requis pour des produits similaires tels que GPT- 3. . De plus, en raison du coût inférieur et de la taille réduite du MPT-30B, il peut également être formé plus rapidement et convient mieux au déploiement sur du matériel local. Il est rapporté que MosaicML utilise la technologie Alibi et FlashAttention pour optimiser le modèle, ce qui permet d'obtenir une longueur de texte plus longue et une utilisation plus élevée du calcul GPU. MosaicML est également l'un des rares laboratoires à pouvoir utiliser le GPU Nvidia H100.Par rapport aux réalisations précédentes, le débit actuel de chaque GPU a été multiplié par plus de 2,4, ce qui peut accélérer le temps de réalisation.