DeepSeek la dernière publication de recherche révèle une direction technologique intéressante. L'idée centrale consiste à séparer la mémoire à long terme des grands modèles de langage du poids du modèle, pour la stocker dans du matériel mémoire, ce qui permet de réduire considérablement la pression sur la mémoire vidéo. La solution technique n-gram mentionnée dans le document est basée sur cette approche — en utilisant une mémoire externe pour stocker les dépendances à long terme, plutôt que de compter sur les paramètres internes du modèle.
D’un point de vue matériel, que signifie cette transition d’architecture ? La demande en mémoire va augmenter de façon significative. À mesure que les grands modèles évoluent dans cette direction, la demande pour la mémoire DDR5 pourrait entrer dans un nouveau cycle de croissance. Micron, en tant que fournisseur principal de mémoire, en serait le bénéficiaire à long terme.
Du point de vue de l’investissement, la pression sur les prix de la mémoire DDR5 pourrait continuer à augmenter. Si ce type de solution technologique se généralise réellement, une multiplication par deux cette année n’est pas une prévision exagérée — cela dépendra de l’avancement réel de la formation et du déploiement des modèles.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
DeepSeek la dernière publication de recherche révèle une direction technologique intéressante. L'idée centrale consiste à séparer la mémoire à long terme des grands modèles de langage du poids du modèle, pour la stocker dans du matériel mémoire, ce qui permet de réduire considérablement la pression sur la mémoire vidéo. La solution technique n-gram mentionnée dans le document est basée sur cette approche — en utilisant une mémoire externe pour stocker les dépendances à long terme, plutôt que de compter sur les paramètres internes du modèle.
D’un point de vue matériel, que signifie cette transition d’architecture ? La demande en mémoire va augmenter de façon significative. À mesure que les grands modèles évoluent dans cette direction, la demande pour la mémoire DDR5 pourrait entrer dans un nouveau cycle de croissance. Micron, en tant que fournisseur principal de mémoire, en serait le bénéficiaire à long terme.
Du point de vue de l’investissement, la pression sur les prix de la mémoire DDR5 pourrait continuer à augmenter. Si ce type de solution technologique se généralise réellement, une multiplication par deux cette année n’est pas une prévision exagérée — cela dépendra de l’avancement réel de la formation et du déploiement des modèles.