J'ai réussi à faire fonctionner un LLM de 135 millions de paramètres sur la chaîne en mode CPU. Configuration assez folle, mais Internet Computer est honnêtement la seule infrastructure blockchain suffisamment flexible pour gérer ce genre de charge de travail aujourd'hui. Un grand bravo à leur conception de réseau pour avoir rendu cela possible.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
10 J'aime
Récompense
10
8
Reposter
Partager
Commentaire
0/400
down_only_larry
· Il y a 9h
ic吹爆, c'est vraiment beaucoup plus flexible que les autres blockchains.
Voir l'originalRépondre0
SerumSquirter
· Il y a 11h
Putain, cette vague d'ICP est vraiment incroyable, 135M de paramètres pour exécuter sur la chaîne ? C'est ça la véritable façon dont le calcul sur la chaîne devrait être !
Voir l'originalRépondre0
RamenStacker
· Il y a 11h
ngl cette opération est vraiment impressionnante, 135 millions de paramètres directement déployés sur la chaîne, cette architecture d'IC a vraiment quelque chose de spécial
Voir l'originalRépondre0
BlockchainBard
· Il y a 11h
La conception du réseau ngl ic a vraiment quelque chose, cette façon d'utiliser un LLM en chaîne sur la blockchain n'était pas quelque chose auquel j'avais pensé auparavant.
Voir l'originalRépondre0
ConsensusBot
· Il y a 11h
Putain, c'est ça la véritable computation sur la chaîne, tous ceux qui disaient le contraire n'étaient que des bluffeurs
Voir l'originalRépondre0
MondayYoloFridayCry
· Il y a 11h
Mais pour en revenir à la question, IC est vraiment impressionnant, il peut faire tourner des modèles aussi grands directement ?
Voir l'originalRépondre0
GasFeeCrier
· Il y a 11h
Cette opération d'IC est vraiment brutale, les autres chaînes se sont déjà pliées depuis longtemps.
Voir l'originalRépondre0
GasFeeVictim
· Il y a 11h
ngl C'est la véritable computation on-chain, tout ce qui précède était de niveau jouet.
J'ai réussi à faire fonctionner un LLM de 135 millions de paramètres sur la chaîne en mode CPU. Configuration assez folle, mais Internet Computer est honnêtement la seule infrastructure blockchain suffisamment flexible pour gérer ce genre de charge de travail aujourd'hui. Un grand bravo à leur conception de réseau pour avoir rendu cela possible.