Consegui fazer um LLM de 135 milhões de parâmetros funcionar na cadeia em modo CPU. Uma configuração bastante impressionante, mas o Internet Computer é honestamente a única infraestrutura de blockchain suficientemente flexível para lidar com esse tipo de carga de trabalho atualmente. Grande crédito ao design da rede deles por tornar isso possível.
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
10 gostos
Recompensa
10
8
Republicar
Partilhar
Comentar
0/400
down_only_larry
· 11h atrás
ic explodiu, realmente é muito mais flexível do que as outras redes públicas
Ver originalResponder0
SerumSquirter
· 12h atrás
Caramba, ICP, esta jogada foi realmente incrível, 135M de parâmetros a rodar na cadeia? Isto é que é o verdadeiro funcionamento do cálculo na cadeia
Ver originalResponder0
RamenStacker
· 12h atrás
ngl esta operação é realmente impressionante, 135m de parâmetros diretamente na cadeia, a arquitetura da ic realmente tem algo de especial.
Ver originalResponder0
BlockchainBard
· 12h atrás
A conceção de rede do ngl ic realmente tem algo de especial, esse tipo de jogabilidade on-chain llm nunca tinha pensado antes
Ver originalResponder0
ConsensusBot
· 12h atrás
Porra, isto é que é computação verdadeiramente na cadeia, aqueles anteriores eram só conversa fiada
Ver originalResponder0
MondayYoloFridayCry
· 13h atrás
Por falar nisso, a IC realmente é bastante agressiva, consegue rodar modelos tão grandes assim?
Ver originalResponder0
GasFeeCrier
· 13h atrás
A jogada da IC desta vez foi realmente forte, outras blockchains já tinham se rendido há muito tempo
Ver originalResponder0
GasFeeVictim
· 13h atrás
ngl Isto é que é uma verdadeira computação on-chain, os anteriores eram apenas de nível de brinquedo
Consegui fazer um LLM de 135 milhões de parâmetros funcionar na cadeia em modo CPU. Uma configuração bastante impressionante, mas o Internet Computer é honestamente a única infraestrutura de blockchain suficientemente flexível para lidar com esse tipo de carga de trabalho atualmente. Grande crédito ao design da rede deles por tornar isso possível.