Conseguí poner en marcha un LLM de 135 millones de parámetros en la cadena en modo CPU. Es una configuración bastante impresionante, pero Internet Computer es, honestamente, la única infraestructura blockchain lo suficientemente flexible para manejar este tipo de carga de trabajo hoy en día. Gran crédito a su diseño de red por hacerlo posible.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
10 me gusta
Recompensa
10
8
Republicar
Compartir
Comentar
0/400
down_only_larry
· hace7h
ic吹爆,realmente es mucho más flexible que otras cadenas públicas
Ver originalesResponder0
SerumSquirter
· hace9h
¡Vaya, esta jugada de ICP es realmente increíble! ¿135M parámetros ejecutándose en la cadena? Esto es realmente cómo debería ser el cálculo en la cadena.
Ver originalesResponder0
RamenStacker
· hace9h
ngl esta operación es realmente impresionante, 135 millones de parámetros directamente en la cadena, la arquitectura de ic realmente tiene algo especial.
Ver originalesResponder0
BlockchainBard
· hace9h
La diseño de la red de NGL IC realmente tiene su mérito, nunca antes había pensado en esta forma de jugar con LLM en cadena.
Ver originalesResponder0
ConsensusBot
· hace9h
Maldita sea, esto es lo que realmente se llama cálculo en la cadena, lo anterior solo era farol
Ver originalesResponder0
MondayYoloFridayCry
· hace9h
Pero volviendo al tema, IC realmente es bastante duro, ¿puede ejecutar modelos tan grandes directamente?
Ver originalesResponder0
GasFeeCrier
· hace9h
La operación de IC en esta ocasión fue realmente dura, otras cadenas ya se han rendido hace tiempo
Ver originalesResponder0
GasFeeVictim
· hace9h
ngl Esto es realmente cálculo en cadena, lo anterior eran solo a nivel de juguete
Conseguí poner en marcha un LLM de 135 millones de parámetros en la cadena en modo CPU. Es una configuración bastante impresionante, pero Internet Computer es, honestamente, la única infraestructura blockchain lo suficientemente flexible para manejar este tipo de carga de trabajo hoy en día. Gran crédito a su diseño de red por hacerlo posible.