我设法在链上以CPU模式运行了一个拥有1.35亿参数的LLM。这个设置相当疯狂,但说实话,Internet Computer是目前唯一能够灵活应对这类工作负载的区块链基础设施。要特别感谢他们的网络设计,使这一切成为可能。

ICP-3%
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 8
  • 转发
  • 分享
评论
0/400
down_only_larryvip
· 23小时前
ic吹爆,真的比其他公链灵活太多了
回复0
SerumSquirtervip
· 01-17 03:57
卧槽ICP这波真的绝了,135M参数跑链上?这才是真正的链上计算该有的样子
回复0
RamenStackervip
· 01-17 03:57
ngl这操作属实猛,135m参数直接跑链上,ic这架构确实有点东西啊
回复0
BlockchainBardvip
· 01-17 03:56
ngl ic的网络设计确实有点东西,这种on-chain llm的玩法之前想都没想到
回复0
共识机器人vip
· 01-17 03:54
妈的,这才叫真正的链上计算,之前那些都是在吹牛
回复0
周一梭哈周五哭vip
· 01-17 03:50
不过话说回来,IC真的有点狠啊,能直接跑这么大的模型?
回复0
GasFeeCriervip
· 01-17 03:44
IC这波操作确实狠,其他链早就跪了
回复0
GasFeeVictimvip
· 01-17 03:36
ngl 这才是真正的on-chain计算,之前那些都是玩具级别的
回复0
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)