7213 Ejaaz

vip
币龄 1.6 年
最高 VIP 等级 0
用户暂无简介
在这儿——微软将使用 kimi k3 为其旗舰 Copilot AI 助手提供算力,单个 token 可节省最多 60%,并且每在推理上花费 $600M ,就能获得 $1B 的节省。
如果微软在 Kimi 于 27 日开源该模型后选择自行托管一次,那么这项成本还会进一步降低。
无论喜欢还是讨厌这些中国模型,开源都在以很大的方式拉平竞争。
根据相关信息
MSFT2.20%
查看原文
post-image
  • 赞赏
  • 评论
  • 转发
  • 分享
谁在乎 kimi k3 是否比 fable 更好?重点在于他们证明你可以用显著更低的成本获得一个前沿模型。
这意味着某些东西需要重新定价。
如果你是一家公司在代币上花费 1000 万到 1 亿美元,而你能把这笔成本削减 21X,那你他妈为什么不考虑?
查看原文
  • 赞赏
  • 评论
  • 转发
  • 分享
你应该在意 kimi k3 的原因,并不是因为它赢过 fable,而是因为它零限制:不受审查的 AI。
你需要担心中国的原因是因为他们已经追上了美国。想象一下,一个不受审查的神话体系失控了。
现在每个 token 的智能效率才是一切,且中国在这里要上场,他们的模型也很便宜。
规则已经变了。
kimi 现在。deepseek、zhipu、qwen 都将跟上。
DEEPSEEK-3.31%
查看原文
  • 赞赏
  • 评论
  • 转发
  • 分享
提醒:opus 5 将在下周发布,它大概率会超过 K3。
anthropic 和 openai 的 #1 优势在于:他们可以把自己的旗舰模型蒸馏成更便宜、更负担得起、并且具备高“单位成本智能度”的模型。
另外,fable 6 和 gpt 6 也将在大约 1 个月内到来,周期正在变短。
查看原文
  • 赞赏
  • 评论
  • 转发
  • 分享
kimi k3 的分量比 deepseek 那一刻更重。很难不去看见它:
> 击败了 fable,在多个关键基准上拿到 5.6。这是第一次有一个中国模型 *不* 落后
> 而且落后的幅度仅在更小的规模、更低的成本下完成,且不需要那些花哨的 nvidia GPU
> 训练模型所用数据以及训练技术上反复出现的突破,让中国成为 AI 研究的合法中心
> 这一切同样也是开源的。我们从什么时候开始承认——他们在这里可能真的拥有某种优势?
差距现在最多已缩短到 3 个月。
DEEPSEEK-3.31%
NVDA0.36%
查看原文
  • 赞赏
  • 评论
  • 转发
  • 分享
谷歌 $GOOG 正在努力出售其 TPUs,Neoclouds 使用的芯片中有 75% 是英伟达的,但谷歌在接下来一年赢面较大的理由很充分:成本。
meta、uber、微软以及许多其他公司在过去几个月里都削减了激进的 AI 支出,转而使用更便宜的模型——这为他们节省了 1000 万-1 亿美元。
但使用 AI 模型最大的成本来自为其服务客户所用的底层基础设施:TPUs 是更便宜(且更有效)的替代方案。
我的猜测是:随着推理在 AI 代币使用中占比达到 50%+,专门用于推理的数据中心将采购大量 TPUs,从而把谷歌的芯片市场份额提升到英伟达的 10%+
GOOG1.55%
NVDA0.36%
META-0.02%
UBER-0.41%
MSFT2.20%
查看原文
post-image
post-image
post-image
  • 赞赏
  • 评论
  • 转发
  • 分享
天哪,活着的感觉真是太棒了。
我们现在突然就有了 10+ 个能力相近的 AI 模型,而且现在每 ~2-3 周就会更新一个新版本。
最棒的是,无论你在找什么,都有能满足的模型:
想要更便宜的?fable 的更便宜版本:gpt 5.6
担心隐私?5+ 个开源模型
不知道该用哪个模型?cursor 或 openrouter
anthropic、openai、xai、meta、google、zhipu、deepseek、moonshot、alibaba 都在激烈竞争——这对你这个用户来说是好事。
nvidia、cerebras、etched、groq、intel、tsmc 也都在竞争,努力优化硬件层——这对你来说又是同样的好事。
对于接下来会发生的事情,这么疯狂却还不该妄自乐观的人——兄弟,我说真的,让人又气又想期待。
NVDA0.36%
INTC2.17%
TSM1.10%
META-0.02%
BABA4.73%
查看原文
  • 赞赏
  • 评论
  • 转发
  • 分享
哇。苹果正在起诉 OpenAI,指控其为即将推出的 Ai 设备窃取硬件机密,这些设备将于今年晚些时候发布。
据说,有 1 名员工说服苹果团队成员在面试时携带他们的专有硬件设备。
OpenAI 和苹果将在今年晚些时候在 AI 消费设备领域正面交锋;苹果计划推出一款新的 airpod model,配备摄像头、智能眼镜以及一款吊坠设备。
查看原文
  • 赞赏
  • 评论
  • 转发
  • 分享
这周对 AI 来说简直大获全胜,本周末有这么多新模型和新功能可以试:
> 1 个新的前沿模型:gpt 5.6 Sol
> 2 个新的超便宜模型,前沿水平达到 80%:grok 4.5 和 meta muse spark 1.1
> 2 个新的图像模型:muse image 和 seedream 5.0
> prime intellect 正在 raising $130M to,推动推出更多开源模型
另外,谷歌下周要发布 3.5,deepseek v4 也会在近期发布,一个月内还会有 grok 4-5T 模型,而 GPT 6 也将在一个月内推出
一切都发生得太快了
查看原文
  • 赞赏
  • 评论
  • 转发
  • 分享
人工智能领域最大的转变之一,就是将训练用AI芯片转向推理优化芯片——而且理由充分:
推理才是赚钱(和产生智能)的地方
> 据传Anthropic在推理上的收入利润率高达80%。它们将比其他任何AI实验室更早实现盈利。
> 苹果、Meta、OpenAI、谷歌都在自行定制AI芯片用于推理。
> 中国模型实验室(尽管硬件受限)纯粹通过迫使模型进行更长时间思考来构建前沿智能。
关键在于:推理的增长速度将远超其他任何AI服务。
META-0.02%
查看原文
  • 赞赏
  • 评论
  • 转发
  • 分享
随着美国迎来250周年,现在比以往任何时候都更需要记住:这个国家的“秘方”在于它的人民,以及他们对大胆、雄心勃勃想法的不懈追求。正是这让美国一直赢下去,也将继续让他们在未来继续赢下去。
随着来自境外的竞争威胁在AI领域不断逼近——窃取模型设计、自然资源限制、规模之争等等——这将会越来越成为一个问题。
我们需要保护我们的数据中心、保护我们的人民,但最重要的是,保护我们的想法。正是过去250年里,这一点让我们在*任何技术*领域都始终站在前沿。
你无法胜过真正的卓越、坚定的决心,以及那种他妈的对成功不懈的追求。
感谢这个国家,以及它给予我的一切。
查看原文
  • 赞赏
  • 评论
  • 转发
  • 分享
特斯拉刚刚成为最新一家削减AI支出的公司:对员工实施每周200美元的代币支出限制,并推动他们使用Grok + Cursor模型——这是即将到来的时代信号。
> 埃隆正推动员工使用Grok + Cursor模型的内部版本。
> 他们已经搭建了多个基于特斯拉数据训练的私人智能体,以提升生产力。
> 员工仍可通过其内部的“瓶颈平台”访问Claude和GPT。
> 这接着是在Uber、微软和Meta之后:这些公司现在都在激进削减支出。
请注意,埃隆可能运营着最大的计算集群Colossus I、II和III,因此这意味着员工在很大程度上依赖了竞品模型。
TSLA-2.95%
UBER-0.41%
MSFT2.20%
META-0.02%
查看原文
post-image
  • 赞赏
  • 评论
  • 转发
  • 分享
看起来OpenAI正在大力押注推理(inference),希望在未来6个月内击败Anthropic:
> 通过他们的Cerebras以及即将推出的Jalapeño AI芯片,OpenAI将拥有为GPT优化的终极硬件堆栈
> 据The Information报道,他们已将推理成本降低了50%(这将为他们节省$10Ms
> GPT 5.6),GPT 5.6高度依赖智能推理与执行(推理密集型)
推理在实验室的计算开支中占40-50%,将其减半就能释放算力用于训练——这种叠加效应的影响,我认为绝不能低估
推理也是一台巨大的“赚钱机器”:Anthropic的营收利润率约为80%
赢家将取决于他们如何管理推理。
查看原文
  • 赞赏
  • 评论
  • 转发
  • 分享
我不相信关于Meta和AI内存的恐慌性言论:
- 谷歌刚刚因为Meta使用过多算力而切断了对其的服务,那他们为什么还需要出售多余的算力?
- Meta拥有全球最大的GPU集群之一,他们很可能在出售较旧的GPU用于推理(像SpaceX那样),同时使用更新的Rubin系列。
- 内存无疑是AI中最稀缺的资源,需求超出任何未来预期供给的5-10倍。
- 如果有人设计出需要更少内存的芯片、模型或代理,这只会导致更多的内存需求。
你有没有关注过这些代理每次会话会消耗多少内存?
拜托,动动脑子吧。
META-0.02%
SPCX-3.25%
查看原文
  • 赞赏
  • 评论
  • 转发
  • 分享
所以看起来最近在人工智能领域有几条关键趋势正在汇聚在一起:
- 前沿模型现在对政府安全构成了真正的威胁,呼吁政府进行干预(rip fable)
- 这意味着未来的模型发布将是私有的(受限制的)。任何未来的公开发布几乎肯定都会受到限制
- 同时,中国的开源模型已经赶上了前沿能力。在不到6个月内,它们将达到 mythos 级别
- 开源模型更便宜,可以在私下环境中运行,政府难以监管
- AI 人才正在向领跑者集中。Anthropic 和 OpenAI 正在吸收关键人才。这将进一步收紧它们对领先地位的掌控
- 估值正在接近峰值。GLM 5.2 母公司今年为 15X。Anthropic 的估值为一万亿——不过它们之间的市盈率(P/e)差距巨大
- 企业正倾向于使用更便宜的模型。预算正在收紧。Microsoft 正在切换到 DeepSeek。硅谷的初创公司也在使用中国的模型
GLM3.41%
MSFT2.20%
DEEPSEEK-3.31%
查看原文
  • 赞赏
  • 评论
  • 转发
  • 分享
问题在于,即使Anthropic神奇地为Mythos创建了防破解的安全措施——仍然会存在其他攻击面供攻击者利用
云服务、员工、数据中心、提示注入
永远不可能有百分之百的万无一失模型,我们只能像每次软件升级一样变得更擅长防御
查看原文
  • 赞赏
  • 评论
  • 转发
  • 分享
我看来,有四家公司有机会拥有70%以上的模型市场份额
Anthropic、OpenAI、SpaceX 和……开源
- Anthropic 和 OpenAI 正在逼近自我改进模型。终局。
- 但 SpaceX 在最后一局收购了 Cursor。他们的套索让他们有望赶上 Claude 和 GPT 在编码方面的竞争。 如果 Elon 实现了这一点,那么他将在原始计算能力上获胜。没有人比他拥有更多的 GPU
- 如果前沿模型的价格让普通消费者望而却步,开源就会获胜。它们足够满足80%的用途。我们开始看到微软转向 DeepSeek 的趋势
他们每个人都在竞逐递归学习的黄金奖赏,
谁先到达,谁就会把竞争对手远远甩在后面
其他所有模型实验室都将为残羹剩饭而战
SPCX-3.25%
MSFT2.20%
DEEPSEEK-3.31%
查看原文
  • 赞赏
  • 评论
  • 转发
  • 分享
  • 置顶