7213Ejaaz

vip
Idade 1.6 Ano
Nível máximo 0
Ainda sem conteúdo
lá está - a microsoft vai usar o kimi k3 para alimentar o seu principal assistente de ia copilot, poupando até 60% por token ou $600M em cada $1B gasto na inferência.
se a microsoft decidir alojar o modelo por conta própria assim que o Kimi o disponibilizar em open source no dia 27, então este custo reduz ainda mais
odeies ou ames estes modelos chineses, o open source está mesmo a nivelar o terreno de forma significativa.
de acordo com a informação
MSFT2,20%
Ver original
post-image
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Quem se importa se Kimi k3 é melhor do que Fable? O ponto inteiro é que eles provaram que dá para obter um modelo de fronteira a um custo significativamente mais baixo.
o que significa que alguma coisa precisa de ser reprecificada.
se és uma empresa a gastar $10-100Ms em tokens e consegues cortar isso por 21X, por que é que raio não considerarias isso?
Ver original
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
A razão pela qual deves te interessar pelo kimi k3 não é porque supera o fable, é porque tem zero restrições: IA sem censura.
A razão pela qual deves preocupar-te com a China é porque já alcançaram os EUA. Imagina um mythos sem censura a fugir ao controlo.
intelligence-per-token é o que importa agora e a China está aqui para jogar e os modelos deles são baratos pra caramba.
as regras mudaram.
kimi agora. deepseek, zhipu, qwen tudo para seguir.
Ver original
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
lembrete - as gotas do opus 5 chegam na próxima semana e provavelmente vão superar a K3.
a principal vantagem da anthropic e da openai é que conseguem destilar os seus próprios modelos de topo em modelos mais baratos, mais acessíveis, com alta inteligência por custo unitário
e também o fable 6 e o gpt 6 já estarão aqui em ~1 mês. os ciclos estão a ficar mais curtos.
Ver original
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
kimi k3 sente-se mais significativo do que o momento deepseek. difícil de deixar de ver isto:
> bate a fable, com 5,6 em vários benchmarks-chave. primeira vez que um modelo chinês *não* fica para trás
> faz isto com uma fração do tamanho, do custo e sem as glamourosas GPUs da nvidia
> avanços repetidos nos dados usados para treinar modelos + nas técnicas de treino fizeram da China um centro legítimo para a investigação em IA
tudo isto também é open source. a partir de que ponto começamos a reconhecer que podem, na verdade, ter alguma vantagem aqui?
a distância (gap) reduziu-se para, no máximo,
NVDA0,36%
Ver original
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
google $GOOG está a ter dificuldades em vender os seus TPUs, 75% dos chips que as neoclouds usam são da nvidia, mas existe um forte argumento para o google vencer nos próximos 12 meses: custos.
meta, uber, microsoft e muitos outros reduziram o investimento agressivo em IA nos últimos meses, optando por modelos mais baratos — isto poupou-lhes $10-100Ms
mas o maior custo ao usar modelos de IA vem da infraestrutura subjacente usada para os servir aos clientes: os tpus são a alternativa mais barata (e mais eficaz).
o meu palpite é que, à medida que a inferência passe a representar 50%+ do uso de
GOOG1,55%
NVDA0,36%
META-0,02%
UBER-0,41%
MSFT2,20%
Ver original
post-image
post-image
post-image
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
meu deus, que altura de estar vivo.
agora temos 10+ modelos de IA com capacidades semelhantes que surgiram do nada e recebemos uma nova versão de ~2-3 semanas a esta parte agora
a melhor parte é que, não importa o que estejas a procurar, há um modelo para isso:
mais barato do que fable? gpt 5.6
preocupado com a privacidade? 5+ modelos abertos
não sabes que modelo usar? cursor ou openrouter
anthropic, openai, xai, meta, google, zhipu, deepseek, moonshot, alibaba estão todos a competir de forma agressiva e isso é ótimo para ti, o utilizador
nvidia, cerebras, etched, groq, intel, ts
NVDA0,36%
INTC2,17%
TSM1,10%
META-0,02%
BABA4,73%
Ver original
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
uau. A Apple está a processar a OpenAI por alegadamente roubar segredos de hardware para os seus próximos dispositivos de IA a serem lançados mais tarde este ano.
aparentemente, 1 funcionário convenceu membros da equipa da Apple a levarem dispositivos proprietários de hardware para entrevistas.
A OpenAI e a Apple estão a enfrentar-se diretamente em dispositivos de consumo de IA mais tarde este ano, com a Apple a planear um novo modelo de AirPod com câmaras, smart glasses e um dispositivo tipo pendente.
Ver original
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
esta semana tem sido um total triunfo para a IA. tantos modelos e funcionalidades novas para testar este fim de semana:
> 1 novo modelo de fronteira: gpt 5.6 Sol
> 2 novos modelos absurdamente baratos que são 80% de fronteira: grok 4.5 e meta muse spark 1.1
> 2 novos modelos de imagens: muse image e seedream 5.0
> prime intellect a elevar $130M para impulsionar o lançamento de mais modelos abertos
e o Google está a lançar 3.5 na próxima semana, deepseek v4 também, um modelo grok 4-5T dentro de um mês e GPT 6 dentro de um mês
está tudo a acontecer tão depressa
Ver original
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Uma das maiores mudanças na IA tem sido treinar chips de IA para chips otimizados para inferência - e por BOA razão:
a inferência é onde se faz o dinheiro (e a inteligência)
> a Anthropic é conhecida por ter margens de receita de 80% na inferência. Eles serão rentáveis antes de qualquer outro laboratório de IA.
> a Apple, Meta, OpenAI e Google estão todos a fabricar os seus próprios chips de IA personalizados para e inferência
> os laboratórios de modelos chineses (apesar da desvantagem de hardware) constroem inteligência de fronteira puramente ao forçar o modelo a pensar de forma mais longa.
META-0,02%
Ver original
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
à medida que a América completa 250 anos, é agora mais importante do que nunca lembrar que o ingrediente secreto deste país são as suas pessoas e a sua busca incansável por ideias ousadas e ambiciosas. foi isso que manteve a América a vencer e é o que a manterá a vencer no futuro.
ameaças iminentes de concorrência estrangeira na IA - roubo de designs de modelos, restrições de recursos naturais, guerras de escala, etc., tornar-se-ão cada vez mais um problema
precisamos de proteger os nossos centros de dados, as nossas pessoas, mas acima de tudo as nossas ideias. é isso que nos mantém na frontei
Ver original
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
a tesla tornou-se a mais recente empresa a reduzir gastos em ia, impondo um limite de gastos de tokens de $200 por semana para os funcionários e incentivando-os a usar modelos grok + cursor - um sinal dos tempos que virão
> o elon está a incentivar os funcionários a usarem versões internas do compositor de modelos grok + cursor.
> eles criaram vários agentes privados treinados com dados da tesla para aumentar a produtividade
> os funcionários ainda têm acesso ao claude e gpt através da sua plataforma interna "bottleneck platform".
> isto segue-se à uber, microsoft e meta, que agora reduziram a
TSLA-2,95%
UBER-0,41%
MSFT2,20%
META-0,02%
Ver original
post-image
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
parece que a OpenAI está a apostar forte na inferência para superar a Anthropic nos próximos 6 meses:
> entre os seus chips Cerebras e os futuros chips Jalapeño AI, a OpenAI terá a stack de hardware definitiva otimizada para o GPT
> reduziram os custos de inferência em 50% (segundo The Information), o que lhes poupará $10Ms
> o GPT 5.6 depende fortemente de raciocínio e execução agentiva (pesado em inferência)
a inferência representa 40-50% dos gastos computacionais nos laboratórios, reduzir isso para metade liberta poder computacional para usar no treino – os efeitos compostos disto não podem
Ver original
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
não compro o medo e a fud do meta e da memória de IA:
- a google acabou de desligar o meta por usar demasiada computação, porque precisariam então de vender excesso de computação?
- o meta possui uma das maiores frotas de GPUs, provavelmente estão a vender as mais antigas para inferência (como a spacex) enquanto utilizam as novas rubin.
- a memória é sem dúvida o recurso mais escasso na IA, a procura excede qualquer oferta futura prevista em 5 a 10 vezes.
- no caso de alguém conceber um chip, modelo ou agente que requeira menos memória - isso só resultará em MAIS procura de memória
tens repara
META-0,02%
SPCX-3,25%
Ver original
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
então parece que há algumas tendências-chave convergindo na IA recentemente
- modelos de fronteira agora representam uma ameaça legítima à segurança do governo, exigindo intervenção governamental (adeus fábula)
- isso significa que futuras versões de modelos serão privadas (restritas). quaisquer futuras versões públicas serão quase certamente limitadas
- ao mesmo tempo, modelos abertos chineses alcançaram a capacidade de fronteira. em menos de 6 meses, estarão no nível Mythos
- modelos abertos são mais baratos, podem ser executados de forma privada, difíceis de regular pelos governos
GLM4,11%
MSFT2,20%
Ver original
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
o problema é que mesmo que a Anthropic crie magicamente uma salvaguarda à prova de hackers para o Mythos - haverá outras superfícies de ataque que atores podem explorar
serviços em nuvem, funcionários, centros de dados, injeção de prompts
nunca poderá haver um modelo 100% à prova de falhas, teremos que melhorar na defesa como fizemos em cada atualização de software
Ver original
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
assim vejo, há 4 empresas com uma hipótese de possuir mais de 70% do mercado de modelos
anthropic, openai, spaceX e… código aberto
- anthropic e openai estão à beira de modelos de autoaperfeiçoamento. jogo final.
- mas a spacex adquiriu o cursor na última jogada. a sua tecnologia dá-lhes uma hipótese legítima de alcançar o claude e o gpt na codificação. SE Elon conseguir isso, então vencerá em potência bruta. ninguém tem mais GPUs do que ele
- código aberto vence se os modelos de fronteira eliminarem os consumidores comuns. eles são bons o suficiente para 80% dos usos. estamos a começar a ver
SPCX-3,25%
MSFT2,20%
Ver original
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
  • Fixado