Аналітик: Kimi K3, хоча підвищує ефективність обчислень, високі вимоги до пам’яті все ще підтримують попит на чипи для ШІ

robot
Генерація анотацій у процесі

Повідомлення Deep Tide TechFlow: 20 липня, за словами аналітика Sunny Bangia, запуск, подібний до DeepSeek R1 у 2025 році, також викликав занепокоєння щодо того, що обчислювальна потужність ШІ може виявитися нижчою за очікування. Однак таке порівняння може ігнорувати одну важливу відмінність. Хоча моделі на кшталт Kimi K3 спрямовані на більш ефективне використання обчислювальних ресурсів, під час роботи їм усе ще потрібна значна кількість пам’яті, і ця особливість може й надалі підтримувати попит на такі компанії, як SK Hynix, TSMC (Taiwan Semiconductor Manufacturing Company) та NVIDIA.

Kimi K3 має 2,8 трлн параметрів, що виводить розрідженість на новий максимум. Чим вища розрідженість, тим менше параметрів у кожному завданні активується відносно загального розміру моделі, а отже — тим вища обчислювальна ефективність на кожен токен. Параметри — це лише число, що зберігається в пам’яті. Навіть якщо стиснути модель, використовуючи формати даних із низькою точністю, параметри Kimi K3 все одно займатимуть близько 1,4 терабайта пам’яті. Застосування K3 саме по собі створює потребу в модернізації високопам’ятних кремнієвих чипів, наприклад у NVIDIA Blackwell GB300. (Jin10)

SKHY-1,80%
TSM1,10%
NVDA0,36%
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено