Deep潮 TechFlow повідомляє, 21 січня, згідно з даними Jin10, у рік випуску DeepSeek-R1 нову модель «MODEL1» розкрито. DeepSeek оновив код FlashMLA на GitHub, у 114 файлах згадується MODEL1 у 28 випадках, з’являючись разом із V32 як різні моделі. Відомо, що V32 — це DeepSeek-V3.2, ймовірно, MODEL1 — нова архітектура. Конкретні відмінності у коді проявляються у розташуванні кешу KV, обробці розрідженості та декодуванні FP8, а також у кількох оптимізаціях пам’яті. (Квантові біти)

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
0/400
Немає коментарів
  • Закріпити