Nhà phân tích: Kimi K3 dù cải thiện hiệu suất điện toán, nhu cầu bộ nhớ dung lượng cao vẫn thúc đẩy nhu cầu chip AI

robot
Đang tạo bản tóm tắt

深潮 TechFlow đưa tin, vào ngày 20 tháng 7, theo quan điểm của nhà phân tích Sunny Bangia, việc Kimi K3 ra mắt cũng dấy lên lo ngại rằng năng lực tính toán cho AI có thể thấp hơn kỳ vọng, tương tự như DeepSeek R1 được cho là sẽ được ra mắt vào năm 2025. Tuy nhiên, sự so sánh này có thể bỏ qua một khác biệt quan trọng. Dù các mô hình như Kimi K3 được thiết kế nhằm tận dụng tài nguyên tính toán hiệu quả hơn, nhưng khi vận hành chúng vẫn cần lượng lớn bộ nhớ. Đặc điểm này có thể tiếp tục củng cố nhu cầu đối với các doanh nghiệp như SK Hải lực sĩ, TSMC và NVIDIA.

Kimi K3 có 2,8 nghìn tỷ tham số, đưa độ thưa lên mức cao kỷ lục. Độ thưa cao hơn nghĩa là số lượng tham số được kích hoạt trong mỗi tác vụ so với tổng kích thước mô hình sẽ ít hơn, nhờ đó đạt hiệu quả tính toán cao hơn trên mỗi token. Tham số chỉ là một con số được lưu trong bộ nhớ. Ngay cả khi nén mô hình bằng định dạng dữ liệu độ chính xác thấp, các tham số của Kimi K3 vẫn sẽ chiếm khoảng 1,4 terabyte bộ nhớ. Việc áp dụng chính K3 sẽ tạo ra nhu cầu nâng cấp chip silicon dung lượng cao, chẳng hạn như Blackwell GB300 của NVIDIA. (Kim10)

SKHY-1,80%
TSM1,10%
NVDA0,36%
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim