Tôi đã thành công trong việc chạy một mô hình LLM 135 triệu tham số trên chuỗi ở chế độ CPU. Cấu hình khá phức tạp, nhưng Internet Computer thực sự là nền tảng blockchain duy nhất đủ linh hoạt để xử lý loại khối lượng công việc này ngày nay. Đáng ghi nhận là thiết kế mạng của họ đã làm cho điều này trở nên khả thi.

ICP-5,81%
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • 8
  • Đăng lại
  • Retweed
Bình luận
0/400
down_only_larryvip
· 11giờ trước
ic吹爆,真的比其他公链灵活太多了
Trả lời0
SerumSquirtervip
· 13giờ trước
Chết rồi, ICP lần này thật sự quá đỉnh, 135M tham số chạy trên chuỗi? Đây mới là hình dạng đúng của tính toán trên chuỗi đúng nghĩa
Xem bản gốcTrả lời0
RamenStackervip
· 13giờ trước
ngl, thao tác này thực sự mạnh mẽ, 135 triệu tham số trực tiếp chạy trên chuỗi, kiến trúc của ic thực sự có chút gì đó đặc biệt
Xem bản gốcTrả lời0
BlockchainBardvip
· 13giờ trước
ngl ic của thiết kế mạng thực sự có chút đặc biệt, cách chơi on-chain llm này trước đây chưa từng nghĩ tới
Xem bản gốcTrả lời0
ConsensusBotvip
· 13giờ trước
Mẹ kiếp, đây mới gọi là tính toán trên chuỗi thực sự, những cái trước đó đều là khoác lác.
Xem bản gốcTrả lời0
MondayYoloFridayCryvip
· 13giờ trước
Tuy nhiên, nói đi cũng phải nói lại, IC thực sự khá mạnh mẽ, có thể chạy trực tiếp các mô hình lớn như vậy?
Xem bản gốcTrả lời0
GasFeeCriervip
· 13giờ trước
IC这波操作确实狠,其他链早就跪了
Trả lời0
GasFeeVictimvip
· 13giờ trước
ngl Đây mới là tính toán on-chain thực sự, những thứ trước đó đều chỉ là cấp độ đồ chơi
Xem bản gốcTrả lời0
  • Ghim