2026-07-14 09:10:28
Tencent Meluncurkan Model Hy3 Terkuantisasi dengan 295B Parameter, Dapat Diterapkan pada Satu GPU
Baru-baru ini, Tencent Hunyuan merilis versi terkuantisasi dari model Hy3 sebagai respons terhadap permintaan komunitas, sehingga model berparameter 295 miliar dapat berjalan pada satu GPU inference, atau bahkan mesin lokal dengan memori yang cukup. Tim tersebut mengkuantisasi bobot Hy3 hingga presisi 1-bit dan 4-bit, mengemasnya dalam format GGUF, dan mengintegrasikannya dengan ekosistem llama.cpp, sehingga yang sebelumnya membutuhkan klaster multi-GPU kini menjadi lebih mudah diakses untuk ske