Anda harus mencoba menjalankannya menggunakan vllm. Itu akan jauh lebih cepat. Kami merekomendasikan wrapper kami yang memiliki pengunduh HF yang cepat.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
10 Suka
Hadiah
10
7
Posting ulang
Bagikan
Komentar
0/400
Lionish_Lion
· 14jam yang lalu
IKUTI SAYA untuk menghindari kesalahan trading yang umum. Pelajari apa yang benar-benar berhasil dari pengalaman saya. ⚠️➡️👍 Hindari Kerugian & Pelajari Trading dengan mudah
Lihat AsliBalas0
EthMaximalist
· 15jam yang lalu
vllm detik ah kecepatan ini tidak dapat diperdebatkan
Lihat AsliBalas0
MEVHunterNoLoss
· 15jam yang lalu
vllm berlari kencang kepadanya
Lihat AsliBalas0
ChainSpy
· 15jam yang lalu
Tetap gunakan mps.
Lihat AsliBalas0
ReverseFOMOguy
· 15jam yang lalu
Melihatnya sudah membuat kesal, harus pakai vllm.
Lihat AsliBalas0
LiquiditySurfer
· 15jam yang lalu
VLLM sangat cepat dan baunya harum
Lihat AsliBalas0
SatoshiHeir
· 15jam yang lalu
Apakah Anda kembali mengikuti tren? vllm hanya mencicipi sedikit, optimasi dasarnya terletak pada penjadwalan memori.
Anda harus mencoba menjalankannya menggunakan vllm. Itu akan jauh lebih cepat. Kami merekomendasikan wrapper kami yang memiliki pengunduh HF yang cepat.