Gensyn Testnet diluncurkan, bagaimana cara membuat pelatihan AI lebih efisien dan lebih desentralisasi?

robot
Pembuatan abstrak sedang berlangsung

Gensyn Testnet diluncurkan, bagaimana cara membuat pelatihan AI lebih efisien dan lebih Desentralisasi?

Penulis: Zen, PANews

AI adalah segmen yang paling diperhatikan dalam industri kripto saat ini, di mana jaringan komputasi AI terdistribusi Gensyn yang dipimpin oleh a16z dengan total pendanaan mencapai 50 juta dolar AS jelas merupakan proyek yang kompetitif. Baru-baru ini, Gensyn secara resmi diluncurkan di Testnet, meskipun lebih dari satu tahun terlambat dari jadwal awal, tetapi dengan peluncuran di testnet, akhirnya memasuki fase baru.

Sebagai solusi Ethereum Rollup yang disesuaikan untuk pembelajaran mesin, Gensyn Testnet mengintegrasikan eksekusi off-chain, kerangka validasi, dan komunikasi, bertujuan untuk menyediakan identitas permanen, pelacakan partisipasi, pemeliharaan kepemilikan, pembayaran, koordinasi eksekusi jarak jauh, validasi tanpa kepercayaan, pencatatan proses pelatihan, serta penggalangan dana untuk tugas pelatihan berskala besar untuk sistem AI desentralisasi.

Tahap pertama dari Testnet berfokus pada pelacakan partisipasi di dalam RL Swarm. RL Swarm adalah aplikasi untuk pelatihan lanjutan pembelajaran penguatan kolaboratif, di mana nodenya dapat diikat dengan identitas di blockchain, sehingga memastikan kontribusi setiap node yang berpartisipasi tercatat dengan akurat.

RL Swarm: Fitur Utama dan Pelatihan Kolaboratif

Di jaringan Gensyn Testnet, RL Swarm sebagai aplikasi inti adalah sistem pelatihan kolaboratif model yang dibangun berdasarkan jaringan desentralisasi. Berbeda dengan pelatihan model tunggal secara independen, RL Swarm memungkinkan beberapa model untuk berinteraksi, mengkritik, dan meningkatkan satu sama lain di dalam jaringan, sehingga secara bersama-sama meningkatkan kinerja keseluruhan. Inti dari konsep ini adalah "kebijaksanaan kolektif", yaitu mencapai hasil pelatihan yang lebih efisien melalui kolaborasi dan umpan balik antar model di berbagai node.

Dapat dipahami secara sederhana bahwa model seperti DeepSeek-R1 dapat meningkatkan kinerja inferensi melalui kritik diri selama pelatihan inferensi, sementara RL Swarm memperluas mekanisme ini ke dalam kelompok multi-model, mencapai efek "banyak tangan membuat pekerjaan ringan."

Berdasarkan sistem RL Swarm, model tidak hanya bergantung pada umpan baliknya sendiri, tetapi juga melalui pengamatan dan evaluasi kinerja model lain, mengidentifikasi kekurangan diri dan melakukan optimasi. Setiap node model yang bergabung dengan Swarm berpartisipasi dalam proses tiga tahap: pertama, menyelesaikan masalah secara independen dan mengeluarkan pemikiran serta jawaban, kemudian melihat jawaban node lain dan memberikan umpan balik, akhirnya model memberikan suara untuk memilih solusi terbaik, dan berdasarkan itu memperbaiki outputnya sendiri. Mekanisme kolaborasi ini tidak hanya meningkatkan kinerja setiap model, tetapi juga mendorong evolusi model kelompok secara keseluruhan. Model yang bergabung dengan Swarm masih dapat mempertahankan bobot lokal yang telah diperbaiki setelah meninggalkan, mendapatkan manfaat nyata.

Gensyn Testnet online, bagaimana membuat pelatihan AI lebih efisien dan lebih desentralisasi?

Selain itu, Gensyn telah mengopen source kode RL Swarm, sehingga siapa pun dapat menjalankan node, memulai, atau bergabung dengan Swarm yang ada tanpa perlu izin. Komunikasi dasar dari Swarm menggunakan protokol gossip yang disediakan oleh Hivemind, mendukung pengiriman pesan dan berbagi sinyal pembelajaran yang terdesentralisasi antar model. Baik itu laptop rumahan, maupun di GPU cloud, siapa pun dapat berpartisipasi dalam pelatihan kolaboratif dengan bergabung ke node RL Swarm.

Infrastruktur tiga pilar utama: eksekusi, komunikasi, dan verifikasi

Saat ini RL Swarm masih merupakan sebuah demonstrasi eksperimental, yang menunjukkan metode pembelajaran mesin berskala besar dan dapat diukur, bukan bentuk produk akhir. Selama empat tahun terakhir, pekerjaan inti Gensyn sebenarnya adalah membangun infrastruktur dasar, yang memasuki tahap v0.1 setelah rilis Testnet, dan sudah dapat dijalankan secara nyata. Menurut pengenalan resmi, arsitektur keseluruhan Gensyn dibagi menjadi tiga bagian: eksekusi, komunikasi, dan verifikasi.

Eksekusi (Execution): Konsistensi dan Kekuatan Komputasi Terdistribusi

Gensyn percaya bahwa pembelajaran mesin di masa depan tidak lagi terbatas pada model monolitik tradisional, melainkan terdiri dari parameter terfragmentasi yang tersebar di berbagai perangkat di seluruh dunia. Untuk mencapai tujuan ini, tim Gensyn mengembangkan arsitektur eksekusi dasar yang dapat memastikan konsistensi antar perangkat. Teknologi kunci di dalamnya meliputi:

  • Penyimpanan dan pelatihan parameter terdistribusi: Dengan membagi model skala besar menjadi beberapa blok parameter dan mendistribusikannya di berbagai perangkat, Gensyn mencapai penerapan model yang terfragmentasi, mengurangi kebutuhan memori pada node tunggal.
  • Pelatihan Pasca Pembelajaran Penguatan (RL Post-Training): Penelitian menunjukkan bahwa ketika model dilatih secara kolektif, saling berkomunikasi, dan mengkritik jawaban satu sama lain, efisiensi pembelajaran keseluruhan akan meningkat secara signifikan. Gensyn menggunakan RL Swarm untuk mendemonstrasikan konsep ini, memungkinkan model untuk berkembang dengan cepat dalam diskusi kolektif, dan lebih lanjut memvalidasi efektivitas eksekusi terdistribusi.
  • Operator Reproduksi (RepOps): Untuk memastikan bahwa perangkat keras yang berbeda (seperti Nvidia A100 dan H100) dapat menghasilkan hasil perhitungan yang sepenuhnya konsisten, Gensyn mengembangkan pustaka RepOps, yang mewujudkan reproduksi bit demi bit lintas platform melalui urutan eksekusi operasi floating point yang tetap.

Komunikasi: Interaksi informasi yang efisien

Dalam skenario pelatihan terdistribusi berskala besar, komunikasi yang efisien antar node sangat penting. Metode paralel data tradisional meskipun dapat mengurangi biaya komunikasi hingga tingkat tertentu, tetapi karena mengharuskan setiap node menyimpan model lengkap, skalabilitasnya terbatas oleh memori. Untuk itu, Gensyn mengusulkan solusi baru yang inovatif:

  • SkipPipe – Saluran Melompati Dinamis Secara Paralel: Teknologi SkipPipe dengan memilih secara dinamis mikro batch (microbatch) yang dilalui oleh lapisan komputasi, dapat melompati beberapa tahap dalam alur tradisional, sehingga mengurangi waktu tunggu yang tidak perlu. Algoritma penjadwalan inovatifnya dapat mengevaluasi ketersediaan setiap jalur secara real-time, yang tidak hanya mengurangi waktu menganggur node, tetapi juga secara signifikan memperpendek durasi pelatihan keseluruhan. Menurut data pengujian, dalam lingkungan desentralisasi, SkipPipe dapat mengurangi waktu pelatihan sekitar 55%, dan dalam kasus kegagalan sebagian node, kinerja model hanya menurun sekitar 7%.
  • Standar komunikasi dan kolaborasi lintas node Gensyn membangun protokol komunikasi yang mirip dengan TCP/IP, sehingga peserta di seluruh dunia, terlepas dari perangkat yang digunakan, dapat melakukan transfer data dan interaksi informasi dengan efisien dan tanpa hambatan. Standar terbuka ini memberikan dasar jaringan yang kokoh untuk pelatihan kolaboratif terdistribusi.

Verifikasi: memastikan kepercayaan dan keamanan

Dalam jaringan terdistribusi yang tidak memerlukan kepercayaan, mengonfirmasi bahwa hasil perhitungan yang diajukan oleh masing-masing pihak adalah benar dan valid merupakan tantangan besar. Gensyn memperkenalkan protokol validasi khusus untuk memastikan bahwa semua penyedia daya komputasi memberikan hasil kerja yang benar melalui mekanisme yang efisien dan biaya rendah:

  • Protokol Verifikasi Verde: Verde adalah sistem verifikasi pertama yang dirancang khusus untuk pembelajaran mesin modern. Intinya terletak pada pemanfaatan mekanisme resolusi sengketa yang ringan, untuk dengan cepat menentukan langkah di mana perbedaan antara model dan verifier muncul selama proses pelatihan. Berbeda dengan metode verifikasi tradisional yang memerlukan pengulangan seluruh tugas, Verde hanya perlu menghitung ulang operasi yang diperdebatkan, sehingga secara signifikan mengurangi biaya verifikasi.
  • delegasi yang dirujuk (裁决式委托): Setelah menggunakan metode ini, jika terdapat masalah dengan output dari seorang penyedia, validator dapat meyakinkan pihak arbitrase netral melalui permainan penyelesaian sengketa yang efisien, memastikan bahwa ketika setidaknya ada satu node yang jujur, kebenaran dari keseluruhan hasil perhitungan dapat terjamin.
  • Penyimpanan dan status hash sementara: Untuk mendukung proses verifikasi di atas, peserta hanya perlu menyimpan dan menghitung hash dari sebagian titik pemeriksaan pelatihan sementara, bukan data lengkap, yang mengurangi penggunaan sumber daya sekaligus meningkatkan skalabilitas dan real-time sistem.
Lihat Asli
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
  • Hadiah
  • Komentar
  • Bagikan
Komentar
0/400
Tidak ada komentar
  • Sematkan
Perdagangkan Kripto Di Mana Saja Kapan Saja
qrCode
Pindai untuk mengunduh aplikasi Gate.io
Komunitas
Indonesia
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • ไทย
  • Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)