Pada tanggal 20 Juni 2023, Kantor Informasi Internet Republik Rakyat Tiongkok mengumumkan gelombang pertama daftar pengarsipan algoritme sintesis mendalam di Tiongkok, dan banyak pabrikan besar serta perintis industri AIGC berhasil didaftarkan. Ini bukan hanya langkah kunci dalam tata kelola risiko algoritme dan kecerdasan buatan China, tetapi juga terobosan besar dalam kepatuhan industri AIGC.
Hari ini, tim Sister Sa akan menjelaskan kepada Anda secara detail apa itu pengarsipan algoritme sintesis mendalam, dan dalam keadaan apa industri AIGC perlu mengajukan dan bagaimana mengajukannya.
**1. Apa itu pengarsipan algoritme sintesis dalam? **
Hingga saat ini, ada dua undang-undang khusus tentang alat AIGC di negara saya, yang keduanya dirumuskan dan dikeluarkan oleh Kantor Informasi Internet Negara:
1. "Peraturan Manajemen Sintesis Dalam Layanan Informasi Internet" (selanjutnya disebut sebagai "Peraturan Sintesis Mendalam");
2. "Langkah Administratif untuk Layanan Kecerdasan Buatan Generatif (Draf untuk Komentar)" (selanjutnya disebut sebagai "Draf Tindakan Administratif")
Karena AIGC sendiri memiliki kemampuan yang kuat untuk membimbing atau menginduksi, dengan bantuan teknologi jaringan informasi, karakteristik penyebaran cepat dan penyebaran luas cenderung mengarah pada penyebaran virus konten AIGC dalam waktu singkat. lama sekali, platform self-media menggunakan ChatGPT Kasus pembuatan berita palsu dan penyebaran luas kasus mendapatkan lalu lintas dan mengarahkan opini publik secara tidak tepat di beberapa area telah dengan jelas menunjukkan kepada kita risiko alat AIGC itu sendiri sebagai alat pemandu opini publik atau alat penipuan. Justru berdasarkan fitur inilah otoritas pengatur negara saya telah memberi perusahaan AIGC kewajiban untuk mengajukan algoritme mereka sendiri berdasarkan kepentingan hukum untuk menjaga keharmonisan jangka panjang dan stabilitas ketertiban umum sosial.
Jadi pertama-tama kita perlu memahami apa yang disebut teknologi sintesis mendalam. Menurut ketentuan Pasal 23 "Deep Synthesis Regulations", teknologi deep synthesis mengacu pada penggunaan deep learning, virtual reality dan algoritma sintetik lainnya untuk menghasilkan informasi jaringan seperti teks, gambar, audio, video, dan adegan virtual, termasuk namun tidak terbatas pada:
(1) Teknik untuk membuat atau mengedit konten teks seperti pembuatan bab, konversi gaya teks, dan dialog tanya jawab;
(2) Teknologi untuk membuat atau mengedit konten suara, seperti text-to-speech, konversi suara, dan pengeditan atribut suara;
(3) Teknologi untuk membuat atau mengedit konten non-ucapan seperti pembuatan musik dan pengeditan suara adegan;
(4) Teknologi untuk menghasilkan atau mengedit fitur biometrik dalam konten gambar dan video seperti pembuatan wajah, penggantian wajah, pengeditan atribut karakter, manipulasi wajah, dan manipulasi gerakan;
(5) Teknologi untuk menghasilkan atau mengedit fitur non-biologis dalam gambar dan konten video seperti pembuatan gambar, penyempurnaan gambar, dan pemulihan gambar;
**(6) Teknologi untuk menghasilkan atau mengedit karakter digital dan pemandangan virtual, seperti rekonstruksi tiga dimensi dan simulasi digital. **
Selain enam jenis aplikasi yang tercantum di atas, menurut ketentuan Pasal 6 "Tindakan Pengelolaan Draf": sebelum menggunakan produk kecerdasan buatan generatif untuk memberikan layanan kepada publik, mereka harus mengikuti "Peraturan Penilaian Keamanan Layanan Informasi Internet dengan Atribut Opini Publik atau Kemampuan Mobilisasi Sosial" "Laporkan penilaian keamanan ke departemen informasi jaringan nasional, dan lakukan prosedur pengajuan algoritme, modifikasi, dan pembatalan sesuai dengan "Peraturan Manajemen Rekomendasi Algoritma Layanan Informasi Internet".
Oleh karena itu, setelah "Draft Tindakan Pengelolaan" berlaku, jika tidak ada perubahan besar dalam pasal ini, kita juga harus, menurut ketentuan Pasal 2 UU Manajemen, memasukkan "algoritma, model, aturan untuk menghasilkan teks, gambar , suara, video, kode, dll. dll." termasuk dalam kategori "teknologi sintesis mendalam".
**2. Algoritme teknologi sintesis dalam mana yang perlu diajukan? **
Tim Sister Sa mengingatkan bahwa tidak semua teknologi deep synthesis mengharuskan penyedia layanan mereka untuk mendaftar sebagai catatan. Di bawah bimbingan prinsip netralitas teknologi, hanya penyedia layanan teknologi deep synthesis yang memenuhi persyaratan tertentu yang perlu mendaftarkan algoritme mereka.
Secara khusus, industri AIGC yang merekam algoritme deep synthesis terutama terkonsentrasi pada lingkup "penyedia layanan deep synthesis dengan atribut opini publik atau kemampuan mobilisasi sosial" yang diatur dalam Pasal 19 dari "Deep Synthesis Regulations". Namun, dalam praktiknya, kriteria untuk mendefinisikan apa yang dimaksud dengan "atribut opini publik atau kemampuan mobilisasi sosial" relatif tidak jelas.
Menurut Pasal 2 Ketentuan Evaluasi Keamanan Layanan Informasi Internet dengan Atribut Opini Publik atau Kemampuan Mobilisasi Sosial, layanan informasi Internet dengan atribut opini publik atau kemampuan mobilisasi sosial mencakup situasi berikut:
(1) Membangun layanan informasi seperti forum, blog, mikroblog, ruang obrolan, grup komunikasi, akun publik, video pendek, siaran web, berbagi informasi, dan program mini, atau melampirkan fungsi terkait;
**(2) Membangun layanan informasi Internet lainnya yang menyediakan saluran untuk ekspresi opini publik atau memiliki kemampuan untuk memobilisasi publik untuk terlibat dalam kegiatan tertentu. **
Sebenarnya, AIGC bukan milik salah satu layanan yang disediakan oleh penyedia layanan di paragraf pertama di atas, dan sebagian besar AIGC saat ini tidak menganggap diri mereka hanya sebagai platform media sosial. Menurut satu keluarga, tim Sister Sa percaya bahwa berdasarkan risiko penyebaran luas AIGC yang disebutkan di atas pada platform media sosial, dari perspektif pengawasan substantif, kemungkinan besar sejalan dengan “saluran ekspresi opini publik atau memobilisasi publik untuk terlibat dalam layanan informasi Internet lainnya dengan kemampuan aktivitas tertentu".
Oleh karena itu, dari perspektif ini, penyedia layanan dari semua jalur dalam industri AIGC dasar dapat terlibat dalam pengajuan algoritme sintesis mendalam, termasuk namun tidak terbatas pada pembuatan teks, pembuatan gambar, pembuatan video, pembuatan audio, dll. Kriteria penilaian yang paling penting adalah tingkat keterbukaan kelompok pengguna.Jika penyedia layanan menyediakan layanan kepada publik yang tidak ditentukan, pada dasarnya berada dalam lingkup "Peraturan Sintesis Mendalam".
3. Cara melakukan pengarsipan algoritme sintesis mendalam
Pertama, metode pengarsipan adalah pengarsipan online. Menurut persyaratan "Peraturan tentang Evaluasi Keamanan Layanan Informasi Internet dengan Atribut Opini Publik atau Kemampuan Mobilisasi Sosial", penyedia layanan yang memenuhi persyaratan pengarsipan harus mengajukan pada platform layanan manajemen keamanan (alamat;
Dalam proses pengarsipan, materi terpenting yang mempengaruhi tingkat keberhasilan pengarsipan adalah “Laporan Evaluasi” yang disampaikan oleh penyedia layanan deep synthesis. Penyedia layanan deep synthesis dan pendukung teknis yang menyediakan alat seperti model dan template untuk dua jenis fungsi spesifik harus memberikan "laporan penilaian" yang dikeluarkan setelah penilaian mandiri atau mempercayakan organisasi profesional untuk melakukan penilaian keamanan:
Menghasilkan atau mengedit informasi biometrik seperti wajah dan suara;
Membuat atau mengedit informasi non-biometrik seperti objek dan pemandangan khusus yang mungkin melibatkan keamanan nasional, citra nasional, kepentingan nasional, dan kepentingan sosial publik.
Karena area dan informasi yang terlibat dalam dua jenis layanan di atas relatif sensitif, konten penilaian yang spesifik harus didasarkan pada dimensi penilaian dasar, menambahkan kriteria penilaian yang sejalan dengan Undang-Undang Perlindungan Informasi Pribadi, Cyber Hukum Keamanan dan Hukum Keamanan Data.
Secara umum, ada tujuh kriteria penilaian utama, yaitu:
(1) Penanggung jawab manajemen keselamatan, personil tinjauan informasi dan pembentukan lembaga manajemen keselamatan;
(2) Verifikasi identitas pengguna dan langkah-langkah retensi informasi pendaftaran;
(3) Informasi log seperti akun pengguna, waktu operasi, jenis operasi, sumber jaringan dan alamat tujuan, port sumber jaringan, fitur perangkat keras klien, dan rekaman informasi yang dirilis oleh pengguna;
(4) Pencegahan dan pembuangan informasi ilegal dan berbahaya dan langkah-langkah penyimpanan catatan yang relevan untuk akun pengguna dan nama grup komunikasi, nama panggilan, profil, catatan, logo, publikasi informasi, penerusan, komentar, dan grup komunikasi serta fungsi layanan lainnya;
(5) Perlindungan informasi pribadi dan tindakan teknis untuk mencegah penyebaran informasi ilegal dan berbahaya serta risiko fungsi mobilisasi sosial di luar kendali;
(6) Menetapkan sistem pengaduan dan pelaporan, mempublikasikan informasi seperti metode pengaduan dan pelaporan, dan segera menerima dan menangani pengaduan dan pelaporan yang relevan;
(7) Terbentuknya mekanisme kerja untuk memberikan dukungan dan bantuan teknis dan data bagi badan pengatur dan lembaga penegak hukum untuk menjalankan tugasnya sesuai dengan undang-undang.
Ditulis di bagian akhir
Sistem pengarsipan sintesis dalam adalah inovasi penting dan terobosan baru dalam kecerdasan buatan dan manajemen risiko algoritme negara saya. Tim Sister Sa menyarankan agar industri **AIGC harus melakukan penilaian keamanan algoritme dan pengajuan algoritme sintesis mendalam dengan berkonsultasi dengan personel kepatuhan profesional. **
Lihat Asli
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
Tindakan baru Cyberspace Administration of China terkait dengan pengarsipan setiap algoritma platform AIGC
Tip inti
Pada tanggal 20 Juni 2023, Kantor Informasi Internet Republik Rakyat Tiongkok mengumumkan gelombang pertama daftar pengarsipan algoritme sintesis mendalam di Tiongkok, dan banyak pabrikan besar serta perintis industri AIGC berhasil didaftarkan. Ini bukan hanya langkah kunci dalam tata kelola risiko algoritme dan kecerdasan buatan China, tetapi juga terobosan besar dalam kepatuhan industri AIGC.
Hari ini, tim Sister Sa akan menjelaskan kepada Anda secara detail apa itu pengarsipan algoritme sintesis mendalam, dan dalam keadaan apa industri AIGC perlu mengajukan dan bagaimana mengajukannya.
**1. Apa itu pengarsipan algoritme sintesis dalam? **
Hingga saat ini, ada dua undang-undang khusus tentang alat AIGC di negara saya, yang keduanya dirumuskan dan dikeluarkan oleh Kantor Informasi Internet Negara:
1. "Peraturan Manajemen Sintesis Dalam Layanan Informasi Internet" (selanjutnya disebut sebagai "Peraturan Sintesis Mendalam");
2. "Langkah Administratif untuk Layanan Kecerdasan Buatan Generatif (Draf untuk Komentar)" (selanjutnya disebut sebagai "Draf Tindakan Administratif")
Karena AIGC sendiri memiliki kemampuan yang kuat untuk membimbing atau menginduksi, dengan bantuan teknologi jaringan informasi, karakteristik penyebaran cepat dan penyebaran luas cenderung mengarah pada penyebaran virus konten AIGC dalam waktu singkat. lama sekali, platform self-media menggunakan ChatGPT Kasus pembuatan berita palsu dan penyebaran luas kasus mendapatkan lalu lintas dan mengarahkan opini publik secara tidak tepat di beberapa area telah dengan jelas menunjukkan kepada kita risiko alat AIGC itu sendiri sebagai alat pemandu opini publik atau alat penipuan. Justru berdasarkan fitur inilah otoritas pengatur negara saya telah memberi perusahaan AIGC kewajiban untuk mengajukan algoritme mereka sendiri berdasarkan kepentingan hukum untuk menjaga keharmonisan jangka panjang dan stabilitas ketertiban umum sosial.
Jadi pertama-tama kita perlu memahami apa yang disebut teknologi sintesis mendalam. Menurut ketentuan Pasal 23 "Deep Synthesis Regulations", teknologi deep synthesis mengacu pada penggunaan deep learning, virtual reality dan algoritma sintetik lainnya untuk menghasilkan informasi jaringan seperti teks, gambar, audio, video, dan adegan virtual, termasuk namun tidak terbatas pada:
(1) Teknik untuk membuat atau mengedit konten teks seperti pembuatan bab, konversi gaya teks, dan dialog tanya jawab;
(2) Teknologi untuk membuat atau mengedit konten suara, seperti text-to-speech, konversi suara, dan pengeditan atribut suara;
(3) Teknologi untuk membuat atau mengedit konten non-ucapan seperti pembuatan musik dan pengeditan suara adegan;
(4) Teknologi untuk menghasilkan atau mengedit fitur biometrik dalam konten gambar dan video seperti pembuatan wajah, penggantian wajah, pengeditan atribut karakter, manipulasi wajah, dan manipulasi gerakan;
(5) Teknologi untuk menghasilkan atau mengedit fitur non-biologis dalam gambar dan konten video seperti pembuatan gambar, penyempurnaan gambar, dan pemulihan gambar;
**(6) Teknologi untuk menghasilkan atau mengedit karakter digital dan pemandangan virtual, seperti rekonstruksi tiga dimensi dan simulasi digital. **
Selain enam jenis aplikasi yang tercantum di atas, menurut ketentuan Pasal 6 "Tindakan Pengelolaan Draf": sebelum menggunakan produk kecerdasan buatan generatif untuk memberikan layanan kepada publik, mereka harus mengikuti "Peraturan Penilaian Keamanan Layanan Informasi Internet dengan Atribut Opini Publik atau Kemampuan Mobilisasi Sosial" "Laporkan penilaian keamanan ke departemen informasi jaringan nasional, dan lakukan prosedur pengajuan algoritme, modifikasi, dan pembatalan sesuai dengan "Peraturan Manajemen Rekomendasi Algoritma Layanan Informasi Internet".
Oleh karena itu, setelah "Draft Tindakan Pengelolaan" berlaku, jika tidak ada perubahan besar dalam pasal ini, kita juga harus, menurut ketentuan Pasal 2 UU Manajemen, memasukkan "algoritma, model, aturan untuk menghasilkan teks, gambar , suara, video, kode, dll. dll." termasuk dalam kategori "teknologi sintesis mendalam".
**2. Algoritme teknologi sintesis dalam mana yang perlu diajukan? **
Tim Sister Sa mengingatkan bahwa tidak semua teknologi deep synthesis mengharuskan penyedia layanan mereka untuk mendaftar sebagai catatan. Di bawah bimbingan prinsip netralitas teknologi, hanya penyedia layanan teknologi deep synthesis yang memenuhi persyaratan tertentu yang perlu mendaftarkan algoritme mereka.
Secara khusus, industri AIGC yang merekam algoritme deep synthesis terutama terkonsentrasi pada lingkup "penyedia layanan deep synthesis dengan atribut opini publik atau kemampuan mobilisasi sosial" yang diatur dalam Pasal 19 dari "Deep Synthesis Regulations". Namun, dalam praktiknya, kriteria untuk mendefinisikan apa yang dimaksud dengan "atribut opini publik atau kemampuan mobilisasi sosial" relatif tidak jelas.
Menurut Pasal 2 Ketentuan Evaluasi Keamanan Layanan Informasi Internet dengan Atribut Opini Publik atau Kemampuan Mobilisasi Sosial, layanan informasi Internet dengan atribut opini publik atau kemampuan mobilisasi sosial mencakup situasi berikut:
(1) Membangun layanan informasi seperti forum, blog, mikroblog, ruang obrolan, grup komunikasi, akun publik, video pendek, siaran web, berbagi informasi, dan program mini, atau melampirkan fungsi terkait;
**(2) Membangun layanan informasi Internet lainnya yang menyediakan saluran untuk ekspresi opini publik atau memiliki kemampuan untuk memobilisasi publik untuk terlibat dalam kegiatan tertentu. **
Sebenarnya, AIGC bukan milik salah satu layanan yang disediakan oleh penyedia layanan di paragraf pertama di atas, dan sebagian besar AIGC saat ini tidak menganggap diri mereka hanya sebagai platform media sosial. Menurut satu keluarga, tim Sister Sa percaya bahwa berdasarkan risiko penyebaran luas AIGC yang disebutkan di atas pada platform media sosial, dari perspektif pengawasan substantif, kemungkinan besar sejalan dengan “saluran ekspresi opini publik atau memobilisasi publik untuk terlibat dalam layanan informasi Internet lainnya dengan kemampuan aktivitas tertentu".
Oleh karena itu, dari perspektif ini, penyedia layanan dari semua jalur dalam industri AIGC dasar dapat terlibat dalam pengajuan algoritme sintesis mendalam, termasuk namun tidak terbatas pada pembuatan teks, pembuatan gambar, pembuatan video, pembuatan audio, dll. Kriteria penilaian yang paling penting adalah tingkat keterbukaan kelompok pengguna.Jika penyedia layanan menyediakan layanan kepada publik yang tidak ditentukan, pada dasarnya berada dalam lingkup "Peraturan Sintesis Mendalam".
3. Cara melakukan pengarsipan algoritme sintesis mendalam
Pertama, metode pengarsipan adalah pengarsipan online. Menurut persyaratan "Peraturan tentang Evaluasi Keamanan Layanan Informasi Internet dengan Atribut Opini Publik atau Kemampuan Mobilisasi Sosial", penyedia layanan yang memenuhi persyaratan pengarsipan harus mengajukan pada platform layanan manajemen keamanan (alamat;
Dalam proses pengarsipan, materi terpenting yang mempengaruhi tingkat keberhasilan pengarsipan adalah “Laporan Evaluasi” yang disampaikan oleh penyedia layanan deep synthesis. Penyedia layanan deep synthesis dan pendukung teknis yang menyediakan alat seperti model dan template untuk dua jenis fungsi spesifik harus memberikan "laporan penilaian" yang dikeluarkan setelah penilaian mandiri atau mempercayakan organisasi profesional untuk melakukan penilaian keamanan:
Menghasilkan atau mengedit informasi biometrik seperti wajah dan suara;
Membuat atau mengedit informasi non-biometrik seperti objek dan pemandangan khusus yang mungkin melibatkan keamanan nasional, citra nasional, kepentingan nasional, dan kepentingan sosial publik.
Karena area dan informasi yang terlibat dalam dua jenis layanan di atas relatif sensitif, konten penilaian yang spesifik harus didasarkan pada dimensi penilaian dasar, menambahkan kriteria penilaian yang sejalan dengan Undang-Undang Perlindungan Informasi Pribadi, Cyber Hukum Keamanan dan Hukum Keamanan Data.
Secara umum, ada tujuh kriteria penilaian utama, yaitu:
(1) Penanggung jawab manajemen keselamatan, personil tinjauan informasi dan pembentukan lembaga manajemen keselamatan;
(2) Verifikasi identitas pengguna dan langkah-langkah retensi informasi pendaftaran;
(3) Informasi log seperti akun pengguna, waktu operasi, jenis operasi, sumber jaringan dan alamat tujuan, port sumber jaringan, fitur perangkat keras klien, dan rekaman informasi yang dirilis oleh pengguna;
(4) Pencegahan dan pembuangan informasi ilegal dan berbahaya dan langkah-langkah penyimpanan catatan yang relevan untuk akun pengguna dan nama grup komunikasi, nama panggilan, profil, catatan, logo, publikasi informasi, penerusan, komentar, dan grup komunikasi serta fungsi layanan lainnya;
(5) Perlindungan informasi pribadi dan tindakan teknis untuk mencegah penyebaran informasi ilegal dan berbahaya serta risiko fungsi mobilisasi sosial di luar kendali;
(6) Menetapkan sistem pengaduan dan pelaporan, mempublikasikan informasi seperti metode pengaduan dan pelaporan, dan segera menerima dan menangani pengaduan dan pelaporan yang relevan;
(7) Terbentuknya mekanisme kerja untuk memberikan dukungan dan bantuan teknis dan data bagi badan pengatur dan lembaga penegak hukum untuk menjalankan tugasnya sesuai dengan undang-undang.
Ditulis di bagian akhir
Sistem pengarsipan sintesis dalam adalah inovasi penting dan terobosan baru dalam kecerdasan buatan dan manajemen risiko algoritme negara saya. Tim Sister Sa menyarankan agar industri **AIGC harus melakukan penilaian keamanan algoritme dan pengajuan algoritme sintesis mendalam dengan berkonsultasi dengan personel kepatuhan profesional. **