20 Haziran 2023'te Çin Halk Cumhuriyeti İnternet Bilgi Ofisi, Çin'deki ilk derin sentez algoritması dosyalama listelerini duyurdu ve birçok büyük üretici ve AIGC endüstri öncüsü başarıyla listelendi. Bu, yalnızca Çin'in algoritması ve yapay zeka risk yönetişiminde önemli bir adım değil, aynı zamanda AIGC endüstri uyumluluğunda da büyük bir atılım.
Bugün, Sister Sa'nın ekibi size derin sentez algoritması dosyalamanın ne olduğunu ve AIGC endüstrisinin hangi koşullar altında dosyalama yapması gerektiğini ve nasıl dosyalama yapması gerektiğini ayrıntılı olarak açıklayacak.
**1. Derin sentez algoritması dosyalama nedir? **
Şimdiye kadar, ülkemde AIGC araçlarıyla ilgili olarak Devlet İnternet Bilgi Ofisi tarafından formüle edilmiş ve yayınlanmış iki özel mevzuat bulunmaktadır:
1. "İnternet Bilgi Hizmeti Derin Sentez Yönetim Yönetmeliği" (bundan böyle "Derin Sentez Yönetmelikleri" olarak anılacaktır);
2. "Üretken Yapay Zeka Hizmetlerine Yönelik İdari Tedbirler (Yorum Taslağı)" (bundan sonra "İdari Tedbir Taslakları" olarak anılacaktır)
AIGC'nin kendisi, bilgi ağı teknolojisinin yardımıyla güçlü bir yönlendirme veya teşvik etme yeteneğine sahip olduğundan, hızlı yayılma ve yaygın yayılma özelliklerinin, AIGC içeriğinin kısa bir süre içinde viral yayılmasına yol açması muhtemeldir. uzun zaman önce, bir self-medya platformu ChatGPT'yi kullandı. Sahte haberler oluşturma ve trafik kazanma vakasını geniş çapta yayma ve bazı alanlarda kamuoyunu uygunsuz bir şekilde yönlendirme vakası, AIGC aracının kendisinin bir kamuoyu yönlendirme aracı olarak riskini bize açıkça gösterdi veya bir dolandırıcılık aracı. Tam da bu özelliğe dayanarak, ülkemin düzenleyici otoriteleri, AIGC şirketlerine, toplumsal kamu düzeninin uzun vadeli uyumunu ve istikrarını sağlamanın yasal menfaatine dayalı olarak kendi algoritmalarını dosyalama yükümlülüğü verdi.
Bu nedenle, öncelikle sözde derin sentez teknolojisinin ne anlama geldiğini anlamamız gerekiyor. “Derin Sentez Yönetmeliği”nin 23. maddesi hükümlerine göre derin sentez teknolojisi, metin, görüntü, ses, video ve sanal sahneler gibi ağ bilgilerini üretmek için derin öğrenme, sanal gerçeklik ve diğer sentetik algoritmaların kullanılmasını ifade eder. dahil ancak bunlarla sınırlı olmamak üzere:
(1) Bölüm oluşturma, metin stili dönüştürme ve soru-cevap diyaloğu gibi metin içeriği oluşturma veya düzenleme teknikleri;
(2) Metinden konuşmaya, ses dönüştürme ve ses niteliği düzenleme gibi ses içeriği oluşturmaya veya düzenlemeye yönelik teknolojiler;
(3) Müzik oluşturma ve sahne sesi düzenleme gibi konuşma dışı içerik oluşturmaya veya düzenlemeye yönelik teknolojiler;
(4) Görüntülerde ve video içeriğinde yüz oluşturma, yüz değiştirme, karakter özniteliği düzenleme, yüz işleme ve hareket işleme gibi biyometrik özellikler oluşturmaya veya düzenlemeye yönelik teknolojiler;
(5) Görüntü oluşturma, görüntü geliştirme ve görüntü restorasyonu gibi görüntülerde ve video içeriğinde biyolojik olmayan özellikler oluşturmaya veya düzenlemeye yönelik teknoloji;
**(6) Üç boyutlu yeniden yapılandırma ve dijital simülasyon gibi dijital karakterler ve sanal sahneler oluşturmaya veya düzenlemeye yönelik teknolojiler. **
Yukarıda sıralanan altı tür başvuruya ek olarak “Yönetim Tedbir Taslakları”nın 6. maddesi hükümlerine göre: Üretken yapay zeka ürünlerini halka hizmet sunmak amacıyla kullanmadan önce “İnternet Bilgi Servisi Güvenlik Değerlendirme Yönetmeliği”ne uymaları gerekmektedir. Kamuoyu Nitelikleri veya Sosyal Seferberlik Yetenekleri ile" "Güvenlik değerlendirmesini ulusal ağ bilgi departmanına bildirin ve "İnternet Bilgi Hizmeti Algoritma Öneri Yönetim Yönetmeliği" uyarınca algoritma dosyalama, değişiklik ve iptal dosyalama prosedürlerini gerçekleştirin.
Bu nedenle, “Taslak Yönetim Tedbirleri” yürürlüğe girdikten sonra, bu maddede önemli bir değişiklik olmadığı takdirde, Yönetim Kanunu'nun 2. Maddesi hükümlerine göre “algoritmalar, modeller, metin oluşturma kuralları, resimler, , sesler, videolar, kodlar vb." "derin sentez teknolojisi" kategorisine dahildir.
**2. Hangi derin sentez teknolojisi algoritmalarının dosyalanması gerekiyor? **
Sister Sa'nın ekibi, tüm derin sentez teknolojilerinin hizmet sağlayıcılarının kayıt için kaydolmasını gerektirmediğini hatırlatıyor.Teknoloji tarafsızlığı ilkesinin rehberliğinde, yalnızca belirli koşulları karşılayan derin sentez teknolojisi hizmet sağlayıcılarının algoritmalarını kaydetmesi gerekiyor.
Spesifik olarak, derin sentez algoritmalarını kaydeden AIGC endüstrisi, "Derin Sentez Yönetmeliği" nin 19. Maddesinde belirtilen "kamuoyu nitelikleri veya sosyal seferberlik yetenekleri olan derin sentez hizmet sağlayıcıları" kapsamında yoğunlaşmaktadır. Bununla birlikte, uygulamada, "kamuoyu niteliklerini veya sosyal seferberlik yeteneklerini" neyin oluşturduğunu tanımlama kriterleri nispeten belirsizdir.
Kamuoyu Nitelikli veya Sosyal Seferberlik Yetenekli İnternet Bilgi Hizmetlerinin Güvenlik Değerlendirmesine İlişkin Hükümler'in 2. maddesine göre, kamuoyu veya toplumsal seferberlik kabiliyetli internet bilgi hizmetleri aşağıdaki durumları içerir:
(1) Forumlar, bloglar, mikrobloglar, sohbet odaları, iletişim grupları, genel hesaplar, kısa videolar, web yayınları, bilgi paylaşımı ve mini programlar gibi bilgi hizmetleri oluşturmak veya ilgili işlevleri eklemek;
**(2) Kamuoyunun ifade edilmesi için kanallar sağlayan veya belirli faaliyetlerde bulunmak için halkı harekete geçirme yeteneğine sahip diğer İnternet bilgi servislerinin oluşturulması. **
Açıkça söylemek gerekirse, AIGC, yukarıdaki birinci paragrafta hizmet sağlayıcı tarafından sağlanan hizmetlerin hiçbirine ait değildir ve AIGC'lerin çoğu şu anda kendilerini yalnızca bir sosyal medya platformu olarak görmemektedir. Bir aileye göre, Rahibe Sa'nın ekibi, yukarıda belirtilen AIGC'nin sosyal medya platformlarında geniş çapta yayılma riskine dayanarak, maddi denetim açısından, "kamu fikrini ifade kanallarına uyma veya halkı harekete geçirme" olasılığının yüksek olduğuna inanıyor. belirli etkinlik yeteneklerine sahip diğer İnternet bilgi hizmetlerine girmek için".
Bu nedenle, bu açıdan bakıldığında, temel AIGC endüstrisindeki tüm yolların hizmet sağlayıcıları, metin oluşturma, görüntü oluşturma, video oluşturma, ses oluşturma vb. dahil ancak bunlarla sınırlı olmamak üzere derin sentez algoritmalarının dosyalanmasında yer alabilir. Değerlendirme için en önemli kriter, kullanıcı grubunun açıklık derecesidir.Hizmet sağlayıcı, kimliği belirsiz halka hizmet veriyorsa, temel olarak “Derin Sentez Yönetmelikleri” kapsamındadır.
3. Derin sentez algoritması dosyalaması nasıl yapılır
Birincisi, dosyalama yöntemi çevrimiçi dosyalamadır. “Kamuoyu Nitelikli veya Sosyal Seferberlik Yetenekli İnternet Bilgi Servislerinin Güvenlik Değerlendirmesine İlişkin Yönetmelik” gerekliliklerine göre, dosyalama gerekliliklerini sağlayan hizmet sağlayıcıların güvenlik yönetimi hizmet platformunda (adres;
Dosyalama sürecinde dosyalamanın başarı oranını etkileyen en önemli materyal derin sentez hizmet sağlayıcı tarafından sunulan “Değerlendirme Raporu”dur. İki tür özel işlev için modeller ve şablonlar gibi araçlar sağlayan derin sentez hizmet sağlayıcıları ve teknik destekçiler, öz değerlendirmeden veya bir güvenlik değerlendirmesi yürütmesi için profesyonel bir kuruluşa emanet edildikten sonra yayınlanan bir "değerlendirme raporu" sağlamalıdır:
Yüzler ve sesler gibi biyometrik bilgileri oluşturun veya düzenleyin;
Ulusal güvenlik, ulusal imaj, ulusal çıkarlar ve toplumsal kamu çıkarlarını içerebilecek özel nesneler ve sahneler gibi biyometrik olmayan bilgilerin oluşturulması veya düzenlenmesi.
Yukarıdaki iki tür hizmette yer alan alanlar ve bilgiler nispeten hassas olduğundan, değerlendirmenin belirli içeriği, Kişisel Bilgilerin Korunması Kanunu, Siber Güvenlik Kanunu'na uygun değerlendirme kriterleri eklenerek temel değerlendirme boyutlarına dayanmalıdır. Güvenlik Kanunu ve Veri Güvenliği Kanunu.
Genel olarak konuşursak, yedi ana değerlendirme kriteri vardır:
(1) Emniyet yönetiminden sorumlu kişi, bilgi inceleme personeli ve emniyet yönetimi kurumlarının kurulması;
(2) Kullanıcı kimliğinin doğrulanması ve kayıt bilgilerinin saklanması önlemleri;
(3) Kullanıcı hesapları, işlem süresi, işlem türleri, ağ kaynağı ve hedef adresleri, ağ kaynağı bağlantı noktaları, istemci donanım özellikleri ve kullanıcılar tarafından yayınlanan bilgilerin kayıtları gibi günlük bilgileri;
(4) Kullanıcı hesapları ve iletişim grubu adları, takma adlar, profiller, notlar, logolar, bilgi yayınlama, iletme, yorumlar ve iletişim grupları ve diğer hizmet işlevleri için yasa dışı ve zararlı bilgilerin önlenmesi ve imha edilmesi ve ilgili kayıt koruma önlemleri;
(5) Kişisel bilgilerin korunması ve yasa dışı ve zararlı bilgilerin yayılmasını ve sosyal seferberlik riskinin kontrolden çıkmasına engel olacak teknik önlemler;
(6) Bir şikayet ve bildirim sistemi oluşturmak, şikayet ve bildirim yöntemleri gibi bilgileri yayınlamak ve ilgili şikayetleri ve bildirimleri derhal kabul etmek ve ele almak;
(7) Düzenleyici kurumlar ve kolluk kuvvetlerinin kanuna uygun olarak görevlerini yerine getirmelerine teknik ve veri desteği ve yardım sağlayacak bir çalışma mekanizmasının oluşturulması.
Sonda yazılmıştır
Derin sentez dosyalama sistemi, ülkemin yapay zekası ve algoritma risk yönetiminde önemli bir yenilik ve yeni bir atılımdır. Sister Sa'nın ekibi, **AIGC endüstrisinin, profesyonel uyum personeline danışarak algoritma güvenlik değerlendirmeleri ve derin sentez algoritma dosyalamaları yürütmesi gerektiğini öne sürüyor. **
View Original
The content is for reference only, not a solicitation or offer. No investment, tax, or legal advice provided. See Disclaimer for more risks disclosure.
Çin Siber Uzay İdaresinin yeni eylemi, her bir AIGC platform algoritmasının dosyalanmasıyla ilgilidir.
Çekirdek ucu
20 Haziran 2023'te Çin Halk Cumhuriyeti İnternet Bilgi Ofisi, Çin'deki ilk derin sentez algoritması dosyalama listelerini duyurdu ve birçok büyük üretici ve AIGC endüstri öncüsü başarıyla listelendi. Bu, yalnızca Çin'in algoritması ve yapay zeka risk yönetişiminde önemli bir adım değil, aynı zamanda AIGC endüstri uyumluluğunda da büyük bir atılım.
Bugün, Sister Sa'nın ekibi size derin sentez algoritması dosyalamanın ne olduğunu ve AIGC endüstrisinin hangi koşullar altında dosyalama yapması gerektiğini ve nasıl dosyalama yapması gerektiğini ayrıntılı olarak açıklayacak.
**1. Derin sentez algoritması dosyalama nedir? **
Şimdiye kadar, ülkemde AIGC araçlarıyla ilgili olarak Devlet İnternet Bilgi Ofisi tarafından formüle edilmiş ve yayınlanmış iki özel mevzuat bulunmaktadır:
1. "İnternet Bilgi Hizmeti Derin Sentez Yönetim Yönetmeliği" (bundan böyle "Derin Sentez Yönetmelikleri" olarak anılacaktır);
2. "Üretken Yapay Zeka Hizmetlerine Yönelik İdari Tedbirler (Yorum Taslağı)" (bundan sonra "İdari Tedbir Taslakları" olarak anılacaktır)
AIGC'nin kendisi, bilgi ağı teknolojisinin yardımıyla güçlü bir yönlendirme veya teşvik etme yeteneğine sahip olduğundan, hızlı yayılma ve yaygın yayılma özelliklerinin, AIGC içeriğinin kısa bir süre içinde viral yayılmasına yol açması muhtemeldir. uzun zaman önce, bir self-medya platformu ChatGPT'yi kullandı. Sahte haberler oluşturma ve trafik kazanma vakasını geniş çapta yayma ve bazı alanlarda kamuoyunu uygunsuz bir şekilde yönlendirme vakası, AIGC aracının kendisinin bir kamuoyu yönlendirme aracı olarak riskini bize açıkça gösterdi veya bir dolandırıcılık aracı. Tam da bu özelliğe dayanarak, ülkemin düzenleyici otoriteleri, AIGC şirketlerine, toplumsal kamu düzeninin uzun vadeli uyumunu ve istikrarını sağlamanın yasal menfaatine dayalı olarak kendi algoritmalarını dosyalama yükümlülüğü verdi.
Bu nedenle, öncelikle sözde derin sentez teknolojisinin ne anlama geldiğini anlamamız gerekiyor. “Derin Sentez Yönetmeliği”nin 23. maddesi hükümlerine göre derin sentez teknolojisi, metin, görüntü, ses, video ve sanal sahneler gibi ağ bilgilerini üretmek için derin öğrenme, sanal gerçeklik ve diğer sentetik algoritmaların kullanılmasını ifade eder. dahil ancak bunlarla sınırlı olmamak üzere:
(1) Bölüm oluşturma, metin stili dönüştürme ve soru-cevap diyaloğu gibi metin içeriği oluşturma veya düzenleme teknikleri;
(2) Metinden konuşmaya, ses dönüştürme ve ses niteliği düzenleme gibi ses içeriği oluşturmaya veya düzenlemeye yönelik teknolojiler;
(3) Müzik oluşturma ve sahne sesi düzenleme gibi konuşma dışı içerik oluşturmaya veya düzenlemeye yönelik teknolojiler;
(4) Görüntülerde ve video içeriğinde yüz oluşturma, yüz değiştirme, karakter özniteliği düzenleme, yüz işleme ve hareket işleme gibi biyometrik özellikler oluşturmaya veya düzenlemeye yönelik teknolojiler;
(5) Görüntü oluşturma, görüntü geliştirme ve görüntü restorasyonu gibi görüntülerde ve video içeriğinde biyolojik olmayan özellikler oluşturmaya veya düzenlemeye yönelik teknoloji;
**(6) Üç boyutlu yeniden yapılandırma ve dijital simülasyon gibi dijital karakterler ve sanal sahneler oluşturmaya veya düzenlemeye yönelik teknolojiler. **
Yukarıda sıralanan altı tür başvuruya ek olarak “Yönetim Tedbir Taslakları”nın 6. maddesi hükümlerine göre: Üretken yapay zeka ürünlerini halka hizmet sunmak amacıyla kullanmadan önce “İnternet Bilgi Servisi Güvenlik Değerlendirme Yönetmeliği”ne uymaları gerekmektedir. Kamuoyu Nitelikleri veya Sosyal Seferberlik Yetenekleri ile" "Güvenlik değerlendirmesini ulusal ağ bilgi departmanına bildirin ve "İnternet Bilgi Hizmeti Algoritma Öneri Yönetim Yönetmeliği" uyarınca algoritma dosyalama, değişiklik ve iptal dosyalama prosedürlerini gerçekleştirin.
Bu nedenle, “Taslak Yönetim Tedbirleri” yürürlüğe girdikten sonra, bu maddede önemli bir değişiklik olmadığı takdirde, Yönetim Kanunu'nun 2. Maddesi hükümlerine göre “algoritmalar, modeller, metin oluşturma kuralları, resimler, , sesler, videolar, kodlar vb." "derin sentez teknolojisi" kategorisine dahildir.
**2. Hangi derin sentez teknolojisi algoritmalarının dosyalanması gerekiyor? **
Sister Sa'nın ekibi, tüm derin sentez teknolojilerinin hizmet sağlayıcılarının kayıt için kaydolmasını gerektirmediğini hatırlatıyor.Teknoloji tarafsızlığı ilkesinin rehberliğinde, yalnızca belirli koşulları karşılayan derin sentez teknolojisi hizmet sağlayıcılarının algoritmalarını kaydetmesi gerekiyor.
Spesifik olarak, derin sentez algoritmalarını kaydeden AIGC endüstrisi, "Derin Sentez Yönetmeliği" nin 19. Maddesinde belirtilen "kamuoyu nitelikleri veya sosyal seferberlik yetenekleri olan derin sentez hizmet sağlayıcıları" kapsamında yoğunlaşmaktadır. Bununla birlikte, uygulamada, "kamuoyu niteliklerini veya sosyal seferberlik yeteneklerini" neyin oluşturduğunu tanımlama kriterleri nispeten belirsizdir.
Kamuoyu Nitelikli veya Sosyal Seferberlik Yetenekli İnternet Bilgi Hizmetlerinin Güvenlik Değerlendirmesine İlişkin Hükümler'in 2. maddesine göre, kamuoyu veya toplumsal seferberlik kabiliyetli internet bilgi hizmetleri aşağıdaki durumları içerir:
(1) Forumlar, bloglar, mikrobloglar, sohbet odaları, iletişim grupları, genel hesaplar, kısa videolar, web yayınları, bilgi paylaşımı ve mini programlar gibi bilgi hizmetleri oluşturmak veya ilgili işlevleri eklemek;
**(2) Kamuoyunun ifade edilmesi için kanallar sağlayan veya belirli faaliyetlerde bulunmak için halkı harekete geçirme yeteneğine sahip diğer İnternet bilgi servislerinin oluşturulması. **
Açıkça söylemek gerekirse, AIGC, yukarıdaki birinci paragrafta hizmet sağlayıcı tarafından sağlanan hizmetlerin hiçbirine ait değildir ve AIGC'lerin çoğu şu anda kendilerini yalnızca bir sosyal medya platformu olarak görmemektedir. Bir aileye göre, Rahibe Sa'nın ekibi, yukarıda belirtilen AIGC'nin sosyal medya platformlarında geniş çapta yayılma riskine dayanarak, maddi denetim açısından, "kamu fikrini ifade kanallarına uyma veya halkı harekete geçirme" olasılığının yüksek olduğuna inanıyor. belirli etkinlik yeteneklerine sahip diğer İnternet bilgi hizmetlerine girmek için".
Bu nedenle, bu açıdan bakıldığında, temel AIGC endüstrisindeki tüm yolların hizmet sağlayıcıları, metin oluşturma, görüntü oluşturma, video oluşturma, ses oluşturma vb. dahil ancak bunlarla sınırlı olmamak üzere derin sentez algoritmalarının dosyalanmasında yer alabilir. Değerlendirme için en önemli kriter, kullanıcı grubunun açıklık derecesidir.Hizmet sağlayıcı, kimliği belirsiz halka hizmet veriyorsa, temel olarak “Derin Sentez Yönetmelikleri” kapsamındadır.
3. Derin sentez algoritması dosyalaması nasıl yapılır
Birincisi, dosyalama yöntemi çevrimiçi dosyalamadır. “Kamuoyu Nitelikli veya Sosyal Seferberlik Yetenekli İnternet Bilgi Servislerinin Güvenlik Değerlendirmesine İlişkin Yönetmelik” gerekliliklerine göre, dosyalama gerekliliklerini sağlayan hizmet sağlayıcıların güvenlik yönetimi hizmet platformunda (adres;
Dosyalama sürecinde dosyalamanın başarı oranını etkileyen en önemli materyal derin sentez hizmet sağlayıcı tarafından sunulan “Değerlendirme Raporu”dur. İki tür özel işlev için modeller ve şablonlar gibi araçlar sağlayan derin sentez hizmet sağlayıcıları ve teknik destekçiler, öz değerlendirmeden veya bir güvenlik değerlendirmesi yürütmesi için profesyonel bir kuruluşa emanet edildikten sonra yayınlanan bir "değerlendirme raporu" sağlamalıdır:
Yüzler ve sesler gibi biyometrik bilgileri oluşturun veya düzenleyin;
Ulusal güvenlik, ulusal imaj, ulusal çıkarlar ve toplumsal kamu çıkarlarını içerebilecek özel nesneler ve sahneler gibi biyometrik olmayan bilgilerin oluşturulması veya düzenlenmesi.
Yukarıdaki iki tür hizmette yer alan alanlar ve bilgiler nispeten hassas olduğundan, değerlendirmenin belirli içeriği, Kişisel Bilgilerin Korunması Kanunu, Siber Güvenlik Kanunu'na uygun değerlendirme kriterleri eklenerek temel değerlendirme boyutlarına dayanmalıdır. Güvenlik Kanunu ve Veri Güvenliği Kanunu.
Genel olarak konuşursak, yedi ana değerlendirme kriteri vardır:
(1) Emniyet yönetiminden sorumlu kişi, bilgi inceleme personeli ve emniyet yönetimi kurumlarının kurulması;
(2) Kullanıcı kimliğinin doğrulanması ve kayıt bilgilerinin saklanması önlemleri;
(3) Kullanıcı hesapları, işlem süresi, işlem türleri, ağ kaynağı ve hedef adresleri, ağ kaynağı bağlantı noktaları, istemci donanım özellikleri ve kullanıcılar tarafından yayınlanan bilgilerin kayıtları gibi günlük bilgileri;
(4) Kullanıcı hesapları ve iletişim grubu adları, takma adlar, profiller, notlar, logolar, bilgi yayınlama, iletme, yorumlar ve iletişim grupları ve diğer hizmet işlevleri için yasa dışı ve zararlı bilgilerin önlenmesi ve imha edilmesi ve ilgili kayıt koruma önlemleri;
(5) Kişisel bilgilerin korunması ve yasa dışı ve zararlı bilgilerin yayılmasını ve sosyal seferberlik riskinin kontrolden çıkmasına engel olacak teknik önlemler;
(6) Bir şikayet ve bildirim sistemi oluşturmak, şikayet ve bildirim yöntemleri gibi bilgileri yayınlamak ve ilgili şikayetleri ve bildirimleri derhal kabul etmek ve ele almak;
(7) Düzenleyici kurumlar ve kolluk kuvvetlerinin kanuna uygun olarak görevlerini yerine getirmelerine teknik ve veri desteği ve yardım sağlayacak bir çalışma mekanizmasının oluşturulması.
Sonda yazılmıştır
Derin sentez dosyalama sistemi, ülkemin yapay zekası ve algoritma risk yönetiminde önemli bir yenilik ve yeni bir atılımdır. Sister Sa'nın ekibi, **AIGC endüstrisinin, profesyonel uyum personeline danışarak algoritma güvenlik değerlendirmeleri ve derin sentez algoritma dosyalamaları yürütmesi gerektiğini öne sürüyor. **