**コアチップ**2023 年 6 月 20 日、中華人民共和国インターネット情報局は中国における深層合成アルゴリズムの申請リストの第 1 弾を発表し、多くの大手メーカーや AIGC 業界のパイオニアが無事リストアップされました。これは、中国のアルゴリズムと人工知能のリスクガバナンスにおける重要な一歩であるだけでなく、AIGC業界のコンプライアンスにおける大きな進歩でもあります。今日は、Sister Sa のチームが、深層合成アルゴリズムの申請とは何か、AIGC 業界が申請する必要がある状況とその方法について詳しく説明します。**1. 深層合成アルゴリズムファイリングとは何ですか? **現在までに、私の国には AIGC ツールに関する 2 つの特定の法律があり、どちらも州インターネット情報局によって策定および発行されました。**1. 「インターネット インフォメーション サービス深層合成管理規程」(以下「深層合成規程」といいます)**;**2.「生成型人工知能サービスに係る行政措置（意見募集案）」（以下「行政措置案」という。）**AIGC 自体が情報ネットワーク技術を活用した強い誘導・誘導能力を持っているため、拡散が早く広範囲に拡散するという特徴から、AIGC コンテンツが短期間でバイラルに拡散する可能性が高いと考えられます。昔、あるセルフメディアプラットフォームが ChatGPT を使用していました。フェイクニュースを作成し、トラフィックを獲得し、一部の地域で不適切に世論を誘導した事例は、AIGC ツール自体が世論誘導ツールまたは世論誘導ツールとして機能する危険性を明確に示しています。詐欺ツール。我が国の規制当局が、社会治安の長期的な調和と安定を維持するという法益に基づいて、AIGC企業に独自のアルゴリズムを提出する義務を与えたのは、まさにこの特徴に基づいています。したがって、まず最初に、いわゆる深層合成テクノロジーが何を指すのかを理解する必要があります。 「深層合成規則」第 23 条の規定によると、深層合成技術とは、深層学習、仮想現実およびその他の合成アルゴリズムを使用して、テキスト、画像、オーディオ、ビデオ、仮想シーンなどのネットワーク情報を生成することを指します。 . 以下を含みますが、これらに限定されません。**(1) 章の生成、テキスト スタイルの変換、質疑応答ダイアログなどのテキスト コンテンツを生成または編集するための技術。****(2) 音声合成、音声変換、音声属性編集など、音声コンテンツを生成または編集する技術****(3) 音楽生成やシーンサウンド編集などの非音声コンテンツの生成・編集技術****(4) 顔生成、顔置換、文字属性編集、顔操作、ジェスチャー操作など、画像やビデオ コンテンツ内の生体特徴を生成または編集する技術。****(5) 画像生成、画像強調、画像復元など、画像およびビデオ コンテンツ内の非生物学的特徴を生成または編集する技術。****(6) 三次元再構成やデジタルシミュレーションなど、デジタルキャラクターや仮想シーンを生成・編集する技術。 **上記の6種類のアプリケーションに加えて、「管理措置案」第6条の規定により、公衆にサービスを提供するために生成人工知能製品を使用する前に、「インターネット情報サービスセキュリティ評価規則」に従う必要があります。 「インターネット情報サービスアルゴリズム推奨管理規程」に基づき、国家ネットワーク情報部門に安全性評価を報告し、アルゴリズムの届出、変更、取消しの届出手続きを行う。したがって、「管理措置案」発効後、この条項に大きな変更がなければ、管理法第2条の規定に基づき、「テキスト、画像を生成するためのアルゴリズム、モデル、ルール」も盛り込むべきである。 、サウンド、ビデオ、コードなど」は、「深層合成技術」のカテゴリに含まれます。**2. どの深層合成技術アルゴリズムを申請する必要がありますか? **Sa 姉妹のチームは、すべての深層合成技術がサービス プロバイダーに記録を登録する必要があるわけではないことを思い出させます。技術中立性の原則に基づき、特定の条件を満たす深層合成技術サービス プロバイダーのみがアルゴリズムを登録する必要があります。具体的には、深層合成アルゴリズムを記録するAIGC業界は、主に「深層合成規則」第19条に規定される「世論属性または社会動員能力を有する深層合成サービス提供者」の範囲に集中している。しかし、実際には、何が「世論の属性または社会的動員能力」を構成するのかを定義する基準は比較的曖昧である。世論属性または社会動員機能を備えたインターネット情報サービスの安全性評価に関する規定の第 2 条によると、世論属性または社会動員機能を備えたインターネット情報サービスには、次の状況が含まれます。**(1) フォーラム、ブログ、マイクロブログ、チャット ルーム、コミュニケーション グループ、公開アカウント、ショート ビデオ、ウェブキャスト、情報共有、ミニ プログラムなどの情報サービスの確立、または対応する機能の追加**。**(2) 世論を表明するためのチャネルを提供する、または特定の活動に大衆を動員する機能を備えたその他のインターネット情報サービスを確立する。 **厳密に言えば、AIGC は、上記の最初の段落でサービスプロバイダーが提供するサービスのいずれにも属しておらず、ほとんどの AIGC は現在、自らをソーシャル メディア プラットフォームのみとは考えていません。ある家族によると、サ姉妹のチームは、ソーシャルメディアプラットフォーム上で広範に拡散する前述のAIGCのリスクを踏まえ、実質的な監督の観点から、AIGCは「世論表現の手段や国民の動員」に沿っている可能性が高いと考えているという。特定の活動機能を備えた他のインターネット情報サービスに従事するため。」したがって、この観点から、基本的な AIGC 業界のすべてのトラックのサービス プロバイダーは、テキスト生成、画像生成、ビデオ生成、オーディオ生成などを含むがこれらに限定されない深層合成アルゴリズムの出願に関与する可能性があります。最も重要な判断基準は利用者集団の公開度であり、サービス提供者が不特定多数にサービスを提供する場合、基本的には「深層合成規定」の範囲内となります。**3. 深層合成アルゴリズムのファイリング方法**まず、申告方法はオンライン申告です。 「世論属性または社会動員機能を備えたインターネット情報サービスの安全性評価に関する規則」の要件に従って、提出要件を満たすサービスプロバイダーは、セキュリティ管理サービスプラットフォーム（住所;出願手続きにおいて、出願の成功率を左右する最も重要な資料は、深層合成サービスプロバイダーから提出される「評価報告書」です。 2種類の特定機能のモデルやテンプレートなどのツールを提供する深層合成サービスプロバイダーやテクニカルサポーターは、自己評価または専門機関にセキュリティ評価を委託した上で発行する「評価レポート」を提出する必要があります。1. 顔や声などの生体情報を生成または編集します。2. 国家安全保障、国家イメージ、国益、社会的公益に関わる可能性のある特別なオブジェクトやシーンなどの非生体情報の生成または編集。上記 2 種類のサービスに関わる領域や情報は比較的機密性が高いため、具体的な評価内容は、基本的な評価項目をベースに、個人情報保護法、サイバーセキュリティ等に準拠した評価基準を追加する必要があります。安全保障法とデータセキュリティ法。一般的に、次の 7 つの主要な評価基準があります。(1) 安全管理責任者、情報審査担当者及び安全管理機関の設置者(2) 利用者の本人確認及び登録情報の保存措置。(3) ユーザーアカウント、操作時間、操作タイプ、ネットワークソースおよび宛先アドレス、ネットワークソースポート、クライアントハードウェア機能、ユーザーが公開した情報の記録などのログ情報。(4) 違法かつ有害な情報の防止と廃棄、およびユーザー アカウントおよびコミュニケーション グループの名前、ニックネーム、プロフィール、メモ、ロゴ、情報の公開、転送、コメント、コミュニケーション グループおよびその他のサービス機能に関する関連記録の保管措置。(5) 個人情報の保護と、違法かつ有害な情報の拡散および社会動員機能が制御不能になるリスクを防止するための技術的措置。(6) 苦情・通報制度を確立し、苦情・通報方法等の情報を公表し、苦情・通報については速やかに受け付けて対応します。(7) 規制当局と法執行機関が法律に従って職務を遂行するための技術的およびデータのサポートと支援を提供するための作業メカニズムの確立。**最後に書きました**深層合成ファイリング システムは、我が国の人工知能とアルゴリズムのリスク管理における重要な革新であり、新たなブレークスルーです。Sa 姉妹のチームは、**AIGC 業界は、専門のコンプライアンス担当者と相談して、アルゴリズムのセキュリティ評価と深層合成アルゴリズムのファイリングを実施する必要があると提案しています。 **
中国サイバースペース局の新たな行動は、各AIGCプラットフォームアルゴリズムの申請に関連している
コアチップ
2023 年 6 月 20 日、中華人民共和国インターネット情報局は中国における深層合成アルゴリズムの申請リストの第 1 弾を発表し、多くの大手メーカーや AIGC 業界のパイオニアが無事リストアップされました。これは、中国のアルゴリズムと人工知能のリスクガバナンスにおける重要な一歩であるだけでなく、AIGC業界のコンプライアンスにおける大きな進歩でもあります。
今日は、Sister Sa のチームが、深層合成アルゴリズムの申請とは何か、AIGC 業界が申請する必要がある状況とその方法について詳しく説明します。
**1. 深層合成アルゴリズムファイリングとは何ですか? **
現在までに、私の国には AIGC ツールに関する 2 つの特定の法律があり、どちらも州インターネット情報局によって策定および発行されました。
1. 「インターネット インフォメーション サービス深層合成管理規程」(以下「深層合成規程」といいます);
2.「生成型人工知能サービスに係る行政措置（意見募集案）」（以下「行政措置案」という。）
AIGC 自体が情報ネットワーク技術を活用した強い誘導・誘導能力を持っているため、拡散が早く広範囲に拡散するという特徴から、AIGC コンテンツが短期間でバイラルに拡散する可能性が高いと考えられます。昔、あるセルフメディアプラットフォームが ChatGPT を使用していました。フェイクニュースを作成し、トラフィックを獲得し、一部の地域で不適切に世論を誘導した事例は、AIGC ツール自体が世論誘導ツールまたは世論誘導ツールとして機能する危険性を明確に示しています。詐欺ツール。我が国の規制当局が、社会治安の長期的な調和と安定を維持するという法益に基づいて、AIGC企業に独自のアルゴリズムを提出する義務を与えたのは、まさにこの特徴に基づいています。
したがって、まず最初に、いわゆる深層合成テクノロジーが何を指すのかを理解する必要があります。 「深層合成規則」第 23 条の規定によると、深層合成技術とは、深層学習、仮想現実およびその他の合成アルゴリズムを使用して、テキスト、画像、オーディオ、ビデオ、仮想シーンなどのネットワーク情報を生成することを指します。 . 以下を含みますが、これらに限定されません。
(1) 章の生成、テキスト スタイルの変換、質疑応答ダイアログなどのテキスト コンテンツを生成または編集するための技術。
(2) 音声合成、音声変換、音声属性編集など、音声コンテンツを生成または編集する技術
(3) 音楽生成やシーンサウンド編集などの非音声コンテンツの生成・編集技術
(4) 顔生成、顔置換、文字属性編集、顔操作、ジェスチャー操作など、画像やビデオ コンテンツ内の生体特徴を生成または編集する技術。
(5) 画像生成、画像強調、画像復元など、画像およびビデオ コンテンツ内の非生物学的特徴を生成または編集する技術。
**(6) 三次元再構成やデジタルシミュレーションなど、デジタルキャラクターや仮想シーンを生成・編集する技術。 **
上記の6種類のアプリケーションに加えて、「管理措置案」第6条の規定により、公衆にサービスを提供するために生成人工知能製品を使用する前に、「インターネット情報サービスセキュリティ評価規則」に従う必要があります。 「インターネット情報サービスアルゴリズム推奨管理規程」に基づき、国家ネットワーク情報部門に安全性評価を報告し、アルゴリズムの届出、変更、取消しの届出手続きを行う。
したがって、「管理措置案」発効後、この条項に大きな変更がなければ、管理法第2条の規定に基づき、「テキスト、画像を生成するためのアルゴリズム、モデル、ルール」も盛り込むべきである。 、サウンド、ビデオ、コードなど」は、「深層合成技術」のカテゴリに含まれます。
**2. どの深層合成技術アルゴリズムを申請する必要がありますか? **
Sa 姉妹のチームは、すべての深層合成技術がサービス プロバイダーに記録を登録する必要があるわけではないことを思い出させます。技術中立性の原則に基づき、特定の条件を満たす深層合成技術サービス プロバイダーのみがアルゴリズムを登録する必要があります。
具体的には、深層合成アルゴリズムを記録するAIGC業界は、主に「深層合成規則」第19条に規定される「世論属性または社会動員能力を有する深層合成サービス提供者」の範囲に集中している。しかし、実際には、何が「世論の属性または社会的動員能力」を構成するのかを定義する基準は比較的曖昧である。
世論属性または社会動員機能を備えたインターネット情報サービスの安全性評価に関する規定の第 2 条によると、世論属性または社会動員機能を備えたインターネット情報サービスには、次の状況が含まれます。
(1) フォーラム、ブログ、マイクロブログ、チャット ルーム、コミュニケーション グループ、公開アカウント、ショート ビデオ、ウェブキャスト、情報共有、ミニ プログラムなどの情報サービスの確立、または対応する機能の追加。
**(2) 世論を表明するためのチャネルを提供する、または特定の活動に大衆を動員する機能を備えたその他のインターネット情報サービスを確立する。 **
厳密に言えば、AIGC は、上記の最初の段落でサービスプロバイダーが提供するサービスのいずれにも属しておらず、ほとんどの AIGC は現在、自らをソーシャル メディア プラットフォームのみとは考えていません。ある家族によると、サ姉妹のチームは、ソーシャルメディアプラットフォーム上で広範に拡散する前述のAIGCのリスクを踏まえ、実質的な監督の観点から、AIGCは「世論表現の手段や国民の動員」に沿っている可能性が高いと考えているという。特定の活動機能を備えた他のインターネット情報サービスに従事するため。」
したがって、この観点から、基本的な AIGC 業界のすべてのトラックのサービス プロバイダーは、テキスト生成、画像生成、ビデオ生成、オーディオ生成などを含むがこれらに限定されない深層合成アルゴリズムの出願に関与する可能性があります。最も重要な判断基準は利用者集団の公開度であり、サービス提供者が不特定多数にサービスを提供する場合、基本的には「深層合成規定」の範囲内となります。
3. 深層合成アルゴリズムのファイリング方法
まず、申告方法はオンライン申告です。 「世論属性または社会動員機能を備えたインターネット情報サービスの安全性評価に関する規則」の要件に従って、提出要件を満たすサービスプロバイダーは、セキュリティ管理サービスプラットフォーム（住所;
出願手続きにおいて、出願の成功率を左右する最も重要な資料は、深層合成サービスプロバイダーから提出される「評価報告書」です。 2種類の特定機能のモデルやテンプレートなどのツールを提供する深層合成サービスプロバイダーやテクニカルサポーターは、自己評価または専門機関にセキュリティ評価を委託した上で発行する「評価レポート」を提出する必要があります。
顔や声などの生体情報を生成または編集します。
国家安全保障、国家イメージ、国益、社会的公益に関わる可能性のある特別なオブジェクトやシーンなどの非生体情報の生成または編集。
上記 2 種類のサービスに関わる領域や情報は比較的機密性が高いため、具体的な評価内容は、基本的な評価項目をベースに、個人情報保護法、サイバーセキュリティ等に準拠した評価基準を追加する必要があります。安全保障法とデータセキュリティ法。
一般的に、次の 7 つの主要な評価基準があります。
(1) 安全管理責任者、情報審査担当者及び安全管理機関の設置者
(2) 利用者の本人確認及び登録情報の保存措置。
(3) ユーザーアカウント、操作時間、操作タイプ、ネットワークソースおよび宛先アドレス、ネットワークソースポート、クライアントハードウェア機能、ユーザーが公開した情報の記録などのログ情報。
(4) 違法かつ有害な情報の防止と廃棄、およびユーザー アカウントおよびコミュニケーション グループの名前、ニックネーム、プロフィール、メモ、ロゴ、情報の公開、転送、コメント、コミュニケーション グループおよびその他のサービス機能に関する関連記録の保管措置。
(5) 個人情報の保護と、違法かつ有害な情報の拡散および社会動員機能が制御不能になるリスクを防止するための技術的措置。
(6) 苦情・通報制度を確立し、苦情・通報方法等の情報を公表し、苦情・通報については速やかに受け付けて対応します。
(7) 規制当局と法執行機関が法律に従って職務を遂行するための技術的およびデータのサポートと支援を提供するための作業メカニズムの確立。
最後に書きました
深層合成ファイリング システムは、我が国の人工知能とアルゴリズムのリスク管理における重要な革新であり、新たなブレークスルーです。Sa 姉妹のチームは、**AIGC 業界は、専門のコンプライアンス担当者と相談して、アルゴリズムのセキュリティ評価と深層合成アルゴリズムのファイリングを実施する必要があると提案しています。 **