Le 20 juin 2023, le Bureau d'information sur Internet de la République populaire de Chine a annoncé le premier lot de listes de classement d'algorithmes de synthèse profonde en Chine, et de nombreux grands fabricants et pionniers de l'industrie AIGC ont été répertoriés avec succès. Il s'agit non seulement d'une étape clé dans la gouvernance des risques liés aux algorithmes et à l'intelligence artificielle en Chine, mais également d'une percée majeure dans la conformité de l'industrie AIGC.
Aujourd'hui, l'équipe de Sister Sa vous expliquera en détail ce qu'est le dépôt de l'algorithme de synthèse profonde, et dans quelles circonstances l'industrie AIGC doit déposer et comment déposer.
**1. Qu'est-ce que le dépôt d'algorithme de synthèse profonde ? **
Jusqu'à présent, il existe deux législations spécifiques sur les outils AIGC dans mon pays, qui ont toutes deux été formulées et publiées par le Bureau national d'information sur Internet :
**1. « Règlement sur la gestion de la synthèse approfondie des services d'information sur Internet » (ci-après dénommé « Règlement sur la synthèse approfondie ») ** ;
2. "Mesures administratives pour les services d'intelligence artificielle générative (projet pour commentaires)" (ci-après dénommé "projet de mesures administratives")
Étant donné que l'AIGC lui-même a une forte capacité à guider ou à induire, avec l'aide de la technologie des réseaux d'information, les caractéristiques de diffusion rapide et de large diffusion sont susceptibles de conduire à la propagation virale du contenu de l'AIGC dans un court laps de temps. il y a longtemps, une plate-forme auto-média utilisait ChatGPT Le cas de la création de fausses nouvelles et de la diffusion à grande échelle du cas de gain de trafic et de l'orientation inappropriée de l'opinion publique dans certaines régions nous a clairement montré le risque de l'outil AIGC lui-même en tant qu'outil d'orientation de l'opinion publique ou un outil frauduleux. C'est précisément sur la base de cette caractéristique que les autorités de régulation de mon pays ont imposé aux entreprises de l'AIGC l'obligation de déposer leurs propres algorithmes fondés sur l'intérêt légal de maintenir à long terme l'harmonie et la stabilité de l'ordre public social.
Il faut donc tout d'abord comprendre à quoi se réfère la technologie dite de synthèse profonde. Selon les dispositions de l'article 23 du "Règlement sur la synthèse profonde", la technologie de synthèse profonde fait référence à l'utilisation de l'apprentissage en profondeur, de la réalité virtuelle et d'autres algorithmes synthétiques pour produire des informations réseau telles que du texte, des images, de l'audio, de la vidéo et des scènes virtuelles, y compris, mais sans s'y limiter :
(1) Techniques de génération ou d'édition de contenu textuel telles que la génération de chapitres, la conversion de style de texte et le dialogue questions-réponses ;
(2) Technologies de génération ou d'édition de contenu vocal, telles que la synthèse vocale, la conversion vocale et l'édition d'attributs vocaux ;
(3) Technologies de génération ou d'édition de contenu non vocal telles que la génération de musique et l'édition de sons de scènes ;
(4) Technologies de génération ou d'édition de caractéristiques biométriques dans les images et le contenu vidéo, telles que la génération de visage, le remplacement de visage, l'édition d'attributs de personnage, la manipulation de visage et la manipulation de gestes ;
(5) Technologie permettant de générer ou de modifier des caractéristiques non biologiques dans des images et du contenu vidéo, telles que la génération d'images, l'amélioration d'images et la restauration d'images ;
**(6) Technologies de génération ou d'édition de personnages numériques et de scènes virtuelles, telles que la reconstruction tridimensionnelle et la simulation numérique. **
En plus des six types d'applications énumérées ci-dessus, conformément aux dispositions de l'article 6 du "Projet de mesures de gestion": avant d'utiliser des produits d'intelligence artificielle générative pour fournir des services au public, ils doivent suivre le "Règlement d'évaluation de la sécurité des services d'information sur Internet avec des Attributs d'Opinion Publique ou des Capacités de Mobilisation Sociale" "Signaler l'évaluation de la sécurité au département national de l'information sur le réseau et effectuer les procédures de dépôt, de modification et d'annulation de l'algorithme conformément aux "Règlements de gestion des recommandations d'algorithmes de service d'information Internet".
Par conséquent, après l'entrée en vigueur du "Projet de mesures de gestion", s'il n'y a pas de changement majeur dans cette clause, nous devrions également, conformément aux dispositions de l'article 2 de la loi de gestion, inclure "des algorithmes, des modèles, des règles pour générer du texte, des images , sons, vidéos, codes, etc. etc." inclus dans la catégorie "technologie de synthèse profonde".
**2. Quels algorithmes de technologie de synthèse profonde doivent être déposés ? **
L'équipe de Sister Sa rappelle que toutes les technologies de synthèse profonde n'exigent pas que leurs fournisseurs de services s'inscrivent à l'enregistrement. En vertu du principe de neutralité technologique, seuls les fournisseurs de services de technologie de synthèse profonde qui remplissent des conditions spécifiques doivent enregistrer leurs algorithmes.
Plus précisément, l'industrie AIGC qui enregistre les algorithmes de synthèse profonde est principalement concentrée dans le champ d'application des "fournisseurs de services de synthèse profonde avec des attributs d'opinion publique ou des capacités de mobilisation sociale" stipulés à l'article 19 du "Règlement sur la synthèse profonde". Cependant, dans la pratique, les critères pour définir ce qui constitue « les attributs de l'opinion publique ou les capacités de mobilisation sociale » sont relativement flous.
Selon l'article 2 des dispositions sur l'évaluation de la sécurité des services d'information sur Internet dotés d'attributs d'opinion publique ou de capacités de mobilisation sociale, les services d'information Internet dotés d'attributs d'opinion publique ou de capacités de mobilisation sociale comprennent les situations suivantes :
(1) Établir des services d'information tels que des forums, des blogs, des microblogs, des salons de discussion, des groupes de communication, des comptes publics, de courtes vidéos, des webémissions, le partage d'informations et des mini-programmes, ou attacher des fonctions correspondantes ;
**(2) Établir d'autres services d'information sur Internet qui fournissent des canaux pour l'expression de l'opinion publique ou qui ont la capacité de mobiliser le public pour qu'il s'engage dans des activités spécifiques. **
À proprement parler, AIGC n'appartient à aucun des services fournis par le fournisseur de services dans le premier paragraphe ci-dessus, et la plupart des AIGC ne se considèrent actuellement pas uniquement comme une plate-forme de médias sociaux. Selon une famille, l'équipe de Sister Sa estime que sur la base du risque de diffusion généralisée de l'AIGC susmentionné sur les plateformes de médias sociaux, du point de vue de la supervision de fond, il a une forte probabilité d'être en ligne avec les «canaux d'expression de l'opinion publique ou de mobilisation du public pour s'engager dans d'autres services d'information sur Internet avec des capacités d'activité spécifiques ».
Par conséquent, de ce point de vue, les fournisseurs de services de toutes les pistes de l'industrie AIGC de base peuvent être impliqués dans le dépôt d'algorithmes de synthèse profonde, y compris, mais sans s'y limiter, la génération de texte, la génération d'images, la génération vidéo, la génération audio, etc. Le critère le plus important pour juger est le degré d'ouverture du groupe d'utilisateurs.Si le fournisseur de services fournit des services à un public non spécifié, il entre essentiellement dans le champ d'application du "règlement de synthèse approfondie".
3. Comment effectuer le dépôt d'un algorithme de synthèse approfondie
Premièrement, la méthode de dépôt est le dépôt en ligne. Conformément aux exigences du "Règlement sur l'évaluation de la sécurité des services d'information sur Internet avec des attributs d'opinion publique ou des capacités de mobilisation sociale", les fournisseurs de services qui satisfont aux exigences de dépôt doivent déposer sur la plate-forme de service de gestion de la sécurité (adresse ;
Dans le processus de dépôt, le matériel le plus important qui affecte le taux de réussite du dépôt est le "rapport d'évaluation" soumis par le fournisseur de services de synthèse approfondie. Les prestataires de services de synthèse profonde et les supports techniques qui fournissent des outils tels que des modèles et templates pour deux types de fonctions spécifiques doivent fournir un "rapport d'évaluation" délivré après auto-évaluation ou confier à un organisme professionnel la réalisation d'une évaluation de sécurité :
Générer ou modifier des informations biométriques telles que des visages et des voix ;
Générer ou éditer des informations non biométriques telles que des objets spéciaux et des scènes pouvant impliquer la sécurité nationale, l'image nationale, les intérêts nationaux et les intérêts publics sociaux.
Étant donné que les domaines et les informations impliqués dans les deux types de services ci-dessus sont relativement sensibles, le contenu spécifique de l'évaluation doit être basé sur les dimensions d'évaluation de base, en ajoutant des critères d'évaluation conformes à la loi sur la protection des informations personnelles, la cyber Loi sur la sécurité et la loi sur la sécurité des données.
De manière générale, il existe sept grands critères d'évaluation, à savoir :
(1) La personne en charge de la gestion de la sécurité, le personnel d'examen des informations et la mise en place d'institutions de gestion de la sécurité ;
(2) Mesures de vérification de l'identité de l'utilisateur et de conservation des informations d'enregistrement ;
(3) Informations de journalisation telles que les comptes d'utilisateurs, le temps de fonctionnement, les types d'opérations, les adresses de source et de destination du réseau, les ports de source du réseau, les fonctionnalités du matériel client et les enregistrements d'informations publiées par les utilisateurs ;
(4) Prévention et élimination des informations illégales et préjudiciables et mesures de conservation des enregistrements pertinentes pour les comptes d'utilisateurs et les noms de groupe de communication, surnoms, profils, notes, logos, publication d'informations, transfert, commentaires et groupes de communication et autres fonctions de service ;
(5) La protection des informations personnelles et les mesures techniques visant à prévenir la diffusion d'informations illégales et préjudiciables et le risque de mobilisation sociale deviennent incontrôlables ;
(6) Mettre en place un système de plainte et de signalement, publier des informations telles que les méthodes de plainte et de signalement, et accepter et traiter rapidement les plaintes et les signalements pertinents ;
(7) La mise en place d'un mécanisme de travail pour fournir un soutien technique et des données et une assistance aux organismes de réglementation et aux organismes d'application de la loi pour qu'ils s'acquittent de leurs fonctions conformément à la loi.
Écrit à la fin
Le système de dépôt de synthèse approfondie est une innovation importante et une nouvelle percée dans l'intelligence artificielle et la gestion des risques algorithmiques de mon pays. L'équipe de Sister Sa suggère que l'industrie ** AIGC doit effectuer des évaluations de la sécurité des algorithmes et des dépôts d'algorithmes de synthèse approfondie en consultation avec le personnel professionnel de la conformité. **
Voir l'original
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
La nouvelle action de l'Administration du Cyberespace de Chine est liée au dépôt de chaque algorithme de plateforme AIGC
Conseil de base
Le 20 juin 2023, le Bureau d'information sur Internet de la République populaire de Chine a annoncé le premier lot de listes de classement d'algorithmes de synthèse profonde en Chine, et de nombreux grands fabricants et pionniers de l'industrie AIGC ont été répertoriés avec succès. Il s'agit non seulement d'une étape clé dans la gouvernance des risques liés aux algorithmes et à l'intelligence artificielle en Chine, mais également d'une percée majeure dans la conformité de l'industrie AIGC.
Aujourd'hui, l'équipe de Sister Sa vous expliquera en détail ce qu'est le dépôt de l'algorithme de synthèse profonde, et dans quelles circonstances l'industrie AIGC doit déposer et comment déposer.
**1. Qu'est-ce que le dépôt d'algorithme de synthèse profonde ? **
Jusqu'à présent, il existe deux législations spécifiques sur les outils AIGC dans mon pays, qui ont toutes deux été formulées et publiées par le Bureau national d'information sur Internet :
**1. « Règlement sur la gestion de la synthèse approfondie des services d'information sur Internet » (ci-après dénommé « Règlement sur la synthèse approfondie ») ** ;
2. "Mesures administratives pour les services d'intelligence artificielle générative (projet pour commentaires)" (ci-après dénommé "projet de mesures administratives")
Étant donné que l'AIGC lui-même a une forte capacité à guider ou à induire, avec l'aide de la technologie des réseaux d'information, les caractéristiques de diffusion rapide et de large diffusion sont susceptibles de conduire à la propagation virale du contenu de l'AIGC dans un court laps de temps. il y a longtemps, une plate-forme auto-média utilisait ChatGPT Le cas de la création de fausses nouvelles et de la diffusion à grande échelle du cas de gain de trafic et de l'orientation inappropriée de l'opinion publique dans certaines régions nous a clairement montré le risque de l'outil AIGC lui-même en tant qu'outil d'orientation de l'opinion publique ou un outil frauduleux. C'est précisément sur la base de cette caractéristique que les autorités de régulation de mon pays ont imposé aux entreprises de l'AIGC l'obligation de déposer leurs propres algorithmes fondés sur l'intérêt légal de maintenir à long terme l'harmonie et la stabilité de l'ordre public social.
Il faut donc tout d'abord comprendre à quoi se réfère la technologie dite de synthèse profonde. Selon les dispositions de l'article 23 du "Règlement sur la synthèse profonde", la technologie de synthèse profonde fait référence à l'utilisation de l'apprentissage en profondeur, de la réalité virtuelle et d'autres algorithmes synthétiques pour produire des informations réseau telles que du texte, des images, de l'audio, de la vidéo et des scènes virtuelles, y compris, mais sans s'y limiter :
(1) Techniques de génération ou d'édition de contenu textuel telles que la génération de chapitres, la conversion de style de texte et le dialogue questions-réponses ;
(2) Technologies de génération ou d'édition de contenu vocal, telles que la synthèse vocale, la conversion vocale et l'édition d'attributs vocaux ;
(3) Technologies de génération ou d'édition de contenu non vocal telles que la génération de musique et l'édition de sons de scènes ;
(4) Technologies de génération ou d'édition de caractéristiques biométriques dans les images et le contenu vidéo, telles que la génération de visage, le remplacement de visage, l'édition d'attributs de personnage, la manipulation de visage et la manipulation de gestes ;
(5) Technologie permettant de générer ou de modifier des caractéristiques non biologiques dans des images et du contenu vidéo, telles que la génération d'images, l'amélioration d'images et la restauration d'images ;
**(6) Technologies de génération ou d'édition de personnages numériques et de scènes virtuelles, telles que la reconstruction tridimensionnelle et la simulation numérique. **
En plus des six types d'applications énumérées ci-dessus, conformément aux dispositions de l'article 6 du "Projet de mesures de gestion": avant d'utiliser des produits d'intelligence artificielle générative pour fournir des services au public, ils doivent suivre le "Règlement d'évaluation de la sécurité des services d'information sur Internet avec des Attributs d'Opinion Publique ou des Capacités de Mobilisation Sociale" "Signaler l'évaluation de la sécurité au département national de l'information sur le réseau et effectuer les procédures de dépôt, de modification et d'annulation de l'algorithme conformément aux "Règlements de gestion des recommandations d'algorithmes de service d'information Internet".
Par conséquent, après l'entrée en vigueur du "Projet de mesures de gestion", s'il n'y a pas de changement majeur dans cette clause, nous devrions également, conformément aux dispositions de l'article 2 de la loi de gestion, inclure "des algorithmes, des modèles, des règles pour générer du texte, des images , sons, vidéos, codes, etc. etc." inclus dans la catégorie "technologie de synthèse profonde".
**2. Quels algorithmes de technologie de synthèse profonde doivent être déposés ? **
L'équipe de Sister Sa rappelle que toutes les technologies de synthèse profonde n'exigent pas que leurs fournisseurs de services s'inscrivent à l'enregistrement. En vertu du principe de neutralité technologique, seuls les fournisseurs de services de technologie de synthèse profonde qui remplissent des conditions spécifiques doivent enregistrer leurs algorithmes.
Plus précisément, l'industrie AIGC qui enregistre les algorithmes de synthèse profonde est principalement concentrée dans le champ d'application des "fournisseurs de services de synthèse profonde avec des attributs d'opinion publique ou des capacités de mobilisation sociale" stipulés à l'article 19 du "Règlement sur la synthèse profonde". Cependant, dans la pratique, les critères pour définir ce qui constitue « les attributs de l'opinion publique ou les capacités de mobilisation sociale » sont relativement flous.
Selon l'article 2 des dispositions sur l'évaluation de la sécurité des services d'information sur Internet dotés d'attributs d'opinion publique ou de capacités de mobilisation sociale, les services d'information Internet dotés d'attributs d'opinion publique ou de capacités de mobilisation sociale comprennent les situations suivantes :
(1) Établir des services d'information tels que des forums, des blogs, des microblogs, des salons de discussion, des groupes de communication, des comptes publics, de courtes vidéos, des webémissions, le partage d'informations et des mini-programmes, ou attacher des fonctions correspondantes ;
**(2) Établir d'autres services d'information sur Internet qui fournissent des canaux pour l'expression de l'opinion publique ou qui ont la capacité de mobiliser le public pour qu'il s'engage dans des activités spécifiques. **
À proprement parler, AIGC n'appartient à aucun des services fournis par le fournisseur de services dans le premier paragraphe ci-dessus, et la plupart des AIGC ne se considèrent actuellement pas uniquement comme une plate-forme de médias sociaux. Selon une famille, l'équipe de Sister Sa estime que sur la base du risque de diffusion généralisée de l'AIGC susmentionné sur les plateformes de médias sociaux, du point de vue de la supervision de fond, il a une forte probabilité d'être en ligne avec les «canaux d'expression de l'opinion publique ou de mobilisation du public pour s'engager dans d'autres services d'information sur Internet avec des capacités d'activité spécifiques ».
Par conséquent, de ce point de vue, les fournisseurs de services de toutes les pistes de l'industrie AIGC de base peuvent être impliqués dans le dépôt d'algorithmes de synthèse profonde, y compris, mais sans s'y limiter, la génération de texte, la génération d'images, la génération vidéo, la génération audio, etc. Le critère le plus important pour juger est le degré d'ouverture du groupe d'utilisateurs.Si le fournisseur de services fournit des services à un public non spécifié, il entre essentiellement dans le champ d'application du "règlement de synthèse approfondie".
3. Comment effectuer le dépôt d'un algorithme de synthèse approfondie
Premièrement, la méthode de dépôt est le dépôt en ligne. Conformément aux exigences du "Règlement sur l'évaluation de la sécurité des services d'information sur Internet avec des attributs d'opinion publique ou des capacités de mobilisation sociale", les fournisseurs de services qui satisfont aux exigences de dépôt doivent déposer sur la plate-forme de service de gestion de la sécurité (adresse ;
Dans le processus de dépôt, le matériel le plus important qui affecte le taux de réussite du dépôt est le "rapport d'évaluation" soumis par le fournisseur de services de synthèse approfondie. Les prestataires de services de synthèse profonde et les supports techniques qui fournissent des outils tels que des modèles et templates pour deux types de fonctions spécifiques doivent fournir un "rapport d'évaluation" délivré après auto-évaluation ou confier à un organisme professionnel la réalisation d'une évaluation de sécurité :
Générer ou modifier des informations biométriques telles que des visages et des voix ;
Générer ou éditer des informations non biométriques telles que des objets spéciaux et des scènes pouvant impliquer la sécurité nationale, l'image nationale, les intérêts nationaux et les intérêts publics sociaux.
Étant donné que les domaines et les informations impliqués dans les deux types de services ci-dessus sont relativement sensibles, le contenu spécifique de l'évaluation doit être basé sur les dimensions d'évaluation de base, en ajoutant des critères d'évaluation conformes à la loi sur la protection des informations personnelles, la cyber Loi sur la sécurité et la loi sur la sécurité des données.
De manière générale, il existe sept grands critères d'évaluation, à savoir :
(1) La personne en charge de la gestion de la sécurité, le personnel d'examen des informations et la mise en place d'institutions de gestion de la sécurité ;
(2) Mesures de vérification de l'identité de l'utilisateur et de conservation des informations d'enregistrement ;
(3) Informations de journalisation telles que les comptes d'utilisateurs, le temps de fonctionnement, les types d'opérations, les adresses de source et de destination du réseau, les ports de source du réseau, les fonctionnalités du matériel client et les enregistrements d'informations publiées par les utilisateurs ;
(4) Prévention et élimination des informations illégales et préjudiciables et mesures de conservation des enregistrements pertinentes pour les comptes d'utilisateurs et les noms de groupe de communication, surnoms, profils, notes, logos, publication d'informations, transfert, commentaires et groupes de communication et autres fonctions de service ;
(5) La protection des informations personnelles et les mesures techniques visant à prévenir la diffusion d'informations illégales et préjudiciables et le risque de mobilisation sociale deviennent incontrôlables ;
(6) Mettre en place un système de plainte et de signalement, publier des informations telles que les méthodes de plainte et de signalement, et accepter et traiter rapidement les plaintes et les signalements pertinents ;
(7) La mise en place d'un mécanisme de travail pour fournir un soutien technique et des données et une assistance aux organismes de réglementation et aux organismes d'application de la loi pour qu'ils s'acquittent de leurs fonctions conformément à la loi.
Écrit à la fin
Le système de dépôt de synthèse approfondie est une innovation importante et une nouvelle percée dans l'intelligence artificielle et la gestion des risques algorithmiques de mon pays. L'équipe de Sister Sa suggère que l'industrie ** AIGC doit effectuer des évaluations de la sécurité des algorithmes et des dépôts d'algorithmes de synthèse approfondie en consultation avec le personnel professionnel de la conformité. **