Em 20 de junho de 2023, o Escritório de Informações da Internet da República Popular da China anunciou o primeiro lote de listas de arquivamento de algoritmos de síntese profunda na China, e muitos dos principais fabricantes e pioneiros da indústria de AIGC foram listados com sucesso. Este não é apenas um passo fundamental no algoritmo da China e na governança de risco de inteligência artificial, mas também um grande avanço na conformidade da indústria AIGC.
Hoje, a equipe da Sister Sa explicará em detalhes o que é o arquivamento do algoritmo de síntese profunda e em que circunstâncias a indústria AIGC precisa arquivar e como arquivar.
**1. O que é arquivamento de algoritmo de síntese profunda? **
Até agora, existem duas legislações específicas sobre ferramentas AIGC em meu país, ambas formuladas e emitidas pelo State Internet Information Office:
1. "Regulamentos de Gerenciamento de Síntese Profunda do Serviço de Informações da Internet" (doravante denominados "Regulamentos de Síntese Profunda");
2. "Medidas Administrativas para Serviços Geradores de Inteligência Artificial (Rascunho para Comentário)" (doravante referido como "Mistura de Medidas Administrativas")
Como o próprio AIGC tem uma forte capacidade de orientar ou induzir, com a ajuda da tecnologia de rede de informação, as características de rápida disseminação e ampla disseminação provavelmente levarão à disseminação viral do conteúdo do AIGC em um curto período de tempo. há muito tempo, uma plataforma de automídia usava o ChatGPT Os casos de criação de fake news e ampla divulgação para ganhar tráfego e orientar indevidamente a opinião pública em algumas áreas nos mostraram claramente o risco da própria ferramenta AIGC ser uma ferramenta de orientação de opinião pública ou uma fraude ferramenta. É precisamente com base nessa característica que as autoridades reguladoras do meu país impuseram às empresas AIGC a obrigação de arquivar seus próprios algoritmos com base no interesse jurídico de manter a harmonia e a estabilidade da ordem pública social a longo prazo.
Portanto, antes de mais nada, precisamos entender a que se refere a chamada tecnologia de síntese profunda. De acordo com as disposições do Artigo 23 dos "Regulamentos de Síntese Profunda", a tecnologia de síntese profunda refere-se ao uso de aprendizado profundo, realidade virtual e outros algoritmos sintéticos para produzir informações de rede, como texto, imagens, áudio, vídeo e cenas virtuais, incluindo mas não limitado a:
(1) Técnicas para gerar ou editar conteúdo de texto, como geração de capítulos, conversão de estilo de texto e diálogo de perguntas e respostas;
(2) Tecnologias para geração ou edição de conteúdo de voz, como conversão de texto em fala, conversão de voz e edição de atributos de voz;
(3) Tecnologias para geração ou edição de conteúdo não falado, como geração de música e edição de som de cena;
(4) Tecnologias para geração ou edição de recursos biométricos em imagens e conteúdo de vídeo, como geração de face, substituição de face, edição de atributo de personagem, manipulação de face e manipulação de gestos;
(5) Tecnologia para gerar ou editar recursos não biológicos em imagens e conteúdo de vídeo, como geração de imagem, aprimoramento de imagem e restauração de imagem;
**(6) Tecnologias para geração ou edição de personagens digitais e cenas virtuais, como reconstrução tridimensional e simulação digital. **
Além dos seis tipos de aplicativos listados acima, de acordo com o disposto no Artigo 6 das "Medidas de Gerenciamento de Projetos": antes de usar produtos generativos de inteligência artificial para fornecer serviços ao público, eles devem seguir o "Regulamento de Avaliação de Segurança de Serviços de Informações da Internet com Atributos de Opinião Pública ou Capacidades de Mobilização Social" "Relatar a avaliação de segurança ao departamento de informações da rede nacional e executar procedimentos de arquivamento, modificação e cancelamento de algoritmos de acordo com os "Regulamentos de Gerenciamento de Recomendação de Algoritmo de Serviço de Informações da Internet".
Portanto, após a entrada em vigor do "Projeto de Medidas de Gestão", se não houver alteração importante nesta cláusula, devemos também, de acordo com o disposto no artigo 2º da Lei de Gestão, incluir "algoritmos, modelos, regras para geração de texto, imagens , sons, vídeos, códigos, etc. etc." incluídos na categoria de "tecnologia de síntese profunda".
**2. Quais algoritmos de tecnologia de síntese profunda precisam ser arquivados? **
A equipe da Sister Sa lembra que nem todas as tecnologias de síntese profunda exigem que seus provedores de serviços se registrem para o registro. Sob a orientação do princípio da neutralidade tecnológica, apenas os provedores de serviços de tecnologia de síntese profunda que atendem a condições específicas precisam registrar seus algoritmos.
Especificamente, a indústria AIGC que registra algoritmos de síntese profunda está concentrada principalmente no escopo de "provedores de serviços de síntese profunda com atributos de opinião pública ou capacidades de mobilização social" estipulados no Artigo 19 dos "Regulamentos de Síntese Profunda". No entanto, na prática, os critérios para definir o que constituem “atributos de opinião pública ou capacidades de mobilização social” são relativamente vagos.
De acordo com o Artigo 2 das Disposições sobre Avaliação de Segurança de Serviços de Informação da Internet com Atributos de Opinião Pública ou Capacidades de Mobilização Social, os serviços de informação da Internet com atributos de opinião pública ou capacidades de mobilização social incluem as seguintes situações:
(1) Estabelecer serviços de informação como fóruns, blogs, microblogs, salas de bate-papo, grupos de comunicação, contas públicas, vídeos curtos, webcasts, compartilhamento de informações e miniprogramas, ou anexar funções correspondentes;
**(2) Estabelecer outros serviços de informação na Internet que forneçam canais para a expressão da opinião pública ou tenham a capacidade de mobilizar o público para se envolver em atividades específicas. **
Estritamente falando, o AIGC não pertence a nenhum dos serviços fornecidos pelo provedor de serviços no primeiro parágrafo acima, e a maioria dos AIGCs atualmente não se considera apenas uma plataforma de mídia social. Segundo uma família, a equipe da irmã Sa acredita que, com base no risco de ampla disseminação do AIGC em plataformas de mídia social, do ponto de vista da supervisão substantiva, tem alta probabilidade de estar em sintonia com “canais de expressão de opinião pública ou mobilizar o público para se envolver em outros serviços de informação da Internet com capacidades de atividade específicas".
Portanto, a partir dessa perspectiva, os provedores de serviços de todas as faixas na indústria básica de AIGC podem estar envolvidos no preenchimento de algoritmos de síntese profunda, incluindo, entre outros, geração de texto, geração de imagem, geração de vídeo, geração de áudio, etc. O critério mais importante para julgar é o grau de abertura do grupo de usuários.Se o prestador de serviços presta serviços a um público não especificado, está basicamente dentro do escopo do "Deep Synthesis Regulations".
3. Como realizar o arquivamento do algoritmo de síntese profunda
Primeiro, o método de arquivamento é o arquivamento online. De acordo com os requisitos do "Regulamento sobre a Avaliação de Segurança de Serviços de Informação da Internet com Atributos de Opinião Pública ou Capacidades de Mobilização Social", os prestadores de serviços que cumpram os requisitos de depósito devem registar na plataforma de serviços de gestão de segurança (endereço;
No processo de arquivamento, o material mais importante que afeta a taxa de sucesso do arquivamento é o "Relatório de Avaliação" apresentado pelo provedor de serviços de síntese profunda. Os provedores de serviços de síntese profunda e os suportes técnicos que fornecem ferramentas como modelos e modelos para dois tipos de funções específicas devem fornecer um "relatório de avaliação" emitido após a autoavaliação ou confiar a uma organização profissional a realização de uma avaliação de segurança:
Gerar ou editar informações biométricas como rostos e vozes;
Gerar ou editar informações não biométricas, como objetos e cenas especiais que possam envolver segurança nacional, imagem nacional, interesses nacionais e interesses sociais públicos.
Uma vez que as áreas e informações envolvidas nos dois tipos de serviços acima são relativamente sensíveis, o conteúdo específico da avaliação deve ser baseado nas dimensões básicas de avaliação, acrescentando critérios de avaliação que estejam em consonância com a Lei de Proteção de Informações Pessoais, o Cyber Lei de Segurança e Lei de Segurança de Dados.
De um modo geral, existem sete grandes critérios de avaliação, a saber:
(1) A pessoa encarregada da gestão de segurança, pessoal de revisão de informações e estabelecimento de instituições de gestão de segurança;
(2) Verificação da identidade do usuário e medidas de retenção de informações cadastrais;
(3) Informações de registro, como contas de usuário, tempo de operação, tipos de operação, endereços de origem e destino de rede, portas de origem de rede, recursos de hardware do cliente e registros de informações liberadas pelos usuários;
(4) Prevenção e descarte de informações ilegais e prejudiciais e medidas relevantes de manutenção de registros para contas de usuários e nomes de grupos de comunicação, apelidos, perfis, notas, logotipos, publicação de informações, encaminhamento, comentários e grupos de comunicação e outras funções de serviço;
(5) Proteção de informações pessoais e medidas técnicas para prevenir a disseminação de informações ilegais e nocivas e o risco de função de mobilização social fora de controle;
(6) Estabelecer um sistema de denúncias e denúncias, publicar informações como métodos de denúncias e denúncias e aceitar e tratar prontamente as denúncias e denúncias relevantes;
(7) O estabelecimento de um mecanismo de trabalho para fornecer suporte técnico e de dados e assistência para agências reguladoras e agências de aplicação da lei para desempenhar suas funções de acordo com a lei.
Escrito no final
O sistema de arquivamento de síntese profunda é uma inovação importante e um novo avanço na inteligência artificial e no gerenciamento de riscos de algoritmos do meu país. A equipe da irmã Sa sugere que a **indústria de AIGC deve realizar avaliações de segurança de algoritmos e arquivamentos de algoritmos de síntese profunda em consulta com o pessoal de conformidade profissional. **
Ver original
O conteúdo é apenas para referência, não uma solicitação ou oferta. Nenhum aconselhamento fiscal, de investimento ou jurídico é fornecido. Consulte a isenção de responsabilidade para obter mais informações sobre riscos.
A nova ação da Administração do Ciberespaço da China está relacionada ao arquivamento de cada algoritmo da plataforma AIGC
Dica básica
Em 20 de junho de 2023, o Escritório de Informações da Internet da República Popular da China anunciou o primeiro lote de listas de arquivamento de algoritmos de síntese profunda na China, e muitos dos principais fabricantes e pioneiros da indústria de AIGC foram listados com sucesso. Este não é apenas um passo fundamental no algoritmo da China e na governança de risco de inteligência artificial, mas também um grande avanço na conformidade da indústria AIGC.
Hoje, a equipe da Sister Sa explicará em detalhes o que é o arquivamento do algoritmo de síntese profunda e em que circunstâncias a indústria AIGC precisa arquivar e como arquivar.
**1. O que é arquivamento de algoritmo de síntese profunda? **
Até agora, existem duas legislações específicas sobre ferramentas AIGC em meu país, ambas formuladas e emitidas pelo State Internet Information Office:
1. "Regulamentos de Gerenciamento de Síntese Profunda do Serviço de Informações da Internet" (doravante denominados "Regulamentos de Síntese Profunda");
2. "Medidas Administrativas para Serviços Geradores de Inteligência Artificial (Rascunho para Comentário)" (doravante referido como "Mistura de Medidas Administrativas")
Como o próprio AIGC tem uma forte capacidade de orientar ou induzir, com a ajuda da tecnologia de rede de informação, as características de rápida disseminação e ampla disseminação provavelmente levarão à disseminação viral do conteúdo do AIGC em um curto período de tempo. há muito tempo, uma plataforma de automídia usava o ChatGPT Os casos de criação de fake news e ampla divulgação para ganhar tráfego e orientar indevidamente a opinião pública em algumas áreas nos mostraram claramente o risco da própria ferramenta AIGC ser uma ferramenta de orientação de opinião pública ou uma fraude ferramenta. É precisamente com base nessa característica que as autoridades reguladoras do meu país impuseram às empresas AIGC a obrigação de arquivar seus próprios algoritmos com base no interesse jurídico de manter a harmonia e a estabilidade da ordem pública social a longo prazo.
Portanto, antes de mais nada, precisamos entender a que se refere a chamada tecnologia de síntese profunda. De acordo com as disposições do Artigo 23 dos "Regulamentos de Síntese Profunda", a tecnologia de síntese profunda refere-se ao uso de aprendizado profundo, realidade virtual e outros algoritmos sintéticos para produzir informações de rede, como texto, imagens, áudio, vídeo e cenas virtuais, incluindo mas não limitado a:
(1) Técnicas para gerar ou editar conteúdo de texto, como geração de capítulos, conversão de estilo de texto e diálogo de perguntas e respostas;
(2) Tecnologias para geração ou edição de conteúdo de voz, como conversão de texto em fala, conversão de voz e edição de atributos de voz;
(3) Tecnologias para geração ou edição de conteúdo não falado, como geração de música e edição de som de cena;
(4) Tecnologias para geração ou edição de recursos biométricos em imagens e conteúdo de vídeo, como geração de face, substituição de face, edição de atributo de personagem, manipulação de face e manipulação de gestos;
(5) Tecnologia para gerar ou editar recursos não biológicos em imagens e conteúdo de vídeo, como geração de imagem, aprimoramento de imagem e restauração de imagem;
**(6) Tecnologias para geração ou edição de personagens digitais e cenas virtuais, como reconstrução tridimensional e simulação digital. **
Além dos seis tipos de aplicativos listados acima, de acordo com o disposto no Artigo 6 das "Medidas de Gerenciamento de Projetos": antes de usar produtos generativos de inteligência artificial para fornecer serviços ao público, eles devem seguir o "Regulamento de Avaliação de Segurança de Serviços de Informações da Internet com Atributos de Opinião Pública ou Capacidades de Mobilização Social" "Relatar a avaliação de segurança ao departamento de informações da rede nacional e executar procedimentos de arquivamento, modificação e cancelamento de algoritmos de acordo com os "Regulamentos de Gerenciamento de Recomendação de Algoritmo de Serviço de Informações da Internet".
Portanto, após a entrada em vigor do "Projeto de Medidas de Gestão", se não houver alteração importante nesta cláusula, devemos também, de acordo com o disposto no artigo 2º da Lei de Gestão, incluir "algoritmos, modelos, regras para geração de texto, imagens , sons, vídeos, códigos, etc. etc." incluídos na categoria de "tecnologia de síntese profunda".
**2. Quais algoritmos de tecnologia de síntese profunda precisam ser arquivados? **
A equipe da Sister Sa lembra que nem todas as tecnologias de síntese profunda exigem que seus provedores de serviços se registrem para o registro. Sob a orientação do princípio da neutralidade tecnológica, apenas os provedores de serviços de tecnologia de síntese profunda que atendem a condições específicas precisam registrar seus algoritmos.
Especificamente, a indústria AIGC que registra algoritmos de síntese profunda está concentrada principalmente no escopo de "provedores de serviços de síntese profunda com atributos de opinião pública ou capacidades de mobilização social" estipulados no Artigo 19 dos "Regulamentos de Síntese Profunda". No entanto, na prática, os critérios para definir o que constituem “atributos de opinião pública ou capacidades de mobilização social” são relativamente vagos.
De acordo com o Artigo 2 das Disposições sobre Avaliação de Segurança de Serviços de Informação da Internet com Atributos de Opinião Pública ou Capacidades de Mobilização Social, os serviços de informação da Internet com atributos de opinião pública ou capacidades de mobilização social incluem as seguintes situações:
(1) Estabelecer serviços de informação como fóruns, blogs, microblogs, salas de bate-papo, grupos de comunicação, contas públicas, vídeos curtos, webcasts, compartilhamento de informações e miniprogramas, ou anexar funções correspondentes;
**(2) Estabelecer outros serviços de informação na Internet que forneçam canais para a expressão da opinião pública ou tenham a capacidade de mobilizar o público para se envolver em atividades específicas. **
Estritamente falando, o AIGC não pertence a nenhum dos serviços fornecidos pelo provedor de serviços no primeiro parágrafo acima, e a maioria dos AIGCs atualmente não se considera apenas uma plataforma de mídia social. Segundo uma família, a equipe da irmã Sa acredita que, com base no risco de ampla disseminação do AIGC em plataformas de mídia social, do ponto de vista da supervisão substantiva, tem alta probabilidade de estar em sintonia com “canais de expressão de opinião pública ou mobilizar o público para se envolver em outros serviços de informação da Internet com capacidades de atividade específicas".
Portanto, a partir dessa perspectiva, os provedores de serviços de todas as faixas na indústria básica de AIGC podem estar envolvidos no preenchimento de algoritmos de síntese profunda, incluindo, entre outros, geração de texto, geração de imagem, geração de vídeo, geração de áudio, etc. O critério mais importante para julgar é o grau de abertura do grupo de usuários.Se o prestador de serviços presta serviços a um público não especificado, está basicamente dentro do escopo do "Deep Synthesis Regulations".
3. Como realizar o arquivamento do algoritmo de síntese profunda
Primeiro, o método de arquivamento é o arquivamento online. De acordo com os requisitos do "Regulamento sobre a Avaliação de Segurança de Serviços de Informação da Internet com Atributos de Opinião Pública ou Capacidades de Mobilização Social", os prestadores de serviços que cumpram os requisitos de depósito devem registar na plataforma de serviços de gestão de segurança (endereço;
No processo de arquivamento, o material mais importante que afeta a taxa de sucesso do arquivamento é o "Relatório de Avaliação" apresentado pelo provedor de serviços de síntese profunda. Os provedores de serviços de síntese profunda e os suportes técnicos que fornecem ferramentas como modelos e modelos para dois tipos de funções específicas devem fornecer um "relatório de avaliação" emitido após a autoavaliação ou confiar a uma organização profissional a realização de uma avaliação de segurança:
Gerar ou editar informações biométricas como rostos e vozes;
Gerar ou editar informações não biométricas, como objetos e cenas especiais que possam envolver segurança nacional, imagem nacional, interesses nacionais e interesses sociais públicos.
Uma vez que as áreas e informações envolvidas nos dois tipos de serviços acima são relativamente sensíveis, o conteúdo específico da avaliação deve ser baseado nas dimensões básicas de avaliação, acrescentando critérios de avaliação que estejam em consonância com a Lei de Proteção de Informações Pessoais, o Cyber Lei de Segurança e Lei de Segurança de Dados.
De um modo geral, existem sete grandes critérios de avaliação, a saber:
(1) A pessoa encarregada da gestão de segurança, pessoal de revisão de informações e estabelecimento de instituições de gestão de segurança;
(2) Verificação da identidade do usuário e medidas de retenção de informações cadastrais;
(3) Informações de registro, como contas de usuário, tempo de operação, tipos de operação, endereços de origem e destino de rede, portas de origem de rede, recursos de hardware do cliente e registros de informações liberadas pelos usuários;
(4) Prevenção e descarte de informações ilegais e prejudiciais e medidas relevantes de manutenção de registros para contas de usuários e nomes de grupos de comunicação, apelidos, perfis, notas, logotipos, publicação de informações, encaminhamento, comentários e grupos de comunicação e outras funções de serviço;
(5) Proteção de informações pessoais e medidas técnicas para prevenir a disseminação de informações ilegais e nocivas e o risco de função de mobilização social fora de controle;
(6) Estabelecer um sistema de denúncias e denúncias, publicar informações como métodos de denúncias e denúncias e aceitar e tratar prontamente as denúncias e denúncias relevantes;
(7) O estabelecimento de um mecanismo de trabalho para fornecer suporte técnico e de dados e assistência para agências reguladoras e agências de aplicação da lei para desempenhar suas funções de acordo com a lei.
Escrito no final
O sistema de arquivamento de síntese profunda é uma inovação importante e um novo avanço na inteligência artificial e no gerenciamento de riscos de algoritmos do meu país. A equipe da irmã Sa sugere que a **indústria de AIGC deve realizar avaliações de segurança de algoritmos e arquivamentos de algoritmos de síntese profunda em consulta com o pessoal de conformidade profissional. **