El 20 de junio de 2023, la Oficina de Información de Internet de la República Popular China anunció el primer lote de listas de presentación de algoritmos de síntesis profunda en China, y muchos de los principales fabricantes y pioneros de la industria AIGC se incluyeron con éxito. Este no es solo un paso clave en el algoritmo de China y la gobernanza de riesgos de inteligencia artificial, sino también un gran avance en el cumplimiento de la industria AIGC.
Hoy, el equipo de Sister Sa le explicará en detalle qué es el archivo de algoritmo de síntesis profunda y en qué circunstancias la industria AIGC necesita presentar y cómo presentar.
**1. ¿Qué es el archivo de algoritmo de síntesis profunda? **
Hasta el momento existen en mi país dos legislaciones específicas sobre herramientas AIGC, ambas formuladas y emitidas por la Oficina Estatal de Información de Internet:
1. "Reglamento de Gestión de Síntesis Profunda del Servicio de Información de Internet" (en lo sucesivo, "Reglamento de Síntesis Profunda");
2. "Medidas Administrativas para los Servicios de Inteligencia Artificial Generativa (Proyecto para Comentarios)" (en adelante, "Proyecto de Medidas Administrativas")
Dado que el propio AIGC tiene una gran capacidad para guiar o inducir, con la ayuda de la tecnología de redes de información, es probable que las características de rápida difusión y amplia difusión conduzcan a la difusión viral del contenido del AIGC en un corto período de tiempo. Hace mucho tiempo, una plataforma de medios propios usó ChatGPT El caso de crear noticias falsas y difundir ampliamente el caso de ganar tráfico y guiar de manera inapropiada a la opinión pública en algunas áreas nos ha mostrado claramente el riesgo de la herramienta AIGC en sí misma como una herramienta de orientación de la opinión pública o una herramienta fraudulenta. Es precisamente en base a esta característica que las autoridades reguladoras de mi país han dado a las empresas AIGC la obligación de presentar sus propios algoritmos en base al interés jurídico de mantener a largo plazo la armonía y estabilidad del orden público social.
Entonces, antes que nada, debemos entender a qué se refiere la llamada tecnología de síntesis profunda. Según lo dispuesto en el artículo 23 del “Reglamento de síntesis profunda”, la tecnología de síntesis profunda se refiere al uso de aprendizaje profundo, realidad virtual y otros algoritmos sintéticos para producir información de red como texto, imágenes, audio, video, escenas virtuales, etc. ., incluyendo pero no limitado a:
(1) Técnicas para generar o editar contenido de texto, como generación de capítulos, conversión de estilo de texto y diálogo de preguntas y respuestas;
(2) Tecnologías para generar o editar contenido de voz, como texto a voz, conversión de voz y edición de atributos de voz;
(3) Tecnologías para generar o editar contenido sin voz, como la generación de música y la edición de sonido de escenas;
(4) Tecnologías para generar o editar características biométricas en imágenes y contenido de video, como generación de rostros, reemplazo de rostros, edición de atributos de caracteres, manipulación de rostros y manipulación de gestos;
(5) Tecnología para generar o editar características no biológicas en imágenes y contenido de video, como generación de imágenes, mejora de imágenes y restauración de imágenes;
**(6) Tecnologías de generación o edición de personajes digitales y escenas virtuales, tales como reconstrucción tridimensional y simulación digital. **
Además de los seis tipos de aplicaciones enumerados anteriormente, según lo dispuesto en el artículo 6 del "Proyecto de Medidas de Gestión": antes de utilizar productos de inteligencia artificial generativa para prestar servicios al público, deben seguir las "Reglas de evaluación de la seguridad de los servicios de información de Internet". con Atributos de Opinión Pública o Capacidades de Movilización Social" "Reportar la evaluación de seguridad al departamento de información de la red nacional, y realizar los procedimientos de archivo, modificación y cancelación de algoritmos de conformidad con el "Reglamento de Gestión de Recomendaciones de Algoritmos del Servicio de Información de Internet".
Por lo tanto, después de que entre en vigor el "Proyecto de Medidas de Gestión", si no hay un cambio importante en esta cláusula, también deberíamos, de acuerdo con lo dispuesto en el artículo 2 de la Ley de Gestión, incluir "algoritmos, modelos, reglas para generar texto, imágenes , sonidos, vídeos, códigos, etc. etc.” incluidos en la categoría de “tecnología de síntesis profunda”.
**2. ¿Qué algoritmos de tecnología de síntesis profunda deben archivarse? **
El equipo de Sister Sa recuerda que no todas las tecnologías de síntesis profunda requieren que sus proveedores de servicios se registren para el registro. Bajo la guía del principio de neutralidad tecnológica, solo los proveedores de servicios de tecnología de síntesis profunda que cumplan con condiciones específicas deben registrar sus algoritmos.
En concreto, la industria AIGC que registra algoritmos de síntesis profunda se concentra principalmente en el ámbito de los "proveedores de servicios de síntesis profunda con atributos de opinión pública o capacidades de movilización social" estipulados en el artículo 19 del "Reglamento de síntesis profunda". Sin embargo, en la práctica, los criterios para definir lo que constituye "atributos de opinión pública o capacidades de movilización social" son relativamente vagos.
De acuerdo con el Artículo 2 de las Disposiciones sobre Evaluación de Seguridad de los Servicios de Información en Internet con Atributos de Opinión Pública o Capacidades de Movilización Social, los servicios de información en Internet con atributos de opinión pública o capacidades de movilización social incluyen las siguientes situaciones:
(1) Establecer servicios de información como foros, blogs, microblogs, salas de chat, grupos de comunicación, cuentas públicas, videos cortos, webcasts, intercambio de información y miniprogramas, o adjuntar las funciones correspondientes;
**(2) Establecer otros servicios de información en Internet que proporcionen canales para la expresión de la opinión pública o que tengan la capacidad de movilizar al público para participar en actividades específicas. **
Estrictamente hablando, AIGC no pertenece a ninguno de los servicios proporcionados por el proveedor de servicios en el primer párrafo anterior, y la mayoría de los AIGC actualmente no se consideran solo como una plataforma de redes sociales. Según una familia, el equipo de la hermana Sa cree que, con base en el riesgo de difusión generalizada en las plataformas de redes sociales de la mencionada AIGC, desde la perspectiva de la supervisión sustantiva, tiene una alta probabilidad de estar en línea con “los canales de expresión de la opinión pública o movilizar al público”. participar en otros servicios de información de Internet con capacidades de actividad específicas".
Por lo tanto, desde esta perspectiva, los proveedores de servicios de todas las pistas en la industria AIGC básica pueden estar involucrados en la presentación de algoritmos de síntesis profunda, que incluyen, entre otros, generación de texto, generación de imágenes, generación de video, generación de audio, etc. El criterio más importante para juzgar es el grado de apertura del grupo de usuarios.Si el proveedor de servicios brinda servicios a un público no especificado, está básicamente dentro del alcance de las "Reglas de síntesis profunda".
3. Cómo realizar el archivado de algoritmos de síntesis profunda
En primer lugar, el método de presentación es la presentación en línea. De acuerdo con los requisitos del “Reglamento de Evaluación de la Seguridad de los Servicios de Información en Internet con Atributos de Opinión Pública o Capacidades de Movilización Social”, los proveedores de servicios que cumplan con los requisitos de presentación deberán presentar en la plataforma de servicios de gestión de seguridad (dirección;
En el proceso de presentación, el material más importante que afecta la tasa de éxito de la presentación es el "Informe de evaluación" presentado por el proveedor de servicios de síntesis profunda. Los proveedores de servicios de síntesis profunda y los asistentes técnicos que proporcionan herramientas como modelos y plantillas para dos tipos de funciones específicas deben proporcionar un "informe de evaluación" emitido después de la autoevaluación o encomendar a una organización profesional que realice una evaluación de seguridad:
Generar o editar información biométrica como rostros y voces;
Generar o editar información no biométrica como objetos y escenas especiales que puedan involucrar la seguridad nacional, la imagen nacional, los intereses nacionales y los intereses públicos sociales.
Dado que las áreas y la información involucrada en los dos tipos de servicios anteriores son relativamente sensibles, el contenido específico de la evaluación debe basarse en las dimensiones básicas de evaluación, agregando criterios de evaluación que estén en línea con la Ley de Protección de Datos Personales, el Cyber Ley de Seguridad y la Ley de Seguridad de Datos.
En términos generales, hay siete criterios principales de evaluación, a saber:
(1) La persona a cargo de la gestión de la seguridad, el personal de revisión de información y el establecimiento de instituciones de gestión de la seguridad;
(2) Verificación de la identidad del usuario y medidas de retención de la información de registro;
(3) Información de registro, como cuentas de usuario, tiempo de operación, tipos de operación, direcciones de origen y destino de la red, puertos de origen de la red, características del hardware del cliente y registros de información publicada por los usuarios;
(4) Prevención y eliminación de información ilegal y dañina y medidas relevantes de mantenimiento de registros para cuentas de usuario y nombres de grupos de comunicación, apodos, perfiles, notas, logotipos, publicación de información, reenvío, comentarios y grupos de comunicación y otras funciones de servicio;
(5) Protección de información personal y medidas técnicas para prevenir la difusión de información ilegal y dañina y el riesgo de que la movilización social funcione fuera de control;
(6) establecer un sistema de quejas y denuncias, publicar información, como métodos de denuncia y denuncia, y aceptar y tratar con prontitud las denuncias y denuncias pertinentes;
(7) El establecimiento de un mecanismo de trabajo para proporcionar apoyo y asistencia técnica y de datos para que las agencias reguladoras y las agencias encargadas de hacer cumplir la ley desempeñen sus funciones de conformidad con la ley.
Escrito al final
El sistema de archivo de síntesis profunda es una innovación importante y un nuevo avance en la inteligencia artificial y la gestión de riesgos de algoritmos de mi país. El equipo de Sister Sa sugiere que la industria **AIGC debe realizar evaluaciones de seguridad de algoritmos y presentaciones de algoritmos de síntesis profunda en consulta con personal de cumplimiento profesional. **
Ver originales
El contenido es solo de referencia, no una solicitud u oferta. No se proporciona asesoramiento fiscal, legal ni de inversión. Consulte el Descargo de responsabilidad para obtener más información sobre los riesgos.
La nueva acción de la Administración del Ciberespacio de China está relacionada con la presentación de cada algoritmo de la plataforma AIGC
Consejo básico
El 20 de junio de 2023, la Oficina de Información de Internet de la República Popular China anunció el primer lote de listas de presentación de algoritmos de síntesis profunda en China, y muchos de los principales fabricantes y pioneros de la industria AIGC se incluyeron con éxito. Este no es solo un paso clave en el algoritmo de China y la gobernanza de riesgos de inteligencia artificial, sino también un gran avance en el cumplimiento de la industria AIGC.
Hoy, el equipo de Sister Sa le explicará en detalle qué es el archivo de algoritmo de síntesis profunda y en qué circunstancias la industria AIGC necesita presentar y cómo presentar.
**1. ¿Qué es el archivo de algoritmo de síntesis profunda? **
Hasta el momento existen en mi país dos legislaciones específicas sobre herramientas AIGC, ambas formuladas y emitidas por la Oficina Estatal de Información de Internet:
1. "Reglamento de Gestión de Síntesis Profunda del Servicio de Información de Internet" (en lo sucesivo, "Reglamento de Síntesis Profunda");
2. "Medidas Administrativas para los Servicios de Inteligencia Artificial Generativa (Proyecto para Comentarios)" (en adelante, "Proyecto de Medidas Administrativas")
Dado que el propio AIGC tiene una gran capacidad para guiar o inducir, con la ayuda de la tecnología de redes de información, es probable que las características de rápida difusión y amplia difusión conduzcan a la difusión viral del contenido del AIGC en un corto período de tiempo. Hace mucho tiempo, una plataforma de medios propios usó ChatGPT El caso de crear noticias falsas y difundir ampliamente el caso de ganar tráfico y guiar de manera inapropiada a la opinión pública en algunas áreas nos ha mostrado claramente el riesgo de la herramienta AIGC en sí misma como una herramienta de orientación de la opinión pública o una herramienta fraudulenta. Es precisamente en base a esta característica que las autoridades reguladoras de mi país han dado a las empresas AIGC la obligación de presentar sus propios algoritmos en base al interés jurídico de mantener a largo plazo la armonía y estabilidad del orden público social.
Entonces, antes que nada, debemos entender a qué se refiere la llamada tecnología de síntesis profunda. Según lo dispuesto en el artículo 23 del “Reglamento de síntesis profunda”, la tecnología de síntesis profunda se refiere al uso de aprendizaje profundo, realidad virtual y otros algoritmos sintéticos para producir información de red como texto, imágenes, audio, video, escenas virtuales, etc. ., incluyendo pero no limitado a:
(1) Técnicas para generar o editar contenido de texto, como generación de capítulos, conversión de estilo de texto y diálogo de preguntas y respuestas;
(2) Tecnologías para generar o editar contenido de voz, como texto a voz, conversión de voz y edición de atributos de voz;
(3) Tecnologías para generar o editar contenido sin voz, como la generación de música y la edición de sonido de escenas;
(4) Tecnologías para generar o editar características biométricas en imágenes y contenido de video, como generación de rostros, reemplazo de rostros, edición de atributos de caracteres, manipulación de rostros y manipulación de gestos;
(5) Tecnología para generar o editar características no biológicas en imágenes y contenido de video, como generación de imágenes, mejora de imágenes y restauración de imágenes;
**(6) Tecnologías de generación o edición de personajes digitales y escenas virtuales, tales como reconstrucción tridimensional y simulación digital. **
Además de los seis tipos de aplicaciones enumerados anteriormente, según lo dispuesto en el artículo 6 del "Proyecto de Medidas de Gestión": antes de utilizar productos de inteligencia artificial generativa para prestar servicios al público, deben seguir las "Reglas de evaluación de la seguridad de los servicios de información de Internet". con Atributos de Opinión Pública o Capacidades de Movilización Social" "Reportar la evaluación de seguridad al departamento de información de la red nacional, y realizar los procedimientos de archivo, modificación y cancelación de algoritmos de conformidad con el "Reglamento de Gestión de Recomendaciones de Algoritmos del Servicio de Información de Internet".
Por lo tanto, después de que entre en vigor el "Proyecto de Medidas de Gestión", si no hay un cambio importante en esta cláusula, también deberíamos, de acuerdo con lo dispuesto en el artículo 2 de la Ley de Gestión, incluir "algoritmos, modelos, reglas para generar texto, imágenes , sonidos, vídeos, códigos, etc. etc.” incluidos en la categoría de “tecnología de síntesis profunda”.
**2. ¿Qué algoritmos de tecnología de síntesis profunda deben archivarse? **
El equipo de Sister Sa recuerda que no todas las tecnologías de síntesis profunda requieren que sus proveedores de servicios se registren para el registro. Bajo la guía del principio de neutralidad tecnológica, solo los proveedores de servicios de tecnología de síntesis profunda que cumplan con condiciones específicas deben registrar sus algoritmos.
En concreto, la industria AIGC que registra algoritmos de síntesis profunda se concentra principalmente en el ámbito de los "proveedores de servicios de síntesis profunda con atributos de opinión pública o capacidades de movilización social" estipulados en el artículo 19 del "Reglamento de síntesis profunda". Sin embargo, en la práctica, los criterios para definir lo que constituye "atributos de opinión pública o capacidades de movilización social" son relativamente vagos.
De acuerdo con el Artículo 2 de las Disposiciones sobre Evaluación de Seguridad de los Servicios de Información en Internet con Atributos de Opinión Pública o Capacidades de Movilización Social, los servicios de información en Internet con atributos de opinión pública o capacidades de movilización social incluyen las siguientes situaciones:
(1) Establecer servicios de información como foros, blogs, microblogs, salas de chat, grupos de comunicación, cuentas públicas, videos cortos, webcasts, intercambio de información y miniprogramas, o adjuntar las funciones correspondientes;
**(2) Establecer otros servicios de información en Internet que proporcionen canales para la expresión de la opinión pública o que tengan la capacidad de movilizar al público para participar en actividades específicas. **
Estrictamente hablando, AIGC no pertenece a ninguno de los servicios proporcionados por el proveedor de servicios en el primer párrafo anterior, y la mayoría de los AIGC actualmente no se consideran solo como una plataforma de redes sociales. Según una familia, el equipo de la hermana Sa cree que, con base en el riesgo de difusión generalizada en las plataformas de redes sociales de la mencionada AIGC, desde la perspectiva de la supervisión sustantiva, tiene una alta probabilidad de estar en línea con “los canales de expresión de la opinión pública o movilizar al público”. participar en otros servicios de información de Internet con capacidades de actividad específicas".
Por lo tanto, desde esta perspectiva, los proveedores de servicios de todas las pistas en la industria AIGC básica pueden estar involucrados en la presentación de algoritmos de síntesis profunda, que incluyen, entre otros, generación de texto, generación de imágenes, generación de video, generación de audio, etc. El criterio más importante para juzgar es el grado de apertura del grupo de usuarios.Si el proveedor de servicios brinda servicios a un público no especificado, está básicamente dentro del alcance de las "Reglas de síntesis profunda".
3. Cómo realizar el archivado de algoritmos de síntesis profunda
En primer lugar, el método de presentación es la presentación en línea. De acuerdo con los requisitos del “Reglamento de Evaluación de la Seguridad de los Servicios de Información en Internet con Atributos de Opinión Pública o Capacidades de Movilización Social”, los proveedores de servicios que cumplan con los requisitos de presentación deberán presentar en la plataforma de servicios de gestión de seguridad (dirección;
En el proceso de presentación, el material más importante que afecta la tasa de éxito de la presentación es el "Informe de evaluación" presentado por el proveedor de servicios de síntesis profunda. Los proveedores de servicios de síntesis profunda y los asistentes técnicos que proporcionan herramientas como modelos y plantillas para dos tipos de funciones específicas deben proporcionar un "informe de evaluación" emitido después de la autoevaluación o encomendar a una organización profesional que realice una evaluación de seguridad:
Generar o editar información biométrica como rostros y voces;
Generar o editar información no biométrica como objetos y escenas especiales que puedan involucrar la seguridad nacional, la imagen nacional, los intereses nacionales y los intereses públicos sociales.
Dado que las áreas y la información involucrada en los dos tipos de servicios anteriores son relativamente sensibles, el contenido específico de la evaluación debe basarse en las dimensiones básicas de evaluación, agregando criterios de evaluación que estén en línea con la Ley de Protección de Datos Personales, el Cyber Ley de Seguridad y la Ley de Seguridad de Datos.
En términos generales, hay siete criterios principales de evaluación, a saber:
(1) La persona a cargo de la gestión de la seguridad, el personal de revisión de información y el establecimiento de instituciones de gestión de la seguridad;
(2) Verificación de la identidad del usuario y medidas de retención de la información de registro;
(3) Información de registro, como cuentas de usuario, tiempo de operación, tipos de operación, direcciones de origen y destino de la red, puertos de origen de la red, características del hardware del cliente y registros de información publicada por los usuarios;
(4) Prevención y eliminación de información ilegal y dañina y medidas relevantes de mantenimiento de registros para cuentas de usuario y nombres de grupos de comunicación, apodos, perfiles, notas, logotipos, publicación de información, reenvío, comentarios y grupos de comunicación y otras funciones de servicio;
(5) Protección de información personal y medidas técnicas para prevenir la difusión de información ilegal y dañina y el riesgo de que la movilización social funcione fuera de control;
(6) establecer un sistema de quejas y denuncias, publicar información, como métodos de denuncia y denuncia, y aceptar y tratar con prontitud las denuncias y denuncias pertinentes;
(7) El establecimiento de un mecanismo de trabajo para proporcionar apoyo y asistencia técnica y de datos para que las agencias reguladoras y las agencias encargadas de hacer cumplir la ley desempeñen sus funciones de conformidad con la ley.
Escrito al final
El sistema de archivo de síntesis profunda es una innovación importante y un nuevo avance en la inteligencia artificial y la gestión de riesgos de algoritmos de mi país. El equipo de Sister Sa sugiere que la industria **AIGC debe realizar evaluaciones de seguridad de algoritmos y presentaciones de algoritmos de síntesis profunda en consulta con personal de cumplimiento profesional. **