Hành động mới của Cục quản lý không gian mạng Trung Quốc liên quan đến việc nộp từng thuật toán nền tảng AIGC

Mẹo cốt lõi

Vào ngày 20 tháng 6 năm 2023, Văn phòng Thông tin Internet của Cộng hòa Nhân dân Trung Hoa đã công bố loạt danh sách nộp thuật toán tổng hợp sâu đầu tiên ở Trung Quốc và nhiều nhà sản xuất lớn cũng như những người tiên phong trong ngành AIGC đã được liệt kê thành công. Đây không chỉ là một bước quan trọng trong quản trị rủi ro thuật toán và trí tuệ nhân tạo của Trung Quốc, mà còn là một bước đột phá lớn trong việc tuân thủ AIGC của ngành.

Hôm nay, nhóm của Chị Sa sẽ giải thích chi tiết cho các bạn cách khai thác thuật toán tổng hợp sâu là gì, ngành AIGC cần khai báo trong những trường hợp nào và cách khai báo như thế nào.

**1. Lưu trữ thuật toán tổng hợp sâu là gì? **

Cho đến nay, có hai luật cụ thể về các công cụ AIGC ở quốc gia của tôi, cả hai đều do Văn phòng Thông tin Internet Nhà nước xây dựng và ban hành:

1. "Quy định quản lý tổng hợp sâu dịch vụ thông tin Internet" (sau đây gọi là "Quy định tổng hợp sâu");

2. "Các biện pháp hành chính đối với các dịch vụ trí tuệ nhân tạo sáng tạo (Dự thảo để lấy ý kiến)" (sau đây gọi là "Dự thảo các biện pháp hành chính")

Vì bản thân AIGC có khả năng hướng dẫn hoặc thuyết phục mạnh mẽ, với sự trợ giúp của công nghệ mạng thông tin, đặc điểm phổ biến nhanh và lan truyền rộng có khả năng dẫn đến sự lan truyền lan truyền của nội dung AIGC trong một khoảng thời gian ngắn. Từ lâu, một nền tảng tự truyền thông đã sử dụng ChatGPT Vụ việc tạo tin giả và phát tán rộng rãi vụ việc để câu view, hướng dẫn dư luận một cách không phù hợp ở một số khu vực đã cho chúng ta thấy rõ nguy cơ của chính công cụ AIGC với tư cách là một công cụ dẫn dắt dư luận hay một công cụ lừa đảo. Chính xác là dựa trên đặc điểm này mà các cơ quan quản lý của quốc gia tôi đã giao cho các công ty AIGC nghĩa vụ nộp các thuật toán của riêng họ dựa trên lợi ích hợp pháp là duy trì sự hài hòa và ổn định lâu dài của trật tự công cộng xã hội.

Vì vậy, trước hết chúng ta cần hiểu cái gọi là công nghệ tổng hợp sâu đề cập đến điều gì. Theo quy định tại Điều 23 của "Quy định tổng hợp sâu", công nghệ tổng hợp sâu đề cập đến việc sử dụng học sâu, thực tế ảo và các thuật toán tổng hợp khác để tạo ra thông tin mạng như văn bản, hình ảnh, âm thanh, video và cảnh ảo, bao gồm nhưng không giới hạn ở:

(1) Các kỹ thuật tạo hoặc chỉnh sửa nội dung văn bản như tạo chương, chuyển đổi kiểu văn bản và đối thoại hỏi đáp;

(2) Các công nghệ tạo hoặc chỉnh sửa nội dung giọng nói, chẳng hạn như chuyển văn bản thành giọng nói, chuyển đổi giọng nói và chỉnh sửa thuộc tính giọng nói;

(3) Công nghệ tạo hoặc chỉnh sửa nội dung không phải lời nói như tạo nhạc và chỉnh sửa âm thanh cảnh;

(4) Công nghệ tạo hoặc chỉnh sửa các đặc điểm sinh trắc học trong hình ảnh và nội dung video như tạo khuôn mặt, thay thế khuôn mặt, chỉnh sửa thuộc tính ký tự, thao tác khuôn mặt và thao tác cử chỉ;

(5) Công nghệ tạo hoặc chỉnh sửa các đặc điểm phi sinh học trong hình ảnh và nội dung video chẳng hạn như tạo hình ảnh, nâng cao hình ảnh và phục hồi hình ảnh;

**(6) Công nghệ tạo hoặc chỉnh sửa ký tự kỹ thuật số và cảnh ảo, chẳng hạn như tái tạo ba chiều và mô phỏng kỹ thuật số. **

Ngoài sáu loại ứng dụng được liệt kê ở trên, theo quy định tại Điều 6 của "Dự thảo Biện pháp Quản lý": trước khi sử dụng các sản phẩm trí tuệ nhân tạo tổng quát để cung cấp dịch vụ cho công chúng, họ phải tuân theo "Quy định Đánh giá An toàn Dịch vụ Thông tin Internet với Thuộc tính Ý kiến Công chúng hoặc Khả năng Huy động Xã hội" "Báo cáo đánh giá bảo mật cho cục thông tin mạng quốc gia và thực hiện các thủ tục gửi, sửa đổi và hủy bỏ thuật toán theo "Quy định Quản lý Đề xuất Thuật toán Dịch vụ Thông tin Internet".

Vì vậy, sau khi “Dự thảo Biện pháp quản lý” có hiệu lực, nếu khoản này không có thay đổi lớn thì theo quy định tại Điều 2 Luật Quản lý, chúng ta cũng nên đưa “thuật toán, mô hình, quy tắc tạo văn bản, hình ảnh , âm thanh, video, mã, v.v.." được đưa vào danh mục "công nghệ tổng hợp sâu".

**2. Thuật toán công nghệ tổng hợp sâu nào cần được nộp? **

Nhóm của Chị Sa nhắc nhở rằng không phải tất cả các công nghệ tổng hợp sâu đều yêu cầu nhà cung cấp dịch vụ của họ phải đăng ký hồ sơ. Theo hướng dẫn của nguyên tắc trung lập về công nghệ, chỉ những nhà cung cấp dịch vụ công nghệ tổng hợp sâu đáp ứng các điều kiện cụ thể mới cần đăng ký thuật toán của họ.

Cụ thể, ngành AIGC ghi lại các thuật toán tổng hợp sâu chủ yếu tập trung ở phạm vi "nhà cung cấp dịch vụ tổng hợp sâu có thuộc tính dư luận xã hội hoặc khả năng vận động xã hội" được quy định tại Điều 19 của "Quy định tổng hợp sâu". Tuy nhiên, trên thực tế, các tiêu chí để xác định thế nào là “thuộc tính dư luận xã hội hay khả năng vận động xã hội” còn tương đối mơ hồ.

Theo Điều 2 của Quy định về Đánh giá An ninh của Dịch vụ Thông tin Internet có Thuộc tính Dư luận hoặc Khả năng Vận động Xã hội, các dịch vụ thông tin Internet có thuộc tính Dư luận hoặc Khả năng vận động Xã hội bao gồm các trường hợp sau:

(1) Thiết lập các dịch vụ thông tin như diễn đàn, blog, blog nhỏ, phòng trò chuyện, nhóm liên lạc, tài khoản công khai, video ngắn, webcast, chia sẻ thông tin, chương trình nhỏ hoặc gắn các chức năng tương ứng;

**(2) Thiết lập các dịch vụ thông tin Internet khác cung cấp các kênh để bày tỏ quan điểm của công chúng hoặc có khả năng huy động công chúng tham gia vào các hoạt động cụ thể. **

Nói một cách chính xác, AIGC không thuộc về bất kỳ dịch vụ nào do nhà cung cấp dịch vụ cung cấp trong đoạn đầu tiên ở trên và hầu hết các AIGC hiện không chỉ coi mình là một nền tảng truyền thông xã hội. Theo một gia đình, nhóm của Chị Sa tin rằng dựa trên nguy cơ lan truyền rộng rãi trên các nền tảng mạng xã hội của AIGC nói trên, từ góc độ giám sát thực chất, khả năng cao là nó sẽ phù hợp với “các kênh bày tỏ dư luận hoặc vận động quần chúng”. để tham gia vào các dịch vụ thông tin Internet khác với khả năng hoạt động cụ thể".

Do đó, từ góc độ này, các nhà cung cấp dịch vụ của tất cả các tuyến đường trong ngành AIGC cơ bản có thể tham gia vào việc tạo ra các thuật toán tổng hợp sâu, bao gồm nhưng không giới hạn ở việc tạo văn bản, tạo hình ảnh, tạo video, tạo âm thanh, v.v. Tiêu chí quan trọng nhất để đánh giá là mức độ cởi mở của nhóm người dùng, nếu nhà cung cấp dịch vụ cung cấp dịch vụ cho công chúng không xác định, thì về cơ bản nó nằm trong phạm vi của "Quy định tổng hợp sâu".

3. Cách thực hiện lập hồ sơ thuật toán tổng hợp sâu

Thứ nhất, phương thức nộp hồ sơ là nộp hồ sơ trực tuyến. Theo các yêu cầu của "Quy định về đánh giá bảo mật của dịch vụ thông tin Internet có thuộc tính ý kiến công chúng hoặc khả năng huy động xã hội", các nhà cung cấp dịch vụ đáp ứng các yêu cầu nộp đơn nên nộp trên nền tảng dịch vụ quản lý bảo mật (địa chỉ;

Trong quá trình lập hồ sơ, tài liệu quan trọng nhất ảnh hưởng đến tỷ lệ nộp hồ sơ thành công là "Báo cáo đánh giá" do nhà cung cấp dịch vụ tổng hợp sâu đệ trình. Các nhà cung cấp dịch vụ tổng hợp sâu và những người hỗ trợ kỹ thuật cung cấp các công cụ như mô hình và mẫu cho hai loại chức năng cụ thể phải cung cấp "báo cáo đánh giá" được đưa ra sau khi tự đánh giá hoặc ủy thác cho một tổ chức chuyên nghiệp thực hiện đánh giá bảo mật:

  1. Tạo hoặc chỉnh sửa thông tin sinh trắc học như khuôn mặt và giọng nói;

  2. Tạo hoặc chỉnh sửa thông tin phi sinh trắc học như các đối tượng và cảnh đặc biệt có thể liên quan đến an ninh quốc gia, hình ảnh quốc gia, lợi ích quốc gia và lợi ích công cộng xã hội.

Do các lĩnh vực, thông tin liên quan đến hai loại hình dịch vụ trên tương đối nhạy cảm nên nội dung đánh giá cụ thể cần dựa trên các khía cạnh đánh giá cơ bản, bổ sung các tiêu chí đánh giá phù hợp với Luật Bảo vệ thông tin cá nhân, Luật an ninh mạng. Luật An ninh và Luật Bảo mật Dữ liệu.

Nói chung, có bảy tiêu chí đánh giá chính, cụ thể là:

(1) Người chịu trách nhiệm quản lý an toàn, nhân viên rà soát thông tin và thành lập các tổ chức quản lý an toàn;

(2) Các biện pháp xác minh danh tính người dùng và lưu giữ thông tin đăng ký;

(3) Thông tin nhật ký như tài khoản người dùng, thời gian hoạt động, loại hoạt động, địa chỉ nguồn và đích mạng, cổng nguồn mạng, tính năng phần cứng máy khách và bản ghi thông tin phát hành của người dùng;

(4) Ngăn chặn và xử lý thông tin bất hợp pháp và có hại và các biện pháp lưu giữ hồ sơ liên quan đối với tài khoản người dùng và tên, biệt danh, hồ sơ, ghi chú, biểu tượng, xuất bản thông tin, chuyển tiếp, nhận xét và nhóm liên lạc cũng như các chức năng dịch vụ khác;

(5) Bảo vệ thông tin cá nhân và các biện pháp kỹ thuật để ngăn chặn sự lan truyền thông tin bất hợp pháp và có hại và nguy cơ mất kiểm soát chức năng huy động xã hội;

(6) Thiết lập hệ thống khiếu nại và báo cáo, công bố thông tin như phương pháp khiếu nại và báo cáo, đồng thời nhanh chóng tiếp nhận và xử lý các khiếu nại và báo cáo liên quan;

(7) Thiết lập cơ chế làm việc để hỗ trợ, giúp đỡ về kỹ thuật và dữ liệu để các cơ quan quản lý và cơ quan thực thi pháp luật thực hiện nhiệm vụ của mình theo quy định của pháp luật.

** Viết ở cuối **

Hệ thống lưu trữ tổng hợp sâu là một cải tiến quan trọng và là bước đột phá mới trong quản lý rủi ro thuật toán và trí tuệ nhân tạo của đất nước tôi. Nhóm của Chị Sa đề xuất rằng **ngành AIGC phải tiến hành đánh giá bảo mật thuật toán và lưu trữ thuật toán tổng hợp sâu với sự tư vấn của nhân viên tuân thủ chuyên nghiệp. **

Xem bản gốc
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
  • Phần thưởng
  • Bình luận
  • Chia sẻ
Bình luận
0/400
Không có bình luận
  • Ghim
Giao dịch tiền điện tử mọi lúc mọi nơi
qrCode
Quét để tải xuống ứng dụng Gate.io
Cộng đồng
Tiếng Việt
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • ไทย
  • Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)