ChatGPT tiến vào thị trường người lớn! Mở cửa cuộc trò chuyện khiêu dâm vào tháng 12, OpenAI xác thực hai lớp kiểm soát.

Giám đốc điều hành OpenAI, Sam Altman, đã thông báo rằng ChatGPT sẽ mở cửa cho người dùng trưởng thành đã xác minh độ tuổi để sáng tạo nội dung khiêu dâm từ tháng 12, chính sách "coi người lớn như người lớn" đã đảo ngược tư duy bảo thủ của các công ty công nghệ, áp lực cạnh tranh từ xAI và nhu cầu biến đổi thương mại đã thúc đẩy sự tự do hóa ngành AI.

Altman tuyên bố quan trọng: Người lớn không nên bị quản lý như trẻ con

Thung lũng Silicon lại một lần nữa dấy lên tranh cãi. Giám đốc điều hành OpenAI, Sam Altman, vào ngày 14 tháng 10 đã đưa ra một tuyên bố quan trọng trên nền tảng xã hội X, cho biết ChatGPT sẽ mở cửa cho việc sáng tạo nội dung khiêu dâm cho những người dùng trưởng thành đã được xác minh kể từ tháng 12. Điều chỉnh chính sách này đã phá vỡ lập trường bảo thủ trước đây của các ông lớn công nghệ về kiểm duyệt nội dung, khiến ngành công nghiệp AI lại một lần nữa rơi vào cuộc chiến giữa tự do và quy định.

Theo báo cáo của Reuters, Altman đã chỉ ra rõ ràng trong bài đăng của mình rằng: "Khi chúng tôi thực hiện các hạn chế về độ tuổi một cách toàn diện hơn, và như một phần của nguyên tắc 'đối xử với người dùng trưởng thành như người lớn', chúng tôi sẽ cho phép nhiều nội dung hơn, chẳng hạn như cung cấp nội dung khiêu dâm cho những người trưởng thành đã được xác minh." Tuyên bố này ngay lập tức thu hút sự chú ý của các phương tiện truyền thông công nghệ toàn cầu, quyết định của ChatGPT tiến vào thị trường người lớn trở thành tâm điểm của ngành.

Altman giải thích, trước đây OpenAI đã thực hiện "các hạn chế khá nghiêm ngặt" đối với ChatGPT, chủ yếu là để xử lý cẩn thận các rủi ro mà người dùng có vấn đề về sức khỏe tâm thần có thể gặp phải. Tuy nhiên, cơ chế lọc cường độ cao này cũng khiến hầu hết người dùng trưởng thành không có vấn đề về sức khỏe tâm thần cảm thấy "không hữu ích" thậm chí "không thú vị". Ông nhấn mạnh trong một bản ghi nhớ nội bộ: "Coi người trưởng thành như những người trưởng thành là chìa khóa cho trải nghiệm sản phẩm giai đoạn tiếp theo của chúng tôi."

Từ phong tỏa toàn diện đến mở cửa phân cấp: Chuyển hướng chiến lược lớn

Thông báo chính thức từ OpenAI cho thấy, cốt lõi của chính sách mới là "mở cửa phân cấp" chứ không phải "gỡ bỏ hoàn toàn". Trong hai năm qua, ChatGPT đã thiết lập tiêu chuẩn lọc nội dung rất cao để tránh kích hoạt nội dung nhạy cảm hoặc kích thích các nhóm dễ bị tổn thương. Chiến lược "thà sai lầm hơn là bỏ sót" này mặc dù giảm bớt tranh cãi, nhưng cũng hạn chế tính thực tiễn và sự gắn bó của người dùng đối với sản phẩm.

Altman cho biết, OpenAI đã tích lũy đủ khả năng kỹ thuật để giảm thiểu các vấn đề về sức khỏe tâm thần có thể phát sinh từ các cuộc trò chuyện có rủi ro cao, và có những công cụ an toàn mới. Những tiến bộ công nghệ này giúp đội ngũ tự tin trong việc nới lỏng các hạn chế một cách an toàn trong hầu hết các trường hợp, cùng với các tùy chọn biểu tượng cảm xúc và giọng điệu nhân hóa sắp ra mắt, giúp ChatGPT gần gũi hơn với các tương tác xã hội thực tế.

Trong vài tuần tới, OpenAI sẽ phát hành phiên bản mới của ChatGPT, cho phép người dùng quyết định nhiều hơn về giọng điệu và tính cách của chatbot. Altman giải thích: "Nếu bạn muốn ChatGPT của bạn phản hồi theo cách rất nhân văn, hoặc sử dụng rất nhiều biểu tượng cảm xúc, hoặc hành xử như một người bạn, ChatGPT nên có thể làm được - nhưng điều đó phụ thuộc vào việc bạn muốn như vậy, chứ không phải vì chúng tôi đang tối đa hóa tỷ lệ sử dụng." Thiết kế cá nhân hóa này kết hợp với chính sách mở đối với nội dung người lớn, cùng nhau tạo thành chiến lược nâng cấp trải nghiệm người dùng của OpenAI.

Cơ chế bảo vệ kép: Xác minh độ tuổi và kiểm soát của phụ huynh

Để ngăn chặn nội dung người lớn rò rỉ đến tay vị thành niên, OpenAI sẽ áp dụng hai lớp phòng thủ. Đầu tiên là hệ thống xác minh tuổi, sẽ kết hợp so sánh đặc điểm hành vi với giấy tờ tùy thân khi cần thiết. Hệ thống sẽ hoàn thành việc xác minh tuổi người thật trước khi mở khóa nội dung người lớn, đảm bảo chỉ những người lớn đã được xác minh mới có thể truy cập các chức năng liên quan.

Tiếp theo là chức năng kiểm soát của phụ huynh. Phiên bản ChatGPT dành cho thanh thiếu niên ra mắt vào tháng 9 năm nay đã được mặc định chặn các hình ảnh tạo ra và các chủ đề liên quan đến tình dục, phụ huynh còn có thể liên kết tài khoản của mình với tài khoản của trẻ, thiết lập giới hạn thời gian sử dụng hoặc kích hoạt thông báo cảnh báo. Thiết kế này thực hiện triết lý "quản lý phân khúc" thay vì "cấm một cách cứng nhắc".

Tuy nhiên, vẫn có nghi ngờ về tính hiệu quả của cơ chế xác minh độ tuổi. Kinh nghiệm từ nhiều trang web người lớn trong quá khứ cho thấy, thanh thiếu niên thường có thể vượt qua hệ thống xác minh bằng nhiều cách khác nhau. Nếu ChatGPT tham gia vào thị trường người lớn mà cơ chế xác minh bị thất bại, OpenAI không chỉ có thể phải đối mặt với các vụ kiện pháp lý và khoản tiền phạt lớn, mà lòng tin của doanh nghiệp và hình ảnh thương hiệu cũng sẽ bị tổn hại nghiêm trọng.

Áp lực cạnh tranh: mối đe dọa từ xAI và các công ty khởi nghiệp AI người lớn

Cạnh tranh trong ngành công nghiệp là yếu tố quan trọng thúc đẩy sự chuyển hướng chính sách của OpenAI. xAI do Elon Musk sáng lập đã chú trọng vào dịch vụ bạn đồng hành AI, nhấn mạnh "kết nối cảm xúc" và chức năng trò chuyện người lớn, thu hút một lượng lớn người dùng tìm kiếm sự tương tác tự do hơn. Ngoài ra, các công ty khởi nghiệp như Character.AI, Replika cũng đang tham gia vào thị trường nội dung người lớn tương tác, một số dịch vụ thậm chí hoàn toàn không đặt giới hạn nội dung.

Trong môi trường cạnh tranh này, nếu OpenAI kiên định với việc kiểm tra nghiêm ngặt, có thể sẽ gặp bất lợi về mức độ hoạt động của người dùng và mô hình doanh thu. Một số nhà đầu tư thẳng thắn nói rằng "AI nhàm chán khó có thể kiếm tiền", ngụ ý rằng OpenAI cần tìm ra sự cân bằng giữa sức hấp dẫn của sản phẩm và lợi nhuận thương mại. Quyết định của Altman chính là phản ứng trước thực tế thương mại này.

Cần lưu ý rằng, Meta đã ra mắt bộ lọc nội dung được lấy cảm hứng từ hệ thống xếp hạng phim PG-13 vào cùng ngày, nhằm hạn chế nội dung mà người dùng dưới 18 tuổi có thể thấy trên Instagram và các công cụ AI sáng tạo của mình. Điều này cho thấy các ông lớn công nghệ đang tiến gần đến hướng "quản lý phân loại", thay vì giữ vững một tiêu chuẩn duy nhất.

Sương mù quản lý: Luật pháp chưa rõ ràng, ranh giới đạo đức mơ hồ

Khi chính sách ChatGPT tiến vào thị trường người lớn được công bố, những nghi ngờ về quản lý cũng xuất hiện. Quốc hội Hoa Kỳ đang thảo luận về các đạo luật hạn chế thanh thiếu niên tiếp cận các đối tác AI, nhưng Thống đốc California Gavin Newsom vừa mới phủ quyết một dự luật tương tự vào tháng trước, cho thấy hướng đi của các quy định vẫn chưa được xác định.

Vấn đề phức tạp hơn nằm ở chỗ định nghĩa về "nội dung khiêu dâm" là mơ hồ. Đến mức nào của cuộc đối thoại được coi là "nội dung người lớn"? Ranh giới giữa cuộc đối thoại lãng mạn, thảo luận giáo dục giới tính và mô tả tình dục nên được phân định như thế nào? Những câu hỏi này không có câu trả lời tiêu chuẩn, có thể dẫn đến tranh cãi và rủi ro pháp lý trong quá trình thực thi.

Ngoài ra, rủi ro sức khỏe tâm lý khó có thể được định lượng. Mặc dù Altman tuyên bố đã có công nghệ giảm thiểu, nhưng việc sử dụng AI lâu dài để tiến hành đối thoại tình dục có thể ảnh hưởng đến các mối quan hệ thực sự, có thể gia tăng cảm giác cô đơn hoặc hành vi nghiện, hiện tại vẫn thiếu bằng chứng nghiên cứu đầy đủ. Nếu trong tương lai xảy ra các trường hợp tiêu cực, OpenAI có thể phải đối mặt với áp lực từ cả dư luận xã hội và các cơ quan quản lý.

Thung lũng Silicon minh họa: Công nghệ luôn đi trước các tranh cãi về đạo đức

Quyết định của ChatGPT tiến quân vào thị trường người lớn, có vẻ chỉ là điều chỉnh chức năng sản phẩm đơn lẻ, nhưng thực chất liên quan đến sự cân bằng tổng thể giữa định vị thị trường của công ty AI, lợi ích thương mại và trách nhiệm xã hội. Trường hợp này một lần nữa cho thấy mô hình điển hình của Silicon Valley: trước tiên ra mắt sản phẩm hoặc chức năng, sau đó giải quyết các vấn đề đạo đức và pháp lý phát sinh.

Trong vài tháng tới, hiệu quả của cơ chế xác minh độ tuổi của ChatGPT, phản hồi từ người dùng và việc có xuất hiện các trường hợp lạm dụng hay không, sẽ trở thành các chỉ số chính để kiểm tra chính sách này. Nếu OpenAI có thể thành công trong việc cân bằng tự do và an toàn, có thể sẽ thiết lập một tiêu chuẩn "quản lý phân cấp" mới cho toàn bộ ngành AI; nhưng nếu việc thực hiện thất bại, cũng có thể dẫn đến việc áp dụng quy định chặt chẽ hơn, ảnh hưởng đến hướng phát triển của toàn ngành.

Dù sao đi nữa, quyết định của ChatGPT gia nhập thị trường người lớn đánh dấu sự trưởng thành và sâu sắc hóa thương mại của ngành công nghiệp AI. Khi AI không còn chỉ là công cụ, mà bắt đầu bước vào lĩnh vực cảm xúc và mong muốn của con người, ranh giới đạo đức công nghệ sẽ phải đối mặt với những thử thách chưa từng có. Silicon Valley lại một lần nữa chứng minh: tốc độ tiến bộ công nghệ luôn đi trước những tranh cãi đạo đức.