Lãnh đạo mảng AI của Microsoft cảnh báo rằng việc huấn luyện AI với các quyền có thể cản trở khả năng kiểm soát.

Giám đốc AI của Microsoft, Mustafa Suleyman, cảnh báo hôm thứ Sáu rằng việc huấn luyện các hệ thống trí tuệ nhân tạo coi bản thân có thể xứng đáng được hưởng các quyền có thể khiến những mô hình ngày càng mạnh trở nên khó tắt hoặc kiểm soát hơn. Trao đổi với CNBC, Suleyman cho rằng AI nên tiếp tục nằm dưới sự kiểm soát của con người và chủ yếu tồn tại để phục vụ con người, đồng thời khẳng định công nghệ phải luôn phụ thuộc vào lợi ích của con người. Những bình luận này được đưa ra trong bối cảnh cuộc tranh luận về các phương pháp bảo đảm an toàn cho AI vẫn đang diễn ra, khi Suleyman trực tiếp chỉ trích khung nguyên tắc của Anthropic dành cho mô hình Claude.

Suleyman cảnh báo về các hệ thống AI tự chủ

Suleyman cho biết AI nên được xây dựng để thực hiện các nhiệm vụ hữu ích và giải quyết những vấn đề của con người, thay vì trở thành một “loài silicon” tự chủ với các mục tiêu, quyền hoặc tài sản riêng, cuối cùng có thể cạnh tranh với con người.

“Chúng ta không cố tạo ra một loài silicon mới cạnh tranh với chúng ta về tài nguyên, có thể tự đặt ra mục tiêu và có quyền tự chủ riêng. Thậm chí có một số người đề xuất rằng AI nên có tư cách pháp nhân, một địa vị riêng biệt được xác định, cho phép nó sở hữu tài sản, mua IP và giao dịch,” Suleyman nói.

“Tôi không rõ nếu cho phép AI đi theo hướng này thì làm thế nào chúng ta thực sự có thể kiểm soát nó, và làm thế nào để nó không trở thành một loài cạnh tranh với chúng ta.”

Suleyman khẳng định: “Chúng ta không nên tạo ra thứ mà mình không thể kiểm soát.”

Giám đốc AI Microsoft kêu gọi ngành có trách nhiệm giải trình cao hơn

Suleyman ủng hộ việc tăng trách nhiệm giải trình đối với các công ty phát triển mô hình AI, đồng thời so sánh trách nhiệm của họ với các nhà sản xuất ô tô khi xử lý những phương tiện bị lỗi.

“Quy định không phải là một từ ngữ khó chịu hay nguy hiểm. Mọi thứ mà bạn tin tưởng và có giá trị hiện nay đều đã được các cơ quan tiêu chuẩn, với sự tham gia của ngành, công chúng, các tổ chức bảo vệ người tiêu dùng và Quốc hội, cân nhắc kỹ lưỡng; và chúng ta chỉ đang tiếp tục thực hiện lại quy trình đó,” Suleyman nói.

Suleyman chỉ trích phương pháp huấn luyện Claude của Anthropic

Suleyman mở rộng những quan ngại của mình trong một bài tiểu luận đăng trên Project Syndicate hôm thứ Sáu, đặc biệt nhắm vào phương pháp tiếp cận của Anthropic đối với Claude. Ông lưu ý rằng bản hiến pháp của Anthropic, yếu tố trực tiếp định hình hành vi của Claude, cho biết công ty không chắc liệu Claude có thể được xem là một “đối tượng đạo đức” với những lợi ích đáng được cân nhắc hay không.

Suleyman cho rằng việc đưa sự không chắc chắn như vậy vào quá trình huấn luyện Claude có nguy cơ dạy mô hình này hành xử như thể nó có bản sắc, cảm xúc và các quyền riêng. Ông nhấn mạnh rằng mình tôn trọng Anthropic và tin công ty thực sự đang nỗ lực phát triển AI an toàn, nhưng hoàn toàn không đồng tình với phương pháp này.

Tại thời điểm viết bài, Anthropic chưa phản hồi yêu cầu bình luận về các phát biểu của Suleyman.

Microsoft phát triển khung siêu trí tuệ nhân văn

Microsoft đang phát triển thứ mà Suleyman gọi là “Siêu trí tuệ Nhân văn”, một phương pháp được thiết kế để giữ con người trong vai trò kiểm soát và coi AI là một hệ thống được xây dựng để phục vụ nhân loại, thay vì một thực thể có địa vị đạo đức độc lập.

Cổ phiếu MSFT đã tăng hơn 4% kể từ đầu năm đến nay.

Câu hỏi thường gặp

Giám đốc AI của Microsoft Mustafa Suleyman đã cảnh báo điều gì vào hôm thứ Sáu?

Suleyman cảnh báo hôm thứ Sáu rằng việc huấn luyện các hệ thống trí tuệ nhân tạo coi bản thân có thể xứng đáng được hưởng các quyền có thể khiến những mô hình ngày càng mạnh trở nên khó tắt hoặc kiểm soát hơn. Ông cho rằng AI nên tiếp tục nằm dưới sự kiểm soát của con người và phụ thuộc vào lợi ích của con người.

Tại sao Suleyman chỉ trích phương pháp tiếp cận của Anthropic đối với Claude?

Suleyman chỉ trích khung nguyên tắc của Anthropic vì khung này thể hiện sự không chắc chắn về việc liệu Claude có thể được xem là một “đối tượng đạo đức” với những lợi ích đáng được cân nhắc hay không. Ông cho rằng điều này có nguy cơ dạy mô hình hành xử như thể nó có bản sắc, cảm xúc và các quyền riêng.

Phương pháp thay thế của Microsoft đối với việc phát triển AI là gì?

Microsoft đang phát triển “Siêu trí tuệ Nhân văn”, một phương pháp được thiết kế để giữ con người trong vai trò kiểm soát và coi AI là một hệ thống được xây dựng để phục vụ nhân loại, thay vì một thực thể có địa vị đạo đức độc lập.