Anthropic Tuyển Dụng Chuyên Gia Vũ Khí Hóa học Để Phòng Chống Claude Bị Lạm Dụng, Chuyên Gia Phản Bác Rằng Động Thái Này Có Thể Tăng Rủi Ro

Tin tức Gate News, ngày 17 tháng 3, Anthropic đăng tuyển vị trí "Quản lý chính sách vũ khí hóa học và chất nổ có độ nổ cao" trên LinkedIn, yêu cầu ứng viên có ít nhất 5 năm kinh nghiệm trong lĩnh vực phòng chống vũ khí hóa học và/hoặc chất nổ, và hiểu biết về thiết bị phân tán phóng xạ (bom bẩn). Anthropic cho biết, vị trí này nhằm ngăn chặn AI của họ, Claude, bị sử dụng cho "lạm dụng thảm khốc", lo ngại rằng Claude có thể bị khai thác để lấy thông tin về chế tạo vũ khí hóa học hoặc phóng xạ, cần các chuyên gia đánh giá xem các biện pháp an toàn hiện tại có đủ chặt chẽ hay không. Một công ty AI khác cũng đăng tuyển vị trí tương tự trên trang tuyển dụng, hướng tới nghiên cứu rủi ro sinh học và hóa học, mức lương cao nhất lên tới 455,000 USD. Về vấn đề này, Tiến sĩ Stephanie Hare, đồng dẫn chương trình và nhà nghiên cứu công nghệ của BBC chương trình "AI Decoded", đặt câu hỏi: "Việc để hệ thống AI xử lý thông tin về hóa chất nhạy cảm, chất nổ và vũ khí phóng xạ, có thực sự an toàn không? Dù đã ra lệnh cho AI không được sử dụng những thông tin này." Bà cũng chỉ ra rằng hiện tại chưa có bất kỳ điều ước quốc tế hoặc quy định nào điều chỉnh công việc này cũng như việc kết hợp AI với các loại vũ khí như vậy, "mọi thứ này đều diễn ra ngoài tầm nhìn của công chúng".
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ các nguồn bên thứ ba và chỉ mang tính chất tham khảo. Thông tin này không phản ánh quan điểm hoặc ý kiến của Gate và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Giao dịch tài sản ảo tiềm ẩn rủi ro cao. Vui lòng không chỉ dựa vào thông tin trên trang này khi đưa ra quyết định. Để biết thêm chi tiết, vui lòng xem Tuyên bố miễn trừ trách nhiệm.
Bình luận
0/400
Không có bình luận