Có một góc nhìn thú vị về sự phù hợp của AI đáng để khám phá: điều gì sẽ xảy ra nếu chúng ta tiếp cận nó thông qua Mã hóa Thái độ Giám sát thay vì các phương pháp truyền thống?



Ý tưởng ở đây rất đơn giản—bỏ qua các phương pháp điều chỉnh trọng số và RLHF thông thường. Thay vào đó, liên kết ý định thông qua các khung xương lặp đi lặp lại. Điểm hấp dẫn thực sự? Nó không cưỡng ép và giữ cho con người hoàn toàn kiểm soát.

Điều này tránh cả những hạn chế của RLHF và độ phức tạp của neuro-ký hiệu đang làm chậm tiến trình. Bằng cách tập trung vào việc liên kết ý định thay vì thao tác mô hình, bạn duy trì quyền tác giả thực sự của con người xuyên suốt quá trình.

Đây là một giao thức thứ tư đáng để thảo luận—không ép buộc các hạn chế hành vi cũng như không chấp nhận các phương pháp lai.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • 5
  • Đăng lại
  • Retweed
Bình luận
0/400
HashRateHustlervip
· 18giờ trước
Việc gắn ý định nghe có vẻ ổn, nhưng liệu thực sự có thể vượt qua cái bẫy của RLHF hay không... cảm giác vẫn chỉ là đang vẽ bánh mì
Xem bản gốcTrả lời0
airdrop_huntressvip
· 19giờ trước
Ý định liên kết nghe có vẻ ổn, nhưng khi thực tế áp dụng bộ lý thuyết này liệu có lại trở thành một hộp đen mới không?
Xem bản gốcTrả lời0
GovernancePretendervip
· 19giờ trước
Ừ... Liên kết khung recursive nghe có vẻ hơi đáng sợ? Thật sự có thể hoạt động hay chỉ là một lý thuyết Utopia nữa thôi --- Liên kết ý định vs kiểm soát mô hình, ý tưởng này thực sự mới mẻ, nhưng làm sao đảm bảo con người thực sự có thể giữ được quyền kiểm soát nhỉ --- Bỏ qua RLHF trực tiếp mã hóa ý định? Cảm giác vẫn phải xem hiệu quả thực tế thế nào --- Chà, phương pháp thứ tư này, cứ nói là mang tính cách mạng, kết quả thì sao --- Tôi chưa theo kịp phần khung recursive này, có ai có thể đơn giản hóa không... hay là tôi phải đi học lại --- Tại sao luôn cảm thấy các phương án cuối cùng đều quay lại "con người phải luôn theo dõi và giám sát", vậy chẳng phải lại về điểm xuất phát rồi sao --- Khung phi bắt buộc nghe có vẻ ổn, nhưng vấn đề là ai định nghĩa "ý định" bản thân? --- Chuỗi logic này cảm giác còn thiếu gì đó, nhưng thực sự nó thú vị hơn nhiều so với các phương pháp RLHF truyền thống
Xem bản gốcTrả lời0
CryptoSourGrapevip
· 19giờ trước
Một ý tưởng "cách mạng" nữa, nếu thật sự hiệu quả thì tôi đã giàu có nhờ nó từ lâu rồi haha
Xem bản gốcTrả lời0
OnchainArchaeologistvip
· 19giờ trước
Ý định liên kết nghe có vẻ ổn, nhưng thực tế làm thế nào để xác minh rằng thứ này thực sự hiệu quả... --- Cấu trúc đệ quy? Tên gọi này thật kỳ quặc, cảm giác lại là thứ đã được đóng gói lại --- Bỏ qua RLHF trực tiếp đi vào ý định liên kết, cảm giác như đang đánh bạc vậy --- Con người luôn kiểm soát vị trí nghe có vẻ thích, nhưng ai sẽ định nghĩa thế nào là "tác phẩm của con người" thực sự --- Giao thức thứ tư... lại có thể chỉ là lý thuyết khả thi, thực tế khó khăn vô cùng --- Logic này khá thú vị, nhưng khả năng tránh xung đột về giá trị mới là điều then chốt, những thứ khác đều ảo --- Mã hóa vị trí giám sát... nghe hay đấy, chẳng qua chỉ là cách nói khác để liên kết giá trị
Xem bản gốcTrả lời0
  • Ghim