Есть интересный подход к выравниванию ИИ, который стоит изучить: что если рассматривать его через кодирование supervisory stance вместо традиционных методов?

Идея здесь проста — пропустить обычную настройку весов и методы RLHF. Вместо этого связывайте намерение с помощью рекурсивных каркасов. Настоящее преимущество? Он не принуждает и полностью сохраняет роль человека за рулем.

Это обходит ограничения RLHF и нейро-символическую сложность, которая тормозит прогресс. Фокусируясь на связывании намерений, а не на манипуляции моделью, вы сохраняете подлинное человеческое авторство на протяжении всего процесса.

Это четвертый протокол, который стоит обсудить — ни принуждение к поведенческим ограничениям, ни использование гибридных подходов.