就绕不开中国现代声学的重要开创者和奠基人、福州股票配资开户 基于人类反馈的强化学习（RLHF）是一种用于训练高质量 AI 助手的通用技术。然而，RLHF也可能鼓励模型给出与用户信念相符的回答，而非真实的回答，这种行为被称为“阿谀奉承”。23年的一项研究[1]证明了五个当时最先进的人工智能助手在四个不同任务中始终表现出阿谀奉承的行为。研究发现，当回答与用户的观点匹配时，它更有可能成为首选。此外，人类和偏好模型都更喜欢令人信服的阿谀奉承的回答，而不是正确的回答。这些结果表明，阿谀奉承是RLHF模型