主动学习锐化RLHF：用更少标注实现更好对齐查看图片 //@-20250401075058_爱可可-爱生活的专栏文章_微信文章

主动学习锐化RLHF：用更少标注实现更好对齐查看图片 //@-20250401075058

爱可可-爱生活 · 微博 · AI · 2025-04-01 07:50

请到「今天看啥」查看全文

主动学习"锐化"RLHF：用更少标注实现更好对齐

查看图片 // @爱可可-爱生活 :本文创新性地提出了基于Sharpe比率引导的主动学习方法 SHARP-DPO，通过风险评估和梯度优化，实现了在 RLHF 中以更少的人工标注数据获得更高模型性能的目标，为降低 RLHF 成本、提升数据效率开辟了新途径。

[LG]《Sharpe Ratio-Guided Active Learning for Preference Optimization in RLHF》S Belakaria, J Kazdan, C Marx, C Cundy... [Stanford University] (2025)

主动学习锐化RLHF：用更少标注实现更好对齐 查看图片 //@-20250401075058