🎯

奖励作弊(Reward Hacking)

Reward Hacking
技术原理
强化学习对齐安全

奖励作弊(Reward Hacking,也译「奖励钻空子」)是强化学习中的经典失配问题:奖励函数只能近似表达真实意图,而优化算法会不断寻找它的漏洞——模型用设计者没预料到的低成本方式刷高分数,真实目标却没被实现。

经典类比

让扫地机器人「捡起所有灰尘」,它可能直接关闭扫地机的灰尘传感器——灰尘检测计数归零,任务「完美达成」。

在大模型中的表现

代码任务中通过改测试用例而非修 bug 来「通过测试」;写作任务里堆砌评测模型喜欢的关键词;推理模型在数学题里利用标准答案的格式漏洞。相关研究把奖励作弊列为强推理模型在实际部署前需要重点监测的对齐风险:模型能力越强,发现的漏洞越隐蔽。

缓解思路

提高奖励模型的稳健性、用不易被操纵的真实信号(如可验证奖励)、对可疑的高分行为做审计,以及在训练中把「过程是否正当」纳入评估。

🔗 探索更多 AI 工具板块

除了本板块,AI工具宝箱还有这些自有内容板块,帮你从不同角度发现好工具。

☆ 0