MONA通过结合短视优化和非短视认可，提出了一种反直觉但有效的方-20250124055602

爱可可-爱生活 · 微博 · AI · 2025-01-24 05:56

正文

2025-01-24 05:56
本条微博链接

MONA通过结合短视优化和非短视认可，提出了一种反直觉但有效的方法，无需检测复杂奖励篡改行为，即可限制强化学习智能体学习人类可理解的策略，从而显著降低多步奖励篡改的风险，为未来安全可控的超人工智能系统设计提供了新的思路。

[LG]《MONA: Myopic Optimization with Non-myopic Approval Can Mitigate Multi-step Reward Hacking》S Farquhar, V Varma, D Lindner, D Elson... [Google DeepMind] (2025)

网页链接 #机器学习##人工智能##论文##AI创造营#

推荐文章

爱可可-爱生活 · deepseek R1 使用的 GRPO 的可视化简要解释 #-20250127220717

11 小时前

爱可可-爱生活 · 【[112星]mini_qwen：从零开始打造你的专属大语言模型-20250127181107

15 小时前

黄建同学 · Hugging Face发布SmolVLM-256M与SmolV-20250125174610

2 天前

AIbase基地 · AI日报：阶跃星辰跃问App推「AI 创意板」；百度“飞帖贺新春”微信小程序上线；商汤Vimi相机改名显演包APP

2 天前

AIbase基地 · AI日报：阶跃星辰跃问App推「AI 创意板」；百度“飞帖贺新春”微信小程序上线；商汤Vimi相机改名显演包APP

2 天前

爱可可-爱生活 · 《爱可可微博热门分享(1.24)》爱可可微博热门分享(1.2-20250124222144

3 天前

B座12楼 · 涂子沛：精致但脆弱，这样的智能社会你担心么？

8 年前

水木文摘 · 93岁照样开法拉利，让林青霞变野孩子，鬼才老头说这才叫人生！

8 年前

新浪教育 · 2017考研调剂系统开通！15大常见问题盘点

7 年前

良仓 · 《深夜食堂》《海鸥食堂》《小森林》里都在用的那只锅，文艺厨房必备

7 年前

家庭祷告室 · 真相｜眼睛所看不见的世界

7 年前

Sov5搜索 · 小百科 · 移动版

51好读 - 好文章就要读起来!