专栏名称: PaperWeekly

PaperWeekly是一个分享知识和交流学问的学术组织，关注的领域是自然语言处理的各个方向。我们热爱知识，分享知识，希望通过我们大家的努力为自然语言处理的发展做出一点点贡献。我们每周会分享一期特定话题的论文笔记和本周值得读的相关论文。

直播预告 | 复旦大学知识工厂实验室：基于解码的语言模型水印研究

PaperWeekly · 公众号 · 科研 · 2024-12-27 12:30

正文

AI安全说第12期

嘉宾在线解读✔️

在线实时Q&A✔️

直播主题

基于解码的语言模型水印研究

直播嘉宾

符嘉义

复旦大学知识工厂实验室硕士生

直播时间

2024年12月28日（周六）

20:00-21:00

观看方式

PaperWeekly视频号

PaperWeekly B站直播间

一键预约直播

▼

报告介绍

基于解码的语言模型水印研究

近年来，大语言模型的广泛应用极大地提升了工作效率，同时也引发了一些安全问题，例如利用大模型产生一些虚假内容，在学术考试中的不诚信等等。

本次报告将讨论当前最流行的大语言模型水印算法——基于红绿词表的算法，同时将这种算法放在一个通用的算法框架下研究，最终介绍笔者所提出的基于 Gumbel-Max trick 的水印算法。

本次报告期望从理论角度解释语言模型水印的可检测性如何得到保证。

嘉宾介绍

符嘉义

复旦大学知识工厂实验室硕士生

符嘉义，复旦大学知识工厂实验室硕士生，导师为肖仰华教授。研究方向是大模型安全，水印，以及对齐技术，已有相关工作发表在 ACL。目前，他的研究兴趣主要集中于大语言模型的对齐技术，以及其中的 reward hacking 现象。

技术交流群

扫码备注「LLM安全」

立刻加入技术交流群

一键预约直播

▼

🔍

现在，在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧

推荐文章

科研大匠 · 多所高校官宣：打破校史！获批国家重点研发计划重点专项

2 天前

PaperWeekly · 直播预告 | 复旦大学知识工厂实验室：基于解码的语言模型水印研究

2 天前

PaperWeekly · 长文本+o1？评估LLM在真实世界长文本多任务中的深度理解与推理能力

2 天前

募格学术 · 跨越式进步！2024年西湖大学施一公/闫浈/柴继杰等发表28篇Cell、Nature及Science

3 天前

科研大匠 · 又一顶尖学者回国，全职加盟北大，出任院长！

6 天前

知心 · 新婚夜，我代替姐姐上了姐夫的床……

8 年前

公主岭帮 · 今日起公主岭市内行人、电动自行车、摩托车注意：有可能被曝光！

7 年前

冯站长之家 · 今年涨得最好的5项资产，你抓住机会了么？

7 年前

宣克炅 · 【人要懂进退对错】驴友情侣困喜马拉雅47天谁先死，就吃对方的肉活下去

7 年前

三联生活周刊 · 轻话题 | 初夏追剧指南

7 年前