专栏名称: 将门创投

将门是一家专注于发掘及加速技术创新激活商业价值的创业公司的创投机构。将门旗下设有将门创新服务、将门技术社群以及将门投资基金。关注领域包括机器智能、物联网、自然人机交互、企业计算。

Talk预告｜伊利诺伊理工学院陈灿宇：大模型时代的虚假信息危机 - 挑战和机遇

将门创投 · 公众号 · 科技创业 · 2024-12-25 08:22

正文

本期为 TechBeat人工智能社区 第 652 期线上Talk。

北京时间 12 月26日 (周四)20:00， 伊利诺伊理工学院博士生 陈灿宇 的Talk将准时在TechBeat人工智能社区开播！

他与大家分享的主题是: “ 大模型时代的虚假信息危机 - 挑战和机遇 ” ，届时他将深入探讨大模型时代抵御虚假信息的挑战与机遇，提供最新见解和未来应对策略。

Talk·信息

▼

主题：大模型时代的虚假信息危机 - 挑战和机遇

嘉宾：伊利诺伊理工学院 · 博士生 - 陈灿宇

时间：北京时间 12 月26日(周四)20:00

地点：TechBeat人工智能社区

http://www.techbeat.net/

长按识别二维码，一键预约TALK！

Talk·介绍

▼

在大模型驱动的人工智能时代，虚假信息危机正在加剧，威胁着信息生态系统和公众信任。大语言模型（LLMs）的强大生成能力，不仅可能无意中制造大量幻觉信息，还可能被恶意利用生成虚假新闻和谣言。本次报告将深入探讨大模型时代抵御虚假信息的挑战与机遇，提供最新见解和未来应对策略。

Talk大纲

1. 应对大模型时代的虚假信息危机的整体图景，包括新的挑战和机遇[1]

2. 近期在探索 [2,3] 和抵御 [4] LLM虚假信息风险方面的研究进展

- 在第一项研究中 [2]，我们验证了LLM在现实中生成虚假信息的潜在方式，并通过实证研究和用户实验揭示了检测LLM生成的虚假信息的难度。

- 在第二项研究中 [3]，我们探讨了通过知识编辑技术向LLM注入虚假信息的风险，展示了利用LLM本身作为新型传播工具散布虚假信息的可能性。

- 在第三项研究中 [4]，我们深入研究了使用知识编辑方法修正LLM幻觉的潜力与局限性。

3. 展望应对大模型时代的虚假信息危机的未来研究方向

Talk·预习资料

▼

项目名称：

Combating misinformation in the age of LLMs: Opportunities and challenges

论文链接：

http://doi.org/10.1002/aaai.12188

论文链接：

https://openreview.net/forum?id=ccxD4mtkTU

论文链接：

https://arxiv.org/abs/2407.20224

论文链接：

https://arxiv.org/abs/2410.16251

Talk·提问交流

▼

在Talk界面下的 【交流区】 参与互动！留下你的打call🤟和问题🙋，和更多小伙伴们共同讨论，被讲者直接翻牌解答！

你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦！

Talk·嘉宾介绍

▼

陈灿宇

伊利诺伊理工学院 · 博士生

陈灿宇，是伊利诺伊理工学院计算机科学博士四年级学生。研究重点是构建真实、安全、负责任的大语言模型，并将其应用于社会计算和医疗领域。发起并领导了一个名为“LLMs Meet Misinformation”的项目，旨在应对大语言模型时代的虚假信息挑战。在包括ICLR、NeurIPS、EMNLP和WWW在内的顶级会议上发表了多篇论文，并获得了多项奖项，如2024年Sigma Xi Student Research Award，2023年NeurIPS ICBINB Workshop的Didactic Paper Award，以及2024年AGI Leap Summit的Spotlight Research。

个人主页:

https://www.techbeat.net/grzytrkj?id=14547

长按识别二维码，一键预约TALK！

Talk预告｜伊利诺伊理工学院陈灿宇：大模型时代的虚假信息危机 - 挑战和机遇

正文

请到「今天看啥」查看全文