高福院士：AI 时代更需要警惕「信息病毒」

生物学霸 · 公众号 · 生物 · 2024-12-16 18:23

正文

来源：《医学科学报》(2024-12-06 第 2 版要闻)

「科技伦理跟科学一样重要，只有在伦理的约束下，才能确保科学往正确的方向发展。」近日，中国科学院院士、中国生物工程学会理事长高福在第二届中国科技伦理高峰论坛上如是说。

在生命科学领域，伦理向来是一个重要议题。高福指出，伦理学是建立在道德之上的学问，讲伦理必先讲道德。生命伦理学则是把伦理学原理应用于研究生命领域，尤其是医学领域中有关伦理道德问题的学科。

在万物互联、人工智能（AI）加速发展的今天，科技伦理的内涵也必然需要随之发展。

高福引用了著名哲学家罗素在一次采访中的回答，强调科技伦理的核心是道德，本质则是哲学问题。

「一个是智慧，当你在做任何研究时，都需要不断问自己，什么是事实以及事实揭示了什么真相。另一个是道德，爱是明智的，而恨是愚蠢的。」

在高福看来，目前尤需注意由虚假信息引发的问题。「我曾经让我的学生调研昼夜节律对疫苗接种效果的影响，他找到了 5 篇论文，其中只有 1 篇是真实的，另外 4 篇都是由 AI 编造的。」

当真真假假的信息混杂在一起，人们越发无法判断信息的真实性，而社交媒体则加速了这些虚假信息的传播，高福将之形容为「信息流行病」。

「信息流行病的英文是 infodemic，由 information epidemic 合成。信息流行病是信息病毒引起的，英文是 information virus，我把它们合成为 inforus。」高福说，inforus 这个英文单词是他创造的。

「信息病毒和谣言不一样，谣言能够轻易识别，但信息病毒在谣言中夹杂着一些真实的信息，导致难以识别。」高福解释。

高福认为，「信息病毒」和「信息流行病」，已经催生出一个新学科「信息流行病学（infodemiology）」。如果说社交媒体加速了信息的传播，生成式 AI 的发展和大量使用，则使得信息的真实性越发难以界定。

为此，科普工作十分重要。「科普是社会疫苗，做科普打『疫苗』，预防信息流行病。」近年来高福每年都会写 1～2 本科普书，他也呼吁广大科研人员，在进行科学研究之余，积极投身科普工作，引导公众用科学的知识武装头脑，增强对「信息病毒」的免疫力。

在报告中，高福再一次倡导了 4C 原则：Cooperation（合作）、Competition（竞争）、Communication（沟通）、Coordination（协调）。高福强调，科学发展需要一定的竞争，但更需要合作，高效的沟通交流和充分的意见交换十分必要。

「科学无国界，本质是回答全人类未知的问题，这决定了科技伦理的规则也应该是全球性的。」高福表示。正如此次论坛的主题「跨越边界，共塑未来」，解决科学问题需要不同领域的科学家通力合作，对事关科技向善的伦理也需要跨越国界，制定全球一致的伦理标准。