从虚假信息到就业危机：AI时代的双刃剑

安盛投资管理 · 公众号 · · 2024-08-01 10:00

正文

请到「今天看啥」查看全文

人工智能 (AI) 和生成式人工智能 (GenAI) 技术的飞速发展和广泛应用不仅为我们带来了无限机遇，也暴露出一系列潜在风险和挑战，引发各国政府、学者和大众对技术滥用的担忧。

首当其冲的是内容真实性问题。GenAI 生成的包括文字、音频、视频和图像等可能被利用来制造虚假信息，强化信息“茧房”和意识形态的“孤岛”。一旦此类信息在社交媒体上发酵，可能导致舆论被操控，影响政治选举，甚至引发社会恐慌，破坏经济金融系统等后果 [1]。例如，据 BBC 报道，美国前总统特朗普的支持者利用深度伪造 (Deepfake) 制作并分享大量虚假图片，描绘了非洲裔美国人对特朗普和共和党的支持 [2] 。

同时，由于训练数据的局限和算法设计上的缺陷，GenAI 存在着复制人类偏见和加剧不平等的风险。美国国家标准与技术研究院 (NIST) 的研究团队在一份 2019 年的报告中指出，人脸识别软件在识别亚裔和非裔美国人面孔的错误结果比起白人面孔要高出 10 到 100 倍不等。这主要源于算法的训练数据缺少多样化[3] 。此外，由于机器学习算法的“黑箱”属性，GenAI 在自主探索中是否存在其自身的歧视也令人担忧。

此外，AI 技术的不当使用也可能侵犯个人隐私和著作权。大规模收集个人数据，加上 AI 强大的数据分析和生成能力，可能导致个人信息遭到窃取和滥用。各国监管部门需要建立完善的法律法规以保护数据隐私，并加强 AI 系统的安全性和透明度。

另一个不容忽视的挑战是 AI 技术的普及对就业的潜在冲击。虽然 AI 有利于提升劳动生产力，更多人担忧该技术的兴起是否会造成劳动力密集型、重复性、程序化等领域的公众大面积失业。麦肯锡 2018 年称，到 2030 年，全球或有 4 亿到 8 亿人的岗位被自动化取代，相当于今天全球劳动力的五分之一[4] 。国际货币基金组织今年 1 月发文，预计 AI 将影响全球近 40% 的就业岗位。相比于新兴市场和低收入国家，发达国家约有 60% 的工作或受 AI 的影响 [5]。

AI 技术在飞速演变的同时提出了更高的监管挑战。科技巨头应当采取负责任的伦理实践，确保 AI 技术的开发符合道德原则。同时，完善的法律和监管措施也至关重要，以提高 AI 技术的公平性和包容性，从而造福人类社会。

[1] https://www.imf.org/zh/Publications/fandd/issues/2023/12/B2B-Artificial-Intelligence-promise-peril-Tourpe

[2] https://www.bbc.com/news/world-us-canada-68440150

[3] https://www.nist.gov/news-events/news/2019/12/nist-study-evaluates-effects-race-age-sex-face-recognition-software

[4] https://www.mckinsey.com/featured-insights/future-of-work/ai-automation-and-the-future-of-work-ten-things-to-solve-for

[5] https://www.imf.org/en/Blogs/Articles/2024/01/14/ai-will-transform-the-global-economy-lets-make-sure-it-benefits-humanity#:~:text=The%20IMF%20analysis%20captures%20both,to%20impact%20high%2Dskilled%20jobs.

免责声明

本文件不构成在中华人民共和国（中国）（不论以出售或认购的方式）就任何基金提出的公开要约。所有直接或间接在中国提供或出售的基金均为中国的法人或自然人的利益而提供或出售。如本文件中提及任何基金，如非事先得到中国政府的所有必要批准（不论法定与否），所有中国的法人或自然人均不得直接或间接购买该等基金或当中任何实益权益。持有本文件的人士须按发行人及其代表要求遵从相关限制。