专栏名称: 个人信息与数据保护实务评论

推介中国个人信息/数据保护/隐私保护最新发展，包括法规速递、执法机关动态、行政执法、民事诉讼、中外执法交流、学术研究等。提供案例解析、理论介绍、律师实务操作指南，以及个人信息及数据保护评论和文章。

齐向东发声：AI带来的安全问题，只能用AI来解决

个人信息与数据保护实务评论 · 公众号 · · 2024-03-11 15:21

正文

人工智能是近些年全国两会上代表委员们热议的高频词。继ChatGPT后，人工智能大模型Sora日前问世，进一步刷新了公众对人工智能大模型成长速度的认知，也加剧了我们对于网络和数据安全隐患的担忧。

今年的全国两会上，关于人工智能高速成长过程中的网络安全问题，探讨持续受到关注。为此，澎湃新闻记者在会议期间专访了全国政协委员、全国工商联副主席、奇安信集团董事长齐向东。

他认为，Sora是一个比ChatGPT更加强大的人工智能大模型。当前，利用人工智能技术进行网络攻击的事件已经不在少数。Sora的出现进一步加深了网络和数据安全威胁，未来利用人工智能发动网络攻击的活动会更频繁，“深伪”诈骗、换脸变声等引发的网络犯罪会更猖獗。

“AI带来的安全问题，只能用AI来解决。”齐向东表示，只有对新科技产生的新场景进行有效的安全防护，科技推广应用才能进行下去，否则科技应用会死于诞生初期。

人工智能不会取代网络安全专家

澎湃新闻：您曾经提到，现如今我们已经进入数智时代，您认为人工智能技术会带来哪些新的安全威胁？

齐向东 ：AI加剧安全威胁，如数据泄露、欺诈攻击、社会治理安全等。以 ChatGPT 、Sora为代表的生成式 AI 技术可以快速生成钓鱼邮件、编写恶意软件与代码，导致攻击数量爆发式增长，AI 欺诈事件频繁发生。数据显示，ChatGPT 等生成式 AI 导致网络钓鱼邮件攻击增长135%。生成式AI还带来了数据非法获取、数据泄露及恶意滥用等数据安全问题，如 ChatGPT 在对话交互过程中能获取用户数据或输出训练数据，可能涉及到个人隐私数据、业务数据等敏感信息，加剧数据泄露风险。此外，不法分子可以通过“深度伪造”技术换脸变声、伪造视频，“眼见未必为实”将成为常态，网络诈骗大增，甚至引发社会认知混乱。

在AI恶意利用方面，人工智能大幅降低了网络攻击门槛，不懂代码、不懂技术的普通人也能成为黑客，将扩大网络攻击数量，专业化的黑客组织可以利用人工智能工具对网络攻击进行改造和升级，比如，利用AI大模型制作恶意软件、生成用于规避杀毒软件检测的代码等等，网络攻击能力将出现跃升；在针对 AI 算法攻击方面，机器视觉攻击、数据源污染等攻击频发，攻击者通过对抗样本、数据投毒、模型窃取等多种方式对 AI 算法进行攻击，使其产生错误的判断，同时由于算法黑箱和算法漏洞的存在，这些攻击往往难以检测和防范。

AI也会加剧军事威胁，AI武器化趋势显现。一方面，人工智能可被用在“机器人杀手”等致命性自主武器(LAW)上，通过自主识别攻击目标、远程自动化操作等，隐藏攻击者来源、建立对抗优势；另一方面，人工智能可以将网络、决策者和操作者相连接，让军事行动针对性更强、目标更明确、打击范围更广，越来越多的国家开始探索人工智能在军事领域的应用。数据显示，2024财年，美国国防部计划增加与AI相关的网络安全投资，总额约2457亿美元，其中674亿美元用于网络IT和电子战能力。

澎湃新闻：面对这样的威胁和隐患，应如何解决呢？

齐向东 ：AI带来的安全问题，只能用AI来解决。我们要大力推进AI＋安全的科技创新能力，鼓励各个行业的龙头公司和网络安全公司合作，把AI安全技术融入到数字化场景当中，进行有效的安全防护。鼓励企业和高校把最新的AI科研成果和网络安全攻防技术相融合。借助AI能力，加速网络安全技术创新、安全防护体系创新，这样就能比AI技术跑得更快。只有对新科技产生的新场景进行有效的安全防护，科技推广应用才能进行下去，否则科技应用会死于诞生初期。

澎湃新闻：人工智能在网络安全领域的应用会取代网络安全专家吗？

齐向东 ：不会，但它能让网络安全专家拥有更大的能力，在网络安全领域掀起一场生产力革命。网络攻击就好比偷东西，攻击者会特意制造群众性事件，产生海量告警。由于政企机构往往配备的人手不足，很容易忽略这些告警，即使有心处理，也会陷入“无力应付”的状态，导致网络攻击根本来不及研判，黑客就趁虚而入，带来破坏性后果。人工智能作为新一轮科技革命的核心技术，在提高效率、解放安全生产力方面有很强大的作用，可以很有效地应对这种饱和攻击。

人工智能本质上是辅助人的，很多人的工作质量和数量都会有较大的提升，拒绝人工智能的帮助可能使自己落后。一位安全专家一年可以处理12万条告警，我们创新推出的Q-GPT安全机器人，把告警处理的效率提高到人工的70倍，使安全运营结构发生重大变化。安全机器人可以全天候进行自动分析研判，在短短几分钟内从海量威胁告警中快速甄选出真实有效、亟需处置的告警，并自动生成处置建议，帮助安全专家平均节省80%的“盯屏”时间，跳出告警疲劳的困境。让他们把节省下来的时间用来做与业务相关的高价值任务，指挥机器人处理更多复杂的安全事件。总之在Q-GPT安全机器人的帮助下，安全运营生产效率大大提升，告警处理能力数倍增长，能发现解决更多安全问题，形成网络安全新质生产力。

一句话，我们不能盲目陷入技术决定论。人工智能和网络安全专家将是协同合作的关系，它能帮助专家从日常繁重的工作中解放出来，做更有价值、更有难度的安全工作。

当前面临三大网络安全新挑战

澎湃新闻：新一轮科技革命和产业变革推动网络安全上升到了一个前所未有的高度，当前我们面临哪些网络安全新挑战？

齐向东 ：随着网络空间和现实结合得越来越紧密，数实融合进程不断深入，我们面临三大网络安全新挑战。一是攻击者假冒身份的挑战。数智时代，数据流转过程复杂，安全边界模糊，导致访问者的身份难以辨认、行为难以管控，黑客能披着合法的外衣做坏事，窃取重要的隐私信息。这些数据一旦落入不法分子手里，就成了实施精准诈骗的的重要武器。一些不法分子还利用新技术，通过恶意剪辑、换脸变声、搭建虚假“镜头环境”等手段，冒用身份混淆视听，进行网络诈骗，让受害人防不胜防。

二是软件后门和漏洞层出不穷的挑战。软件规模越来越大，代码越来越多。奇安信代码安全实验室对1589个软件项目的源代码进行了分析，显示程序员每敲1千行原始代码,会出现大约11个缺陷，其中包括0.85个高危缺陷。另外，越来越多的复杂的数字化系统，都是通过招投标的方式向第三方采购的，第三方的软件供应商是否在软件里预留了后门，客户不知道，也没有能力监测。

三是“内鬼”猖獗的挑战。内鬼主要是“三员”，包括管理员、技术员和操作员。他们有较高的数据访问权限，很容易获取企业内部资料和财产。一方面有可能主动泄露商业机密，或将数据倒卖给黑灰产团伙获利；另一方面，也很可能被黑客远程控制，成为网络攻击盗取数据的作案工具。

澎湃新闻：网络安全领域是否存在“卡脖子”的痛点难点？

齐向东 ：网络安全领域解决卡脖子难题的关键，是实现关键核心技术的引领问题。网络防护的核心是感知预判、发现攻击、阻断攻击、迫使犯罪中止。随着网络攻防对抗不断升级，网络攻击方法不断创新，越来越隐秘难测，需要威胁发现和态势感知技术。只有以更快的速度创新，才能跑赢网络罪犯。

网络攻击源于漏洞，漏洞是防护系统的天敌，漏洞也是威胁情报的核心内容。目前，主流IT软、硬件多数都是外国厂家的。厂家是最容易发现和收集目标系统的漏洞情报的，这方面美西方国家有优势。

在核心软硬件方面，网络安全产品还要依赖高端芯片和核心软件。这些产品的断供会影响高性能网络安全产品的出货。

防范勒索攻击仍是未来的艰巨任务

澎湃新闻：我国的网络安全目前处于什么发展阶段？

齐向东 ：目前，我国网络安全产业处于高速增长的初级阶段，需求旺盛不会收缩，但供给侧依旧面临着挑战。

一方面，我国网络安全行业发展动力有待增强。网安企业要加大创新投入，从卖产品靠价格取胜的打法，转向卖服务靠“零事故”取胜，用技术创新引领市场需求扩大，提高行业增长质量。

另一方面，我国政府部门和企事业单位网络安全预算和发达国家比仍有差距。美国2024财年预算显示，民用联邦机构的网络安全预算占IT预算比例约为16.4%，我国的占比还在3%左右，差距巨大，需填平补齐。

齐向东发声：AI带来的安全问题，只能用AI来解决

正文

请到「今天看啥」查看全文