聚焦具身智能安全，探索未来安全边界｜秀湖会议第21期

中国计算机学会 · 公众号 · · 2024-10-21 17:33

正文

第二十一期CCF秀湖会议在CCF业务总部&学术交流中心成功举办，来自学界、业界的二十余位专家围绕“具身智能安全”这一主题开展探讨和交流。本次会议主要围绕“具身智能及其安全总体展望”、“具身智能算法及控制安全”、“信息物理系统融合下具身智能安全”、“具身智能多模态及对齐安全”、“具身智能网络通信及数据安全”等五个专题进行深度研讨。

▲部分与会专家合影▲

2024年10月18日至20日，第二十一期CCF秀湖会议在苏州CCF业务总部&学术交流中心举办，会议为期三天，就“ 具身智能安全 ”进行深入交流和探讨。会议邀请中国科学院 郭世泽 院士，欧洲科学院院士、西湖大学 金耀初 教授，中控信息产业股份有限公司 杨永耀 高工，中科院计算所 蒋树强 研究员等20余位专家出席会议。本次会议由浙江大学 徐文渊 教授和上海交通大学 朱浩瑾 教授共同发起。秀湖会议AC主席、CCF副理事长、中国科学院院士、清华大学 胡事民 教授在开幕式上致辞。

▲胡事民教授致辞▲

▲郭世泽院士发言▲

- 01-

特邀报告 | 开宗明义

▲金耀初教授作特邀报告▲

欧洲科学院院士、西湖大学金耀初教授作特邀报告“ 安全学习、优化与群智能安全 ”。金耀初教授首先概述当前人工智能的风险与管理，包括隐私、可靠性、公平性、可解释性、责任性方面；其次，报告谈及隐私保护的机器学习方法，如联邦学习方面的现状与挑战，进而突出研究安全性机器学习方法的重要性；最后，报告阐述了群体机器人安全的研究挑战与方向。

清华大学陶建华教授作特邀报告 《大模型技术发展与安全思考》 。报告从深度学习的三次研究范式引入大模型时代与AI新生态，体现出大模型在科学研究上日益重要的枢纽作用；其次，报告概述了大模型瓶颈问题，如可信性、可解释性等，介绍了应急管理、安全检修等方面的典型应用案例；最后，报告阐述了隐私窃取、模型泄露等方面安全问题，强调对相关技术的审核与规范构建。

▲蒋树强研究员作特邀报告▲

中科院计算所蒋树强研究员作特邀报告《 浅谈具身智能安全的正面与侧面》 。蒋树强老师从真实世界的特点出发，介绍作为具身智能“本体支撑”——机器人的发展现状与研究趋势。同时，类比人类智能的独特性，思考具身智能体的综合能力及其未来趋势。在具身智能安全方面，蒋树强老师认为应当考虑其在涉身性、主动性、交互性、情境性方面的特点，重新思考具身智能的安全边界，帮助人工智能更稳定地从互联网走向物理世界。

- 02 -

专题分享 | 精彩纷呈

本次会议设置了 “具身智能及其安全总体展望”、“具身智能算法及控制安全”、“信息物理系统融合下具身智能安全”、“具身智能多模态及对齐安全”、“具身智能网络通信及数据安全” 五个专题，每个专题均安排了多个观点分享报告。参会专家通过报告分享了自己的前沿研究和领域思考，包括网络信息物理融合安全、具身多模态机器人安全、大模型安全与对齐、移动群智感知网络安全、工控与具身智能安全、跨域及感知安全、具身操作的可解释性、可信芯片、网络安全、多方计算等方面。参会专家提出众多具有启发性、思辨性的研究观点，丰富了对于具身智能安全的理解和思考。