▲
5月14日，中美人工智能政府间对话首次会议在瑞士日内瓦举行。
一方面，中美合作有助于更好管控、应对技术风险。目前，中美都在加紧研判人工智能技术与应用过程中的潜在与现实风险，并尝试从技术与监管两方面及时应对，积累了较多的实践经验。同时，由于中美在人工智能技术研发、应用与监管过程中各有侧重，两国经验具有一定互补性。此外，从技术角度而言，美国在人工智能基础研究与大模型建设上具有一定优势，中国则拥有更丰富的使用场景与数据累积，两国协作将有助于从模型设计和数据训练两个环节研判、应对内生性技术风险。
另一方面，这一对话也有利于双边关系稳定。目前，科技已成为美国对华战略竞争的核心之一，中美如果能够就人工智能问题交流，进一步明确共识与分歧，将有助于改善双边关系、缓解紧张情绪。同时，尽管对话难以短期解决美国在科技领域对华采取“小院高墙”政策的问题，但考虑到人工智能广泛的应用场景，针对人工智能安全风险的交流仍有助于双方划定风险，并推动双方拓展新的交流议题，在具体场景协作中推动彼此理解。
中美就人工智能展开对话与合作还有助于对外传递积极信号，避免大国博弈可能带来的新生风险。例如，一些欧洲国家在推进人工智能治理的过程中，也高度关注中美在这一领域的互动，认为中美如果无法有效管控科技竞争，将削弱全球人工智能治理的整体效力。同时，美国如果仍坚持组建排除中国的科技发展和治理同盟，不仅将造成技术发展不兼容，还会导致治理过程中的标准混乱，带来监管漏洞。
但中美人工智能对话仍面临诸多挑战。目前美国在科技领域对中国采取高度警惕和整体打压策略，极大抑制两国在人工智能领域取得合作成果的意愿。美方希望将人工智能对话与美国对华科技总体政策切割，但这种一边打压一边对话的扭曲心态不利于培育对话的积极环境，也无助于增进双边互信。在操作层面上，对话还面临议题政治化、迫切风险模糊化、对话预期结果不一致这三大问题。
首先，不同于技术人员和学者的直接交流，政府间对话往往遭遇人工智能问题“政治化”的风险，使双方不能很好地聚焦技术本身，而是更多关注技术之外的双边关系。其次，由于美国对华战略竞争不断加强，中美矛盾成为政府间对话难以回避的话题，双方难以将对话推进至对共同面对的人工智能风险的探讨，而是止步于技术领域的双边限制和制裁措施。最后，中美在人工智能风险判断、治理的国际目标和国内目标方面还存在差异，就对话成果也有不同预期。
针对上述挑战，下阶段中美人工智能对话应明确目标、细化议题，并充分挖掘多边与二轨对话潜力。政府方面，双方可以在对话开始前首先授权二轨层面沟通或开展一轨会前会，明确对话主要目的，并调整双方预期。此外，中美下一阶段对话可设置更清晰明确的议程，以摒除双边关系紧张造成的对话重点偏离，在丰富对话内容的同时提高沟通效力。最后，对话中还可以加入更多双边技术治理的案例分享，并设置具体场景下应对策略探讨环节，将关注点从双方分歧引导至面临的共同挑战。
在议题设置上，中美可尝试将人工智能安全问题分为“技术安全”（Technological Safety）和“应用安全”(Application Security)。前者强调人工智能在技术层面可能存在的风险，例如算法歧视、模型漏洞等，以及模型快速迭代造成的技术失控等内生风险，后者则强调技术被非国家行为体恶意利用、技术发展与应用引起的社会变革以及人工智能军事化、治理体系不兼容、监管漏洞等外生风险。
在技术安全层面，中美可首先从人工智能技术可靠性、可控性和可解释性入手，探讨各自担忧及预期解决方式。其次，中美还可从如何确保技术非歧视性与对人类不构成危害入手，针对如何确保技术在开发和训练阶段恪守科技伦理与基本价值观、做到“以人为本”进行交流。最后，两国还可就如何应对生成式人工智能（AGI）和超人工智能（ASI）的过度发展可能带来的技术失控问题展开对话，探讨如何平衡技术发展和有效监管。
在应用安全层面，中美可将安全风险分为非国家行为体恶意使用技术造成的安全风险、技术变革可能给社会秩序造成的风险以及国家间互动可能导致的安全风险三类。
第一，中美可明确非国家行为体恶意或滥用技术可能给国家、社会和个人带来的安全威胁，并探讨如何从价值倡导、法律规制和技术约束三方面为人工智能技术使用设置“安全带”（seatbelts）。第二，中美可就技术变革给社会生活带来的挑战和潜在风险进行沟通。比如，如何解决生产自动化带来的失业问题和人员再培训问题，争取更好地运用人工智能技术赋能经济发展，平稳实现产业升级和劳动转型。第三，中美可就国家间互动所导致的风险外溢问题进行研判，尝试寻找管控与应对策略。同时两国有必要就如何确保中美人工智能政府间对话按时展开保持沟通。
