深度合成类服务算法备案快问快答26问（纯干货）

在当今数字化浪潮中，人工智能如一股强劲的洪流，席卷了社会的每一个层面，如果不踏浪前行，可能下一秒就要被拍死在沙滩上。人们轻轻地“嗨，XXX”，就能唤醒智能语音助手，图像软件凭借AI合成一张张不曾存在过的“真相”，智能客服为电商以及推广降本增效。 AI的触角所及，正深刻改写着我们的生活与工作图景。

但深度合成类AI技术在迅猛发展的同时，也暗藏风险。为引导AI安全有序地发展，防止AI的使用突破伦理桎梏和公序良序，我国颁布了 《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》 以及国标 《生成式人工智能服务安全基本要求》 等，深度合成类服务算法备案工作势在必行。有了备案这一有力抓手，能有效遏制虚假信息传播、隐私侵犯等乱象，为公众权益和社会稳定筑牢防护堤。

然而，备案之路绝非坦途，因为从业者和监管一样对于人工智能的监管也是摸着石头过河，已经备案的算法多少都有被重新打回的经历。 备案往往由法务同学进行主动推进，但这之中会有很多行业壁垒的问题，比如算法功能与应用范围界定，复杂算法逻辑梳理以及算法自评估的深度。 因此，笔者根据自己的实操经历，汇总成深度合成类服务算法备案快问快答 26问，这26问虽然没有办法完全解决备案过程遇到的难题，但期望借由这26个问答为亟待备案的公司及主体点亮一盏灯。

文末有福利哦！

答：生成式算法服务提供者和技术支持者需要在提供服务之日起10个工作日内进行备案，备案内容包括算法主体信息、产品及功能信息、算法信息。提交备案后，网信部门会在30个工作日内反馈备案结果。

垦丁实践 ：实际上，若公司首次进行算法备案的，还应当先做主体备案，当然做主体备案的同时，可以同步进行算法备案的材料准备。其间若被网信部门打回，则有可能延长相应的备案流程，但总体来说根据我们的实践，公司从备案立项到拿到备案号一般为3-6个月的时间是比较合理的。

2.问：哪些主体需要备案？

答：在中华人民共和国境内应用向中华人民共和国境内公众提供生成式人工智能服务、深度合成服务、深度合成服务技术支持，且具有舆论属性或者社会动员能力的主体。

垦丁实践 ：在公司内网向员工提供一项AI服务，提升员工的工作效率，这是否算向公众提供呢？不算。

3.问：“具有舆论属性或者社会动员能力”如何认定？

答：根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第二条，具有舆论属性或社会动员能力的互联网信息服务，包括下列情形：（1） 开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；（2） 开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。

垦丁实践 ：关于是否“具有舆论属性或社会动员能力”目标对象主要是大部分网络用户涉及的具有互动功能的服务平台。但我们在给产品做合规上架的过程中，了解到目前部分应用商店已将算法备案作为特定类型应用上架其应用市场的资质审核条件。实践中对于这类应用的主要的判断方式为产品有用户交互的对话框，存在信息输出能力以及是否存在AI相关的介绍。如电商行业存在的智能客服、AI智能体。

4.问：服务提供者和服务技术支持者有什么区别？

答：算法备案主体分为服务提供者和服务技术支持者两大类，前者直接面向用户，后者则为企业端客户提供技术支持，目前已公示的主体，两者比例接近，体现了深度合成服务在直接消费市场与B端市场的广泛应用。

垦丁实践 ：在实践中我们常遇到这样一类客户，他们对外提供的AI服务并非自己研发，可能就直接套用第三方大模型，为了匹配产品做了一些UI适配的工作，就包装成一个生成式服务对外提供服务了。这种情况下，前端对外提供服务的主体也是需要进行备案的，作为服务提供者。

5.问：什么场景下的APP、网站、AI开放平台等需要备案？

答：目前备案的产品形式呈现多样性，包括APP、网站、小程序、AI平台等，覆盖了娱乐、社交、教育、法律咨询、数字人生成等多个领域，涉及社会生活的方方面面，但主要集中在集中于图像生成、文本生成、语音合成、视频生成等，主要针对满足个性化内容创作、智能对话、数字人开发等方面的需求，一个产品有多种形态的，可在同一套材料中进行备案。

6.问：主体备案需要提供哪些信息？

答：公司的基本信息、证件信息、法定代表人信息、算法安全责任人信息、算法备案承诺书、算法安全主体责任基本情况。

垦丁实践 ：算法安全责任人一般建议由算法开发相关的技术人员担任，因为这类员工对算法和技术更了解，也更容易处理算法中发生的安全问题。

7.问：算法安全主体责任情况具体要包含哪些内容？

答：该基本情况说明需要对公司算法安全专职机构、算法安全自评估制度、算法安全监测制度、算法违法违规处置制度、算法安全事件应急处置制度以及数据安全和个人信息安全相关制度做总结性的说明以及附相应的规则文本供审核。

垦丁实践 ：对于规上的公司而言，有相应的制度储备这一申报内容可能不难拿下，但对于一些AI创新公司等初创公司或中小规模的公司而言，可能平时有零散的管控措施，但要形成有体系的制度可能会成为申报的卡点。

8.问：公司具体要有哪些制度呢？

答：建议覆盖以下制度：算法安全自评估制度、算法安全监测制度、算法安全事件应急响应规范、算法违法违规处置制度、信息安全和个人信息保护制度、用户数据权益处置流程指引、科技伦理审查制度。

垦丁实践： 监管是否会就制度是否落实做实质审查呢？只能说目前实践中没有遇到实质审查的卡点，但建议这类制度都应当实施并留存相应的实施日志，一方面保障了算法的安全，一方面也是考虑到监管备查。

9.问：什么是算法备案？

答：算法备案是指通过中央 网信办互联网信息服务算法备案系统填报，由线上提交申请，由中央网信办进行审核，通过后可在算法备案系统查询算法备案号。备案的法律依据是《互联网信息服务深度合成管理规定》第十九条，具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。算法备案号的样式为网信算备1101155364552xxxxxxx号。

垦丁实践 ：生成合成类算法需要通过网信办算法备案平台进行备案，这一备案实质性审查的内容相对较少，较易获得，也是生成合成式服务提供者可以先尝试拿下的备案。

10.问：什么是生成式人工智能的安全评估备案？

答：生成式人工智能的安全评估备案是指通过线下方式向省级网信办申请提交备案材料，省级网信办、中央网信办负责审核，除材料审核外，会对实际产品进行测试。必要时，可能进入企业实地评估，通过安全评估后，产品将纳入常态化监管范畴，（季度性抽检已通过算法）；

安全评估备案号无统一查询入口，各省级网信办公示方式、时间不一。备案的法律依据为《生成式人工智能服务管理暂行办法》第十七条，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。备案号的样式为Shanghai-MetaLLM-20231106。

垦丁实践 ：目前做安全评估备案的公司还是比较少的，从目前各大产品算法备案号和安全评估备案号的公示数量和情况也不难看出。一方面这个需要更多的人力物力线下提交材料，同时省级网信部门对材料的审核将更为严格。各省级网信办对人工智能上线前的安全评估工作的要求和流程都有所细化。目前各个地方网信办公布的备案咨询电话仅接受公司实名制的咨询，相应的备案材料模板也需要线下找省级网信办领取。

来源：北京市互联网信息办公室

11.问：这两种备案是否都需要做？

答：两者依据的法规不同，如果相关产品是提供生成合成类的人工智能服务的，则算法备案和安全评估备案均需要做。

垦丁实践 ：这两个备案有部分内容的重合，但是侧重的方向略有不同，算法备案可能更注重备案主体在提供服务的过程中对算法安全采取的措施，包括制度的安全保障、算法原理以及前端页面的提示等。安全评估备案则更注重算法模型本身是否安全，包括训练语料、测试题库等均需要明确。

12.问：如果生成式算法服务套用的是第三方已经备过案的大模型，如公司直接套用Shanghai-MetaLLM-20231106，只是调整了prompt，还需要重新做算法备案和安全评估备案吗？

答：公司套用第三方已经备案的大模型提供生成式的人工智能服务，作为服务提供者是需要做算法备案。

垦丁实践： 算法备案针对不同的服务主体和产品是需要重新做备案的。就生成式人工智能的安全评估备案而言，考虑到安全评估备案整体流程更为复杂，且需要到地方网信办线下提交材料，若直接调用第三方大模型的，可以直接进行上线登记。上线登记就是监管给企业直接调用第三方已备案大模型设计的便捷流程。尽管无需开展完整的生成式人工智能服务上线前安全评估与备案工作，但仍有必要与省网信办取得联系，以申请上线编号。

13.问：算法大模型备案可以直接调用境外第三方的算法模型，如Meta（原 Facebook）的 LLaMA？

答：不可以。

垦丁实践： 因为境外的大模型较容易出现意识形态相关问题，可能造成严重后果。线上的算法备案大概率也会被驳回，因为目前未见通过备案的算法公示信息有自己或自己使用的境外的算法模型。不过，根据境外算法模型自研可以，但也需要注意这些模型的开源协议要求和国内法规的平衡。

14.问：算法备案的名称该如何设置？

答：深度合成服务算法命名倾向于明确其应用场景。

垦丁实践 ： 如“数字人合成”“图像生成”，体现算法在图像、视频、语音合成方面的具体应用。也有直接用“XX大模型算法”作为名称，故在命名上并无严格限制。也有部分算法名称后面带有数字（如-1“”-2），根据公示内容我们发现这通常表示同一算法系列或功能的多个版本或变体。每个数字可能代表算法针对特定场景、优化目标或迭代更新的不同版本。

15.问：算法安全自评估需要包含哪些内容？

答：算法自评估需要包含算法基本情况、服务情况、风险研判、风险防控情况、用户权益保护、内容生态治理、数据安全防护以及数据安全保障等。

垦丁实践 ：自评估可以说是整个算法备案的重中之重，需要法务同学、产品同学以及技术同学共同来发力完成。这部分材料也是监管备案资料中重点关注的内容，也是因不符合要求或内容有误驳回率最高的材料。

16.问：风险研判和风险防控情况应该如何表述？

答：风险研判中列举的风险应当和风险防控情况一一对应，否则将会被监管驳回。

垦丁实践 ：我们在实践就遇到了没有一一对应被驳回的情况，这一点尤其要提醒技术人员，因为该部分主要由技术人员填写。如风险研判中提到算法恶意利用的问题，那么风险防控情况中就应当说明公司已建立反作弊的制度，通过对单个用户流量、单位时间内请求数等方面进行确认。在发现异常请求和流量之后，及时预警，必要时候针对性进行熔断保护，不响应异常用户的请求。如前面提到数据存储安全问题，那么需要明确说明是否进行增量备份、容灾备份以及加密存储等，需做到一一对应。

17.问：怎样算达到了算法使用主体实名认证的要求？

答：自评估报告中需要对是否对用户实名认证进行说明，移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务，平台只要掌握其中之一就属于完成了实名的要求。