在当今数字化浪潮中，人工智能如一股强劲的洪流，席卷了社会的每一个层面，如果不踏浪前行，可能下一秒就要被拍死在沙滩上。人们轻轻地“嗨，”，就能唤醒智能语音助手，图像软件凭借AI合成一张张不曾存在过的“真相”，智能客服为电商以及推广降本增效。AI的触角所及，正深刻改写着我们的生活与工作图景。
但深度合成类AI技术在迅猛发展的也暗藏风险。为引导AI安全有序地发展，防止AI的使用突破伦理桎梏和公序良序，我国颁布了《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》以及国标《生成式人工智能服务安全基本要求》等，深度合成类服务算法备案工作势在必行。有了备案这一有力抓手，能有效遏制虚假信息传播、隐私侵犯等乱象，为公众权益和社会稳定筑牢防护堤。
备案之路绝非坦途，因为从业者和监管一样对于人工智能的监管也是摸着石头过河，已经备案的算法多少都有被重新打回的经历。备案往往由法务同学进行主动推进，但这之中会有很多行业壁垒的问题，比如算法功能与应用范围界定，复杂算法逻辑梳理以及算法自评估的深度。笔者根据自己的实操经历，汇总成深度合成类服务算法备案快问快答26问，这26问没有办法完全解决备案过程遇到的难题，但期望借由这26个问答为亟待备案的公司及主体点亮一盏灯。
主体备案填报
1.问：整体的备案流程及时限？答：生成式算法服务提供者和技术支持者需要在提供服务之日起10个工作日内进行备案，备案内容包括算法主体信息、产品及功能信息、算法信息。提交备案后，网信部门会在30个工作日内反馈备案结果。
垦丁实践：实际上，若公司首次进行算法备案的，还应当先做主体备案，当然做主体备案的可以同步进行算法备案的材料准备。其间若被网信部门打回，则有可能延长相应的备案流程，但总体来说根据我们的实践，公司从备案立项到拿到备案号一般为3-6个月的时间是比较合理的。
2.问：哪些主体需要备案？
答：在中华人民共和国境内应用向中华人民共和国境内公众提供生成式人工智能服务、深度合成服务、深度合成服务技术支持，且具有舆论属性或者社会动员能力的主体。
垦丁实践：在公司内网向员工提供一项AI服务，提升员工的工作效率，这是否算向公众提供呢？不算。
3.问：“具有舆论属性或者社会动员能力”如何认定？
答：根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第二条，具有舆论属性或社会动员能力的互联网信息服务，包括下列情形：（1）开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；（2）开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。
垦丁实践：关于是否“具有舆论属性或社会动员能力”目标对象主要是大部分网络用户涉及的具有互动功能的服务平台。但我们在给产品做合规上架的过程中，了解到目前部分应用商店已将算法备案作为特定类型应用上架其应用市场的资质审核条件。实践中对于这类应用的主要的判断方式为产品有用户交互的对话框，存在信息输出能力以及是否存在AI相关的介绍。如电商行业存在的智能客服、AI智能体。
4.问：服务提供者和服务技术支持者有什么区别？
答：算法备案主体分为服务提供者和服务技术支持者两大类，前者直接面向用户，后者则为企业端客户提供技术支持，目前已公示的主体，两者比例接近，体现了深度合成服务在直接消费市场与B端市场的广泛应用。
垦丁实践：在实践中我们常遇到这样一类客户，他们对外提供的AI服务并非自己研发，可能就直接套用第三方大模型，为了匹配产品做了一些UI适配的工作，就包装成一个生成式服务对外提供服务了。这种情况下，前端对外提供服务的主体也是需要进行备案的，作为服务提供者。
5.问：什么场景下的APP、网站、AI开放平台等需要备案？
答：目前备案的产品形式呈现多样性，包括APP、网站、小程序、AI平台等，覆盖了娱乐、社交、教育、法律咨询、数字人生成等多个领域，涉及社会生活的方方面面，但主要集中在集中于图像生成、文本生成、语音合成、视频生成等，主要针对满足个性化内容创作、智能对话、数字人开发等方面的需求，一个产品有多种形态的，可在同一套材料中进行备案。
垦丁实践：在实践中，可能存在争议的是语音转文字这类，单纯只用到了NLP，认为这没有生成新内容，只是不同内容的形式转换，那这类用到NLP的场景是否需要备案呢？我们认为是需要备案的，目前像出门问问、百度语音、科大讯飞这类都是语音转文字的识别都进行了备案。6.问：主体备案需要提供哪些信息？
答：公司的基本信息、证件信息、法定代表人信息、算法安全责任人信息、算法备案承诺书、算法安全主体责任基本情况。
垦丁实践：算法安全责任人一般建议由算法开发相关的技术人员担任，因为这类员工对算法和技术更了解，也更容易处理算法中发生的安全问题。
7.问：算法安全主体责任情况具体要包含哪些内容？
答：该基本情况说明需要对公司算法安全专职机构、算法安全自评估制度、算法安全监测制度、算法违法违规处置制度、算法安全事件应急处置制度以及数据安全和个人信息安全相关制度做性的说明以及附相应的规则文本供审核。
垦丁实践：对于规上的公司而言，有相应的制度储备这一申报内容可能不难拿下，但对于一些AI创新公司等初创公司或中小规模的公司而言，可能平时有零散的管控措施，但要形成有体系的制度可能会成为申报的卡点。
8.问：公司具体要有哪些制度呢？
答：建议覆盖以下制度：算法安全自评估制度、算法安全监测制度、算法安全事件应急响应规范、算法违法违规处置制度、信息安全和个人信息保护制度、用户数据权益处置流程指引、科技伦理审查制度。
垦丁实践：监管是否会就制度是否落实做实质审查呢？只能说目前实践中没有遇到实质审查的卡点，但建议这类制度都应当实施并留存相应的实施日志，一方面保障了算法的安全，一方面也是考虑到监管备查。
算法备案填报
9.问：什么是算法备案？
答：算法备案是指通过中央网信办互联网信息服务算法备案系统填报，由线上提交申请，由中央网信办进行审核，通过后可在算法备案系统查询算法备案号。备案的法律依据是《互联网信息服务深度合成管理规定》第十九条，具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。算法备案号的样式为网信算备1101155364552xxxxxxx号。
垦丁实践：生成合成类算法需要通过网信办算法备案平台进行备案，这一备案实质性审查的内容相对较少，较易获得，也是生成合成式服务提供者可以先尝试拿下的备案。
10.问：什么是生成式人工智能的安全评估备案？
答：生成式人工智能的安全评估备案是指通过线下方式向省级网信办申请提交备案材料，省级网信办、中央网信办负责审核，除材料审核外，会对实际产品进行测试。必要时，可能进入企业实地评估，通过安全评估后，产品将纳入常态化监管范畴，（季度性抽检已通过算法）；
安全评估备案号无统一查询入口，各省级网信办公示方式、时间不一。备案的法律依据为《生成式人工智能服务管理暂行办法》第十七条，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。备案号的样式为Shanghai-MetaLLM-20231106。
垦丁实践：目前做安全评估备案的公司还是比较少的，从目前各大产品算法备案号和安全评估备案号的公示数量和情况也不难看出。一方面这个需要更多的人力物力线下提交材料，省级网信部门对材料的审核将更为严格。各省级网信办对人工智能上线前的安全评估工作的要求和流程都有所细化。目前各个地方网信办公布的备案咨询电话仅接受公司实名制的咨询，相应的备案材料模板也需要线下找省级网信办领取。
来源：北京市互联网信息办公室
11.问：这两种备案是否都需要做？
答：两者依据的法规不同，如果相关产品是提供生成合成类的人工智能服务的，则算法备案和安全评估备案均需要做。
垦丁实践：这两个备案有部分内容的重合，侧重的方向略有不同，算法备案可能更注重备案主体在提供服务的过程中对算法安全采取的措施，包括制度的安全保障、算法原理以及前端页面的提示等。安全评估备案则更注重算法模型本身是否安全，包括训练语料、测试题库等均需要明确。
12.问：如果生成式算法服务套用的是第三方已经备过案的大模型，如公司直接套用Shanghai-MetaLLM-20231106，只是调整了prompt，还需要重新做算法备案和安全评估备案吗？
答：公司套用第三方已经备案的大模型提供生成式的人工智能服务，作为服务提供者是需要做算法备案。
垦丁实践：算法备案针对不同的服务主体和产品是需要重新做备案的。就生成式人工智能的安全评估备案而言，考虑到安全评估备案整体流程更为复杂，且需要到地方网信办线下提交材料，若直接调用第三方大模型的，可以直接进行上线登记。上线登记就是监管给企业直接调用第三方已备案大模型设计的便捷流程。无需开展完整的生成式人工智能服务上线前安全评估与备案工作，但仍有必要与省网信办取得联系，以申请上线编号。
13.问：算法大模型备案可以直接调用境外第三方的算法模型，如Meta（原 Facebook）的 LLaMA？
答：不可以。
垦丁实践：因为境外的大模型较容易出现意识形态相关问题，可能造成严重后果。线上的算法备案大概率也会被驳回，因为目前未见通过备案的算法公示信息有自己或自己使用的境外的算法模型。根据境外算法模型自研可以，但也需要注意这些模型的开源协议要求和国内法规的平衡。
（图片来源于Google搜索）14.问：算法备案的名称该如何设置？
答：深度合成服务算法命名倾向于明确其应用场景。
垦丁实践：如“数字人合成”“图像生成”，体现算法在图像、视频、语音合成方面的具体应用。也有直接用“XX大模型算法”作为名称，故在命名上并无严格限制。也有部分算法名称后面带有数字（如-1“”-2），根据公示内容我们发现这通常表示同一算法系列或功能的多个版本或变体。每个数字可能代表算法针对特定场景、优化目标或迭代更新的不同版本。
15.问：算法安全自评估需要包含哪些内容？
答：算法自评估需要包含算法基本情况、服务情况、风险研判、风险防控情况、用户权益保护、内容生态治理、数据安全防护以及数据安全保障等。
垦丁实践：自评估可以说是整个算法备案的重中之重，需要法务同学、产品同学以及技术同学共同来发力完成。这部分材料也是监管备案资料中重点关注的内容，也是因不符合要求或内容有误驳回率Zui高的材料。
16.问：风险研判和风险防控情况应该如何表述？
答：风险研判中列举的风险应当和风险防控情况一一对应，否则将会被监管驳回。
垦丁实践：我们在实践就遇到了没有一一对应被驳回的情况，这一点尤其要提醒技术人员，因为该部分主要由技术人员填写。如风险研判中提到算法恶意利用的问题，那么风险防控情况中就应当说明公司已建立反的制度，通过对单个用户流量、单位时间内请求数等方面进行确认。在发现异常请求和流量之后，及时预警，必要时候针对性进行熔断保护，不响应异常用户的请求。如前面提到数据存储安全问题，那么需要明确说明是否进行增量备份、容灾备份以及加密存储等，需做到一一对应。
17.问：怎样算达到了算法使用主体实名认证的要求？
答：自评估报告中需要对是否对用户实名认证进行说明，移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务，平台只要掌握其中之一就属于完成了实名的要求。
垦丁实践：很多企业不清楚实名认证的程度，怕实名认证太严格影响用户体验，又怕没有达到实名要求，存在风险。其实这个实名认证要求的程度并不高，因为我们的手机号是实名制的，境内用户用手机号注册账号并登录后即可使用AI功能。
18.问：生成式的输入内容和输出内容的审核是否可以接入第三方服务商进行？
答：可以，但应当在自评估报告中提供与第三方签订的合同等内容作为佐证。
垦丁实践：实践中很多备案主体认为自己只要接入了第三方内容审核的供应商就可以做“甩手掌柜”了。其实备案主体作为服务提供者不能完全依赖于第三方，也需要建立自己的内容审核机制、流程，依据信安标委技术文件《生成式人工智能服务安全基本要求》建立相应的测试题库、关键词库、拒答题库等。
19.问：显性水印怎么做能够通过备案？
答：根据《TC260-PG-20233A网络安全标准实践指南－生成式人工智能服务内容标识方法》的要求，显性水印是在交互界面内或背景中添加的半透明文字。在人工智能生成内容的显示区域中，应在显示区域下方或使用者输入信息区域下方持续显示提示文字，或在显示区域的背景均匀添加包含提示文字的显式水印标识。提示文字应至少包含“由人工智能生成”或“由AI 生成”等信息。
垦丁实践：我们在申报过程中，在自评估报告中一般需要将前端提示的界面截图向监管进行说明。但我们在实际备案过程中以及查阅已备案的产品会发现有一些特定场景下产品备案了生成式算法，但产出的内容并未标注AI生成。如全能扫描王中的图像美化算法，因为根据其属性其主要的作用是智能擦除，若在用户期望输出的消除图中强行生成一个AI标识，可能对于用户的使用体验也不太好。若采取其他替代方式保障输出图的合法合规，一定程度上也能达到备案的要求。
答：根据《TC260-PG-20233A网络安全标准实践指南－生成式人工智能服务内容标识方法》的要求，隐性水印是通过修改图片、音频、视频内容添加的，人类无法直接感知、但可通过技术手段从内容中提取的标识。隐式水印标识中至少包含服务提供者名称，也可包含内容ID 等其他内容。
①图片的隐式水印标识应通过空域水印或变换域水印的方式实现，含有隐式水印的原始生成图片应满足任意连续50%以上面积且分辨率大于等于384×384 的切片均包含完整标识信息；
②视频的隐式水印标识应通过时空域水印或变换域水印的方式实现，含有隐式水印标识的原始生成视频应满足任意连续5秒以上视频内容中均包含完整标识信息；
③音频的隐式水印标识应通过时域水印或变换域水印的方式实现，含有隐式水印标识的原始生成音频应满足任意连续10秒以上音频内容中均包含完整标识信息；
④服务提供者应具有从该服务所生成内容中提取隐式水印标识的接口或工具。
垦丁实践：隐形水印主要针对产出内容是图片、音频、视频。我们在实践中就遇到了隐形水印没有补充相关后台日志截图等方式进行佐证的情况下监管驳回并要求补充的情况。上述隐形水印除进行技术原理说明外，溯源标识还补充相关后台日志截图。
21.问：什么情况下需要说明训练数据相关内容和标注相关规则？
答：若生成式算法模型属于企业自研的大模型时，需要提供相应的训练数据来源说明，如通过什么地址下载，什么方式采购，若涉及个人信息的，还需要在报告中说明已获取数据主体的同意并佐证，标注规则亦是如此。
垦丁实践：在实践中，如果直接套用第三方大模型的可以根据第三方的开源数据说明算法原理，不涉及训练数据和标注规则。若在算法为自研模型的情况下，需要提供的信息可能非常多，除了训练数据、标注规则、标注人员培训、标注人员数量，还有模型的更新升级频率等内容均需要明确，也包括了算法微调。
拟公示内容填报
22.问：拟公示内容中的算法基本原理如何描述？
答：算法基本原理通常表达为：通过x行为，利用x技术/模型，达成x结果。如“通过对用户输入的图片，进行内容理解，利用深度神经网络和扩散模型等技术，结合分割等模型，生成商品展示图片。”必要时也可以在开头加上“为了x目的”。
23.问：拟公示内容中的算法运行机制如何描述？
答：我们通常是将「算法基本原理」的内容拆分为多个步骤，从技术角度分点说明（可以1、2、3分段，也可以一整段按序说明），必要时也可以用流程图进行说明。
24.问：拟公示内容中的算法目的意图如何描述？
答：该段落主要表达该算法期望解决的问题，或实现的目的。存在多场景或多个目的意图时可分点描述，目的较为单一时也可简单描述，如闲鱼搜索算法的一句话描述目的“帮助用户快速找到想要的商品或信息”，再如智能修图美颜算法的一句话描述目的“帮助用户编辑、美化和发布图片”。
垦丁实践：我们也遇到过拟公示内容未明确说明原理、算法运营机制和意图被驳回的情况，若直接调用第三方大模型的可以直接找开源材料予以说明。
产品及服务信息填报/技术服务方式填报
25.问：多个产品需要单独做备案吗？答：答案是否定的，多个产品不是必须单独做备案的。
垦丁实践：备案主要基于算法本身，若多个产品基于同一算法运营，可以放在一起备案。
26.问：对于还没有上线的产品，产品相关信息中的用户量信息（月活、日活、总量等）应该怎么填报？
答：这里的用户量信息可以根据我们相关产品的受众和我们历史类似产品的用户数量进行预估填写。
垦丁实践：如果有APP又有小程序或者网页，算多个产品形态要分别填写。