北京：“虚拟数字人安全技术标准”征民意
虚拟主播走进直播间、数字客服值守政务大厅……虚拟数字人正以多元姿态融入社会生活的方方面面。近日，北京市地方标准《信息安全 虚拟数字人安全技术要求（征求意见稿）》，通过北京市市场监管局官方网站向社会公开征求意见。该标准从制作到应用、从数据到场景，为虚拟数字人构建起全链条安全技术规范，为快速成长的虚拟数字人产业划定了安全边界。该标准由市公安局提出、归口并组织实施。核心覆盖虚拟数字人制作安全与应用安全两大板块，覆盖数据、形象、模型、内容、系统、场景六个环节。
虚拟数字人的安全，始于制作环节的源头把控。北京青年报记者注意到，标准征求意见稿将制作安全细分为数据安全、形象制作安全、模型安全三个部分，旨在从源头预防风险。
在数据安全层面提出，虚拟数字人制作过程中应遵循“最小必要”原则，只采集实现虚拟数字人功能所必需的数据；采集用户面部、声音、动作等生物特征信息时，需要获得用户的明确同意；数据存储应采用加密技术对训练数据进行存储加密，支持数据脱敏处理，对姓名、身份证号等敏感字段进行去标识化或匿名化处理，并建立完善的数据备份和恢复机制；数据标注需对人员进行专业岗前培训，对每一批标注数据进行人工检测；服务终止后，相关数据需进行彻底不可恢复式删除并记录删除过程。
形象制作安全聚焦细节合规，要求服饰配饰素材版权合法、契合伦理规范；背景场景素材的版权应符合法律法规的要求，对场景模型中的纹理贴图、关键结构等信息进行加密存储和访问控制；支持日志检索和安全事件回溯。
模型安全贯穿设计、训练、部署全周期。设计阶段要开展风险评估，训练阶段要注意防范恶意数据污染与对抗攻击，部署阶段需强化访问控制、漏洞扫描，建立一键熔断或紧急冻结等应急机制，确保模型安全可控、稳定运行。
如果说制作安全是源头防护，应用安全则是终端风险防控的关键。标准征求意见稿针对交互内容、系统运行、场景适配三大方面提出安全要求。
交互内容安全首先要建立完善的内容审核机制，应采用技术手段，过滤交互内容中的虚假新闻、违法不良信息；特别应在虚拟数字人输出内容中添加清晰、明显的显式标识，如在文本首尾添加“AI生成”符号，在视频开场嵌入动态水印，为虚拟主播标注“数字人”身份等，让用户一眼可辨；还应在虚拟数字人输出内容中添加用于内容溯源、防伪、版权保护的隐式标识，并保证添加的隐式标识在压缩、裁剪、噪声干扰后仍能成功提取。
系统安全聚焦运行防护，要求动态生成并校验会话ID，防范会话劫持攻击；实时监测对抗样本攻击，及时阻断风险或降级服务，筑牢技术运行防线。
场景安全则适配不同行业特性，针对政务、金融、教育、社交娱乐、医疗辅助五大高频场景量身定制规范。如：在政务场景中，政务数字人应对政务审批、行政处罚、资金发放等高风险事项仅提供咨询指导，不应做出实质审批；在金融场景中，虚拟数字人应与真实服务人员、金融机构唯一绑定，采用多模态生物特征验证，操作权限分级管控，核心权限双人复核；在教育教学场景中，应针对未成年人使用的虚拟数字人应用设置未成年人模式，防范不良信息接触。此外，在社交娱乐场景中，虚拟数字人在社交过程中生成的输出内容应经过审核，虚拟数字人的账号应进行实名认证，防范虚假账号、恶意账号；在医疗辅助场景中，应将虚拟数字人身份与医疗机构、医护人员绑定，操作人员应具备相应资质，采用多因素认证，操作日志全程留存，虚拟数字人输出的医疗内容应经过专业医护人员审核确认等。
关于《信息安全虚拟数字人安全技术要求》的意见征求将于6月18日结束，社会各界可登录北京市市场监管局官网提出意见。文/本报记者 王薇
虚拟主播走进直播间、数字客服值守政务大厅……虚拟数字人正以多元姿态融入社会生活的方方面面。近日，北京市地方标准《信息安全 虚拟数字人安全技术要求（征求意见稿）》，通过北京市市场监管局官方网站向社会公开征求意见。该标准从制作到应用、从数据到场景，为虚拟数字人构建起全链条安全技术规范，为快速成长的虚拟数字人产业划定了安全边界。该标准由市公安局提出、归口并组织实施。核心覆盖虚拟数字人制作安全与应用安全两大板块，覆盖数据、形象、模型、内容、系统、场景六个环节。
虚拟数字人的安全，始于制作环节的源头把控。北京青年报记者注意到，标准征求意见稿将制作安全细分为数据安全、形象制作安全、模型安全三个部分，旨在从源头预防风险。
在数据安全层面提出，虚拟数字人制作过程中应遵循“最小必要”原则，只采集实现虚拟数字人功能所必需的数据；采集用户面部、声音、动作等生物特征信息时，需要获得用户的明确同意；数据存储应采用加密技术对训练数据进行存储加密，支持数据脱敏处理，对姓名、身份证号等敏感字段进行去标识化或匿名化处理，并建立完善的数据备份和恢复机制；数据标注需对人员进行专业岗前培训，对每一批标注数据进行人工检测；服务终止后，相关数据需进行彻底不可恢复式删除并记录删除过程。
形象制作安全聚焦细节合规，要求服饰配饰素材版权合法、契合伦理规范；背景场景素材的版权应符合法律法规的要求，对场景模型中的纹理贴图、关键结构等信息进行加密存储和访问控制；支持日志检索和安全事件回溯。
模型安全贯穿设计、训练、部署全周期。设计阶段要开展风险评估，训练阶段要注意防范恶意数据污染与对抗攻击，部署阶段需强化访问控制、漏洞扫描，建立一键熔断或紧急冻结等应急机制，确保模型安全可控、稳定运行。
如果说制作安全是源头防护，应用安全则是终端风险防控的关键。标准征求意见稿针对交互内容、系统运行、场景适配三大方面提出安全要求。
交互内容安全首先要建立完善的内容审核机制，应采用技术手段，过滤交互内容中的虚假新闻、违法不良信息；特别应在虚拟数字人输出内容中添加清晰、明显的显式标识，如在文本首尾添加“AI生成”符号，在视频开场嵌入动态水印，为虚拟主播标注“数字人”身份等，让用户一眼可辨；还应在虚拟数字人输出内容中添加用于内容溯源、防伪、版权保护的隐式标识，并保证添加的隐式标识在压缩、裁剪、噪声干扰后仍能成功提取。
系统安全聚焦运行防护，要求动态生成并校验会话ID，防范会话劫持攻击；实时监测对抗样本攻击，及时阻断风险或降级服务，筑牢技术运行防线。
场景安全则适配不同行业特性，针对政务、金融、教育、社交娱乐、医疗辅助五大高频场景量身定制规范。如：在政务场景中，政务数字人应对政务审批、行政处罚、资金发放等高风险事项仅提供咨询指导，不应做出实质审批；在金融场景中，虚拟数字人应与真实服务人员、金融机构唯一绑定，采用多模态生物特征验证，操作权限分级管控，核心权限双人复核；在教育教学场景中，应针对未成年人使用的虚拟数字人应用设置未成年人模式，防范不良信息接触。此外，在社交娱乐场景中，虚拟数字人在社交过程中生成的输出内容应经过审核，虚拟数字人的账号应进行实名认证，防范虚假账号、恶意账号；在医疗辅助场景中，应将虚拟数字人身份与医疗机构、医护人员绑定，操作人员应具备相应资质，采用多因素认证，操作日志全程留存，虚拟数字人输出的医疗内容应经过专业医护人员审核确认等。
关于《信息安全虚拟数字人安全技术要求》的意见征求将于6月18日结束，社会各界可登录北京市市场监管局官网提出意见。文/本报记者 王薇
本文链接：http://m.sushuapos.com/show-2-16302-0.html北京：“虚拟数字人安全技术标准”征民意
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
