国内首个金融领域“AI 换脸”检测标准正式发布

  新浪科技讯 9月6日晚间消息,今日,《虚假数字人脸检测金融应用技术规范》标准(下称《标准》)在 2024 Inclusion·外滩大会上正式发布。标准规定了金融领域虚假数字人脸检测服务的功能要求、技术要求、性能要求等,并提出了对应的测试评估方法。 据了解,这是国内首个面向金融场景的“AI 换脸”检测标准,中关村金融科技产业发展联盟秘书长、中关村互联网金融研究院院长刘勇在演讲时说:“该标准的发布为金融场景下的虚假数字人脸安全检测和评估提供了依据,也填补了这一领域的空白。”

  新浪科技了解到,该标准在中关村金融科技产业发展联盟组织下,由蚂蚁天玑实验室和工商银行建设银行邮储银行中信银行、北京国家金融科技认证中心、中关村互联网金融研究院、网商银行、北京前沿金融监管科技研究院等十几家机构共同撰写。

  《标准》在“功能”和“性能”两方面作出了具体规定。功能层面,相关机构应具备替换、活化、深度伪造等五种情况下的虚假数字人脸检测功能。性能层面,相关机构应建立不少5000张的真实数字人脸数据集,和不同伪造形式的虚假人脸数据集,以应对现实生活中的复杂场景。例如不同肤色、不同光线条件、不同清晰度、包含或不包含语音等都是重要维度。据了解,标准的各项条款均在蚂蚁天玑实验室完成了试验验证,并且天玑实验室已经开展了面向金融机构“AI换脸”检测能力的测试评估服务。

  此外,《标准》也明确虚假数字人脸内容检测服务性能将从准确性、鲁棒性、泛化性、响应速度等四个维度进行评估,考察机构是否具备完整的、高准确度、高性能的检测水平。据了解,在刚结束的外滩大会 AI 创新赛·全球 Deepfake 攻防挑战赛上,正是应用了此标准的框架和指标,进行赛题的制定和答案的评价。(罗宁)

责任编辑:刘万里 SF014

未经允许不得转载:滚雪球吧 - 让财富的雪球滚起来 » 国内首个金融领域“AI 换脸”检测标准正式发布