三问“深度伪造”技术 11家涉语音软件和深度伪造技术企业被约谈

央视网消息：通过编辑照片中的人脸制作消遣娱乐短视频，类似的应用您使用过吗？好玩的背后可能存在着安全风险。近期，针对部分语音社交软件和涉“深度伪造”技术的应用未履行安全评估程序，国家互联网信息办公室、公安部指导各地网信部门、公安机关依法约谈了11家企业。

被约谈的11家企业为映客、小米、快手、字节跳动、鲸准数服、云账户、喜马拉雅、阿里巴巴、网易云音乐、腾讯、去演等，网信部门、公安机关督促其按照法律法规及政策要求认真开展安全评估，完善风险防控机制和措施，并对安全评估中发现的隐患及时采取有效整改，切实履行企业信息内容安全主体责任。

被约谈企业部分涉及“深度伪造”技术的应用，什么是深度伪造技术呢？

中国信通院云大所人工智能部副主任 石霖：深度伪造技术以编辑或者替换视频、图像中人脸为目的，用于消遣娱乐的一类软件。目前比较常见的主要是国外的一些软件，像蚂蚁呀嘿（搞笑短视频）就是其中一种。

“深度伪造”技术能仿人脸，能模仿声音吗？

中国信通院云大所人工智能部副主任 石霖：除了视觉的模仿外，确实可以用于语音和听觉的模仿，但是这些技术不能被称作“深度伪造”，可以称作“合成”，也有很多正向积极的应用，比如我们常见的一些语音导航、新闻播报等。

相关软件安全评估不完善 可能有怎样的危害?

中国信通院云大所人工智能部副主任 石霖：一方面这些软件是使用的我们个人的人脸、声音等个人信息，如果保存不当，会造成我们个人隐私数据泄露；另一方面这些软件可以被用于“恶搞”他人，造成他人名誉和心理上的损伤。对此，我们国家已经出台了相关政策法规，要求禁止用于虚假新闻信息传播和制作，同时对非真类音视频要求进行明确标识，要求相应平台进行开展安全评估，部署相应检测和鉴别技术。