为新技术应用加把安全锁

为新技术应用加把安全锁 字体： 小 中 大 分享到： 为新技术应用加把安全锁 2021-11-03 09:21:31 来源：新华网

在南京科技馆，工作人员在AR虚拟演播室演示直播效果。孙中南摄(人民视觉)

往年，******印发《建设法治社会实施纲要(2020-2025年)》。纲要提出，制定完善算法推荐、深度伪造等新技术应用的规范管理办法。深度伪造技术作为互联网技术的新应用，在现实场景中的应用越来越广泛，也存在滥用和误用的情况。为了促进技术的健康发展和使用，有必要建立更加完善的法律和技术保护体系。

有一种技术可以对声音和图像进行篡改和伪造，从而实现“变声”和“变脸”，逼真度高，难以分辨——这种互联网新技术被称为深度伪造技术。

可以借助人工智能技术实现“变脸”和“变声”。

日常生活中，深度伪造技术的应用屡见不鲜:智能客服的拟人化回答，影视剧中人物的变脸处理...这些应用场景通过对图像、声音、视频的篡改、伪造和自动生成，产生高度逼真的效果。

深度伪造技术本质上是一种人工智能合成内容技术。据启安信集团反金融犯罪专家卢介绍，起初，研究人员使用自编码器分解和恢复原始人脸图像。随着深度学习和高级算法的出现，深度伪造技术变得更加复杂和成熟，除了图像，声音和视频都可以更精细地伪造或者自动合成。以生成对抗网络算法为例，它配备了两个神经网络:生成器和鉴别器。前者自动生成模拟数据库中数据的样本，后者评估生成器生成的数据的真实性。两者都是在相互博弈学习中产生大规模、高精度的输出，从而实现真伪难辨的效果。

技术是一把双刃剑。深度伪造这种人工智能技术，最初仅限于学术研究，后来被广泛应用于现实生活中的许多场景，发挥了积极的作用。

鲁举例说，教育场景中出现的虚拟教师和虚拟历史人物，可以让数字化教学更具互动性和代入感。影视制作通过还原或修改角色镜头，降低修复成本，提高制作效率；虚拟的***主播和客服，没有真人的存在，可以减少人力投入；安全领域利用该技术生成更真实的图像和视频，测试现有的安全系统，发现技术漏洞，帮助更新迭代；娱乐应用可以对图片和视频做***，让它们更有趣…

然而，随着技术的发展和应用门槛的降低，很多个人用户可以很容易地改变自己的面孔和声音，一些人将深度伪造技术应用于安全漏洞攻击、虚假音视频欺诈等。技术滥用带来的风险逐渐被人们所认识。

可能被欺诈和网络攻击等非法活动利用。

此前，有国外网友利用变脸技术伪造艺人形象并发布视频，引发争议。

深度伪造技术滥用的隐患，简单来说就是盗用他人身份，让人“说”没说的话，“做”没做的事，以假乱真。

专家表示，如果没有有效的监管措施，深度伪造技术就会被滥用和误用，社会生活中的每个人都有被该技术侵害的可能。

比如人脸识别、声纹认证等生物识别机制可能面临失效；公司可能被虚假信息欺骗，内部信息可能因变相登录而丢失、被篡改或删除；相关部门在司法鉴定、取证、鉴定中将面临真实性问题；金融机构管理的账户可能会遇到资金被变相窃取和转移的情况；电信诈骗中，伪装公检法、银行、通信人员的手段会更加复杂，防不胜防...这些场景可能会带来一系列更深层次的社会问题。

构建更加完善的法律技术保护体系。

往年，******印发《建设法治社会实施纲要(2020-2025年)》。纲要提出，制定完善算法推荐、深度伪造等新技术应用的规范管理办法。今年3月，国家互联网信息办公室、公安部指导各地网信部门和公安机关加强涉及“深度伪造”技术的语音社交软件和互联网新技术新应用的安全评估，对11家未履行安全评估程序的企业进行了约谈，引起社会关注。

面对滥用深度伪造技术引发的犯罪和不良社会影响，专家建议应尽快制定对策，防范和化解风险。

鼓励研发假货识别和溯源技术。陆认为，目前学术界和商业界的防伪开发项目多是针对特定产品而非通用音视频，目前还没有通用的视频认证网络。要加大R&D投入，支持通用高效的假币检测技术，鼓励科研院所和企业研究检测算法、主动防御算法、深度伪造图像和伪造语音的融合检测技术等。

宜加强对社会各界的科普。通过培训等方式，让人们意识到深度伪造技术被滥用和误用带来的危害，逐步提高用户的防范意识和识别能力，为相关识别技术的发展提供机遇，促进深度伪造技术的合法使用。

我们应该加强相关司法制度的建设。专家建议，应建立更加完善的法律法规体系，对恶意制作或传播的用户进行惩罚。往年，国家互联网信息办公室发布《网络信息内容生态治理规定》。网络信息内容服务的使用者、生产者、平台不得利用深度学习、虚拟现实等新技术、新应用从事法律、行政法规禁止的活动。虽然已经出台了相关法律法规遏制深度伪造技术的滥用，但相关部门仍有必要建立更加完善、细化的法律体系，在伪造视频属于娱乐还是恶性传播等问题上厘清边界，为新技术的应用划出红线。

对于普通用户来说，由于不具备专业知识，很难识别伪造信息。尤其是在科技飞速发展的背景下，专业人士很难识别深度伪造的音视频。

陆建议，用户在处理财产、信用、安全等敏感问题时要更加谨慎，做好数据备份以便取证，在不确定的情况下联系官方客服或报警求助。

日常使用手机时，比较好设置安全等级较高的访问密码，拒绝打开不熟悉的网站和应用软件，尤其是系统提示存在安全隐患的访问时，应及时停止，并定期对电脑系统进行消毒，尽量减少在网上发布含有个人信息的图片、音频、视频。身份证、驾驶证等涉及人身安全和信息的物品丢失，比较好时间预测（数据为往年仅供参考）挂失。平时多学习法律知识，关键时刻用法律武器维护个人合法权益。

防止深度伪造技术被滥用和误用，仅仅依靠个人力量是不够的。国家和企业应肩负起保护公民隐私的重任，根据社会职能构建更加完善的法律和技术保护体系。

(记者:余建斌、刘制图:张芳曼)

【纠错】