为新技术应用加把安全锁
南京科技馆内，工作人员在AR虚拟演播馆演示直播效果。 孙忠南摄（人民视觉）
2020年，中共中央印发《法治社会建设实施纲要（2020—2025年）》。纲要提出，制定完善对“算法推荐、深度伪造等新技术应用的规范管理办法”。作为一项互联网新技术应用，深度伪造技术正越来越广泛地应用于现实场景，也出现被滥用错用的情况。推动技术的健康成长和使用，需构建更完善的法律和技术保护体系。
有一种技术，能对声音、影像进行篡改、伪造，从而实现“变声”“换脸”，并且高度逼真、很难甄别——这项互联网新技术叫做深度伪造技术。
借助人工智能技术可实现“换脸”“变声”
日常生活中，深度伪造技术的应用并不少见：智能客服的拟人回答、影视剧对角色的换脸处理……这些应用场景通过对图像、声音、视频的篡改、伪造和自动生成，产生高度逼真的效果。
深度伪造技术本质上是一种人工智能合成内容技术。据奇安信集团反金融犯罪专家卢维清介绍，起初，研究者使用自编码器实现对原始人脸的图像分解再还原。随着深度学习和先进算法的出现，深度伪造技术变得更加复杂成熟，除了图像，声音、视频都能被更精细地伪造或自动合成。以生成对抗网络算法为例，其同时搭载了生成器和鉴别器两个神经网络，前者基于一个数据库自动生成模拟该库中数据的样本，后者评估生成器生成数据的真伪，两者在互相博弈学习中产生大规模和高精确度的输出，实现真假难辨的效果。
技术是一把双刃剑。深度伪造这项人工智能技术起初仅限于学术研究，后来广泛应用于多个现实场景，发挥着一定正面效应。
卢维清举例说，在教育场景中出现的虚拟教师和虚拟历史人物，能让数字教学更具互动性和代入感；影视制作通过还原或者修改角色镜头，降低修复成本，提高制作效率；虚拟新闻主播和客服，无需真人出现，可以降低人力投入；安防领域借此技术生成更加逼真的图像、视频，测试现有安全系统，寻找技术漏洞，助力更新迭代；娱乐休闲应用程序则可以对图片和视频做特效处理，增加趣味性……
但是，随着技术的发展及应用门槛的降低，许多个人用户也能轻松实现“换脸”“变声”，还有一些人将深度伪造技术应用于安全漏洞攻击、虚假音视频诈骗等，技术滥用带来的风险逐渐为人们所知。
可能被诈骗、网络攻击等非法行为利用
此前，有国外网民利用换脸技术伪造艺人的影像资料并发布了视频，引发争议。
深度伪造技术被滥用的隐患，简单来说就是盗用他人的身份，让人“言”所未言、“行”所未行，以假乱真，混淆真相。
据专家介绍，若无有效的监管措施，任由深度伪造技术被滥用错用，社会生活中的每个人都存在被这项技术侵害的可能性。
例如，面部识别、声纹认证等生物特征识别机制有可能面临失效；公司企业可能被虚假消息欺诈，内部资料可能因为伪装登录而面临丢失、篡改、删除；有关部门在司法认证、证据收集、识别环节将面临真假难题；金融机构管理的账户可能遭遇伪装窃取，转移资金；电信诈骗里伪装公检法、银行、通信人员的手段会更加复杂，令人防不胜防……这些场景有可能带来一系列更深层次的社会问题。
#p#分页标题#e# 构建更完善的法律和技术保护体系
2020年，中共中央印发《法治社会建设实施纲要（2020—2025年）》。纲要提出，制定完善对“算法推荐、深度伪造等新技术应用的规范管理办法”。今年3月，国家互联网信息办公室、公安部指导各地网信部门、公安机关加强对语音社交软件和涉“深度伪造”技术的互联网新技术新应用安全评估工作，并对未履行安全评估程序的11家企业进行约谈，引发社会关注。
面对深度伪造技术被滥用错用引发的犯罪和不良社会影响，专家建议，需尽快制定应对措施，防范化解风险。
宜鼓励研发鉴伪和溯源技术。卢维清认为，目前学术界和商业界的防伪开发项目多针对特定产品而非通用的音视频，还没有构建通用性的视频鉴伪网络。要加大对通用且高效鉴伪技术的研发投入和支持力度，鼓励科研院所和企业研究检测算法、主动防御算法、深度伪造图像和伪造语音的融合检测技术等。
宜加强对社会各界的科普。通过培训等方式让人们意识到深度伪造技术被滥用错用带来的危害，逐步提高用户的防范意识和鉴别能力，为相关鉴别技术的发展提供机会，促进深度伪造技术的合法利用。
宜加强相关司法体系的建立。专家建议，建立更加完整的法律法规体系，对恶意制作或传播的用户进行惩戒。2019年，国家互联网信息办公室发布《网络信息内容生态治理规定》，网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。尽管已出台了相关法律法规遏制深度伪造技术的滥用，但还需要相关部门建立更加完整细致的法律体系，在区分伪造视频是属于娱乐还是恶性传播等问题上厘清边界，为新技术的应用划好红线。
对一般用户而言，由于不具有专业知识，很难识别出伪造的信息。尤其在技术发展迅速的背景下，专业人士也很难鉴别深度伪造的音视频。
卢维清建议，在有关财产、信用、安全等敏感问题的处理上，用户要更加谨慎，做好数据备份以便取证，对于不确定的情形及时联系官方客服或报警求助。
日常使用手机时，最好设置安全等级高的访问密码，拒绝打开陌生的网站和应用软件，尤其是系统提示有安全隐患的访问要及时停止，并定期对电脑系统杀毒，尽量减少在网上发布带有个人信息的图像、音视频等。如果身份证、驾驶证等有关个人安全和信息的物件丢失，要第一时间挂失。平时多学习法律知识，关键时刻采用法律武器维护个人的合法权益。
防范深度伪造技术被滥用错用，仅依靠个人的力量还不够，国家、企业都要肩负起重任，保护公民隐私，依据社会职能构建更完善的法律和技术保护体系。
（记者：余建斌 刘诗瑶 制图：张芳曼）
*免责声明： 凡本网注明“来源：XXX(非神州瞭望网)”的作品，均转载其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责。若内容涉及投资建议，仅供参考勿作为投资依据。本网站无法鉴别所上传图片或文字的知识版权，如果侵犯，请及时通知我们，本网站将在第一时间及时删除。
-
- 国内首台大功率深海1500米铺缆ROV水下机器人电气传动控制系统成套产品研制成功
-
7月12日，由广东工商职业技术大学与肇庆冠宇电气自动化设备有限公司共同举办的国内首台大功率深海1500米铺缆ROV水下机器人电气传动控制系统成套产品研制成功发布会在该校实训中心举行。 这一套产品具有完全的自主知识产权，国产化率达到了10
神州瞭望网 2022-07-13
-
- 湖北荆门石化三小教师再获国家实用新型专利
-
神州瞭望网讯(王光兴 施赵舟 孙荣辉)近日，由湖北荆门市石化三小教师张云凯和其合作人张沣栎申报的发明型专利《一种基于空调外机的空调冷凝水排放端口》，成功获得国家知识产权局授权（专利号：ZL 2021 2 1996335.5）。
神州瞭望网 2022-05-25
-
- 从日常刷脸到自动驾驶再到探寻未知
-
数字经济时代，信息成为经济发展的新资源，算力成为千行百业数字化转型的新动能。从日常刷脸打卡到未来智能汽车发展，再到探寻未知世界我们生活的方方面面在不知不觉中已经和算力紧
2022-03-25
-
- 中国彩电市场进入大屏高端时代
-
面板供应宽松导致彩电价格下降，消费市场迎来利好。叠加超高清行业的利好和北京冬奥会、卡塔尔世界杯等体育赛事推动，2022年中国彩电市场尺寸、结构、技术加速优化升级。电视品牌坚定
2022-03-24
-
- 谷歌再战AR眼镜
-
时隔10年，诸多迹象表明谷歌的AR眼镜项目有可能卷土重来。 2012年，谷歌官宣了拓展现实眼镜项目计划。2015年，发售仅9个月后，短命的Google Project Glass（谷歌眼镜）彻底退出历史舞台；时隔
2022-03-24
-
- 深耕科技创新，数字经济大有可为
-
新发展格局下，科技创新的重要性越来越突出。今年国务院政府工作报告提出，深入实施创新驱动发展战略，巩固壮大实体经济根基，推进科技创新，促进产业优化升级，突破供给约束堵点，
2022-03-24
-
- 车规级计算芯片如何应对算力飙升挑战
-
随着汽车智能化进程不断推进，其计算平台的算力等级也在直线飙升。如果说L2级汽车自动驾驶所需芯片算力为10TOPS，那么业界普遍预计L3+级算力将达到1000TOPS。提升计算效率已经成为汽车智能
2022-03-24
-
- 湖北荆门石化三小科技创新传捷报
-
神州瞭望网讯（王光兴 孙荣辉 肖葵施赵舟）近日，湖北荆门市石化第三小学又一项由师生发明的专利，获得国家知识产权局颁发的实用新型专利证书！ 11月26日，国家知识产权局发布授权公告
2021-12-20
-
- 数字化智能防疫预警手环 助力高危人群疫情防护
-
神州瞭望网讯（刘 军 刘 宏）近期，新冠疫情在若干省市先后出现散发型病例。进入秋冬季疫情高发季后，国内各地的疾控工作也将进入了紧张的防疫防控的状态。 遵照国家有关部门和各省市
2021-11-09
-
- 解码智慧冬奥｜杨鹏宇：为北京冬奥会做好各项筹办工作
-
新华网北京11月8日电（赵秋玥 周靖杰）北京冬奥会筹办已进入冲刺阶段，北京市科委、中关村管委会冬奥专班负责人杨鹏宇近日做客新华网访谈间。他认为，科技创新助力冰雪运动可以从竞技
2021-11-09