向人工智能驱动的假新闻宣战
纽约州立大学奥尔巴尼分校计算机工程系吕思伟副教授本报记者 冯卫东摄
随着人工智能技术的发展，虚假新闻特别是深伪（Deepfake）音视频的制作已进入低成本、低技术知识的阶段，虚假新闻甚至成了美国总统特朗普针对主流媒体的口头禅。有分析认为，世界或将进入一个信息真假难辨的阶段。
“虚假音视频带来的最大问题是信任体系的崩坏，将给政治、经济和社会造成极大的危害。人工智能技术虽已能鉴别部分的虚假音视频，但道高一尺魔高一丈，同虚假音视频的斗争必将是一场持久战。”纽约州立大学奥尔巴尼分校计算机工程系副教授、计算机视觉与机器学习实验室主任吕思伟近日在接受科技日报记者专访时如是说。
人工智能驱动的虚假新闻催生信任危机
电子媒体的兴起和普及，使人们每日接受的新闻信息量要比10年前增加数百倍。但泥沙俱下，各种自媒体和社交媒体中也充斥着各种各样的虚假信息。人工智能技术的快速发展，进一步让虚假视频新闻的制作门槛越来越低，逼真度却越来越高。人工智能“换脸术”去年曾将《神奇女侠》女主角盖尔·加朵的脸嫁接到一个成人电影女星的身上，引起轰动。
吕教授指出，大部分非专业制作的虚假视频新闻其实都非常粗糙，稍有知识的受众都可以甄别出来，但由于传播平台的指数级增加，信息如洪水猛兽般涌向受众，快速分散着受众的注意力，加之视频本身的质量和分辨率等因素，受众在很短的时间内根本难辨真假。受众基于自身兴趣，条件反射般地进行转发，也对虚假音视频的传播起到推波助澜的作用。哥伦比亚大学心理学研究表明，注意力经济（眼球经济）的结果是人们的注意力被分割得越来越小，对信息的专注时间甚至已经短于金鱼。
事后补救虽能起到一定的正本清源作用，但虚假音视频传播所造成的巨大负面影响业已造成，很难在短时间内消除。而且虚假音视频的不断涌现，使政府或当事人疲于奔命澄清事实，久而久之，整个社会的信任体系就会分崩瓦解，形成公众对任何新闻事实都不相信的情形。
今年6月初，美国纽约媒体实验室召集媒体界、学术界的相关从业人员举办了一场虚假新闻恐怖展，就人工智能等新技术可能产生的虚假宣传和错误信息进行研讨。实验室执行主任贾斯汀·亨德里克斯说：“只需要几个大骗局就能让公众相信没有什么是真实的。”吕教授也认为，虚假新闻造成的最大问题是，当新闻可以虚假时，真实新闻也会变得“不真实”，最终造成受众无法相信任何新闻的窘境，对社会来说，这是一场史无前例的信任危机。
利用机器学习弱点找到虚假视频破绽
吕教授表示，“换脸术”的机器算法是利用大量的脸部图像训练出来的，这有点像机器翻译，可把一种文字翻译成另一种文字，而换脸虚假视频的算法“翻译”的对象是人脸，把原始人脸的表情特征提取出来，然后用另外一张脸去表达相同的表情特征。
为了找到鉴别虚假音视频的技术解决方案，吕教授团队对机器学习生成的虚假视频的算法代码进行分析，建立了数百个虚假视频模型，并尝试用各种方法进行检测。他们最终发现，虚假视频中的人物基本都不眨眼，而正常生理现象是，人类在面对面交流时眼神会进行互动，眨眼是一种不受主观控制的无意识行为，每隔两三秒钟一般会眨一次眼。
吕教授进一步解释说，机器学习学的并不是真正的“知识”，其得到的全部信息来自训练数据。而机器学习并不知道眨眼是人类的正常生理特征，第一代虚假视频大量使用的是网络静态人物图片，这些图片中的人物都是睁眼的，因为没有人愿意把闭眼的形象展示给公众。
同虚假视频人工智能大战任重道远
吕教授团队正是利用机器学习的这一弱点开发了一种深度学习新算法来检测虚假视频，成功率非常高。但吕教授坦言，在机器学习领域可谓道高一尺魔高一丈，虚假视频的制作者同样可以专门针对新算法设计出具有眨眼特征的更加逼真的视频。
吕教授说，虚假视频的制作过程一般来说是见不得光的，不会公之于众，其背后有巨大的政治或经济利益驱动，因此造假技术往往存在一定优势，领先于检测技术的发展。吕教授指出，其最新研发的算法目前来说具有一定的优势，这是因为考虑了虚假视频制作者尚未考虑到的数据训练问题。论文公开发表后，有黑客直接向吕教授发出挑战，要求其检测融合了眨眼的虚假视频，但这些虚假视频均未逃过新算法的“法眼”。
为在虚假视频检测技术研发上先人一步，吕教授团队目前已开始将深度学习算法的训练数据，从静态图片升级为动态视频，并通过建立红白队进行对抗训练，来提升高质量虚假视频的检测水平。吕教授透露，谷歌旗下Jigsaw公司已同开发团队接洽进行合作。
除了不断提升技术手段，吕教授认为，同虚假视频的斗争最重要的还是需要公众具有独立思考的精神，不随意转发，不为虚假视频的广泛传播推波助澜，无论是主流媒体还是自媒体，都要恪守底线，坚持求真。
（科技日报纽约8月27日电）
（责任编辑：王蔚）
*免责声明： 凡本网注明“来源：XXX(非神州瞭望网)”的作品，均转载其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责。若内容涉及投资建议，仅供参考勿作为投资依据。本网站无法鉴别所上传图片或文字的知识版权，如果侵犯，请及时通知我们，本网站将在第一时间及时删除。
-
- AI应用场景多元化，落地与挑战中寻找产业AI化的最优解
-
10月26日,《2021-2022中国人工智能计算力发展评估报告》(以下简称:报告)在AICC2021人工智能计算大会上发布,旨在通过宏观经济、技术成熟度、AI劳动供给、行业及地域四大方面综合考量和评估我国
2021-11-01
-
- 用AI赋能智能制造转型升级
-
中业科技成立10余年来逐渐发展成为一家NLP（自然语言处理技术）及应用的人工智能公司，并在智能制造领域取得突破。未来是AI的天下，AI不仅能用于互联网社交，还能在物联网和制造业等领
2021-10-25
-
- 技术与场景深度融合 谱就AI大时代繁荣生态图谱
-
锁定重大产业方向，设立以头部企业为依托的开放创新平台，让他们在国家人工智能创新体系中发挥引领作用，是国家新一代人工智能开放创新平台设立的关键诉求。 随着国家新一代人工智能
2021-10-21
-
- 着力推动虚拟现实产业高质量发展
-
新华社南昌10月19日电 2021世界VR产业大会云峰会开幕式19日在江西南昌举行，国务委员王勇出席并致辞。他强调，要以习近平新时代中国特色社会主义思想为指导，全面贯彻党中央、国务院决策
2021-10-20
-
- 世界VR产业大会发布中国虚拟现实产业重要成果
-
10月19日，由工业和信息化部、江西省人民政府主办的2021世界VR产业大会云峰会在江西南昌开幕。本次大会以VR让世界更精彩融合发展创新应用为主题，设立奥地利和韩国两个海外分会场，吸引
2021-10-20
-
- 传统行业想获得AI加持，为何这么难
-
AI技术要实现应用，首先数据要达到一定的体量，此外算力也要能支持大规模的模型训练，而后算法方面需要达到一定的精度，端侧算力也要具备一定的推理能力。 之所以目前只有消费互联网
2021-10-18
-
- 山东移动九大模型助力精准“打猫”
-
近年来，山东移动将防范打击电信网络诈骗作为我为群众办实事的具体举措，持续深化开展春雷断卡行动，推动构建清朗的网络空间环境。 今年以来，依托九大模型精准识别，山东公司已累计
2021-09-29
-
- 敲黑板啦，关于5G网络的重要提示
-
敲黑板啦~~随着技术更新迭代，越来越多的人开始用5G手机，请注意：使用5G手机却没有打开5G开关，那用的仍旧是4G网络哦~ 这样的设置步骤，你一定要清楚明了 对绝大多数人来说，睡觉前做的
2021-09-29
-
- 2021国家机器人发展论坛在深圳召开
-
2021年9月24-25日,以创新湾区智造,跨界融合发展为主题的2021国家机器人发展论坛在深圳隆重召开。此次国家机器人发展论坛的举办是学会积极响应中国科协关于开展科创中国品牌工作号召的具体
2021-09-29
-
- 知道创宇入选第九届CNCERT国家级网络安全应急服务支撑单位
-
9月27日下午，第九届CNCERT网络安全应急服务支撑单位授牌仪式在世界互联网大会的互联网之光博览会举办，知道创宇创始人兼CEO赵伟等13家国家级支撑单位代表出席此次授牌仪式。 知道创宇在
2021-09-29