AI“换脸”有危险

2020-09-30 12:28     来源:     作者:吴彤

  一些网络黑产从业者利用电商平台,批量倒卖非法获取的人脸等身份信息和“照片活化”网络工具及教程。

AI“换脸”有危险(图1)

徐 骏作(新华社发)

  AI“换脸”你玩过吗?随着图像处理和人工智能技术的发展,不少“换脸”应用走红网络。只要动动手指,就可以将自己的脸替换成明星或是朋友的脸。然而,AI“换脸”给人们带来欢乐的同时也造成了隐患。有不法分子借此制作虚假视频诈骗钱财、利用换脸方式侵害他人肖像权……新技术带来的新挑战,给人们敲响了警钟。

 

  侵害肖像权 社会风险大

  记者调查发现,AI“换脸”及类似软件的“坑”不少。不法分子通过收集照片、视频,利用AI技术“换脸”,用伪造的照片或视频实施诈骗,使“AI换脸”变成了“AI造假”。AI技术的滥用,不仅给个人带来肖像权或钱财的损失,还可能引发社会风险。

  目前,很多银行等金融机构开设了人脸识别登录、“刷脸”支付等服务。随着“刷脸”的场景越来越多,由“脸”的安全带来“钱”的风险也随之增长。去年2月,深圳某人脸识别企业被证实发生数据泄露事件,超过250万人的核心数据可被获取,680万条记录泄露,其中包括身份证信息、人脸识别图像及GPS位置记录等。同样是在去年,欧洲一家公司也曾发生大规模信息泄露事件,数百万人面部识别信息被泄露。

  有报道显示,一些电商平台以0.5元每份的价格出售匹配了身份信息的人脸数据。业内人士表示,一旦不法分子利用人工智能技术将照片进行活化,就可以做出模拟真人的点头、摇头、眨眼、说话等行为,极易被用作办理网贷或实施精准诈骗。

  北京互联网法院的数据显示,自2018年9月9日至2020年8月31日,该法院共受理利用网络侵害人格权纠纷6284件,其中涉网侵害肖像权纠纷4109件,占比约65.4%。值得注意的是,在网络环境中,侵害肖像权的行为越来越隐蔽。在北京互联网法院受理的侵害肖像权纠纷中,约50.8%的侵权行为方式以软文广告形式出现,软文广告和在网络店铺中售卖明星同款商品现象尤为突出。

  案件攀升快 法律严限制

  针对利用信息技术手段“深度伪造”他人的肖像、声音,侵害他人人格权益,甚至危害社会公共利益等问题,将于明年起施行的《中华人民共和国民法典》明确提出,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。

  今年1月1日起施行的《网络音视频信息服务管理规定》中也规定,AI造假音视频不得随意发布,要“按照国家有关规定开展安全评估”,并“以显著方式予以标识”。

  对此,北京互联网法院立案庭庭长赵长新表示,肖像权是自然人人格权的基本内容,民法典对人格权独立成编,体现了对人格尊严的庄严确认与严格保护。网络技术的发展使肖像获取更加容易,传播更加迅速,同时利用信息网络侵害肖像权的案件近年来也急速攀升。

  事实上,不只是“换脸”有风险。近年来,人脸、指纹等个人生物特征信息已经成为身份证号码、手机号码等信息之外,过度搜集公民信息案件中的重灾区。由于生物特征信息与个人财产、人格权益之间的联系日趋紧密,信息一旦丢失或失控,将给信息所有者造成巨大且难以挽回的损失。

  中国消费者协会曾发布的《100款App个人信息收集与隐私政策测评报告》显示,测评的100款App中,有10款App涉嫌过度收集个人生物特征信息。

  专家认为,人脸等生物特征信息具有随身性、唯一性,随着技术的发展和成熟,指纹、人脸等生物特征信息未来将更广泛地应用于金融、购物、安全等生活场景。不过,在安全性尚未达到百分百,甚至存在可复制性的情况下,由此带来的风险也需要引起重视,并从法律和技术方面寻求解决方案。#p#分页标题#e#

  利用新技术 拧紧安全阀

  据北京互联网法院统计,在涉网侵害肖像权案件判决中,每案原告诉请损害赔偿金额均值近30万元,但是每案实际判决支持损害赔偿金额均值不足5万元。导致较大差距主要原因有:权利人对其知名度举证不足;权利人对其实际损失和侵权行为人获得利益举证不足。

  有专家表示,AI“换脸”法律风险点较多,很多案例对受害人造成的伤害难以及时发觉且极难有效救济,需要高度关注、积极预防。

  对此,赵长新建议,肖像权利人可主动采取技术手段检索肖像被使用情况,及时保全侵权证据,注重收集、保存有助于证明自己社会知名度的证据,一旦涉诉,积极提交损失证明的证据或与侵权损害后果相关证据,如商品交易量、文章阅读量、侵权持续时间等,为法官酌情认定财产损害赔偿金额提供参考。同时,各类网络平台要增强法治观念,积极利用技术手段,建立智能防控、识别、制止侵权行为的有效机制,预防和减少平台中侵权现象发生。

  也有专家表示,随着AI“换脸”使用场景更丰富,行业和监管部门应当加快技术升级,研发相应的“反换脸”检测技术,加快建立人工智能算法的安全评估制度,解决相关技术滥用问题。

上一篇:你看到的可能都是假“全息” 来看看真的全息显示是啥样

下一篇:5G广播能否成为广电杀手锏?

*免责声明: 凡本网注明“来源:XXX(非神州瞭望网)”的作品,均转载其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。若内容涉及投资建议,仅供参考勿作为投资依据。本网站无法鉴别所上传图片或文字的知识版权,如果侵犯,请及时通知我们,本网站将在第一时间及时删除。


推荐阅读
  • 美国明目张胆抢芯 !企业交出机密数据 后果如何

    ​美国明目张胆抢芯 !企业交出机密数据 后果如何 9月23日,美国政府以应对全球芯片危机为名,强势要求包括台积电、三星在内的20多家芯片相关企业提供商业机密数据,而且声称若有企业不配

    2021-11-09


  • 俄罗斯一法院对谷歌再处罚款200万卢布

    ​中新社莫斯科11月8日电 (张萌 田冰)莫斯科一地方法院8日对谷歌处以罚款200万卢布(1美元约合71卢布),理由是其拒绝删除违禁信息。至此,谷歌今年在俄罗斯总计被罚款4100万卢布。 塔斯社、俄

    2021-11-09


  • 脉脉用户前曝字节1075、后曝腾讯965,大厂开始真反卷?

    ​当焦虑、内卷不断在商业社会里翻滚,不知从何时开始,工作、开会逐渐成为职场人的全部。然而职场并非只有文案、代码和KPI,越来越多企业开始将管理重点转向为员工带来更多成长的资源与空

    2021-11-09


  • 全国在建项目超1800个!“5G+工业互联网”,“+”出哪些新变迁

    ​新华社北京电(记者张辛欣)工信部近日发布的数据显示,截至8月底,具有一定行业和区域影响力的工业互联网平台超过100家,连接工业设备总数达到7600万台(套),全国在建5G+工业互联网项

    2021-11-09


  • 涉6亿条个人信息 90后建空壳公司获利百万

    ​在当下的现实生活中,公众常常接到电信诈骗、网络赌博等诈骗团伙电话,不少人心中都很疑惑:犯罪分子是如何知道自己的个人信息的? 11月8日,记者从眉山市丹棱县公安局证实,在省公安

    2021-11-09


  • 携号转网困难重重 只因尾号三个“0”?

    ​携号转网困难重重 只因尾号三个0? 长沙晚报全媒体记者 范宏欢 手机号码用了5年多,只因手机尾号的3个0,就在未被告知的情况下悄然变成所谓的靓号?想要办理携号转网,却因为《靓号协议

    2021-11-09


  • 堵住游戏账号信息“盗洞”

    ​今年8月,国家新闻出版署下发《关于进一步严格管理切实防止未成年人沉迷网络游戏的通知》,要求严格限制向未成年人提供网络游戏服务的时间,未成年人网络防沉迷系统构建初见成效。然

    2021-11-09


  • 突破舒适区 在高端手机领域与苹果竞争

    ​通过100多个工序,每28.5秒就有一部荣耀Magic 3高端旗舰手机下线。中国证券报记者近日在深圳市荣耀智能制造产业园了解到,荣耀Magic 3系列、荣耀50系列两款旗舰手机已开始生产,预计未来两年

    2021-11-09


  • “火出圈”的电竞行业讲起中国故事

    ​本报记者 吴文婧 见习记者 冯思婕 EDG夺冠的消息占领了周末的热搜榜,从打游戏不务正业到国际赛为国争光,电竞赛道的发展如火如荼。 此前,杭州亚运会正式公布电子竞技小项设置,英雄联

    2021-11-09


  • 电子竞技热度爆棚 行业“春风拂面”?

    ​本报记者 赵学毅 见习记者 张晓玉 北京时间11月7日凌晨,中国LPL赛区战队EDG获得2021年英雄联盟全球总决赛冠军,引发广泛关注。热度背后,电竞行业是否将迎来春风拂面? 盘古智库高级研究

    2021-11-09