瑞莱智慧RealAI打造人工智能安全技术工具 推动行业发展
4月26日，由国家互联网信息办公室主办人工智能分论坛举办，论坛以“人工智能—社会实验视角下的社会治理”为主题。各产业相关领域专家代表一同围绕人工智能发展可能带来的风险和问题，探讨人工智能赋能社会治理的规律和经验，共同推进人工智能产业健康发展。
论坛期间，由中央网信办信息化发展局组织评选的“人工智能企业典型应用案例”正式发布，本次案例评选在发现和挖掘人工智能行业的最新场景和杰出企业，进一步推动我国人工智能健康稳定发展。经人工智能社会实验专家组评审，华为、百度、旷视、商汤、依图等在内三十五家企业的典型应用案例入选，其中包括瑞莱智慧RealAI的“人工智能安全与深度伪造治理应用案例”。
瑞莱智慧RealAI CEO田天介绍，由于当前的人工智能仍处在初级阶段，算法本身存在不透明、不可解释等结构性缺陷，这就导致技术漏洞可能被用于恶意攻击，通过对抗性数据污染、算法修改、恶意样本等方式对算法进行深层次攻击，让人工智能系统“精神紊乱”，以高置信度给出错误输出。这产生的后果将可能威胁到人类财产生命安全。比如通过佩戴特定设计、有对抗攻击能力的眼镜等实体物件，导致能够攻破手机解锁、线上身份认证、线下安防等领域的AI系统，让安全验证形同虚设。甚至在交通领域，车辆的辅助驾驶或自动驾驶系统也可能因为AI算法缺陷而丧失正常的视觉识别能力，错误识别交通指示牌、“看不到”大型障碍物等，严重威胁人身和财产安全。
本次论坛主题切实讨论人工智能发展可能带来的风险和问题，作为“人工智能企业典型应用案例”入选企业，瑞莱智慧RealAI的“人工智能安全与深度伪造治理应用案例”深入提出了当下深度伪造治理的方案。据介绍，作为清华人工智能研究院的官方产学研机构，北京瑞莱智慧科技有限公司依托其自身在AI安全攻防领域的积累，利用“产学研”一体化优势，创新性地提出了“攻防动态平衡”机制，以子之矛、攻子之盾，通过攻防对抗不断升级，演练出针对性的防御技术。通过对抗性算法研究，先于黑客发现并修补漏洞，避免攻击隐患；通过生成更为逼真的深度伪造视频，再训练出更为领先的检测算法。
在此基础上，瑞莱智慧RealAI还打造出一套完备且行之有效的技术工具来辅助解决人工智能安全问题。例如，业内首个人工智能安全平台RealSafe，这也是针对人工智能系统的防火墙与杀毒软件之一，通过集成业内主流的领先攻防算法，采用对抗训练手段对AI系统进行自动化的安全审查，输出检测报告后可选择不同的防御解决方案进行加固升级，提升AI系统及设备对对抗样本等攻击手段的识别能力。在应用管控层面，瑞莱智慧RealAI推出DeepReal深度伪造检测工具和一体机，能够高效精准的判断视频、图片等内容素材是否是经过AI伪造生成的，能够有效避免舆情与预警相关滥用。
当前，人工智能研究高度开放，即便编写一种折型算法的时间成本也只需几天，这也导致人工智能技术的滥用风险激增，直接性造成风险漏洞的出现。此外，人工智能既有多学科综合、高度复杂等特性，带有天然的技术壁垒，给监管部门的监督管理和风险防范提出了不小的挑战。
同时也有专家表示，人工智能设计者的价值导向和行为偏好易于被有意或无意地反映到算法、数据当中，并通过机器学习被人工智能所承继，进而演进为算法歧视。而在具体适用过程中，容易受到对抗样本的干扰或污染，被应用者二次形塑，做出背离设计初衷的错误决策。专家重点提到，在人工智能飞速发展的当下，安全问题日益凸显，需要我们加强对潜在风险的研判和防范，切实维护好利益和安全，确保人工智能安全可靠、可控。
田天表示，人工智能治理是一个长期的工作，“技术”与“制度”需同步推进，前者解决技术的不安全性与脆弱性，后面从场景应用层面给出规范与指引。
上一篇：人工智能助力教育，淘云科技校园公益行走进泾县城关第二小学
下一篇：“令人心动的AI”短视频征集暨天津人工智能先锋城市成果展示活动启动
*免责声明： 凡本网注明“来源：XXX(非神州瞭望网)”的作品，均转载其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责。若内容涉及投资建议，仅供参考勿作为投资依据。本网站无法鉴别所上传图片或文字的知识版权，如果侵犯，请及时通知我们，本网站将在第一时间及时删除。
-
- AI应用场景多元化，落地与挑战中寻找产业AI化的最优解
-
10月26日,《2021-2022中国人工智能计算力发展评估报告》(以下简称:报告)在AICC2021人工智能计算大会上发布,旨在通过宏观经济、技术成熟度、AI劳动供给、行业及地域四大方面综合考量和评估我国
2021-11-01
-
- 用AI赋能智能制造转型升级
-
中业科技成立10余年来逐渐发展成为一家NLP（自然语言处理技术）及应用的人工智能公司，并在智能制造领域取得突破。未来是AI的天下，AI不仅能用于互联网社交，还能在物联网和制造业等领
2021-10-25
-
- 技术与场景深度融合 谱就AI大时代繁荣生态图谱
-
锁定重大产业方向，设立以头部企业为依托的开放创新平台，让他们在国家人工智能创新体系中发挥引领作用，是国家新一代人工智能开放创新平台设立的关键诉求。 随着国家新一代人工智能
2021-10-21
-
- 着力推动虚拟现实产业高质量发展
-
新华社南昌10月19日电 2021世界VR产业大会云峰会开幕式19日在江西南昌举行，国务委员王勇出席并致辞。他强调，要以习近平新时代中国特色社会主义思想为指导，全面贯彻党中央、国务院决策
2021-10-20
-
- 世界VR产业大会发布中国虚拟现实产业重要成果
-
10月19日，由工业和信息化部、江西省人民政府主办的2021世界VR产业大会云峰会在江西南昌开幕。本次大会以VR让世界更精彩融合发展创新应用为主题，设立奥地利和韩国两个海外分会场，吸引
2021-10-20
-
- 传统行业想获得AI加持，为何这么难
-
AI技术要实现应用，首先数据要达到一定的体量，此外算力也要能支持大规模的模型训练，而后算法方面需要达到一定的精度，端侧算力也要具备一定的推理能力。 之所以目前只有消费互联网
2021-10-18
-
- 山东移动九大模型助力精准“打猫”
-
近年来，山东移动将防范打击电信网络诈骗作为我为群众办实事的具体举措，持续深化开展春雷断卡行动，推动构建清朗的网络空间环境。 今年以来，依托九大模型精准识别，山东公司已累计
2021-09-29
-
- 敲黑板啦，关于5G网络的重要提示
-
敲黑板啦~~随着技术更新迭代，越来越多的人开始用5G手机，请注意：使用5G手机却没有打开5G开关，那用的仍旧是4G网络哦~ 这样的设置步骤，你一定要清楚明了 对绝大多数人来说，睡觉前做的
2021-09-29
-
- 2021国家机器人发展论坛在深圳召开
-
2021年9月24-25日,以创新湾区智造,跨界融合发展为主题的2021国家机器人发展论坛在深圳隆重召开。此次国家机器人发展论坛的举办是学会积极响应中国科协关于开展科创中国品牌工作号召的具体
2021-09-29
-
- 知道创宇入选第九届CNCERT国家级网络安全应急服务支撑单位
-
9月27日下午，第九届CNCERT网络安全应急服务支撑单位授牌仪式在世界互联网大会的互联网之光博览会举办，知道创宇创始人兼CEO赵伟等13家国家级支撑单位代表出席此次授牌仪式。 知道创宇在
2021-09-29