助力网络内容安全 人工智能走上舞台
每天通过互联网上传的视频、图片、文字数据，用“海量”形容毫不为过——超过15亿条，而且还在呈数量级增长。
将其中涉及恐怖、暴力、色情等违法违规内容过滤出来，使其不污染、威胁网络空间，以前靠的是人工审核，现在人工智能（AI）开始走上舞台。
21日，由中国互联网协会和阿里巴巴等共同举办的“2018网络安全生态峰会”在北京开幕。AI在助力网络内容安全上扮演的重要角色成为此次峰会的热点议题之一。
AI是必然选择
可以说，面对海量互联网数据，用人工智能进行互联网数据的治理，是一个不得不做出的选择。
“相比AI技术，现有的人工审核方式无论是成本还是效率都处于显著劣势。”中国互联网协会在此次峰会上发布的《AI技术赋能网络内容安全保障研究报告》（以下简称《报告》）称。
根据《报告》，人工智能已经在网络文本内容检测、文本分类技术、视频和图片内容识别、语音内容检测等方面发挥重要作用。
例如，阿里巴巴开发的云盾内容安全系统可以基于深度学习技术，提供文字、图片、视频等多媒体的内容风险智能识别服务，有效减少涉及恐怖、暴力、色情等违法违规信息。
国家互联网应急中心高级工程师徐杰介绍，传统的网络安全治理方法涉及人工建模和提取特征，也就是描述某个事物，并构成特征向量。越是复杂的事物，特征向量的复杂程度就越呈指数增长。
“AI技术，特别是近期比较火的深度学习技术，为我们处理这些问题提供了新的可能。”徐杰说，因为深度学习技术不再需要人工去描述事物的特征，而是直接把相关事物的图片或视频交给机器去学习，由机器自己建立模型。
阿里巴巴集团资深算法专家薛晖认为，除了以上优势，AI技术也增加了网络内容治理的可靠性。因为，人工审核的经验因人而异，而且这种经验较难传承，但是AI技术无论是模型还是数据都更容易被继承。
还需要更加靠谱
尽管AI在保障网络内容安全方面已显出种种优势，但作为一种新兴的科技手段，难免还有诸多不足。
“AI本身还有一些问题，比如说AI很大程度上基于模型和算法，而模型和算法本身具有脆弱性。”移动安全联盟秘书长杨正军说，如果其模型和算法遭受攻击，就会失效。另外，AI是基于海量数据进行训练，假如数据遭到污染，或被攻击者获取，后果也不堪设想。
来自科大讯飞的技术专家李剑锋则认为，AI在网络内容治理方面存在的最大挑战，是现在AI的能力还有待提升。
李剑锋举例说，有用户发微博表达心情，内容是“黑夜总会过去，白天总会到来”。这句话反复发不出来，该用户百思不得其解。后来有朋友提醒他，是因为其中出现了“夜总会”。
“现在我们用AI技术，哪怕是一个非常简单的技术也很难做到100％正确。”李剑锋解释说，因为现在的机器学习属于统计学机器学习，包括深度学习、神经网络在内都是基于概率论，理论上不能保证100％正确。（科技日报北京8月21日电）
（责任编辑：王蔚）
*免责声明： 凡本网注明“来源：XXX(非神州瞭望网)”的作品，均转载其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责。若内容涉及投资建议，仅供参考勿作为投资依据。本网站无法鉴别所上传图片或文字的知识版权，如果侵犯，请及时通知我们，本网站将在第一时间及时删除。
-
- AI应用场景多元化，落地与挑战中寻找产业AI化的最优解
-
10月26日,《2021-2022中国人工智能计算力发展评估报告》(以下简称:报告)在AICC2021人工智能计算大会上发布,旨在通过宏观经济、技术成熟度、AI劳动供给、行业及地域四大方面综合考量和评估我国
2021-11-01
-
- 用AI赋能智能制造转型升级
-
中业科技成立10余年来逐渐发展成为一家NLP（自然语言处理技术）及应用的人工智能公司，并在智能制造领域取得突破。未来是AI的天下，AI不仅能用于互联网社交，还能在物联网和制造业等领
2021-10-25
-
- 技术与场景深度融合 谱就AI大时代繁荣生态图谱
-
锁定重大产业方向，设立以头部企业为依托的开放创新平台，让他们在国家人工智能创新体系中发挥引领作用，是国家新一代人工智能开放创新平台设立的关键诉求。 随着国家新一代人工智能
2021-10-21
-
- 着力推动虚拟现实产业高质量发展
-
新华社南昌10月19日电 2021世界VR产业大会云峰会开幕式19日在江西南昌举行，国务委员王勇出席并致辞。他强调，要以习近平新时代中国特色社会主义思想为指导，全面贯彻党中央、国务院决策
2021-10-20
-
- 世界VR产业大会发布中国虚拟现实产业重要成果
-
10月19日，由工业和信息化部、江西省人民政府主办的2021世界VR产业大会云峰会在江西南昌开幕。本次大会以VR让世界更精彩融合发展创新应用为主题，设立奥地利和韩国两个海外分会场，吸引
2021-10-20
-
- 传统行业想获得AI加持，为何这么难
-
AI技术要实现应用，首先数据要达到一定的体量，此外算力也要能支持大规模的模型训练，而后算法方面需要达到一定的精度，端侧算力也要具备一定的推理能力。 之所以目前只有消费互联网
2021-10-18
-
- 山东移动九大模型助力精准“打猫”
-
近年来，山东移动将防范打击电信网络诈骗作为我为群众办实事的具体举措，持续深化开展春雷断卡行动，推动构建清朗的网络空间环境。 今年以来，依托九大模型精准识别，山东公司已累计
2021-09-29
-
- 敲黑板啦，关于5G网络的重要提示
-
敲黑板啦~~随着技术更新迭代，越来越多的人开始用5G手机，请注意：使用5G手机却没有打开5G开关，那用的仍旧是4G网络哦~ 这样的设置步骤，你一定要清楚明了 对绝大多数人来说，睡觉前做的
2021-09-29
-
- 2021国家机器人发展论坛在深圳召开
-
2021年9月24-25日,以创新湾区智造,跨界融合发展为主题的2021国家机器人发展论坛在深圳隆重召开。此次国家机器人发展论坛的举办是学会积极响应中国科协关于开展科创中国品牌工作号召的具体
2021-09-29
-
- 知道创宇入选第九届CNCERT国家级网络安全应急服务支撑单位
-
9月27日下午，第九届CNCERT网络安全应急服务支撑单位授牌仪式在世界互联网大会的互联网之光博览会举办，知道创宇创始人兼CEO赵伟等13家国家级支撑单位代表出席此次授牌仪式。 知道创宇在
2021-09-29