靠AI阻击假新闻 或许没那么乐观
近日，麻省理工学院计算机科学与人工智能实验室宣布与卡塔尔计算研究所合作，研究出一种可以鉴别信息来源准确性和个人政治偏见的AI系统。
据报道，实验室研究人员利用这个AI系统创建了一个包含1000多个新闻源的开源数据集，这些新闻源均被标注了“真实性”和“偏见”的分数。并且，AI系统对其所评估的媒介有广泛的语境理解，不只单独从新闻文章中提取特征值，而是兼顾了维基百科、社交媒体，甚至根据URL和Web流量数据的结构来确定可信度。人类与假新闻的战争旷日持久，这次这个新的AI伙伴会帮助人类更快取胜吗？
做法不难，但需要丰富数据源
谈及AI的这个本事，中科视拓（北京）科技有限公司CEO刘昕表示：“相关做法并不难。我认为这是一个非常基础的文本分类，看介绍这个系统会标记出各类新闻是真的、假的、是否存在偏见，这是一个基础的算法，就像标记图片中的猫、狗一样，做出分类，然后可以识别一张新的图片是猫还是狗，所以这本身是一个比较简单的文本分类技术。”
不过虽然原理不难，但实现难度不小。谈到实用性，刘昕认为，决定AI监测假新闻效率的关键在于识别数据的量级是否足够大、假新闻的来源和数量是否足够丰富。要成功判断出新闻是不是被捏造的，用来训练AI的假新闻的数据库必须够大。
另外就是“如何抽取新闻文本中的信息”，是采用简单的分词的技术还是更高阶的文本语义理解。“有足够的假新闻用于学习，采用文本语义的信息抽取方式，可以让AI的工作更有效、准确率更有保证。”刘昕表示。
在扩充数据量以及兼顾不同倾向的数据方面，这个新的AI系统作出有效改进：根据介绍，维基百科和推特被加入了系统的预测模型。正如研究者所说，维基百科页面的缺失也许说明了一个网站是不可信的，相关网页上也可能会提到这个问题的政治倾向如何。此外，他们还指出，没有经过验证的推特账户，或者使用新创建的没有明确标注的账户发布的消息，真实的可能性很低。
消灭假新闻，AI也无法手到擒来
不只这个系统，用AI阻击假新闻的尝试近年常有，不少大公司都有涉及。2017年初，Facebook曾推出Disputed标签，当网站上某些新闻被认为是错误的时，这个标签会出现在新闻下面，作为对读者的提醒。Facebook使用AI检查每天在Facebook上分享的数百万个链接，识别出其中的可疑内容，然后将它们发送给事实核查人员。当事实核查人员确定其为假时，Facebook就会减少访问范围，降低其在用户的信息流中的排序位置。听来理想，但在去年底，Facebook已经悄然放弃了这个标签功能，原因是这项努力并没有带来多大改善。追究可能的原因：确认一则消息为假需要至少两名事实核查员，这个应用过程太慢；对某些新闻给予特殊标记反而强化读者对它的印象；假新闻被标记，那部分为假或是无法证实真假的消息无法被标记等。
虽然存在各种想象中的可能性，AI在检测假新闻方面也确实有一些优势和成效，但是，更核心的障碍或许在于连人类都无法在什么新闻是真是假、尤其是“偏见或倾向”的判断上达成一致意见。中科院自动化研究所研究员王金桥表示，AI的判断结果是训练的结果，而训练的数据来自人。如果机器学习的数据本身就是有偏见甚至偏差的，那AI的准确性很难保证。
据了解，他们的AI系统只需检测150篇文章就可以确定一个新的源代码是否可靠，其在检测一个新闻来源是否具有高、低或中等程度的“真实性”方面的准确率为65%，在检测其政治倾向是左倾、右倾还是中立方面的准确率为70%。如何在大量含混不明、挖苦反讽、讳莫如深的政治话语中判断出倾向，目前来看，机器和人似乎一样迷惘。
（责任编辑：王蔚）
*免责声明： 凡本网注明“来源：XXX(非神州瞭望网)”的作品，均转载其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责。若内容涉及投资建议，仅供参考勿作为投资依据。本网站无法鉴别所上传图片或文字的知识版权，如果侵犯，请及时通知我们，本网站将在第一时间及时删除。
-
- AI应用场景多元化，落地与挑战中寻找产业AI化的最优解
-
10月26日,《2021-2022中国人工智能计算力发展评估报告》(以下简称:报告)在AICC2021人工智能计算大会上发布,旨在通过宏观经济、技术成熟度、AI劳动供给、行业及地域四大方面综合考量和评估我国
2021-11-01
-
- 用AI赋能智能制造转型升级
-
中业科技成立10余年来逐渐发展成为一家NLP（自然语言处理技术）及应用的人工智能公司，并在智能制造领域取得突破。未来是AI的天下，AI不仅能用于互联网社交，还能在物联网和制造业等领
2021-10-25
-
- 技术与场景深度融合 谱就AI大时代繁荣生态图谱
-
锁定重大产业方向，设立以头部企业为依托的开放创新平台，让他们在国家人工智能创新体系中发挥引领作用，是国家新一代人工智能开放创新平台设立的关键诉求。 随着国家新一代人工智能
2021-10-21
-
- 着力推动虚拟现实产业高质量发展
-
新华社南昌10月19日电 2021世界VR产业大会云峰会开幕式19日在江西南昌举行，国务委员王勇出席并致辞。他强调，要以习近平新时代中国特色社会主义思想为指导，全面贯彻党中央、国务院决策
2021-10-20
-
- 世界VR产业大会发布中国虚拟现实产业重要成果
-
10月19日，由工业和信息化部、江西省人民政府主办的2021世界VR产业大会云峰会在江西南昌开幕。本次大会以VR让世界更精彩融合发展创新应用为主题，设立奥地利和韩国两个海外分会场，吸引
2021-10-20
-
- 传统行业想获得AI加持，为何这么难
-
AI技术要实现应用，首先数据要达到一定的体量，此外算力也要能支持大规模的模型训练，而后算法方面需要达到一定的精度，端侧算力也要具备一定的推理能力。 之所以目前只有消费互联网
2021-10-18
-
- 山东移动九大模型助力精准“打猫”
-
近年来，山东移动将防范打击电信网络诈骗作为我为群众办实事的具体举措，持续深化开展春雷断卡行动，推动构建清朗的网络空间环境。 今年以来，依托九大模型精准识别，山东公司已累计
2021-09-29
-
- 敲黑板啦，关于5G网络的重要提示
-
敲黑板啦~~随着技术更新迭代，越来越多的人开始用5G手机，请注意：使用5G手机却没有打开5G开关，那用的仍旧是4G网络哦~ 这样的设置步骤，你一定要清楚明了 对绝大多数人来说，睡觉前做的
2021-09-29
-
- 2021国家机器人发展论坛在深圳召开
-
2021年9月24-25日,以创新湾区智造,跨界融合发展为主题的2021国家机器人发展论坛在深圳隆重召开。此次国家机器人发展论坛的举办是学会积极响应中国科协关于开展科创中国品牌工作号召的具体
2021-09-29
-
- 知道创宇入选第九届CNCERT国家级网络安全应急服务支撑单位
-
9月27日下午，第九届CNCERT网络安全应急服务支撑单位授牌仪式在世界互联网大会的互联网之光博览会举办，知道创宇创始人兼CEO赵伟等13家国家级支撑单位代表出席此次授牌仪式。 知道创宇在
2021-09-29