首页 > 新闻 > 正文

AI公司云从科技称首次实现深度阅读理解超越人类

AI公司云从科技称首次实现深度阅读理解超越人类

腾讯《一线》 濮祥

继国际象棋、围棋、游戏等领域之后,人工智能在深度阅读理解上有新突破。

2019 年 3 月 8 日,中国人工智能公司云从科技和上海交通大学联合宣布,在自然语言处理(NLP Neuro-Linguistic Programming)上取得重大突破,在大型深层阅读理解任务数据集 RACE 数据集(ReAding Comprehension dataset collected from English Examinations)登顶第一,并成为世界首个超过人类排名的模型。

有评论认为,这会是机器深层理解人类语言的开端。

论文中,云从科技与上海交通大学基于原创 DCMN 算法,提出了一种全新的模型,使机器阅读理解正确率提高了 4.2 个百分点,并在高中测试题部分首次超越人类(机器正确率 69.8%、普通人类 69.4%)。

这一研究成果,在应用领域搭配文字识别 OCR/语音识别技术后,NLP 将会帮助机器更好地理解人类文字/语言,并广泛应用于服务领域:帮助企业判断客户风险、审计内部文档合规、从语义层面查找相关信息;在社交软件、推荐引擎软件内辅助文字审阅工作,从枯燥的人工文字工作中解放人类。

突破语义理解瓶颈

此次云从科技和上海交通大学在自然语言处理(NLP)领域的深度阅读理解上登顶 RACE 排行榜第一名。

RACE 是一个来源于中学考试题目的大规模阅读理解数据集,包含了大约 28000 个文章以及近 100000 个问题。它的形式类似于英语考试中的阅读理解(选择题),给定一篇文章,通过阅读并理解文章(Passage),针对提出的问题(Question)从四个选项中选择正确的答案(Answers)。该题型的正确答案并不一定直接体现在文章中,只能从语义层面深入理解文章,通过分析文章中线索并基于上下文推理,选出正确答案。相对以往的抽取类阅读理解,算法要求更高,被认为是“深度阅读理解”。

RACE 数据集的难点在于:由于正确答案并没有直接使用文章中的话术来回答,不能直接从文中检索得到答案。必须从语义层面深入理解文章,才能准确回答问题。

解决方案

怎么让机器在庞大的题库文章中(28000 个)找到正确的答案?

云从科技与上海交通大学首创了一种P、Q、与A之间的匹配机制,称为 Dual Co-Matching Network(简称 DCMN),并基于这种机制探索性的研究了P、Q、与A的各种组合下的匹配策略。

结果显示,采用 PQ_A的匹配策略,即先将P与Q连接,然后与A匹配,策略都得到了更优的结果。

再将模型(基于 PQ_A策略)与其他已知的模型、以及纯粹基于 BERT 自身的模型进行了比较,得到如下的结果:

从 RACE leaderboard 上结果比较可以得到以下结论:

1,云从科技与上海交大的单体模型就已经超越榜单上所有的单体或 Ensemble 模型;

2,云从科技与上海交大的 Ensemble 模型在高中题目(RACE-H)部分优于人类结果(Turkers)。

论文缘起

这篇论文的作者,来自中国人工智能“国家队”云从科技与上海交通大学。

云从科技孵化于中国科学院,2017 年 3 月,承担国家“人工智能”基础项目——“人工智能基础资源公共服务平台”建设任务。

2018 年 10 月的国家“人工智能基础资源与公共服务平台”发布会上,云从科技创始人周曦提出了人工智能发展五个阶段,核心技术闭环是五个阶段的重要基础。

从感知到认知决策的一系列技术组成了核心技术闭环:

感知技术:人脸识别、语音识别、文字识别 OCR、体态识别、跨镜追踪(ReID)、车辆识别等

认知决策:自然语言处理(NLP)、脑科学、大数据分析(风控、精准营销)等

目前,云从科技承担了国家发改委与工信部的人工智能基础平台、人工智能应用平台和人工智能的核心芯片平台项目,包含智能感知技术和认知决策技术为核心的技术闭环,并有一些技术突破。

网友评论

验证码 换一张
取 消
暂无评论...
三日内热门评论文章
关键词
为您推荐
  • 相关阅读
  • 业界资讯
  • 手机通讯
  • 电脑办公
  • 新奇数码
  • 软件游戏
  • 科学探索