谷歌发布自然问答数据集 Natural Questions

内容简介：Google 发布用于训练和评估开放领域（Open-domain）问答系统的大型语料库 Natural Questions(NQ)。该数据集包含了 30 万个自然产生的问题和对应的回答注释，每个回答都是人工从维基百科页面找到的答案。另外，Goo...

Google 发布用于训练和评估开放领域（Open-domain）问答系统的大型语料库 Natural Questions(NQ)。该数据集包含了 30 万个自然产生的问题和对应的回答注释，每个回答都是人工从维基百科页面找到的答案。另外，Google 还举办了挑战活动，以 NQ 数据集训练的模型性能来生成挑战者的排行榜。

开放式域名问答（QA）是自然语言理解（NLU）中的一项基准任务，旨在模仿人们如何查找信息，通过对问题的阅读和理解找到问题的答案。例如，用自然语言表达的问题（“为什么天是蓝色的？”），QA 系统应该能够阅读网页（比如这个维基百科页面 Diffuse sky radiation）并返回正确的答案，虽然答案有点复杂和冗长。

然而，目前并没有大量公开可用的自然产生问题（即寻求信息的人提出的问题）和可用于训练评估 QA 模型的答案。原因是汇集用于问答的高质量数据集，需要大量的实际问题来源以及寻找问题答案的大量人力。

而现在谷歌发布的自然问答数据集 Natural Questions 可以说是填补了这部分资料的空白。简单来说，就是 Google 收集自家搜寻引擎真实的问题查询，搭配维基百科的资料，为问答系统提供训练资料集。这个过程中，进行匿名查询的注释者需要阅读整个维基百科页面，来寻找答案并提供两种答案注释，包括涵盖所有资讯的长答案和简洁的短答案。

目前，该数据集收集了 30 万个自然产生的问题与答案，注释的品质精准度达 90％，另外，Natural Questions 还包括 1.6 万个范例，每个问题的答案由 5 个不同的注释者提供。Google表示，这种资料可以用来评估问答系统的性能。

以上就是本文的全部内容，希望本文的内容对大家的学习或者工作能带来一定的帮助，也希望大家多多支持 码农网

查看所有标签

本站部分资源来源于网络，本站转载出于传递更多信息之目的，版权归原作者或者来源机构所有，如转载稿涉及版权问题，请联系我们。