《GQA:现实世界中的视觉推理》数据集介绍
此篇文章简单介绍了GQA数据集,是用于视觉问答的数据集,论文详细,PPT介绍,如有不如,欢迎大家交流。
GQA—关于图像场景下的问答数据集。这是一个新的数据集,将被用于对现实世界中的图像进行视觉推理与组合回答的任务中。该数据集中包括了有关各种日常图像的近2000万条问题。每个图像都与一组场景图(scene graph)对应。每个问题都与其语义的结构化表示相关联在一起,并且约束应答者必须采用特定的推理步骤来回答它。
许多GQA的问题中涉及到了多种的推理技巧,空间理解和多步推理等,因此,通常比社区中使用的视觉问答数据集更有挑战性。在本次的收集过程中,我们还确保了数据集的平衡性,严格控制不同问题组的答案分布,以防止使用语言和先验信息进行猜测。
因为VQA数据集较少关注推理,因为其19.5%的问题具有关联性,8%的具有空间推理性问题,只有3%的具有构成性问题。 GQA数据集在产生需要多步骤推理的问题上付出了很多努力,并平衡了答案分布以克服问题条件偏差。构造数据集需要四个步骤,即清理和合并链接到Visual Genome中每个图像的场景图,遍历图以收集有关对象和关系的信息并生成各种问题,减少答案分布的偏倚以获得平衡。数据集,并为这些问题提供功能表示。它的约94%的问题需要多步骤原因,而51%的人查询两个对象之间的关系。该数据集在110K图像上有22M个问题,这使得原始的训练和验证数据集非常大。因此,根据答案分布将这些问题重新采样到平衡的训练数据集和平衡的验证数据集中。除了标准准确性度量标准之外,还有四个新度量标准可以洞悉模型的不同功能:
1)一致性,当前问题的答案不应与基于同一图像的先前问题的答案相矛盾;
2)有效性和合理性,给出的答案是否在问题范围内和合理范围内;
3)分布,使用卡方分布给出真实答案和给定答案之间的整体匹配分布;
下图是问题前缀分布
类型组成(详细)
不同题型之间的细节关系
数据集平衡对条件答案分布的影响: