IEEE Proc.｜基于知识图谱的少样本和零样本学习综述

本文作者：陈矫彦（曼彻斯特大学&牛津大学）、耿玉霞（浙江大学）、陈卓（浙江大学）、Jeff Z. Pan（爱丁堡大学）、何源（牛津大学）、 Ian Horrocks（牛津大学）、陈华钧（浙江大学）

发表期刊：Proceedings of the IEEE 2023

论文题目：Zero-Shot and Few-Shot Learning With Knowledge Graphs: A Comprehensive Survey

论文链接：https://ieeexplore.ieee.org/abstract/document/10144560

ArXiv 链接：https://arxiv.org/abs/2112.10006

引言

随着人工智能的飞速发展，机器学习，特别是深度学习，在过去几十年中在许多领域和应用中取得了显著的成就。例如，卷积神经网络（CNN）在图像分类和视觉对象识别方面的准确性常常超过人类，推动了自动驾驶车辆、面部识别、手写识别、图像检索和遥感图像处理等应用的快速发展。同样，循环神经网络（RNN）和基于Transformer的模型在序列学习和自然语言理解方面取得了成功，这些技术推动了机器翻译、语音识别和聊天机器人等应用的发展。然而，大多数机器学习模型的高性能依赖于大量的标记样本进行（半）监督学习，而这些标记样本在现实世界应用中往往成本高昂或不够有效。在这种背景下，零样本学习（ZSL）和少样本学习（FSL）这两种主要的样本短缺设置备受关注。ZSL被定义为预测在训练中从未出现过的新类别（标签），这些新类别被称为未见类别，而在训练中有样本的类别被称为已见类别。与此相对的，FSL旨在预测那些只有少量标记样本的新类别。零样本学习在过去十年里引起了广泛的关注，提出了许多解决方案。例如，在零样本图像分类中，已经通过CNN从已见类别的图像中学习到的图像特征通常直接被用来为未见类别构建分类器。零样本学习方法通常利用描述类别间关系的辅助信息，如对象的视觉特征（也称为类属性）等。近五年来，知识图谱（KG）作为结构化知识（例如资源描述框架（RDF）三元组）的一种广泛使用的表示形式，引起了广泛的关注，一些基于知识图谱增强的零样本学习方法甚至在许多任务中达到了最先进的性能。本文回顾了这些研究领域的90多篇文章，介绍了ZSL和FSL中使用的知识图谱及其构建方法，并系统地归类和总结了知识图谱感知的ZSL和FSL方法，将它们分为不同的范式，如基于映射、数据增强、基于传播和基于优化等。此外，本文还介绍了不同的应用领域，包括但不限于图像分类、问题回答、文本分类、知识提取，以及知识图谱补全任务等，最终探讨了不同视角下的挑战和未来的研究方向。

动机和贡献

样本短缺挑战: 大多数高性能机器学习模型都依赖大量标记样本。然而，在实际应用中收集这些样本成本高昂且效率不高。当出现新的预测目标时，从头开始重新训练复杂模型在许多情境中是不可接受的，这些情况导致了机器学习中的样本短缺问题。
知识图谱（KG）的应用: 针对样本短缺的问题，许多研究开始利用辅助信息，包括知识图谱形式的信息，以减少对标记样本的依赖。
综述文章的贡献: 本文综合回顾了超过90篇关于知识图谱感知研究的文章，专注于两种主要的样本短缺情境——零样本学习和少样本学习。
系统分类和总结: 文章首先介绍了ZSL和FSL中使用的知识图谱及其构建方法，然后系统地分类和总结了知识图谱感知的ZSL和FSL方法，这些方法被分为不同的范式，如基于映射、数据增强、基于传播和基于优化等。
应用领域的展示: 展示了不同的应用领域，包括图像分类、问题回答、文本分类、知识提取以及知识图谱补全任务等，并讨论了不同视角下的挑战和未来的研究方向。

零样本学习（ZSL）和少样本学习（FSL）的背景

ZSL的定义和应用领域

应用范围: ZSL被广泛应用于从图像分类和视觉问答（VQA）到文本分类、知识提取和知识图谱补全等不同任务。
监督式机器学习分类定义: 在监督式机器学习分类中，训练数据集 $D_{tr}$ 用于训练分类器，从而在测试集 $D_{te}$ 上准确预测标签。
ZSL的正式定义: ZSL旨在使用训练样本集 $D_{tr}$ 训练函数 $f$ 来预测测试集 $D_{te}$ 上的样本，其中测试样本的类别 $Y_u$ 与训练样本的类别 $Y_s$ 不相交，即 $Y_u \cap Y_s = \emptyset$。
辅助信息的使用: 由于未见类别没有标记样本，ZSL方法依赖于辅助信息，如类属性、类文本描述和类层次结构。

ZSL的发展和辅助信息

早期ZSL方法: 最初提出的ZSL方法主要使用类属性来描述对象的视觉特征。
文本信息的使用: 从2013年起，类的文本信息（从类名到描述类的句子和文档）开始在ZSL中获得广泛关注。
辅助信息的优缺点: 类属性信息易于使用且准确度高，但不能表达某些任务的复杂语义且通常需要人工标注；而类的文本信息易于获取，但可能包含不相关的噪音。

FSL的发展

FSL定义: FSL旨在预测那些只有少量标记样本的新类别，这些类别的数量较小，不足以独立训练出稳健的模型。知识转移的关键挑战: 对于FSL，关键挑战是选择合适的知识进行转移并适应性地结合这些转移的知识以解决新的预测任务。

知识图谱（KG）的背景

定义和范围

定义: 知识图谱（KG）被定义为一个由实体集合 $E$、属性集合 $P$、实体文本集合 $L$ 和陈述集合 $T$ 组成的结构，其中每个RDF三元组 $T$ 表示为 $(s,p,o)$，即主体 $s$（实体），谓词 $p$（属性），客体 $o$（实体或实体文本）。
广泛应用: KG在搜索引擎、推荐系统、临床人工智能和个人助理等许多应用中取得了巨大成功。