主动学习策略及其在数据标注中的应用

主动学习主要是用于帮助解决数据标注问题[18，62-63]。一些研究人员已经提出一些组合迁移学习和主动学习的算法[64-68]。主动学习是一个循环的过程，直至达到某一停止准则为止。图1.10主动学习的过程既然查询函数Q用于查询一个或一批最有用的样本，那么，什么样的样本是有用的呢？在各种主动学习方法中，查询函数的设计最常用的策略是不确定性准则和差异性准则。

理论教育 2023-07-01

动作识别：特征与类别建立关联推断

动作识别是指从获取的视频中提取运动、表观、上下文等多种特征，在特征与动作类别之间建立关联，进而判断动作的所属类别。一种“理想”的特征表示能使后续估计器或分类器的工作变得简单轻松。因为完美的分类性能通常是不可能获得的，更一般的任务是确定每个可能动作类别的概率。在设计动作分类器时，我们总是希望建立一个“万能”的分类器，在特征向量不那么理想的情况下也能很好地完成识别任务。图6.1动作识别的基本过程

理论教育 2023-07-01

基于部分域适应的创新策略思路

部分域适应假设目标域的类别集合是源域类别集合的子集，源域和目标域共享的类别称之为共享类别，仅源域存在而目标域没有的类别称之为外部类别。图5.1为部分域适应的设定。因此，部分域适应的难点在于如何避免由源域中的外部类别导致的负迁移问题。下面将介绍部分域适应的经典方法。

理论教育 2023-07-01

反向传播开集域适应方法在多个任务上取得性能优势

从表5.7中可以看出，在3个迁移任务上，反向传播开集域适应方法均取得了比开集支持向量机方法更好的性能，尤其在域偏移更大的SVHN→MNIST任务上获得了33.6％的提升，充分验证了反向传播开集域适应方法的有效性。表5.8为开集域适应方法在Office-31数据集上以AlexNet网络为基础网络的性能。表5.9语义差异匹配开集域适应方法及其对比方法在I2AwA数据集上的性能[19]表5.10语义差异匹配开集域适应方法及其对比方法在I2WebV数据集上的性能[19]

理论教育 2023-07-01

渐进域适应方法提升弱监督目标检测结果

渐进域适应弱监督目标检测方法将PASCAL VOC 2007和PASCAL VOC 2012数据集中的训练集作为源域，将Clipart1k数据集作为目标域，即P→C。渐进域适应弱监督目标检测方法采用多个不同的目标检测基础模型来验证其有效性。“DT+PL”是采用域迁移和伪标签生成实例级标注样本来微调源域检测器。“DT”是仅使用域迁移所获得的有标注的、与目标域相似的图像来微调源域检测器。图7.21为渐进域适应弱监督目标检测方法在不同数据集上的检测结果示例。

理论教育 2023-07-01

动作特征提取技术优化方案

全局时空特征[2-6]、局部时空兴趣点特征[7-13]和时空轨迹特征[14-17]是三类经典的动作特征。图6.2全局时空特征运动能量图和运动历史图[18]；时空体[5]；时空形状[6]Bobick和Davis[18]提出用MEI和MHI表示图像序列中人的运动[图6.2]。该特征对摄像机运动较为鲁棒，并且能够描述运动物体之间的关系。图6.3局部时空兴趣点特征Laptev等人[19]提出的时空兴趣点；Dollár等人[12]提出的时空兴趣点；兴趣点云[20]；稠密轨迹[15]

理论教育 2023-07-01

基于模型迁移的经典方法优化

此类方法基于对于数据分布概率的一些先验假设进行，如利用高斯过程的迁移学习，利用贝叶斯模型的知识迁移。它的目标函数为图3.6模型迁移第一项损失函数用于最小化有标签目标域样本的分类器损失，第二项表示不同的正则分类器，第三项用于控制最终决策函数f T的复杂度。一些迁移学习方法在一定程度上可以看作是该框架的特例。参数共享被广泛应用于基于网络的方法中。这些联系被认为是应该被迁移的稳定知识。

理论教育 2023-07-01

网络自适应迁移性能分析

③在对比的自适应迁移方法中，残差迁移网络取得了最优的性能，其主要原因是残差迁移网络通过设置残差模块进行了分类器层面的迁移，同时在端到端的残差学习框架中进行特征表示对齐，进一步减少了域偏移。表4.8的结果表明：残差迁移网络依然取得了最好的性能。

理论教育 2023-07-01

深度模型实现动作识别

深度模型通过模拟人类大脑，构建深层的神经网络模型，将输入的原始图像信息逐层表示为边缘、形状等语义信息。用于动作识别的几种典型深度模型有时空卷积神经网络、循环神经网络、多流神经网络。该模型使用LSTM对卷积神经网络提取的空间特征进行编码，并预测输入视频流中动作发生的位置。

理论教育 2023-07-01

PASCALVOC数据集介绍

PASCAL VOC数据集是一个集Flickr网站图片、真值标签和标准评价软件于一身的数据集。从2007年到2012年间，PASCAL VOC数据集的图像识别比赛每年都会举办一次。PASCAL VOC数据集的目标是评估算法在真实自然环境下的性能。图7.10PASCAL VOC数据集类别概况[25]（见彩插）目前PASCAL VOC数据集也成为评价目标检测方法的基准数据集之一。表7.1显示了PASCAL VOC 2007和PASCAL VOC 2012的训练集、验证集和测试集的划分情况。表7.1PASCAL VOC数据集统计单位：张

理论教育 2023-07-01

探究迁移学习的数学表达式

定义1.3迁移学习是一种机器学习问题，其目标是通过使用从DS和TS迁移得来的知识来帮助学习目标域的决策函数fT（·）。图1.7、图1.8表明传统机器学习和迁移学习的区别。图1.7传统机器学习的学习过程图1.8迁移学习的学习过程在之前的定义中，数据域D={X，P}，于是DS≠DT的情况包括XS≠XT或者PX≠PT。

理论教育 2023-07-01

多层感知器原理与应用

比起单层感知器，多层感知器能够处理现实世界中更复杂的数据结构或结构难以被预先定义的数据。下面以分类为例，介绍多层感知器的前向传播过程、反向传播求解过程。图2.4多层感知器结构示意二分类模型；多分类模型1.前向传播多层感知器的前向传播过程是将输入数据映射到一个输出空间。若输出层的激活函数为sigmoid函数，则可得采用sigmoid函数分类时，输出y表示多层感知器的输出类别为1的概率，则输出类别为0的概率为1-y。

理论教育 2023-07-01

经典目标检测方法简析

传统目标检测方法采用手工设计的特征。此外，传统目标检测模型的非线性程度较低，无法很好地拟合视觉表示和类别标签之间的关系。相比于传统非深度目标检测方法，R-CNN模型将在PASCAL VOC 2012数据集上的检测准确率直接提高了近30个百分点。在Fast R-CNN方法被提出后不久，Ren等人[12]提出了Faster R-CNN方法，进一步提高了目标检测的速度和精度。

理论教育 2023-07-01

网络自适应迁移的基本思想

本书4.2节介绍的深度神经网络微调是最简单的迁移方法，它针对目标域数据和任务，对利用大规模源域数据训练好的网络模型进行参数调整，使之适应于目标域。为了解决不同域之间数据分布的不一致性[即域偏移]问题，一系列深度神经网络自适应迁移方法[31-34]被提出。不同的自适应迁移方法具有不同形式的域适应损失。下面介绍几种经典的神经网络自适应迁移方法。

理论教育 2023-07-01

迁移学习在目标检测中的应用

现有大多数目标检测方法通常假设训练数据与测试数据具有相同的概率分布。上述因素均会造成训练数据与测试数据之间的分布差异，给目标检测带来很大的挑战。因此，研究如何使目标检测模型自动适应于不同域是非常有必要的，也引起了越来越多研究人员的关注。本节将介绍迁移学习目标检测方法，关注将在已标注数据（源域）上训练得到的目标检测模型迁移到无标注数据（目标域）上，从而提高检测器在目标域上的检测性能。

理论教育 2023-07-01

开集域经典方法的应用

2）半监督域适应中的标签预测以上针对无监督域适应提出的类别标签预测方法也同样适用于半监督适应。在半监督开集域适应中，目标域有部分已标注的样本。用Ys和Yt分别表示源域类别集合和目标域类别集合。反向传播开集域适应方法的模型结构如图5.7所示。

理论教育 2023-07-01