传统手工特征&&深度特征【转载】

传统手工特征（底层特征、中间特征）、深度特征：

底层特征： 主要指基于图像自身，通过简单操作就能得出的特征。如颜色、纹理、形状、梯度等属于底层特征，它们也是中间特征操作的基础特征。图像视频领域广为熟知的底层特征有：RGB、LAB、HSV、HOG、LBP、SIFT、SURF、SILTP（LBP改进）。特点：相对简单，无需学习与训练，仅需简单计算与统计。

中层特征： 在底层特征基础上进行多特征融合处理获得的特征，主要是颜色和纹理的多样性融合。例如：LOMO（HSV+SILTP）。也只特征提取方式进行改进与创新的一类特征，通常融入较为复杂的数据理论处理过程。特点：比较复杂，主要体现在提取策略与融合过程。

深度特征： 通常设计神经网络模型来挖掘图像更深、更为抽象的特征。特点：无需手工参与，受光照、姿态等影响较小，但特征表达方式取法明确知道。

来自：储慧芳_《基于深度特征与传统特征融合的行人再识别研究》

---

基本概念
hand-crafted： 传统手工方法就是人工设计的一步步能够说出理由来的方法。
end-to-end： 即端到端方法，意思是只有输入端和输出端，当中不需要设计和具体算法，就是一个神经网络。输入原始数据，输出结果即可。典型示例：RCNN（未使用）和FAST-RCNN（使用）。

特征提取是CV领域核心问题之一（之二自然是分类问题，没有之三~），特征提取从思路上有两大类：一类是手动设计（hand-crafted）的方式，一类是纯学习的方式，这两种方式都是在某些生物神经理论的基础下进行的， 不同之处是hand-crafted的方式设计的是特征本身，而纯学习的方式设计的是特征提取的框架结构。换种方式来说，就好比是hand-crafted特征是模仿我们所知的人类视觉的流程得到特征，而纯学习的方式重点是学习这个流程本身。

这里都是针对无监督（unsupervised）的特征，也就是在没有label的情况下，直接从数据中学习特征，如果是结合label的特征学习就是supervised的特征了。

hand-crafted特征：

顾名思义人为设计的特征，即直接设计特征本身，根据仿照人类视觉的特点对什么样的特征敏感，什么样的特征不敏感提取图像中有区分能力的特征，因此提取出来的特征每一维往往都有具体的物理含义。目前最牛X的hand crafted 的特征常见的有反应纹理特点的方向梯度类特征sift，surf，hog等，反应轮廓形状的shape context等，它们都是经过了很长的时间对人眼敏感信息的特点设计出来的，如果把所需学习的目标换成视频，则也同样需要把这些算法扩展到3D，比如HOG3D，3Dsurf。这些基本属于底层视觉特征，理论依据一般是V1区视觉特性。著名的稀疏编码(Sparse coding) 也是根据V1区视觉特性构造的特征表示方法。其不足之处在于：

• 需要根据数据的特点精心设计，虽然是在众多的视觉神经理论依据下，但是难免有人为的想当然的成分。
• 往往依赖于数据库，也就是说设计的特征只对某些数据库表现好，而对其它的数据库效果并不能保证就好。或者当把数据来源发生变化，比如对RGB数据设计的特征换成Kinect深度图像，这些特征点就不一定适应了，因此又得重新设计。
• 提取过程所花时间很长，不利用大数据特征的提取（貌似不一定对）。

纯学习方式的特征：
设计的是特征提取的规则，一般就是一个model，如神经网络，人为设计的部分是model的结构以及学习的规则，至于model的参数则需要通过学习得到，通过训练得到一个具体的model，而特征则需要通过这个model去对具体的图像或视频提取，因此得到的特征往往无法解释具体每一维的物理含义。构建人的思考过程，这是神经网络理论提出的初衷。神经网络方法在沉默了若干年后，在坚持如一，锲而不舍的大牛Hinton的引领下进入了一个全面开花的阶段，deep learning， Deep belief nets被研究的如火如荼。deep learning框架就是模拟人脑的大脑皮层工作（生物神经理论上的支持），因为大脑皮层的视觉区域也是分层次工作的，越底层的视觉皮层对那些底层特征就越敏感，Feature learning就是以deep learning框架下学习图像或视频的特征，系统的输入为raw data，你只要设计好model的框架，通过训练得到model的参数，至于特征学习出来是什么样子，完全交给机器。

对比：

至于feature learning学习到的特征和 hand crafted特征孰优孰劣目前还不好下结论， 比如后续要介绍计的Quoc. Le(Andrew. Ng组的)特征学习方法用于action recognition，发在CVPR2011在几个复杂数据库（Hollywood2,Youtube）上号称打败了其他state of art 的特征，但是同期（CVPR2011）Heng Wang(LEAR)提出的dense trajectories 特征在这两个数据库上识别率更高，尤其值得注意的是这二人的方法在后续的分类上用的完全一样的框架（BOG+卡方SVM）。

1. Quoc. Le. Learning hierarchical invariant spatio-temporal features for action recognition with independent subspace analysis
2. Wang H. Action recognition by dense trajectories

传统手工特征与深度特征的融合（未完，待续）

---

以上内容来自：

1. zhimahuuu_End-to-end/hand-crafted的含义（深度学习）
2. 紫de甘蓝_Hand Crafted 特征 PK 纯学习的特征提取方法