特征融合方法_直接进行特征融合会给信息

概述 基本概念

在很多工作中，融合不同尺度的特征是提高分割性能的一个重要手段。低层特征分辨率更高，包含更多位置、细节信息，但是由于经过的卷积更少，其语义性更低，噪声更多。高层特征具有更强的语义信息，但是分辨率很低，对细节的感知能力较差。如何将两者高效融合，取其长处，弃之糟泊，是改善分割模型的关键。
很多工作通过融合多层来提升检测和分割的性能，按照融合与预测的先后顺序，分类为早融合(Early fusion)和晚融合(Late fusion)。

• 早融合(Early fusion):
  先融合多层的特征，然后在融合后的特征上训练预测器（只在完全融合之后，才统一进行检测）。这类方法也被称为skip
  connection，即采用concat、add操作。这一思路的代表是Inside-Outside Net(ION)和HyperNet。
  两个经典的特征融合方法：

（1）concat：系列特征融合，直接将两个特征进行连接。两个输入特征x和y的维数若为p和q，输出特征z的维数为p+q；
（2）add：并行策略[36]，将这两个特征向量组合成复向量，对于输入特征x和y，z = x + iy，其中i是虚数单位。

• 晚融合(Late
  fusion)：通过结合不同层的检测结果改进检测性能（尚未完成最终的融合之前，在部分融合的层上就开始进行检测，会有多层的检测，最终将多个检测结果进行融合）。这一类研究思路的代表有两种：
  （1）feature不融合，多尺度的feture分别进行预测，然后对预测结果进行综合，如Single Shot MultiBox
  Detector (SSD) , Multi-scale CNN(MS-CNN)
  （2）feature进行金字塔融合，融合后进行预测，如Feature Pyramid Network(FPN)等。