最强无监督行人重识别方法 Cluster Contrast ReID_cluster contrast reid代码细节

https://github.com/xiaomingzhid/sskd

GitHub - JDAI-CV/fast-reid: SOTA Re-identification Methods and Toolbox

resnet50起步

无监督行人重识别已经有很多人在研究了，目前最好的方法是 SPCL（葛艺潇：NeurIPS 2020 | 自步对比学习: 充分挖掘无监督学习样本）, 在使用了 Generalized Mean Pooling (GEM) 之后，在 Market1501 数据集上达到了 rank-1 89.5% 的效果，效果很好，但是和有监督的方法，如 Resnet50 + Circle loss [1] rank-1 92.13% 或者 OSNet [2] 94.2% rank-1 相比仍然有一些差距。

SPCL 提供了一个很强的 unsupervised reid pipeline，可以启发我们去进行更深一步的探索。基于此，我们提出了无监督 Cluster Contrast ReID，在 Market1501 上跑到了 rank-1 94.6%，已经超越了很多有监督的算法。在其他行人重识别数据集如 Duke 和 MSMT17 数据集上，也比最先进无监督 re-ID 方法 mAP 提高了 7.5％，6.6％。

论文标题：

Cluster Contrast for Unsupervised Person Re-Identification

论文地址：

https://arxiv.org/abs/2103.11568

代码地址：项目中直接带预训练

https://github.com/alibaba/cluster-contrast-reid

首先来看一下整个无监督 reid 的 pipeline, 大致可以分成三个部分。第一个部分就是特征提取，在每一个 epoch 开始的时候，通过网络将训练数据集中图片的特征都提取出来。第二部分是聚类，通过传统的聚类方法如 DBScan, KNN 通过特征把图片聚成不同的类别，每个类别给一个标签，就是用来训练的伪标签。一开始的伪标签是很不准的，在训练的过程中，随着网络的精度越来越高，伪标签也会越来越接近真实标签。第三部分就是图片特征的存储和更新，在网络训练的过程中，随着网络参数的变化，图片的特征也需要进行对应的更新。

在训练的时候，我们因为有了伪标签，就能够通过类似于 softmax 的分类函数来对网络进行训练。因为伪标签在每次聚类的时候都会发生变化，所以无监督 reid 用的是 non-parametric softmax loss。我们用的是 moco 用的里面的 InfoNCE loss 来进行训练。 

我们发现，图片特征的存储和更新对于网络的训练影响很大。一个最简单的直觉就是，在一个行人重识别数据集中，不同的人拥有的图片数量是不一样的，如果按照训练的图片来更新 feature 的话，拥有大量图片的人的 feature 将会滞后更新，从而有害网络优化。

所以 ClusterContrast 的核心思想就是，我们不再是从图片的层面上去更新特征和计算 loss，而是从人的维度去更新和计算 loss。无论一个人有多少张图片，对于网络训练来说，他们都是一视同仁的，都是用同一个速度去更新特征。在无监督 reid 中，每个人都被聚类成一个 cluster，所以我们的方法叫做 ClusterContrast。具体可以参加下图：

Cluster Contrast

在这张图中，相同颜色的图片是属于同一个人的。对于一个人，不管他有多少张图片，我们只会从里面选一张图片的 feature 存起来。怎么选这一张图片也是有很大的讲究的？就像 batch hard triplet loss 一样，我们发现选择和之前存起来的 feature 最不相似的 feature 效果最好，这样能够让网络去挖掘一些难样本。和之前的方法的对比可以参见下图：

我们可以看到 ClusterContrast 非常简洁，使用了最少的显存，取得了最好的效果。

结果

我们在各个数据集上，包括车辆重识别数据集上都大大超越了现有的无监督重识别方法。为了公平比较，我们在图表中并没有使用一些常见的提点方法如 Generalized Mean Pooling (GEM), reranking。用了 GEM 之后网络性能能进一步提升，能够超越很多有监督的方法：

Market1501

DukeMTMC

总结

我们提出了 Cluster Contrast 方法，核心就是在人的维度上去进行特征的提取和更新，从而将特征的更新速度与图片数量进行解耦，让算法工程师能够在 ID 的层面对模型进行调优。Custer Contrast 超越了现有的所有无监督行人重识别方法，无监督域自适应行人重识别方法和相当一部分有监督的方法。Cluster Contrast 简洁且效果好，代码已经开源，希望我们的方法能够带给广大重识别研究者一些启发，让行人重识别更好的落地在实际场景中。