【自然语言处理】【对比学习】搞nlp还不懂对比学习，不会吧？快来了解下SimCLR_对比学习 nlp

近期对比学习在$\text{NLP}$领域取得了不错的成绩，例如句嵌入方法${\text{SimCSE}}^{[1]}$和短文本聚类方法${\text{SCCL}}^{[2]}$。为了能更好的理解近期的进展，期望通过一系列相关的文章来循序渐进的介绍其中的技术和概念。本文就作为该系列的第一篇文章吧~

一、$\text{SimCLR}$简介

• 原始论文：A Simple Framework for Contrastive Learning of Visual Representations
• 核心思想：
  • 1. 将一个样本$x$数据增强为两个不同个样本${\tilde{x}}_i$和${\tilde{x}}_j$；
    2. 拉近样本${\tilde{x}}_i$和${\tilde{x}}_j$的距离，并拉远它们和其他样本的距离；

二、$\text{SimCLR}$框架

图1. SimCLR框架

$\text{SimCLR}$是一个对比学习的框架，其结构如图1所示，主要包含四个组件：

1. 数据增强模块

该模块会为一个样本随机生成两个增强样本${\tilde{x}}_i$和${\tilde{x}}_j$，这两个样本组成了一个正样本对$({\tilde{x}}_i,{\tilde{x}}_j)$。

• 论文主要是针对图像的。因此，采用的数据增强方式包括：裁剪、颜色失真、高斯模糊；

2. 编码器

编码器$f(\cdot )$的作用是将增强样本转换为向量表示，${\text{h}}_i=f({\tilde{x}}_i)$；

• 论文选择$\text{ResNet}$作为编码器，${\text{h}}_i=f({\tilde{x}}_i)=\text{ResNet}({\tilde{x}}_i)$；

3. 投影头(Projection head)

投影头$g(\cdot )$是一个小型神经网络，其作用是将样本的向量表示映射至可以对比的空间中(也就是适合Loss计算的表示空间)；

• 论文使用单层全连接神经网络作为投影头，即$z_i=g({\text{h}}_i)=W^{(2)}\sigma (W^{(1)}{\text{h}}_i)$，$\sigma$是$\text{ReLU}$激活函数；

4. 对比损失函数

对比损失函数$l$，其作用是：在一个包含正样本对$({\tilde{x}}_i,{\tilde{x}}_j)$的集合 { x ~ k } \{\tilde{x}_k\} {x~k​}，给定样本${\tilde{x}}_i$，从 { x ~ k } k ≠ i \{\tilde{x}_k\}_{k\neq i} {x~k​}k​=i​中确定出${\tilde{x}}_j$；

三、框架的实现

上面描述了$\text{SimCLR}$框架，本小节则是该框架的一个具体实现。

1. 损失函数$\text{NT-Xent}$

• 随机采样$N$个样本作为$\text{minibatch}$，并通过数据增强生成$2N$个样本。这里将正样本对以外$2(N-1)$个样本当做负样本；
• 向量相似度计算方式为：$\text{sim}(u,v)=u^{\top }v/\Vert u\Vert \Vert v\Vert$；
• 正样本对$(i,j)$的损失函数

$$l_{i,j}=-\text{log}\frac{\text{exp(sim(}{z}_i,z_j)/\tau )}{{\sum }_{k=1}^{2N}{1}_{k\ne i}\text{exp(sim(}{z}_i,z_k)/\tau )}$$
​ 其中， 1 [ k ≠ i ] ∈ { 0 , 1 } 1_{[k\neq i]}\in\{0,1\} 1[k​=i]​∈{0,1}是指示函数，$\tau$是温度(temperature)参数；

• 同一个$\text{minibatch}$中所有正样本对的损失之和为最终的loss，称这个loss为$\text{NT-Xent}$。

2. 完整的算法描述

输入：batch size $N$，常量$\tau$，结构$f,g,\mathcal{T}$；

for 采样的minibatch { x k } k = 1 N \{x_k\}_{k=1}^N {xk​}k=1N​ do

​  for all k ∈ { 1 , … , N } k\in\{1,\dots,N\} k∈{1,…,N} do

​ 随机选择两种数据增强函数$t\sim \mathcal{T},t^{\prime }\sim \mathcal{T}$

​​ # 第一个数据增强

​​ ${\tilde{x}}_{2k-1}=t(x_k)$

​​ $h_{2k-1}=f({\tilde{x}}_{2k-1})$ # 表示

​​ $z_{2k-1}=g(h_{2k-1})$ # 投影

​​ # 第二个数据增强

​​ ${\tilde{x}}_{2k}=t^{\prime }(x_k)$

​​ $h_{2k}=f({\tilde{x}}_{2k-1})$ # 表示

​ ​ $z_{2k}=g(h_{2k-1})$ # 投影

​  end for

  for all i ∈ { 1 , … , 2 N }  and  j ∈ { 1 , … , 2 N } i\in\{1,\dots,2N\}\text{ and } j\in\{1,\dots,2N\} i∈{1,…,2N} and j∈{1,…,2N} do

​  $s_{i,j}=z_i{z}_j/(||z_i||||z_j||)$

​  end for

​  定义$l(i,j)$为$l_{i,j}=-\text{log}\frac{\text{exp(sim(}{z}_i,z_j)/\tau )}{{\sum }_{k=1}^{2N}{1}_{k\ne i}\text{exp(sim(}{z}_i,z_k)/\tau )}$

​  $\mathcal{L}=\frac{1}{2N}{\sum }_{k=1}^N[l(2k-1,2k)+l(2k,2k-1)]$

​  通过最小化$\mathcal{L}$来更新网络$f$和$g$

end for

return 返回编码网络$f(\cdot )$，并丢弃$g(\cdot )$

3. 训练细节

• 为了不使用memory bank，将batch size从256增大至8192；
• 由于$\text{SGD}$在大batch size上不稳定，使用LARS进行训练；

四、分析

• 数据增强操作的组合对于学习好的向量表示至关重要
  

  上图是不同种数据增强方式间组合带来的影响，对角线表示单个一种数据增强方法。可以发现，对角线的颜色都比较深，也就是说单一的数据增强方式效果并不好。两两组合的数据增强方式效果更佳。

• 相较于有监督学习，数据增强对对比学习更加有效
  

  上表时数据增强程度对有监督学习(Supervised)和对比学习(SimCLR)的影响。可以发现，数据增强对“对比学习”影响更大。

• 模型越大、对比学习效果越好

上图中红色的点是对比学习的效果，随着模型规模的增大，效果也越来越好;

• 非线性投影头能改善向量表示的质量

  

  上图中，非线性投影头优于线性投影头，线性投影头优于不进行投影；

• 合适的温度参数能够帮助模型学习到更难的负样本

观察上表，$\text{l2 norm}$是有效的，而是适当大小的$\tau$也有助于模型的表现；

• 大batch size和长的训练时间也有益于对比学习
  

  观察上图，大的batch size和较大的epoch有助于模型的表现；