GPTQ~_gptq csdn

生成预训练Transformer模型，也称为GPT或OPT，通过在复杂语言建模任务中取得突破性性能而脱颖而出，但也因其庞大的规模而需要极高的计算和存储成本。具体而言，由于它们的巨大规模，即使对于大型高精度的GPT模型的推理，也可能需要多个性能卓越的GPU，这限制了这些模型的可用性。虽然目前有一些工作正在通过模型压缩来减轻这种压力，但现有的压缩技术的适用性和性能受到GPT模型的规模和复杂性的限制。

在本文中，作者解决了这一挑战，并提出了GPTQ，这是一种基于近似二阶信息的新的一次性权重量化方法，既高度准确又高效。具体而言，GPTQ可以在大约4个小时内对具有1750亿参数的GPT模型进行量化，将每个权重的位宽降至3或4位，相对于未压缩基准几乎没有精度下降。

作者的方法相对于以前提出的一次性量化方法，提高了压缩效益的一倍多，保持了准确性，首次允许在单个GPU内执行一个拥有1750亿参数的生成推理模型。此外，作者还展示了作者的方法在极端量化情境下仍然可以提供合理的准确性，即将权重量化为2-Bit甚至3-Bit。

作者通过实验证明，这些改进可以用于在使用高端GPU（NVIDIA A100）时实现与FP16相比的端到端推理加速，速度提高约3.25倍，而在使用更具成本效益的GPU（NVIDIA A6000）时速度提高了4.5倍。

代码：https://github.com/IST-DASLab/gptq

来自Transformer家族的预训练生成模型，通常被称为GPT或OPT，已经在复杂语言建模任务中取得了突破性的性能，引起了广泛的学术和实际兴趣。它们的一个主要障碍是计算和存储成本，这些成本在已知模型中排名最高。例如，性能最好的模型变种，例如GPT3-175B，具有约1750亿参数，需要数十到数百个GPU年进行训练。甚至在作者本文中，对预训练模型进行推理的更简单任务也非常具有挑战性：例如，以紧凑的FP16格式存储时，GPT3-175B的参数占用326GB的内存。这超出了甚至最高端的单个GPU的容量，因此推理必须使用更复杂和昂贵的设置，如多GPU部署。

尽管消除这些开销的标准方法是模型压缩，但令人惊讶的是，关于压缩这些模型进行推理的知识非常有限。一个原因是更复杂的低位宽量化或模型修剪方法通常需要模型重新训练，对于具有数十亿参数的模型来说非常昂贵。或者，不需要重新训练的后训练方法会非常吸引人。不幸的是，这些方法的更精确变体复杂且难以扩展到数十亿的参数。

迄今为止，仅应用了基本变体的四舍五入量化在GPT-175B的规模下；尽管这对于低压缩目标（例如8-Bit权重）效果良好，但在更高的压缩率下无法保持准确性。因此，一次性后训练量化到更高压缩率是否普遍可行仍然不清楚。

贡献

在本文中，作者提出了一种新的后训练量化方法，称为GPTQ，它足够高效，可以在最多几个小时内在具有数千亿参数的模型上执行，并足够精确，可以将这些模型压缩到每个参数3或4位，而几乎不会丧失准确性。举个例子，GPTQ可以在大约4个小时内量化最大的公开可用模型OPT-175B和BLOOM-176B，而且困惑度几乎没有显著增加，而困惑度是一个非常苛刻的准确性度量标准。

此外，作者还展示了作者的模型在极端量化范围内可以提供稳健的结果，其中模型被量化为每个组件2-Bit，甚至3-Bit。在实际方面，作者开发了一个执行工具，可以使作者有效地运行生成任务的压缩模型。

具体来说，作者能够首次在单个NVIDIA A100 GPU上运行压缩的OPT-175B模型，或者仅使用两个更经济的NVIDIA A6000 GPU。作者还实现了专门的GPU核心，可以利用压缩以更快地加载内存，从而在使用A100 GPU时加速约3.25倍，使用A6000 GPU时加速约4.5倍。

据作者所知，作者是第一个展示具有数千亿参数的极其准确的语言模型可以被量化为3-4-Bit/组件的研究：以前的后训练方法只能在8位下保持准确，而以前的基于训练的技术只能处理小数目级别较小的模型。这种高度的压缩可能看起来很自然，因为这些网络是过度参数化的；然而，正如作者在结果的详细分析中讨论的那样，压缩在语言建模（困惑度）、位宽和原始模型大小之间引起了非平凡的权衡。

作者希望作者的工作将激发这一领域的进一步研究，并成为使这些模型可供更广泛受众使用的进一步步骤。就限制而言，作者的方法目前不提供实际的乘法速度提升，因为主流架构上没有混合精度操作数（例如FP16 x INT4）的硬件支持。此外，作者目前的结果不包括激活量化，因为在作者的目标情境中，它们不是一个重要的瓶颈；然而，可以使用其他技术来支持它。

相关工作

量化方法大致可以分为两类：训练期间的量化和后期量化方法。前者通常在广泛的重新训练和/或微调期间对模型进行量化，使用一些近似的微分机制来执行舍入操作。相比之下，后期（“一次性”）方法使用适度的资源，通常是几千个数据样本和几小时的计算时间，对预训练模型进行量化。对于大规模模型，完整的模型训练甚至微调可能代价高昂，因此作者在这里重点关注后期量化方法。

PTQ量化

大多数后期量化方法主要关注视觉模型。通常，准确的方法通过对个别层或连续层的小块进行量化。AdaRound方法通过退火惩罚项计算依赖于数据的舍入，鼓励权重朝着与量化水平对应的格点移动。BitSplit使用残差误差的平方误差目标逐位构建量化值，而AdaQuant执行基于直通估计的直接优化。BRECQ将Fisher信息引入目标中，并联合优化单个残差块内的层。

最后，Optimal Brain Quantization（OBQ）将经典的Optimal Brain Surgeon（OBS）二阶权重剪枝框架推广到量化。OBQ按照量化误差的顺序逐个量化权重，总是调整剩余的权重。尽管这些方法可以在几个GPU小时内为高达约1亿参数的模型产生良好的结果，但将它们扩展到数量级更大的网络是具有挑战性的。

大模型量化

随着最近开源发布的像BLOOM或OPT-175B这样的语言模型，研究人员已经开始开发用于推理的压缩这些庞大网络的经济方法。虽然所有现有的作品，如ZeroQuant，LLM.int8()和nuQmm，都会仔细选择量化粒度，例如基于向量，但它们最终只是将权重舍入到最近的量化水平，以维持非常大模型的可接受运行时间。

ZeroQuant进一步提出了类似于AdaQuant的分层知识蒸馏，但它只能应用于最大的模型，参数仅有13亿。在这一规模下，ZeroQuant已经需要约3小时的计算；而GPTQ可以在约4小时内量化比ZeroQuant大100倍的模型。LLM.int8()观察到在几个特征维度上的激活异常值会破坏更大模型的量化，提出通过保持这些维度的较高精度来解决这个问题。最后，nuQmm开发了一种基于二进制编码的量化方案的高效GPU核心。

与这一研究方向相比，作者展示了在大规模模型中可以高效实现更为复杂和准确的量化器。具体而言，相对于以前的技术，GPTQ在保持类似准确性的情况下，将压缩量更多地提高了一倍以上。

背景方法

逐层量化

Optimal Brain Quantization

作者的方法基于最近提出的Optimal Brain Quantization（OBQ）方法，用于解决上面定义的逐层量化问题，作者对其进行了一系列重大修改，使其能够扩展到大型语言模型，提供了超过三个数量级的计算速度提升。为了帮助理解，作者首先简要总结一下原始的OBQ方法。

步骤1：任意顺序的洞察

如前所述，OBQ以贪婪的方式量化权重，即它总是选择当前产生的额外量化误差最小的权重。有趣的是，作者发现，虽然这种相当自然的策略确实似乎表现得非常好，但它相对于以任意顺序量化权重的改进通常较小，特别是在大型、参数众多的层上。很可能是因为具有大个体误差的量化权重数量稍微较低，但这些权重在过程的末尾被量化时，只有很少的其他未量化权重可以用来进行补偿调整。正如作者将在下面讨论的，这一洞察认为在大型模型上，任何固定的量化顺序可能表现良好，具有有趣的影响。

步骤2：延迟批量更新

首先，直接实现先前描述的方案在实践中不会很快，因为该算法的计算与内存访问比率相对较低。例如，方程（3）需要使用每个条目的一些FLOPs来更新可能巨大的矩阵的所有元素。这样的操作无法充分利用现代GPU的大规模计算能力，并且将受到明显较低的内存带宽的限制。

尽管这种策略不减少理论计算量，但它有效地解决了内存吞吐量瓶颈。这为在实践中实现非常大型模型提供了一个数量级的加速，使其成为作者算法的关键组成部分。

步骤3：Cholesky重新制定

完整算法

最后，作者在算法1中呈现了GPTQ的完整伪代码，包括上面讨论的优化。

实验

基准线

目前，这是所有关于非常大型语言模型量化的作品的首选方法：它的运行时间在具有数十亿参数的网络上有很好的可扩展性，因为它只是执行直接的四舍五入。正如作者将在下面进一步讨论的，更准确的方法，如AdaRound或BRECQ，目前对于具有数十亿参数的模型来说速度太慢，这是本工作的主要焦点。然而，作者还展示了，对于小型模型，GPTQ与这些方法竞争力相当，同时也适用于像OPT-175B这样的大型模型。

量化小型模型

作为第一次消融研究，作者将GPTQ的性能与最先进的后训练量化（PTQ）方法在ResNet18和ResNet50上进行比较，这是标准的PTQ基准测试。如表1所示，GPTQ在4位时表现不俗，比最准确的方法稍差。与之前的PTQ方法相比，它明显优于最快的AdaQuant。此外，作者将与两种较小的语言模型上的完全贪婪OBQ方法进行比较：BERT-base和OPT-125M。

结果见附录表8。在4-Bit的情况下，两种方法的性能相似，而在3位的情况下，令人惊讶的是GPTQ表现稍好。作者怀疑这是因为OBQ使用的一些附加启发式方法，如早期异常值舍入，可能需要进行仔细的调整，以实现在非视觉模型上的最佳性能。总体而言，对于小型模型，GPTQ似乎与最先进的后训练方法相竞争，而只需不到1分钟而不是约1小时。这使得能够扩展到更大的模型。

运行时间

接下来，作者通过GPTQ测量了完整模型的量化时间（在单个NVIDIA A100 GPU上）；结果见表2。如表所示，GPTQ在几分钟内量化了10-30亿参数的模型，而175B的模型则需要几个小时。

作为参考，基于直通法的ZeroQuant-LKD在相同硬件上报告了1.3B模型的3小时运行时间，线性外推到175B模型将需要数百小时（数周）。自适应舍入的方法通常使用更多的SGD步骤，因此更昂贵。

语言生成

作者开始了对整个OPT和BLOOM模型系列进行3-Bit和4-Bit的压缩的大规模研究。然后，作者评估这些模型在包括WikiText2在内的几个语言任务上的性能，见图1以及表3和表4，Penn Treebank（PTB）和C4。       whaosoft aiot http://143ai.com

作者专注于这些基于困惑度的任务，因为已知它们对模型量化特别敏感。在OPT模型上，GPTQ明显优于RTN，差距明显。例如，在175B模型的4-Bit时，GPTQ仅损失0.03的困惑度，而RTN下降了2.2分，表现比10倍小的全精度13B模型差。在3-Bit时，RTN完全崩溃，而GPTQ仍然可以维持合理的困惑度，尤其是对于较大的模型。

BLOOM显示了类似的模式：方法之间的差距通常略小一些，这表明这个模型系列可能更容易进行量化。一个有趣的趋势（也见图1）是，通常较大的模型（与OPT-66B2的例外情况）似乎更容易进行量化。这对于实际应用来说是个好消息，因为这些情况下压缩也是最必要的。

极端量化

最后，分组还使得在极端量化情况下，即每个组件平均2位左右的性能变得可能。表7显示了在不同组大小下，将最大的模型量化到2位时在Wikitext2上的结果。在约2.2位（组大小128；使用FP16的刻度和每组2-Bit的零点）时，困惑度的增加已经不到1.5点，而在约2.6位（组大小32）时下降到0.6-0.7，仅略差于3-Bit，对于实际的Kernel实现可能会很有趣。

此外，如果作者将组大小减小到8，作者可以应用3-Bit量化，这在OPT-175B上可以达到9.20的Wikitext2 PPL，下降不到1点。虽然与上面的2-Bit相比，平均来看这会导致更差的压缩，但这种模式可以在诸如FPGA之类的自定义硬件上高效实现。总之，这些结果是向着极低于平均3-Bit每个值的高精度一次性压缩非常大的语言模型迈出的鼓舞人心的第一步。