tansformer的量化实现方案-德赢Vwin官网网

理论介绍

相比于训练后量化方法，将量化过程插入到训练中可以弥补量化产生的误差，但是带来的问题可能是增加了训练的时间。在tansformer的量化实现中，我们采用了训练中量化的方法，在网络前向传输中，对权重等参数进行线性量化。反向传播中，对scale和权重参数的求导采用Hinton的strait-through estimator的方式。在CPU上训练花费了10天的时间，在这期间又review了最近的量化方法的文章。所以先总结一下，然后再分析一下transformer量化的结果。

1） PACT

这是一种实现对activation量化的方法，基本思想是通过训练来获得ReLU的一个clip参数a。a的动态调整能够在减少量化误差和保证反向传播有效进行之间获得平衡。PACT重新定义了ReLU过程如下：

参数a限定了activation的范围为[0, a]。然后获得的激活值y在进行线性映射到k bit的表示空间，如下：

在这里[0, a]是y值的一个限定，a>=y。所以其范围比y值的实际范围要大，这可以对y的量化误差有一些弥补。采用strait-through estimator方法计算其相对于a的梯度为：

当a趋向于无穷大的时候，就接近于ReLU函数，所以训练过程一定是往a增大方向移动。通过在loss中增加a的L2 规范化可以寻求一个合适的a值。

2） quantization-aware training

谷歌采用量化和训练分离的方法，在前向计算使用量化数据，而在训练的时候还是浮点训练。量化方法为如下公式：

其中S为scale参数，z是零点偏移，q是量化后参数。Z值的存在会导致矩阵或者卷积运算中有交叉项。这会增加一部分加法和乘法项。这在CPU等通用处理器上容易实现，只是一个时间复杂度的问题，但是实际上不利于在FPGA等硬件上实现。所以FPGA等平台的量化一般都让z值为0。消除交叉项计算。对于一个矩阵乘法，量化导致了scale的组合，比如：

在这里M是浮点数据，在这里作者对其又做了一次量化，首先将M数据映射到[0.5, 1)空间，然后在使用32bit数据来表达为整数。

32bit的表达能够降低量化精度。

在量化整个网络的过程中，作者也提供了一些处理技巧。在进行线性量化的时候，采用了对称的量化区间，比如8bit量化，正常取值范围在[-128, 127]，作者取了对称空间[-127, 127]。这样做的目的和实现的平台有关。在量化activation的时候，使用EMA来处理收集到的数值范围，这样做可以在初始训练中，完全屏蔽掉对activation的量化，使得训练进入到一个比较稳定的状态后在进行量化。BN是一个复杂的计算，但是可以将其折叠到之前的卷积层和FC层中，如下图所示：

3）训练后量化，基于KL发散性。

基于训练后的量化方法的优势就是量化花费时间短。在tensorRT中使用了KL发散性来描述量化后的数据和浮点数据之间的信息损失程度。通过最小化这个值来达到量化后数据包含的信息接近浮点数据的信息。这种方法的出发点是，为了保证量化后模型的精度损失较小，应该让量化后的数据和原始浮点数据表达的信息最一致。具体的做法是：

对每层网络，先收集activation的数值区间，这样就生成一个activation值的分布；采用不同的量化区间[a,b]来对activation进行线性映射，这样就形成了针对参数a和b的多种不同分布，然后找到和原始数据分布KL最小的分布，这个时候得到的a和b的值就是量化activation时所采用的threshold值。

Transformer量化结果

还是决定由简入难，先进行16bit的量化，量化内容包括transformer中的dense层，FC层。对权重和数据都进行16bit的量化，即将量化节点插入到计算图中。梯度采用strait-through estimator来估计。对于embedding，softmax，layer normalization还是使用浮点值。因为担心对这些的量化可能会导致精度降低。选择batch size为256，epoch为20，数据集使用英语德语翻译数据集。这个数据集有460万个句子。在服务器上使用CPU跑了10天，以下是结果：