模型结构演进

本文以演进方向和目的为线索梳理了一些我常见到但不是很熟悉的预训练语言模型：

首先来看看“完全版的BERT”：
RoBERTa: A Robustly Optimized BERT Pretraining Approach（2019）可看成是完全体的BERT，主要3方面改进，首先采用了 Dynamic mask，即每个文本进入训练时动态 mask 掉部分 token，相比原来的 Bert，可以达到同一个文本在不同 epoch 被 mask 掉的 token 不同，相当于做了一个数据增强。其次，不使用 NSP 任务，效果会有一定提升。最后，RoBERTa 增大了训练时间和训练数据、 batch size 以及对 BPE（输入文本的分词方法）进行了升级。

演进方向一：Unified Sequence Modeling

想做大统一的模型可以从两方面着手，第一是任务混合，第二是结构混合。

任务混合指将NLU和NLG同时进行预训练，比如XLNet、MPNet采用的Permutaioon language modeling，兼顾上下文与自回归；或者是UniLM, GLM采用的Multi-task training，通过对注意力矩阵的设计使得这两种任务同时训练。

结构混合则更多使用Seq2seq去做理解和生成。比如MASS、T5和BART。但也面临如下挑战：

1. 编码器-解码器占用更多的参数，参数利用率较低（即使有参数共享）
2. Seq2seq的结构在NLU任务上表现差，好于BERT但低于RoBERTa和GLM

Unified Language Model Pre-training for Natural Language Understanding and Generation（NIPS 2019）提出了UniLM预训练语言模型。本文认为EMLo采用前向+后向LSTM、GPT采用从左至右的单向Transformer、BERT采用双向Attention都有优缺点。UniLM融合了3种语言模型优化目标，通过控制mask在一个模型中同时实现了3种语言模型优化任务，在pretrain过程交替使用3种优化目标。下图比较形象的描述了UniLM是如何利用mask机制来控制3种不同的优化任务，核心思路是利用mask控制生成每个token时考虑哪些上下文的信息。

XLNet: Generalized Autoregressive Pretraining for Language Understanding（NIPS 2019）提出了XLNet模型，融合了BERT和GPT这两类预训练语言模型的优点，并且解决了BERT中pretrain和finetune阶段存在不一致的问题（pretrain阶段添加mask标记，finetune过程并没有mask标记）。XLNet融合了AR模型（类GPT,ELMo）和AE模型各自的优点，既能建模概率密度，适用于文本生成类任务，又能充分使用双向上下文信息。XLNet实现AR和AE融合的主要思路为，对输入文本进行排列组合，然后对于每个排列组合使用AR的方式训练，不同排列组合使每个token都能和其他token进行信息交互，同时每次训练又都是AR的。

BART: Denoising Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and Comprehension（2019）提出了一种新的预训练范式，包括两个阶段：首先原文本使用某种noise function进行破坏，然后使用sequence-to-sequence模型还原原始的输入文本。下图中左侧为Bert的训练方式，中间为GPT的训练方式，右侧为BART的训练方式。首先，将原始输入文本使用某些noise function，得到被破坏的文本。这个文本会输入到类似Bert的Encoder中。在得到被破坏文本的编码后，使用一个类似GPT的结构，采用自回归的方式还原出被破坏之前的文本。

文中尝试了多种类型的noise function，如token masking、sentence permutation、text infilling等，其中sentence permutation+text infilling的方式取得了最好的效果。Text infilling指的是随机mask某些span。下图展示了文中提出的一些noise function方法。

演进方向二：Cognitive-Inspired Architectures

为了模拟决策能力、逻辑推理能力、反实时推理能力（复盘）。需要模型有短时记忆与长期记忆，短时记忆用来决策和推理，长期记忆用来回忆事实和经验。

像Transformer-XL, CogQA, CogLTX这类模型，就是增加了Maintainable Working Memory，通过样本维度的记忆提升长距离理解能力，实现推理；REALM, RAG这类模型则是对语料、实体或者三元组进行记忆，具有Sustainable Long-Term Memory，将信息提前编码，在需要的时候检索出来。

演进方向三：提升mask策略

如SpanBERT、百度ERNIR、NEZHA、WWM

ERNIE: Enhanced Representation through Knowledge Integration（2019）ERNIE 2.0: A Continual Pre-Training Framework for Language Understanding（2019）同名工作，主要关注用外部知识辅助设计预训练任务，v1设计了entity-level的MLM任务，mask掉的不是单个token，而是输入文本中某个entity对应的连续多个token；v2引入了更多task（如v1的entity-level mask、Capitalization Prediction Task、Token-Document Relation Prediction Task等），采用continual multitask learning的方式不断构造新的任务，并且以增量的方式进行多任务学习，每来一个任务都把历史所有任务放到一起进行多任务学习，避免忘记历史学到的知识。

演进方向四：Knowledge-Enhanced Pre-Training

预训练模型可以从大量语料中进行学习，但知识图谱、领域知识不一定能学到。

对于这个问题可以有两种解决方案，一种是外挂型，把知识通过各种方法和文本一起输入进去，比如清华ERNIE、K-BERT，另一种是强迫型，在领域数据、结构化文本上精调，让模型记住这些知识，比如百度ERNIE、WWM。

ERNIE: Enhanced Language Representation with Informative Entities（2019）则引入知识图谱对BERT进行优化，模型主要分为T-Encoder和K-Encoder两个部分。T-Encoder类似BERT，K-Encoder识别输入文本中的实体并获取这些实体的embedding，然后融合到输入文本的对应token位置。每层都会融合上一层的token embedding和entity embedding。此外，ERNIE在预训练阶段增加了token-entity relation mask任务，在20%的entity上，会mask掉token和entity的对齐关系，让模型来预测当前token对应的是哪个entity。

演进方向五：模型压缩

参数共享、模型剪枝（可以修剪head或者砍掉层）、知识蒸馏、模型量化（FP16等，低比特模型跟硬件强相关，很难泛化）

ALBERT: A LITE BERT FOR SELF-SUPERVISED LEARNING OF LANGUAGE REPRESENTATIONS（2020）提出了一个轻量级的Bert模型，以此降低Bert的运行开销，本文主要提出了两个优化：首先是Factorized embedding parameterization，即对输入的embedding进行分解，原始的Bert将token输入的embedding维度E和模型隐藏层维度H绑定了，即E=H，本文提出可以让E和H解绑，将E变成远小于H的维度，再用一层全连接将输入embedding映射到H维。这样模型embedding部分参数量从$V$$H$下降到了$V$$E+E*H$。Cross-layer parameter sharing。前者Cross-layer parameter sharing让Bert每层的参数是共享的，以此来减小模型参数量。除了上述两个降低Bert运行开销的优化外，ALBERT提出了inter-senetnce loss这一新的优化目标。原来Bert中的NSP任务可以理解为topic prediction和coherence prediction两个任务。其中topic prediction是一种特别简单的任务，由于其任务的简单性，导致coherence prediction学习程度不足。本文提出将coherence prediction单独分离出来，相比Bert，正样本仍然是一个document相邻的两个segment，负样本变成这两个segment的顺序交换。

演进方向六：Multilingual Pre-Training

BERT之前的跨语言学习主要有两种方法：

1. 参数共享，比如使用跨语言平行语料让模型可以同时学到不同知识
2. 学习语言无关的约束，将编码结偶为语言相关的部分和无关的部分

有了预训练方法之后，我们就可以在不同语言进行预训练了。mBERT在Wiki数据上进行多语言的MLM，之后XLM-R用了更好的语料后表现有所提升。但这两个模型都没有利用平行语料，于是XLM同时利用了平行语料，在平行语料做MLM，利用另一个语言的知识预测mask token。

后续研究还有Unicoder、ALM、InfoXLM、HICTL、ERNIE-M等，生成任务则有mBART、XNLG。

参考文献：

https://mp.weixin.qq.com/s/NA29niCVDq1WD1vlwqTd_g
https://zhuanlan.zhihu.com/p/381282229
https://arxiv.org/abs/2106.07139