【一】ERNIE：飞桨开源开发套件，入门学习，看看行业顶尖持续学习语义理解框架，如何取得世界多个实战的SOTA效果？ _生活百科

?参考文章：
深度剖析知识增强语义表示模型——ERNIE_财神Childe的博客-CSDN博客_ernie模型
ERNIE_ERNIE开源开发套件_飞桨
https://github.com/PaddlePaddle/ERNIE/blob/develop/README.zh.md
1.背景介绍近年来，语义表示（language representation）技术的发展，使得 “预训练-微调” 作为解决NLP任务的一种新的范式开始出现。一个通用的表示能力强的模型被选择为语义表示模型，在预训练阶段，用大量的语料和特定的任务训练该模型，使其编码海量的语义知识；在微调阶段，该模型会被加上不同的简单输出层用以解决下游的 NLP 任务。早期较为著名的语义表示模型包括ELMo 和 GPT ，分别基于双层双向LSTM和Transformer Decoder框架，而真正让语义表示技术大放异彩的是BERT (Bidirectional Encoder Representations from Transformers) 的提出。BERT以Transformer Encoder为骨架，以屏蔽语言模型 (Masked LM) 和下一句预测（Next Sentence Prediction）这两个无监督预测任务作为预训练任务，用英文Wikipedia和Book Corpus的混合语料进行训练得到预训练模型。结合简单的输出层，BERT提出伊始就在11个下游NLP任务上取得了 SOTA（State of the Art）结果，即效果最佳，其中包括了自然语言理解任务GLUE和阅读理解SQuAD 。
可以看到，用语义表示模型解决特定的NLP任务是个相对简单的过程。因此，语义表示模型的预训练阶段就变得十分重要，具体来说，模型结构的选取、训练数据以及训练方法等要素都会直接影响下游任务的效果。当前的很多学术工作就是围绕预训练阶段而展开的，在BERT之后各种语义表示模型不断地被提了出来。
ERNIE（Enhanced Representation through kNowledge IntEgration）是百度提出的语义表示模型，同样基于Transformer Encoder，相较于BERT，其预训练过程利用了更丰富的语义知识和更多的语义任务，在多个NLP任务上取得了比BERT等模型更好的效果。
项目开源地址： https://github.com/PaddlePaddle/ERNIE
该项目包含了对预训练，以及常见下游 NLP 任务的支持，如分类、匹配、序列标注和阅读理解等。
2.原理介绍2.1 Transformer EncoderERNIE 采用了 Transformer Encoder 作为其语义表示的骨架。Transformer 是由论文Attention is All You Need 首先提出的机器翻译模型，在效果上比传统的 RNN 机器翻译模型更加优秀。Transformer 的简要结构如图1所示，基于 Encoder-Decoder 框架, 其主要结构由 Attention(注意力) 机制构成：

Encoder 由全同的多层堆叠而成，每一层又包含了两个子层：一个Self-Attention层和一个前馈神经网络。Self-Attention 层主要用来输入语料之间各个词之间的关系（例如搭配关系），其外在体现为词汇间的权重，此外还可以帮助模型学到句法、语法之类的依赖关系的能力。
Decoder 也由全同的多层堆叠而成，每一层同样包含了两个子层。在 Encoder 和 Decoder 之间还有一个Encoder-Decoder Attention层。Encoder-Decoder Attention层的输入来自于两部分，一部分是Encoder的输出，它可以帮助解码器关注输入序列哪些位置值得关注。另一部分是 Decoder 已经解码出来的结果再次经过Decoder的Self-Attention层处理后的输出，它可以帮助解码器在解码时把已翻译的内容中值得关注的部分考虑进来。例如将“read a book”翻译成中文，我们把“book”之所以翻译成了“书”而没有翻译成“预定”就是因为前面Read这个读的动作。

在解码过程中 Decoder 每一个时间步都会输出一个实数向量，经过一个简单的全连接层后会映射到一个词典大小、被称作对数几率（logits）的向量，再经过 softmax 归一化之后得到当前时间步各个词出现的概率分布。