74 字
1 分钟
注意力与 Transformer
10 - 注意力与 Transformer
本章内容
| 笔记 | 要点 |
|---|---|
| 编码器解码器与注意力机制 | Seq2Seq 瓶颈，Attention 原理，Self-Attention |
| 浅看Transformer架构 | 多头注意力，位置编码，Encoder-Decoder 全栈 |
Transformer 深度专题（Self-Attention 计算、Positional Encoding、代码实现等）将在
LLM/Transformer/系列中展开。