---
sources: ["attention-is-all-you-need.pdf"]
---

# Transformer

Transformer 是一种基于自注意力机制的序列到序列模型架构。

## 核心组件

- [[Attention]] — 自注意力机制
- [[Encoder]] — 编码器
- [[Decoder]] — 解码器