GPT 系列模型中，包括 GPT-1、GPT-2、GPT-3、GPT-3.5 和 NanoGPT，都使用的是编码器（Encoder）结构，而不是解码器（Decoder）结构。

在 Transformer 模型中，编码器用于处理输入序列，而解码器则用于生成输出序列。GPT 系列模型是单向语言模型，即在生成文本时，它们只使用编码器部分，没有显式的解码器。因此，这些模型主要使用编码注意力（Encoder-Attention），而没有解码注意力（Decoder-Attention）。

编码注意力（Encoder-Attention）用于在输入序列中建模不同位置之间的依赖关系，以便模型能够理解输入文本的上下文信息并生成相应的输出。GPT 系列模型通过堆叠多层编码器和自注意力机制来实现对输入序列的建模和处理。

需要注意的是，虽然 GPT 系列模型没有显式的解码器结构，但可以通过在模型的输出部分进行微调或添加特定任务的头部来实现特定的解码器功能，比如语言生成、翻译等任务。

在 GPT 系列模型中，包括 GPT-1、GPT-2、GPT-3、GPT-3.5 和 NanoGPT，它们都使用的是单向（unidirectional）的自注意力（self-attention）机制，而不是带有掩码（masked）的自注意力。

在 Transformer 模型中，自注意力机制允许模型在输入序列内部进行全局关联性建模，而掩码（masked）自注意力机制则允许模型在生成序列时只能看到当前位置之前的信息，以避免信息泄露。

GPT 系列模型基于单向语言模型的任务设计，因此在模型的自注意力机制中，不需要使用掩码（masked）机制，而是可以全局地关注整个输入序列，因此它们使用的是普通的多头自注意力（multi-head attention），而不是带有掩码的自注意力。