导读：

2022年11月，ChatGPT上线即引爆全球。短短两个月用户破亿，刷新了互联网应用的增长纪录。但很多人不知道的是，支撑ChatGPT的技术并非一夜出现，而是经历了长达五年的迭代进化。今天我们就来聊聊GPT系列模型的演进史，看看它是怎么从一个小模型一步步变成今天的"超级大脑"的。

2018年6月，OpenAI发布了初代GPT（全称Generative Pre-Training），论文叫《Improving Language Understanding by Generative Pre-Training》。那个时候AI圈还是BERT的天下，BERT靠"双向编码器"的概念火遍全网，而GPT选择了一条截然不同的路——单向解码。

GPT-1的思路很纯粹：先在大规模无标注文本上做预训练，学习语言的一般规律；然后再在具体任务上做微调。这种"预训练 微调"的范式后来成了大语言模型的标准流程。

不过GPT-1的规模相当有限，只有1.17亿参数，在自然语言理解任务上的表现虽然不错，但远没有让人眼前一亮。那时的它，更像是一个"试验品"，验证了这条路走得通，但还没有展现出真正的潜力。

时间来到2019年2月，GPT-2发布了。这一次OpenAI把参数规模直接怼到了15亿，是GPT-1的十几倍。更重要的是，它提出了一个在当时看来有点"激进化"的观点：语言模型不需要针对特定任务做微调，靠prompt提示就能完成任务。

所谓zero-shot，就是不给模型任何示例，直接用文字指令让它执行任务。比如你直接说"把这句话翻译成英文"，它就能执行。这种通用化的思路，是GPT-2最核心的贡献。

但OpenAI当时做了一个很争议的决定：出于"安全"考虑，他们只放出了124M参数版本的GPT-2，而没有放出完整的15亿参数版本。这个操作反而让它火出了圈——大家都好奇，完整版到底能厉害成什么样？

回过头看，GPT-2的规模化尝试证明了：模型变大，真的能解锁新能力。这条"暴力美学"的路子，后来被GPT-3发扬光大。

2020年5月，GPT-3以1750亿参数的天文数字登场，论文标题就叫《Language Models are Few-Shot Learners》。这个规模让所有人都惊掉了下巴——之前最大的模型可能也就百亿级别，GPT-3直接高出一个数量级。

GPT-3的核心突破有两点：

第一，few-shot能力大幅提升。 不同于需要大量样本的fine-tuning，GPT-3只需要在prompt里给几个示例（few-shot）甚至不给示例（zero-shot），就能完成各种任务。这让它变得极度通用，一个模型能写文章、做翻译、编代码、回答问题……

第二，涌现出惊人的"准推理"能力。 比如在推理题上，虽然它不是真正的逻辑推理，但大规模学习后表现出的类推理能力已经让很多人惊呼"像人了"。

当然，GPT-3也有明显短板：推理速度慢、成本高、容易一本正经地胡说八道（幻觉问题）。而且它没有真正的"推理链"，更多是靠记忆和模式匹配。

2022年11月发布的ChatGPT，并不是GPT-4，而是基于GPT-3.5微调的对话模型。它相比GPT-3，最核心的改进是加入了基于人类反馈的强化学习（RLHF）。

什么是RLHF？简单说就是三步走：

第一步：让AI生成一堆回答，人类给这些回答打分排序第二步：用这些排序数据训练一个"奖励模型"（Reward Model），让它学会判断什么样的回答是好的第三步：用强化学习算法（比如PPO）去优化语言模型，让它生成的回答更符合人类偏好

这个过程让ChatGPT学会了两件事：一是听指令，能理解用户想要什么；二是说话自然、连贯、符合人类交流习惯。

所以ChatGPT给人最大的感受是："它好像真的在和我聊天"——而不是像以前的对话系统那样机械、呆板。这种体验上的飞跃，让它迅速破圈。

2023年3月，GPT-4正式发布。相比前几代，GPT-4最大的变化是从纯文本升级为多模态——它不仅能处理文字，还能理解图像输入。你可以给它一张图表、截一张图，它能读懂并回答相关问题。

在推理能力上，GPT-4也有了质的提升。虽然本质上仍然是"大力出奇迹"的路线，但通过更大规模的训练和更精细的RLHF，GPT-4在复杂推理、代码编写、专业考试等任务上的表现已经可以超越大多数人类。

与此同时，OpenAI在安全性上也投入了更多精力。GPT-4的"对齐"（alignment）工作做得更扎实，在输出有害内容的比例上比GPT-3.5低了很多。

从GPT-1到GPT-4，OpenAI用五年时间证明了一条路：模型规模 人类反馈 迭代优化=越来越强的AI能力。这条路还在继续——GPT-5已经在路上了。

但与此同时，越来越多人也开始关注：这条路的天花板在哪里？大力出奇迹还能持续多久？这些问题，或许比答案本身更有意思。

你觉得大模型的进化之路，下一站会是什么？