第二篇：AI的发展历史

AI工程实践发展史（下）📘 稍难

上一节我们追溯了AI理论的发展脉络，看到了图灵之问、符号主义、连接主义到Transformer的思想火花。但理论指明方向，工程铺就道路——从1950年代的"玩具程序"到2026年的AI Agent，AI工程实践的发展，是一部把"好想法"变成"好产品"的历史。这一节，我们看看AI是怎样一步步从实验室走向千家万户的。

📖 本章约 7780 字　·　⏱️ 预计阅读 19 分钟

六、大模型工程：GPT系列的训练之路（2018—2026）

2018年以来，AI工程实践进入了大模型时代。从GPT-1到GPT-4再到2026年的GPT-5.6，模型参数从1亿暴增到万亿级别，训练工程也变得前所未有的复杂。

预训练+微调范式："先上小学再选专业"

GPT系列的核心工程范式是"预训练+微调"。预训练阶段，模型"阅读"互联网上的海量文本，学习语言的通用规律——这就像先上小学中学，学习读写算这些通识知识。微调阶段，针对特定任务（比如写代码、做翻译）用专门的数据再训练——这就像大学毕业后再去读个专业硕士，学特定领域的技能。

这个范式为什么重要？因为在它之前，做不同的AI任务要从头训练不同的模型，费时费力。预训练+微调让你先花大代价训一个"通才"模型，再用很小的代价把它变成各种"专才"。这种"一次训练、多用"的效率，是大模型能横扫千军的关键。

GPT-1到GPT-3的规模跃迁

GPT系列的规模增长是惊人的。下面这张表可以直观感受"大"到底有多"大"：

从GPT-1的1亿参数到GPT-3的1750亿参数，两年间增长了1500倍。每一次规模跃迁，都伴随着能力的质变——GPT-1只会补全句子，GPT-2能写连贯的短文，GPT-3已经能写文章、写代码、做翻译、做推理，展现出"涌现"能力。这种"量变引起质变"的现象，是大模型工程最迷人的发现之一。

RLHF：给AI当老师打分

GPT-3虽然能力强，但有个问题：它说话像野马，不守规矩。你问它怎么制造炸弹，它可能真给你写出来。OpenAI用了一种叫 RLHF（人类反馈强化学习）（人话：让人类标注员给AI的多个回答打分排序，教它说出"让人舒服、守规矩"的话） 的技术来驯服它。

RLHF的原理通俗来说就是"给AI当老师打分"：让AI对同一个问题生成多个回答，人类标注员按好坏给它们打分排序，然后把这些评分数据用来训练一个"奖励模型"，最后用这个奖励模型来引导AI生成更好的回答。就像老师批改作业：学生（AI）做了好几版答案，老师（标注员）打个分排个名，告诉它哪个好哪个差，学生下次就知道该怎么改进了。

RLHF为什么重要？因为它解决了大模型的"对齐"问题——让强大的AI变得"听话"、有用且无害。没有RLHF，GPT-3只是一个"什么都敢说"的莽夫；有了RLHF，它变成了ChatGPT这样一个"有教养"的助手。这项技术是大模型从实验室走向大众的关键一环。

数据工程：Garbage in, garbage out

大模型训练有一条铁律："Garbage in, garbage out"（垃圾进，垃圾出）。模型再大、算力再强，如果训练数据质量差，出来的模型也一定差。这就像做菜——食材不新鲜，厨艺再好也做不出好菜。

数据工程因此成了大模型训练中最重要也最容易被忽视的环节。它包括：数据收集（从哪里获取海量文本）、数据清洗（去掉低质量、重复、有害内容）、数据配比（不同语言、不同类型数据的比例）、数据去毒（过滤暴力、色情、偏见内容）。很多模型的差距，不在算法而在数据——谁的数据更干净、更丰富、配比更合理，谁的模型就更强。

训练稳定性：大模型训练不是"一次成功"

大模型训练是一场漫长的马拉松，跑几个月甚至大半年。在这个过程中，训练随时可能"崩"——硬件故障、梯度爆炸、损失函数突然飙升……OpenAI透露，GPT-4的训练过程中经历了多次严重故障，需要反复调试才能稳定运行。

这就像烧一窑瓷器：火候稍有偏差，整窑都可能报废。大模型训练的稳定性工程，包括容错机制（一块卡坏了能不能自动恢复）、梯度监控（异常时及时干预）、学习率调度（动态调整训练节奏）等，都是极其复杂的工程问题。

七、AI Agent工程：从"聊天"到"干活"（2024—2026）

2024年以来，AI工程实践的焦点从"训练更好的模型"转向了"让模型干活"。AI Agent（智能体）（人话：能自己定计划、用工具、把事从头干到尾的"家政机器人"，而不只是陪你聊天的程序）的出现，标志着AI从"只会回答问题"进化到了"能拆解任务、调用工具、执行操作"的新阶段。

从Chatbot到Agent

ChatGPT是一个出色的聊天机器人——你问它答，一来一往。但它有个根本局限：它只能"说"，不能"做"。你问它"帮我订一张明天去上海的机票"，它会给你写一段订票的步骤说明，但不会真的帮你订。AI Agent就是要补上这"最后一公里"——让它不只是回答，而是真正帮你把事办了。

一个Agent收到"帮我调研某款产品并写一份对比报告"的任务后，会自己拆解成子任务：先搜索产品信息、再整理参数对比、然后查找用户评价、最后生成报告。整个过程中，它会自主决定先做什么后做什么、用什么工具、什么时候停下来确认。这就像你把一个任务交给一个能干的助手，他不用你一步步指挥，自己就能搞定。

工具调用：给AI装上"手脚"

让AI从"只会说"变成"能做事"的关键，是工具调用。工程师教AI学会使用搜索引擎查资料、用代码解释器运行程序、用API调用外部服务——就像给一个只有大脑的AI"装上了手脚"。

以前AI是"纸上谈兵"的军师，现在它成了能亲自上阵的将军。你让它分析一份数据，它不光告诉你方法，还能自己写代码、运行代码、看结果、再调整分析方案——全流程自主完成。工具调用为什么重要？因为它让AI的能力从"生成文本"扩展到了"操作现实"，这是AI走向实用化的关键一步。

RAG：让AI先"查资料"再回答

大模型有个先天缺陷：它的知识停留在训练完成的那一刻，之后的新知识它不知道；而且它有时会"一本正经地胡说八道"（幻觉）。RAG（检索增强生成，Retrieval-Augmented Generation）技术就是为了解决这个问题。

RAG的原理像"开卷考试"：以前AI回答问题是"闭卷考试"——全凭记忆，记错了也没法翻书查。RAG让它先去知识库里"查资料"，找到相关内容后再结合自己的理解来回答。这样既保证了答案有出处（减少幻觉），又能利用最新的数据（不怕知识过时）。

RAG为什么重要？因为它让企业可以把自己的内部知识库接入大模型，让AI"读过"公司所有的文档后再回答问题。一个"读过"全部公司文档的AI助手，和一个只会网上通用知识的AI，价值天差地别。RAG是目前企业落地AI最常用的技术之一。

多Agent协作："项目组"模式

随着Agent越来越复杂，单个Agent难以应对所有环节，多Agent协作应运而生。就像一个项目组里有产品经理、设计师、开发、测试各司其职，多Agent系统让不同的AI扮演不同角色，分工合作完成复杂任务。

比如开发一个软件：一个Agent负责写代码，一个Agent负责写测试用例，一个Agent负责代码审查，一个Agent负责文档——它们互相配合、互相检查，像一支真正的开发团队。这种"项目组"模式为什么重要？因为它让AI不再是一个"万能但平庸"的通才，而是一支"各有所长"的协作团队，能力上限大幅提升。

Agent框架的工程挑战

但Agent工程也面临巨大的挑战。可靠性：Agent自主决策时可能走错路、调用错误的工具、陷入死循环。可观测性：Agent的决策过程是黑箱，出错了很难定位原因。安全边界：让AI能"做事"也意味着它能"闯祸"，如何设定红线是生死攸关的问题。

这些挑战也是2026年Agent工程最热门的研究方向。各种Agent框架（LangChain、LlamaIndex、Dify等）都在努力提供更好的工具链来降低这些风险。

八、MLOps与AI工程化最佳实践

随着AI模型越来越复杂、应用越来越广，如何系统地管理AI的整个生命周期成了一大挑战。于是，MLOps——机器学习的DevOps（人话：把"训练→上线→监控→回炉"做成自动化工厂流水线，让AI持续稳定地服务）——应运而生。

MLOps：机器学习的"工厂流水线"

传统的软件开发有DevOps——一套从代码编写到测试、部署、监控的自动化流水线。AI模型比软件更难管：它不仅涉及代码，还涉及数据和模型，而且模型会"退化"（线上表现逐渐变差）。MLOps就是为了解决这个问题而诞生的。

把MLOps比作"工厂流水线"：原料（数据）进来，经过加工（训练），产出成品（模型），质检合格后出厂（部署），出厂后还要持续监控（监控），发现问题再回炉重造（再训练）。整条流水线自动化运转，人只需要在关键环节把关。

模型生命周期管理

一个AI模型从出生到退役，经历五个阶段：训练→评估→部署→监控→再训练。训练是用数据教模型；评估是考试看它学得怎么样；部署是把它上线服务用户；监控是上线后持续观察它的表现；再训练是发现表现下降后用新数据重新训练。

为什么需要这个循环？因为世界在变，模型也会"过时"。比如一个信用评分模型，经济好的时候训练的，经济危机来了，人们的还款行为变了，模型的预测就不准了。MLOps的核心就是让这个"训练-部署-监控-再训练"的循环自动化、可持续。

模型版本管理与数据版本管理

在传统软件里，用Git管理代码版本就够了。但在AI里，不仅要管代码，还要管模型版本（V1、V2、V3……每个版本效果不同）和数据版本（用了哪些数据训练的、数据有没有更新）。这就像做饭不仅要记菜谱版本，还要记每次用了哪批食材。

模型版本管理为什么重要？因为线上模型出了问题，你需要能快速回滚到上一个稳定版本。数据版本管理为什么重要？因为模型表现变差，可能是数据变了——你得知道当前模型是用哪一版数据训的，才能定位问题。

从对比可以看出，MLOps比传统DevOps复杂得多——多了一整个"数据"维度。这也是为什么AI工程的门槛比传统软件工程高：你不仅要会写代码，还要懂数据、懂模型、懂监控。但MLOps的发展正在让这一切越来越自动化，让AI工程变成一门可以标准化、流程化的学科。

九、中国AI工程实践的特色

在全球AI工程实践中，中国团队走出了一条有自己特色的发展道路。不一定是理论最强，但在工程落地、快速迭代、成本优化方面，展现出了独特的竞争力。

快速迭代："小步快跑、快速试错"

中国AI团队有一个鲜明的特点："小步快跑、快速试错"。不会等一切都完美了才上线，而是先出一个"够用"的版本，快速收集用户反馈，再迭代优化。这种打法在互联网时代被验证过无数遍，现在被搬到了AI领域。

比如DeepSeek、通义千问、Kimi等国产大模型，几乎每隔一两个月就更新一版。每一次更新都针对上一次的不足做改进——这种"高频迭代"的速度，让国产模型在短短两三年内大幅缩小了和国际顶尖模型的差距。

场景驱动：从应用倒推技术

中国AI工程的另一个特色是场景驱动。不是先有什么技术再去找应用，而是先有明确的应用场景，再倒推需要什么技术。电商推荐、短视频算法、外卖调度、自动驾驶……中国在应用场景的丰富度上全球领先。

这种"从应用倒推技术"的路线为什么重要？因为它让AI工程始终以解决真实问题为导向，而不是停留在论文里。一个在实验室跑分很高的模型，如果解决不了实际问题就没什么价值。中国团队的强项，恰恰是把模型在真实场景中磨出来。

工程优化：DeepSeek的"1/10成本"秘诀

2024年底，DeepSeek以远低于国际同行的训练成本，实现了逼近GPT-4的性能，震动了全球AI界。它的核心武器不是什么革命性的新算法，而是极致的工程优化——混合精度训练、稀疏激活架构、高效的数据配比……每一项都是"积少成多"的工程功夫。

用做菜来比喻：别人用最好的食材、最贵的厨具做大餐，DeepSeek用普通的食材、家常的厨具，靠刀工和火候的精细控制，做出口味不相上下的菜。这种"工程效率致胜"的思路，让全世界重新审视了中国AI的工程能力。

十、本章术语速查

本章小结

1. 早期AI系统（ELIZA、SHRDLU、GPS）首次证明了机器可以模拟智能行为，但被困在"玩具世界"里。
2. 专家系统（DENDRAL、MYCIN、XCON）把专家知识变成规则，一度在商业上大获成功，但终究因知识获取瓶颈、规则爆炸等四大死穴而衰落。
3. 机器学习工程化实现了从"规则驱动"到"数据驱动"的范式转变，特征工程、交叉验证等方法论让AI走进千行百业。
4. 深度学习工程以AlexNet为标志全面爆发，GPU集群训练和"炼丹"式调参成为常态。
5. AlphaGo系列证明了深度学习+强化学习可以解决极其复杂的搜索问题，从游戏走向科学（AlphaFold）。
6. 大模型工程以预训练+微调为核心范式，RLHF实现"对齐"，数据工程决定模型上限，训练稳定性是最大挑战。
7. AI Agent工程让AI从"聊天"进化到"干活"，工具调用、RAG、多Agent协作是三大关键技术。
8. MLOps将AI工程标准化、流程化，管理模型从训练到退役的完整生命周期。
9. 中国AI工程以快速迭代、场景驱动、工程优化为核心优势，DeepSeek的"1/10成本"震撼全球。

工程实践让AI从论文走向产品，但产品背后还需要强大的软件工具链支撑。下一章，我们将走进AI关联软件发展史，看看从手写矩阵运算到一键训练千亿参数大模型，AI软件框架是如何从"手工作坊"走向"工业大生产"的。

从ELIZA的关键词匹配到AI Agent的自主决策，AI工程实践走过了一条从"手工作坊"到"工业大生产"的进化之路。每一步都是把"好想法"变成"好产品"的过程——而这，才是AI真正改变世界的方式。