跳转至

前言

写给谁

这套《从零到大模型》系列教材是为这样一位读者准备的:你已经是一名合格的软件工程师,能熟练阅读和编写代码,理解数据结构、算法和工程实践;但对人工智能(Artificial Intelligence,AI)只有零散的了解——也许用过 ChatGPT,跑过几个开源模型,看过一些“注意力机制”的科普文章。你的目标却远不止于“会用”:你希望成为一名专业的 AI 工程师,最终有能力从数据、分词器、模型结构、分布式训练一路做到对齐与部署,亲手训练出世界一流水准的 Transformer 大语言模型。

这是一个宏大的目标。好消息是,通往它的道路已经被前人清晰地铺好了:今天最先进的大模型,其核心思想几乎都可以追溯到少数几篇公开论文和一套相对稳定的数学工具。坏消息是,这条路很长,需要扎实的数学、大量的动手实践,以及对“为什么这样做”的深刻理解。本系列的任务,就是把这条路切分成循序渐进的若干段,让你每一步都走得踏实。

本书在系列中的位置

本书是系列的第一卷,主题是人工智能简史与核心概念。它不要求任何数学基础,也几乎不要求写代码(书中有少量 Python 片段,帮助你建立直觉)。读完本书,你应当能够:

  • 用自己的话解释什么是人工智能、机器学习、深度学习和大语言模型,以及它们之间的关系;

  • 说出 AI 七十余年发展中的关键人物、关键事件和关键思想,并理解每一次“繁荣”与“寒冬”背后的技术原因;

  • 掌握机器学习最核心的概念框架:数据、模型、损失函数、优化、泛化;

  • 对神经网络、反向传播、Transformer 和规模定律有一个准确的“鸟瞰图”,知道后续各卷要解决什么问题;

  • 规划自己成为 AI 工程师的学习路线。

为什么要从历史讲起?因为 AI 的历史是一部思想试错史。符号主义为什么一度统治 AI 又最终失势?感知机为什么被打入冷宫二十年?深度学习为什么在 2012 年突然爆发?大模型为什么“越大越好”?理解这些问题的答案,能让你在面对今天层出不穷的新技术时,分辨哪些是本质性的进步,哪些只是昙花一现的噱头。正如强化学习先驱 Richard Sutton 在其短文《苦涩的教训》(The Bitter Lesson, 2019) 中所总结的:七十年的 AI 研究反复证明,能够随算力增长而扩展的通用方法,最终会胜过依赖人类知识的精巧设计。这条“教训”,正是理解大模型时代的钥匙。

如何使用本书

本书共十章,分为三个部分:

  1. 第 1 章:什么是人工智能——定义、图灵测试与智能体视角。

  2. 第 2–7 章:按时间顺序讲述 AI 简史,从 1943 年的 M-P 神经元一直讲到 2025 年的推理模型。每章都穿插了“历史小故事”和可以动手验证的例题。

  3. 第 8–10 章:机器学习与神经网络的核心概念,以及 AI 工程师的工具箱和学习路线。

每章末尾有本章小结、习题和延伸阅读。习题分为概念题、计算题和编程题三类,全部答案集中在附录 A。书后附有中英文术语表(附录 B)和参考文献。

阅读建议

第一遍通读时不必纠结每一个公式。书中的数学只为建立直觉,严格的推导将在卷二、卷三中展开。建议你在读到代码片段时,打开一个 Python 环境亲手运行一遍——“看懂”和“跑通”之间的差距,往往比想象中大。

符号与约定

  • 术语首次出现时以粗体给出中文,并在括号中附英文原文,例如 反向传播 (Backpropagation)。

  • 标量用斜体小写字母表示,如 \(x,y,w\);向量用粗体小写字母,如 \(\mathbf{x},\mathbf{w}\);矩阵用粗体大写字母,如 \(\mathbf{W}\)。

  • \(\hat{y}\) 表示模型的预测值,\(y\) 表示真实值(标签)。

  • 代码使用 Python 3.10 及以上版本,依赖库为 NumPy;第 9 章少量示例使用 PyTorch。

  • 文中引用的文献以“作者,年份”的形式给出,完整信息见书末参考文献。本书只引用真实存在、广为人知的论文与著作。

  • 书中所有插图均为本书原创绘制;标注“示意”的图表示定性关系,不代表精确数据。

环境准备

本书的代码只需要一个最基础的 Python 环境:

# 推荐使用 conda 或 uv 创建独立环境
python -m venv ai-env && source ai-env/bin/activate
pip install numpy matplotlib torch
python -c "import numpy, torch; print(numpy.__version__, torch.__version__)"

如果你的电脑没有 GPU,也完全不必担心:本卷所有示例都能在笔记本电脑的 CPU 上于几秒内运行完毕。

准备好了吗?让我们从一个古老而迷人的问题开始:机器能思考吗?