习题答案与提示¶
概念题和思考题通常没有唯一的标准答案,这里给出要点和参考思路;计算题和编程题给出完整答案或关键代码。
第 1 章 什么是人工智能
-
参考:像人一样思考——认知架构 ACT-R 等认知模型;理性地思考——自动定理证明器;像人一样行动——参加图灵测试的聊天机器人;理性地行动——自动驾驶规划系统、AlphaGo(最大化胜率)。
-
图灵设想先构造“儿童心智”,再通过教育(经验与奖惩)让它成长;这正是机器学习“从数据中学习”以及强化学习“从奖励中学习”的思想雏形。
-
环境:道路、其他车辆、行人、交通信号与天气;传感器:摄像头、激光雷达、毫米波雷达、GPS、惯性测量单元;执行器:方向盘、油门、刹车、转向灯;表现度量:安全(零事故)、到达时间、乘坐舒适度、遵守交规、能耗。
-
错误。深度学习只是机器学习的一个子集;决策树、SVM、线性回归、朴素贝叶斯等都是机器学习方法,但不是深度学习。
-
例如:计算机能轻松完成千位数乘法,却很难像三岁小孩一样稳稳地拿起一个从未见过的杯子;扫地机器人能精确建图,却常被地上的数据线困住。
-
支持“不理解”:模型只是在学习词元的统计相关性,正如屋中人只是在执行规则;它会产生幻觉,缺乏与真实世界的接地 (Grounding)。支持“某种程度的理解”:所谓“系统应答”认为理解属于整个系统(人 + 规则手册),而非其中某个部件;大模型内部形成了可泛化的表示,能处理训练中从未见过的组合。这一问题至今没有共识。
第 2 章 孕育与诞生
-
取 \(\theta = 2\):三个输入之和不小于 2 即输出 1。
-
把 \(x_{1}\) 作为兴奋性输入,\(x_{2}\) 作为抑制性输入,阈值 \(\theta = 1\)。当 \(x_{2} = 1\) 时神经元被抑制,输出 0;当 \(x_{2} = 0\) 时输出等于 \(x_{1}\)。
-
参考代码:
PARITY3 = lambda a, b, c: XOR(XOR(a, b), c)。若 XOR 用抑制性输入实现为两层(输出神经元以 OR 为兴奋性输入、以 AND 为抑制性输入,\(\theta = 1\)),则三输入奇偶校验嵌套两次 XOR,共需 4 层。也可以构造更浅的网络:第一层用阈值分别为 1、2、3 的三个神经元统计“至少有 1/2/3 个输入为 1”,再在第二层组合,请读者尝试。 -
如果人的思维过程本质上是一种计算(能行过程),那么由丘奇—图灵论题,它可以被图灵机——也就是计算机——模拟;这为“用机器实现智能”提供了原则上的可能性。(注意:这本身是一个哲学立场,并非已被证明的事实。)
-
“如何编程让计算机使用语言”——大语言模型的核心;“神经网络”——Transformer 本身;“抽象”——模型学习到的层次化表示;“自我改进”——自我对弈、基于强化学习的推理训练、用模型生成的数据训练模型;“随机性与创造性”——采样温度与生成式模型。
第 3 章 黄金年代与第一次寒冬
-
最右边的 MAX 节点变为 \(\max(7,10) = 10\);右侧 MIN 节点为 \(\min(4,10) = 4\),不变;根节点仍为 \(\max(5,4) = 5\),最佳走法不变。这说明对手的“最小化”会屏蔽掉右子树中更好的叶子。
-
第一轮:\((0,0)\):\(z = 0\),\(\hat{y} = 1 \neq 0\),更新得 \(\mathbf{w} = (0,0)\),\(b = - 1\);\((0,1)\):\(z = - 1\),\(\hat{y} = 0 \neq 1\),更新得 \(\mathbf{w} = (0,1)\),\(b = 0\);\((1,0)\):\(z = 0\),\(\hat{y} = 1\),正确;\((1,1)\):\(z = 1\),\(\hat{y} = 1\),正确。第一轮结束时 \(\mathbf{w} = (0,1)\),\(b = 0\)。继续迭代,第 4 轮无错误,收敛到 \(\mathbf{w} = (1,1)\),\(b = - 1\)。
-
假设存在 \(w_{1},w_{2},b\)。由 \((0,0) \rightarrow 1\) 得 \(b \geq 0\);由 \((0,1) \rightarrow 0\) 与 \((1,0) \rightarrow 0\) 得 \(w_{2} + b < 0\),\(w_{1} + b < 0\);两式相加得 \(w_{1} + w_{2} + 2b < 0\),即 \(w_{1} + w_{2} + b < - b \leq 0\);但 \((1,1) \rightarrow 1\) 要求 \(w_{1} + w_{2} + b \geq 0\),矛盾。
-
对 XOR 数据,权重永远不会稳定。按本章代码的初始化和样本顺序,每一轮结束后参数都回到 \(\mathbf{w} = ( - 1,0)\),\(b = 0\),每轮中都会出现错误并做出相互抵消的更新,形成循环。
-
若 \(h(n)\) 高估了代价,A* 可能因为某个节点“看起来”很远而迟迟不扩展它,却先找到并返回了另一条较差的路径。例如:真正的最短路径经过节点 \(A\),但启发函数把 \(A\) 到终点的距离估计为实际的 10 倍,A* 会先沿另一条更长的路径到达终点并停止。
-
相似之处:都存在过高的期望与宣传、成本高昂、在演示场景与真实部署之间存在差距(如幻觉、可靠性)。不同之处:当前方法遵循可预测的规模定律,已经产生了巨大的实际商业价值与用户规模,并且有清晰的工程改进路径;而第一次寒冬时的方法既缺乏可扩展性,也缺乏真实应用。
第 4 章 专家系统、联结主义复兴与第二次寒冬
-
在
rules中添加({"疑似肺炎", "对青霉素过敏"}, "避免使用青霉素"),事实集合为{"发烧", "咳嗽", "肺部有阴影", "对青霉素过敏"}即可触发。 -
思路:在推理时记录每个新事实的来源
why[concl] = cond;查询时从目标结论出发,递归地展开其条件,直到遇到初始事实为止,并打印这棵“证明树”。 -
知识获取瓶颈——大模型从海量文本中自动学习,大幅缓解;脆弱性——大模型的泛化能力强得多,但仍会在分布外输入上出错,并产生“自信的错误”(幻觉);可解释性/可维护性——大模型的知识分布在权重中,难以检查和精确修改,在这一点上反而加剧了。
-
多层网络的输出误差应该“归咎”于哪些隐藏单元、多大程度?这就是信用分配问题。反向传播用链式法则精确计算损失对每个权重的偏导数,从而定量地给每个参数分配“责任”。
-
万能近似定理只保证存在性,所需的隐藏单元数量可能随问题复杂度呈指数增长;深层网络通过逐层组合特征,可以用少得多的参数表示许多结构化的函数,并且在实践中更容易学到可泛化的层次化表示。
第 5 章 统计机器学习时代
-
\(a\) \(T\):下围棋;\(P\):对局胜率;\(E\):人类棋谱和自我对弈的经验。(b) \(T\):根据房屋特征预测价格;\(P\):预测误差(如均方误差);\(E\):历史成交数据。(c) \(T\):预测下一个词元;\(P\):在留出数据上的交叉熵损失(或困惑度);\(E\):海量的文本语料。
-
代入 \(x_{1} + x_{2} - 2x_{1}x_{2}\):\((0,0) \rightarrow 0\),\((0,1) \rightarrow 1\),\((1,0) \rightarrow 1\),\((1,1) \rightarrow 1 + 1 - 2 = 0\)。正例的值为 1 > 0.5,负例的值为 0 \< 0.5,因此该平面把 XOR 的两类点完全分开。
-
SVM 的最优解只由那些恰好位于间隔边界上的样本(支持向量)决定,其余样本在对偶问题中的系数为零。删除一个非支持向量的样本,决策边界不会改变。
-
Bagging 在不同的自助采样子集上独立、并行地训练多个模型并投票,主要降低方差;Boosting 按顺序训练模型,每个新模型重点关注前面模型的错误,主要降低偏差。Bagging 更容易并行。
-
在很大程度上被证实:大模型的成功高度依赖数据规模。但也被修正:(1) 模型本身也需要足够大才能吸收海量数据(规模定律同时涉及 \(N\) 与 \(D\));(2) 数据质量与配比极其重要,高质量的小数据有时胜过低质量的大数据;(3) 高质量的人类文本正在接近“用尽”,合成数据和强化学习成为新的研究重点。
第 6 章 深度学习革命
-
神经网络的主要计算是大规模的矩阵乘法和逐元素运算,这些计算可以分解为大量相互独立的乘加运算;GPU 拥有数千个计算核心和极高的显存带宽,擅长此类数据并行的计算。
-
参数量为 \(4096 \times 4096 + 4096 = 16781312\);以 FP32 存储需要 \(16781312 \times 4 = 67125248\) 字节,约为 64.0 MB。
-
当 \(F\) 的权重接近 0 时,残差块近似恒等映射 \(\mathbf{y} \approx \mathbf{x}\),因此加深网络至少不会让表现变差;同时,梯度可以通过恒等的捷径直接回传(\(\partial\mathbf{y}/\partial\mathbf{x} = \partial F/\partial\mathbf{x} + \mathbf{I}\)),避免了逐层连乘造成的梯度消失。
-
参考代码:
cos_sim = lambda a, b: a @ b / (np.linalg.norm(a) * np.linalg.norm(b));例如取 猫 = (0.9, 0.8, 0.1),狗 = (0.8, 0.9, 0.2),汽车 = (0.1, 0.2, 0.9),则 猫—狗 的相似度约为 0.99,猫—汽车 约为 0.30。 -
长句子的全部信息被压缩到一个固定长度的向量中,会导致信息丢失,长句翻译质量显著下降。注意力机制让解码器在每一步都能直接访问编码器的所有隐状态,并按相关性加权,从而动态地选取所需信息。
-
启示:在拥有明确、可自动验证的奖励信号时,强化学习可以突破模仿人类数据的上限。关键区别:围棋规则完全已知、胜负可以精确判定、可以无限模拟;而开放领域的语言任务往往没有可靠的自动奖励。这也是为什么当前基于强化学习的推理训练集中在数学、代码等答案可验证的领域。
第 7 章 Transformer 与大模型时代
-
RNN 的计算必须按时间步顺序进行,难以并行;长距离信息要经过多步传递,容易衰减。Transformer 用自注意力让所有位置并行计算,任意两个位置之间的信息路径长度都为 1。
-
\(\mathbf{Q}\mathbf{K}^{\top}\) 的形状为 \(n \times n\)。\(n\) 增大 100 倍,矩阵元素数增大 \(100^{2} = 10^{4}\) 倍。注意力的计算和内存随序列长度呈平方增长,这是长上下文模型的核心挑战之一,催生了 FlashAttention(通过分块计算避免显式存储完整矩阵)等技术,卷六和卷十一将讨论。
-
\(D \approx 20 \times 7 \times 10^{9} = 1.4 \times 10^{11}\)(1400 亿)词元;\(C \approx 6 \times 7 \times 10^{9} \times 1.4 \times 10^{11} \approx 5.9 \times 10^{21}\) FLOPs。
-
总有效算力为 \(1000 \times 4 \times 10^{14} = 4 \times 10^{17}\) FLOPS;所需时间为 \(10^{24}/\left( 4 \times 10^{17} \right) = 2.5 \times 10^{6}\) 秒,约 28.9 天。
-
三步:(1) 在人工示范数据上进行监督微调;(2) 收集人类对多个回答的排序,训练奖励模型;(3) 以奖励模型为目标,用 PPO 等强化学习算法优化策略(通常加上与原模型之间的 KL 惩罚)。DPO 省去了显式的奖励模型训练和强化学习采样过程,直接用偏好数据构造一个分类式的损失来优化模型。
-
开放性问题。可以从以下角度讨论:预测需要压缩,压缩需要建模数据背后的规律;模型在训练分布之外的泛化能力;幻觉与缺乏接地;“理解”本身的定义。
第 8 章 机器学习核心概念
-
\(a\) 监督学习(回归,以历史价格为标签);(b) 无监督学习(聚类或主题模型);(c) 强化学习;(d) 自监督学习。
-
\(\overline{x} = 1.5\),\(\overline{y} = 4\);分子 \(= ( - 1.5)( - 3) + ( - 0.5)( - 1) + (0.5)(1) + (1.5)(3) = 10\),分母 \(= 2.25 + 0.25 + 0.25 + 2.25 = 5\);\(w^{\ast} = 2\),\(b^{\ast} = 4 - 2 \times 1.5 = 1\)。数据恰好落在直线 \(y = 2x + 1\) 上,均方误差为 0。
-
初始预测全为 0,残差 \({\hat{y}}_{i} - y_{i}\) 为 \(- 1, - 3, - 5, - 7\)。\(\partial\mathcal{L}/\partial w = \frac{2}{4}(0 - 3 - 10 - 21) = - 17\),\(\partial\mathcal{L}/\partial b = \frac{2}{4}( - 16) = - 8\)。更新后 \(w = 0 + 0.05 \times 17 = 0.85\),\(b = 0 + 0.05 \times 8 = 0.4\)。
-
在本章代码的设置下:学习率 0.01 时 200 步后 MSE 约 323,尚未完全收敛;0.1 与 0.5 时收敛到最小值约 304.6(数据噪声决定的下限);1.1 时发散(MSE 达到 \(10^{36}\) 量级)。原因:标准化后损失关于 \(w\) 的二阶导数为 2,梯度下降稳定的条件是 \(\eta < 2/2 = 1\)。
-
TP = 90,FN = 10,FP = 495,TN = 9405。准确率 \(= (90 + 9405)/10000 = 94.95\%\);精确率 \(= 90/585 \approx 15.4\%\);召回率 \(= 90/100 = 90\%\);F1 \(\approx 2 \times 0.154 \times 0.9/(0.154 + 0.9) \approx 0.263\)。在患病率很低的筛查中,即使召回率很高,阳性结果中的大多数也可能是误报。
-
每次根据测试集结果做出决策(选模型、调超参数),都会让模型间接地“拟合”测试集,最终报告的性能会偏乐观,不再是对真实泛化能力的无偏估计。
-
卷积网络的归纳偏置是局部性(相邻像素相关)和平移等变性(同一个卷积核在各处共享)。Transformer 的归纳偏置较弱,需要更多数据才能学好,但它对数据结构的假设少,能用同一架构处理文本、图像、音频等多种模态,并能在更多数据和算力下持续提升——这与《苦涩的教训》相吻合。
第 9 章 神经网络与深度学习概念速览
-
\(\sigma'(z) = e^{- z}/\left( 1 + e^{- z} \right)^{2} = \sigma(z) \cdot \left( 1 - \sigma(z) \right)\)。最大值在 \(z = 0\) 处取得,为 \(0.5 \times 0.5 = 0.25\)。反向传播中每经过一层 Sigmoid,梯度至少缩小为原来的 1/4,\(L\) 层后可能缩小到 \(0.25^{L}\) 倍,这就是梯度消失。
-
\(\hat{y} = 2\),\(L = (2 - 5)^{2} = 9\);\(\partial L/\partial\hat{y} = 2(2 - 5) = - 6\);\(\partial L/\partial w = - 6 \times x = - 6\);\(\partial L/\partial b = - 6\)。
-
\(784 \times 256 + 256 = 200960\);\(256 \times 128 + 128 = 32896\);\(128 \times 10 + 10 = 1290\);合计 \(235146\) 个参数。
-
不能。没有非线性激活时,两个线性层的组合仍然是线性函数,等价于一个线性分类器,而 XOR 线性不可分;模型对四个输入的预测会趋近于 0.5。
-
不一定每次都成功。只有 2 个隐藏单元时,表示能力刚好够用,优化过程可能陷入局部极小值或平坦区域。这说明适度的过参数化(使用比理论最少数量更多的神经元)能让优化变得更容易——这也是大模型的一个重要经验。
-
表示学习指模型自动从原始数据中学习对任务有用的特征表示;特征工程则依赖人工根据领域知识设计特征。前者可以随数据和算力扩展,后者受限于人类的知识和精力。
第 10 章 成为 AI 工程师
-
推理:\(13 \times 10^{9} \times 2 = 26\) GB;训练:\(13 \times 10^{9} \times 16 = 208\) GB(不含激活值)。
-
\(C \approx 6 \times 8 \times 10^{9} \times 1.5 \times 10^{13} = 7.2 \times 10^{23}\) FLOPs。有效算力 \(= 1024 \times 10^{15} \times 0.4 \approx 4.1 \times 10^{17}\) FLOPS,所需时间约 \(1.76 \times 10^{6}\) 秒,约 20.3 天。
-
每个词元约 \(2N = 1.4 \times 10^{11}\) 次浮点运算;1000 个词元约 \(1.4 \times 10^{14}\) FLOPs(这里忽略了注意力随上下文长度增长的额外开销)。
-
示例:偏见——在数据环节进行配比与过滤,在评测环节进行公平性测试;幻觉——在后训练中鼓励模型表达不确定性,结合检索增强;隐私——在数据环节去除个人身份信息并去重,降低模型背诵训练数据的风险;滥用——在后训练中进行安全对齐,并在部署环节设置使用策略与监控。
-
开放性练习。建议:第 1–4 周完成本书习题并复习 Python/NumPy;第 5–12 周学习卷二、卷三,每周完成一个数学可视化或数值实验的小项目。