← 返回教程站

SPAN · LINEAR ALGEBRA FOR AI LEARNERS

写给 AI 学习者的线性代数

「张成(span)」是线性代数里最漂亮的动词:用少数几支向量,生成一整个空间。 这本书想对你的知识做同一件事——大学里那门背公式、算行列式的课多半已经还给老师了,没关系, 它本来也不是为学 AI 设计的。AI 真正吃的线性代数是另一套:向量是数据的形状,矩阵是变换的说明书, 点积是相似度,SVD 是压缩,而神经网络的每一层、Transformer 的每一次注意力,都只是矩阵乘法在流水线上奔跑。 这本书从一支可以拖动的箭头讲起,一路把这些直觉亲手玩出来,最后走进真实的模型内部。 不考试,不手算,只求你合上书时敢说一句:AI 论文里的那些公式,我看得懂骨架了。

24
章 · CHAPTERS
6
卷 · VOLUMES
14
可拖拽互动 DEMO
0
应试技巧
图例 · LEGEND
  • ◈ 几何直觉先看清一个概念在坐标纸上「长什么样」,再谈计算
  • ◆ AI 连接这个概念在真实模型里用在哪——每一章至少一处
  • ▸ Android 类比用你熟悉的工程概念对照理解
  • ⚠ 坑最容易记岔的误解与边界情况
  • ✋ DEMO可拖拽、可调参的互动演示,零依赖纯 JS,离线可玩
VOL.I

向量 · VECTORS

一支箭,一列数 · CH 01–05
01 为什么 AI 的地基是线性代数你问大模型一句话,第一毫秒发生了什么;学 AI 到底需要哪些线代、不需要哪些;全书路线图 02 向量:一支箭,一列数几何、数据、抽象三种视角;加法与数乘——仅有的两种合法动作 DEMO 游乐场 03 线性组合与张成本书书名的出处:用两支向量生成整个平面;共线时世界塌成一条线 DEMO 张成 04 点积:相似度的度量衡投影与夹角;embedding 检索、语义搜索、推荐系统的第一性原理 DEMO 仪表盘 05 范数与距离L1、L2、单位化;余弦相似度 vs 欧氏距离怎么选;正则化的几何直觉
VOL.II

矩阵 · MATRICES

变换的说明书 · CH 06–10
06 矩阵是变换的说明书全书最重要的一章:矩阵的列 = 基向量的去向;拖动滑杆看整张网格变形 DEMO 旗舰 07 矩阵乘法:变换的复合行×列的机械规则,与「先剪切再旋转」的几何真相;为什么 AB ≠ BA DEMO 分步 08 行列式:面积的账本det 是缩放因子,负号是翻转,零是压扁;它不是一坨要背的公式 DEMO 账本 09 逆矩阵与解方程 Ax=b逆 = 撤销;行图像与列图像两种世界观;det=0 时解去了哪里 DEMO 双视角 10 特殊矩阵动物园单位、对角、正交、对称、置换、稀疏——AI 代码里的常客图鉴
VOL.III

空间 · SPACES

维度的真相 · CH 11–14
11 线性无关与基哪些向量是冗余的;维度的严格定义;one-hot 编码其实是一组基 12 秩:信息的真实维度列空间与零空间的直觉;「低秩」为什么意味着可压缩——LoRA 在这里埋下伏笔 13 基变换:换个坐标系看世界坐标只是读数,不是箭头本身;embedding 空间就是模型学出来的坐标系 DEMO 双坐标 14 投影与最小二乘方程无解时求「最不错的解」;线性回归 = 把数据投影到列空间上 DEMO 拟合
VOL.IV

分解 · DECOMPOSITIONS

看透矩阵的内脏 · CH 15–18
15 特征向量:变换中的不动方向拖着向量绕一圈,亲手「逮住」特征方向;Av = λv 的几何含义 DEMO 探测器 16 对角化与矩阵的幂换到特征基,变换退化成纯缩放;马尔可夫链与 PageRank 的秘密 17 SVD:任何矩阵的三幕剧旋转—拉伸—旋转;拉一根滑杆,看一张图片被压缩到 20 分之一 DEMO 压缩 18 PCA:数据的主方向协方差矩阵的特征向量指向数据最舒展的方向;降维就是换基后砍轴 DEMO 主成分
VOL.V

走进 AI · INTO AI

线代在模型里的样子 · CH 19–23
19 从矩阵到张量shape、broadcast、batch 维;NumPy 十分钟速成,读懂 AI 代码的第一门外语 20 神经网络 = 矩阵乘 + 非线性逐层拆开前向传播;「7B 参数」数的就是矩阵里的数字个数 DEMO 前向 21 梯度与反向传播的线代骨架梯度是向量,Jacobian 是矩阵,链式法则是矩阵乘;顺带聊聊 fp16 的数值坑 22 Attention 就是三次矩阵乘QKᵀ 是一批点积,softmax 是预算分配,·V 是加权搬运——亲手分步执行一遍 DEMO 热力图 23 低秩直觉在大模型里LoRA 为什么能用 0.1% 的参数微调模型;embedding 算术与量化,全是本书旧知识
VOL.VI

收束 · CLOSURE

一张地图带走全书 · CH 24
24 一张地图:线代 ↔ AI 对照总表全书概念速查、自测清单,以及从这里去哪儿:微积分、概率与真正的模型代码