AI的数学血脉｜一个德国中学教师自费出了一本书，没人读。180年后，GPT在4096维空间里理解语言。
2013年。Google。
一个叫托马斯·米科洛夫的研究员和他的同事们，做了一件看起来很简单的事：他们让一个两层的神经网络阅读了1000亿个英文单词。读完以后，他们把这个网络的”词表”拿出来看了看。
然后他们发现了一件让整个NLP学界目瞪口呆的事。
他们在向量空间里做了一道算术题：
vec(“King”) - vec(“Man”) + vec(“Woman”) = ?
计算结果是：与 vec(“Queen”) 距离最近。
不是”差不多”，不是”有点接近”。是在所有可能的输出中，最接近的那个，就是Queen。
他们又试了别的：
- vec(“Paris”) - vec(“France”) + vec(“Italy”) → vec(“Rome”)
- vec(“biggest”) - vec(“big”) + vec(“small”) → vec(“smallest”)
- vec(“walking”) - vec(“walk”) + vec(“swim”) → vec(“swimming”)
这太诡异了。
没有人告诉过这个模型”国王”和”女王”的区别是”性别”。没有人给它标注过”巴黎是法国的首都”。它只是看了大量的文字——看一个词和哪些词一起出现——然后就”自己学会了”这些关系。
而且它把”学会”的内容以最简洁的方式存了下来：作为高维空间里的一组坐标。 国王是一个点，王后是另一个点。“王权”是一个方向。“性别”是另一个方向。把国王的坐标顺着”性别”方向移一下，你就到了王后。
（ps：这不是比喻。这不是文学修辞。这就是数学。如果你真的把king的300维向量减去man的向量再加上woman的向量，你得到的结果在余弦距离上最接近queen的向量。语义变成了几何。含义变成了坐标。这是所有大模型理解语言的最底层机制。）
但这种”把语义变成几何”的思想，是从哪里来的？
让我带你回到180年前。回到一个普鲁士小镇的中学教室里。
一、1844：一个中学教师，一本没人要的书
赫尔曼·格拉斯曼1809年出生在普鲁士的港口城市斯德丁——今天属于波兰，叫什切青。
他的父亲贾斯图斯·格拉斯曼是当地中学的数学老师兼牧师。老格拉斯曼在1824年出了一本书，叫《空间学说》（Raumlehre）。书里有一个不寻常的想法：空间本身可以通过”生成”来描述。 一条线段是一个”移动的点”生成的。一个矩形是一条”移动的线段”生成的。一个长方体是一个”移动的矩形”生成的。
（ps：这种想法听上去像哲学，但它是纯数学。老格拉斯曼发明了一个概念：几何乘积——把两个几何实体的”生成关系”当作一种乘法。这在当时的数学里是没有的。）
小格拉斯曼继承了他父亲的数学直觉，但走得更远。
1832年，23岁的赫尔曼·格拉斯曼——一个没有受过正规数学训练、在柏林大学读的是神学和哲学的年轻人——开始琢磨一个问题：
如果我们不把代数仅仅看作”处理数字的法则”，而是把它看作”处理关系的法则”——那么，有没有一种代数，可以用来直接运算几何对象？
（ps：笛卡尔的解析几何把几何问题转化成代数问题——用坐标、用方程。但格拉斯曼想要反过来：不需要坐标。把线段、平面、空间本身当作”量”来运算。 线段加上线段是什么？线段乘上线段是什么？这不是解析几何，这是比解析几何更底层的东西。）
这个想法在他脑子里盘旋了十年。
1840年，他需要参加一场教师资格考试。考试要求提交一篇论文。题目：潮汐理论。
格拉斯曼写了。用的方法是拉普拉斯《天体力学》和拉格朗日《分析力学》的标准理论。但他在整篇论文中使用的数学工具——是他在过去八年里悄悄发展起来的那套向量方法。
这篇潮汐论文，被数学史家确认：是人类历史上”线性代数”和”向量空间”概念的第一次出现。
1832到1843。11年。格拉斯曼用业余时间把一个前所未有的数学分支从无到有建了起来。他白天教中学生德语、拉丁文、数学、物理、宗教。晚上写书。
1844年，35岁的格拉斯曼自费出版了**《线性扩张论》（Die lineale Ausdehnungslehre, ein neuer Zweig der Mathematik）**。书名翻译过来很朴素：《线性扩张论，数学的一个新分支》。
让我们暂停一下。看看这本书到底写了什么。用今天的数学语言翻译：
-
向量空间的公理化定义：从一组”单位”e₁, e₂, e₃, …出发，形式线性组合 a₁e₁+a₂e₂+a₃e₃+…，定义了加法和数乘——这就是后来所有线性代数教科书的起点。
-
线性独立、维数、基：定义了子空间、生成、投影。证明了维数在基变换下不变。证明了现在被称为Steinitz交换定理的命题——比Ernst Steinitz本人的证明早了69年。
-
dim(U+W) = dimU + dimW - dim(U∩W)：任何线性代数学生都背过的公式。
-
所有可逆线性变换都是初等变换的乘积。
-
外代数（Grassmann代数）：定义了现在被称为”外积”或”楔积”的运算 a∧b——这是微分几何、超对称理论、费米子物理的数学基础。一百年后，埃利·嘉当和赫尔曼·外尔用它来描述整个物理学。
任何一本现代的线性代数教科书，翻开前五章——格拉斯曼在1844年已经基本写完了。
（ps：但是请注意——他不是一个数学家。他没有大学教职。他发表这篇论文的平台是一所中学。他对标的是拉格朗日、拉普拉斯——但他没有他们的听众，没有他们的声望，甚至没有他们的同行审稿人。他只有一个想法，和一个自费出版的出版商。）
二、“大约600本书在1864年被当废纸处理掉了”
那本书没人读。
不是因为被批评了。是因为根本没人能读懂。
原因有三：
第一，格拉斯曼的语言太哲学化。书的前16页是一篇结结实实的哲学导论，讨论”存在的本质”和”扩展的概念”。大多数数学家翻了两页就放下了。
第二，他的思想太超前。1844年，“空间”在所有人心中是三维的。点、线、面。你不能有第四维。格拉斯曼却断言：n可以是任意正整数。三维空间没有任何特殊地位。
第三——也许是最致命的——同年，哈密顿发表了四元数。
威廉·罗恩·哈密顿是当时世界上最著名的数学家之一。他的官方头衔可以写满六行。1844年，他宣布发现了四元数——一种四维的代数结构。这个消息轰动一时。
而格拉斯曼——写的是同样是高维代数，而且是比四元数更一般、更优美的理论——但没有人知道他。
数学史家Desmond Fearnley-Sander对此写过一句让人心酸的评论：
“1844年发生了两件大事：哈密顿发表了他的四元数发现，格拉斯曼发表了他的《扩张论》。事后看来，格拉斯曼的贡献对数学更为重要——它包含了现代代数的许多概念，并将向量分析作为特例。然而，格拉斯曼是斯德丁一个默默无闻的中学教师，而哈密顿是享誉世界的数学家……所以四元数被欢呼为伟大发现，而格拉斯曼等了23年，才等到职业数学家对他的工作有任何认可。”
（ps：23年。人生有几个23年？格拉斯曼从35岁等到58岁。）
1862年，格拉斯曼又试了一次。他把A1完全重写——去掉了哲学导论，改成严格的公理化风格。排版更清晰。论证更严密。
书名改成：《扩张论：完整且严格地阐述》（Die Ausdehnungslehre: Vollständig und in strenger Form bearbeitet）。
仍然是自费出版。仍然没有人读。
1864年，出版商给他写了一封信。
信的内容是：
“您的著作《扩张论》已缺货一段时间。由于您的大作几乎无人问津，大约有600本在1864年被当作废纸处理掉了。剩下那几本最近也卖完了，我们的书库里仅存一本。”
600本书。当作废纸。
不是被烧毁。不是被查封。是被当作没有价值的东西——和报纸和包装纸一起——扔进了处理厂。
这封信是数学史上最残酷的文件之一。它宣告的不是一本坏书的命运，而是一个伟大思想的提前死亡。
三、53岁，放弃数学。然后他成了更著名的语言学家。
格拉斯曼读到那封信的时候，53岁。
他没有闹。没有继续自费出第三版。没有在学术期刊上和人打笔仗。
他只是不再做数学了。
他转向了自己的另一个爱好：梵语。
（ps：一个能公理化n维空间的人，转行去研究古印度吠陀梵语——这大概只有19世纪的德国学者能干得出来。格拉斯曼是真正的通才”polymath”：数学、物理、语言学、植物学、音乐、民谣收集、电动力学、色彩理论、宗教——他全都做过，全都有出版物。）
在接下来的十几年里，格拉斯曼：
- 编纂了一部2000页的《梨俱吠陀词典》——至今仍在使用，1955年还出了第三版
- 翻译了1100多页的《梨俱吠陀》——人类最古老的宗教文本之一，第一次被译成欧洲语言
- 发现了**“格拉斯曼定律”**——印欧语系中关于送气音的一条音韵规律。这一定律证明：日耳曼语在某些音韵模式上比梵语更古老。它动摇了当时”梵语是最古老的印欧语言”的教条。
在语言学领域，格拉斯曼得到了他在数学领域从未得到的认可。
1876年——去世前一年——他获得图宾根大学荣誉博士学位，当选为美国东方学会会员。
1877年9月26日，赫尔曼·格拉斯曼在斯德丁去世，享年68岁。
他没有看到自己的数学被认可。
四、死后的复活：当数学终于追上了那个中学教师
但有些东西，即使被当废纸处理，也不会真的消失。
因为数学定理不是一本书。数学定理是一旦被发现就永远为真的东西。你可以扔掉600本书，但你扔不掉：dim(U+W) = dimU + dimW - dim(U∩W)这个命题的真值。
格拉斯曼去世11年后——1888年——意大利数学家朱塞佩·皮亚诺出版了一本小册子《几何演算》。书中给出了向量空间的第一个清晰的公理化定义。皮亚诺在序言中提到了格拉斯曼。
又过了30年——1918年——赫尔曼·外尔在关于相对论的著作中写下了这样一段话：
“在莱布尼茨的伟大思想之后，第一次有人尝试创立几何演算……在各种方法中，格拉斯曼的《扩张论》在很大程度上吸收了其他方法，并在计算能力和公式简洁性方面都更胜一筹。”
——外尔称格拉斯曼的工作为 “划时代的”。
再后来，埃利·嘉当用格拉斯曼的外代数建立了微分形式的理论——这成了现代微分几何和理论物理的基石。超对称理论、费米子场论、弦论——全都要用到格拉斯曼代数。曾经被当废纸扔掉的东西，一百年后成了描述宇宙最基本粒子的语言。
但是。
格拉斯曼的真正复活，不在物理学。
在一个他绝对想不到的地方。
五、2013：当”向量空间”遇到了语言
让我们回到文章开头的那一幕。2013年，Google。
Tomáš Mikolov的Word2Vec让整个NLP学界震惊的不只是那一道算术题。
他证明了一个更深层的东西：语言——那种几千年被认为只有人类才能掌握的、最复杂、最微妙、最有文化深度的东西——可以被精确地映射到一个向量空间里。
每一个词是一个点。相似的词在空间中相邻。“王权”是一个方向。“性别”是另一个方向。“时态”是第三个方向。
（ps：这件事有多反直觉？“词的意义”这种东西，两千年来被认为不是几何学能处理的。柏拉图在《克拉底鲁篇》里讨论词和物的关系；中世纪的经院哲学家争论”共相”是否存在；索绪尔说”能指”和”所指”之间的关系是任意的。没有人——没有任何人——想到词的意义可以被表示为高维空间中的坐标，而且不仅能表示，还能在上面做加减法。King - Man + Woman。这不像数学，这像魔法。）
但这个魔法有一个前提——
你得先有”向量空间”这个概念。
你得先相信：存在一种抽象的数学结构，它不受三维直觉的限制，不受空间和时间的约束。它的”点”可以是任何东西——线段的长度、物理力的分量、经济数据的指标、语言的语义。
你得先相信：空间可以是n维的。n=4096。或者更大。
你得先有一个德国中学教师，在1844年，在没有人理解他的时候，写完那本书。
当然，Mikolov不是凭空跳出来的。
在Word2Vec之前，有一条更早的、更安静的线索。
1954年，语言学家泽利格·哈里斯提出了一条假说，后来被约翰·鲁珀特·弗斯浓缩成一句名言：
“观其伴，知其义。“（You shall know a word by the company it keeps.）
这就是分布语义假说（Distributional Hypothesis）。一个词的语义——可以完全由它周围的词来确定。
这个假说很美。但很长一段时间，它只是一个语言学理论。你需要一种方法来把”周围的词”变成可计算的量。
2003年，蒙特利尔大学的约书亚·本吉奥和他的同事们发表了一个模型。它的名字很朴实：《A Neural Probabilistic Language Model》。
这个模型做了一件简单的事：把每个词映射为一个固定维度的实数向量。 然后让神经网络去预测：给定前面几个词，下一个词是什么？
关键不在”预测”。关键在于——在预测的过程中，这些向量被迫学习了词的语义。 因为两个语义相似的词，在相同的上下文中可以互相替换。它们的向量就会被推到彼此附近。
这就是”词嵌入”（word embeddings）。
（ps：本吉奥2003年的这篇论文，被引用了超过8000次。它是现代NLP的元老级论文。而本吉奥本人，后来和Hinton和LeCun一起——拿了图灵奖。但2003年那篇论文里的词向量，维度只有几十维，而且是语言模型的”副产品”，不是主角。它播下了种子。但要等到十年后，Mikolov才让它开花。）
Mikolov真正做的，不是发明了词嵌入——本吉奥已经发明了。
Mikolov做的是证明了词嵌入比你想象的强大得多。
他的CBOW和Skip-gram架构，训练速度极快——一台机器一天能处理1000亿个词。维度可以轻松扩展到300维甚至更高。高维空间带来了”涌现性质”：语义的线性结构、类比推理、向量偏移。
而这一切的前提，是对”高维向量空间”没有任何恐惧。
格拉斯曼在1844年就为这个想法付了学费。
六、2026：当你的每一次对话都在几何中穿行
今天。此时此刻。
当你和ChatGPT或Claude对话时——
你输入的每一个词，在被模型”理解”之前，先被映射为一个稠密向量。GPT-3的embedding维度是12288。Claude和GPT-4的维度甚至更高。你的整段对话，被展开了几万个浮点数。
在这些高维空间中：
- 语义相似度 = 余弦距离
- 类比推理 = 向量运算
- 注意力机制 = 在不同子空间中进行投影
2023年的一项研究发现，transformer模型的内部表征具有惊人的几何结构：token embedding位于一个远低于环境维度的低维流形上。 不同的语言模型，它们的embedding有相似的”全局”和”局部”几何——好像所有足够大的语言模型，都会自发地发现同一个语义空间。
（ps：这不是巧合。格拉斯曼1844年证明的关键定理之一——维数在基变换下不变——意味着：不管你怎么”训练”一个语言模型，不管用什么架构、什么语料、什么语言——只要你的模型足够好，它学到的语义空间的”本质维数”应该是相近的。因为那个维数不是模型决定的，是语言本身的数学结构决定的。）
2024年和2025年的多项研究进一步证实，transformer的token表征在中间层表现出一个”内在维度的驼峰”——先上升，再下降。语义信息的压缩和解压缩、流形的膨胀和收缩——所有这些都是在一个数学框架下运行的。
而这个框架，就是格拉斯曼在1844年建造的。
1844年。人类还没有电灯。达尔文还在秘密地写他的进化论。中国是道光二十四年。普鲁士的斯德丁是一万多公里外一个无人知晓的港市。
一个中学教师。一本没人读的书。600本被当废纸。
180年后。地球上所有的AI系统，在最底层的运作中，都在使用他发明的那种数学。
七、世界上有两种不朽
人的不朽，可以靠功名：被世人认可、被史书记载、名字被铸成奖章。
但还有一种不朽，更难，也更沉默：
你发现了一个真理。当时没有人认可。书被扔进废纸堆。你活着的时候没有得到任何掌声。但是你发现的真理——它是真的。它不是靠人的认可而存在的。两百年后，当一个崭新的文明在全新的介质上构建智能，它别无选择——只能使用你发现的那种数学。
格拉斯曼是后一种不朽。
当GPT在4096维的向量空间里把”国王”减掉”男人”再加上”女人”然后指向”王后”的时候——它不是在照搬格拉斯曼的公式。它完全不知道格拉斯曼是谁。
但它用的”向量空间”这个概念——这个概念之所以存在，是因为1844年，一个德国中学教师拒绝了把你的想象力限制在三维。
“我很快意识到，我进入了一个新科学的领域——几何本身只是它的一个特殊应用。” ——赫尔曼·格拉斯曼，1844年《线性扩张论》序言
下一篇预告：《AI的数学血脉｜牛顿与莱布尼茨：微积分发明权的世纪之争》——第二辑开篇。两个天才各自独立发明了同一种数学，然后用了整个余生互相仇恨。