AI的数学血脉｜他一只脚踏上马车的那一刻，人类对高维空间的恐惧开始了
1908年。巴黎心理学会。54岁的亨利·庞加莱站在讲台上。他不是来讲数学的。他是来讲——他是怎么做数学的。
“我想讲一讲我是怎么写关于Fuchs函数的第一篇论文的。请读者谅解——我会用一些技术术语。但不理解它们没关系。对心理学家来说，重要的不是定理——而是环境。”
他讲的是一系列灵光闪念——在完全意想不到的时刻——解决了他几个月都攻不破的问题。其中最有名的一个是这样的：
1880年夏天。庞加莱在卡昂。他参加了一个地质考察团。旅行的琐事让他完全忘了数学。到了库唐斯，他们上了一辆公共马车。
“我一只脚踏上马车踏板的那一刻——没有任何先前的想法铺垫——我突然意识到：我用来定义Fuchs函数的变换，与非欧几何中的变换完全一致。我没有验证。我也没有时间——上了马车我就接着聊刚才的话题。但我感到了完全的确定性。”
（ps：这个瞬间被数学史反复引用。不是因为它是一个好故事——虽然它是。而是因为庞加莱自己详细地记录了它、分析了它，把它当作”无意识在数学发现中的作用”的典型案例。他的一生中至少有三次这样的灵光闪念——黑咖啡之夜、马车踏板瞬间、海边悬崖的早晨。每一次，一个被他有意识地”攻克”了数周却毫无进展的问题——在他完全放下之后——答案毫无预兆地涌现出来。庞加莱的理论：我们以为自己在”想”数学。但我们意识层下的无意识——“subliminal self”——一直在组合、碰撞、排列那些想法碎片。当某个组合足够”美”——足够有数学意义——它会突然穿透意识层。这就是”灵光闪念”。）
但马车踏板那一刻的意义远远超出了心理学。那个瞬间意味着一个更大的东西：
庞加莱用他的直觉穿透了维度。
他在公共马车踏板上意识到的东西——Fuchs函数、非欧几何、数论中的不定二次型——这些分布在完全不同的数学领域中的对象，它们在底层是同一个东西。而那个底层的统一结构——是空间。不是三维空间。是任何维度的空间。
庞加莱是最后一个通晓全部数学的人——在他之后，数学太大、太深、太复杂，没有人能够掌握全部。而他最深的遗产——是教会了人类一件事：
直觉是三维的。但数学和现实——是任意维度的。 在4096维空间里，你的直觉完全没用。你必须扔掉它。相信数学。
一、高维空间的恐怖：你熟悉的每一个东西都是错的
让我们先做一个实验。在进入庞加莱之前。
想象一个单位正方形。边长1。面积=1。在里面放一个内切圆。半径=0.5。面积≈0.785。
现在把维度升到3。单位立方体。体积=1。内切球半径=0.5。体积≈0.524。
维度升到4。超立方体体积=1。内切超球半径=0.5。体积≈0.308。
维度升到6。体积≈0.081。
维度升到10。体积≈0.0025。
维度升到无穷。体积→0。
（ps：这是什么意思？单位超球——半径为1的球——在6维空间中达到体积最大值，然后开始缩小。越高的维度，它的体积越小。到无穷维时，单位超球的体积为零。我们三维直觉说”球总是占据一定体积的”。这是错的。在高维空间中，球是空的。这是一个彻底的反直觉事实。）
再看另一个例子。
一个单位超立方体。体积永远是1。边长永远是1。但是在二维空间，内切圆的半径是0.5。三维空间，内切球的半径是0.5。四维空间——内切超球的半径还是0.5，但是顶点到中心的距离是1。 顶点刚好碰到球的表面！
五维——顶点距离中心1.118。顶点伸出了球外。
十维——顶点距离中心1.581。球被远远地包裹在立方体内部。立方体的”尖角”伸出了球的范围——高维立方体的体积几乎全部集中在它的”角”里。
（ps：这不是一种比喻。这是数学事实。一个高维立方体——99%以上的体积集中在极小的尖角区域。而你直觉中的”立方体的中心区域”——在三维空间中占据大部分体积的那个方方正正的空间——在高维中几乎不存在。这意味着——如果你随机在高维空间中采样——你采到的几乎总是”角的附近”，而不是”中心附近”。而你的三维大脑永远认为”中心才是主流”。）
再一个。
随机在高维空间中取两个点。算距离。再取两个点。算距离。重复很多次。
所有的距离——趋向于同一个值。
这现象叫”距离集中”（distance concentration）。高维空间中，每个点离其他任何点都”一样远”。最近邻和最远邻——几乎没有区别。
（ps：这对于所有基于”距离”的算法都是灾难性的。k-最近邻分类——失效。聚类——失效。异常检测——失效。因为”最近的距离”和”平均距离”之间的差距，随着维度升高，趋向于零。这不是数据的问题。这是维度本身的诅咒。贝尔曼在1957年给这个现象起了一个名字——“维度诅咒”（curse of dimensionality）。他的原话是：算法的复杂度随维度指数增长。如果你想在一个10维空间中以0.01的间距均匀采样——需要100^10个点。比一维空间多了10
二、庞加莱：用拓扑驯服高维空间
现在回到庞加莱。
1895年。他发表了一篇长达121页的论文：《位置分析》（Analysis Situs）。这是人类历史上第一次有人试图系统地研究——空间的”形状”——不是它的度量（距离、角度），而是它在连续变形下不变的那些性质。
他给这门新科学起了一个名字：拓扑学。
（ps：庞加莱自己解释为什么要做这件事：“对于我来说，我走过的所有不同道路——微分方程、自守函数、天体力学——最终都把我引到了Analysis Situs。“他是在尝试解决更具体的问题时，发现这些问题的底层——它们共享同一个几何/拓扑结构。Fuchs函数定义在非欧平面上。三体问题的周期解定义在相空间里。函数理论里的黎曼面是二维流形。庞加莱是第一个看到——所有这些东西在底层是”同一种问题”——的人。那个问题就是：一个空间的全局形状是什么？）
他引入了一整套全新的概念。
流形。 一个在局部看起来像欧几里得空间、但在全局可以有任意复杂结构的集合。
同调群。 一种用代数来”计数”空间中”洞”的数量和类型的方法。一维洞（像一个甜甜圈中间的洞）。二维洞（像一个空心球内部的空洞）。三维洞。任意维洞。
基本群。 一种用”闭合路径”来测量空间连通性的工具。
（ps：庞加莱为这些概念花了十年。到1904年，他提出了庞加莱猜想：每一个单连通、闭合的三维流形——都同胚于三维球面。这句话的翻译：如果一个三维空间的每一个闭合环都可以被缩成一点——那么这个空间”本质上”就是一个球面。这个猜想直到2003年才被佩雷尔曼证明。整整一百年。）
庞加莱在做的事。超越了三维。他在用代数工具来”感知”高维空间中那些我们不可能直接”想象”的性质。他把几何直觉替换成了代数计算。
这也是为什么——拓扑学后来成为了整个现代数学和物理的基础工具。不是因为数学家喜欢抽象。而是因为三维直觉在更高维度中是错的。你需要拓扑学来告诉你这个空间到底是什么样的。
三、维度诅咒，维度赐福
带着庞加莱的遗产——让我们看看AI在做什么。
当Word2Vec把词映射为300维向量的时候。当GPT-3的嵌入维度是12288的时候。当CLIP把图片和文字映射到同一个1024维向量空间的时候——
所有这些操作都在高维空间中运行。而高维空间——对人类的直觉而言——是彻底的异域。
在4096维空间中：
- 球的体积几乎为零
- 所有距离都差不多
- 体积集中在表面和”赤道”附近
- 随机投影可以几乎完美地保距（Johnson-Lindenstrauss引理）
- 高斯分布退化为”薄球壳”
但这不是坏事。这是”维度赐福”（blessing of dimensionality）。
（ps：Johnson-Lindenstrauss引理说：如果你用随机高斯矩阵把n个d维向量投影到大约O(log n)维空间——投影后的向量能几乎完全保持原始的距离关系。这意味着——高维信息中”真正有意义的”维度，远少于它表面上的维度。这也解释了为什么LoRA能用秩为2的矩阵微调1750亿参数的模型——因为参数更新的有效维度就是极低的。高维的”虚胖”不仅不是问题——它是可以被利用的。高维度让你有空间把信息”分散”开，让不同概念占据不相交的子空间。然后你只需要聚焦在真正有信息的那少数几个方向上。）
2023-2024年的研究发现：Transformer的token表征位于低维语义流形上。不同语言模型的嵌入空间具有相似的全局和局部几何结构。 语义类比 = 在高维流形上进行平行移动。
这些结论——“低维流形”、“同调结构”、“基本群”、“全局几何”——这些词汇，每一个都直接来自庞加莱。来自1895年那篇121页的《位置分析》。
庞加莱没有听说过神经网络。但他给了我们唯一能在高维空间中不迷失的道路：扔掉直觉。相信拓扑。用代数来”看”你不可能想象的空间。
1880年夏天。库唐斯。庞加莱一只脚踏上公共马车。那个瞬间——Fuchs函数、非欧几何、不定二次型——三个来自完全不同领域的数学结构在他的无意识中被串成了一条线。他不知道——他那个时候还不能知道——这个瞬间开启的思路上，人类将在一个多世纪后建造出可以在4096维空间中自由穿行的机器。那只踏上马车的脚。整个AI的未来——压在那一刻的踏板上。
下一篇预告：《AI的数学血脉｜在4096维空间里寻找意义》——系列收官篇。我们走了十四篇。两千五百年。从欧几里得到GPT。当我们把语言压进4096个数字，再从这个数字中重新发明语言——这是21世纪最伟大的数学魔术。