自从2023年9月到数学中心以来，我已经学了不少数学知识。起初觉得特别不适应，仿佛每一条公式、每一个定理都要将我杀死，但在理解数学的用处、体会其知识框架之后，我就开始逐渐享受这一切了。

Greg Yang是丘成桐先生的高徒，目前是xAI的合伙人。他试图用数学的手段理解AI的一切，Tensor Program系列已经发表到第六部，之后如果有空我会尽量写点阅读笔记。神经网络已经表现出了无比强大的能力，但其内部很大程度上仍是个黑盒，如今快要到达超级人工智能的临界点，很多安全和可解释性的工作也只能靠empirical study的方式来解决，这是值得担忧的。这时数学的意义，我想在于，就算它不能精确地描述数据分布的客观规律（有人认为不应该用统计学理解AI），也仍然是一种提供insight的极好方式，是Learning Theory研究的最基本工具。

接下来我开一个大坑，主要内容包括应用数学和概率统计两大领域，也就是我这一年半学的数学内容。但我不会简单把每门课的笔记排在这里，而是按自己的方式重新整理，争取让它们相互连接，活起来，毕竟它们在搞研究的时候会有直接应用，最好是理解透彻。作为计科科班搞system的出身，我习惯于理解清楚每一个组件具体能有什么用，并以最直观的方式来解释一切；但数学人的语言通常是严谨的，他们罗列定理进行陈述，并注重逻辑框架内的一致性。我希望能够在这两者之间找到一个平衡点，让数学的美感和实用性都能得到体现。《马同学图解数学》可能是最好的例子，但我没有那么多时间画图，可能连公式都不喜欢打，只能尽量以语言的方式讲清楚咯。

线性代数

首先我假设你已经学过线性代数，而且中国传统的、第一章讲行列式的那种垃圾线性代数。刚上手机器学习的话，你可能知道一些基础的概念，但都是模模糊糊的，对线性代数的几何直观理解还不够，也不知道特征分解、正定这些概念都有什么应用。这样的话，或许下面的学习笔记可以帮到你。

【线性代数 1】基本术语和重要定理

【线性代数 2】泛函分析与线性空间

【线性代数 3】特征分解与奇异分解

【线性代数 4】二次型与正定矩阵

插值和逼近

【插值和逼近 1】插值方法

【插值和逼近 2】逼近方法

【插值和逼近 3】数值微分和积分

数值线性代数

【数值线性代数 1】线性方程组直解法

【数值线性代数 2】迭代方法框架、评价标准

【数值线性代数 3】非线性方程组迭代解法

【数值线性代数 4】线性方程组迭代解法

【数值线性代数 5】特征值迭代解法

数值微分方程

【数值微分方程 1】基本概念和整体目标

【数值微分方程 2】数值ODE

【数值微分方程 3】数值PDE的稳定性分析

【数值微分方程 4】差分格式常用构造技术

【数值微分方程 5】差分格式常用求解技术

【数值微分方程 6】双曲守恒方程格式

运筹学

公理化概率论

【公理化概率论 1】测度理论基础

【公理化概率论 2】重新理解分布、期望、方差

【公理化概率论 3】收敛模式

【公理化概率论 4】大数定律

【公理化概率论 5】中心极限定理

随机过程

【随机过程 1】条件期望和鞅

【随机过程 2】有限Markov链

【随机过程 3】可数Markov链

【随机过程 4】Poisson过程

【随机过程 5】连续Markov链

随机分析

【随机分析 1】Ito微积分和随机微分方程

【随机分析 2】Kolmogorov正反向方程

统计推断

【统计推断 1】基本概念

【统计推断 2】参数估计

【统计推断 3】假设检验

【统计推断 4】Bayes与统计决策论

统计学习

【统计学习 1】高维统计基本概念

【统计学习 2】线性模型参数估计

【统计学习 3】线性模型假设检验