几何与数学基础

已发布的笔记

• 内积、协方差与相关系数从内积出发，中心化得到协方差，再归一化得到相关系数；相关系数正是中心化后两个向量夹角的余弦。本章给出完整推导，并说明这些量在状态估计和点云处理中的用法。
• 雅可比与梯度：导数是局部线性映射把一元导数推广到多元，导数就从一个数变成一个矩阵，即雅可比；标量场的雅可比转置后是梯度。本章推导梯度为何指向最快上升方向、为何垂直于等值面，并给出相机投影和位姿优化中的雅可比。
• 互相关与卷积：滑动的内积在内积上加入平移就得到互相关，把核翻转就得到卷积。本章推导两者的关系、线性时不变系统与卷积的等价性，并说明归一化互相关就是窗口上的相关系数，以及它在模板匹配和立体匹配中的用法。
• 散度与旋度：从雅可比中提取什么向量场在一点附近的行为由雅可比完整描述，散度和旋度只是从中提取的两部分：散度是迹，读出局部体积变化；旋度来自反对称部分，等于局部角速度的两倍。本章推导这两点、它们的积分形式与零恒等式，并用光流散度估计碰撞时间。
• 从卷积到注意力卷积层用共享的学习模板与局部区域做内积，注意力则用由输入生成的 query 与 key 两两做内积，再按 softmax 权重聚合。本章推导两者的形式、√d 缩放的来源和置换等变性，并讨论"关系度量"能在多大程度上解释两类网络的成功。
• 海森、拉普拉斯与泊松重建对梯度再求一次雅可比得到海森，取迹得到拉普拉斯。本章推导二阶泰勒展开、拉普拉斯与邻域平均的关系和二阶恒等式，再从一个最小二乘能量出发推导泊松表面重建方程，并说明 Gauss–Newton 对海森的近似从何而来。
• 互信息：超越线性的依赖相关系数为零并不意味着独立。互信息用概率分布度量任意形式的统计依赖。本章推导它的三种等价定义和非负性，证明高斯情形下它完全由相关系数决定，把混淆矩阵读作联合分布，并说明它在相机–LiDAR 标定中的用法。

计划中的问题

1. 矩阵是“变换”而不是“表格”为什么矩阵乘法要这样定义？
2. 梯度、散度、旋度一个场在局部到底告诉了我们什么？
3. 四元数从哪里来Hamilton 为什么需要第四个数？
4. 换个坐标系看同一件事基变换、相似变换与不变量。