1.1 线性最小而二乘

针对A是任意矩阵的话使用SVD分解求解，其中U是AA转置的特征值，V是AA转置A的特征值，照S中最小奇异值对应的V的右奇异向量几位所求。

1.2 SVD分解算法流程

奇异值分解（SVD, Singular Value Decomposition）是一种广泛用于矩阵分解的算法，它将一个矩阵分解为三个矩阵的乘积。这在许多领域中有广泛应用，包括信号处理、图像压缩、数据降维等。SVD的核心思想是将原始矩阵表示为一组正交基向量的线性组合。以下是SVD分解的算法流程：

问题描述

对于任意一个矩阵 $A\in {\mathbb{R}}^{m\times n}$，SVD将其分解为：$A=U\Sigma V^T$
其中：

• $U\in {\mathbb{R}}^{m\times m}$是一个正交矩阵，包含了 A 的左奇异向量。
• $\Sigma \in {\mathbb{R}}^{m\times n}$是一个对角矩阵，对角元素是 A 的奇异值（奇异值是非负实数，按从大到小排列）。
• $V^T\in {\mathbb{R}}^{n\times n}$是 A $$ 的右奇异向量的转置矩阵。

算法流程

1. 计算 $A^{T}A$ 和 $A{A}^T$：

   • $A^{T}A\in {\mathbb{R}}^{n\times n}$ 是一个对称矩阵，它的特征值为非负实数，特征向量对应的是矩阵 ( V ) 的列向量。
   • $A{A}^T\in {\mathbb{R}}^{m\times m}$ 同样是对称矩阵，它的特征值也为非负实数，特征向量对应的是矩阵 ( U ) 的列向量。

2. 计算 ( A^T A ) 的特征值和特征向量：

   • 通过标准的特征值分解方法，对 $A^{T}A$ 进行分解：
     $A^{T}A=V\Lambda V^T$
     其中 $\Lambda$ 是 $A^{T}A$ 的特征值矩阵， $V$ 是其特征向量矩阵。注意，这些特征值是 $A$ 的奇异值的平方，即 ${\Sigma }^2$。

3. 计算 $A{A}^T$ 的特征值和特征向量：

   • 类似地，对 $A{A}^T$ 进行特征值分解：
     $A{A}^T=U\Lambda U^T$
     其中 ( U ) 是 $A{A}^T$ 的特征向量矩阵。

4. 构造奇异值矩阵 $\Sigma$：

   • 对 $A^{T}A$的非零特征值取平方根，构造奇异值矩阵 $\Sigma$ 。 $\Sigma$ 是一个 $m\times n$ 的对角矩阵，其中对角元素是奇异值，按降序排列。

5. 验证正交性：

   • 确保U 和 V 是正交矩阵，即 $U^{T}U=I_m$ 和 $V^{T}V=I_n$。

6. 计算最终分解：

   • 将矩阵 A 分解为 $A=U\Sigma V^T$，其中 U 和 V 是分别来自 $A{A}^T$和 $A^{T}A$ 的特征向量矩阵，$\Sigma$ 是奇异值矩阵。

算法复杂度

SVD 的计算复杂度为 $O(m{n}^2)$，这使得它在处理大规模矩阵时比较耗时。然而，SVD 在数值稳定性和精度上具有很好的表现，尤其适用于一些高维数据分析和降维场景。

总结

奇异值分解的算法过程主要分为：

1. 计算$A^{T}A$ 和 $A{A}^T$的特征值和特征向量。
2. 构造奇异值矩阵 ( \Sigma )。
3. 将矩阵 ( A ) 分解为 $U\Sigma V^T$。

SVD算法的应用非常广泛，例如PCA（主成分分析）、图像压缩等场景中，都是基于SVD的思想。

1.3 非线性最小二乘

1.4 EKF融合 KF/ EKF推导过程