在之前的博客中,我们通过矩阵求导的方式推导了 normal equation.这篇博客中,我们将通过线性代数的角度再次回顾 normal equation. Normal Equation 解决的问题 Normal equation 要解决的问题如下:给出由 $n$ 个未知数组成的 $m$ 个方程,这个方程组用 $Ax=b$ 表示,我们要求出这个方程组的“最佳解”. 根据线性代数的知识我们知道,这个方程组的解可能有零个.一个或无穷多个.如果这个方程组恰有一个解,那么这个解就是“最佳解”:如果这个