矩阵分解中的损失函数

简单记录一下矩阵分解的损失函数

矩阵分解的一般形式可以表示为

V = WH

其中V是m*n矩阵， W是m*r矩阵，H是r*n矩阵

一般来说r会比较小，这样能达到矩阵分解的目的， 矩阵分解还有很多的实现方法

比如特征值分解、奇异值分解、非负分解等等

矩阵分解在求解的时候也是需要损失函数的

损失函数主要有以下两种：

欧式距离：

这个就比较简单的，跟最小二乘差不多

另一种还有KL散度，其实类似于相对熵

矩阵分解的过程也有类似于梯度下降的步骤，这里省略推导的过程