均方误差

在线性回归问题中，常常使用MSE（Mean Squared Error）即均方误差作为loss函数，比如：

$$loss = \frac{1}{2m}\sum_{i=1}^m(y_i-\hat{y_i})^2$$

这里的m表示m个样本的，loss为m个样本的loss均值。
MSE在线性回归问题中比较好用，那么在逻辑分类问题中还是如此么？

交叉熵

-\sum_{i=1}^{n}y_ilog(\hat{y_i}) \tag{2.1}

$$loss= -\sum_{i=1}^{n}y_ilog(\hat{y_i})$$

上式为一张样本的loss计算方法,n代表着n种类别。