机器学习中经常会碰到“损失函数”,“成本函数”, 和“目标函数”。许多初学者会被这些概念搞晕。事实上，“损失函数”和“成本函数”在很多地方都会混用（甚至有人叫它们“错误函数”）。但是也有细微的差别。
差别1：
“损失函数”比“成本函数”更加宽泛。“损失函数”可以是一个点上的损失，也可以是整个数据集上的损失。而，“成本函数”一般是数据集上总的成本和损失。
差别2：
“成本函数”比“损失函数”更加复杂。“成本函数”可以比损失函数有更复杂的组合和计算，“成本函数”可以加上正则化项。如下：
机器学习中经常会碰到“损失函数”,“成本函数”, 和“目标函数”。许多初学者会被这些概念搞晕。事实上，“损失函数”和“成本函数”在很多地方都会混用（甚至有人叫它们“错误函数”）。但是也有细微的差别。
差别1：
“损失函数”比“成本函数”更加宽泛。“损失函数”可以是一个点上的损失，也可以是整个数据集上的损失。而，“成本函数”一般是数据集上总的成本和损失。
差别2：
“成本函数”比“损失函数”更加复杂。“成本函数”可以比损失函数有更复杂的组合和计算，“成本函数”可以加上正则化项。如下：
