推荐先了解一下Decision theory（Decision theory），你会明白，取不同的损失函数就会得到不同的最优解（在机器学习中就会得到不同的分类器），适应不同的应用场景。所以，要问这个问题，首先请定义“最优”。如果明确了“最优”的定义，答案自然也就清楚了，就是一个最优化问题。在实际工作中，大部分的时间要花在根据数据的分布和噪音等因素定义“最优”上。