您的位置首页百科知识

采用岭回归一定需要对数据做标准化处理吗?

采用岭回归一定需要对数据做标准化处理吗?

的有关信息介绍如下:

采用岭回归一定需要对数据做标准化处理吗?

你当然可以不把原始数据做标准化,但是这样岭回归本身就失去了其意义。

岭回归可以理解成在最小化残差平方和基础上,通过加上回归参数的L2模的惩罚项,使得每个变量的系数绝对值不至于太大 ,即下图的公式:

可以看到惩罚力度完全由 这个参数控制,且对于每个 都是一样的。如果不对数据进行标准化的,由于变量之间的scale不一致,不同的 之间是无法比较的, 对参数的惩罚力度也不一样。

所以不做标准化,和做了标准化求解岭估计之后再变回原始参数,这两种方法的结果在大部分情况下都是不一样的。