Лассо выполняет усадку так, чтобы в ограничителе были «углы», что в двух измерениях соответствует ромбу. Если сумма квадратов «попадает» в один из этих углов, то соответствующий оси коэффициент уменьшается до нуля. … Следовательно, лассо выполняет сокращение и (фактически) выбор подмножества.
Почему аркан дает нулевые коэффициенты?
Лассо выполняет усадку так, чтобы в ограничителе были «углы», что в двух измерениях соответствует ромбу. Если сумма квадратов «попадает» в один из этих углов, то коэффициент, соответствующий оси, уменьшается до нуля.
Почему аркан сжимается до нуля, а не Ридж?
Говорят, что, поскольку форма ограничения в LASSO представляет собой ромб, полученное решение методом наименьших квадратов может коснуться угла ромба, что приведет к уменьшению некоторой переменной. Однако при гребневой регрессии, поскольку это круг, он часто не касается оси
Почему коэффициенты гребневой регрессии уменьшаются?
Регрессия гребня уменьшает все коэффициенты регрессии до нуля; лассо имеет тенденцию давать набор нулевых коэффициентов регрессии и приводит к разреженному решению. Обратите внимание, что как для гребневой регрессии, так и для лассо коэффициенты регрессии могут меняться от положительных до отрицательных значений по мере того, как они уменьшаются до нуля.
Являются ли коэффициенты лассо предвзятыми?
… сокращение лассо приводит к тому, что оценки ненулевых коэффициентов смещаются в сторону нуля, и в целом они не согласуются [Добавленное примечание: это означает, что, поскольку объем выборки растет, оценки коэффициентов не сходятся].
