הלאסו מבצע כיווץ כך שיש "פינות'' באילוץ, שבדו מימד מתאים ליהלום. אם סכום הריבועים "פוגע" באחת הפינות האלה, אז המקדם המתאים לציר מכווץ לאפס. … לפיכך, הלאסו מבצע כיווץ ובחירת תת-קבוצות (ביעילות).
למה הלאסו נותן מקדמי אפס?
הלאסו מבצע כיווץ כך שיש "פינות'' באילוץ, שבדו מימד מתאים ליהלום. אם סכום הריבועים "פוגע" באחת הפינות האלה, אז המקדם המתאים לציר מכווץ לאפס.
למה לאסו מתכווץ לאפס אבל לא רידג'?
אומרים שבגלל שצורת האילוץ ב-LASSO היא יהלום, הפתרון המתקבל בריבועים הקטנים עלול לגעת בפינת היהלום כך שהוא יוביל להתכווצות של משתנה כלשהו. עם זאת, ברגרסיה של הרכס, מכיוון ש זהו עיגול, לרוב הוא לא ייגע בציר
מדוע רגרסיית הרכס מכווצת מקדמים?
רגרסיית רכס מכווץ את כל מקדמי הרגרסיה לכיוון אפס; הלאסו נוטה לתת קבוצה של אפס מקדמי רגרסיה ומוביל לפתרון דליל. שים לב שגם עבור רגרסיית הרכס וגם עבור הלאסו מקדמי הרגרסיה יכולים לעבור מערכים חיוביים לשליליים כשהם מתכווצים לאפס.
האם מקדמי הלאסו מוטים?
…הצטמקות הלאסו גורמת להטיית האומדנים של המקדמים שאינם אפס לכיוון אפס ובאופן כללי הם אינם עקביים [הערה נוספת: פירוש הדבר הוא שכאשר גודל המדגם גדל, הערכות המקדם לא מתכנסות].
