Lasso and Its Oracle Properties in Importance Assessment of Regressors
Date Issued
2016
Date
2016
Author(s)
Dai, Chi-Shian
Abstract
在高維度線性稀疏模型下，Lasso的軌跡解是相當複雜的。採用Lasso的同時，為了選擇微調參數$lambda$，研究Lasso的軌跡解是極為重要的。本文中，當微調參數$lambda$從無限大遞減時，我們給了一個充分條件使得Lasso的軌跡解的支集遞增直到此支集覆蓋住稀疏集(sparsity patten)。根據這個性質，我們可以用變異數分解法來決定微調參數$lambda$要選多少。 Lockhart(2014) 為了決定微調參數$lambda$而提出了 extit{共變異檢定統計} (covariance test statistic)。然而，他們並沒有強調:是否此序貫假設檢定能一路拒絕虛無假設，直到Lasso的解的支集覆蓋住稀疏集(sparsity patten)?為了回答這個問題，我們證明了Lasso的軌跡解有以下的特性，當微調參數$lambda$從無限大遞減時，變數會根據訊號強弱依序進入Lasso的支集。 而我們可以根據進入Lasso的支集的先後來判斷訊號的重要性。此外根據以上的性質，我們可以證明 extit{共變異檢定統計}不會乏適 (underfitting).
Subjects
High dimensional linear regression
Model selection
L1-constraints
Compressed sensing
Lasso path
Least angle regression
important assessment.
Type
thesis
File(s)![Thumbnail Image]()
Loading...
Name
ntu-105-R03246006-1.pdf
Size
23.54 KB
Format
Adobe PDF
Checksum
(MD5):0ffe8c2f6819a6de0e917017d3a1d4fc