發(fā)布時間：2020-05-25 02:06

【摘要】：變量選擇可以幫助我們從大量的數(shù)據(jù)中提取出有價值的信息,提高模型的預測精度.如何高效地從眾多的協(xié)變量中選出對因變量有重要作用的變量是統(tǒng)計推斷中的重要問題.1996年,統(tǒng)計學家Tibshirani提出了重要的方法——Lasso,該方法可以使模型產(chǎn)生稀疏解,但不具備Oracle性質.因此,Zou在Lasso的基礎上進一步提出了 adaptive Lasso,此方法對不同的系數(shù)進行不同程度的壓縮,更容易挑選出重要的變量,并且此方法具備Oracle性質.很多高維數(shù)據(jù)中變量之間存在相關性,此時Lasso方法就不能充分反映變量之間的關系,于是彈性網(wǎng)(Elastic-net)方法應運而生,此方法能夠使高度相關的變量同時進入模型或從模型中剔除,但此方法不具有Oracle性質.因此,在Elastie-net和adaptive Lasso的基礎上提出了具有Oracle性質的自適應彈性網(wǎng)(adaptive Elastic-net)方法.以上這幾種方法都是基于最小二乘的懲罰變量選擇方法.當數(shù)據(jù)中出現(xiàn)異常值或重尾分布時,基于傳統(tǒng)的最小二乘的懲罰變量選擇方法將不再適用,需要尋求更穩(wěn)健的估計方法.而M估計在穩(wěn)健統(tǒng)計推斷領域中已經(jīng)被廣泛研究.此外,隨著科學技術的快速發(fā)展,實際生活中產(chǎn)生了大量的數(shù)據(jù),這些數(shù)據(jù)呈現(xiàn)高維度,強相關,多冗余的現(xiàn)象.因此,在穩(wěn)健估計的基礎上還需要尋求能夠有效處理數(shù)據(jù)共線性問題的變量選擇方法.綜合以上問題,本文提出了一種帶懲罰函數(shù)的M估計,即基于標準誤調整的自適應彈性網(wǎng)的懲罰M估計.本文內(nèi)容主要研究基于標準誤調整的自適應彈性網(wǎng)的懲罰M估計方法,該方法以M估計和它的標準誤作為權重代替普通的最小二乘估計,并給出此方法的相合性和漸近正態(tài)性及其理論證明.對于高維情況的變量選擇,在保持估計的準確性和處理多重共線性問題的同時,使用多個調整參數(shù).這可以通過迭代來實現(xiàn),其中每一步迭代都使用單獨的調整參數(shù),這就是MSA-Enet(the multi-step adaptive Elastic-net)的思想.本文用這種方法對超高維數(shù)據(jù)進行降維,使數(shù)據(jù)維數(shù)pn降至小于樣本量n,然后再運用本文提出的方法進行變量的選擇和參數(shù)的估計.最后,通過數(shù)值模擬分析和實例分析對本文所提出的方法進行驗證,模擬和實例分析結果顯示本文提出的方法比其它常用的變量選擇方法有一定的優(yōu)勢.
【圖文】：

例（ＬＳＴＡＴ）．逡逑本文中采用基于標準誤調整的自適應彈性網(wǎng)的懲罰Ｍ估計方法對標準化后的數(shù)據(jù)進逡逑行擬合，分析圖４．５．１可知響應變量（ＬＭＶ）中存在異常值．對于每種方法，，隨機抽�。福埃ュ义希ǎ矗埃皞�樣本）作為訓練集，另２０％邋（１０６個樣本）作為獨立測試集．ＳＭＳ代表選擇的模型大逡逑小，ＭＡＥ代表平均預測絕對誤差，其計算公式為＾邋詠－沾丨，重復１00次求其均值．這逡逑里選用邋Ｌａｓｓｏ邋和邋Ｅｌａｓｔｉｃ－ｎｅｔ邋（Ｅｎｅｔ）與邋ＬＳ－ＡＥｎｅｔ，ＬＡＤ－ＡＥｎｅｔ，邋Ｈｕｂｅｒ－ＡＥｎｅｔ邋進行比較．通逡逑過表４．５．１可知這幾種方法的預測誤差相差不大，但是ＬＡＤ－ＡＥｎｅｔ和Ｈｕｂｅｒ－ＡＥｎｅｔ得到逡逑的模型更稀疏且Ｈｕｂｅｒ－ＡＥｎｅｔ有比較小的誤差．而Ｅｌａｓｔｉｃ－ｎｅｔ比Ｌａｓｓｏ選擇出的變量多．逡逑８邋］邐１逡逑ｓ邐N逡逑Ｓ邋－邐：逡逑Ｓ邋－逡逑0邋＿邐：逡逑圖４．５N響應變量ＬＭＶ的箱線圖逡逑邐表４．５．１：波士頓住房數(shù)據(jù)分析結果邐逡逑方法邐ＬＳ－ＡＥｎｅｔ邐ＬＡＤ－ＡＥｎｅｔ邐Ｈｕｂｅｒ－ＡＥｎｅｔ邐Ｅｎｅｔ邐Ｌａｓｓｏ逡

0邋＿邐：逡逑圖４．５N響應變量ＬＭＶ的箱線圖逡逑邐表４．５．１：波士頓住房數(shù)據(jù)分析結果邐逡逑方法邐ＬＳ－ＡＥｎｅｔ邐ＬＡＤ－ＡＥｎｅｔ邐Ｈｕｂｅｒ－ＡＥｎｅｔ邐Ｅｎｅｔ邐Ｌａｓｓｏ逡逑ＳＭＳ邐１０．９７邐０３邐１０．（３９邐Ｋ３邐１２．５１逡逑ＭＡＥ邐０．３６９
【學位授予單位】：曲阜師范大學
【學位級別】：碩士
【學位授予年份】：2019
【分類號】：C81

【相似文獻】

相關期刊論文 前10條

1 閆懋博;田茂再;;基于變量選擇事件的新彈性網(wǎng)方法[J];數(shù)學的實踐與認識;2019年12期

2 李靜;王金甲;李慧;;融合腦電特征的彈性網(wǎng)特征選擇和分類[J];生物醫(yī)學工程學雜志;2016年03期

3 ;彈性網(wǎng)結構的流體動力學性狀[J];漁業(yè)現(xiàn)代化;2014年06期

4 ;NIKE夏至FRESH新品登場[J];體育世界(酷玩);2007年07期

5 吳筱菁;;彈性網(wǎng)回歸在功能磁共振成像數(shù)據(jù)分析中的應用綜述[J];臨床醫(yī)藥文獻電子雜志;2017年98期

6 芮小平;張立強;;基于彈性網(wǎng)的多維信息可視化研究[J];系統(tǒng)仿真學報;2010年02期

7 王沛立;李恩平;;我國居民醫(yī)療負擔及其影響因素分析——基于彈性網(wǎng)方法的實證研究[J];數(shù)學的實踐與認識;2019年14期

8 楊宏暉;高潔宇;于傳林;;基于彈性網(wǎng)回歸的水下目標無監(jiān)督特征選擇算法[J];數(shù)字海洋與水下攻防;2018年01期

9 朱星紅,陳爾瑜,余匯洋,李振強,糜建紅;狗股動脈彈性纖維的構筑[J];解剖學報;1998年02期

10 張淑清;楊振寧;張立國;苑世鈺;王志義;;基于彈性網(wǎng)降維及花授粉算法優(yōu)化BP神經(jīng)網(wǎng)絡的短期電力負荷預測[J];儀器儀表學報;2019年07期

相關會議論文 前2條

1 閆麗娜;王彤;;懲罰COX模型和彈性網(wǎng)技術在高維數(shù)據(jù)生存分析中的應用[A];2011年中國衛(wèi)生統(tǒng)計學年會會議論文集[C];2011年

2 趙海亮;馮彥成;王立芹;;自適應彈性網(wǎng)方法在Cox模型中的應用[A];2017年中國衛(wèi)生統(tǒng)計學學術年會論文集[C];2017年

相關博士學位論文 前3條

1 王靜;電阻抗成像的幾種正則化方法研究[D];哈爾濱工業(yè)大學;2015年

2 付光輝;高維的強相關數(shù)據(jù)的模型選擇[D];中南大學;2011年

3 周正華;基于神經(jīng)網(wǎng)絡和稀疏表示的幾何造型理論與方法研究[D];上海大學;2015年

相關碩士學位論文 前10條

1 施怡;基于彈性網(wǎng)的面板數(shù)據(jù)的分位數(shù)回歸方方法及實證研究[D];杭州師范大學;2019年

2 胡文婷;基于標準誤調整的自適應彈性網(wǎng)的懲罰M估計[D];曲阜師范大學;2019年

3 石峗萍;基于互信息測度和彈性網(wǎng)罰的Logistic模型研究[D];蘭州大學;2019年

4 王爽;Lasso及改進的Lasso方法在幾類模型變量選擇中的應用[D];廣西師范學院;2018年

5 王黎明;基于彈性網(wǎng)邏輯回歸算法的內(nèi)容點擊率預估系統(tǒng)的設計與實現(xiàn)[D];北京交通大學;2018年

6 王丹;基于稀疏和低秩約束的人臉識別算法研究[D];陜西師范大學;2018年

7 葉愿;核彈性網(wǎng)正則化算法的推廣性能[D];湖北大學;2018年

8 徐娜娜;帶彈性網(wǎng)懲罰的光滑化分位數(shù)回歸[D];北京交通大學;2017年

9 趙海亮;自適應彈性網(wǎng)方法在Cox模型中的應用[D];河北醫(yī)科大學;2017年

10 王琳琳;基于結構磁共振成像的性別分類研究[D];北京交通大學;2017年

本文編號：2679377