python模型優(yōu)化實(shí)例分析

本篇內(nèi)容主要講解“python模型優(yōu)化實(shí)例分析”,感興趣的朋友不妨來(lái)看看。本文介紹的方法操作簡(jiǎn)單快捷,實(shí)用性強(qiáng)。下面就讓小編來(lái)帶大家學(xué)習(xí)“python模型優(yōu)化實(shí)例分析”吧!

施甸ssl適用于網(wǎng)站、小程序/APP、API接口等需要進(jìn)行數(shù)據(jù)傳輸應(yīng)用場(chǎng)景,ssl證書(shū)未來(lái)市場(chǎng)廣闊!成為成都創(chuàng)新互聯(lián)公司的ssl證書(shū)銷售渠道,可以享受市場(chǎng)價(jià)格4-6折優(yōu)惠!如果有意向歡迎電話聯(lián)系或者加微信:028-86922220(備注:SSL證書(shū)合作)期待與您的合作!

超參數(shù)是不直接在估計(jì)器內(nèi)學(xué)習(xí)的參數(shù)。在 scikit-learn 包中,它們作為估計(jì)器類中構(gòu)造函數(shù)的參數(shù)進(jìn)行傳遞。典型的例子有:用于支持向量分類器的 C 、kernel 和 gamma ,用于Lasso的 alpha 等。

搜索超參數(shù)空間以便獲得最好 交叉驗(yàn)證 分?jǐn)?shù)的方法是可能的而且是值得提倡的。

搜索超參數(shù)空間以優(yōu)化超參數(shù)需要明確以下方面:

  • 估計(jì)器

  • 超參數(shù)空間

  • 交叉驗(yàn)證方案

  • 打分函數(shù)

  • 搜尋或采樣方法(網(wǎng)格搜索法或隨機(jī)搜索法)

優(yōu)化模型的常見(jiàn)方法包括 網(wǎng)格搜索法,隨機(jī)搜索法,模型特定交叉驗(yàn)證,信息準(zhǔn)則優(yōu)化。

一,網(wǎng)格搜索法 GridSearchCV

網(wǎng)格搜索法在指定的超參數(shù)空間中對(duì)每一種可能的情況進(jìn)行交叉驗(yàn)證評(píng)分并選出最好的超參數(shù)組合。

使用網(wǎng)格搜索法或隨機(jī)搜索法可以對(duì)Pipeline進(jìn)行參數(shù)優(yōu)化,也可以指定多個(gè)評(píng)估指標(biāo)。

python模型優(yōu)化實(shí)例分析

python模型優(yōu)化實(shí)例分析

二,隨機(jī)搜索法 

RandomizedSearchCV

隨機(jī)搜索法和網(wǎng)格搜索法作用類似,但是只在超參數(shù)空間中進(jìn)行指定次數(shù)的不同采樣。采樣次數(shù)通過(guò)n_iter參數(shù)指定,通過(guò)調(diào)整其大小可以在效率和性能方面取得平衡。其采樣方法調(diào)用ParameterSampler函數(shù),采樣空間必須用字典進(jìn)行指定。

網(wǎng)格搜索法只能在有限的超參數(shù)空間進(jìn)行暴力搜索, 但隨機(jī)搜索法可以在無(wú)限的超參數(shù)空間進(jìn)行隨機(jī)搜索。

python模型優(yōu)化實(shí)例分析

python模型優(yōu)化實(shí)例分析

python模型優(yōu)化實(shí)例分析

三, 模型特定交叉驗(yàn)證

一些特定的模型,sklearn構(gòu)建了一些內(nèi)部含有交叉驗(yàn)證優(yōu)化機(jī)制的估計(jì)器。

它們主要是在linear_model模塊。

例如:

linear_model.ElasticNetCV

linear_model.LogisticRegressionCV

linear_model.RidgeCV

等等

python模型優(yōu)化實(shí)例分析

python模型優(yōu)化實(shí)例分析

四, 信息準(zhǔn)則優(yōu)化

模型選擇主要由兩個(gè)思路。

解釋性框架:好的模型應(yīng)該是最能解釋現(xiàn)有數(shù)據(jù)的模型??梢杂盟迫缓瘮?shù)來(lái)度量模型對(duì)數(shù)據(jù)集描述能力。

預(yù)測(cè)性框架:好的模型應(yīng)該是最能預(yù)測(cè)結(jié)果的模型。通常模型參數(shù)越多越復(fù)雜,越容易出現(xiàn)過(guò)擬合。

所以,模型選擇問(wèn)題在模型復(fù)雜度與模型對(duì)數(shù)據(jù)集描述能力(即似然函數(shù))之間尋求最佳平衡。

AIC(赤池信息準(zhǔn)則)和BIC(貝葉斯信息準(zhǔn)則)對(duì)模型的選擇提供了一種判據(jù)。

AIC信息準(zhǔn)則選擇AIC最大的模型。

BIC信息準(zhǔn)則選擇BIC最大的模型。當(dāng)樣本數(shù)量較大時(shí),BIC對(duì)參數(shù)個(gè)數(shù)的懲罰大于AIC。

python模型優(yōu)化實(shí)例分析

其中L為似然函數(shù),k為模型參數(shù)個(gè)數(shù),n為樣本數(shù)量。

linear_model.LassoLarsIC 采用了信息準(zhǔn)則進(jìn)行優(yōu)化。

到此,相信大家對(duì)“python模型優(yōu)化實(shí)例分析”有了更深的了解,不妨來(lái)實(shí)際操作一番吧!這里是創(chuàng)新互聯(lián)網(wǎng)站,更多相關(guān)內(nèi)容可以進(jìn)入相關(guān)頻道進(jìn)行查詢,關(guān)注我們,繼續(xù)學(xué)習(xí)!

當(dāng)前文章:python模型優(yōu)化實(shí)例分析
網(wǎng)頁(yè)鏈接:http://muchs.cn/article16/pgodgg.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供品牌網(wǎng)站設(shè)計(jì)、建站公司全網(wǎng)營(yíng)銷推廣、定制網(wǎng)站、營(yíng)銷型網(wǎng)站建設(shè)、商城網(wǎng)站

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)

商城網(wǎng)站建設(shè)