網(wǎng)站搭建公司排名,市南區(qū)網(wǎng)站建設(shè),最新版本wordpress中文安裝包,電子商務(wù)網(wǎng)站建設(shè) 百度文庫(kù)文章目錄分類模型的可信度評(píng)估分類模型中的預(yù)測(cè)準(zhǔn)確率分類模型中的決定系數(shù)分類模型的可信度評(píng)估 分類算法的目標(biāo)時(shí)為目標(biāo)數(shù)據(jù)預(yù)測(cè)分類#xff0c;結(jié)果時(shí)離散型的數(shù)值。但算法實(shí)際在分類的過(guò)程中#xff0c;會(huì)認(rèn)為某個(gè)數(shù)據(jù)點(diǎn)有“80%”的可能性屬于分類1#xff0c;有“20%”…文章目錄分類模型的可信度評(píng)估分類模型中的預(yù)測(cè)準(zhǔn)確率分類模型中的決定系數(shù)分類模型的可信度評(píng)估分類算法的目標(biāo)時(shí)為目標(biāo)數(shù)據(jù)預(yù)測(cè)分類結(jié)果時(shí)離散型的數(shù)值。但算法實(shí)際在分類的過(guò)程中會(huì)認(rèn)為某個(gè)數(shù)據(jù)點(diǎn)有“80%”的可能性屬于分類1有“20%”的可能性屬于分類0在最終的預(yù)測(cè)結(jié)果中模型會(huì)根據(jù)“可能性比較大”的方式來(lái)分配分類標(biāo)簽。分類模型中的預(yù)測(cè)準(zhǔn)確率在scikit-learn中很多用于分類的模型都有一個(gè)predict_proba功能用于計(jì)算模型在對(duì)數(shù)據(jù)集進(jìn)行分類時(shí)每個(gè)樣本屬于不同分類的可能性是多少。# 導(dǎo)入必要的庫(kù)fromsklearn.datasetsimportmake_blobs# 用于生成模擬的聚類數(shù)據(jù)importmatplotlib.pyplotasplt# 用于數(shù)據(jù)可視化# 使用make_blobs函數(shù)生成數(shù)據(jù)集# n_samples200: 生成200個(gè)樣本點(diǎn)# random_state1: 設(shè)置隨機(jī)種子為1確保每次運(yùn)行生成的隨機(jī)數(shù)據(jù)相同便于結(jié)果復(fù)現(xiàn)# centers2: 生成2個(gè)聚類中心兩類數(shù)據(jù)# cluster_std5: 每個(gè)聚類的標(biāo)準(zhǔn)差為5控制數(shù)據(jù)點(diǎn)的分散程度值越大數(shù)據(jù)點(diǎn)越分散X,ymake_blobs(n_samples200,random_state1,centers2,cluster_std5)# 繪制散點(diǎn)圖# X[:,0]: 取X的第一列作為x軸坐標(biāo)所有行的第0列# X[:,1]: 取X的第二列作為y軸坐標(biāo)所有行的第1列# cy: 使用標(biāo)簽y作為顏色映射的依據(jù)不同類別顯示不同顏色# cmapplt.cm.cool: 使用cool色彩映射是一種從藍(lán)到紫的漸變色系# edgecolorsk: 設(shè)置數(shù)據(jù)點(diǎn)邊緣為黑色(k是黑色的簡(jiǎn)寫)使點(diǎn)與點(diǎn)之間更容易區(qū)分plt.scatter(X[:,0],X[:,1],cy,cmapplt.cm.cool,edgecolorsk)# 顯示圖形plt.show()# 導(dǎo)入高斯樸素貝葉斯分類器# 高斯樸素貝葉斯假設(shè)每個(gè)特征的條件概率服從高斯分布正態(tài)分布fromsklearn.naive_bayesimportGaussianNB# 導(dǎo)入train_test_split函數(shù)用于將數(shù)據(jù)集分割為訓(xùn)練集和測(cè)試集fromsklearn.model_selectionimporttrain_test_split# 使用train_test_split函數(shù)將數(shù)據(jù)集劃分為訓(xùn)練集和測(cè)試集# X: 特征矩陣包含所有樣本的特征數(shù)據(jù)# y: 目標(biāo)變量包含所有樣本的類別標(biāo)簽# test_size: 未指定默認(rèn)為0.25表示25%的數(shù)據(jù)作為測(cè)試集75%作為訓(xùn)練集# random_state68: 設(shè)置隨機(jī)種子為68確保每次運(yùn)行劃分結(jié)果一致便于實(shí)驗(yàn)復(fù)現(xiàn)# 返回值# X_train: 訓(xùn)練集特征# X_test: 測(cè)試集特征# y_train: 訓(xùn)練集標(biāo)簽# y_test: 測(cè)試集標(biāo)簽X_train,X_test,y_train,y_testtrain_test_split(X,y,random_state68)# 創(chuàng)建高斯樸素貝葉斯分類器的實(shí)例# GaussianNB不需要任何參數(shù)即可初始化但也可設(shè)置參數(shù)如# var_smoothing: 添加到方差計(jì)算中的穩(wěn)定性參數(shù)防止除零錯(cuò)誤gnbGaussianNB()# 使用訓(xùn)練數(shù)據(jù)擬合訓(xùn)練樸素貝葉斯分類器# fit方法會(huì)計(jì)算每個(gè)類別下每個(gè)特征的平均值和方差# 這些統(tǒng)計(jì)量將用于計(jì)算新樣本的條件概率gnb.fit(X_train,y_train)# 使用訓(xùn)練好的模型預(yù)測(cè)測(cè)試集樣本屬于每個(gè)類別的概率# predict_proba返回一個(gè)數(shù)組每行對(duì)應(yīng)一個(gè)測(cè)試樣本每列對(duì)應(yīng)一個(gè)類別# 每行的概率值之和為1# 對(duì)于二分類問(wèn)題返回兩列[類別0的概率, 類別1的概率]predict_probagnb.predict_proba(X_test)# 打印預(yù)測(cè)概率數(shù)組的形狀# 形狀為 (測(cè)試樣本數(shù), 類別數(shù))# 例如(50, 2) 表示有50個(gè)測(cè)試樣本每個(gè)樣本有2個(gè)類別的概率print(predict_proba.shape)(50, 2)print(predict_proba[:5])[[0.98849996 0.01150004] [0.0495985 0.9504015 ] [0.01648034 0.98351966] [0.8168274 0.1831726 ] [0.00282471 0.99717529]]# 導(dǎo)入numpy庫(kù)用于數(shù)值計(jì)算和數(shù)組操作importnumpyasnp# 設(shè)置繪圖區(qū)域的邊界范圍# 獲取第一個(gè)特征(X[:,0])的最小值和最大值并向外擴(kuò)展0.5個(gè)單位# 這樣可以讓數(shù)據(jù)點(diǎn)不會(huì)緊貼圖形邊緣使圖形更美觀x_min,x_maxX[:,0].min()-0.5,X[:,0].max()0.5# 獲取第二個(gè)特征(X[:,1])的最小值和最大值并向外擴(kuò)展0.5個(gè)單位y_min,y_maxX[:,1].min()-0.5,X[:,1].max()0.5# 創(chuàng)建網(wǎng)格坐標(biāo)矩陣# np.arange(start, stop, step): 生成從start到stop不包含的等差數(shù)列步長(zhǎng)為step# np.meshgrid(): 從兩個(gè)一維數(shù)組中生成網(wǎng)格坐標(biāo)矩陣# xx和yy都是二維數(shù)組表示網(wǎng)格中每個(gè)點(diǎn)的(x, y)坐標(biāo)# 步長(zhǎng)0.2決定了網(wǎng)格的密度值越小網(wǎng)格越密決策邊界越平滑xx,yynp.meshgrid(np.arange(x_min,x_max,0.2),# 生成x軸的網(wǎng)格點(diǎn)np.arange(y_min,y_max,0.2)# 生成y軸的網(wǎng)格點(diǎn))# 對(duì)網(wǎng)格上的每個(gè)點(diǎn)進(jìn)行概率預(yù)測(cè)# np.c_[xx.ravel(), yy.ravel()]:# - xx.ravel()和yy.ravel()將二維網(wǎng)格展平為一維數(shù)組# - np.c_[]按列連接兩個(gè)數(shù)組生成一個(gè)N×2的矩陣每行是一個(gè)網(wǎng)格點(diǎn)的坐標(biāo)# gnb.predict_proba(): 預(yù)測(cè)每個(gè)網(wǎng)格點(diǎn)屬于各個(gè)類別的概率# [:,1]: 取所有行的第二列即屬于類別1的概率# 對(duì)于二分類問(wèn)題gnb.predict_proba()返回兩列[P(類別0), P(類別1)]Zgnb.predict_proba(np.c_[xx.ravel(),yy.ravel()])[:,1]# 將預(yù)測(cè)結(jié)果重塑為與xx、yy相同的二維形狀# 這樣Z的每個(gè)元素對(duì)應(yīng)網(wǎng)格中相應(yīng)位置的預(yù)測(cè)概率ZZ.reshape(xx.shape)# 繪制決策區(qū)域的等高線填充圖# contourf(): 繪制填充等高線用顏色表示不同區(qū)域的概率值# xx, yy: 網(wǎng)格坐標(biāo)# Z: 每個(gè)網(wǎng)格點(diǎn)屬于類別1的概率值# cmapplt.cm.summer: 使用summer顏色映射從綠到黃# alpha0.8: 設(shè)置透明度為0.8使下方的散點(diǎn)圖可以部分顯示plt.contourf(xx,yy,Z,cmapplt.cm.summer,alpha0.8)# 繪制訓(xùn)練集的散點(diǎn)圖# X_train[:,0], X_train[:,1]: 訓(xùn)練集的兩個(gè)特征作為x、y坐標(biāo)# cy_train: 根據(jù)真實(shí)標(biāo)簽著色# cmapplt.cm.cool: 使用cool顏色映射藍(lán)到紫# edgecolorsk: 數(shù)據(jù)點(diǎn)邊緣為黑色增強(qiáng)可區(qū)分性plt.scatter(X_train[:,0],X_train[:,1],cy_train,cmapplt.cm.cool,edgecolorsk)# 繪制測(cè)試集的散點(diǎn)圖# 參數(shù)與訓(xùn)練集相似但添加alpha0.6使測(cè)試集點(diǎn)半透明# 這樣可以區(qū)分訓(xùn)練集和測(cè)試集同時(shí)看到重疊部分plt.scatter(X_test[:,0],X_test[:,1],cy_test,cmapplt.cm.cool,edgecolorsk,alpha0.6)# 設(shè)置x軸和y軸的顯示范圍# 使用網(wǎng)格的邊界作為坐標(biāo)軸范圍plt.xlim(xx.min(),xx.max())plt.ylim(yy.min(),yy.max())# 隱藏坐標(biāo)軸刻度# 使圖形更簡(jiǎn)潔專注于決策邊界和數(shù)據(jù)分布plt.xticks(())plt.yticks(())# 顯示圖形plt.show()背景顏色決策區(qū)域綠色區(qū)域?qū)儆陬悇e1的概率較低黃色區(qū)域?qū)儆陬悇e1的概率較高顏色漸變表示概率的連續(xù)變化數(shù)據(jù)點(diǎn)顏色藍(lán)色點(diǎn)屬于類別0的數(shù)據(jù)紫色點(diǎn)屬于類別1的數(shù)據(jù)訓(xùn)練集點(diǎn)實(shí)心用于訓(xùn)練模型的樣本測(cè)試集點(diǎn)半透明用于評(píng)估模型的樣本不是每個(gè)分類算法都有predict_proba屬性不過(guò)我們還可以使用另一種方式來(lái)檢查分類的可信度就是決定系數(shù)decision_fuinction分類模型中的決定系數(shù)決定系數(shù)在二元分類任務(wù)中只返回一個(gè)值如果是正數(shù)代表該數(shù)據(jù)點(diǎn)屬于分類1如果是附屬則代表屬于分類2。這里使用向量機(jī)分類器SVC的decision_function為例# 從sklearn.svm模塊導(dǎo)入支持向量機(jī)分類器SVC# SVCSupport Vector Classification是一種基于支持向量機(jī)SVM的分類器fromsklearn.svmimportSVC# 創(chuàng)建SVC分類器實(shí)例使用默認(rèn)參數(shù)初始化# 默認(rèn)參數(shù)包括# - C1.0正則化參數(shù)控制軟間隔的懲罰強(qiáng)度# - kernelrbf使用徑向基函數(shù)高斯核作為核函數(shù)# - gammascale核函數(shù)的系數(shù)scale表示1/(n_features * X.var())# - 其他參數(shù)均為默認(rèn)值svcSVC()# 使用訓(xùn)練數(shù)據(jù)擬合訓(xùn)練SVM分類器# fit()方法會(huì)# 1. 根據(jù)選擇的核函數(shù)將數(shù)據(jù)映射到高維空間# 2. 尋找最優(yōu)分隔超平面最大間隔超平面# 3. 確定支持向量# 4. 計(jì)算決策函數(shù)參數(shù)svc.fit(X_train,y_train)# 計(jì)算測(cè)試樣本到?jīng)Q策超平面的有符號(hào)距離# decision_function()返回每個(gè)測(cè)試樣本到?jīng)Q策超平面的有符號(hào)距離# 對(duì)于二分類問(wèn)題# - 正值表示樣本被分類為類別1# - 負(fù)值表示樣本被分類為類別0# - 值越大正或越小負(fù)表示離決策邊界越遠(yuǎn)分類置信度越高# - 值為0表示樣本正好在決策邊界上# 對(duì)于多分類問(wèn)題one-vs-one返回形狀為(n_samples, n_classes*(n_classes-1)/2)dec_funcsvc.decision_function(X_test)# 打印前5個(gè)測(cè)試樣本的決策函數(shù)值# 這些值可以幫助理解模型對(duì)每個(gè)樣本的分類置信度print(dec_func[:5])[-1.36071347 1.53694862 1.78825594 -0.96133081 1.81826853] 正數(shù)屬于分類1 負(fù)數(shù)屬于分類2# 計(jì)算網(wǎng)格點(diǎn)上每個(gè)點(diǎn)的決策函數(shù)值# np.c_[xx.ravel(), yy.ravel()]: 將二維網(wǎng)格坐標(biāo)展平并組合成N×2的矩陣# 每一行是網(wǎng)格中的一個(gè)點(diǎn)的(x, y)坐標(biāo)# svc.decision_function(): 計(jì)算每個(gè)網(wǎng)格點(diǎn)到SVM決策超平面的有符號(hào)距離Zsvc.decision_function(np.c_[xx.ravel(),yy.ravel()])# 將計(jì)算得到的決策函數(shù)值重新整形為與網(wǎng)格坐標(biāo)xx相同的二維形狀# 這樣每個(gè)Z[i,j]就對(duì)應(yīng)網(wǎng)格點(diǎn)(xx[i,j], yy[i,j])的決策函數(shù)值ZZ.reshape(xx.shape)# 繪制決策函數(shù)值的等高線填充圖# contourf()函數(shù)用不同顏色填充不同值的區(qū)域# xx, yy: 網(wǎng)格坐標(biāo)# Z: 每個(gè)網(wǎng)格點(diǎn)的決策函數(shù)值# cmapplt.cm.summer: 使用summer顏色映射綠到黃# alpha0.8: 設(shè)置透明度為0.8使底層散點(diǎn)圖可見(jiàn)plt.contourf(xx,yy,Z,cmapplt.cm.summer,alpha0.8)# 繪制訓(xùn)練集的散點(diǎn)圖# X_train[:,0], X_train[:,1]: 訓(xùn)練集樣本的兩個(gè)特征作為x和y坐標(biāo)# cy_train: 根據(jù)真實(shí)標(biāo)簽著色# cmapplt.cm.cool: 使用cool顏色映射藍(lán)到紫# edgecolorsk: 數(shù)據(jù)點(diǎn)邊緣為黑色增強(qiáng)可區(qū)分性plt.scatter(X_train[:,0],X_train[:,1],cy_train,cmapplt.cm.cool,edgecolorsk)# 繪制測(cè)試集的散點(diǎn)圖# 參數(shù)與訓(xùn)練集類似但添加alpha0.6使測(cè)試集點(diǎn)半透明# 這樣可以區(qū)分訓(xùn)練集和測(cè)試集同時(shí)看到重疊部分plt.scatter(X_test[:,0],X_test[:,1],cy_test,cmapplt.cm.cool,edgecolorsk,alpha0.6)# 設(shè)置x軸和y軸的顯示范圍# 使用網(wǎng)格的最小值和最大值作為坐標(biāo)軸范圍確保圖形完整顯示plt.xlim(xx.min(),xx.max())plt.ylim(yy.min(),yy.max())# 添加圖形標(biāo)題plt.title(SVC decision_function)# 隱藏坐標(biāo)軸刻度# 使圖形更簡(jiǎn)潔專注于決策函數(shù)和數(shù)據(jù)分布plt.xticks(())plt.yticks(())# 顯示圖形plt.show()