通過神經網絡節點來創建并訓練神經網絡。它通過模擬大量相互連接的簡單處理單元工作,這些處理單元是按層排列的。在神經網絡中通常有3部分:一個輸入層,其單元代表輸入字段;一個或者更多的隱藏層;以及一個輸出層,其單元代表輸出字段。這些單元通過不斷變化的連接強度或權值連接。神經網絡節點模型如下圖所示。
模型名稱:指定要生成的神經網絡名稱。選擇“自動”單選按鈕后,模型名根據目標字段名自動生成,這是默認設置。如選擇“定制”單選按鈕,可為模型指定用戶定義的模型名。
訓練方式:為建立神經網絡模型提供6種訓練方式,如下表所示。
選擇的訓練方式發生變化,其“專家”選項卡選項也會發生相應的變化。
預防過度訓練:選擇該選項后數據隨機被拆分成訓練集和驗證集。網絡在訓練集中訓練,而精確度則根據驗證集估計。可以在“樣本%”框中指定用于訓練的數據比率(數據集中的其余部分用于驗證)。
/quality/90!/interlace/1/format/jpeg'/>
設置隨機數種子:如果沒有設置隨機數種子,則用于初始化神經網絡權值的隨機數序列在每次執行節點時各不相同。這樣,即使神經網絡設置和數據值完全一樣,節點也會在各次執行生成不同的模型。選擇該選項后,可以把隨機數種子設置成某一具體值,這樣結果模型就完全可再現。一個確定的隨機數種子總是生成相同的隨機數序列值,這樣執行該節點總是生成同樣的模型。
停止于:可以從以下終止準則中選擇一個。
·默認:在這一設置下,網絡將在其看起來達到最佳訓練狀態時停止訓練。如果該設置與“多重”訓練方法一起使用,訓練不好的神經網絡在訓練過程中將被舍棄。
·精確性%:選擇該選項后,訓練將一直持續直到達到指定精確度。也許永遠不能達到指定精確度,但是可以在任意點終止訓練并保存目前達到的最高精確度。
·周期:選擇該選項后,訓練將持續指定的循環數(通過數據的循環數)。
·時間(分鐘):選擇該選項后,訓練將持續到指定的時間(以分鐘計算)。
為了完成目前循環,訓練時間可能會略微超出指定的訓練時間。
神經網絡的專家項
神經網絡節點專家各選項,隨著所選擇的訓練方式的不同而發生變化。
1. 快速方式專家
快速方式專家如下圖所示。一般通過“隱藏層”參數來選擇神經網絡的隱藏層數。更多的隱藏層可以幫助神經網絡學習更為復雜的關系a6神經網絡權值直接確定法,同時也增加訓練時間。我們還可以對每一層,指定其所包含的隱藏單元數。
2. 多重方式專家
多重方式專家如下圖所示,主要設置的項為拓撲結構。一般通過“拓撲”參數指定用于訓練的神經網絡的拓撲結構。拓撲結構通過指定每層的隱藏單元數給出,各單元數之間用逗號隔開。使用適當的參數數目,拓撲布局可以指定1到3個隱藏層。比如,一個只有一層隱藏層,隱藏層有十個單元的網絡可以指定為10;有3個隱藏層,隱藏層所含單元分別為10,12,15的網絡可以指定為10,12,15。
也可以提供用空格隔開的2到3個數字來指定一層中的隱藏單元范圍。如果給的是兩個數字,
將創建一系列的神經網絡,其包含單元數分別對應于第一個數字和第二個數字之間的各個整數(包括這兩個數字)。比如,要生成每層分別含10,11,12,13和14個隱藏單元的神經網絡,指定為10 14。要生成有兩個隱藏層,第一個隱藏層所含隱藏單元范圍為10到14,第二個隱藏層所含隱藏單元為8到12,則指定為10 14,8 12。在這種情況下,會生成包括所有可能的組合值的神經網絡。如果給出第三個值,則用做第一個值到第二個值之間的增量。比如,要生成具有10,12,14,16個隱藏單元的類神經網絡a6神經網絡權值直接確定法,指定為10162。
最后,可以提供多重網絡拓撲結構,用分號隔開。比如,要分別生成只有一個隱藏層,隱藏層所含單元為10,12,14,16,以及有兩個隱藏層,第一個隱藏層有10個隱藏單元,第二個隱藏層有7到10個隱藏單元的神經網絡,指定為10 16 2; 10 7 10。
3. 修剪方式專家
修剪方式專家的設置如下圖所示。
隱藏層:選擇初始網絡(修剪前)的隱藏層數。
層1,2,3:指定在初始網絡(修剪前)中每一隱藏層包含隱藏單元數。初始層數應該比使用其他訓練方法的層數略微大一些。
隱藏速率:指定在單個隱藏單元修剪中被剔除的隱藏單元比率數。
隱藏持續次數:指定在訓練未見改進時執行的隱藏單元修剪操作次數。
輸入速率:指定在單個輸入單元修剪中被剔除的輸入單元比率數。
輸入持續次數:指定在訓練未見改進時執行的輸入單元修剪操作次數。
持續次數:指定在訓練未見改進時,網絡在嘗試修剪前的訓練次數。
總體持續次數:指定在訓練未見改進時進行的隱藏單元修剪/輸入單元修剪次數。在使用預設停止模型時,運用該選項。
4. RBFN專家設置
RBFN專家設置如下圖所示。
RBFN聚類:指定使用的徑向基函數個數或者聚類個數。這對應于隱藏層的大小。
持續次數:指定在訓練未見改進時網絡繼續訓練的次數。
RBF重疊:在RBFN中隱藏單元代表定義數據集中類別或區域的徑向基函數。該參數有助于控制重疊的區域或類別。在訓練中,正常情況下記錄只影響距離最近的類別。通過提高這個參數,可以增加每個隱藏單元的關聯區域,使記錄能夠影響更遠的類別。此處應指定一個正實數。
歡迎大家加入人工智能圈參與交流