BP神經(jīng)網(wǎng)絡(luò)基本原理

2.1 BP神經(jīng)網(wǎng)絡(luò)基本原理

BP網(wǎng)絡(luò)模型處理信息的基本原理是：輸入信號Xi通過中間節(jié)點(diǎn)（隱層點(diǎn)）作用于輸出節(jié)點(diǎn)，經(jīng)過非線形變換，產(chǎn)生輸出信號Yk，網(wǎng)絡(luò)訓(xùn)練的每個(gè)樣本包括輸入向量X和期望輸出量t，網(wǎng)絡(luò)輸出值Y與期望輸出值t之間的偏差，通過調(diào)整輸入節(jié)點(diǎn)與隱層節(jié)點(diǎn)的聯(lián)接強(qiáng)度取值Wij和隱層節(jié)點(diǎn)與輸出節(jié)點(diǎn)之間的聯(lián)接強(qiáng)度Tjk以及閾值，使誤差沿梯度方向下降，經(jīng)過反復(fù)學(xué)習(xí)訓(xùn)練，確定與最小誤差相對應(yīng)的網(wǎng)絡(luò)參數(shù)（權(quán)值和閾值），訓(xùn)練即告停止。此時(shí)經(jīng)過訓(xùn)練的神經(jīng)網(wǎng)絡(luò)即能對類似樣本的輸入信息，自行處理輸出誤差最小的經(jīng)過非線形轉(zhuǎn)換的信息。

2.2 BP神經(jīng)網(wǎng)絡(luò)模型

BP網(wǎng)絡(luò)模型包括其輸入輸出模型、作用函數(shù)模型、誤差計(jì)算模型和自學(xué)習(xí)模型。

（1）節(jié)點(diǎn)輸出模型

隱節(jié)點(diǎn)輸出模型：Oj=f(∑Wij×Xi-qj)    (1)

輸出節(jié)點(diǎn)輸出模型：Yk=f(∑Tjk×Oj-qk) (2)

f-非線形作用函數(shù)；q-神經(jīng)單元閾值。
 

圖1 典型BP網(wǎng)絡(luò)結(jié)構(gòu)模型

（2）作用函數(shù)模型

作用函數(shù)是反映下層輸入對上層節(jié)點(diǎn)刺激脈沖強(qiáng)度的函數(shù)又稱刺激函數(shù)，一般取為(0,1)內(nèi)連續(xù)取值Sigmoid函數(shù)：                        f(x)=1/(1+e-x)                  （3）

（3）誤差計(jì)算模型

誤差計(jì)算模型是反映神經(jīng)網(wǎng)絡(luò)期望輸出與計(jì)算輸出之間誤差大小的函數(shù)：

Ep=1/2×∑(tpi-Opi)2                (4)

tpi- i節(jié)點(diǎn)的期望輸出值；Opi-i節(jié)點(diǎn)計(jì)算輸出值。

（4）自學(xué)習(xí)模型

神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程，即連接下層節(jié)點(diǎn)和上層節(jié)點(diǎn)之間的權(quán)重拒陣Wij的設(shè)定和誤差修正過程。BP網(wǎng)絡(luò)有師學(xué)習(xí)方式-需要設(shè)定期望值和無師學(xué)習(xí)方式-只需輸入模式之分。自學(xué)習(xí)模型為

△Wij(n+1)=h×Фi×Oj+a×△Wij(n)（5）

h-學(xué)習(xí)因子；Фi-輸出節(jié)點(diǎn)i的計(jì)算誤差；Oj-輸出節(jié)點(diǎn)j的計(jì)算輸出；a-動(dòng)量因子。

2.3 BP網(wǎng)絡(luò)模型的缺陷分析及優(yōu)化策略

（1）學(xué)習(xí)因子h的優(yōu)化

采用變步長法根據(jù)輸出誤差大小自動(dòng)調(diào)整學(xué)習(xí)因子，來減少迭代次數(shù)和加快收斂速度。

h=h+a×(Ep(n)- Ep(n-1))/ Ep(n)a為調(diào)整步長，0~1之間取值（6）

（2）隱層節(jié)點(diǎn)數(shù)的優(yōu)化

隱節(jié)點(diǎn)數(shù)的多少對網(wǎng)絡(luò)性能的影響較大，當(dāng)隱節(jié)點(diǎn)數(shù)太多時(shí)，會(huì)導(dǎo)致網(wǎng)絡(luò)學(xué)習(xí)時(shí)間過長，甚至不能收斂；而當(dāng)隱節(jié)點(diǎn)數(shù)過小時(shí)，網(wǎng)絡(luò)的容錯(cuò)能力差。利用逐步回歸分析法并進(jìn)行參數(shù)的顯著性檢驗(yàn)來動(dòng)態(tài)刪除一些線形相關(guān)的隱節(jié)點(diǎn)，節(jié)點(diǎn)刪除標(biāo)準(zhǔn)：當(dāng)由該節(jié)點(diǎn)出發(fā)指向下一層節(jié)點(diǎn)的所有權(quán)值和閾值均落于死區(qū)（通常取±0.1、±0.05等區(qū)間）之中，則該節(jié)點(diǎn)可刪除。最佳隱節(jié)點(diǎn)數(shù)L可參考下面公式計(jì)算：

L=(m+n)1/2+c (7)

m-輸入節(jié)點(diǎn)數(shù)；n-輸出節(jié)點(diǎn)數(shù)；c-介于1～10的常數(shù)。

（3）輸入和輸出神經(jīng)元的確定

利用多元回歸分析法對神經(jīng)網(wǎng)絡(luò)的輸入?yún)?shù)進(jìn)行處理，刪除相關(guān)性強(qiáng)的輸入?yún)?shù)，來減少輸入節(jié)點(diǎn)數(shù)。

（4）算法優(yōu)化

由于BP算法采用的是剃度下降法，因而易陷于局部最小并且訓(xùn)練時(shí)間較長。用基于生物免疫機(jī)制地既能全局搜索又能避免未成熟收斂的免疫遺傳算法IGA取代傳統(tǒng)BP算法來克服此缺點(diǎn)。

3.優(yōu)化BP神經(jīng)網(wǎng)絡(luò)在系統(tǒng)安全評價(jià)中的應(yīng)用

系統(tǒng)安全評價(jià)包括系統(tǒng)固有危險(xiǎn)性評價(jià)、系統(tǒng)安全管理現(xiàn)狀評價(jià)和系統(tǒng)現(xiàn)實(shí)危險(xiǎn)性評價(jià)三方面內(nèi)容。其中固有危險(xiǎn)性評價(jià)指標(biāo)有物質(zhì)火災(zāi)爆炸危險(xiǎn)性、工藝危險(xiǎn)性、設(shè)備裝置危險(xiǎn)性、環(huán)境危險(xiǎn)性以及人的不可靠性。

3.1 基于優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的系統(tǒng)安全評價(jià)模型

圖-2基于優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的系統(tǒng)安全評價(jià)模型

3.2 BP神經(jīng)網(wǎng)絡(luò)在系統(tǒng)安全評價(jià)中的應(yīng)用實(shí)現(xiàn)

（1）確定網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)，包括中間隱層的層數(shù)，輸入層、輸出層和隱層的節(jié)點(diǎn)數(shù)。

（2）確定被評價(jià)系統(tǒng)的指標(biāo)體系包括特征參數(shù)和狀態(tài)參數(shù)

運(yùn)用神經(jīng)網(wǎng)絡(luò)進(jìn)行安全評價(jià)時(shí)，首先必須確定評價(jià)系統(tǒng)的內(nèi)部構(gòu)成和外部環(huán)境，確定能夠正確反映被評價(jià)對象安全狀態(tài)的主要特征參數(shù)（輸入節(jié)點(diǎn)數(shù)，各節(jié)點(diǎn)實(shí)際含義及其表達(dá)形式等），以及這些參數(shù)下系統(tǒng)的狀態(tài)（輸出節(jié)點(diǎn)數(shù)，各節(jié)點(diǎn)實(shí)際含義及其表達(dá)方式等）。

（3）選擇學(xué)習(xí)樣本，供神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)

選取多組對應(yīng)系統(tǒng)不同狀態(tài)參數(shù)值時(shí)的特征參數(shù)值作為學(xué)習(xí)樣本，供網(wǎng)絡(luò)系統(tǒng)學(xué)習(xí)。這些樣本應(yīng)盡可能地反映各種安全狀態(tài)。其中對系統(tǒng)特征參數(shù)進(jìn)行(-∞,∞)區(qū)間地預(yù)處理，對系統(tǒng)參數(shù)應(yīng)進(jìn)行(0,1)區(qū)間地預(yù)處理。神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程即根據(jù)樣本確定網(wǎng)絡(luò)的聯(lián)接權(quán)值和誤差反復(fù)修正的過程。

（4）確定作用函數(shù)，通常選擇非線形S型函數(shù)

(5)建立系統(tǒng)安全評價(jià)知識庫

通過網(wǎng)絡(luò)學(xué)習(xí)確認(rèn)的網(wǎng)絡(luò)結(jié)構(gòu)包括：輸入、輸出和隱節(jié)點(diǎn)數(shù)以及反映其間關(guān)聯(lián)度的網(wǎng)絡(luò)權(quán)值的組合；即為具有推理機(jī)制的被評價(jià)系統(tǒng)的安全評價(jià)知識庫。

(6)進(jìn)行實(shí)際系統(tǒng)的安全評價(jià)

經(jīng)過訓(xùn)練的神經(jīng)網(wǎng)絡(luò)將實(shí)際評價(jià)系統(tǒng)的特征值轉(zhuǎn)換后輸入到已具有推理功能的神經(jīng)網(wǎng)絡(luò)中，運(yùn)用系統(tǒng)安全評價(jià)知識庫處理后得到評價(jià)實(shí)際系統(tǒng)的安全狀態(tài)的評價(jià)結(jié)果。實(shí)際系統(tǒng)的評價(jià)結(jié)果又作為新的學(xué)習(xí)樣本輸入神經(jīng)網(wǎng)絡(luò)，使系統(tǒng)安全評價(jià)知識庫進(jìn)一步充實(shí)。

3.3 BP神經(jīng)網(wǎng)絡(luò)理論應(yīng)用于系統(tǒng)安全評價(jià)中的優(yōu)點(diǎn)

（1）利用神經(jīng)網(wǎng)絡(luò)并行結(jié)構(gòu)和并行處理的特征，通過適當(dāng)選擇評價(jià)項(xiàng)目，能克服安全評價(jià)的片面性，可以全面評價(jià)系統(tǒng)的安全狀況和多因數(shù)共同作用下的安全狀態(tài)。

（2）運(yùn)用神經(jīng)網(wǎng)絡(luò)知識存儲(chǔ)和自適應(yīng)特征，通過適應(yīng)補(bǔ)充學(xué)習(xí)樣本，可以實(shí)現(xiàn)歷史經(jīng)驗(yàn)與新知識完滿結(jié)合，在發(fā)展過程中動(dòng)態(tài)地評價(jià)系統(tǒng)的安全狀態(tài)。

（3）利用神經(jīng)網(wǎng)絡(luò)理論的容錯(cuò)特征，通過選取適當(dāng)?shù)淖饔煤瘮?shù)和數(shù)據(jù)結(jié)構(gòu)，可以處理各種非數(shù)值性指標(biāo)，實(shí)現(xiàn)對系統(tǒng)安全狀態(tài)的模糊評價(jià)。