當前位置:編程學習大全網 - 編程語言 - BP神經網絡方法

BP神經網絡方法

人工神經網絡是近幾年來發展起來的新興學科,它是壹種大規模並行分布處理的非線性系統,適用解決難以用數學模型描述的系統,逼近任何非線性的特性,具有很強的自適應、自學習、聯想記憶、高度容錯和並行處理能力,使得神經網絡理論的應用已經滲透到了各個領域。近年來,人工神經網絡在水質分析和評價中的應用越來越廣泛,並取得良好效果。在這些應用中,縱觀應用於模式識別的神經網絡,BP網絡是最有效、最活躍的方法之壹。

BP網絡是多層前向網絡的權值學習采用誤差逆傳播學習的壹種算法(Error Back Propagation,簡稱BP)。在具體應用該網絡時分為網絡訓練及網絡工作兩個階段。在網絡訓練階段,根據給定的訓練模式,按照“模式的順傳播”→“誤差逆傳播”→“記憶訓練”→“學習收斂”4個過程進行網絡權值的訓練。在網絡的工作階段,根據訓練好的網絡權值及給定的輸入向量,按照“模式順傳播”方式求得與輸入向量相對應的輸出向量的解答(閻平凡,2000)。

BP算法是壹種比較成熟的有指導的訓練方法,是壹個單向傳播的多層前饋網絡。它包含輸入層、隱含層、輸出層,如圖4-4所示。

圖4-4 地下水質量評價的BP神經網絡模型

圖4-4給出了4層地下水水質評價的BP神經網絡模型。同層節點之間不連接。輸入信號從輸入層節點,依次傳過各隱含層節點,然後傳到輸出層節點,如果在輸出層得不到期望輸出,則轉入反向傳播,將誤差信號沿原來通路返回,通過學習來修改各層神經元的權值,使誤差信號最小。每壹層節點的輸出只影響下壹層節點的輸入。每個節點都對應著壹個作用函數(f)和閾值(a),BP網絡的基本處理單元量為非線性輸入-輸出的關系,輸入層節點閾值為0,且f(x)=x;而隱含層和輸出層的作用函數為非線性的Sigmoid型(它是連續可微的)函數,其表達式為

f(x)=1/(1+e-x) (4-55)

設有L個學習樣本(Xk,Ok)(k=1,2,…,l),其中Xk為輸入,Ok為期望輸出,Xk經網絡傳播後得到的實際輸出為Yk,則Yk與要求的期望輸出Ok之間的均方誤差為

區域地下水功能可持續性評價理論與方法研究

式中:M為輸出層單元數;Yk,p為第k樣本對第p特性分量的實際輸出;Ok,p為第k樣本對第p特性分量的期望輸出。

樣本的總誤差為

區域地下水功能可持續性評價理論與方法研究

由梯度下降法修改網絡的權值,使得E取得最小值,學習樣本對Wij的修正為

區域地下水功能可持續性評價理論與方法研究

式中:η為學習速率,可取0到1間的數值。

所有學習樣本對權值Wij的修正為

區域地下水功能可持續性評價理論與方法研究

通常為增加學習過程的穩定性,用下式對Wij再進行修正:

區域地下水功能可持續性評價理論與方法研究

式中:β為充量常量;Wij(t)為BP網絡第t次叠代循環訓練後的連接權值;Wij(t-1)為BP網絡第t-1次叠代循環訓練後的連接權值。

在BP網絡學習的過程中,先調整輸出層與隱含層之間的連接權值,然後調整中間隱含層間的連接權值,最後調整隱含層與輸入層之間的連接權值。實現BP網絡訓練學習程序流程,如圖4-5所示(倪深海等,2000)。

圖4-5 BP神經網絡模型程序框圖

若將水質評價中的評價標準作為樣本輸入,評價級別作為網絡輸出,BP網絡通過不斷學習,歸納出評價標準與評價級別間復雜的內在對應關系,即可進行水質綜合評價。

BP網絡對地下水質量綜合評價,其評價方法不需要過多的數理統計知識,也不需要對水質量監測數據進行復雜的預處理,操作簡便易行,評價結果切合實際。由於人工神經網絡方法具有高度民主的非線性函數映射功能,使得地下水水質評價結果較準確(袁曾任,1999)。

BP網絡可以任意逼近任何連續函數,但是它主要存在如下缺點:①從數學上看,它可歸結為壹非線性的梯度優化問題,因此不可避免地存在局部極小問題;②學習算法的收斂速度慢,通常需要上千次或更多。

神經網絡具有學習、聯想和容錯功能,是地下水水質評價工作方法的改進,如何在現行的神經網絡中進壹步吸取模糊和灰色理論的某些優點,建立更適合水質評價的神經網絡模型,使該模型既具有方法的先進性又具有現實的可行性,將是我們今後研究和探討的問題。

  • 上一篇:數據庫開發工具有哪些(數據庫開發軟件有哪些)
  • 下一篇:機器人也有合法身份!世界首位機器人“公民”誕生
  • copyright 2024編程學習大全網