當前位置:編程學習大全網 - 編程語言 - 神經網絡中的數學知識

神經網絡中的數學知識

神經網絡的設計要用到遺傳算法,遺傳算法在神經網絡中的應用主要反映在3個方面:網絡的學習,網絡的結構設計,網絡的分析。

1.遺傳算法在網絡學習中的應用

在神經網絡中,遺傳算法可用於網絡的學習。這時,它在兩個方面起作用

(1)學習規則的優化

用遺傳算法對神經網絡學習規則實現自動優化,從而提高學習速率。

(2)網絡權系數的優化

用遺傳算法的全局優化及隱含並行性的特點提高權系數優化速度。

2.遺傳算法在網絡設計中的應用

用遺傳算法設計壹個優秀的神經網絡結構,首先是要解決網絡結構的編碼問題;然後才能以選擇、交叉、變異操作得出最優結構。編碼方法主要有下列3種:

(1)直接編碼法

這是把神經網絡結構直接用二進制串表示,在遺傳算法中,“染色體”實質上和神經網絡是壹種映射關系。通過對“染色體”的優化就實現了對網絡的優化。

(2)參數化編碼法

參數化編碼采用的編碼較為抽象,編碼包括網絡層數、每層神經元數、各層互連方式等信息。壹般對進化後的優化“染色體”進行分析,然後產生網絡的結構。

(3)繁衍生長法

這種方法不是在“染色體”中直接編碼神經網絡的結構,而是把壹些簡單的生長語法規則編碼入“染色體”中;然後,由遺傳算法對這些生長語法規則不斷進行改變,最後生成適合所解的問題的神經網絡。這種方法與自然界生物地生長進化相壹致。

3.遺傳算法在網絡分析中的應用

遺傳算法可用於分析神經網絡。神經網絡由於有分布存儲等特點,壹般難以從其拓撲結構直接理解其功能。遺傳算法可對神經網絡進行功能分析,性質分析,狀態分析。

遺傳算法雖然可以在多種領域都有實際應用,並且也展示了它潛力和寬廣前景;但是,遺傳算法還有大量的問題需要研究,目前也還有各種不足。首先,在變量多,取值範圍大或無給定範圍時,收斂速度下降;其次,可找到最優解附近,但無法精確確定最擾解位置;最後,遺傳算法的參數選擇尚未有定量方法。對遺傳算法,還需要進壹步研究其數學基礎理論;還需要在理論上證明它與其它優化技術的優劣及原因;還需研究硬件化的遺傳算法;以及遺傳算法的通用編程和形式等。

  • 上一篇:lotus notes 是壹個什麽樣的軟件(請簡單明了的回答)
  • 下一篇:新時代好少年事跡簡介10篇
  • copyright 2024編程學習大全網