bp神經(jīng)網(wǎng)絡(自學bp神經(jīng)網(wǎng)絡要有什么基礎)
1.自學bp神經(jīng)網(wǎng)絡要有什么基礎
簡介：BP(Back Propagation)網(wǎng)絡是1986年由Rumelhart和McCelland為首的科學家小組提出，是一種按誤差逆?zhèn)鞑ニ惴ㄓ柧毜亩鄬忧梆伨W(wǎng)絡，是目前應用最廣泛的神經(jīng)網(wǎng)絡模型之一。
BP網(wǎng)絡能學習和存貯大量的輸入-輸出模式映射關系，而無需事前揭示描述這種映射關系的數(shù)學方程。它的學習規(guī)則是使用最速下降法，通過反向傳播來不斷調(diào)整網(wǎng)絡的權值和閾值，使網(wǎng)絡的誤差平方和最小。
BP神經(jīng)網(wǎng)絡模型拓撲結(jié)構包括輸入層（input）、隱層（hide layer）和輸出層（output layer） 摘 要：BP神經(jīng)網(wǎng)絡算法是在BP神經(jīng)網(wǎng)絡現(xiàn)有算法的基礎上提出的，是通過任意選定一組權值，將給定的目標輸出直接作為線性方程的代數(shù)和來建立線性方程組，解得待求權，不存在傳統(tǒng)方法的局部極小及收斂速度慢的問題，且更易理解。 關鍵詞：固定權值；gauss消元法；BP算法 人工神經(jīng)網(wǎng)絡（artificial neural networks,ANN）系統(tǒng)是20世紀40年代后出現(xiàn)的，它是由眾多的神經(jīng)元可調(diào)的連接權值連接而成，具有大規(guī)模并行處理、分布式信息存儲、良好的自組織自學習能力等特點，在信息處理、模式識別、智能控制及系統(tǒng)建模等領域得到越來越廣泛的應用。
尤其誤差反向傳播算法（Error Back-propagation Training，簡稱BP網(wǎng)絡）可以逼近任意連續(xù)函數(shù)，具有很強的非線性映射能力，而且網(wǎng)絡的中間層數(shù)、各層的處理單元數(shù)及網(wǎng)絡的學習系數(shù)等參數(shù)可根據(jù)具體情況設定，靈活性很大，所以它在許多應用領域中起到重要作用。近年來，為了解決BP神經(jīng)網(wǎng)絡收斂速度慢、不能保證收斂到全局最小點，網(wǎng)絡的中間層及它的單元數(shù)選取無理論指導及網(wǎng)絡學習和記憶的不穩(wěn)定性等缺陷，提出了許多改進算法。
1 傳統(tǒng)的BP算法簡述 BP算法是一種有監(jiān)督式的學習算法，其主要思想是：輸入學習樣本，使用反向傳播算法對網(wǎng)絡的權值和偏差進行反復的調(diào)整訓練，使輸出的向量與期望向量盡可能地接近，當網(wǎng)絡輸出層的誤差平方和小于指定的誤差時訓練完成，保存網(wǎng)絡的權值和偏差。具體步驟如下： （1）初始化，隨機給定各連接權[w],[v]及閥值θi,rt。
(2)由給定的輸入輸出模式對計算隱層、輸出層各單元輸出 bj=f（■wijai-θj） ct=f（■vjtbj-rt） 式中：bj為隱層第j個神經(jīng)元實際輸出；ct為輸出層第t個神經(jīng)元的實際輸出；wij為輸入層至隱層的連接權；vjt為隱層至輸出層的連接權。 dtk=(ytk-ct)ct(1-ct) ejk=[■dtvjt] bj(1-bj) 式中：dtk為輸出層的校正誤差；ejk為隱層的校正誤差。
（3）計算新的連接權及閥值，計算公式如下： vjt(n+1)=vjt(n)+琢dtkbj wij(n+1)=wij(n)+茁ejkaik rt(n+1)=rt(n)+琢dtk θj(n+1)=θj(n)+茁ejk 式中：琢，茁為學習系數(shù)（0。
2.什么是BP神經(jīng)網(wǎng)絡
BP網(wǎng)絡是一種神經(jīng)網(wǎng)絡學習算法。
其由輸入層、中間層、輸出層組成的階層型神經(jīng)網(wǎng)絡，中間層可擴展為多層。相鄰層之間各神經(jīng)元進行全連接，而每層各神經(jīng)元之間無連接，網(wǎng)絡按有教師示教的方式進行學習，當一對學習模式提供給網(wǎng)絡后，各神經(jīng)元獲得網(wǎng)絡的輸入響應產(chǎn)生連接權值（Weight）。
然后按減小希望輸出與實際輸出誤差的方向，從輸出層經(jīng)各中間層逐層修正各連接權，回到輸入層。此過程反復交替進行，直至網(wǎng)絡的全局誤差趨向給定的極小值，即完成學習的過程。
找個神經(jīng)網(wǎng)絡軟件，如NeuroSolutions或邁實神經(jīng)網(wǎng)絡軟件，邊操作邊學習，會更好的理解神經(jīng)網(wǎng)絡。
3.BP神經(jīng)網(wǎng)絡的介紹
BP(Back Propagation)神經(jīng)網(wǎng)絡是1986年由Rumelhart和McCelland為首的科學家小組提出，是一種按誤差逆?zhèn)鞑ニ惴ㄓ柧毜亩鄬忧梆伨W(wǎng)絡，是目前應用最廣泛的神經(jīng)網(wǎng)絡模型之一。BP網(wǎng)絡能學習和存貯大量的輸入-輸出模式映射關系，而無需事前揭示描述這種映射關系的數(shù)學方程。它的學習規(guī)則是使用最速下降法，通過反向傳播來不斷調(diào)整網(wǎng)絡的權值和閾值，使網(wǎng)絡的誤差平方和最小。BP神經(jīng)網(wǎng)絡模型拓撲結(jié)構包括輸入層（input）、隱層（hidden layer）和輸出層（output layer）。
4.什么是BP神經(jīng)網(wǎng)絡
BP算法的基本思想是：學習過程由信號正向傳播與誤差的反向回傳兩個部分組成；正向傳播時，輸入樣本從輸入層傳入，經(jīng)各隱層依次逐層處理，傳向輸出層，若輸出層輸出與期望不符，則將誤差作為調(diào)整信號逐層反向回傳，對神經(jīng)元之間的連接權矩陣做出處理，使誤差減小。經(jīng)反復學習，最終使誤差減小到可接受的范圍。具體步驟如下：
1、從訓練集中取出某一樣本，把信息輸入網(wǎng)絡中。
2、通過各節(jié)點間的連接情況正向逐層處理后，得到神經(jīng)網(wǎng)絡的實際輸出。
3、計算網(wǎng)絡實際輸出與期望輸出的誤差。
4、將誤差逐層反向回傳至之前各層，并按一定原則將誤差信號加載到連接權值上，使整個神經(jīng)網(wǎng)絡的連接權值向誤差減小的方向轉(zhuǎn)化。
5、対訓練集中每一個輸入—輸出樣本對重復以上步驟，直到整個訓練樣本集的誤差減小到符合要求為止。
5.BP神經(jīng)網(wǎng)絡的原理的BP什么意思
Back PropagationBP (Back Propagation)神經(jīng)網(wǎng)絡，即誤差反傳誤差反向傳播算法的學習過程，由信息的正向傳播和誤差的反向傳播兩個過程組成。
輸入層各神經(jīng)元負責接收來自外界的輸入信息，并傳遞給中間層各神經(jīng)元；中間層是內(nèi)部信息處理層，負責信息變換，根據(jù)信息變化能力的需求，中間層（隱含層）可以設計為單隱層或者多隱層結(jié)構；最后一個隱層傳遞到輸出層各神經(jīng)元的信息，經(jīng)進一步處理后，完成一次學習的正向傳播處理過程，由輸出層向外界輸出信息處理結(jié)果。神經(jīng)網(wǎng)絡很多種，BP神經(jīng)網(wǎng)絡最常用。
6.BP神經(jīng)網(wǎng)絡的特性
思維學普遍認為，人類大腦的思維分為抽象（邏輯）思維、形象（直觀）思維和靈感（頓悟）思維三種基本方式。
邏輯性的思維是指根據(jù)邏輯規(guī)則進行推理的過程；它先將信息化成概念，并用符號表示，然后，根據(jù)符號運算按串行模式進行邏輯推理；這一過程可以寫成串行的指令，讓計算機執(zhí)行。然而，直觀性的思維是將分布式存儲的信息綜合起來，結(jié)果是忽然間產(chǎn)生想法或解決問題的辦法。這種思維方式的根本之點在于以下兩點：1.信息是通過神經(jīng)元上的興奮模式分布儲在網(wǎng)絡上；2.信息處理是通過神經(jīng)元之間同時相互作用的動態(tài)過程來完成的。
人工神經(jīng)網(wǎng)絡具有初步的自適應與自組織能力。在學習或訓練過程中改變突觸權重值，以適應周圍環(huán)境的要求。同一網(wǎng)絡因?qū)W習方式及內(nèi)容不同可具有不同的功能。人工神經(jīng)網(wǎng)絡是一個具有學習能力的系統(tǒng)，可以發(fā)展知識，以致超過設計者原有的知識水平。通常，它的學習訓練方式可分為兩種，一種是有監(jiān)督或稱有導師的學習，這時利用給定的樣本標準進行分類或模仿；另一種是無監(jiān)督學習或稱無導師學習，這時，只規(guī)定學習方式或某些規(guī)則，則具體的學習內(nèi)容隨系統(tǒng)所處環(huán)境 （即輸入信號情況）而異，系統(tǒng)可以自動發(fā)現(xiàn)環(huán)境特征和規(guī)律性，具有更近似人腦的功能。
7.BP神經(jīng)網(wǎng)絡的工作原理
人工神經(jīng)網(wǎng)絡就是模擬人思維的第二種方式。這是一個非線性動力學系統(tǒng)，其特色在于信息的分布式存儲和并行協(xié)同處理。雖然單個神經(jīng)元的結(jié)構極其簡單，功能有限，但大量神經(jīng)元構成的網(wǎng)絡系統(tǒng)所能實現(xiàn)的行為卻是極其豐富多彩的。
人工神經(jīng)網(wǎng)絡首先要以一定的學習準則進行學習，然后才能工作?，F(xiàn)以人工神經(jīng)網(wǎng)絡對手寫“A”、“B”兩個字母的識別為例進行說明，規(guī)定當“A”輸入網(wǎng)絡時，應該輸出“1”，而當輸入為“B”時，輸出為“0”。
所以網(wǎng)絡學習的準則應該是：如果網(wǎng)絡作出錯誤的的判決，則通過網(wǎng)絡的學習，應使得網(wǎng)絡減少下次犯同樣錯誤的可能性。首先，給網(wǎng)絡的各連接權值賦予（0,1）區(qū)間內(nèi)的隨機值，將“A”所對應的圖象模式輸入給網(wǎng)絡，網(wǎng)絡將輸入模式加權求和、與門限比較、再進行非線性運算，得到網(wǎng)絡的輸出。在此情況下，網(wǎng)絡輸出為“1”和“0”的概率各為50%，也就是說是完全隨機的。這時如果輸出為“1”（結(jié)果正確），則使連接權值增大，以便使網(wǎng)絡再次遇到“A”模式輸入時，仍然能作出正確的判斷。
如果輸出為“0”（即結(jié)果錯誤），則把網(wǎng)絡連接權值朝著減小綜合輸入加權值的方向調(diào)整，其目的在于使網(wǎng)絡下次再遇到“A”模式輸入時，減小犯同樣錯誤的可能性。如此操作調(diào)整，當給網(wǎng)絡輪番輸入若干個手寫字母“A”、“B”后，經(jīng)過網(wǎng)絡按以上學習方法進行若干次學習后，網(wǎng)絡判斷的正確率將大大提高。這說明網(wǎng)絡對這兩個模式的學習已經(jīng)獲得了成功，它已將這兩個模式分布地記憶在網(wǎng)絡的各個連接權值上。當網(wǎng)絡再次遇到其中任何一個模式時，能夠作出迅速、準確的判斷和識別。一般說來，網(wǎng)絡中所含的神經(jīng)元個數(shù)越多，則它能記憶、識別的模式也就越多。
如圖所示拓撲結(jié)構的單隱層前饋網(wǎng)絡，一般稱為三層前饋網(wǎng)或三層感知器，即：輸入層、中間層（也稱隱層）和輸出層。它的特點是：各層神經(jīng)元僅與相鄰層神經(jīng)元之間相互全連接，同層內(nèi)神經(jīng)元之間無連接，各層神經(jīng)元之間無反饋連接，構成具有層次結(jié)構的前饋型神經(jīng)網(wǎng)絡系統(tǒng)。單計算層前饋神經(jīng)網(wǎng)絡只能求解線性可分問題，能夠求解非線性問題的網(wǎng)絡必須是具有隱層的多層神經(jīng)網(wǎng)絡。
