採用動量梯度下降演算法訓練 BP 網路

鴨脖發表於2013-02-02
梯度演算法
例1 採用動量梯度下降演算法訓練 BP 網路。
訓練樣本定義如下：
輸入向量為    
 p =[-1 -2 3  1 
     -1  1 5 -3]
目標向量為   t = [-1 -1 1 1]
解：本例的 MATLAB 程式如下： 

close all 
clear 
echo on 
clc 
% NEWFF——生成一個新的前向神經網路 
% TRAIN——對 BP 神經網路進行訓練 
% SIM——對 BP 神經網路進行模擬 
pause        
%  敲任意鍵開始 
clc 
%  定義訓練樣本 
% P 為輸入向量 
P=[-1,  -2,    3,    1;       -1,    1,    5,  -3];
% T 為目標向量 
T=[-1, -1, 1, 1]; 
pause; 
clc 
%  建立一個新的前向神經網路 
net=newff(minmax(P),[3,1],{'tansig','purelin'},'traingdm')
%  當前輸入層權值和閾值 
inputWeights=net.IW{1,1} 
inputbias=net.b{1} 
%  當前網路層權值和閾值 
layerWeights=net.LW{2,1} 
layerbias=net.b{2} 
pause 
clc 
%  設定訓練引數 
net.trainParam.show = 50; 
net.trainParam.lr = 0.05; 
net.trainParam.mc = 0.9; 
net.trainParam.epochs = 1000; 
net.trainParam.goal = 1e-3; 
pause 
clc 
%  呼叫 TRAINGDM 演算法訓練 BP 網路 
[net,tr]=train(net,P,T); 
pause 
clc 
%  對 BP 網路進行模擬 
A = sim(net,P) 
%  計算模擬誤差 
E = T - A 
MSE=mse(E) 
pause 
clc 
echo off 

相關文章