the application of fuzzy neural network on …file.scirp.org/pdf/6-3.5.pdf · email:...
TRANSCRIPT
The Application of Fuzzy Neural Network on Comprehensive Evaluation
Xinbo ZHANG, Lili WU
College of Information & Electronic Engineering, Zhejiang Gongshang University, Hangzhou, China
Email: [email protected], [email protected]
Abstract: This paper applied Fuzzy neural network to comprehensive evaluation, and used the learning process of Fuzzy neural network to determine the weight set and degree of membership function on compre-hensive evaluation. In the traditional methods of comprehensive evaluation, the weight set and degree of membership may be affected by man-made factors, but this method overcomes to some extent this problem, and improves the final precisions. To make neural network converge faster and more stable, this paper opti-mizes the network algorithm and verifies the feasibility of these optimization algorithm in practice.
Keywords: comprehensive evaluations; fuzzy neural network; weight; membership degree
模糊神经网络在综合评判上的应用
张新波,毋丽丽
浙江工商大学信息与电子工程学院,杭州,中国,310018
Email: [email protected], [email protected]
摘 要: 本文将模糊神经网络应用于综合评判,利用模糊神经网络的学习过程来确定综合评判的权重集和隶属度函数,从而较好地解决了传统的综合评判中权重和隶属度受人为因素的影响,有效地提高了最终的评判精度。为了使得神经网络能更快更平稳的收敛,本文对网络的学习算法进行了优化,并从实践上验证了这些优化算法的可行性。
关键词: 综合评判;模糊神经网络;权重;隶属度 1 引言
对一个事物的评价,往往要涉及多个因素或者多
个指标。为了做出更合理的评价,就必须对这多个因
素进行综合考虑,这便是综合评判。综合评判一般是
由因素集U,评判集V和评判矩阵R组成。
综合评判的一个难点是是权重的确定。其取值的
好坏直接影响评判结果的好坏。目前常用的确定权重
的方法有专家咨询法、二元对比排序法、层次分析法、
调查统计法等,这些方法过多地依赖人的主观经验;
文献[1]中提出了利用综合评判的逆问题-解模糊关系
方程来确定权重,但最终选择哪组解仍依赖专家的意
见;文献[2]中用粗糙集理论来确定权重,存在数据离
散化方法难以确定,所得结果易陷入片面性等问题;
文献[3]中利用嫡权法和加权平方法来确定权重,比较
复杂,并且对原始数据要求比较高。总之,需要一种
更客观合理的方法。
综合评判的另一个难点是单因素评判矩阵中隶属
度的确定。常用的方法有百分比统计法、图形法、线
性分析法等。百分比统计法的前提必须是由足够样本
数据的存在才能保证隶属度的稳定性;图形法实现过
程不宜采用计算机处理,而且过程繁琐,不利于程序
的实现[4]。
为了得到更客观合理的权重集和隶属度函数,本
文把模糊神经网络用于综合评判[4],利用模糊神经网
络的误差反传来不断调整综合评判的权重和隶属度。
并通过对网络算法进行多方面的优化,减少了迭代次
数,也使得网络能够更快更平稳的收敛。
2 模糊神经网络
近年来,随着模糊技术和神经网路的发展,人们
将两者有机结合起来形成了一个新的领域-模糊神经
网络。模糊神经网络汇集了两者的优点,整个系统具
有较强的学习能力和组织能力。一种简单的模糊取大资助项目:浙江省自然科学基金资助项目(Y1080264);浙江省高
校青年教师资助计划项目
337 978-1-935068-10-5 © 2010 SciRes.
Proceedings of Annual Conference of China Institute of Communications
神经元如下[5]。
设 X 是模糊取大逻辑神经元的 n 个
输入(图 1 所示), 是对应的权值, ,1 2 n=(x ,x ,...,x )
iw 1, 2,...,i n 为阈值,作用函数 f 为:
( ( ))y f g x =
1 ( ) 1
( ) 0 ( ) 1
0 ( ) 0
g x
g x g x
g x
其中 ( )g x =1( )
n
i iiw x
Figure 1. Fuzzy maximum logic neurons
图 1.模糊取大逻辑神经元
Figure 2. The structure of fuzzy neural network
图 2.模糊神经网络结构
模糊神经网络结构如图 2所示,在图 2中,
X 是因素集,它作为第一层输入网络;
第二层输入为 ;第二层与第三层之间的连接 为权
重;第四层完成模糊逻辑运算;最后是输出层
1 2 n=(x ,x ,...,x )
i jr iw
jb ,
。这是一个前馈多层网络,通过误差反传
调节各层神经元的权值,直至期望输出与实际输出的
误差达到最小。
1, 2,...,j m
3 模糊神经网络在综合评判上的应用
3.1 综合评判
对一个事物的评价,往往要涉及多个因素或者多
个指标。为了做出更合理的评价,就必须对这多个因
素进行综合考虑,这便是综合评判。
综合评判的一般模型是由因素集U,评判集V和评
判矩阵R组成。对于已知因素集U 和评
判集V= , U中各因素所占的比重为权重
集A:A=( ),其中 为第i个指标因素所占的
权重,
1 2 n={u ,u ,...,u }
1 2 m{v ,v ,...,v }
1 2, ,... nw w w
1
n
i
iw
=1 iw w
i j(r )
R
。若第i个指标因素对于第
j个评判结果的隶属度为 ,则n个指标因素所构成的
隶属度矩阵R 为n行m列的矩阵。那么结果向量
( i
r
0)
i j
B A = 。 1 2( , ,... mb b b )
3.2 用模糊神经网络确定综合评判的权重
模糊神经网络具有强大的学习功能,通过大量反
复的学习,可以得到最优的权重集,我们按图2的模糊
神经网络来确定综合评判的权重。 确定权重学习算法如下:设 *jb
m
, 为期
望输出向量, ,
1,2,...,j m
jb 1,2,...,j 为实际输出向量。对每一
个样本给定误差函数 2)j jb b1
1
2
m
pj
E
( * ,则对所有N
个样本训练的总误差函数为 2)j1 1
( *N m
jp j
E b
1
2b 。
(1) 初始化,给定初始值 ,矩阵的学习样本
,期望输出向量 ,并给定
误差 ε, 为 时刻第 i个输入的权重向量,
。
i (0)w
1 2*, *,.B B1 2, ,... NR R R
i
i=1,2,...,n
.., *NB
( )w k k
(2) 计算总误差E,若满足E ε,则停止迭代,网
络节点的值即为权重集W;否则转到(3)调节网络权值
直至满足E ε为止。
(3) 优化的网络权值调整为:
根据梯度下降法,权值的修正公式为:
( )iw k = ( 1)iw k - =-η( )iw k p
i
E
w
=-η1
mp j
j j i
E b
b w
=η1
( * )m
j j i jj
b b r
式中 η是学习速率,在标准算法中一般取 0<η<1,
但 η 太小网络收敛速度慢,η 太大到达极值点时,会
产生反复振荡等。为了解决此问题,可采用如下的变
步长的算法[7]: ( )iw k = ( 1)iw k - =η(k)D(k) ( )iw k
η(k)=2λη(k-1)
λ=sgn[D(k) D(k-1)]
338978-1-935068-10-5 © 2010 SciRes.
Proceedings of Annual Conference of China Institute of Communications
式中 D(k)=- p
i
E
w
为 k 时刻的负梯度,D(k-1)是 k-1
时刻的负梯度。当连续两次迭代其梯度方向相同时,
表明下降太慢,此算法可使步长增大;梯度方向相反
时,表明下降太快,此算法可使步长减小,从而避免
过度振荡。
为了使学习过程更加平稳,也可以考虑加入动量
项 α[8],一般取 0<α<1,修正上述算法为:
( )iw k = - ( 1)iw k ( )iw k
=η(k)[(1-a)D(k)+ aD(k-1)]
η(k)=2λη(k-1)
λ=sgn[D(k) D(k-1)]
上述算法的步长在迭代过程中自适应调整,因此
对于不同的连接权系数实际上采用了不同的学习速
率。此时误差函数 在不同方向按各自比较合理的步
长向极小点逼近,逐步收敛。 pE
3.3 用模糊神经网络确定综合评判的隶属度
根据上述过程中已经确定了的权重,仍按图 2 的
模糊神经网络进行隶属度的调整及确定。所不同的是,
第二层与第三层之间的权重已经调节好,第二层的输
入 即为所要求的隶属度。仍采用误差反传的迭代算
法:
i jr
(1) 给定初始隶属度 ,期望输出向量(0)i jr
*jb , ,并给定误差 ε,总误差函数为1,2,...,j m
2
1 1
1( * )
2
N m
j jp j
E b
b 。
(2) 用 计算实际输出B A R jb , ,
并计算总误差 E,若 ε,则停止迭代,否则转入(3)
调整隶属度。
1,2,...,j m
E
(3) = =-ηi jr ( 1) (i j i jr k r k )i j
E
r
=-η1
mj
j j i j
bE
b r
=η
1
( * )m
j j ij
b b w
式中 为 时刻的隶属度, 为 时
刻的隶属度,η 是学习步长,一般取 0<η<1,也可采
用上述优化的算法确定步长。
( 1)i jr k 1k ( )i jr k k
用以上方法确定的隶属度是在前一时刻基础上的
寻优,自适应能力强,相比调查统计法和专家意见法
更为客观合理。
4 实例分析
人们往往根据一个教师的工作态度、教学能力等
因素对他进行考核,这些评判往往受主观因素的影响
很大。我们选取如下的因素集和评判集,因素集
U={u1,u2,u3,u4},其中 u1 表示师德师风,u2 表
示工作态度;u3 表示教学能力;u4 表示教学成绩;
V={v1, v2, v3, v4}, v1 表示优秀,v2 表示良好,v3 表
示合格,v4 表示不合格。请学生对某位老师进行单因
素评判,得到 20 个样本的评判矩阵 R1, R2, ...R20,假
设已生成模糊权值 =[0.1 0.1 0.3 0.5],由w B A R 得 1, , … 。假定 20 个样本的目标输出全部为
T=[0.2 0.4 0.3 0.1], 取 η=0.5,这个模糊权重带有很强
的主观性。为了更客观合理的评价,我们采用上述的
模糊神经网络来确定权重,并对几种优化的算法进行
比较分析,如表 1 和下图所示:
B 2B 2 0B
Table 1. The comparison of three kinds of algorithm
表 1. 三种算法的比较
网络训 练算法
权值 w1 w2
w3 w4
平均迭 代次数
目标 误差
实际 误差
标准算法
0.102 0.106 0.297 0.495
156 0.0001 8.3491e-005
变步长法
0.098 0.101 0.302 0.499
17 0.0001 4.8507e-005
加入动量
项的变步
长综合法
0.101 0.103 0.298 0.498
14 0.0001 5.6432e-005
由表 1 和图 3、图 4、图 5 可以看出,标准的算法
存在收敛速度慢、迭代次数多等缺陷,采用变步长的
算法收敛速度明显加快 9 倍多,然而误差的变动比较
大、收敛稍有跌宕起伏。采用加入合适的加入动量项
的综合算法后,收敛更快更平稳,性能更为优越
0 20 40 60 80 100 120 140 1600
0.002
0.004
0.006
0.008
0.01
0.012
0.014
0.016
0.018
0.02
epoch Figure 3. The error curve of standard algorithm
图 3. 标准算法的误差曲线
339 978-1-935068-10-5 © 2010 SciRes.
Proceedings of Annual Conference of China Institute of Communications
0 2 4 6 8 10 12 14 160
0.005
0.01
0.015
0.02
0.025
0.03
epoch Figure 4. The error curve of variable learning rate algorithm
图 4. 变步长算法的误差曲线
0 2 4 6 8 10 12 140
0.005
0.01
0.015
0.02
0.025
0.03
epoch
Figure 5. The error curve of integrated algorithm
图 5. 综合算法的误差曲线
5 结论
本文把模糊神经网络应用于综合评判中来确
定评判的权重和隶属度,从而减少了综合评判中人
为因素的影响,较好地解决了主观因素影响评判精
度的问题,得到了更精确的权重和隶属度。文中针
对以往神经网络算法的不足,对网络算法进行了优
改进化,优化后的算法能使网络更快速平稳的收
敛,从而使得期望输出与实际输出的误差快速达到
期望值,减少了运算和迭代次数
致 谢
感谢我的导师张新波教授!本论文是在张老师的
细心指导下完成的,导师严谨的治学作风、认真负责
的工作态度使我受益匪浅。在此,特向导师致以最诚
挚的敬意和最衷心的感谢!最后衷心感谢编辑和评委
能够耐心审阅此论文,希望您们提出宝贵的意见!
References (参考文献)
[1] LI Jing, Hu Lei, Application of Fuzzy Comprehensive Judge-ment for City Development Level [J], Journal of Southeast Uni-versity (Natural Science Edition), 2002 ,32(2) , P297–300(Ch). 李璟,胡磊,城市现代化水平的模糊综合评判[J],东南大学
学报(自然科学版), 2002, 32(2), P297-300. [2] Shi Xiao, Zhao Qingfei, Determination of Fuzzy Comprehensive
Estimation Weighting Coefficient on Rough Set Theory[J], Journal of Southwest Petroleum Institute, 2001e, 23(3), P16–19(Ch). 石骁,赵庆飞,基于粗糙集理论的模糊综合评判权值确定[J],西南石油学院报,2001, 23(3), P16–19.
[3] HE Nan, QI Shuwen, Research of Assessing the Employee’s Achievement on Account of Weighe of Entropy[J], Journal of North China Institute of Water Conservancy and Hydroelectric Power(Social Science), 2009, 25(2), P36–38(Ch). 何楠,齐书文,基于熵权的企业员工绩效评价研究[J],华北
水利水电学院学报(社科版),2009, 25(2), P36–38. [4] Zhao Lianghong, On Two Methods of Delimiting Membership
of Factor[J], Journal of Shaoxing College of Arts and Sciences, 2001, 21(4), P9–10(Ch). 赵梁红,关于综合评判法中确定因素隶属度的两种方法[J],绍兴文理学院,2001, 21(4), P9–10.
[5] Du Huaying, Zhao Yuelong, Comparison and Research of Artifi-cial Neural Networks, [J] Computer technology and Develop-ment, 2006, 12(5), P97–99(Ch). 杜华英,赵跃龙,人工神经网络典型模型的比较研究[J],计
算机技术与发展,2006,12(5),P97-99. [6] Zhao Liping, A Comprehensive Evaluation Method on the Base
of Fuzzy Neural Network [J], Journal of East China Shipbuild-ing Institute, 1999,13(3), P1–4(Ch). 赵莉萍,模糊神经网络在综合评判中的应用研究,华东船舶
工业学院学报[J],1999, 13(3), P1–4. [7] Chen Xusheng, Wang Baoshuai. Freeway Traffic Incident De-
tection Based on Improved BP Neural Network [J], Journal of Xinyang Agricultural College, 2009,19(2), P36–39(Ch). 陈旭生,王保帅,基于改进的 BP 网络的高速公路事件检测,
信阳农业高等专科学校学报[J],2009, 19(2), P36–38. [8] Yang Jiapei, Li Qiang, Liu Zheng, Yuan Xiaolin, Research of
Improved BP Rlgorithm Based on Self-adaptive Learning Rate [J], Computer Engineering and Application, 2009, 45(11), P56–58(Ch). 杨甲沛,李锵,刘郑,袁晓琳,基于自适应学习速率的改进
型 BP 算法研究[J],计算机工程与应用,2009, 45(11) P56–59.
340978-1-935068-10-5 © 2010 SciRes.
Proceedings of Annual Conference of China Institute of Communications