优化中医八纲辨证神经网络参数的MIGA-1 算法.pdf

收稿日期:2008-01-14；修回日期:2008-03-24基金项目:国家自然科学基金资助项目(60672018)；厦门理工学院科研启动基金资助项目(YKJ07012R)作者简介:吴芸(1979-),女,博士,主要研究方向为软计算、中医信息处理()；周昌乐(1962-),男,教授,博导,博士,主要研究方向为人工智能.优化中医八纲辨证神经网络参数的MIGA-1算法*吴芸1,周昌乐2(1.厦门理工学院计算机科学与技术系,福建厦门361024；2.厦门大学信息科学与技术系,福建厦门361005)摘要:从分析中医八纲辨证神经网络的不足出发,在基于Meta种群理论免疫遗传算法(MIGA)的基础上设计了一种优化中医八纲辨证神经网络参数的免疫遗传算法MIGA-1优化算法。实验结果表明,以MIGA-1算法作为参数优化机制的中医八纲辨证神经网络具有更好的自我适应能力,减少了人为设定参数的随意性。关键词:免疫遗传算法；中医八纲辨证神经网络；优化中图分类号:TP301.6文献标志码:A文章编号:1001-3695(2008)10-2949-02MIGA-1foroptimizedEPSNNsparametersWUYun1,ZHOUChang-le2(1.Dept.ofComputerScience&Technology,XiamenUniversityofTechnology,XiamenFujian361024,China；2.Dept.ofInformationSci-ence&Technology,XiamenUniversity,XiamenFujian361005,China)Abstract:AnalyzingtheshortcomingoftheEPSNN,thispaperdesignedakindofimmunitygeneticalgorithmMIGA-1tooptimizetheEPSNNsparameters,whichwasbasedontheMIGAalgorithm.AndtheexperimentalresultsshowthattheMI-GA-1canmaketheEPSNNhavebetteradaptabilityanddecreasetherandomicitytotheartificialselectionoftheparameters.Keywords:immunitygeneticalgorithm(IGA)；TCMeightprincipalsyndromesANN(EPSNN)；optimization中医八纲辨证神经网络模型1主要根据对标准样本病例的“记忆”和人为设定参数,对病例进行辨证分析计算,对标准样本病例的模范性和人为设定参数的合理性要求高。而标准样本病例是通过人工归纳总结获得,所以中医八纲辨证神经网络模型根据临床病例自动学习的能力较差,不利于中医八纲辨证神经网络模型的临床实用性推广。为此,需要引入对临床病例的“学习”能力,使其能够提高自适应能力,减少对标准样本病例的模范性要求和依赖性,以及人为设定参数的随意性。但是根据中医辨证机制特点,采用传统神经网络的学习策略不能满足对中医八纲辨证神经网络的优化要求。因此,采用具有全局搜索能力的遗传算法作为中医八纲辨证神经网络模型的学习机制,实现达到对中医八纲辨证神经网络的优化目的。本文首先在MIGA优化算法2的基础上设计了MIGA-1优化算法,对中医八纲辨证神经网络模型的相关参数进行优化。在基本保证中医八纲辨证神经网络模型辨证计算准确性的基础上,提高中医八纲辨证神经网络模型的自适应能力,减少人为设定参数的随意性。1中医八纲辨证神经网络本文设计的中医八纲辨证神经网络采用三层前馈式神经网络模型,如图1所示。中医八纲辨证神经网络采用三层前馈式神经网络模型,其神经元数目以及神经元间的连接相对固定,输入层的预处理神经元与辨证计算隐层的第一子层神经元的连接权值是由输入样本决定,而辨证计算隐层第二子层神经元与输出层的后处理神经元的连接权值由期望结果向量决定。其中第一子层神经元的激活函数中包含两个重要的参数:a)函数f(x)的方差。它控制函数方差可以得到不同的分类器,有利于根据实际待分类的问题适当调整神经网络的分类性质,但人工选择适合于中医八纲辨证的分类器比较困难,并且随机获取的参数具有很大的盲目性,不一定是最适合中医八纲辨证的数值。b)第一子层神经元的阈值。它能够适当地调整激活函数,提高隐层神经元激活函数的计算准确度。因此,有必要根据输入的样本数据对参数和进行优化,寻找最合适的和。由于中医八纲辨证神经网具有独特的网络结构,采用传统学习机制进行学习,计算量大,而且受到训练样本的限制。笔者以具有全局择优能力的MIGA算法理论为基础设计了MIGA-1算法对网络参数和进行优化。2优化中医八纲辨证神经网络参数的MIGA-1算法MIGA-1算法是根据MIGA优化算法理论2,对中医八纲第25卷第10期2008年10月计算机应用研究ApplicationResearchofComputersVol.25No.10Oct.2008辨证神经网络参数进行优化的免疫遗传算法。因此MIGA-1算法继承了MIGA优化算法的优点,能够在全局范围内有效地搜索中医八纲辨证神经网络的最优参数值。2.1编码采用双染色体的二进制编码。其中一条染色体包含参数的信息(染色体)；另一条染色体包含参数的信息(染色体),如图2所示。其中,每条染色体中包含以小数点分隔的两部分。小数点左边部分(m位数,m1)表示数值的整数部分,其范围为0,2m-1；小数点右边部分(n位数,n1)表示数值的小数部分,其范围为0,2n-1。其中,m,nZ+。2.2适应函数由于本文设计的中医八纲辨证神经网络的连接权值是利用样本集设置的,在对中医八纲辨证神经网络参数和的进化过程中,若利用标准样本集来测试种群个体的适应度,参数和取任何值,网络的性能是一样的。采用网络对测试集计算的结果寻找网络最优的参数和,适应度计算函数为f=Ei(Vs)。其中:E(Vs)=1/MSE(x)+；是随机值；是选定的小于1大于0的参数；Vs是测试样本集；MSE(x)=不符合期望的中医证型数目。2.3交叉操作在MIGA-1算法运行过程中,交叉概率pc随着种群适应值的变化而自动调整。设MIGA种群中局部种群内第i个体的交叉概率为pic,则pic=(fmax-fi)/(fmax-f)fifpicfif其中:是小于1的常数,初始时由随机机制产生；fi是参与变异个体i的适应值；fmax、f分别是群体中最高适应值和局部种群个体平均适应值；fmax-f体现了局部种群的收敛程度,若fmax-f值小,说明局部种群已趋于收敛,应适当加大交叉概率pc,控制参与交叉操作的个体数量。对双染色体进行交叉操作,双位点异步交叉操作,即在染色体小数点左右两侧各选交叉点进行交叉操作。染色体和染色体交叉点的位置可以不一致,如图3所示。染色体虚线框中的基因进行交换和染色体虚线框中的基因进行交换,它们各自选择的交叉点允许不同。小数点左边染色体的交叉点定位为0,m,右边染色体的交叉点定位为0,n,0位置规定为小数点的左右两边。当染色体左右两边交叉操作同时定位为0或左边染色体交叉操作定位为m,右边染色体交叉操作定位为n时,认为定位失败,重新定位。2.4变异操作在MIGA-1算法运行过程中,变异概率pm随着种群适应值的变化而自动调整。设MIGA-1种群中局部种群内第i个体的变异概率为pim,则pim=(fmax-fi)/(fmax-f)fifpimfif其中:是小于1大于0的常数,初始时由随机机制产生；fim是参与变异个体i的适应值；fmax、f分别是群体中最高适应值和局部种群个体平均适应值；fmax-f体现了局部种群的收敛程度,若fmax-f值小,说明局部种群已趋于收敛。适当调整变异概率pm可以控制参与变异操作的个体数量。变异操作采用不定点变异对个体进行变异操作,即选定进行变异操作的个体根据该个体的适应值进行变异点的选择。若个体适应值大,变异点数目减少；若个体适应值小,其变异点数目增多。变异点数m=1/fi=MSE(Vs),即与期望结果不符合的八纲证型个数作为该个体变异点的个数。2.5进化终止条件进化终止条件是MIGA-1算法停止进化的判断条件。从两个方面终止进化:a)已经达到指定进化代数；b)某个局部种群中的个体适应值已达到要求,即找到最优解。在优化中医八纲辨证神经网络参数时,局部种群的当代最优解视为含有记忆B细胞的个体。Meta-种群规模为610个,每个局部种群规模随机确定,设定小于200。每个局部种群的规模大小可以不相同。3实验结果及其分析笔者选择了11个标准样本病例作为八纲辨证神经网络的学习样本,八纲辨证神经网络的输入预处理层有8个输入预处理神经元；辨证计算隐层的第一子层有11个计算神经元,第二子层是6个计算神经元；输出后处理元1个,网络最后的输出神经元有8个,分别表示表证、里证、虚证、实证、寒证、热证、阴虚证、阳虚证；八纲辨证神经网络的结构连接采用全连接方式,并根据样本病例设置连接权值,如表1和2所示。在早期的研究中,中医八纲辨证神经网络对网络参数和的选定,是根据网络辨证计算结果进行人工调整,从中选择能够使网络辨证计算结果相对最优的参数和值。为了避免上述人为操作,采用MIGA-1优化算法查找中医八纲辨证神经网络的最优参数和。其中经多次100次进化迭代训练后,中医八纲辨证神经网络对测试样本辨证计算误差值最小的网络参数值为=0.75,=196819713976147831943218076。根据参数和寻优后的数值,中医八纲辨证神经网络对43例病例进行辨证计算。实验表明MIGA-1算法在一定程度上提高了八纲辨证神经网络的辨证计算的准确性、计算性能和临床适应能力,具体结果见表3。表1八纲辨证神经网络辨证计算隐层第一子层的连接权值出入发热恶寒体色小便色年龄病程舌色苔色舌形声息脉力度1100000002-100000003001000-1-1400100-10-1500000-1-1-160010000-1700-110111800-110011900000011100-10-1-10001101011000注:入为输入预处理层神经元；出为辨证计算隐层第一子层神经元(下转第2976页)0592计算机应用研究第25卷表2函数F4F7的测试结果函数全局最优解偏离度NPSONichePSO收敛率/%NPSONichePSOF41.0000004.47E-092.20E-04100100F51.0000001.73E-076.43E-0210093F61.0000006.08E-084.86E-05100100F71.0000003.81E-086.68E-02100935结束语多峰值函数优化问题中,多峰值导致算法易陷入到局部极值。PSO算法只能找到一个解,因此PSO算法求解多峰值函数问题是人们关注的难题。小生境技术虽然是解决多峰值函数的有力工具,但小生境半径等参数极大地限制了小生境技术的使用效果。为此,本文提出了一种新颖的方法,无须严格地界定小生境区间,而通过判断两个点是否属于同一座山峰,克服小生境技术使用中需要小生境半径的缺点。在进化过程中,使粒子追踪所在山峰的最优粒子飞行,找到多峰函数的所有极值,克服了PSO算法只能找到一个解的缺点。通过仿真实验,验证了算法的高效有效性。参考文献:1ENNEDYJ,EBERHARTRC.ParticleswarmoptimizationC/ProcofIEEEInternationalConferenceonNeuralNetworks.NewYork:IEEE,1995:1942-1948.2SHIY,EBERHARTRC.AmodifiedparticleswarmoptimizerC/ProcofIEEEInternationalConferenceonEvolutionaryCompu-tation.Piscataway:IEEE,1998:67-73.3MAHFOUDSW.NichingmethodsforgeneticalgorithmsD.S.l.:IllinoisGeneticAl-orithmLaboratory,UniversityofIllinoisatUrbana-Champaign,1995.4CAVICCHIODJ.AdaptivesearchusingsimulatedevolutionD.Michigan,ArborIllinois:UniversityofMichigan,1970.5DeJONGKA.Ananalysisofthebehaviorofaclassofgeneticadap-tivesystemsD.Michigan:UniversityofMichigan,1975.6MAHFOUDSW.CrowdingandpreselectionrevisitedM/MAN-NERR,MANDERICKB.Parallelproblemsolvingfromnature.North-Holland:Elsevier,1992:27-36.7GOLDBERGDE,RICHARDSONJJ.Geneticalgorithmswithsha-ringformultimodalfunctionoptimizationC/Procofthe2ndInter-nationalConferenceonGeneticAlgorithms.1987:41-49.8BEASLEYD,BULLDR,MARTINRR.Asequentialnichetech-niqueformultimodalfunctionoptimizationJ.EvolutionaryCom-putation,1993,1(2):101-125.9YINX,GERMAYN.AfastgeneticalgorithmwithsharingschemeusingsharingschemeusingclusteranalysismethodsinmultimodalfunctionoptimizationC/ProcofInternationalConferenceonArtifi-cialNeuralNetworksandGeneticAlgorithms.1993:450-457.10PETROWSKIA.AclearingprocedureasanichingmethodforgeneticalgorithmsC/ProcofIEEEInternationalConferenceonEvolutio-naryComputation.Nagoya:s.n.,1996:798-803.11BRITSR,ENGELBRECHTAP,VANDENBERGHF.AnichingparticleswarmoptimizerC/Procofthe4thAsia-PacificConfonSimulatedEvolutionandLearning.2002:692-696.12BERGHFVANDEN,ENGELBRECHTAP.Anewlocallyconver-gentparticleswarmoptimizerC/ProcofIEEEConferenceonSys-tem,ManandCybernetics.2002:96-101.13PRESSWH,TEUKOLSKYSA,VETTERLINGWT,etal.Nume-ricalrecipesinC:theartofscientificcomputingM.2nded.Cam-bridge:CambridgeUniversityPress,1992.14王小平,曹立明.遗传算法理论、应用于软件实现M.西安:西安交通大学出版社,2002.(上接第2950页)表2八纲辨证神经网络辨证计算隐层第二子层的连接权值出入1234567891011110000000000201000000000300111100000400000011100500000000010600000000001注:入为辨证计算隐层第一子层神经元；出为辨证计算隐层第二子层神经元。表343例八纲病例八纲证型对比表编号中医师诊断结果NN诊断结果参数寻优后编号中医师诊断结果NN诊断结果参数寻优后1表表表23阴虚阴虚虚2表热表热表热虚24虚虚虚热3里里里25里实里实热里实热4表热表表26里虚里虚里虚5虚虚虚27里热热里里热6表寒寒表寒28表虚表虚表虚7虚虚虚29阳虚阳虚阳虚8寒寒寒30寒寒实寒实9虚虚虚31阳虚阳虚阳虚10寒寒实寒实32寒寒寒11虚虚虚33里实热里实热里实热12阳虚阳虚里虚34虚热虚热虚热13实实实35阴虚阴虚阴虚14热虚热虚虚热36虚虚虚热15实实实37里实热里实热里实热16表表表38虚热热虚热虚17实实实热39里实里实实里虚18实实实40阴虚阴虚阴虚19寒寒寒41里热热里里热20实实实热42阴虚阴虚阴虚21热热热实43表实热表实表实22虚虚实寒4结束语实验结果表明基于MIGA算法理论设计的MIGA-1算法对中医八纲辨证神经网络的参数具有一定的优化能力。因此,MIGA-1作为中医八纲辨证神经网络学习优化参数的算法,虽然增加了