共轭梯度算法的设计与实现毕业设计.doc
西安石油大学本科毕业设计(论文)本科毕业设计(论文)开题报告题目:共轭梯度算法的设计与实现学生姓名:院(系):理学院专业班级:信息0602指导教师:完成时间:2010年月日西安石油大学本科毕业设计(论文)一、课题的意义最优化方法是近几十年形成的,它主要运用数学方法研究各种系统的优化途径及方案,为决策者提供科学决策的依据。最优化方法的目的在于针对所研究的系统,求得一个合理运用人力、物力和财力的最佳方案,发挥和提高系统的效率及效益,最终达到系统的最优目标。实践表明,随着科学技术的日益进步和生产经营的日益发展,最优化方法已成为现代管理科学的重要理论基础和不可缺少的方法,被人们广泛地应用到公共管理、经济管理、国防等各个领域,发挥着越来越重要的作用。最优化方法又可分为无约束最优化方法和约束最优化方法,其中无约束最优化方法包括最速下降法,牛顿法,共轭方向法,以及共轭梯度法和变尺度法,约束优化方法包括单纯形法,解线性规划的图解法,等式约束的罚函数法,以及Rosen梯度投影法。本文将讨论无约束最优化方法下的共轭梯度法,通过MATLAB编程实现,并以具体实例得出相应的数值结果,然后验证该方法是否有效。二、国内外研究现状近年来,随着模糊理论、神经网络等智能技术和计算机技术的发展,智能式的优化方法越来越受重视。现今,国内外主要研究的方法有:(1)神经网络优化方法人工神经网络的研究起源于1943年和McCulloch和Pitts的工作。在优化方面,1982年Hopfield首先引入Lyapuov能量函数用于5判断网络的稳定性,提出了Hopfield单层离散模型;Hopfield和Tank又发展了Hopfield单层连续模型。1986年,Hopfield和Tank将电子电路与Hopfield模型直接对应,实现了硬件模拟;Kennedy和Chua基于非线性电路理论提出了模拟电路模型,并使用系统微分方程的Lyapuov函数研究了电子电路的稳定性。这些工作都有力地促进了对神经网络优化方法的研究。(2)模糊优化方法最优化问题一直都是模糊理论应用最为广泛的领域之一。自从Bellman和L.A.zadeh在70年代初期对这一研究作出开创性工作以来,其主要研究集中在一般意义下的理论研究、模糊线性规划、多目标模糊规划、以及模糊规划理论在随机规划及许多实际问题中的应用。主要的研究方法是利用模糊集的a截集或确定模糊集的隶属函数将模糊规划问题转化为经典的规划问题来解决。(3)支持向量机方法支持向量机是由Vapnik领导的AT&TBell实验室研究小组在1963年提出的一种新的非常有潜力的分类技术,SVM是一种基于统计学习理论的模式识别方法,主要应用于模式识别领域。由于当时这些研究尚不十分完善,在解决模式识别问题中往往西安石油大学本科毕业设计(论文)趋于保守,且数学上比较艰涩,这些研究一直没有得到充分的重视。直到90年代,统计学习理论的实现和由于神经网络等较新兴的机器学习方法的研究遇到一些重要的困难,比如如何确定网络结构的问题、过学习与欠学习问题、局部极小点问题等,使得SVM迅速发展和完善,在解决小样本、非线性及高维模式识别问题中表现出许多特有的优势,并能够推广应用到函数拟合等其他机器学习问题中。共轭梯度法在以上的优化方法中都得到了应用,例如,有学者就应用共轭梯度法对网络的权值和阂值进行优化计算,完成神经网络训练的方法;还有学者在支持向量机方法中应用共轭梯度法,便得到了一种更有效的光滑支持向量机方法。三、毕业论文的主要内容1了解共轭梯度法的背景和意义。2建立一个求解无约束最优化问题的共轭梯度算法。3阐述该算法的具体实现步骤并分析该算法的全局收敛性。4通过MATLAB编程实现得到的数值实验结果来验证算法是否有效。四、所采用的方法、手段以及步骤通过网络、书籍和一些参考资料,查询相关信息,理解什么是共轭梯度法,以及如何应用共轭梯度法完成最优化设计。将从以下几个内容考虑:1.建立一个求解无约束最优化问题的共轭梯度算法:通过实例,结合参考资料以及自己所掌握的知识,建立一个求解该实例的共轭梯度算法。2.分析算法的全局收敛性:运用所学知识,并借鉴一些学者的文献证明该算法在指定的搜索方向下具有全局收敛性。3.通过数值实验结果来验证算法是否有效:通过MATLAB编程,代入实例中的相关数据得到一些相关的数值结果,最后对数据进行分析验证,判断该算法是否有效。五、阶段进度计划第1-2周:在老师的指导下,搜索与共轭梯度法相关的资料,按照规定做相应的外文翻译,并了解其背景、应用及意义,弄懂该方法的基本思想。第3-4周:查阅相关参考资料,完成开题报告和外文翻译,并通过老师的审查第5-6周:对毕业设计的具体内容做详细的了解,分析研究共轭梯度法,并完成论文的引言部分。第7-9周:建立一个求解实际问题的共轭梯度算法,阐述该算法的具体实现步骤并分析该算法的全局收敛性,完成论文的核心部分。第9-10周:通过MATLAB编程对算法进行检验并对算法是否有效进行解释,并完成论文最后的结束语部分。第11-12周:整合以上各个阶段的成果,总结所做的工作,并完成论文的初稿。西安石油大学本科毕业设计(论文)第13-15周:将论文初稿交予指导老师审阅,根据老师的意见修改并完善论文。第16周:请评阅老师评阅论文,最后进行毕业论文的答辩。六、参考文献1袁亚湘,孙文瑜.最优化理论与算法M.北京:科学出版社,1997.2蒋金山,何春雄,潘少华.最优化计算方法M.广东:华南理工大学出版社,2008.3张秀军,徐安农.一种新的非线性共轭梯度法的全局收敛性J.广西科学报,2005,5(04):87-96.4时贞军.精确搜索下的非线性共轭梯度法J.数学物理学报,2004,21(06):55-58.5云天铨.二维无约束优化问题的最优方向搜索法J.华中科技大学学报(自然科学版),1980,22(03):73-85.6张秀军,徐安农,李安坤,蒋利华.改进的共轭梯度法及其收敛性J.桂林电子工业学院学报,2005,13(06):5-8.7孟江,王耀才,洪留荣.共轭梯度与牛顿混杂算法及在神经网络的应用J.计算机工程与应用,2004,25(35):31-37.8陈红霞,袁业立,刘娜,曲媛媛.非线性共轭梯度法在东海黑潮流计算中的应用J.海洋学报(中文版),2003,18(06):131-139.9王磊.支持向量机学习算法的若干问题研究.成都:电子科技大学博士学位论文,2007.10袁玉波,严杰,徐成贤.多项式光滑的支持向量机.计算机学报,2005,28(1):9-17.