（概率论与数理统计专业论文）隐非线性m估计的信赖域法及其统计性质.pdf

硕士学位论文 摘要 随着科学技术的发展。生物、医学、经济、工程等各部门提出许多非线性统计 模型，很多都不能简单化为线性模型来处理非线性模型作为线性模型的推广，其 在理论上的研究也愈来愈受到重视 本文考虑隐非线性模型：厂( 目) + 占= 0 ，其中，0 为参数，f 为随机误差深入 系统地研究了隐非线性模型的参数的m 估计理论及其算法，并突出几何概念和几 何方法的运用 全文共分五章第一章概括介绍线性模型、非线性模型的参数估计理论及其进 展，并讨论了有关m 估计、非线性最小二乘估计、曲率立体阵和信赖域法的预备 知识第二章研究了参数0 的m 估计的信赖域法，给出了基本假设、算法及其收敛 性第三章进一步讨沦了线性约束下的情形：a 。2 0 = 6 ，i e ，a ，7 0 b ，j i ，其 中a ，a ，为已知向量，b i , b ，为己知数，e 表示等式指标集，表示不等式指标集 第四章在正则条件下研究了由信赖域法得到的m 估计的统计性质：渐进正态性、 有偏性和方差非最小性第五章通过随机模拟的方法，给出m 估计的特殊情形一 一最小绝对偏差估计在g p s 定位中的应用 本文在最后得出了“干扰隋况下m 估计优于最小二乘估计的结论 关键词：非线性模型：m 估计：信赖域法：曲率立体阵：正则条件：随机模拟 i i 硕上学位论文 a b s t r a c t q t ht h er a p i dd e v e l o p m e n to fs c i e n c ea n dt e c h n o l o g y , n o n l i n e a rs t a t i s t i c a lm o d e l s a r ei n t r o d u c e di na l lk i n d so fr e g i o n ss u c ha sb i o l o g y , m e d i c i n e ，e c o n o m i c sa n d e n g i n e e r i n ge t c i ti si m p o s s i b l et ol i n e a r i z em o d e l si nm o s tc o n d i t i o n s n o n l i n e a r m o d e l sa r eg e n e r a l i z a t i o n so fl i n e a rm o d e l s ，s ot h e i rt h e o r e t i c a lr e s e a r c h e sd r a wm o r e a n dm o r es t a t i s t i c i a n s a t t e n t i o n s i nt h i sp a p e r , w ec o n s i d e ran o n l i n e a rr e g r e s s i o nm o d e lo f i m p l i c i tf u n c t i o n ： f ( o ) + = 0 ，w h e r e0i sp a r a m e t e ra n dsi sr a n d o me r r o r t h em e s t i m a t et h e o r i e s a n da l g o r i t h ma r er e s e a r c h e d s y s t e m a t i c a l l y , a n d t h ea p p l i c a t i o n so fg e o m e t r i c a l c o n c e p t sa n dm e t h o d s a r es t r e s s e d t h e r ea r ef i v ec h a p t e r si nt h ep a p e r c h a p t e r s1 ，t h et h e o r i e so fl i n e a ra n dn o n l i n e a r m o d e l sa l ei n t r o d u c e d , a n dw ea l s od i s c u s sp r e p a r e dk n o w l e d g ew h i c hi n c l u d e m e s t i m a t e ，n o n l i n e a rl e a s ts q u a r ee s t i m a t e ，c u r v a t u r ea r r a ya n dt r u s tr e g i o nm e t h o d c h a p t e r2 ，t h et r u s tr e g i o nm e t h o do fm e s t i m a t ef o rp a r a m e t e r0i sg i v e n ，a n dt h e a s s u m p t i o n s ，a l g o r i t h ma n dc o n v e r g e n c ep r o p e r t i e sa r ei n v e s t i g a t e d c h a p t e r3 ，t h e m o d e lo fl i n e a rc o n s t r a i n t si s c o n s i d e r e d a 。1 0 = h i , i e ，a ，。0 b j ，j i ，w h e r e a ia ，a r eg i v e nv e c t o r s ，b i , b ，a r eg i v e nn u m b e r s ，e i sa ni n d e xs e to f e q u a l i t y , a n d ，i sai n d e xs e to fi n e q u a l i t y c h a p t e r4 ，w eg e tt h es t a t i s t i c a lp r o p e r t i e so fm - e s t i m a t e t h a ti sd e r i v e df r o mt r u s tr e g i o na l g o r i t h m t h ep r o p e r t i e sc o v e ra s y m p t o t i cn o r m a l i t y , b i a s e de s t i m a t ea n dn o n l e a s tv a r i a n c e c h a p t e r5 ，a ne x a m p l ei s g i v e nb ys t o c h a s t i c s i m u l a t i o nm e t h o d ，w h i c hi st h ea p p l i c a t i o no fl e a s ta b s o l u t ed e v i a t i o ne s t i m a t ei n l o c a t i o nb yg p s i nt h ee n do ft h i sp a p e r , w ed r a wt h ec o n c l u s i o nt h a tm e s t i m a t ei sb e t t e rt h a nl e a s t s q u a r ee s t i m a t eu n d e rd i s t u r b e dc o n d i t i o n s k e yw o r d s ：n o n l i n e a rm o d e l ；m - e s t i m a t e ；t r u s tr e g i o nm e t h o d ；c u r v a t u r e a r r a y ；r e g u l a rc o n d i t i o n ；s t o c h a s t i cs i m u l a t i o n i i i 硕士学位论文 伊 p 口 ，( 毋) 可z ( 口) v 2 9 ( o 、 矿( 8 ) ( 口) p ( 工) 妒( x ) ( x ) 】，( 口) 爿。 巴 | v 棚 z q 符号说明付丐阢明 “定义为”或“记为” p 维参数向量 参数0 的真值 参数0 的估计量 垒厂( x ，y ，模型函数 ，( 0 ) 的梯度 g ( o ) 的h e s s e 阵 f ( o ) 的一阶导数，2 p 阶矩阵 f ( o ) 的二阶导数，即p x p 阶立体阵 m 估计的损失函数 p ( x 1 的一阶导数 p ( x ) 的二阶导数 ( 骢) ，。p 阶矩阵 _ 、o f ( o ) 可，( 目) 一 。 矩阵爿的转置 矩阵爿产生的投影阵 坚一p a 矩阵a 与立体阵z 的左方括号积 其列向量为百处切空间的标准正交基 其列向量为万处法空间的标准正交基 v ( o ) 作q r 分解的p 阶上三角矩阵 一a r 蝴t w m 7 【们，一p ) p x p 阶固有曲率立体阵 垒【q 7 】【u 】，p 。p x p 阶参数效应曲率立体阵 a z 7 。r ( o ) q a _ q 1y ( 目) 5 a n 7 y ( 万弦 表示依分布收敛 表示估计目的偏差 表示低阶无穷小 手够0 r m u g日一，五上胍姒 硪上学位论文 湖南大学 学位论文原创性声明 本人郑重声明：所呈交的论文是本入在导师的指导下独立进行研究所取 得的研究成果。除了文中特别加以标注引用的内容外，本论文不包含任何其 他个人或集体已经发表或撰写的成果作品。对本文的研究做出重要贡献的个 人和集体，均已在文中以明确方式标明。本人完全意识到本声明的法律后果 由本人承担。 作者签名： 豇宰峨 日期：厶m 缉垆月f 。日 学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定，同意学 校保留并向国家有关部门或机构送交论文的复印件和电子版，允许论文被查 阅和借阅。本人授权湖南大学可以将本学位论文的全部或部分内容编入有关 数据库进行检索，可以采用影印、缩印或扫描等复制手段保存和汇编本学位 论文。 本学位论文属于 l 、保密口，在年解密后适用本授权书。 2 、不保密刚 ( 请在以上相应方框内打“”) 作者签名： 导师签名： 日期：护6 年午月胡目 日期： 汐苦年争月勿日 第1 章绪论 1 1 线陛模型参数估计理论 线性模型( l i n e a rm o d e l ) 是一类统计模型的总称，包括线性回归模型、方差分析 模型、协方差分析模型和方差分量模型【l 】，应用十分广泛参数估计是一种基本的 统计推断形式，也是数理统计的一个重要分支【2 j 参数估计问题，可追溯到十九世纪初1 8 0 6 年，数学家l e g e n d r e 提出最小二乘 法( l e a s ts q u a r em e t h o d ) 1 8 0 9 年g a u s s 提出用最小二乘法从带有误差的观测值中 寻找待估量的最优值1 9 0 0 年，m a r k o v 证明了最小二乘估- ；t ( l e a s ts q u a r ee s t i m a t e ) 的方差最小的性质，形成著名的g a u s s - m a r k o v 定理，从而奠定了最小二乘估计在 线性模型参数估计理论中的地位1 9 4 4 年，r c b o s e 引入可估函数，加上广义逆矩 阵的应用，使设计阵列降秩的线性模型的参数估计理论更严密、简洁1 9 7 1 年，c r r a o 提出新的估计理论，既适用于设计阵列满秩或列降秩，又适用于误差协方差阵 奇异或非奇异的情形，r a o 称之为最小二乘统一理论 上个世纪八十年代，我国在线性模型上的理论研究开始蓬勃发展起来，主要 成果见王松桂的专著【l 】近几十年来，线性模型理论无论在广度和深度上都发展 迅速，结果异常之多吴启光提出二次损失和矩阵损失下回归系数的可容许性1 3 j 【4 j 徐兴忠提出二次损失和矩阵损失下回归系数的m i n i m a x 估计【5 6 】增长曲线模型的 参数估计和可容许性理论可参见文【7 】 8 泛容许性可参见文 9 】【1 0 平衡损失下 的容许性可参见文f 1 1 】向量损失下的容许性可参见文 1 2 】王松桂和尹素菊提出 线性混合模型参数的一种新的谱分解估计【l 引，谱分解估计的性质见文【1 4 】最优预 测理论可参见文【1 5 】【1 6 】线性预测在二次损失和矩阵损失下的可容许性可参见文 1 7 1 8 可容许性的进展可参看鹿长余的综述 1 9 线性混合效应模型理论的进 展可参看王松桂的综述【2 0 】稳健估计的进展可参见张建和李国英的综述 2 1 】 考虑一般多元线性模型： ( o ，0 ) y 为聆x q 阶的随机观察阵，x 为胛p 阶的已知设计阵，b 是p x q 阶回归参数阵， 占是n x q 阶随机误差阵，手表示按行拉直排成的列向量，和分别为已知q 阶 和h 阶对称非负定阵，运用m o o r e p e n r o s e 广义逆、k r o n e c k e r 积、向量化运算和矩 阵微商等数学工具，己得到十分漂亮的结果【1 】 - l 一 懵 铋拼卸以 h 翰旧 隐非线性m 估计的信赖域法及其统计性质 最后指出线性模型这一数学分支的一个特点：线性模型的多数重大结果依赖 于熟练积深入地使用古典方法的技巧，而不是更薪的数学工具【圳 1 2 非线性模型参数估计理论 实际问题中的统计模型往往是非线性模型( n o n l i n e a rm o d e l ) 非线性模型参数 估计是线性模型参数估计的自然推广，但在理论研究上还不成熟幽】 非线性模型参数估计理论的研究始于2 0 世纪6 0 年代，开始进展并不快1 9 8 0 年，加拿大统计学家b a t e s 和w a t t s 引入曲率度量后，才得到较快的发展f 2 “ 考虑一般非线性模型： ly = f ( x ，+ 占 e ) = o iy ( g ) = ( o ) 其中，y = ( y 。，y ：，y ) 7 是观测向量，f ( x ，臼) = ( ，( x 。，f ( x 。，印，_ 厂( k ，口) ) 7 是 期望函数，= ( 毛，s ：，。) 7 为误差向量，0 为p 维未知参数向量 由于设计阵z 是取定的，为了方便讨论，引入记号： f ( o ) = ( ；) = f ( x ，秒) ( i = 1 , 2 ，z ) ， 哪) = ( 嘉) ( 扣l ，2 ，州- l ，2 ，功， = ( 嘉) ( ，2 ，州2 ，棚， 其中，矿( 伊) 为n 。p 阶矩阵，矿妒) 为”p x p 阶立体阵( 见1 8 节) 非线性模型的参数估计在处理方法上与线性模型的截然不同传统的方法是 进行线性近似， y = ，( 护) + 矿( 口) ( 口一聊+ s ， 其中，扫为0 的最小二乘估计由于曰事先未知，百一般只能通过迭代求解，目标函 数取残差平方和g a u s s - n e w t o n 法是对目标函数的线性近似；n e w t o n r a p h s o n 法 采用目标函数的二次近似；当v ( o ) 不满足列满秩时，对g a u s s - n e w t o n 增量进行修 正，便是l e v e n b e r g m a r q u 甜d t 法 硕j 学位论文 为了评价线性近似的优劣，b e a l e 于1 9 6 0 年定义了四种曲率度量，但并没有揭 示非线性的本质直到1 9 8 0 年，b a t e s 和w a g s 从微分几何观点出发定义了非线性 模型的固有曲率和参数效应曲率，爿反映了模型的非线性本质1 2 4 j 从另一角度来看，非线性模型参数估计问题实际上就是优化问题最优化印j 是- - f 发展迅速，新方法不断涌现的年轻学科许多有效的方法如信赖域法 2 8 1 等 具有全局性收敛和二次收敛等优点，可应用于非线性模型参数估计 1 3m 估计 稳健性的概念萌芽于上个世纪初，指使用的统计估计方法应具有一定的“抗干 扰性”稳健估计( r o b u s te s t i m a t e ) 的发展则始于上世纪五十年代h u b e r 最早提出 了线性回归的稳健估计，后推广到更一般的m 估计 2 9 1 稳健估计具有下述特点【2 3 】： 1 在假定的观测分布模型下，估计应是最优或接近最优； 2 假设的分布模型与实际的分布模型有较小差异时，估计受随机误差的影响 较小： 3 当假设分布模型与实际分布模型有较大偏差时，估计不受破坏性的影响 稳健估计的实质是牺牲最小二乘估计的“最优性”，以达到“抗干扰性”的目的 参数估计问题归根结底是一个优化问题用e 表示n 维残差向量 d 1 ( f 1 ) = i l e l l 2 ，若声满足 d 。( 卢) = 画n d l ( ) ， 则称为参数的最小二乘估计 i c s d 2 ( f 1 ) = p ( e ) ，其中p ( x ) = o p ( 1 l x l l 2 ) ，若+ 满足 d 2 ( ) = m i n d 2 ( ) ， 则称卢为参数卢的一个m 估计( m e s t i m a t e ) 稳健方法在线性回归中已取得大量成果，陈希孺系统地研究了线性模型中m 估计的大样本性质，见其专著 3 0 1 稳健方法在非线性回归中也有不少进展，非线 性回归稳健估计的算法始于d u t t e r 和h u b e r 的工作1 3 ”l i 和m a d s e m 研究了非线性 h u b e r 估计的l e v e n b e r g - m a r q u a r d t 算法【2 “马江洪和张文修给出了非线性m 估计 的信赖域算法，并讨论了算法的一些性质【3 2 1 但近十多年来，国内在非线性领域并 没有突破性的进展 3 隐非线性m 估计的信赖域法及其统计性质 1 4 隐非线性模型 对一般非线性模型： jy = f ( x ，口) + 9 4 e ) = 0( 1 1 ) v ( e ) = ( 0 ) y 为观测向量，z 为设计阵，0 为未知参数向量，占为随机误差由于y 可用x ，0 的显式表示，我们又称这一模型为显非线性模型 在实际中，】，未必都可表示为x 和0 的显函数式： ff ( x ，t 0 ) + s = 0 e p ) = 0( 1 2 ) iv ( e ) = ( o ) 由于r 用x ，0 的隐函数式表示，我们称这一模型为隐非线性模型模型( 1 2 ) 包含 了模型( 1 1 ) ，更具有一般性因此，在模型( 1 2 ) t 讨论参数向量0 的估计和统计性 质是有意义的 由于实际中，y 和x 是可测的为了方便讨论，我们记： f ( o ) + 占= 0 e 0 ) = 0 ly ) = l 其中，厂是期望函数，( 臼) = ( ，) = f ( x ，y ，p ) ，f _ 1 , 2 ，n 本文主要讨论隐非线性模型：( 口) + s = 0 ，其中口为参数，p 为随机误差 1 5 非线性最小二乘估计 我们考虑隐非线性模型： i 厂p ) + 占= 0 e ( 8 ) = 0 i 矿( 占) = i 相应的误差方程为：e = f ( o ) ，残差平方和为： s ( 印= p 7 e = l l , l f 2 = 厂( 目) ，( 目) 一4 ( 1 3 ) 硕士学位论文 定义1 1 隐非线性模型( 1 3 ) 中，参数0 的一个估计量0 若满足： s ( 曰) 2 哪n s m ) ( 1 4 ) 则称百是参数口的一个隐非线性最小二乘估计o n l i n e a r l e a s t s q u a r e e s t i m a t e ) 不难看出( 1 4 ) 式的几何意义：原点到解空间的距离最短，或者( 百) 是解轨迹 刀= f ( o ) 上离原点最近的点 定理1 1 隐非线性模型中，若厂p ) 在参数空间0 上关于0 存在一阶连续偏导 数，且口的隐非线性最小二乘估计占存在，则残差e 在占处垂直于切空间t 定理1 2 假设o 为胄上的紧子集，f ( o ) 关于0 在0 上连续，则必存在r ”上 的可测函数占，使i | 厂( 务) 0 2 = m # n l l f m ) 1 1 2 定理1 1 和1 2 的证明类似于文【2 4 】定理1 2 给出了隐非线性最小二乘估计量 的存在性由于模型非线性，一般只能通过迭代法求解我们考虑隐非线性最小二 乘估计的近似解法 当模型( 1 3 ) 的非线性强度口4 1 较弱时，可对期望函数，够) 在0 的真值万处进行 线性近似。即： 0 = 八口) + 占“厂( 万) + 矿( 石) ( 秒一万) + 占， 则有 一厂( 石) 矿( 万) ( 口一万) + s 由线性模型的最小二乘估计得： 0 = 万一i v ( o ) 7 矿( 万) 一1 矿( 万) 7 厂( 万) ， 则g a u s s - n e w t o n 迭代公式： b + 。= 只一 矿( 只) 7 矿( 只) 】- 1 矿( 最) ，( 只) 我们对残差平方和s ( 口) 进行二次近似先求s ( 口) = l l m ) 1 1 2 在万点的二阶展开， 利用矩阵微商： 等：2 v ( o ) 7 ，( 口) ， a 臼 。、 一5 隐非线件m 估计的信赖域法及此统计性质 窘= 2 朋n 叭剀删哪) ， 所以， s ( 目) = s ( 万) + 2 f ( 0 ) 7 矿( 印( 目一万) + ( 口一万) 7y ( 百) 7 矿( 万) ( p 一石) + ( o - 两7 ，( 目) 7 】 ( 口) 】( 目一万) + 。卜耶) 略去。( 1 1 0 一硎2 ) ，令 a s 。( 0 2 ：2 v ( o ) r ，( 万) + 2 v ( a ) 7 矿( 石) ( 口一万) + 2 i f ( o ) 7 】 矽( 万) ( 口一万) ：o ， d 可得 0 = 万一( 矿( 万) 7 矿( 万) + 【，( 万) 7 【矽( 百) ) 一1y ( 万) 7 厂( 万) ， 则n e w t o n - r a p h s o n 迭代公式： 只+ 。= p 一( 矿( 够) 7 矿( p ) + ，( b ) 7 【( q ) 】) 。矿( 只) 7 厂( 舅) 定理1 3 2 4 1 假设 o s 万( o ) o ，。( 曰) = _ 焖7 矿( 州嘲7 朋) ， 则存在五+ 0 ，使咒【0 ，】时， s ( o + 五d ( 臼) ) 0 ) 其中，( 日) = ( z ( ，f a o ) ，( 目) ) 是由一个非线性函数组成的n 维向量，目为p 维未知参数向最，g 为不可观测的随机误差隐非线性模型比非线性模型更具有一 般性，形式上也更简洁 定义2 1 对模型( 2 1 ) ，设函数p ( x ) 满足以下条件： 1 p ( 功在尼1 上处处连续； 2 p ( x ) 0 ，以x ) 在( ，2 ) 上 f 增，在( 一，+ ) i 非降； 3 l i m p ( x ) x 2 = 0 记g ) 2 善p ( ，( 口) ) ，若矿满足g ( 口+ ) 2 m i m g ( o ) ，则称矿为隐非线性模型 ( 2 1 ) 的参数目的一个m 估计 显然m 估计不是一个确定的估计，而是一类估计，与损失丽数“z ) 有关 2 2 隐m 估计的信赖域法 2 2 1 记号 2 21 记号 g ( 日) = p ( z ( 口) ) ， q 。c a ) = p ( ( d ，日”) ) 1 0 - 颐j 学位论文 ，( d ，0 。) = f ( o ) + 1 叮( 口恤) 7 d ， g = g ( o ) 一g ( o + d ) ， a q 。= a q ( d “，0 ) = q k ( o ) 一q k ( d 。) ， 咋= a g ( i a q ( “ 信赖域子问题： 2 2 2 基本假设 哂n 吼( d ) n a t ( i ) p ( x ) 是l i p s c h i t z 凸函数 ( 2 2 ) ( i i ) v o r ，j 令b 域u ( 印使，( 口+ d ) = ：( 口) + v ，：( 臼) 7 d + o 0 为常数，d 。为子问题( 2 2 ) 的 近似解，d r 是子问题( 2 2 ) 的精确解 2 2 3 信赖域算法i 步o ( 初始化) ：给定s 0 ，初始点0 “，。a 。 0 ，五 0 ，o ( o ，五) ，其中 0 c o c l c 2 1 ，0 s l 1 s 2 ，k ：= 0 ； 步1 ( 收敛性检测) ：若0 v g ( 口) 忙s ，算法终止，得问题解口“否则转步2 ； 步2 ( 子问题求解) ：求解子问题( 2 2 ) ，得近似解d 。； 步3 ( 信赖域修正) ：计算矗， 若r k c 1 ，取= s j a ； 若c l 咯 - 占：。 a q ( d ) 占。i i d 0 口 证：若v 奢( 口( 1 ) 0 ，由定理2 1 ，存在d 使a q ( d ) 0 由g ( ，口2 ) 的连续 性知，存在。 o ， o ，当眵f l - 芦时，有a q ( 8 ) 。 由假设i 的( i i i ) ，对满足眵”i i - a 。的v s “，有 a q ( d ( 1 ) c a q ( d ( k ) ) c a q ( s ) 其中d ，为子问题( 2 2 ) f f ：j 精确解- 又肛”l i 眵”i i ，令s 耻= t 8 咔， 贝0 0 t 1 由弓1 至2 2 ，g ( s ”) t a q ( 占坫) ，所以 训。) c 酬) c 呦( 砌。2 网c a o i i 刊i 令铲网c a o ，贝j a q ( d ( k ) 胁i i d i i 下证第二个结论 令s ( 。) = t d ( “，t a t 炒0 由。- o ，使g ( d ) 肛| 1 所以忙1 1 - s ：。，其中s ：= e p 口 必 = f 隐非线性m 估计的信赖域法及j 统计性质 定理2 3 表明，若目为非平衡点，只要控制步长忖。l 充分小，模型函数g 的减少量至少与步长归。0 成j 卜比 定理2 4 若v 奢( 目。) 0 ，则存在难数毛和2 ，使a i 2 时，a q ( j 2 ) 毛 证：令儿= m i n t ，2 ，d ，由子问题 可得到，则帜“i i - ，- 0 ，使由子问题( 2 2 ) 产生的近似解d 满足g ( d ) 0 定理2 5 若目_ 曰( 女斗。) ，则以斗1 ( 七一o 。) 证：由引理2 1 a g 忙= g ( d 晴，9 忙) + 。( 0 d 1 1 ) = 9 ( d ( ，咿 女) + 鞘。( 1 1 d p = 幻( 1 + 高侧叫阻 1 6 顾 学位论文 点 珞= l + j ；瓦孓巧1 而。( | | d | | ) 由定理4 ，g ( ”) 岛，则高有界所以咋斗1 ( 后斗) 口 定理2 6 设g ( 口) 有下界，则由算法i 产生的序列徊) 至少有一个聚点为极小 证：若序列 0 有限，由定理2 2 结论成立 设妒1 为无穷序列，由定理2 5 ，必有子序列满足r k c 。不妨取子序列为 妒“，0 “，) ，万为任一聚点由定理2 1 ， g ( o 。) 一g ( 万) g ( o 。) 一g ( 万) = g 。 c l 幻”， f = i = k 因此，却寸0 ( k 斗0 0 ) 设d 是由予问题 呼口( 力2 善p ( ( d ，面 s t 五 产生的近似解，记d = 0 一+ 孑一目( “，则d 一d 一( 七哼m ) 对充分大的k ，有 i i j l l - 0 为常数，d 2 为子问题( 3 3 ) 的 近似解，d ，是予问题( 3 3 ) 的精确解 一1 9 一 隐非线性m 估计的信赖域法压其统汁忡质 3 2 3 信赖域算法 步o ( 初始化) ：给定s 0 ，初始点0 ”，o 0 ，五 0 ，o ( o ，) ， 0 兰c o c 1 c 2 1 ，0 j i 1 s 2 ，k ：= 0 步1 ( 收敛性检测) ：若i l v g ( 护) 1 1 - 5 ，算法终止，得问题解臼“否则转步2 步2 ( 子问题求解) ：求解子问题( 3 3 ) ，得近似解d