第三章非线性方程求根 /* Solutions of Nonlinear Equations */

求f (x) = 0 的根 第三章非线性方程求根 /* Solutions of Nonlinear Equations*/ §1 多项式基础 /* Polynomials */ （自习） §2 二分法 /* Bisection Method */ 原理：若 fC[a, b]，且 f (a) · f (b) < 0，则 f在 (a, b) 上必有一根。

或 a b x* x When to stop? x1 x* a x2 b 不能保证x的精度 2

误差分析： 第1步产生的有误差第 k 步产生的 xk 有误差对于给定的精度 ,可估计二分法所需的步数 k ： ①简单; ② 对f (x)要求不高(只要连续即可) . ①无法求复根及偶重根 ② 收敛慢注：用二分法求根，最好先给出 f (x)草图以确定根的大概位置。或用搜索程序，将[a, b]分为若干小区间，对每一个满足 f (ak)·f (bk) < 0 的区间调用二分法程序，可找出区间[a, b]内的多个根，且不必要求 f (a)·f (b) < 0 。

a b 试位法/* Regula Falsi Method */ Is it really better than Bisection Method? (b, f (b)) x* (a+b)/2 (a, f (a)) 注：试位法每次迭代比二分法多算一次乘法，而且不保证收敛。

等价变换 从一个初值 x0出发，计算 x1 = g(x0), x2 = g(x1), …, xk+1 = g(xk), … 若收敛，即存在 x* 使得，且 g 连续，则由可知 x* = g(x* )，即x* 是 g 的不动点，也就是f的根。思路 §3 迭代法 /* Fixed-Point Iteration*/ f (x) = 0 x = g (x) g (x) 的不动点 f (x) 的根 So basically we are done! I can’t believe it’s so simple! What’s the problem? Oh yeah? Who tells you that the method is convergent?

p0 p1 y=g(x) p0 y y y y y = x y = x y = x y = x y=g(x) p1 x0 x1 x* x* x0 x* x1 y=g(x) y=g(x) x x x x p0 p0 p1 p1 x1 x0 x0 x* x1    

考虑方程 x = g(x), g(x)C[a, b], 若 ( I ) 当 x[a, b] 时， g(x)[a, b]； ( II )  0  L < 1 使得| g’(x) |  L < 1 对  x[a, b] 成立。则任取 x0[a, b]，由 xk+1 = g(xk) 得到的序列收敛于g(x) 在[a, b]上的唯一不动点。并且有误差估计式：  ( k = 1, 2, … )  且存在极限定理     k  

令有根反证：若不然，设还有，则而在和之间。证明：① g(x) 在[a, b]上存在不动点？  ② 不动点唯一？  ③ 当k  时，xk 收敛到 x* ？ 

④ 可用来控制收敛精度 ⑤ ⑥  L 越收敛越快  小  注：定理条件非必要条件，可将[a, b]缩小，定义局部收敛性：若在 x* 的某 领域 B = { x | | x  x* |   } 有 gC1[a, b] 且 | g’(x*) | < 1，则由x0B 开始的迭代收敛。即调整初值可得到收敛的结果。

改进、加速收敛 /* accelerating convergence */ 若| g’(x) |  1，则将 x = g(x) 等价地改造为求K，使得例：求在 (1, 2) 的实根。如果用进行迭代，则在(1, 2)中有现令在 (1, 2) 上可取任意，例如K = 0.5，则对应即产生收敛序列。希望，即 待定参数法：

y 一般地，有： y = g(x) y = x 比收敛得略快。 x x* x1 x2 x0 Aitken 加速： P(x1, x2) Steffensen 加速： P(x0, x1)

， 在 x0和 x之间。 y 只要 fC1，每一步迭代都有f ’( xk )  0，而且，则x*就是 f的根。 x x* x0 §4 牛顿法 /* Newton - Raphson Method */ 原理：将非线性方程线性化 —— Taylor 展开 /* Taylor’s expansion */ 取 x0 x*，将 f (x)在 x0做一阶Taylor展开: 将 (x* x0)2看成高阶小量，则有：线性/* linear */

（局部收敛性）设 fC2[a, b]，若 x*为 f (x) 在[a, b]上的根，且 f ’(x*)  0，则存在 x* 的邻域使得任取初值，Newton’s Method产生的序列{ xk } 收敛到x*，且满足定理（收敛的充分条件）设 fC2[a, b]，若 (1) f (a) f (b) < 0；(2) 在整个[a, b]上 f ”不变号且 f ’(x)  0； (3) 选取 x0 [a, b] 使得 f (x0) f ”(x0) > 0；则Newton’s Method产生的序列{ xk } 收敛到f (x) 在 [a, b] 的唯一根。产生的序列单调有界，保证收敛。有根根唯一定理

证明：Newton’s Method 事实上是一种特殊的不动点迭代其中，则收敛由 Taylor 展开：只要 f ’(x*)  0，则令可得结论。  在单根/*simple root */附近收敛快

Excuses for not doing homework I have the proof, but there isn't room to write it in this margin. x0 x0 x0 注：Newton’s Method 收敛性依赖于x0的选取。   x*

改进与推广 /* improvement and generalization */ Q1:若　　　，Newton’s Method 是否仍收敛？设 x* 是 f的 n重根，则：且。令　　　　　，则 f的重根 = 的单根。因为 Newton’s Method 事实上是一种特殊的不动点迭代，其中，则  重根 /* multiple root */加速收敛法： A1:有局部收敛性，但重数 n越高，收敛越慢。 Q2:如何加速重根的收敛？  A2:将求f的重根转化为求另一函数的单根。

x1 x0  正割法 /* Secant Method */： Newton’s Method一步要计算 f和 f ’，相当于2个函数值，比较费时。现用 f的值近似 f ’，可少算一个函数值。割线 /* secant line */ 切线 /* tangent line */ 收敛比Newton’s Method 慢，且对初值要求同样高。切线斜率割线斜率需要2个初值 x0和 x1。

原理：若由 xk得到的 xk+1 不能使 | f | 减小，则在 xk 和 xk+1 之间找一个更好的点，使得。 xk xk+1  下山法 /* Descent Method */ ——Newton’s Method局部微调：注： = 1 时就是Newton’s Method 公式。当  = 1 代入效果不好时，将  减半计算。

记 z = x + i y, z0为初值，同样有 设代入公式，令实、虚部对应相等，可得  求复根 /* Finding Complex Roots */ ——Newton 公式中的自变量可以是复数

设迭代 xk+1 = g(xk) 收敛到g(x) 的不动点 x*。 设 ek = xk x*，若　　　　　　　，则称该迭代为p阶收敛，其中 C称为渐进误差常数。/* { xk } converges tox* of orderp, with asymptotic error constantC > 0 */ 定义  一般 Fixed-Point Iteration 有　　　　　　　，称为线性收敛/* linear convergence */，这时 p = 1，0 < C < 1。  Aitken 加速有　　　　　。称为超线性收敛 /* superlinear convergence */。 §5 迭代法的收敛阶/* Order of Convergence */ 注：超线性收敛不一定有 p > 1。例如 xn= 1/nn 超线性收敛到0，但对任何 p > 1 都没有 p阶收敛。

 Steffensen 加速有 p = 2，条件是 ，称为平方收敛 /* quadratic convergence */。  Newton’s Method 有，只要，就有 p 2。重根是线性收敛的。定理设 x*为x = g(x) 的不动点，若，p  2；，且，则 xk+1 = g(xk) 在内 p阶收敛。 This is a one line proof...if we start sufficiently far to the left. x* k  C Q:如何实际确定收敛阶和渐进误差常数？证明：

第三章非线性方程求根 /* Solutions of Nonlinear Equations */