内容简介
《计算方法丛书·典藏版(24):矩阵与算子广义逆》系统地论述了矩阵与算子广义逆的理论、计算方法和若干新的进展。重点是叙述方程组解的广义逆,Drazin逆,Cramer法则的推广,广义逆计算的直接方法,并行算法和扰动理论。有界线性算子广义逆的表示和逼近以及迭代算法。并且附有一定数量的习题和一百多篇参考文献。
《计算方法丛书·典藏版(24):矩阵与算子广义逆》可供计算数学与应用数学工作者、工程技术人员、高等学佼有关专业的高年级学生、研究生和教师参考。
内页插图
目录
第一章 表示线性方程组解的广义逆
§1 Moore-Penrose逆
1.1 A一的定义和基本性质
1.2 矩阵的值域和零空间
1.3 满秩分解
1.4 不相容线性方程组的极小范数最小二乘解与M-P逆
习题1
§2 (i,j,k)逆
2.1 相容方程组的解与{1)逆
2.2 相容方程组的极小范数解与(1,4)逆
2.3 不相容方程组的最小二乘解与(1,3)逆
2.4 矩阵方程AXB=D的解与(1)逆
2.5 Az=n和Bx=6的公共解与(1)逆
2.6 AX=B和XD=E的公共解与(1)逆
习题2
§3 具有指定值域和零空间的广义逆
3.1 等幂矩阵和投影算子
3.2 广义逆Ar,s
3.3 Urqulzart公式
3.4 广义逆Ar,s
习题3
§4 加权Moore-Penrose逆:
4.1 加权范数与加权共轭转置阵
4.2 相容方程组极小Ⅳ范数解与(1,4N)逆m
4.3 不相容方程组M最小二乘解与(1,3M)逆
4.4 不相容方程组极小N范数M最小=乘解与加权Moore-Penrome逆
习题4
§5 Bott-Duffin逆和广义Bott-Duffin逆
5.1 约束方程组的解和BSort-Duffin逆
5.2 Bott-Duffin逆存在的充要条件及性质
5.3 广义Bott-Duffin逆的定义和性质
5.4 线性方程组的解与广义B0tt-Duflin逆
第一章说明
第二章Drazin逆
§1 Drazin逆
1.1 指标的定义和基本性质
1.2 Drazin逆的定义和性质
1.3 核心一幂零分解
习题1
§2 群逆
2.1 群逆的定义和性质
2.2 群逆和Drazin逆的谱性质
习题Z
§3 带W权Drazin逆
习题3
第二章说明
第三章 Cramer法则的推广
§1 加边矩阵的非异性
1.1 加边非异阵与AMN+和A+的关系
1.2 加边非异阵与Ad和Ag的关系
1.3 加边非异阵与Ar,S,AT,S和A(L)的关系
习题1
§2 线性方程组解的Cramer法则
2.1 不相容线性方程组极小N范数M最小二乘解的Cramer法则
2.2 一类奇异线性方程组解的cramez法则
2.3 一类约束线性方程组解的Cramer法则
习题2
§3 矩阵方程解的Cramer法则
3.1 非奇异矩阵方程解的Cramer法则
3.2 矩阵方程最佳逼近解的Cramer法则
3.3 约柬矩阵方程唯一解的Cramer法则
习题3
§4 广义逆及投影算子的行列式表示
习题4
第三章说明
第四章 广义逆计算的直接方法
§1 满秩分解方法
1.1 化阶梯形法
1.2 完全选主元Gauaa消去法
1.3 Householder变换法
§2 奇异值分解与(M,N)奇异值分解方法
2.1 奇异值分解
2.2 (M,M)奇异值分解
2.3 基于奇异值分解和(M,N)奇异值分解的方法
§3 分块算法
3.1 秩1修矩阵A+cd的Moore-Penrose逆
3.2 Greville分块
3.3 C1ine分块
3.4 Noble分块
§4 嵌入算法
4.1 广义逆的极限形式
4.2 嵌入算法
§5有限算法
第四章说明
第五章 广义逆计算的并行算法
§1 并行处理机模型
§2 并行算法性能评价
§3 并行算法
3.1 基本算法
3.2 Csanky算法
§4 等价性定理
第五章说明
第六章 M-P逆和加权M-P逆扰动分析
§1 扰动界
§2 连续性
§3 保秩变形
§4 条件数
第六章说明
第七章 Drazin逆扰动分析
§1 扰动界
§2 连续性
§3 保核秩变形
§4 条件数
第七章说明
第八章算子Moore-Penrose广义逆
§1 定义及基本性质
§2 表示定理
§3 计算方法
3.1 Euler-Knopp法
3.2 Newton法
3.3 超幂法
3.4 基于函数插值的方法
第八章说明
第九章 算子Drazin逆
§1 定义及基本性质
§2 表示定理
§3 计算方法
3.1 Euler-Knopp法
3.2 Newton法
3.3 超幂法
3.4 基于函数插植的方法
第九章说明
第十章 算子带w权Drazin逆
§1 定义及基本性质
§2 表示定理
§3 计算方法
3.1 Euler-Knopp法
3.2 Newton法
3.3 超幂法
3.4 基于函数插值的方法
第十章说明
附录 HiIbert空间及线性算子
§1 Banach空间
§2 Hilbert空间
§3 有界线性算子
§4 谱理论
参考文献
前言/序言
广义逆的概念最早是L.Fredholm于1903年提出的,他给出了积分算子的广义逆,并称之为“伪逆”。D.Hilbert于1904年讨论广义Green函数时含蓄地提出了微分算子的广义逆。W。Reid于1931年的论文中,谈到了微分算子广义逆的历史。
E.H.Moore于1920年首先提出了矩阵广义逆,他利用投影矩阵定义了矩阵的广义逆。在这之后30年中,广义逆很少被人注意,直到50年代中期,围绕着某些广义逆的最小二乘性质及广义逆与线性方程组解的关系的讨论,才使广义逆的研究有了新的起色。特别是R。Penrose于1955年证明了Moore所定义的广义逆是满足四个矩阵方程的的矩阵,这个重要发现对广义逆的研究来说是一个新纪元。为纪念他们所作的贡献,称这个广义逆为Moore-Penrose逆。
近40多年来,广义逆的理论、应用和计算方法的研究得到了迅速的发展。一个标志是70年代国外出版了几本专著;另一个标志是1973年在美国戚斯康星大学举行了一次广义逆的高级讨论班,并由M.Z.Nashed主编出版了一本内容十分丰富的综述文集,其中有14篇关于广义逆的理论、算法和应用的综述论文,并收集了1975年以前发表的有关广义逆的非常详尽的文献目录。接着于1976年在美国南卡罗来纳州的哥伦比亚又召开了一次地区性会议,并由S.L.Campbell主编出版了一本新的综述文集。其中有12篇关于广义逆新应用的论文。文集叙述了从70年代中期起,广义逆的研究方向和类型的改受。以前由于统计学的需要,经常研究的是与解方程组有关的广义逆和最小二乘广义逆,现在巳转到无限维理论、数值计算问题、特殊类型(布尔型、整型)、非实数或复数域的代数结构上的矩阵的广义逆、系统理论和非解方程有关的广义逆。
计算方法丛书·典藏版:数值线性代数基础 本书简介 本卷《计算方法丛书·典藏版:数值线性代数基础》聚焦于现代科学计算与工程实践中不可或缺的核心工具——数值线性代数的理论基石与实用算法。本书旨在为读者,无论是高等院校的数学、物理、计算机科学专业学生,还是从事数据分析、工程仿真、机器学习等领域的专业人士,提供一个全面、深入且兼具严谨性与实践指导意义的知识体系。 全书内容组织逻辑清晰,从最基础的向量空间和矩阵代数概念入手,逐步过渡到解线性方程组的核心数值方法,再深入探讨矩阵分解技术、特征值问题的数值求解,以及处理大型稀疏矩阵的专门策略。我们强调算法背后的数学原理、数值稳定性分析以及计算复杂度,确保读者不仅能“使用”这些方法,更能“理解”它们为何有效、在何种情况下可能失效。 第一部分:线性代数基础与误差分析 本部分作为后续所有数值方法的理论前提,首先对读者进行必要的数学准备。 第1章:向量空间与基本运算回顾 本章系统回顾了线性代数中的基本概念,包括域、向量空间、线性无关性、基与维数。重点阐述了标准内积、范数(尤其是$L_p$范数、谱范数)的几何意义及其在度量向量和矩阵“大小”上的作用。我们详细讨论了子空间的概念,特别是列空间、零空间和秩的概念,为理解最小二乘问题和方程组解的存在性与唯一性奠定基础。 第2章:矩阵运算与矩阵的结构 本章深入探讨矩阵的代数运算,包括矩阵乘法、转置与伴随。不同类型的矩阵,如对称矩阵、正交矩阵、厄米特矩阵,在数值计算中的特殊性质被详细分析。矩阵的秩、行列式计算的数值不稳定性是本章的重点之一。随后,我们将引入矩阵的类型分解,为后续的特征值问题打下基础。 第3章:数值计算中的误差理论 在数值计算中,误差的控制与分析至关重要。本章专门讨论了浮点数的表示、舍入误差的累积效应。我们引入了前向误差与后向误差的概念,并以霍纳法则为例,演示如何设计算法以最小化计算误差。条件数的引入是本章的升华点,它量化了问题本身的敏感性,使读者能区分“问题固有难度”与“算法选择不当”导致的误差。 第二部分:线性方程组的求解(Direct Methods) 本部分是数值线性代数的核心内容,聚焦于精确求解(在有限精度下)线性系统 $Ax=b$ 的直接方法。 第4章:高斯消元法及其矩阵分解 高斯消元法作为最基本的求解工具,被详尽剖析。我们不仅展示其代数步骤,更重要的是将其转化为矩阵的分解形式。重点讨论了LU分解(Doolittle, Crout, Cholesky分解),并分析了这些分解在求解三角形系统中的效率。 第5章:矩阵的置换与稳定性 纯粹的高斯消元法在遇到零主元或接近零主元时会失效或产生巨大误差。本章引入了部分选主元(Partial Pivoting)和完全选主元(Full Pivoting)策略,并将其形式化为带置换矩阵的分解 $PA=LU$。我们证明了选主元策略对于提高算法数值稳定性的关键作用。 第6章:矩阵分解在求解中的应用 本章将前述的矩阵分解技术应用于实际问题: 1. 求解 $Ax=b$: 利用LU分解高效地求解具有相同系数矩阵的不同右端项向量的问题。 2. 求逆矩阵: 分析通过 $A^{-1} = U^{-1}L^{-1}P$ 计算矩阵逆的效率与数值风险,并强调在多数应用中应避免直接计算 $A^{-1}$。 3. Cholesky分解: 专门针对对称正定矩阵,展示其在有限元分析和优化问题中的高效性。 第三部分:最小二乘问题与矩阵秩 当线性系统 $Ax=b$ 无精确解时(通常是超定系统),最小二乘法成为标准求解范式。 第7章:最小二乘问题的最小范数解 本章建立在线性回归和数据拟合的背景下,推导正规方程组 $left(A^T A
ight) x = A^T b$。我们分析了直接使用正规方程组的数值缺陷(条件数平方的放大效应),并以此自然地引出更鲁棒的分解方法。 第8章:QR分解 QR分解被视为求解最小二乘问题的黄金标准。本章详细介绍实现QR分解的两种主要算法: 1. Gram-Schmidt过程: 阐述其概念,并分析其数值上的不稳定性。 2. Householder反射(Householder Reflections): 介绍如何通过一系列反射变换将矩阵 $A$ 转化为上三角矩阵,并分析其极佳的数值稳定性。 3. Givens旋转(Givens Rotations): 适用于稀疏或结构化矩阵,用于逐步消元。 本章最终展示如何利用 $A=QR$ 形式,通过 $Rhat{x} = Q^T b$ 快速且稳定地得到最小二乘解。 第四部分:特征值问题的数值求解 特征值与特征向量在动力学分析、主成分分析(PCA)等领域至关重要。本部分关注如何稳定、高效地近似求解 $det(A-lambda I)=0$。 第9章:相似变换与Schur分解 特征值在相似变换下保持不变。本章介绍相似变换的性质,目标是将复杂的矩阵 $A$ 转化为更容易计算特征值的形式。重点讨论将任意矩阵 $A$ 转化为相似的Schur形式(上三角矩阵或拟上三角矩阵),从而可以从对角线上直接读出特征值。 第10章:迭代法求解特征值 对于大型矩阵,直接求特征值分解计算量过大,迭代法成为主流。 1. 幂法(Power Iteration): 用于寻找最大(主导)特征值及其对应向量。分析其收敛速度与局限性。 2. 反幂法(Inverse Iteration): 利用求解 $(A-mu I)x=b$ 的方式来近似计算接近某一给定值 $mu$ 的特征值,极大地提高了收敛速度。 3. QR算法基础: 作为现代特征值求解的基石,本章介绍不进行显式迭代的、基于相似变换的QR算法的原理,以及如何通过引入Hessenberg/Tridiagonal预处理来加速这一过程。 第五部分:迭代求解大型稀疏线性系统 对于维度极高且矩阵大部分元素为零的系统,直接分解法因存储和计算成本过高而不再适用。 第11章:迭代法的基本原理 本章系统介绍迭代方法的收敛条件和基本框架,包括雅可比(Jacobi)法和高斯-赛德尔(Gauss-Seidel)法。我们侧重于分析这些方法的收敛域和收敛速度,并解释为什么它们通常只适用于对角占优或对称正定矩阵。 第12章:Krylov子空间与Lanczos/Arnoldi迭代 这是处理大型稀疏系统最强大的工具集。本章深入探讨Krylov子空间 $mathcal{K}_m(A, b) = ext{span}{b, Ab, A^2b, dots, A^{m-1}b}$ 的构建过程。 1. Arnoldi迭代: 用于一般矩阵,构建矩阵 $H_m$ 的拟上三角表示。 2. Lanczos迭代: 专门用于对称矩阵,构建实对称三对角矩阵 $T_m$。 通过在低维度的 $H_m$ 或 $T_m$ 上求解特征值问题(瑞利-里兹法),可以得到原问题的近似特征值,这为求解大规模特征值问题提供了高效途径。 第13章:共轭梯度法(CG) 共轭梯度法是求解对称正定系统 $left(A x=b, A=A^T>0
ight)$ 的迭代法典范。本章详细推导CG法的理论基础,强调“共轭性”在算法中的作用,并分析其在Krylov子空间中寻找最优解的机制。同时,本章也会简要提及双共轭梯度法(BiCG)及CGS/Biconjugate Gradient Stabilized (BiCGStab) 等非对称系统的常见改进。 总结与展望 全书紧密围绕“数值稳定性”、“计算效率”和“应用场景”三大主线展开。通过对直接法和迭代法的系统学习,读者将掌握从小型密集矩阵到超大型稀疏矩阵求解的全套工具箱,为进入更高级的计算科学领域(如偏微分方程数值解法、大规模优化等)打下坚实的基础。每章末尾均附有详尽的习题和算法实现建议,鼓励读者将理论转化为实际的程序代码。