內容簡介
《計算方法叢書·典藏版(24):矩陣與算子廣義逆》係統地論述瞭矩陣與算子廣義逆的理論、計算方法和若乾新的進展。重點是敘述方程組解的廣義逆,Drazin逆,Cramer法則的推廣,廣義逆計算的直接方法,並行算法和擾動理論。有界綫性算子廣義逆的錶示和逼近以及迭代算法。並且附有一定數量的習題和一百多篇參考文獻。
《計算方法叢書·典藏版(24):矩陣與算子廣義逆》可供計算數學與應用數學工作者、工程技術人員、高等學佼有關專業的高年級學生、研究生和教師參考。
內頁插圖
目錄
第一章 錶示綫性方程組解的廣義逆
§1 Moore-Penrose逆
1.1 A一的定義和基本性質
1.2 矩陣的值域和零空間
1.3 滿秩分解
1.4 不相容綫性方程組的極小範數最小二乘解與M-P逆
習題1
§2 (i,j,k)逆
2.1 相容方程組的解與{1)逆
2.2 相容方程組的極小範數解與(1,4)逆
2.3 不相容方程組的最小二乘解與(1,3)逆
2.4 矩陣方程AXB=D的解與(1)逆
2.5 Az=n和Bx=6的公共解與(1)逆
2.6 AX=B和XD=E的公共解與(1)逆
習題2
§3 具有指定值域和零空間的廣義逆
3.1 等冪矩陣和投影算子
3.2 廣義逆Ar,s
3.3 Urqulzart公式
3.4 廣義逆Ar,s
習題3
§4 加權Moore-Penrose逆:
4.1 加權範數與加權共軛轉置陣
4.2 相容方程組極小Ⅳ範數解與(1,4N)逆m
4.3 不相容方程組M最小二乘解與(1,3M)逆
4.4 不相容方程組極小N範數M最小=乘解與加權Moore-Penrome逆
習題4
§5 Bott-Duffin逆和廣義Bott-Duffin逆
5.1 約束方程組的解和BSort-Duffin逆
5.2 Bott-Duffin逆存在的充要條件及性質
5.3 廣義Bott-Duffin逆的定義和性質
5.4 綫性方程組的解與廣義B0tt-Duflin逆
第一章說明
第二章Drazin逆
§1 Drazin逆
1.1 指標的定義和基本性質
1.2 Drazin逆的定義和性質
1.3 核心一冪零分解
習題1
§2 群逆
2.1 群逆的定義和性質
2.2 群逆和Drazin逆的譜性質
習題Z
§3 帶W權Drazin逆
習題3
第二章說明
第三章 Cramer法則的推廣
§1 加邊矩陣的非異性
1.1 加邊非異陣與AMN+和A+的關係
1.2 加邊非異陣與Ad和Ag的關係
1.3 加邊非異陣與Ar,S,AT,S和A(L)的關係
習題1
§2 綫性方程組解的Cramer法則
2.1 不相容綫性方程組極小N範數M最小二乘解的Cramer法則
2.2 一類奇異綫性方程組解的cramez法則
2.3 一類約束綫性方程組解的Cramer法則
習題2
§3 矩陣方程解的Cramer法則
3.1 非奇異矩陣方程解的Cramer法則
3.2 矩陣方程最佳逼近解的Cramer法則
3.3 約柬矩陣方程唯一解的Cramer法則
習題3
§4 廣義逆及投影算子的行列式錶示
習題4
第三章說明
第四章 廣義逆計算的直接方法
§1 滿秩分解方法
1.1 化階梯形法
1.2 完全選主元Gauaa消去法
1.3 Householder變換法
§2 奇異值分解與(M,N)奇異值分解方法
2.1 奇異值分解
2.2 (M,M)奇異值分解
2.3 基於奇異值分解和(M,N)奇異值分解的方法
§3 分塊算法
3.1 秩1修矩陣A+cd的Moore-Penrose逆
3.2 Greville分塊
3.3 C1ine分塊
3.4 Noble分塊
§4 嵌入算法
4.1 廣義逆的極限形式
4.2 嵌入算法
§5有限算法
第四章說明
第五章 廣義逆計算的並行算法
§1 並行處理機模型
§2 並行算法性能評價
§3 並行算法
3.1 基本算法
3.2 Csanky算法
§4 等價性定理
第五章說明
第六章 M-P逆和加權M-P逆擾動分析
§1 擾動界
§2 連續性
§3 保秩變形
§4 條件數
第六章說明
第七章 Drazin逆擾動分析
§1 擾動界
§2 連續性
§3 保核秩變形
§4 條件數
第七章說明
第八章算子Moore-Penrose廣義逆
§1 定義及基本性質
§2 錶示定理
§3 計算方法
3.1 Euler-Knopp法
3.2 Newton法
3.3 超冪法
3.4 基於函數插值的方法
第八章說明
第九章 算子Drazin逆
§1 定義及基本性質
§2 錶示定理
§3 計算方法
3.1 Euler-Knopp法
3.2 Newton法
3.3 超冪法
3.4 基於函數插植的方法
第九章說明
第十章 算子帶w權Drazin逆
§1 定義及基本性質
§2 錶示定理
§3 計算方法
3.1 Euler-Knopp法
3.2 Newton法
3.3 超冪法
3.4 基於函數插值的方法
第十章說明
附錄 HiIbert空間及綫性算子
§1 Banach空間
§2 Hilbert空間
§3 有界綫性算子
§4 譜理論
參考文獻
前言/序言
廣義逆的概念最早是L.Fredholm於1903年提齣的,他給齣瞭積分算子的廣義逆,並稱之為“僞逆”。D.Hilbert於1904年討論廣義Green函數時含蓄地提齣瞭微分算子的廣義逆。W。Reid於1931年的論文中,談到瞭微分算子廣義逆的曆史。
E.H.Moore於1920年首先提齣瞭矩陣廣義逆,他利用投影矩陣定義瞭矩陣的廣義逆。在這之後30年中,廣義逆很少被人注意,直到50年代中期,圍繞著某些廣義逆的最小二乘性質及廣義逆與綫性方程組解的關係的討論,纔使廣義逆的研究有瞭新的起色。特彆是R。Penrose於1955年證明瞭Moore所定義的廣義逆是滿足四個矩陣方程的的矩陣,這個重要發現對廣義逆的研究來說是一個新紀元。為紀念他們所作的貢獻,稱這個廣義逆為Moore-Penrose逆。
近40多年來,廣義逆的理論、應用和計算方法的研究得到瞭迅速的發展。一個標誌是70年代國外齣版瞭幾本專著;另一個標誌是1973年在美國戚斯康星大學舉行瞭一次廣義逆的高級討論班,並由M.Z.Nashed主編齣版瞭一本內容十分豐富的綜述文集,其中有14篇關於廣義逆的理論、算法和應用的綜述論文,並收集瞭1975年以前發錶的有關廣義逆的非常詳盡的文獻目錄。接著於1976年在美國南卡羅來納州的哥倫比亞又召開瞭一次地區性會議,並由S.L.Campbell主編齣版瞭一本新的綜述文集。其中有12篇關於廣義逆新應用的論文。文集敘述瞭從70年代中期起,廣義逆的研究方嚮和類型的改受。以前由於統計學的需要,經常研究的是與解方程組有關的廣義逆和最小二乘廣義逆,現在巳轉到無限維理論、數值計算問題、特殊類型(布爾型、整型)、非實數或復數域的代數結構上的矩陣的廣義逆、係統理論和非解方程有關的廣義逆。
計算方法叢書·典藏版:數值綫性代數基礎 本書簡介 本捲《計算方法叢書·典藏版:數值綫性代數基礎》聚焦於現代科學計算與工程實踐中不可或缺的核心工具——數值綫性代數的理論基石與實用算法。本書旨在為讀者,無論是高等院校的數學、物理、計算機科學專業學生,還是從事數據分析、工程仿真、機器學習等領域的專業人士,提供一個全麵、深入且兼具嚴謹性與實踐指導意義的知識體係。 全書內容組織邏輯清晰,從最基礎的嚮量空間和矩陣代數概念入手,逐步過渡到解綫性方程組的核心數值方法,再深入探討矩陣分解技術、特徵值問題的數值求解,以及處理大型稀疏矩陣的專門策略。我們強調算法背後的數學原理、數值穩定性分析以及計算復雜度,確保讀者不僅能“使用”這些方法,更能“理解”它們為何有效、在何種情況下可能失效。 第一部分:綫性代數基礎與誤差分析 本部分作為後續所有數值方法的理論前提,首先對讀者進行必要的數學準備。 第1章:嚮量空間與基本運算迴顧 本章係統迴顧瞭綫性代數中的基本概念,包括域、嚮量空間、綫性無關性、基與維數。重點闡述瞭標準內積、範數(尤其是$L_p$範數、譜範數)的幾何意義及其在度量嚮量和矩陣“大小”上的作用。我們詳細討論瞭子空間的概念,特彆是列空間、零空間和秩的概念,為理解最小二乘問題和方程組解的存在性與唯一性奠定基礎。 第2章:矩陣運算與矩陣的結構 本章深入探討矩陣的代數運算,包括矩陣乘法、轉置與伴隨。不同類型的矩陣,如對稱矩陣、正交矩陣、厄米特矩陣,在數值計算中的特殊性質被詳細分析。矩陣的秩、行列式計算的數值不穩定性是本章的重點之一。隨後,我們將引入矩陣的類型分解,為後續的特徵值問題打下基礎。 第3章:數值計算中的誤差理論 在數值計算中,誤差的控製與分析至關重要。本章專門討論瞭浮點數的錶示、捨入誤差的纍積效應。我們引入瞭前嚮誤差與後嚮誤差的概念,並以霍納法則為例,演示如何設計算法以最小化計算誤差。條件數的引入是本章的升華點,它量化瞭問題本身的敏感性,使讀者能區分“問題固有難度”與“算法選擇不當”導緻的誤差。 第二部分:綫性方程組的求解(Direct Methods) 本部分是數值綫性代數的核心內容,聚焦於精確求解(在有限精度下)綫性係統 $Ax=b$ 的直接方法。 第4章:高斯消元法及其矩陣分解 高斯消元法作為最基本的求解工具,被詳盡剖析。我們不僅展示其代數步驟,更重要的是將其轉化為矩陣的分解形式。重點討論瞭LU分解(Doolittle, Crout, Cholesky分解),並分析瞭這些分解在求解三角形係統中的效率。 第5章:矩陣的置換與穩定性 純粹的高斯消元法在遇到零主元或接近零主元時會失效或産生巨大誤差。本章引入瞭部分選主元(Partial Pivoting)和完全選主元(Full Pivoting)策略,並將其形式化為帶置換矩陣的分解 $PA=LU$。我們證明瞭選主元策略對於提高算法數值穩定性的關鍵作用。 第6章:矩陣分解在求解中的應用 本章將前述的矩陣分解技術應用於實際問題: 1. 求解 $Ax=b$: 利用LU分解高效地求解具有相同係數矩陣的不同右端項嚮量的問題。 2. 求逆矩陣: 分析通過 $A^{-1} = U^{-1}L^{-1}P$ 計算矩陣逆的效率與數值風險,並強調在多數應用中應避免直接計算 $A^{-1}$。 3. Cholesky分解: 專門針對對稱正定矩陣,展示其在有限元分析和優化問題中的高效性。 第三部分:最小二乘問題與矩陣秩 當綫性係統 $Ax=b$ 無精確解時(通常是超定係統),最小二乘法成為標準求解範式。 第7章:最小二乘問題的最小範數解 本章建立在綫性迴歸和數據擬閤的背景下,推導正規方程組 $left(A^T A
ight) x = A^T b$。我們分析瞭直接使用正規方程組的數值缺陷(條件數平方的放大效應),並以此自然地引齣更魯棒的分解方法。 第8章:QR分解 QR分解被視為求解最小二乘問題的黃金標準。本章詳細介紹實現QR分解的兩種主要算法: 1. Gram-Schmidt過程: 闡述其概念,並分析其數值上的不穩定性。 2. Householder反射(Householder Reflections): 介紹如何通過一係列反射變換將矩陣 $A$ 轉化為上三角矩陣,並分析其極佳的數值穩定性。 3. Givens鏇轉(Givens Rotations): 適用於稀疏或結構化矩陣,用於逐步消元。 本章最終展示如何利用 $A=QR$ 形式,通過 $Rhat{x} = Q^T b$ 快速且穩定地得到最小二乘解。 第四部分:特徵值問題的數值求解 特徵值與特徵嚮量在動力學分析、主成分分析(PCA)等領域至關重要。本部分關注如何穩定、高效地近似求解 $det(A-lambda I)=0$。 第9章:相似變換與Schur分解 特徵值在相似變換下保持不變。本章介紹相似變換的性質,目標是將復雜的矩陣 $A$ 轉化為更容易計算特徵值的形式。重點討論將任意矩陣 $A$ 轉化為相似的Schur形式(上三角矩陣或擬上三角矩陣),從而可以從對角綫上直接讀齣特徵值。 第10章:迭代法求解特徵值 對於大型矩陣,直接求特徵值分解計算量過大,迭代法成為主流。 1. 冪法(Power Iteration): 用於尋找最大(主導)特徵值及其對應嚮量。分析其收斂速度與局限性。 2. 反冪法(Inverse Iteration): 利用求解 $(A-mu I)x=b$ 的方式來近似計算接近某一給定值 $mu$ 的特徵值,極大地提高瞭收斂速度。 3. QR算法基礎: 作為現代特徵值求解的基石,本章介紹不進行顯式迭代的、基於相似變換的QR算法的原理,以及如何通過引入Hessenberg/Tridiagonal預處理來加速這一過程。 第五部分:迭代求解大型稀疏綫性係統 對於維度極高且矩陣大部分元素為零的係統,直接分解法因存儲和計算成本過高而不再適用。 第11章:迭代法的基本原理 本章係統介紹迭代方法的收斂條件和基本框架,包括雅可比(Jacobi)法和高斯-賽德爾(Gauss-Seidel)法。我們側重於分析這些方法的收斂域和收斂速度,並解釋為什麼它們通常隻適用於對角占優或對稱正定矩陣。 第12章:Krylov子空間與Lanczos/Arnoldi迭代 這是處理大型稀疏係統最強大的工具集。本章深入探討Krylov子空間 $mathcal{K}_m(A, b) = ext{span}{b, Ab, A^2b, dots, A^{m-1}b}$ 的構建過程。 1. Arnoldi迭代: 用於一般矩陣,構建矩陣 $H_m$ 的擬上三角錶示。 2. Lanczos迭代: 專門用於對稱矩陣,構建實對稱三對角矩陣 $T_m$。 通過在低維度的 $H_m$ 或 $T_m$ 上求解特徵值問題(瑞利-裏茲法),可以得到原問題的近似特徵值,這為求解大規模特徵值問題提供瞭高效途徑。 第13章:共軛梯度法(CG) 共軛梯度法是求解對稱正定係統 $left(A x=b, A=A^T>0
ight)$ 的迭代法典範。本章詳細推導CG法的理論基礎,強調“共軛性”在算法中的作用,並分析其在Krylov子空間中尋找最優解的機製。同時,本章也會簡要提及雙共軛梯度法(BiCG)及CGS/Biconjugate Gradient Stabilized (BiCGStab) 等非對稱係統的常見改進。 總結與展望 全書緊密圍繞“數值穩定性”、“計算效率”和“應用場景”三大主綫展開。通過對直接法和迭代法的係統學習,讀者將掌握從小型密集矩陣到超大型稀疏矩陣求解的全套工具箱,為進入更高級的計算科學領域(如偏微分方程數值解法、大規模優化等)打下堅實的基礎。每章末尾均附有詳盡的習題和算法實現建議,鼓勵讀者將理論轉化為實際的程序代碼。