高性能計算的問題解決之道：Linux態勢感知方法、實用工具及實踐技巧 下載 mobi epub pdf 電子書 2025

簡體網頁||繁體網頁

☆☆☆☆☆

[美] 伊戈爾·盧布希斯（Igor Ljubuncic） 著，張文力譯 譯

圖書標籤:

• 高性能計算
• Linux
• 態勢感知
• 係統監控
• 性能分析
• 故障排除
• 實用工具
• 運維技巧
• 服務器管理
• 集群計算

齣版社： 機械工業齣版社

ISBN：9787111589785

版次：1

商品編碼：12319524

品牌：機工齣版

包裝：平裝

叢書名： 高性能計算技術叢書

開本：16開

齣版時間：2018-02-01

用紙：膠版紙

頁數：253

內容簡介

本書由Intel架構師撰寫，創造性地采用Linux態勢感知方法來解決高性能計算的問題，涵蓋技術、監控和配置管理等多個方麵。書中針對大規模數據中心、雲平颱架構和高性能計算環境，建立瞭一套基於統計工程和實驗設計的方法論，從識彆問題和理解問題，到再現問題和解決問題，一步一步地排除故障，形成瞭一套高效的工作流程。書中包含大量實戰案例和代碼，並介紹瞭不同工具的使用技巧，適閤從事高性能計算相關工作的技術人員和管理人員參考。

目錄

Contents 目　　錄
譯者序
前　言
緻　謝
引言　數據中心與高端計算 1
數據中心一覽 1
現代數據中心布局 1
歡迎來到BORG，抵抗是徒勞的 2
那就是力量 2
企業與Linux 2
經典的辦公室 2
Linux計算環境 3
Linux雲 3
10000個1不等於10000 3
問題的非綫性擴展 3
大數定律 4
同質化 4
企業的當務之急 4
7天24小時全天候開放 5
任務危急 5
停機時間等於金錢 5
韆裏之堤潰於蟻穴 5
參考文獻 5
第1章　你有問題嗎 6
問題的識彆 6
如果森林裏有一棵樹倒下，沒人能聽到 6
一步一步地識彆 7
總是優先使用簡單工具 7
過多的知識導緻誤區 9
問題的定義 9
當前發生或可能的問題 10
停機規模和嚴重性與業務需求 11
已知與未知 13
問題的再現 13
你能隔離問題嗎 13
偶發性問題需要特殊處理 14
計劃如何控製混亂 14
放手是最難的事 15
因與果 16
不要流連於癥狀 16
先有雞還是先有蛋 16
嚴格控製環境改變，直到你理解瞭問題的本質 18
如果改變，確保你知道預期結果是什麼 18
結論 19
參考文獻 19
第2章　開始研究 20
隔離問題 20
推動從生産到測試 20
重新運行獲得結果所需的最小集 21
忽略偏見信息，避免假設 21
與健康係統和已知參考的比較 22
那不是程序錯誤，而是一個特性 22
將預期結果與正常係統作比較 23
性能和行為的參考是必需的 24
對變化的綫性與非綫性響應 24
一次一個變量 25
綫性復雜度的問題 25
非綫性問題 25
響應可能會延遲或掩蓋 25
Y到X而不是X到Y 26
組件搜索 26
結論 26
第3章　基礎研究 27
刻畫係統狀態 27
環境監控 27
機器可訪問性、響應性和正常
運行時間 27
本地和遠程登錄以及管理控製颱 29
喊狼來瞭的監控 29
讀取係統信息和日誌 30
使用ps和top 30
係統日誌 36
進程記賬 39
檢查命令執行的模式 40
與問題錶現相關 41
避免快速的結論 41
統計作為輔助 41
vmstat 41
iostat 43
係統活動報告（SAR） 47
結論 49
參考文獻 50
第4章　深入探討係統 51
使用/proc 51
層次 52
每個進程的變量 52
內核數據 56
進程空間 60
檢查內核可調參數 63
sys子係統 63
內存管理 64
文件係統管理 65
網絡管理 65
SunRPC 66
內核 67
sysctl 69
結論 70
參考文獻 70
第5章　變身極客——跟蹤和調試應用 72
使用strace和ltrace 72
strace 72
ltrace 86
結閤兩種工具獲得最佳結果 87
其他工具 90
使用perf 93
介紹 93
為什麼不用OProfile 94
前提 94
基本使用 94
基礎實例 99
高級實例 103
小結 107
使用gdb 107
介紹 107
前提 108
簡單實例 108
不那麼簡單的實例 113
其他有用的命令 122
結論 124
參考文獻 124
第6章　極客進級——應用和內核核心、內核調試器 126
收集應用核心 126
如何轉儲應用核心 127
收集內核核心（Kdump） 132
Kdump服務概覽 133
Kdump配置 137
測試配置 143
Kdump網絡轉儲功能 145
Kdump使用 146
小結 147
崩潰分析（crash） 147
前提 147
運行crash 148
內核崩潰核心分析 156
超級極客技能：C代碼分析 167
小例子 168
中級例子 172
睏難的例子 176
內核崩潰的bug報告 182
崩潰分析結果 184
內核bug與硬件錯誤 185
小結 186
內核調試器 186
內核編譯 186
進入調試器 187
基本命令 187
小結 189
結論 189
參考文獻 189
第7章　問題的解決方案 191
如何處理收集到的數據 191
文檔 191
數據的雜亂 193
最佳實踐 195
搜索引擎、郵件列錶以及供應商支持 202
找到根本原因 203
消除問題 204
實現和跟蹤 206
結論 207
參考文獻 208
第8章　監控和預防 209
監控什麼數據 209
過多的數據比沒有數據更糟 209
Y到X將定義你所需要的監控 210
不要害怕改變 210
如何監控和分析趨勢 211
設置你關心的監控 211
監控不等於報告 212
不監控隨機指標 212
定義數學趨勢 213
如何應對趨勢 215
當它來得太晚 216
內務管理 217
預防是解決問題的關鍵 217
配置審核 218
為什麼審核有用 218
控製環境的變化 219
安全方麵 219
係統數據收集工具 219
定製工具 220
商業支持 220
結論 221
參考文獻 221
第9章　讓你的環境更安全、更健壯 222
版本控製 222
為什麼需要版本控製 222
Subversion、Git及相關軟件 223
簡單迴滾 223
配置管理 223
變懶：自動化 224
大環境下的熵 225
掌控混亂 225
配置管理軟件 225
環境中引入變化的正確方法 226
一次一個變化 226
不要急著衝到截止時間 227
理解影響 228
沒報告問題意味著什麼都沒有 228
連鎖反應 228
結論 229
參考文獻 229
第10章　微調係統性能 230
日誌大小與日誌輪轉 230
係統日誌會一直增長 230
慢點，倒帶 232
確定消息的內容 232
文件係統調優 234
Ext3/4文件係統 234
XFS文件係統 235
sysfs文件係統 236
層次 236
blo

前言/序言

前　　言?Preface我花瞭大部分的Linux職業生涯在數著成韆上萬的服務器，就像一個音樂傢盯著樂譜能看到在和聲中隱藏的波形。過瞭一段時間，我開始瞭解數據中心的工作模式和行為。它們就像活著、會呼吸一般，有自己的跌宕起伏、周期和不同尋常。它們遠不止是簡單的疊加，當你把人作為元素添加到方程中，更是變得不可預知。
在諸如大型數據中心、雲平颱架構和高性能的環境中，大型部署管理是一項非常微妙的任務。它需要大量的經驗、努力和對技術的理解來創造一個成功而高效的工作流程。未來的願景和經營戰略也是需要的。但在相當多的時候，其中某一個重要部分是缺失的。
在解決問題時，沒有通盤戰略。
本書是我的一個創造性嘗試。那些年，在我設計解決方案和産品緻力於使我掌控的數據中心變得更好、更強大且更高效的時候，也暴露瞭我在解決問題上的根本差距。人們很難完全理解這意味著什麼。是的，它涉及工具和非法侵入係統。你可能會編寫一些腳本，或者花很長時間盯著日誌在屏幕上滾動。你可能會繪製圖錶來顯示數據趨勢。你可能會嚮同事請教他們領域的問題。你可能會參與或領導特彆工作組試圖解決危急問題和恢復供電。但在最後，就像拼圖一樣，沒有一個統一的方法能解決所有的問題。
態勢感知的問題解決方法藉鑒自科學領域，它試圖用數學來代替人的直覺。我們將使用統計工程和實驗設計以對抗混亂。我們會慢慢地、係統地、一步一步地工作，努力找到一種統一的方法用於解決同類問題。我們關注打破數據神話，擺脫一些波及數據中心的偏見和傳統。然後，我們將把係統故障排除的藝術轉化為産品。這可能聽起來很殘酷，藝術將按重量齣售，但當你深入閱讀本書的時候，其中的必要性就變得顯而易見。你的那些不自在，在原本無論接觸監控、變化控製和管理、自動化以及其他哪怕是最好的實踐都會有的不自在，統統將會慢慢融入現代數據中心。
最後同樣重要的是，請不要忘記我們盡一切努力去研究和解決問題的初衷——樂趣和好奇心，這正是讓我們成為工程師和科學傢的真正原因，正是讓我們熱愛數據中心技術編織的混亂、忙碌而又瘋狂的世界的原因。
快來和我們一路同行吧。
Igor Ljubuncic緻　　謝?Acknowledgements寫這本書的時候，我會偶爾離開辦公桌，四處與人交談。他們的意見和建議幫助塑造瞭這本書，使它擁有更漂亮的形式。因此，我要感謝Patrick Hauke確保這個項目最終完成，感謝David Clark編輯書稿並調整句子段落，感謝Avikam Rozenfeld提供有用的技術反饋和理念，感謝Tom Litterer在正確的方嚮上做正確的引導，最後同樣重要的是，感謝其他那些在英特爾的聰明而又努力工作的人。
女士們，先生們，請允許我脫帽緻敬。
Igor Ljubuncic

馳騁數字疆域：從底層視角洞悉係統脈絡與效率精進 在這個由海量數據和復雜計算驅動的時代，如何駕馭龐雜的係統，確保其穩定、高效地運行，已成為一項至關重要的挑戰。本書並非旨在提供一套固定不變的“標準答案”，也非羅列繁瑣的指令集。它緻力於構建一種底層思維模式，一種深刻理解係統運作機製的視角，並在此基礎上，訓練您敏銳地察覺係統“異樣”的能力，掌握應對潛在問題的“工具箱”，並積纍久經考驗的“實踐智慧”。 我們並非教授您如何“解決”一個已經發生的“問題”，而是引導您如何“預見”問題的萌芽，如何“診斷”問題的根源，並最終如何“優化”係統的整體錶現。這更像是一場在數字世界中的“偵探”之旅，您將學會如何觀察蛛絲馬跡，如何解讀係統發齣的“信號”，如何剝離錶象，直擊核心。 本書的核心在於建立一套係統性的分析框架。我們從計算機係統最基本的組成單元——硬件資源——齣發，探究CPU、內存、磁盤I/O、網絡等各個環節是如何協同工作的。您將深入瞭解，當某個資源齣現瓶頸時，它會對整個係統的性能産生何種連鎖反應。我們將打破“黑箱”思維，讓您看到指令在CPU中如何被執行，數據如何在內存中流轉，I/O請求如何穿越存儲控製器，以及網絡數據包如何在驅動和協議棧中被處理。這種對硬件層麵的細緻理解，是後續一切分析的基礎。 接下來，我們將目光投嚮操作係統內核。這是連接硬件與應用程序的橋梁，也是性能的“心髒”。您將學習如何理解操作係統的調度策略，是如何分配CPU時間的；內存管理機製，是如何高效利用物理內存並處理虛擬內存的；進程與綫程模型，是如何實現並發與並行；以及文件係統如何組織和訪問數據。我們不會止步於理論概念，而是深入挖掘這些機製在實際運行中是如何體現的，例如，為什麼會有上下文切換的開銷，為什麼內存碎片化會影響性能，為什麼鎖競爭會導緻死鎖。 在此基礎上，本書將重點關注如何“感知”係統的“態勢”。這裏的“態勢感知”並非簡單的監控指標收集，而是一種主動的、動態的、多維度的洞察力。您將學會如何從多個角度審視係統的健康狀況，包括： 資源利用率的深層解讀：不僅僅是“CPU使用率多少”，而是要理解 CPU 利用率高是源於單核瓶頸還是多核負載不均，是CPU密集型任務還是I/O等待。內存使用率高是由於內存泄漏，還是應用程序本身需要大量內存。磁盤I/O等待時間長，是由於機械硬盤的限製，還是由於文件係統的鎖爭用，亦或是網絡存儲的延遲。 進程行為的細緻分析：瞭解進程的生命周期，如何監控異常進程的齣現，如何分析進程的CPU、內存、I/O、網絡等資源的消耗模式。識彆齣哪些進程在“默默地”消耗資源，哪些進程的行為異常，可能預示著潛在的問題。 係統調用的意義：每一條係統調用都是應用程序與內核交互的窗口。您將學習如何追蹤係統調用，理解它們的功能，以及異常或頻繁的係統調用可能暗示著什麼。例如，過多的read/write調用可能意味著文件I/O的瓶頸，過多的mmap調用可能影響內存管理。 網絡通信的剖析：理解網絡協議棧的工作原理，如何監控網絡流量，識彆網絡延遲、丟包、連接數過多等問題。深入分析TCP/IP握手過程、擁塞控製機製，以及應用程序層麵的網絡交互。 事件與日誌的智慧：係統會産生大量的日誌信息，而這些信息往往是解決問題的關鍵。您將學會如何高效地過濾、分析和關聯日誌，從中提取有用的信息，追蹤問題的發生軌跡。 為瞭實現這種深度的態勢感知，本書將為您裝備一係列強大的“實用工具”。這些工具並非新近開發的“炫酷”軟件，而是經過實踐檢驗、久經考驗的“利器”。您將深入瞭解： 性能分析的基礎工具：如 `top`、`htop`、`vmstat`、`iostat`、`sar` 等，但我們將重點講解它們的進階用法，如何解讀它們的輸齣，如何通過參數調整獲取更精細的信息。 進程與綫程的深入洞察工具：如 `ps`、`pstree`、`strace`、`ltrace`、`gdb` 等，如何利用它們追蹤進程的調用鏈，觀察程序的執行流程，甚至在運行時進行調試。 文件係統與磁盤I/O的剖析工具：如 `df`、`du`、`lsof`、`iotop`、`blktrace` 等，如何瞭解磁盤的空間使用情況，查找大文件，識彆哪些進程正在訪問哪些文件，以及底層磁盤I/O的詳細活動。 網絡通信的監控與分析工具：如 `netstat`、`ss`、`tcpdump`、`wireshark`、`ping`、`traceroute` 等，如何查看網絡連接狀態，抓包分析網絡通信細節，診斷網絡故障。 係統調用的追蹤工具：如 `strace`、`ltrace`，理解應用程序與內核之間的交互，發現潛在的係統調用瓶頸。 內存分析的利器：如 `valgrind`，如何檢測內存泄漏、內存越界等常見的內存錯誤。 容器化環境下的工具運用：在容器化部署日益普及的今天，您還將學習如何在 Docker、Kubernetes 等環境中，運用類似的工具進行性能分析和問題診斷。 然而，僅僅掌握工具是遠遠不夠的。真正的精通在於“實踐技巧”和“思維模式”的沉澱。本書將通過大量精心設計的場景和案例，引導您將理論知識和工具運用相結閤。您將學習： 如何建立性能基綫：瞭解正常係統運行時的錶現，以便快速識彆異常。 如何運用“二分法”定位問題：通過逐步縮小排查範圍，高效地找到問題的癥結。 如何解讀“異常”數據：理解哪些指標的異常是“正常”的，哪些是需要警惕的。 如何從“現象”推斷“本質”：例如，看到高 CPU 使用率，您需要分析是程序計算量大，還是因為頻繁的鎖競爭導緻的忙等待。 如何針對不同的應用場景進行優化：Web服務器、數據庫、大數據處理平颱、科學計算任務等，它們對係統資源的需求和性能瓶頸是不同的。 如何進行預防性維護：通過持續的監控和分析，在問題發生之前將其扼殺在搖籃裏。 如何與其他團隊協同解決問題：理解不同角色的責任，以及如何清晰有效地溝通技術問題。 本書將引導您擺脫“頭痛醫頭，腳痛醫腳”的被動局麵，培養一種主動、係統、深入的解決問題的能力。您將不再僅僅是執行指令的“操作員”，而是能夠洞悉係統本質、掌控係統命運的“架構師”和“診斷師”。無論您是係統管理員、開發工程師、運維工程師，還是對底層係統運作充滿好奇的技術愛好者，本書都將成為您在這片數字疆域中，提升效率、保障穩定、實現性能突破的得力助手。我們相信，通過本書的學習，您將能夠以更加從容、自信的姿態，麵對日益復雜和嚴峻的技術挑戰。

評分☆☆☆☆☆

我在大型科學計算項目中扮演著技術支持的角色，經常需要麵對來自不同團隊用戶提交的性能報告和問題反饋。這些問題韆奇百怪，從單節點 CPU 占用過高，到跨節點通信延遲劇增，再到存儲 I/O 成為瓶頸，可謂是應有盡有。過去，我更多的是依賴經驗和直覺，嘗試一些常規的排查手段，但效果往往不盡如人意，甚至有時會誤診。這本書的齣現，就像一盞指路明燈，給瞭我係統學習 HPC 問題解決方法的希望。“Linux態勢感知”這個概念尤其吸引我，我渴望能夠掌握一套科學的方法論，來理解 HPC 集群在各種負載下的運行狀態，從而能夠更準確、更高效地進行故障診斷。我希望書中能夠詳細介紹各種 Linux 係統性能監控工具的原理、用法和優缺點，並提供清晰的使用指南。更重要的是，我希望能夠從中學習到如何將這些工具有機地結閤起來，形成一套完整的分析流程，能夠應對不同類型的性能問題。如果書中還能包含一些作者在實際 HPC 環境中遇到的典型案例，並展示其解決過程，那對我來說將是無價的財富。

評分☆☆☆☆☆

這本書的標題本身就非常有吸引力，對於我這種長期在高性能計算領域摸索的工程師來說，“問題解決之道”這幾個字直接戳中瞭痛點。“Linux態勢感知”更是讓我眼前一亮，我一直覺得，對底層係統的深入理解是解決高性能計算問題的關鍵，而態勢感知恰恰是實現這一目標的重要手段。我希望這本書不僅僅是羅列一些命令和工具，更重要的是能夠提供一套係統的思維框架和方法論。我希望作者能夠詳細闡述如何在 HPC 環境下，通過觀察和分析 Linux 係統的各種運行指標，來建立對整個集群狀態的“感知能力”。這可能包括對 CPU 調度、內存分配、I/O 訪問、網絡通信等方麵的深入剖析，以及如何利用 `perf`、`strace`、`bpftrace` 等工具進行精細化的性能診斷。如果書中還能分享一些作者在實際 HPC 項目中，如何一步步定位並解決復雜性能問題的經典案例，那將是無比寶貴的學習經驗，能夠極大地提升我解決實際問題的能力。我期待這本書能幫助我從“知道問題”升級到“理解問題”並最終“解決問題”。

評分☆☆☆☆☆

我一直認為，在高性能計算領域，解決問題的能力是衡量一個工程師水平的重要標準，而這種能力往往建立在對係統底層運行機製的深刻理解之上。這本書的題目“高性能計算的問題解決之道”和副標題“Linux態勢感知方法、實用工具及實踐技巧”完美地契閤瞭我長久以來的學習目標。我希望書中能夠深入探討 Linux 內核在調度、內存管理、文件係統、網絡棧等方麵的精妙設計，以及這些設計如何影響 HPC 應用的性能。尤其期待書中能夠詳細介紹如何利用 eBPF 等現代化的工具進行細粒度的性能剖析，不僅僅是簡單的性能指標監控，而是能夠深入到內核函數的調用、係統調用的延遲、鎖的競爭等微觀層麵。我希望作者能夠分享一些獨到的“態勢感知”理念，幫助讀者建立一種“預見性”思維，在問題發生之前就能夠識彆齣潛在的風險點。這本書如果能夠提供豐富的案例，展示如何從模糊的現象齣發，通過層層深入的分析，最終定位並解決隱藏在龐大 HPC 係統中的疑難雜癥，那將是對我最大的幫助。

評分☆☆☆☆☆

這本書的封麵設計就透露著一種專業和實用的氣息，深邃的藍色調配閤著簡潔有力的書名，瞬間就吸引瞭我這個長期在高性能計算領域摸爬滾打的讀者。我一直苦惱於如何在復雜的 HPC 環境中快速定位和解決問題，尤其是在大規模集群齣現性能瓶頸時，那種束手無策的感覺真是令人沮喪。這本書的標題“問題解決之道”以及“Linux態勢感知”的關鍵詞，立刻點燃瞭我探索的希望。我特彆期待書中能夠深入講解如何利用 Linux 內核提供的各種監控工具，例如 `perf`、`strace`、`bpftrace` 等，去深入剖析 CPU、內存、I/O、網絡等各個層麵的性能指標。我希望作者能夠提供一套係統性的方法論，指導我們如何從宏觀到微觀，層層遞進地分析問題，而不是僅僅列舉一些零散的命令和技巧。書中的“實用工具”和“實踐技巧”也讓我看到瞭希望，如果能有實際案例分析，展示作者是如何一步步診斷並解決某個棘手的 HPC 性能難題，那將是無價的學習資源。畢竟，理論再好，不如實戰經驗來得真切。我希望這本書能夠成為我工作中的得力助手，讓我在麵對 HPC 挑戰時，能夠更加自信和從容。

評分☆☆☆☆☆

作為一名剛接觸高性能計算不久的初學者，我常常被各種各樣的術語和復雜的概念弄得暈頭轉嚮。尤其是在遇到性能問題時，我感覺自己就像一個無頭蒼蠅，不知道從何處下手。偶然間看到瞭這本書的介紹，它的書名“高性能計算的問題解決之道”立刻吸引瞭我，讓我看到瞭學習的希望。“Linux態勢感知”這個概念更是讓我眼前一亮，我一直覺得理解操作係統層麵的運行狀況對於解決問題至關重要，但苦於沒有係統性的學習途徑。我希望這本書能夠用通俗易懂的語言，為我打開 Linux 態勢感知的大門，讓我理解 CPU 的調度機製、內存的管理策略、進程間的通信方式等等。同時，我非常期待書中能夠介紹一些簡單易學的實用工具，例如 `top`、`htop`、`vmstat` 這些基礎命令的進階用法，以及一些更專業的工具，例如 `sar`、`iostat` 等，並且能夠指導我如何解讀這些工具輸齣的數據。我希望這本書能夠幫助我建立起一套解決 HPC 性能問題的基本框架，讓我能夠逐步掌握分析和定位問題的能力，為我未來的學習和工作打下堅實的基礎。