發表於2024-11-25
數年前既率先搭建私有雲平颱,多款上億知名遊戲運行其上
係統設計理念、核心技術方案,獻給開發|運維|架構|選型……
容量管理|雲數據源|Ceph虛擬存儲|libvirt的虛擬計算|VXLAN技術
如何上雲|如何用雲,超高復雜度下量體裁衣定製自有雲平颱
本書深入淺齣地介紹瞭YY遊戲雲平颱團隊在雲計算領域的心路曆程和實踐經驗,不僅總結瞭多年來在OpenStack驅動的Cloud 1.0上開發和使用的經驗教訓,而且花大幅筆墨深入講解瞭自主研發的私有雲平颱Cloud 2.0的設計和實現。本書內容全麵而詳盡,依次講解瞭Cloud 2.0的選型思路、基於VXLAN技術的VPC網絡架構設計和實現、業務層架構設計和實現、基於libvirt的虛擬計算實踐、基於Ceph的虛擬存儲實踐、雲數據源等産品的架構選型及實現、容量管理的詳細思路,以及雲平颱方方麵麵的測試,是雲計算領域實踐類書籍中不可多得的一本好書。本書乾貨眾多,不僅適閤初入雲計算領域的讀者閱讀,更適閤開發人員參考學習和實踐。本書各章均可獨立成冊,讀者可以根據自己的需要來閱讀。
目錄
第1章 緒論 1
1.1 雲計算發展趨勢 1
1.2 YY遊戲使用雲平颱的經驗 3
1.3 雲計算隨想 5
第2章 選型思路 8
2.1 為什麼放棄OpenStack 8
2.2 Cloud 2.0研發思路 9
2.3 發展規劃:基於雲的VDC實現 14
第3章 Cloud 2.0虛擬網絡實現 17
3.1 Cloud 1.0的實踐經驗 17
3.1.1 Neutron與企業私有雲 18
3.1.2 問題與不足 19
3.1.3 擁抱SDN 22
3.2 虛擬網絡架構 26
3.2.1 Overlay網絡模型 26
3.2.2 虛擬網絡架構 33
3.2.3 網絡設備技術要點 37
3.3 虛擬網絡實現 41
3.3.1 Underlay網絡 41
3.3.2 Overlay網絡――VXLAN VPC 44
3.3.3 SDN的核心―控製器實現 49
3.3.4 服務如臂使指―北嚮接口API 54
3.3.5 網絡觸手可及―南嚮控製協議 57
3.3.6 SDN與NFV 61
3.4 虛擬網絡業務 62
3.4.1 Underlay網絡配置流程 62
3.4.2 雲主機創建流程 65
3.4.3 雲主機遷移流程 66
第4章 雲平颱業務 67
4.1 業務組件 67
4.2 業務架構 69
4.3 安全子係統 70
4.3.1 用戶安全 70
4.3.2 組件安全 72
4.3.3 技術實現 75
4.4 調度子係統 90
4.4.1 流程引擎設計 90
4.4.2 統一實現審計 94
4.4.3 樂觀鎖加記錄鎖的並發控製 94
4.4.4 異步綫程池管理 96
4.4.5 基於Redis實現的分布式鎖 97
4.4.6 基於Hibernate與Spring JDBC的靈活持久層 100
4.5 雲控製颱 101
4.5.1 為什麼選擇AngularJS 102
4.5.2 開發心得總結 105
第 5章 虛擬計算 116
5.1 虛擬化概述 116
5.2 KVM/QEMU/libvirt淺析 117
5.2.1 KVM簡介 117
5.2.2 KVM與QEMU 118
5.2.3 libvirt介紹 119
5.3 KVM虛擬化環境安裝 120
5.3.1 APT源安裝 120
5.3.2 源碼編譯安裝 120
5.4 使用qemu-img管理虛擬機磁盤鏡像 121
5.4.1 qemu-img基本命令 122
5.4.2 在宿主機上如何掛載鏡像文件 124
5.5 使用libvirt管理KVM虛擬機 124
5.5.1 libvirt Java API的使用 124
5.5.2 虛擬機XML配置文件詳解 133
5.5.3 virsh常用命令 141
5.6 實戰係列 142
5.6.1 使用Cloudinit實現虛擬機啓動初始化 142
5.6.2 在綫更改虛擬機內存大小 146
5.6.3 熱添加虛擬機CPU 147
5.6.4 如何限製虛擬機磁盤I/O 148
5.6.5 在虛擬機內部如何正確自動掛載磁盤 148
5.6.6 虛擬機如何使用Ceph塊設備 149
5.6.7 libvirt hook機製 151
5.6.8 如何支持使用virsh控製颱登錄虛擬機 152
5.6.9 虛擬機如何通過OpenvSwitch接入網絡 153
5.6.10 宿主機如何通過qemu-guest-agent與虛擬機通信 154
5.6.11 虛擬機的遷移 156
第6章 虛擬存儲 161
6.1 概念和術語 162
6.2 硬件配置 162
6.2.1 Ceph網絡配置 163
6.2.2 服務器配置 165
6.3 軟件配置 166
6.4 部署 168
6.4.1 設置副本分布到不同的機架上 168
6.4.2 創建Pool 172
6.4.3 測試PG副本的機架分布性 173
6.5 監控 173
6.5.1 監控層次 173
6.5.2 與Zabbix監控係統集成 174
6.5.3 告警條件 174
6.5.4 監控麵闆 174
6.6 性能測試和調優 176
6.6.1 塊設備性能測試 176
6.6.2 調優 177
6.7 維護操作 183
6.7.1 使用systemctl管理Ceph進程 183
6.7.2 OSD機器重啓 184
6.7.3 擴容 184
6.7.4 升級Ceph軟件版本 184
6.8 故障定位和處理 185
6.8.1 查看集群狀態 185
6.8.2 日誌 186
6.8.3 MON 187
6.8.4 OSD 188
6.8.5 PG 192
6.8.6 實際運維中的問題 196
第7章 雲數據庫 199
7.1 雲數據庫服務功能介紹 199
7.2 1.0版本三層架構 199
7.2.1 Manager開放API的認證方式 201
7.2.2 Manager節點的調度策略 202
7.2.3 Manager節點的配額管理 203
7.2.4 Backend節點的資源 203
7.3 雲數據庫2.0版本架構演化及改進 214
7.3.1 雲數據庫1.0版本的問題與不足 215
7.3.2 雲數據庫2.0版本的改進 215
7.3.3 CloudMySQL 2.0 Agent的設計模型 217
7.3.4 CloudMySQL 2.0 KVM配置 221
7.4 小結 225
第8章 雲平颱容量管理 226
8.1 容量管理概述 226
8.2 容量管理真實案例 227
8.3 容量管理特點和成熟度 229
8.3.1 ITIL容量管理特點 229
8.3.2 雲平颱容量管理特點 229
8.3.3 雲平颱容量管理成熟度模型 230
8.4 容量管理組件 231
8.5 容量管理總體模型 231
8.5.1 容量與其他係統的關係 233
8.5.2 網絡模型 234
8.5.3 計算模型 236
8.5.4 存儲模型 237
8.5.5 雲MySQL模型 239
8.6 容量預測 241
8.7 容量管理可視化 242
8.8 容量管理之資源采購 243
8.9 小結 243
第9章 雲平颱測試 244
9.1 雲平颱測試策略 244
9.1.1 雲平颱項目測試特性 244
9.1.2 測試方法與策略 245
9.1.3 測試環境 248
9.2 雲計算測試 249
9.2.1 功能測試 249
9.2.2 自動化測試 252
9.3 雲數據庫測試 257
9.3.1 雲MySQL測試 257
9.3.2 雲Redis測試 260
9.4 雲網絡測試 262
9.4.1 虛擬網絡測試 262
9.4.2 雲平颱業務的網絡功能測試 273
9.4.3 遷移後的網絡測試 277
9.5 雲平颱安全測試 280
9.5.1 API安全測試 280
9.5.2 雲Redis安全測試 283
附錄A 縮略詞錶 286
推薦序一
在群星璀璨的信息技術領域,雲計算無疑是最耀眼的一顆星。從2006年春天亞馬遜上綫第一個雲計算産品Amazon S3以來,雲計算市場和技術都取得飛速發展。2015年全球雲計算市場規模達到522億美元,預計到2020年將達到1435億美元。
在全球主流技術公司紛紛擁抱雲計算之時,YY遊戲早在2013年就搭建瞭自己的私有雲平颱,利用雲計算驅動遊戲業務。一些月流水過億的知名遊戲,都曾經運行在我們的私有雲平颱上。
YY遊戲雲平颱團隊在過去幾年對雲計算的研發、運維中,積纍瞭非常多的經驗,並在此基礎上,自主實現瞭一套私有雲平颱,以更好地滿足公司業務日新月異發展所帶來的不斷挑戰。今後,雲平颱不止服務遊戲,還將服務虎牙直播,利用雲平颱的分布式計算能力,帶給用戶更好的體驗和感受。
歡聚時代是一個技術驅動的公司,將近60%員工為研發人員。不管是遊戲平颱,還是虎牙直播,我們在技術研發上的投入都領先於同行業。希望YY遊戲雲平颱繼續加強發展,為雲計算自主創新領域樹立一個標杆。
本書是團隊的智慧結晶,用戶在閱讀本書後,將對雲計算本質有一個全新的理解。
董榮傑
歡聚時代執行副總裁
推薦序二
隨著近年來雲計算應用技術的快速發展和逐漸成熟,企業如何上雲、如何用雲是擺在CIO麵前的重要課題。各種解決方案有其特定應用場景,企業要綜閤考慮業務情況、資金投入、技術能力等多種因素進行選擇—是削足適履,對自身IT架構進行調整去適應相應平颱?還是量體裁衣,根據自身業務定製自有雲平颱?無論采用何種方案,都需要從業務角度齣發,對所涉及的相關技術有足夠深刻的理解。
雲平颱所涉及的技術和運營復雜度超過瞭以往大多數IT係統,不少自建私有雲或行業雲的企業大都經曆瞭如下兩個階段。
一是戰略規劃和選型。
從戰略層麵看,企業選擇自建私有雲或構建更大的行業雲,往往都是從自身業務發展和戰略角度齣發的,尤其是業務對IT有重度依賴的企業。一方麵,這些企業對産品技術的要求和復雜度超過瞭市場上公有雲的能力,不希望在基礎設施架構方麵受製於人;另一方麵,IT基礎架構本身就是核心競爭力,如果在此方麵能有所突破,就可構築本行業的技術壁壘。
從産品技術層麵看,雲平颱技術選型中的計算、網絡、存儲、安全都是要重點考慮的核心因素。以OpenStack為主流的開放平颱極大地加速瞭技術選型的過程,並帶來瞭豐富的應用、社區資源以及技術人纔。雲平颱所涉及的技術體係廣泛,一般企業很難有完整的駕馭能力,比較實際的做法是采用以開源平颱為基礎、自有研發為核心、專業廠商為關鍵技術補充的模式。
二是上綫和迭代。
雲平颱上綫之後,企業根據自身業務特點,一般會將部分業務遷移至雲平颱進行試運行,從技術、運營方麵不斷磨閤,為後續更大的業務上綫做積纍儲備。但業務上綫之後,一般都會麵臨諸多不適應或者難題,如開源軟件的本身質量問題、功能缺陷、網絡性能瓶頸、磁盤IO性能瓶頸、運維復雜度高、安全問題等,這些都對提供高品質的業務基礎團隊構成瞭挑戰。
雲計算大量使用瞭虛擬化、分布式等新技術,在新技術和傳統IT産品融閤的過程中會遇到諸多問題。比如在大規模雲平颱中,當防火牆很難滿足性能要求時如何擴展;如何利用現有SDN交換機的性能優勢,為租戶網絡提供高性能的東西嚮網關;在虛擬網絡中,雲網絡虛擬化技術使得傳統的監控産品如NPM很難放置探針點,如何進行快速運維診斷分析,這些在技術方案中都需要考慮,並且必須有相應的解決方案。
雲計算所采用的技術對支撐的軟硬件係統既有要求降低的部分,如服務器、存儲等,采用大量性價比更高的通用服務器,更大發揮軟件的價值;也有要求增加的部分,如SDN交換機、NFV功能、數據分析産品,即要考慮傳統IT産品如何能以服務方式交付到雲環境中。在對廠商降低依賴的同時要求平颱運維者能夠深刻理解平颱運行原理,在硬件故障、軟件故障、外部因素(如網絡攻擊)、內部因素(如人為誤操作)等任何情況下都能做到自主可控,纔可能有SLA的保證。
在和YY 雲平颱團隊多次深入交流中,感受最深刻的是他們對係統架構和技術方嚮的深刻把握,這一方麵來自於運營RiseCloud(升龍雲)雲平颱多年的技術積纍,另一方麵來自於重負載的YY遊戲業務需要持續催生、迭代齣最適閤的技術方案。RiseCloud是一個遊戲行業雲,從技術角度看,遊戲業務對平颱的要求均衡且很高。RiseCloud能夠承載大量的重載遊戲,從性能、服務品質和産品功能成熟度看,該平颱已經完全是一個成熟的商業化平颱。
YY 雲平颱團隊對技術的開放態度很令人欽佩,一個規模不大的技術團隊,能夠自研RiseCloud並將其運營起來,是因為他們能與業界、社區廣泛閤作,吸納諸多領先技術和理念。同時他們能夠把積纍多年的經驗寫成案例共享齣來,也非常難能可貴。本書涉及瞭RiseCloud完整的係統設計理念和核心技術實現方案,相信是對開發、運營平颱多年來的經驗、教訓的總結。尤其是在SDN的相關實踐方麵,書中的案例非常典型,可以用來解決OpenStack網絡方麵的諸多問題。這些對於關注大規模雲計算平颱體係架構、技術選型、功能實現、平颱運維的讀者來說,將獲益良多。
張天鵬
雲杉網絡CTO
推薦序三
收到《自主實現SDN虛擬網絡和企業私有雲》書稿後,隻是目錄,就吸引我迫不及待地一口氣通讀瞭一遍。第一感覺是國內搞雲計算的朋友有福瞭,你們以後必定要經常翻閱此書,因為這樣做可以節省大量的摸索時間。
YY的私有雲規模非常大,遊戲業務對雲的考驗也非常大,在計算能力、磁盤IO能力、網絡質量方麵都有非常高的要求。尤其是端遊,比手遊要求更高,壓力更大,所以一般在公有雲上都很少跑端遊。但是YY的私有雲不光跑瞭大量的頁遊、手遊,還跑瞭一定數量的端遊,證明YY的私有雲切切實實經受住瞭實踐的檢驗。
《自主實現SDN虛擬網絡和企業私有雲》分享瞭YY私有雲建設的思路、方法及大量實踐。更難得的是,本書不是一個人而是一個團隊的經驗,含金量非常高,章章都是乾貨,尤其是YY在私有雲網絡建設方麵獨特的解決方案和實踐。
肖力
雲技術社區創始人
推薦序四
YY是國內最早做PC端直播的,而且在很長一段時間內很火爆。本書寫得很好,從最初的調研雲平颱,到使用過程中的踩坑總結都不乏亮點。YY能夠不隨波逐流,摒棄目前流行的OpenStack,還是很有勇氣的。還是那句話:隻有適閤自己的纔是最好的。Ceph是目前主流的開源分布式存儲軟件。看到越來越多的雲服務商和企業用戶開始用Ceph,作為國內較早布道、推廣Ceph的人來說很是高興和激動。總體來說,YY雲平颱沉著穩重又不缺乏創新和突破,而齣自平颱建設者之手的本書我覺得也是國內IT企業建設私有雲最值得藉鑒的一本。
耿航
Ceph中國社區聯閤創始人 & XSKY市場技術專傢
推薦序五
在SDN盛行的當下,專注於SDN與私有雲實踐類的書籍甚少。
《自主實現SDN虛擬網絡和企業私有雲》一書能及時填補空白,讓廣大從業者猶如久乾逢雨露。
書中介紹瞭YY私有雲的搭建思路、技能選型以及技術細節,為在SDN和私有雲前沿探索的戰士們指路、點燈,可謂功德無量。
鬍凱
bilibili運維負責人
本書由YY遊戲雲平颱團隊編寫。YY遊戲在平颱技術上保持開放的心態,勇於采用新興的技術來促進業務發展、降低成本。從2013年起,YY大部分遊戲都運行在私有雲平颱上。這個私有雲平颱也經曆瞭兩代的發展,從第一代基於OpenStack的私有雲,到第二代完全自主實現的SDN和私有雲,曆經磨難,實現瞭質的改進。
在OpenStack如日中天時期,我們也選擇它來部署第一代私有雲。但是很快發現OpenStack在實際運行中存在諸多問題,這些問題錶明OpenStack在沒有足夠的開發、運維力量的情況下,不適閤大規模的生産應用。當然,正是在使用OpenStack的過程中,我們學習瞭它的一些設計思想,例如虛擬計算的調度、虛擬網絡的實現等,這些經驗為我們研發第二代雲平颱做瞭有效鋪墊。
從2015年8月起到2016年6月止,曆經將近一年的時間,我們自主研發和上綫瞭第二代私有雲平颱。第二代私有雲平颱完全拋棄瞭OpenStack,它的體係架構、業務組件、功能模塊全部由我們自己實現,其中涉及對虛擬計算、虛擬存儲、虛擬網絡的深入分析和調研。尤其是虛擬網絡,我們跟華為、華三、雲杉等公司進行瞭大量交流,最終確定瞭適閤自己的SDN産品和方案。
在第一代雲平颱嚮第二代雲平颱轉型過程中,以及在第二代雲平颱的研發、運維中,團隊進行瞭大量實踐,並積纍瞭許多寶貴經驗。團隊成員深入理解雲計算本質,取其精華為己所用,構建瞭一個穩固的私有雲平颱,並成功服務於頁遊、端遊、手遊的運營。
今天,我們把建設私有雲平颱的實戰經驗以寫書的方式分享齣來。閱讀完本書後,你會發現私有雲並沒有那麼復雜,也並非高不可攀。隻要搞懂瞭它的體係架構,以及每個子係統(計算、存儲、網絡)的實現方式,再結閤企業自身的業務特點,自主構建一個私有雲平颱不是很難的事。
本書對於對雲計算感興趣、有計劃建設私有雲的用戶,格外具有參考、藉鑒意義。
本書內容由YY遊戲雲平颱組的開發、運維、QA工程師共同完成,包括:
? 風河,編寫瞭第1、2章背景介紹部分;
? 張春,編寫瞭第3章虛擬網絡部分;
? 何招武、張興平,編寫瞭第4章雲平颱業務部分;
? 硃輝,編寫瞭第5章虛擬計算部分;
? 戚昱,編寫瞭第6章虛擬存儲部分;
? 張博,編寫瞭第7章雲數據庫部分;
? 劉亞丹,編寫瞭第8章雲平颱容量管理部分;
? 黃書明、廖誌委、任方超,編寫瞭第9章測試與安全部分。
上述同學在各自領域都是資深工程師,感謝他們在工作之外的辛勤付齣,纔有瞭本書。同時感謝QA組的馬飛同學在本書編寫過程中的項目管理工作。也感謝電子工業齣版社的編輯們對本書的排版、校對工作。
如果讀者對書中內容有疑問或建議,請發郵件反饋給我們:g-yygame-booking@yy.com。
自主實現SDN虛擬網絡與企業私有雲 下載 mobi pdf epub txt 電子書 格式 2024
自主實現SDN虛擬網絡與企業私有雲 下載 mobi epub pdf 電子書容器即服務:從零構建企業級容器集群
評分印刷清晰,品質不錯,保證正品。
評分書籍是正版,紙張質量好,內容豐富詳實,看瞭收貨很大!京東送貨快!
評分好書,一直想瞭解下這些新東西,慢慢看吧。
評分指著它脫離人肉運維之痛,哈哈哈。一口氣25本書,還是很爽的,重要的是學到東西,豆瓣上評價不錯,不說瞭拿發票去報銷瞭。
評分相信京東,買東西現在一直在京東買,放心
評分書寫的不錯,比直接看文檔直觀,方便
評分3. 部分章節的關鍵性技術,疲於翻譯、羅列論文中的內容,而缺少穿針引綫和獨到見解。例如P4的介紹,除瞭把P4的paper中的關鍵幾幅圖和幾個重點段落翻譯過來之外,加上一像是從IT論壇上摘抄下來的所謂的“發展趨勢”,鮮有其他乾貨。比如P4有哪些潛在的應用,又有哪些可以改進的點呢,這就很難讀得齣來。
評分給老公買的書,他說書不錯!
自主實現SDN虛擬網絡與企業私有雲 mobi epub pdf txt 電子書 格式下載 2024