內容簡介
《高等院校信息與通信工程係列教材:信息論與編碼》對信息論的基本概念(熵、平均互信息量、信道容量,信息率失真函數)以及與此相對的香農三大極限編碼定理(無失真信源編碼定理、限失真信源編碼定理和信道編碼定理)做瞭係統的介紹,並以信息論為基礎,介紹瞭信源編碼、信道編碼和加密編碼的基本原理和方法,對一些具體編碼方法的現實應用和編程實現也做瞭簡單的介紹,最後,對相關領域的發展進行瞭概述和展望,在附錄中還給齣瞭一些科研與創新的相關經驗。
《高等院校信息與通信工程係列教材:信息論與編碼》注重啓發式的教學,注重創新能力的培養,對難於理解的信息論與編碼的關鍵性問題,給齣瞭思考提示,在編寫方式上進行瞭創新,采用不同字體區分不同內容,為讀者留齣瞭創新空間。
《高等院校信息與通信工程係列教材:信息論與編碼》適用於高等院校信息工程、通信工程、雷達、信息安全、計算機、電子學、信息與計算科學等相關專業的本科生、研究生的教學,也可以用於教學、科研和工程的參考。
內頁插圖
目錄
第1章 緒論
1.1 信息技術的優勢及其帶來的根本變革
1.2 信息論與編碼的基本概念
1.2.1 信息的一般概念
1.2.2 香農的信息定義
1.2.3 信息的其他定義
1.2.4 信息論與編碼技術發展曆程
1.2.5 香農生平和學術風格
1.2.6 若乾基本問題及其錦囊
1.3 數字通信係統模型
1.4 信息論與編碼理論研究的主要內容和意義
1.4.1 信息論研究的主要內容
1.4.2 香農信息論對信道編碼的指導意義
1.4.3 香農信息論對信源編碼的指導意義
1.4.4 香農信息論對加密編碼的指導意義
1.5 香農信息論的重要觀點與方法
1.6 全程思考題
思考題與習題
第2章 信源及信息度量
2.1 信源的數學模型和分類
2.1.1 離散無記憶信源
2.1.2 離散有記憶信源
2.1.3 馬爾可夫信源
2.1.4 連續信源
2.2 離散信源熵和互信息
2.2.1 自信息量
2.2.2 信源熵
2.2.3 條件熵
2.2.4 聯閤熵
2.2.5 熵函數的性質
2.2.6 互信息與平均互信息量
2.2.7 互信息與平均互信息量的性質
2.2.8 數據處理中信息的變化
2.3 離散序列信源的熵
2.3.1 離散無記憶信源的序列熵
2.3.2 離散有記憶信源的序列熵
2.3.3 馬爾可夫信源的序列熵
2.4 連續信源的熵和互信息
2.4.1 幅度連續的單個符號的信源熵
2.4.2 波形信源熵
2.4.3 最大熵定理
2.5 冗餘度
2.6 最大熵原理
2.7 關於熵的概念理解與題意解讀
思考題與習題
第3章 信道及其容量
3.1 信道的數學模型與分類
3.1.1 信道的分類
3.1.2 信道的數學模型與參數
3.2 信道疑義度與平均互信息量
3.3 信息傳輸率與信道容量
3.4 離散單個符號信道的信道容量
3.4.1 特殊離散信道
3.4.2 對稱DMC信道
3.4.3 準對稱DMC信道
3.4.4 具有可逆矩陣信道
3.4.5 一般DMC信道
3.5 離散無記憶序列信道的信道容量
3.6 串聯信道和並聯信道的信道容量
3.6.1 串聯信道及其信道容量
3.6.2 並聯信道及其信道容量
3.7 連續信道及其容量
3.7.1 連續單符號加性信道
3.7.2 多維無記憶加性連續信道
3.7.3 限時限頻限功率的加性高斯白噪聲信道
3.8 信源與信道的匹配
3.9 信道編碼定理簡介
思考題與習題
第4章 無失真信源編碼
4.1 編碼器和相關概念
……
第5章 信息率失真函數與限失真編碼
第6章 信道編碼
第7章 加密編碼
第8章 香農信息論的局限性與發展展望
第9章 信息論與編碼技術的實現與應用
附錄 寄語及學習研究的經驗和方法分享
參考文獻
前言/序言
信息論與編碼是一門比較理論化的科學,涉及大量的數學分析、論證和建模,對數學的要求高,涉及概率論、綫性代數、微積分等。對於不善於領悟的同學,可能會覺得它枯燥無味;而對於善於領悟的同學,則會有如魚得水的感覺。信息論是對信息問題的抽象,應用麵和涉及麵廣,許多問題都可以歸結為信息論問題,但是由於其中涉及數學建模太多,局限性也多。這對於學生,特彆是對於本科生而言,是具有一定難度的。當今的某些課程,包括數學等,經曆課時數的壓縮,課時也有所縮短。在這樣的情況下,針對昔日本科生的教學大綱和教材,對於經過擴招以後的大學生而言,顯得更加枯燥無味、艱澀難懂。為瞭促進學生對於相關數學問題的理解,我們將信息論與編碼中的關鍵性、全局性的問題進行瞭提煉,設計瞭一些全程問題,並且將復雜的問題分解為若乾問題及其錦囊,通過逐步提示和啓發的方式來促進學生的理解。當然對於一些問題的分解並不太讓人滿意,權作為拋磚引玉。
雖然直觀地看,書本上的數學公式枯燥無味,但是如果能夠善於思考和洞察問題的本質,就會發現,數學問題是那樣美妙、有趣,數字的規律有時候也是嚴整有序的。
根據學生對以往的信息論與編碼類教材的反饋意見,我們決定在前人的基礎上改進信息論與編碼教材,同時實踐我們在一些教改論文中提齣的教材改革、教學改革和提高學生創新能力的建議。我們在教學中發現學生有應試習慣,許多學生並不是通過自己的理解去做題,而是依葫蘆畫瓢,按照類似的題型去套,因此在課後習題中增加瞭一些比較靈活、自由的題目。
我們在這本教材中試圖做到以下幾點:
(1)充分重視啓發。將復雜的數學證明簡化為若乾小問題,變成若乾錦囊來啓發學生理解問題。通過極端的例子來啓發學生發現和理解問題。通過現實中經常用到的例子來啓發。
(2)重視實用性,除瞭理論外,還對各種編碼的具體實現中的問題進行瞭分析,並且給齣瞭一些軟件實現的具體指導。避免教材內容過於學術化,而沒有考慮到學生今後在工作中的實際需求。對於信息論與編碼技術在現實中的各種應用也有不少介紹和展望。
(3)充分結閤我們的研究和教學成果與經驗,根據我們的分析和研究,提供一些新的理解或者證明相關結論的方法。
(4)注重各知識點的條理性、銜接性、前後關係和因果關係。
(5)詳細敘述與方嚮指引並重。“吾生也有涯,而知也無涯。以有涯隨無涯,殆已。”知識是無涯的,與此相對應的是教材篇幅是受到限製的,學生的時間也是有限的,即有涯。如何在有涯和無涯之間建立很好的平衡是一個教材的編者必須充分考慮的。在當今強調寬口徑教學的背景下,一方麵要突齣重點,針對具有理論和應用價值的內容進行詳細敘述;另一方麵,由於篇幅所限,不可能麵麵俱到,在教材中指明學科的脈絡、發展方嚮和前沿,對於某些應用麵有限的、煩瑣的尖端枝末性的知識,我們盡量推薦一定的教材和資源,以便讀者可以根據指引找到相關資料。本書還提齣瞭一些具有潛力的新問題研究方嚮。
高等院校信息與通信工程係列教材:信息論與編碼 下載 mobi epub pdf txt 電子書 格式