資料介紹
在這本書的16章中,前13章是基本主題,后3章是更熱情讀者的高級主題。這些章節(jié)的簡要介紹將使我們更好地了解這本書的內容。
第一章是對信息論本質的一個很高層次的介紹,也是香農1948年創(chuàng)辦該領域的原著的主要成果。也有指向香農傳記和他的作品。
第二章介紹香農的信息測度及其基本性質。推導并解釋了信息論中的有用恒等式和不等式。特別注意處理零概率質量的聯合分布。本章以一節(jié)關于靜態(tài)信息源的熵率為結尾。
第三章以前綴碼為特例,討論了唯一可譯碼對零誤差數據的壓縮。給出了既不涉及卡夫不等式又不涉及基本不等式的前綴碼熵界的證明。這個證明有助于討論前綴代碼的冗余性。
第四章是對弱典型性的透徹處理。討論了弱漸近均分性質和源編碼定理。給出了一個關于一個好的數據壓縮方案產生幾乎I.I.D.位的解釋。對香農-麥克米蘭-布雷曼定理也作了簡要的討論。
第五章介紹了一個新的不涉及字母集基數的強典型性定義。這里對強典型性的處理比Berger更詳細,但比CSISZ R和K RNER更不抽象,在定理5.3中證明了一個新的指數收斂結果。
第六章介紹了測度理論,建立了香農信息測度與集合論的一一對應關系。通過實例說明了信息圖的使用如何簡化信息論中許多結果的證明。這些例子中的大多數都是以前未發(fā)表的。特別是,例6.15是香農完全保密定理的推廣。
第七章探討了馬爾可夫結構測度的結構。討論了完全條件獨立和馬爾可夫隨機場的集理論特征。這里對馬爾可夫隨機場的處理對于普通讀者來說可能過于專門化,但是對于馬爾可夫鏈的度量結構和信息圖的簡單性最好解釋為馬爾可夫隨機場的一個特例。
第八章是對信道編碼定理的一種新的處理方法。具體地說,采用圖形模型方法來解釋隨機變量的條件獨立性。在討論反饋時要非常小心。
第九章介紹了速率失真理論。本章中的結果比標準的主題處理中的結果更強,盡管在派生中使用了基本相同的技術。在
第十章討論了計算信道容量和速率失真函數的Blahut-Arimoto算法,并給出了收斂的簡化證明。在處理具有零概率質量的分布時要非常小心。
第11章介紹了網絡編碼理論。解釋了在點對點網絡中,當信息源是多播時,中間節(jié)點的編碼可以提高吞吐量這一令人驚訝的事實。詳細說明了單信息源網絡編碼的最大流界。在接下來的三章中開發(fā)出必要的工具之后,第15章將討論多源網絡編碼。信息不平等有時被稱為信息論的規(guī)律,因為它們支配著信息論中的不可能性。
第十二章對信息不等式的幾何意義以及信息不等式與條件獨立性的關系進行了深入的解釋。本文討論的信息不平等框架是下兩章的基礎。
第13章解釋了如何將證明信息不等式的問題表述為線性規(guī)劃問題。這導致了對所有信息不等式的完整描述,這些信息不等式可以用常規(guī)技術證明。這些被稱為香農型不等式,現在可以用這本書附帶的ITIP軟件來證明。同時也說明了如何利用香農型不等式來解決概率論中條件獨立的蘊涵問題。我們過去所知道的所有信息不等式都是香農型不等式。近年來,人們發(fā)現了一些非香農型不等式。這意味著信息論中存在著超越香農規(guī)定的規(guī)律。
第14章對這些不等式及其應用進行了深入的解釋。
第15章進一步發(fā)展了網絡編碼理論。討論了點對點網絡中多個信息源是多播的情況。令人驚訝的是,即使信息源是相互獨立的,多源問題也不等同于幾個單一的源問題,這一事實也得到了明確的解釋。討論了可實現編碼速率域的隱式和顯式邊界。這些對可實現的編碼速率區(qū)域的描述幾乎涉及本書早期開發(fā)的所有工具,特別是信息不平等的框架。
第16章解釋了信息論和群論之間有趣的關系。具體地說,對于任何聯合分布所滿足的每一個信息不等式,都存在一個由任何有限群及其子群滿足的相應群不等式,反之亦然。后一類不等式控制任何有限群及其子群的階。給出了香農型信息不等式的群理論證明。在本章的最后,從第14章討論的非香農型不等式中得到了一個群不等式。這種不平等的含義和含義尚待理解。
通信系統中,我們經常在嘈雜的環(huán)境中把信息從一個點傳遞到另一個點。考慮下面的場景。秘書需要定期發(fā)送傳真,她想在每一頁上盡可能多地傳達信息。她可以選擇字體大小,這意味著如果使用較小的字體大小,可以將更多的字符壓縮到頁面上。原則上,通過使用足夠小的字體大小,她可以根據需要在頁面上擠壓任意多的字符。但是,系統中存在兩個可能導致錯誤的因素。首先,傳真機的分辨率是有限的。其次,由于電話線中有噪音,傳輸的字符可能接收不正確。因此,如果字體太小,傳真機可能無法識別字符。另一方面,盡管傳真上的某些字符可能無法識別,但只要這些字符的數量不超過,收件人仍然可以從上下文中找出這些單詞。換句話說,不需要選擇字體大小,這樣傳真上的所有字符幾乎都可以識別。然后我們有動機問:傳真一頁最多可以傳送多少有意義的信息?
這個問題可能沒有一個明確的答案,因為它不是很好地提出。尤其是,我們沒有對有意義的信息進行精確的測量。然而,這個問題是我們可以問的關于通信系統的基本問題的一個例子。信息不是物理實體,而是抽象概念,一般來說很難量化。尤其是在利用信息時涉及人為因素的情況下。例如,當我們用激光唱盤演奏貝多芬的小提琴協奏曲時,我們從擴音器接收到音樂信息。我們喜歡這些信息,因為它能激發(fā)我們內心的某種情感。當我們收到同樣的信息時,
- Bluetooth藍牙的詳細資料說明 26次下載
- LabVIEW的程序實例詳細資料說明 142次下載
- Python的100個小例子詳細資料說明 15次下載
- 信息論導引第二版PDF電子書免費下載 0次下載
- 存儲器及接口設計的詳細資料說明 17次下載
- emmc啟動燒寫的詳細資料說明 26次下載
- ASCII美國標準信息交換碼的詳細資料說明 17次下載
- Protel DXP的常用快捷鍵詳細資料說明 0次下載
- 物聯網的安全技術詳細資料說明 20次下載
- multisim電路實驗仿真波形的詳細資料說明 38次下載
- 信息論與編碼實驗報告 0次下載
- 信息論與編碼課程實踐報告 0次下載
- 信息論與編碼理論_第二版 0次下載
- 信息論與編碼理論電子書下載 0次下載
- 信息論與編碼技術
- 電磁信息論研究體系介紹 848次閱讀
- Scaling Law大模型設計實操案例 626次閱讀
- 固態(tài)鋰離子電池的詳細資料解析 8650次閱讀
- RS232接口串口取電電路的詳細資料介紹 7863次閱讀
- 如何進行PLC控制程序的設計詳細資料PPT說明 5753次閱讀
- 庫卡機器人模擬量輸入輸出編程的詳細資料概述 6623次閱讀
- PPT教程之伺服電機及其驅動技術的詳細資料講解 6990次閱讀
- ICLR 2019論文解讀:深度學習應用于復雜系統控制 7704次閱讀
- PLC工作原理動畫詳細資料分析包括順序控制和正反轉控制等十八張動圖 11.3w次閱讀
- 開關電源的正激變換器基本工作原理及元器件如何選擇等詳細資料概述 1.3w次閱讀
- 量子通信技術是什么?量子通信的起源和發(fā)展及未來展望 7.1w次閱讀
- PLC常用基本環(huán)節(jié)梯形圖和詳細文字說明詳細資料概述 8957次閱讀
- 量子通信產業(yè)鏈升溫 未來潛在市場廣闊 909次閱讀
- 變壓器保護的基本要求,保護配置和運行規(guī)定的詳細資料概述 8483次閱讀
- 視頻編解碼應用 視頻處理中的fpga應用 4892次閱讀
下載排行
本周
- 1電子電路原理第七版PDF電子教材免費下載
- 0.00 MB | 1489次下載 | 免費
- 2單片機典型實例介紹
- 18.19 MB | 91次下載 | 1 積分
- 3S7-200PLC編程實例詳細資料
- 1.17 MB | 27次下載 | 1 積分
- 4筆記本電腦主板的元件識別和講解說明
- 4.28 MB | 18次下載 | 4 積分
- 5開關電源原理及各功能電路詳解
- 0.38 MB | 9次下載 | 免費
- 6基于AT89C2051/4051單片機編程器的實驗
- 0.11 MB | 4次下載 | 免費
- 7基于單片機和 SG3525的程控開關電源設計
- 0.23 MB | 3次下載 | 免費
- 8基于單片機的紅外風扇遙控
- 0.23 MB | 3次下載 | 免費
本月
- 1OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234313次下載 | 免費
- 2PADS 9.0 2009最新版 -下載
- 0.00 MB | 66304次下載 | 免費
- 3protel99下載protel99軟件下載(中文版)
- 0.00 MB | 51209次下載 | 免費
- 4LabView 8.0 專業(yè)版下載 (3CD完整版)
- 0.00 MB | 51043次下載 | 免費
- 5555集成電路應用800例(新編版)
- 0.00 MB | 33562次下載 | 免費
- 6接口電路圖大全
- 未知 | 30319次下載 | 免費
- 7Multisim 10下載Multisim 10 中文版
- 0.00 MB | 28588次下載 | 免費
- 8開關電源設計實例指南
- 未知 | 21539次下載 | 免費
總榜
- 1matlab軟件下載入口
- 未知 | 935053次下載 | 免費
- 2protel99se軟件下載(可英文版轉中文版)
- 78.1 MB | 537791次下載 | 免費
- 3MATLAB 7.1 下載 (含軟件介紹)
- 未知 | 420026次下載 | 免費
- 4OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234313次下載 | 免費
- 5Altium DXP2002下載入口
- 未知 | 233045次下載 | 免費
- 6電路仿真軟件multisim 10.0免費下載
- 340992 | 191183次下載 | 免費
- 7十天學會AVR單片機與C語言視頻教程 下載
- 158M | 183277次下載 | 免費
- 8proe5.0野火版下載(中文版免費下載)
- 未知 | 138039次下載 | 免費
評論
查看更多