本書共分8章,系統(tǒng)地介紹了神經(jīng)網(wǎng)絡盲均衡算法的基本理論及算法形式。首先分析了盲均衡算法的基本原理、均衡準則、評價指標以及與神經(jīng)網(wǎng)絡的結合機理。其次,系統(tǒng)研究了前饋神經(jīng)網(wǎng)絡、反饋神經(jīng)網(wǎng)絡、進化神經(jīng)網(wǎng)絡、模糊神經(jīng)網(wǎng)絡和小波神經(jīng)網(wǎng)絡盲均衡算法的基本原理,推導了算法迭代公式,并進行了計算機仿真。最后采用zigzag編碼和前饋神經(jīng)網(wǎng)絡實現(xiàn)了二維醫(yī)學圖像的盲均衡。
前言
神經(jīng)網(wǎng)絡技術是現(xiàn)代人工智能最重要的分支,是通過模擬人腦的神經(jīng)網(wǎng)絡來實現(xiàn)類人工智能的機器學習技術和方法。本書討論的是神經(jīng)網(wǎng)絡的理論基礎、算法設計、算法實現(xiàn),以及工程領域中的應用。
人在思考問題時,神經(jīng)沖動會在神經(jīng)突觸所連接的無數(shù)神經(jīng)元中傳遞,信息的處理是由神經(jīng)元之間的相互作用來實現(xiàn)的。受此啟發(fā),人們開始模擬人體大腦的結構和工作機理,即用很多的結點來處理信息。在人工神經(jīng)網(wǎng)絡中,人工神經(jīng)元、處理元件、電子元件等大量的處理單元被用來模仿人腦神經(jīng)系統(tǒng)的結構,知識與信息的存儲表現(xiàn)為互連的網(wǎng)絡元件間的分布式聯(lián)系,網(wǎng)絡的學習和識別取決于和神經(jīng)元連接權值的動態(tài)演化過程。因為在大腦的神經(jīng)沖動傳導過程中不僅有是與非,還存在強與弱、緩與急,所以人工神經(jīng)網(wǎng)絡和大腦還是有區(qū)別的。
本書可以作為高校相關專業(yè)的本科生或者研究生教材,同時也適合廣大的人工智能領域相關的從業(yè)人員自學。在學習本書之前,應具有機器學習、模式識別、算法設計與分析等相關知識。
本書共9章,主要圍繞神經(jīng)網(wǎng)絡的原理與實踐進行講解,在內(nèi)容上將理論與實踐、技術與應用結合,具體如下。
第1章介紹了神經(jīng)網(wǎng)絡的概念、特點、拓撲結構和應用。
第2章介紹了感知器模型、處理單元模型、學習策略、局限性和收斂性。
第3章介紹了BP神經(jīng)網(wǎng)絡、神經(jīng)元模型、BP神經(jīng)網(wǎng)絡結構、神經(jīng)網(wǎng)絡的數(shù)據(jù)預處理。
第4章介紹了支持向量機、間隔與支持向量、對偶問題、核函數(shù)、軟間隔和正則化、支持向量回歸和核方法。
第5章介紹了深度學習網(wǎng)絡、深度神經(jīng)網(wǎng)絡、深度卷積神經(jīng)網(wǎng)絡、深度卷積神經(jīng)網(wǎng)絡典型結構、卷積網(wǎng)絡的層和深度卷積神經(jīng)網(wǎng)絡在圖像識別中的應用。
第6章介紹了強化學習、問題模型、無模型化強化學習方法、模型化強化學習方法和深度強化學習。
第7章介紹了極限學習、極限學習算法、極限學習的改進、極限學習的應用。
第8章介紹了TensorFlow機器學習平臺的起源、簡介、特征、使用對象、環(huán)境及兼容性、其他模塊。
第9章介紹了神經(jīng)網(wǎng)絡在圖像處理、信號處理、模式識別和機器控制方面的應用。
本書的主要分工如下: 侯琳主要負責第1章的編寫;于洋主要負責第2章、第8章和第7章部分內(nèi)容的編寫,以及本書的主要統(tǒng)稿和審稿工作;孫迪主要負責第3章的編寫;陳亞瑞主要負責第4章的編寫;胡志強主要負責第5章的編寫;趙婷婷主要負責第6章的編寫;楊巨成主要負責第7章的編寫,以及本書的主要審稿工作;吳超主要負責第9章的編寫。
在楊巨成教授的指導下,本書在編寫過程中才得以克服很多技術上的難點。同時,感謝天津科技大學人工智能學院張靈超、王曉靖、王潔、韓書杰、魏峰、邱潤澤為本書所做的工作。最后,還要感謝參考文獻的作者,他們的成果使得本書的學術水平得以提升。
由于相關技術的發(fā)展日新月異,本書難免有不足之處,希望讀者批評指正,提出寶貴的修改意見。
作者2020年8月
張立毅,男,生于1963年2月,1985年畢業(yè)于太原工業(yè)大學(現(xiàn)太原理工大學)獲工學學士學位,2003年畢業(yè)于北京理工大學獲工學博士學位,2008年天津大學通信與信息系統(tǒng)博士后流動站出站,F(xiàn)任天津商業(yè)大學研究生部主任兼學科建設辦公室主任、教授,天津大學信息與通信工程一級學科博士研究生導師。先后兼任全國微波毫米波測試專業(yè)學會副主任,中國電子學會電路與系統(tǒng)分會委員,山西省通信學會常務理事,山西省通信學會學術委員會副主任,天津市通信學會高校工作委員會理事,中國電子學會高級會員,中國通信學會高級會員。研究方向為信號檢測與處理,智能計算與信息處理。指導碩士研究生畢業(yè)86名,博士研究生8名,博士后4名。2009年被評為天津市優(yōu)秀教師,2011年被評為天津市勞動模范。先后完成鑒定國家自然科學基金、中國博士后基金、國家863子課題等項目20余項,在國內(nèi)外學術期刊及會議上發(fā)表論文200余篇,其中被EI等收錄100余篇次。
目錄
第1章概述1
1.1人工神經(jīng)網(wǎng)絡簡介1
1.1.1人工神經(jīng)網(wǎng)絡的基本概念1
1.1.2人工神經(jīng)網(wǎng)絡的發(fā)展史2
1.1.3神經(jīng)網(wǎng)絡的研究內(nèi)容5
1.2神經(jīng)網(wǎng)絡的特點5
1.3神經(jīng)網(wǎng)絡的結構6
1.4人工神經(jīng)網(wǎng)絡的分類7
1.5人工神經(jīng)網(wǎng)絡的學習方式9
1.6人工神經(jīng)網(wǎng)絡的應用9
1.6.1人工神經(jīng)網(wǎng)絡在全球氣候變化中的應用10
1.6.2人工神經(jīng)網(wǎng)絡在控制系統(tǒng)中的應用10
1.6.3人工神經(jīng)網(wǎng)絡在疾病預后研究中的應用11
第2章感知器13
2.1感知器元件14
2.1.1神經(jīng)元14
2.1.2神經(jīng)元參數(shù)16
2.1.3組合功能16
2.1.4激活功能16
2.1.5輸出功能18
2.1.6結論18
2.2感知器模型19
2.2.1超平面的定義19
2.2.2數(shù)據(jù)集的線性可分20
2.3感知器學習算法22
2.3.1感知器學習算法的原始形式23
2.3.2感知器學習算法的對偶形式24
2.4感知器的收斂性25
2.5感知器應用舉例25
2.5.1問題描述25
2.5.2添加權重和閾值26
2.5.3建立決策模型26
2.5.4向量化27
2.5.5神經(jīng)網(wǎng)絡的運作過程28
2.6感知器的局限性29
2.6.1感知器能做什么29
2.6.2感知器不能做什么29
第3章BP神經(jīng)網(wǎng)絡31
3.1前向傳播37
3.2反向傳播38
第4章支持向量機41
4.1問題提出41
4.2SVM問題42
4.2.1支持向量與樣本間隔42
4.2.2支持向量機形式化描述43
4.3對偶問題43
4.3.1SVM問題的對偶問題43
4.3.2對偶問題再討論44
4.3.3對偶問題求解45
4.4核函數(shù)46
4.4.1如何處理非線性可分數(shù)據(jù)46
4.4.2核函數(shù)的提出47
4.4.3幾種常見的核函數(shù)48
4.5軟間隔與正則化49
4.5.1如何處理噪聲數(shù)據(jù)49
4.5.2軟間隔支持向量機49
4.5.3軟間隔支持向量機對偶問題50
4.5.4正則化51
第5章深度學習53
5.1深度神經(jīng)網(wǎng)絡概述53
5.2深度卷積神經(jīng)網(wǎng)絡55
5.2.1卷積算子55
5.2.2卷積的特征55
5.3深度卷積神經(jīng)網(wǎng)絡的典型結構56
5.3.1基本網(wǎng)絡結構56
5.3.2網(wǎng)絡結構模式56
5.4深度卷積神經(jīng)網(wǎng)絡的層60
5.4.1卷積層60
5.4.2池化層60
5.4.3激活層60
5.5深度卷積神經(jīng)網(wǎng)絡在圖像識別中的應用61
第6章強化學習63
6.1強化學習概述63
6.2強化學習問題建!R爾可夫決策過程64
6.3強化學習算法簡介65
6.3.1基于值函數(shù)的策略學習方法65
6.3.2策略搜索算法70
6.4深度強化學習76
6.5小結79
第7章極限學習80
7.1極限學習概述80
7.2極限學習算法80
7.3極限學習的改進82
7.3.1核極限學習82
7.3.2增量型極限學習84
7.3.3深度極限學習85
7.4極限學習的應用87
7.4.1極限學習在圖像分類中的應用88
7.4.2極限學習在入侵檢測中的應用88
7.4.3極限學習在故障識別中的應用91
7.5小結91
第8章TensorFlow機器學習平臺93
8.1TensorFlow起源95
8.2TensorFlow簡介95
8.3TensorFlow的特征96
8.4TensorFlow使用對象、環(huán)境及兼容性97
8.5TensorFlow的其他模塊98
8.6安全性101
第9章神經(jīng)網(wǎng)絡的應用102
9.1基于神經(jīng)網(wǎng)絡的圖像處理102
9.2基于神經(jīng)網(wǎng)絡的信號處理109
9.3基于神經(jīng)網(wǎng)絡的模式識別109
9.4基于神經(jīng)網(wǎng)絡的機器控制122
參考文獻126