第1章　人工智能極簡(jiǎn)歷史　1

1.1　重要的奠基時(shí)期　2

1.1.1　神經(jīng)元的研究和人工神經(jīng)元模型的提出　2

1.1.2　計(jì)算機(jī)和程序的出現(xiàn)　3

1.1.3　圖靈測(cè)試的提出　4

1.2　人工智能的誕生　4

1.3　第一個(gè)快速發(fā)展期　5

1.4　人工智能的第一個(gè)寒冬　5

1.5　人工智能研究的沉默探索與復(fù)蘇　6

1.6　人工智能的第二個(gè)冬天　9

1.7　再一次騰飛　9

1.7.1　計(jì)算機(jī)綜合計(jì)算能力的大幅提升　9

1.7.2　大數(shù)據(jù)的出現(xiàn)　11

1.7.3　神經(jīng)網(wǎng)絡(luò)研究的成熟化　11

1.8　未來(lái)展望　13

1.9　本章小結(jié)：歷史指引未來(lái)　18

第2章　開(kāi)發(fā)環(huán)境準(zhǔn)備　19

2.1　安裝Python　20

2.1.1　Windows操作系統(tǒng)下安裝Python　20

2.1.2　Mac OS X操作系統(tǒng)下安裝Python　29

2.1.3　Linux操作系統(tǒng)下安裝Python　30

2.2　安裝TensorFlow　30

2.3　打造更舒適的開(kāi)發(fā)環(huán)境　32

2.3.1　修改Windows資源管理器的一些顯示設(shè)置　32

2.3.2　命令提示符CMD的替代方案　34

2.3.3　文本文件編輯器　36

2.3.4　Python語(yǔ)言專用的開(kāi)發(fā)工具　40

2.4　知識(shí)背景準(zhǔn)備　45

2.4.1　怎樣輸入Python程序　45

2.4.2　怎樣執(zhí)行Python程序　45

2.4.3　變量　46

2.4.4　函數(shù)（方法）　50

2.4.5　對(duì)象　51

2.4.6　條件判斷與分支　53

2.4.7　循環(huán)　54

2.4.8　注釋　55

2.4.9　程序運(yùn)行時(shí)出現(xiàn)錯(cuò)誤怎么辦　55

2.4.10　本章小結(jié)：一段示例代碼　56

第3章　初識(shí)TensorFlow　57

3.1　三好學(xué)生成績(jī)問(wèn)題的引入　58

3.2　搭建解決三好學(xué)生成績(jī)問(wèn)題的神經(jīng)網(wǎng)絡(luò)　58

3.3　訓(xùn)練神經(jīng)網(wǎng)絡(luò)　62

3.4　本章小結(jié)：解決的第一個(gè)問(wèn)題　68

3.5　練習(xí)　68

第4章　簡(jiǎn)化神經(jīng)網(wǎng)絡(luò)模型　69

4.1　在程序運(yùn)行中查看變量取值　70

4.2　張量概念的引入　70

4.3　用向量重新組織輸入數(shù)據(jù)　72

4.4　簡(jiǎn)化的神經(jīng)網(wǎng)絡(luò)模型　75

4.5　概念補(bǔ)充標(biāo)量、多維數(shù)組等　76

4.5.1　標(biāo)量　76

4.5.2　多維數(shù)組　76

4.5.3　張量的階和形態(tài)　77

4.6　在TensorFlow中查看和設(shè)定張量的形態(tài)　78

4.7　用softmax函數(shù)來(lái)規(guī)范可變參數(shù)　81

4.8　本章小結(jié)：線性問(wèn)題　83

4.9　練習(xí)　84

第5章　用神經(jīng)網(wǎng)絡(luò)解決非線性問(wèn)題　85

5.1　非線性問(wèn)題的引入　86

5.1.1　三好學(xué)生評(píng)選結(jié)果問(wèn)題　86

5.1.2　二分類問(wèn)題：是否為三好學(xué)生　86

5.1.3　非線性問(wèn)題　87

5.2　設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)模型　88

5.2.1　激活函數(shù)sigmoid　88

5.2.2　使用sigmoid函數(shù)后的神經(jīng)網(wǎng)絡(luò)模型　89

5.2.3　實(shí)現(xiàn)本模型的代碼　89

5.3　準(zhǔn)備訓(xùn)練數(shù)據(jù)　90

5.3.1　隨機(jī)數(shù)　90

5.3.2　產(chǎn)生隨機(jī)訓(xùn)練數(shù)據(jù)　90

5.4　完整的訓(xùn)練代碼　92

5.4.1　使用隨機(jī)數(shù)據(jù)進(jìn)行訓(xùn)練　92

5.4.2　加入偏移量b加快訓(xùn)練過(guò)程　94

5.5　進(jìn)階：批量生成隨機(jī)訓(xùn)練數(shù)據(jù)　97

5.6　本章小結(jié)：非線性問(wèn)題　100

5.7　練習(xí)　100

第6章　從文件中載入訓(xùn)練數(shù)據(jù)　101

6.1　用純文本文件準(zhǔn)備訓(xùn)練數(shù)據(jù)　102

6.1.1　數(shù)據(jù)的數(shù)字化　102

6.1.2　訓(xùn)練數(shù)據(jù)的格式　102

6.1.3　數(shù)據(jù)整理　103

6.1.4　使用CSV格式文件輔助處理數(shù)據(jù)　104

6.2　加載文件中的訓(xùn)練數(shù)據(jù)　106

6.2.1　加載函數(shù)　106

6.2.2　非數(shù)字列的舍棄　106

6.2.3　非數(shù)字列與數(shù)字列的轉(zhuǎn)換　107

6.2.4　行數(shù)據(jù)的分拆及如何喂給訓(xùn)練過(guò)程　108

6.3　本章小結(jié)：讀取訓(xùn)練數(shù)據(jù)最常用的方式　110

6.4　練習(xí)　110

第7章　多層全連接神經(jīng)網(wǎng)絡(luò)　111

7.1　身份證問(wèn)題的引入　112

7.2　問(wèn)題分析　112

7.3　單層網(wǎng)絡(luò)的模型　112

7.4　多層全連接神經(jīng)網(wǎng)絡(luò)　115

7.4.1　矩陣乘法　115

7.4.2　如何用矩陣乘法實(shí)現(xiàn)全連接層　116

7.4.3　使用均方誤差作為計(jì)算誤差的方法　119

7.4.4　激活函數(shù)tanh　120

7.4.5　新的模型　121

7.5　身份證問(wèn)題新模型的代碼實(shí)現(xiàn)　121

7.6　進(jìn)一步優(yōu)化模型和代碼　124

7.7　本章小結(jié)：多層、全連接、線性與非線性　125

7.8　練習(xí)　126

第8章　保存和載入訓(xùn)練過(guò)程　127

8.1　保存訓(xùn)練過(guò)程　128

8.2　載入保存的訓(xùn)練過(guò)程并繼續(xù)訓(xùn)練　130

8.3　通過(guò)命令行參數(shù)控制是否強(qiáng)制重新開(kāi)始訓(xùn)練　132

8.4　訓(xùn)練過(guò)程中手動(dòng)保存　135

8.5　保存訓(xùn)練過(guò)程前征得同意　137

8.6　本章小結(jié)：善于利用保存和載入訓(xùn)練過(guò)程　139

8.7　練習(xí)　139

第9章　查看圖形化的模型　140

9.1　數(shù)據(jù)流圖的概念　141

9.2　用TensorBoard查看數(shù)據(jù)流圖　141

9.3　控制TensorBoard圖中對(duì)象的名稱　143

9.4　本章小結(jié)：圖形化的模型　145

9.5　練習(xí)　145

第10章　用訓(xùn)練好的模型進(jìn)行預(yù)測(cè)　146

10.1　從命令行參數(shù)讀取需要預(yù)測(cè)的數(shù)據(jù)　147

10.2　從文件中讀取數(shù)據(jù)進(jìn)行預(yù)測(cè)　149

10.3　從任意字符串中讀取數(shù)據(jù)進(jìn)行預(yù)測(cè)　152

10.4　本章小結(jié)：預(yù)測(cè)與訓(xùn)練的區(qū)別　154

10.5　練習(xí)　154

第11章　用高級(jí)工具簡(jiǎn)化建模和訓(xùn)練過(guò)程　155

11.1　Keras框架介紹　156

11.2　用Keras實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)模型　156

11.3　用Keras進(jìn)行預(yù)測(cè)　158

11.4　保存和載入Keras模型　160

11.5　本章小結(jié)：方便與靈活度的取舍　161

11.6　練習(xí)　161

第12章　在其他語(yǔ)言中調(diào)用TensorFlow模型　162

12.1　如何保存模型　163

12.2　在Java語(yǔ)言中載入TensorFlow模型并進(jìn)行預(yù)測(cè)計(jì)算　165

12.3　在Go語(yǔ)言中載入TensorFlow模型并進(jìn)行預(yù)測(cè)計(jì)算　167

12.4　本章小結(jié)：僅能預(yù)測(cè)　167

第13章　用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像識(shí)別　169

13.1　情憑誰(shuí)來(lái)定錯(cuò)對(duì)一首歌引出的對(duì)錯(cuò)問(wèn)題　170

13.2　卷積神經(jīng)網(wǎng)絡(luò)介紹　170

13.2.1　卷積神經(jīng)網(wǎng)絡(luò)的基本概念　170

13.2.2　數(shù)字圖片在計(jì)算機(jī)中的表達(dá)形式　170

13.2.3　卷積層的具體計(jì)算過(guò)程　172

13.2.4　卷積層的原理和優(yōu)點(diǎn)　174

13.2.5　卷積神經(jīng)網(wǎng)絡(luò)的典型結(jié)構(gòu)　177

13.3　用卷積網(wǎng)絡(luò)實(shí)現(xiàn)圖像識(shí)別　177

13.3.1　鉤叉問(wèn)題的圖像數(shù)據(jù)格式　177

13.3.2　準(zhǔn)備鉤叉問(wèn)題的訓(xùn)練數(shù)據(jù)　178

13.3.3　設(shè)計(jì)鉤叉問(wèn)題的神經(jīng)網(wǎng)絡(luò)模型并實(shí)現(xiàn)　179

13.4　本章小結(jié)：進(jìn)一步優(yōu)化的方向　183

13.5　練習(xí)　183

第14章　循環(huán)神經(jīng)網(wǎng)絡(luò)初探　184

14.1　循環(huán)神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介　185

14.2　長(zhǎng)短期記憶模型LSTM的作用　186

14.3　匯率預(yù)測(cè)問(wèn)題的引入　186

14.4　用于匯率預(yù)測(cè)的LSTM神經(jīng)網(wǎng)絡(luò)模型　187

14.5　實(shí)現(xiàn)匯率預(yù)測(cè)LSTM網(wǎng)絡(luò)的代碼　188

14.6　用循環(huán)神經(jīng)網(wǎng)絡(luò)來(lái)進(jìn)行自然語(yǔ)言處理　193

14.7　本章小結(jié)：時(shí)序有關(guān)問(wèn)題　195

14.8　練習(xí)　195

第15章　優(yōu)化器的選擇與設(shè)置　196

15.1　優(yōu)化器的作用　197

15.2　梯度下降算法　197

15.3　學(xué)習(xí)率的影響　198

15.4　主流優(yōu)化方法介紹　199

15.5　優(yōu)化器效率對(duì)比　200

15.6　本章小結(jié)：渡河之筏　203

第16章　下一步學(xué)習(xí)方向指南　204

16.1　更多的激活函數(shù)　205

16.2　更多的隱藏層類型　205

16.3　確定最適合的神經(jīng)網(wǎng)絡(luò)類型　206

16.4　GPU版本　206

16.5　有監(jiān)督學(xué)習(xí)與無(wú)監(jiān)督學(xué)習(xí)　207

16.6　深度學(xué)習(xí)進(jìn)階　207

16.7　升級(jí)到最新的TensorFlow版本　207

16.8　本章小結(jié)：最后的實(shí)例　208