目　錄

第 1章　開始學(xué)習(xí)統(tǒng)計學(xué)1

1-1　統(tǒng)計學(xué)2

1-1-1　描述統(tǒng)計2

1-1-2　統(tǒng)計推斷3

1-2　描述統(tǒng)計的必要性4

1-2-1　為什么需要描述統(tǒng)計4

1-2-2　均值存在的問題4

1-2-3　使用均值以外的指標(biāo)5

1-2-4　數(shù)據(jù)可視化5

1-3　統(tǒng)計推斷的必要性6

1-3-1　為什么需要統(tǒng)計推斷6

1-3-2　 術(shù)語 　總體與樣本6

1-3-3　 術(shù)語 　樣本容量7

1-3-4　推斷的形象描述7

1-3-5　樣本的隨機偏差與區(qū)間估計8

1-3-6　判斷與假設(shè)檢驗8

1-3-7　模型與推斷8

1-3-8　從線性模型到機器學(xué)習(xí)9

第 2章　Python與Jupyter Notebook基礎(chǔ)11

2-1　環(huán)境搭建12

2-1-1　 術(shù)語 　Python12

2-1-2　 術(shù)語 　Anaconda12

2-1-3　 術(shù)語 　Jupyter Notebook13

2-1-4　安裝Anaconda13

2-1-5　安裝早期版本的Anaconda13

2-1-6　 術(shù)語 　Python編程術(shù)語14

2-2　認(rèn)識Jupyter Notebook15

2-2-1　啟動Jupyter Notebook15

2-2-2　創(chuàng)建新文件16

2-2-3　執(zhí)行代碼17

2-2-4　保存執(zhí)行結(jié)果17

2-2-5　使用Markdown功能18

2-2-6　退出Jupyter Notebook19

2-2-7　使用Anaconda Prompt19

2-3　Python編程基礎(chǔ)21

2-3-1　 實現(xiàn) 　四則運算21

2-3-2　 實現(xiàn) 　其他運算22

2-3-3　 實現(xiàn) 　注釋22

2-3-4　 實現(xiàn) 　數(shù)據(jù)類型23

2-3-5　 實現(xiàn) 　比較運算25

2-3-6　 實現(xiàn) 　變量25

2-3-7　 實現(xiàn) 　函數(shù)27

2-3-8　 實現(xiàn) 　常用的函數(shù)28

2-3-9　 實現(xiàn) 　類與實例30

2-3-10　 實現(xiàn) 　基于if語句的程序分支32

2-3-11　 實現(xiàn) 　基于for語句的循環(huán)33

2-3-12　編寫易用程序的技巧33

2-4　認(rèn)識numpy與pandas35

2-4-1　 實現(xiàn) 　導(dǎo)入外部功能35

2-4-2　 術(shù)語 　numpy與pandas36

2-4-3　 實現(xiàn) 　列表36

2-4-4　 實現(xiàn) 　行與列36

2-4-5　 實現(xiàn) 　數(shù)組37

2-4-6　 實現(xiàn) 　數(shù)組的運算38

2-4-7　 實現(xiàn) 　二維數(shù)組38

2-4-8　 實現(xiàn) 　生成等差數(shù)列的方法39

2-4-9　 實現(xiàn) 　各類數(shù)組的生成40

2-4-10　 實現(xiàn) 　切片41

2-4-11　 實現(xiàn) 　數(shù)據(jù)幀43

2-4-12　 實現(xiàn) 　讀取文件中的數(shù)據(jù)44

2-4-13　 實現(xiàn) 　連接數(shù)據(jù)幀45

2-4-14　 實現(xiàn) 　取出指定的列46

2-4-15　 實現(xiàn) 　取出指定的行47

2-4-16　 實現(xiàn) 　序列49

2-4-17　 實現(xiàn) 　函數(shù)文檔50

第3章　描述統(tǒng)計51

3-1　數(shù)據(jù)的種類52

3-1-1　 術(shù)語 　觀察、變量52

3-1-2　 術(shù)語 　定量數(shù)據(jù)、分類數(shù)據(jù)53

3-1-3　 術(shù)語 　離散型數(shù)據(jù)、連續(xù)型數(shù)據(jù)53

3-1-4　 術(shù)語 　二值數(shù)據(jù)、多值數(shù)據(jù)53

3-1-5　 術(shù)語 　名義尺度、順序尺度、間距尺度、比例尺度54

3-1-6　 術(shù)語 　單變量數(shù)據(jù)、多變量數(shù)據(jù)55

3-1-7　 術(shù)語 　時間序列數(shù)據(jù)、橫截面數(shù)據(jù)55

3-2　讀懂?dāng)?shù)學(xué)式56

3-2-1　數(shù)學(xué)式作為表達(dá)方式56

3-2-2　用數(shù)學(xué)式表示樣本56

3-2-3　為什么要使用數(shù)學(xué)式57

3-2-4　加法與符號58

3-2-5　用數(shù)學(xué)式表示樣本均值58

3-2-6　乘法與符號59

3-3　頻數(shù)分布60

3-3-1　為什么要學(xué)習(xí)多種統(tǒng)計方法60

3-3-2　 術(shù)語 　頻數(shù)、頻數(shù)分布61

3-3-3　 術(shù)語 　組、組中值61

3-3-4　 實現(xiàn) 　環(huán)境準(zhǔn)備61

3-3-5　 實現(xiàn) 　頻數(shù)分布62

3-3-6　 術(shù)語 　頻率分布、累積頻數(shù)分布、累積頻率分布65

3-3-7　 實現(xiàn) 　頻率分布、累積頻數(shù)分布、累積頻率分布65

3-3-8　 術(shù)語 　直方圖67

3-3-9　用于繪圖的matplotlib、seaborn67

3-3-10　 實現(xiàn) 　直方圖68

3-3-11　 實現(xiàn) 　組的大小不同的直方圖69

3-3-12　 術(shù)語 　核密度估計70

3-3-13　 實現(xiàn) 　核密度估計72

3-4　單變量數(shù)據(jù)的統(tǒng)計量75

3-4-1　 實現(xiàn) 　環(huán)境準(zhǔn)備75

3-4-2　準(zhǔn)備實驗數(shù)據(jù)75

3-4-3　 實現(xiàn) 　樣本容量77

3-4-4　 實現(xiàn) 　總和77

3-4-5　 實現(xiàn) 　樣本均值78

3-4-6　 術(shù)語 　樣本方差79

3-4-7　 實現(xiàn) 　樣本方差81

3-4-8　 術(shù)語 　無偏方差82

3-4-9　 實現(xiàn) 　無偏方差83

3-4-10　 術(shù)語 　標(biāo)準(zhǔn)差84

3-4-11　 實現(xiàn) 　標(biāo)準(zhǔn)差85

3-4-12　 術(shù)語 　變異系數(shù)85

3-4-13　 實現(xiàn) 　變異系數(shù)86

3-4-14　 術(shù)語 　標(biāo)準(zhǔn)化87

3-4-15　 實現(xiàn) 　標(biāo)準(zhǔn)化88

3-4-16　 術(shù)語 　最小值、最大值、中位數(shù)、四分位數(shù)89

3-4-17　 實現(xiàn) 　最小值、最大值89

3-4-18　 實現(xiàn) 　中位數(shù)90

3-4-19　 實現(xiàn) 　四分位數(shù)91

3-4-20　 實現(xiàn) 　眾數(shù)92

3-4-21　 實現(xiàn) 　pandas的describe函數(shù)93

3-5　多變量數(shù)據(jù)的統(tǒng)計量94

3-5-1　 實現(xiàn) 　環(huán)境準(zhǔn)備94

3-5-2　 實現(xiàn) 　準(zhǔn)備用于實驗的數(shù)據(jù)94

3-5-3　 術(shù)語 　協(xié)方差95

3-5-4　 術(shù)語 　協(xié)方差矩陣96

3-5-5　 實現(xiàn) 　協(xié)方差96

3-5-6　 實現(xiàn) 　協(xié)方差矩陣97

3-5-7　 術(shù)語 　皮爾遜積矩相關(guān)系數(shù)98

3-5-8　 術(shù)語 　相關(guān)矩陣98

3-5-9　 實現(xiàn) 　皮爾遜積矩相關(guān)系數(shù)99

3-5-10　相關(guān)系數(shù)無效的情況99

3-5-11　 術(shù)語 　列聯(lián)表100

3-5-12　 實現(xiàn) 　列聯(lián)表100

3-6　分層分析103

3-6-1　 術(shù)語 　分層分析103

3-6-2　 術(shù)語 　整潔數(shù)據(jù)103

3-6-3　 術(shù)語 　雜亂數(shù)據(jù)104

3-6-4　雜亂數(shù)據(jù)的例子105

3-6-5　 實現(xiàn) 　環(huán)境準(zhǔn)備106

3-6-6　 實現(xiàn) 　讀取實驗數(shù)據(jù)106

3-6-7　 實現(xiàn) 　分組計算統(tǒng)計量107

3-6-8　 實現(xiàn) 　企鵝數(shù)據(jù)108

3-6-9　 實現(xiàn) 　企鵝數(shù)據(jù)的分層分析109

3-6-10　 實現(xiàn) 　缺失數(shù)據(jù)的處理110

3-6-11　 實現(xiàn) 　簡單直方圖112

3-6-12　 實現(xiàn) 　分組直方圖113

3-7　使用圖形114

3-7-1　 實現(xiàn) 　環(huán)境準(zhǔn)備114

3-7-2　 術(shù)語 　matplotlib、seaborn114

3-7-3　 實現(xiàn) 　讀取實驗數(shù)據(jù)115

3-7-4　 實現(xiàn) 　散點圖117

3-7-5　 實現(xiàn) 　圖形的裝飾和保存117

3-7-6　 實現(xiàn) 　折線圖119

3-7-7　 實現(xiàn) 　條形圖119

3-7-8　 實現(xiàn) 　箱形圖120

3-7-9　 實現(xiàn) 　小提琴圖121

3-7-10　 術(shù)語 　軸級函數(shù)與圖級函數(shù)122

3-7-11　 實現(xiàn) 　基于種類和性別的小提琴圖124

3-7-12　 實現(xiàn) 　基于種類、島名和性別的小提琴圖125

3-7-13　 實現(xiàn) 　散點圖矩陣126

第4章　概率論與概率分布127

4-1　什么是概率論128

4-1-1　為什么要學(xué)習(xí)概率論128

4-1-2　第4章的內(nèi)容脈絡(luò)129

4-1-3　 術(shù)語 　集合130

4-1-4　 術(shù)語 　元素130

4-1-5　 術(shù)語 　集合的外延表示與內(nèi)涵表示130

4-1-6　 術(shù)語 　子集130

4-1-7　 術(shù)語 　維恩圖131

4-1-8　 術(shù)語 　交集與并集131

4-1-9　 術(shù)語 　差集132

4-1-10　 術(shù)語 　空集132

4-1-11　 術(shù)語 　全集133

4-1-12　 術(shù)語 　補集133

4-1-13　 術(shù)語 　樣本點、樣本空間、事件133

4-1-14　 術(shù)語 　互斥事件134

4-1-15　通過擲骰子聯(lián)想到的各種概率135

4-1-16　 術(shù)語 　概率的公理化定義135

4-1-17　用頻率解釋概率135

4-1-18　主觀概率學(xué)派136

4-1-19　 術(shù)語 　概率的加法定理137

4-1-20　 術(shù)語 　條件概率137

4-1-21　 術(shù)語 　概率的乘法定理138

4-1-22　 術(shù)語 　獨立事件139

4-2　什么是概率分布140

4-2-1　 術(shù)語 　隨機變量與樣本值140

4-2-2　 術(shù)語 　離散隨機變量與連續(xù)隨機變量141

4-2-3　 術(shù)語 　概率分布141

4-2-4　 術(shù)語 　概率質(zhì)量函數(shù)141

4-2-5　 術(shù)語 　均勻分布（離散型）143

4-2-6　 術(shù)語 　概率密度144

4-2-7　 術(shù)語 　概率密度函數(shù)144

4-2-8　概率的總和與概率密度積分的聯(lián)系145

4-2-9　 術(shù)語 　均勻分布（連續(xù)型）147

4-2-10　 術(shù)語 　累積分布函數(shù)147

4-2-11　均勻分布的累積分布函數(shù)148

4-2-12　 術(shù)語 　百分位數(shù)148

4-2-13　 術(shù)語 　期望值149

4-2-14　 術(shù)語 　隨機變量的方差151

4-2-15　均勻分布的期望值與方差152

4-2-16　 術(shù)語 　多元概率分布153

4-2-17　 術(shù)語 　聯(lián)合概率分布154

4-2-18　 術(shù)語 　邊緣化、邊緣分布154

4-2-19　 術(shù)語 　條件概率分布155

4-2-20　 術(shù)語 　隨機變量的獨立155

4-2-21　二元概率分布的例子156

4-2-22　 術(shù)語 　隨機變量的協(xié)方差與相關(guān)系數(shù)157

4-2-23　 術(shù)語 　獨立同分布157

4-3　二項分布159

4-3-1　 術(shù)語 　試驗159

4-3-2　 術(shù)語 　二值隨機變量159

4-3-3　 術(shù)語 　伯努利試驗160

4-3-4　 術(shù)語 　成功概率160

4-3-5　 術(shù)語 　伯努利分布160

4-3-6　設(shè)計程序來模擬抽簽161

4-3-7　 實現(xiàn) 　環(huán)境準(zhǔn)備161

4-3-8　 實現(xiàn) 　抽1張便箋的模擬161

4-3-9　 實現(xiàn) 　抽10張便箋的模擬163

4-3-10　 實現(xiàn) 　抽10張便箋并重復(fù)10 000 次的模擬165

4-3-11　 術(shù)語 　二項分布167

4-3-12　 實現(xiàn) 　二項分布168

4-3-13　 實現(xiàn) 　生成服從二項分布的隨機數(shù)171

4-3-14　 實現(xiàn) 　二項分布的期望值與方差172

4-3-15　 實現(xiàn) 　二項分布的累積分布函數(shù)173

4-3-16　 實現(xiàn) 　二項分布的百分位數(shù)174

4-3-17　 實現(xiàn) 　二項分布的右側(cè)概率175

4-4　正態(tài)分布176

4-4-1　 實現(xiàn) 　環(huán)境準(zhǔn)備176

4-4-2　 術(shù)語 　正態(tài)分布176

4-4-3　 實現(xiàn) 　正態(tài)分布的概率密度函數(shù)177

4-4-4　正態(tài)分布的由來180

4-4-5　 實現(xiàn) 　誤差累積的模擬180

4-4-6　 術(shù)語 　中心極限定理183

4-4-7　正態(tài)分布的性質(zhì)184

4-4-8　 實現(xiàn) 　生成服從正態(tài)分布的隨機數(shù)185

4-4-9　 實現(xiàn) 　正態(tài)分布的累積分布函數(shù)185

4-4-10　 實現(xiàn) 　正態(tài)分布的百分位數(shù)186

4-4-11　 實現(xiàn) 　正態(tài)分布的右側(cè)概率186

第5章　統(tǒng)計推斷187

5-1　統(tǒng)計推斷的思路188

5-1-1　 術(shù)語 　抽樣188

5-1-2　 術(shù)語 　簡單隨機抽樣188

5-1-3　湖中釣魚示例189

5-1-4　樣本與隨機變量189

5-1-5　作為抽樣過程的總體分布190

5-1-6　用術(shù)語來描述抽樣過程191

5-1-7　模型的應(yīng)用191

5-1-8　 術(shù)語 　甕模型192

5-1-9　把抽樣過程抽象化的模型192

5-1-10　總體分布與總體的頻率分布193

5-1-11　更現(xiàn)實的湖中釣魚示例194

5-1-12　做假設(shè)194

5-1-13　假設(shè)總體服從正態(tài)分布195

5-1-14　 術(shù)語 　概率分布的參數(shù)195

5-1-15　 術(shù)語 　參數(shù)模型與非參數(shù)模型195

5-1-16　 術(shù)語 　統(tǒng)計推斷196

5-1-17　假設(shè)總體分布是正態(tài)分布之后的做法196

5-1-18　小結(jié)：統(tǒng)計推斷的思路196

5-1-19　從5-2節(jié)開始的解說流程197

5-1-20　所做的假設(shè)是否恰當(dāng)197

5-2　用Python模擬抽樣199

5-2-1　 實現(xiàn) 　環(huán)境準(zhǔn)備199

5-2-2　抽樣過程199

5-2-3　 實現(xiàn) 　在只有5條魚的湖中抽樣200

5-2-4　 實現(xiàn) 　從魚較多的湖中抽樣201

5-2-5　 實現(xiàn) 　總體分布的可視化202

5-2-6　 實現(xiàn) 　對比總體分布和正態(tài)分布的概率密度函數(shù)203

5-2-7　 實現(xiàn) 　抽樣過程的抽象描述205

5-2-8　補充討論206

5-2-9　假設(shè)總體服從正態(tài)分布是否恰當(dāng)206

5-3　估計總體均值208

5-3-1　 實現(xiàn) 　環(huán)境準(zhǔn)備208

5-3-2　 術(shù)語 　總體均值、總體方差、總體標(biāo)準(zhǔn)差208

5-3-3　 術(shù)語 　估計量、估計值209

5-3-4　樣本均值作為總體均值的估計量209

5-3-5　模擬的內(nèi)容209

5-3-6　 實現(xiàn) 　載入總體數(shù)據(jù)210

5-3-7　 實現(xiàn) 　計算樣本均值210

5-3-8　 實現(xiàn) 　多次計算樣本均值211

5-3-9　 實現(xiàn) 　樣本均值的均值212

5-3-10　 術(shù)語 　無偏性、無偏估計量212

5-3-11　樣本均值作為總體均值的無偏估計量213

5-3-12　 實現(xiàn) 　編寫一個多次計算樣本均值的函數(shù)214

5-3-13　 實現(xiàn) 　不同樣本容量的樣本均值的分布215

5-3-14　計算樣本均值的標(biāo)準(zhǔn)差217

5-3-15　 術(shù)語 　標(biāo)準(zhǔn)誤差219

5-3-16　 實現(xiàn) 　樣本容量更大時的樣本均值220

5-3-17　 術(shù)語 　一致性、一致估計量222

5-3-18　 術(shù)語 　大數(shù)定律222

5-3-19　統(tǒng)計推斷的思考模式223

5-4　估計總體方差224

5-4-1　 實現(xiàn) 　環(huán)境準(zhǔn)備224

5-4-2　 實現(xiàn) 　準(zhǔn)備一個總體224

5-4-3　用樣本方差、無偏方差估計總體方差225

5-4-4　 實現(xiàn) 　計算樣本方差和無偏方差225

5-4-5　 實現(xiàn) 　樣本方差的均值226

5-4-6　 實現(xiàn) 　無偏方差的均值227

5-4-7　無偏方差用作總體方差的無偏估計量227

5-4-8　 實現(xiàn) 　樣本容量更大時的無偏方差229

5-5　從正態(tài)總體衍生的概率分布231

5-5-1　 實現(xiàn) 　環(huán)境準(zhǔn)備231

5-5-2　 術(shù)語 　樣本分布232

5-5-3　正態(tài)分布的應(yīng)用232

5-5-4　 術(shù)語 　分布232

5-5-5　 實現(xiàn) 　模擬準(zhǔn)備233

5-5-6　 實現(xiàn) 　分布234

5-5-7　樣本均值服從的分布236

5-5-8　 實現(xiàn) 　樣本均值的標(biāo)準(zhǔn)化237

5-5-9　 術(shù)語 　t值239

5-5-10　 術(shù)語 　t分布239

5-5-11　 實現(xiàn) 　t分布240

5-5-12　 術(shù)語 　F分布242

5-5-13　 實現(xiàn) 　F分布243

5-6　區(qū)間估計246

5-6-1　 實現(xiàn) 　環(huán)境準(zhǔn)備246

5-6-2　 術(shù)語 　點估計、區(qū)間估計247

5-6-3　 實現(xiàn) 　點估計247

5-6-4　 術(shù)語 　置信水平、置信區(qū)間248

5-6-5　 術(shù)語 　置信界限248

5-6-6　總體均值的區(qū)間估計248

5-6-7　 實現(xiàn) 　總體均值的區(qū)間估計249

5-6-8　決定置信區(qū)間大小的因素251

5-6-9　區(qū)間估計結(jié)果的解讀252

5-6-10　總體方差的區(qū)間估計254

5-6-11　 實現(xiàn) 　總體方差的區(qū)間估計255

第6章　假設(shè)檢驗257

6-1　單樣本t檢驗258

6-1-1　假設(shè)檢驗入門258

6-1-2　關(guān)于總體均值的單樣本t檢驗258

6-1-3　 術(shù)語 　零假設(shè)與備擇假設(shè)259

6-1-4　 術(shù)語 　顯著性差異259

6-1-5　t檢驗的直觀解釋260

6-1-6　均值差異大不代表存在顯著性差異261

6-1-7　 術(shù)語 　檢驗統(tǒng)計量261

6-1-8　回顧t值261

6-1-9　小結(jié)1262

6-1-10　 術(shù)語 　第 一類錯誤與第二類錯誤263

6-1-11　 術(shù)語 　顯著性水平263

6-1-12　 術(shù)語 　拒絕域與接受域263

6-1-13　 術(shù)語 　p值264

6-1-14　小結(jié)2264

6-1-15　回顧t值與t分布的關(guān)系265

6-1-16　 術(shù)語 　單側(cè)檢驗與雙側(cè)檢驗265

6-1-17　計算拒絕域266

6-1-18　計算p值267

6-1-19　本節(jié)涉及的數(shù)學(xué)式268

6-1-20　 實現(xiàn) 　環(huán)境準(zhǔn)備269

6-1-21　 實現(xiàn) 　計算t值270

6-1-22　 實現(xiàn) 　計算拒絕域271

6-1-23　 實現(xiàn) 　計算p值271

6-1-24　 實現(xiàn) 　通過模擬計算p值272

6-2　均值差檢驗274

6-2-1　雙樣本t檢驗274

6-2-2　配對樣本t檢驗274

6-2-3　 實現(xiàn) 　環(huán)境準(zhǔn)備275

6-2-4　 實現(xiàn) 　配對樣本t檢驗276

6-2-5　獨立樣本t檢驗（異方差）277

6-2-6　 實現(xiàn) 　獨立樣本t檢驗（異方差）278

6-2-7　獨立樣本t檢驗（同方差）279

6-2-8　 術(shù)語 　p值操縱279

6-3　列聯(lián)表檢驗281

6-3-1　使用列聯(lián)表的優(yōu)點281

6-3-2　本節(jié)示例282

6-3-3　計算期望頻數(shù)283

6-3-4　計算觀測頻數(shù)和期望頻數(shù)的差異283

6-3-5　 實現(xiàn) 　環(huán)境準(zhǔn)備284

6-3-6　 實現(xiàn) 　計算p值284

6-3-7　 實現(xiàn) 　列聯(lián)表檢驗285

6-4　檢驗結(jié)果的解讀287

6-4-1　p值小于或等于0.05時的表述方法287

6-4-2　p值大于0.05時的表述方法287

6-4-3　假設(shè)檢驗的常見誤區(qū)288

6-4-4　p值小不代表差異大288

6-4-5　p值大于0.05不代表沒有差異289

6-4-6　 術(shù)語 　假設(shè)檢驗的非對稱性289

6-4-7　在檢驗之前確定顯著性水平289

6-4-8　是否有必要學(xué)習(xí)假設(shè)檢驗290

6-4-9　是否滿足前提條件290

第7章　統(tǒng)計模型基礎(chǔ)291

7-1　統(tǒng)計模型292

7-1-1　 術(shù)語 　模型292

7-1-2　 術(shù)語 　建模292

7-1-3　模型的作用292

7-1-4　從正態(tài)總體中隨機抽樣的模型292

7-1-5　 術(shù)語 　數(shù)學(xué)模型293

7-1-6　 術(shù)語 　概率模型294

7-1-7　模型的估計294

7-1-8　模型的升級295

7-1-9　基于模型的預(yù)測295

7-1-10　簡化復(fù)雜的世界295

7-1-11　從某個角度觀察復(fù)雜的現(xiàn)象296

7-1-12　統(tǒng)計模型與經(jīng)典數(shù)據(jù)分析的對比296

7-1-13　統(tǒng)計模型的應(yīng)用297

7-2　建立線性模型的方法298

7-2-1　本節(jié)示例298

7-2-2　 術(shù)語 　響應(yīng)變量與解釋變量298

7-2-3　 術(shù)語 　線性模型299

7-2-4　 術(shù)語 　系數(shù)與權(quán)重300

7-2-5　如何建立線性模型300

7-2-6　線性模型的選擇301

7-2-7　 術(shù)語 　變量選擇301

7-2-8　 術(shù)語 　空模型302

7-2-9　通過假設(shè)檢驗選擇變量302

7-2-10　通過信息量準(zhǔn)則選擇變量302

7-2-11　模型評估303

7-2-12　在建模之前確定分析目的303

7-3　數(shù)據(jù)表示與模型名稱304

7-3-1　從廣義線性模型的角度對模型進(jìn)行分類304

7-3-2　 術(shù)語 　正態(tài)線性模型304

7-3-3　 術(shù)語 　回歸分析305

7-3-4　 術(shù)語 　多元回歸分析305

7-3-5　 術(shù)語 　方差分析305

7-3-6　 術(shù)語 　協(xié)方差分析305

7-3-7　機器學(xué)習(xí)中的術(shù)語306

7-4　參數(shù)估計：最大化似然307

7-4-1　為什么要學(xué)習(xí)參數(shù)估計307

7-4-2　 術(shù)語 　似然307

7-4-3　 術(shù)語 　似然函數(shù)308

7-4-4　 術(shù)語 　對數(shù)似然308

7-4-5　對數(shù)的性質(zhì)309

7-4-6　 術(shù)語 　最大似然法311

7-4-7　 術(shù)語 　最大似然估計量311

7-4-8　 術(shù)語 　最大對數(shù)似然311

7-4-9　服從正態(tài)分布的數(shù)據(jù)的似然312

7-4-10　 術(shù)語 　多余參數(shù)312

7-4-11　正態(tài)線性模型的似然312

7-4-12　最大似然法計算示例314

7-4-13　最大似然估計量的性質(zhì)315

7-5　參數(shù)估計：最小化損失316

7-5-1　 術(shù)語 　損失函數(shù)316

7-5-2　 術(shù)語 　擬合值與預(yù)測值316

7-5-3　 術(shù)語 　殘差317

7-5-4　為什么不能將殘差之和直接作為損失指標(biāo)317

7-5-5　 術(shù)語 　殘差平方和318

7-5-6　 術(shù)語 　最小二乘法319

7-5-7　最小二乘法與最大似然法的關(guān)系319

7-5-8　 術(shù)語 　誤差函數(shù)320

7-5-9　多種損失函數(shù)320

7-6　預(yù)測精度的評估與變量選擇321

7-6-1　 術(shù)語 　擬合精度與預(yù)測精度321

7-6-2　 術(shù)語 　過擬合321

7-6-3　變量選擇的意義321

7-6-4　 術(shù)語 　泛化誤差322

7-6-5　 術(shù)語 　訓(xùn)練集與測試集322

7-6-6　 術(shù)語 　交叉驗證322

7-6-7　 術(shù)語 　赤池信息量準(zhǔn)則323

7-6-8　 術(shù)語 　相對熵323

7-6-9　相對熵的最小化與平均對數(shù)似然324

7-6-10　AIC與平均對數(shù)似然中的偏差325

7-6-11　使用AIC進(jìn)行變量選擇325

7-6-12　用變量選擇代替假設(shè)檢驗325

7-6-13　應(yīng)該使用假設(shè)檢驗還是AIC326

第8章　正態(tài)線性模型327

8-1　含有單個連續(xù)型解釋變量的模型（一元回歸）328

8-1-1　 實現(xiàn) 　環(huán)境準(zhǔn)備328

8-1-2　 實現(xiàn) 　讀入數(shù)據(jù)并繪制其圖形329

8-1-3　建模330

8-1-4　使用最小二乘法估計系數(shù)330

8-1-5　 實現(xiàn) 　估計系數(shù)332

8-1-6　估計出的系數(shù)的期望值與方差333

8-1-7　 實現(xiàn) 　使用statsmodels建模334

8-1-8　 實現(xiàn) 　打印估計結(jié)果并檢驗系數(shù)335

8-1-9　 實現(xiàn) 　summary函數(shù)的輸出336

8-1-10　 實現(xiàn) 　使用AIC進(jìn)行模型選擇337

8-1-11　 實現(xiàn) 　使用一元回歸進(jìn)行預(yù)測339

8-1-12　 實現(xiàn) 　置信區(qū)間和預(yù)測區(qū)間340

8-1-13　 術(shù)語 　回歸直線341

8-1-14　 實現(xiàn) 　使用seaborn繪制回歸直線342

8-1-15　 實現(xiàn) 　繪制置信區(qū)間和預(yù)測區(qū)間343

8-1-16　回歸直線的方差344

8-2　正態(tài)線性模型的評估346

8-2-1　 實現(xiàn) 　環(huán)境準(zhǔn)備346

8-2-2　 實現(xiàn) 　獲取殘差347

8-2-3　 術(shù)語 　決定系數(shù)348

8-2-4　 實現(xiàn) 　決定系數(shù)348

8-2-5　 術(shù)語 　修正決定系數(shù)351

8-2-6　 實現(xiàn) 　修正決定系數(shù)351

8-2-7　 實現(xiàn) 　殘差的可視化352

8-2-8　 術(shù)語 　分位圖353

8-2-9　 實現(xiàn) 　分位圖353

8-2-10　 實現(xiàn) 　對照summary函數(shù)的輸出結(jié)果分析殘差355

8-3　方差分析357

8-3-1　本節(jié)示例357

8-3-2　什么時候應(yīng)該使用方差分析357

8-3-3　 術(shù)語 　多重假設(shè)檢驗358

8-3-4　方差分析的直觀理解：F比358

8-3-5　顯著性差異與小提琴圖359

8-3-6　方差分析的直觀理解：分離效應(yīng)和誤差360

8-3-7　 術(shù)語 　組間差異與組內(nèi)差異361

8-3-8　 實現(xiàn) 　環(huán)境準(zhǔn)備361

8-3-9　 實現(xiàn) 　生成數(shù)據(jù)并可視化362

8-3-10　 實現(xiàn) 　計算各水平均值與總體均值363

8-3-11　 實現(xiàn) 　方差分析①：計算組間偏差平方和與組內(nèi)偏差平方和364

8-3-12　 實現(xiàn) 　方差分析②：計算組間方差與組內(nèi)方差366

8-3-13　 實現(xiàn) 　方差分析③：計算F比和p值367

8-3-14　單因素方差分析的計算過程367

8-3-15　 術(shù)語 　平方和分解369

8-3-16　解釋變量為分類變量的正態(tài)線性模型370

8-3-17　 術(shù)語 　虛擬變量370

8-3-18　 實現(xiàn) 　statsmodels中的方差分析371

8-3-19　 術(shù)語 　方差分析表371

8-3-20　模型系數(shù)的含義372

8-3-21　 實現(xiàn) 　使用模型分離效應(yīng)和誤差372

8-3-22　 實現(xiàn) 　回歸模型中的方差分析373

8-4　含有多個解釋變量的模型377

8-4-1　 實現(xiàn) 　環(huán)境準(zhǔn)備377

8-4-2　 實現(xiàn) 　錯誤的分析：只比較均值378

8-4-3　 術(shù)語 　協(xié)變量380

8-4-4　 實現(xiàn) 　比較回歸直線的截距380

8-4-5　 實現(xiàn) 　使用普通的方差分析進(jìn)行檢驗383

8-4-6　 實現(xiàn) 　多個解釋變量的平方和計算384

8-4-7　 術(shù)語 　調(diào)整平方和386

8-4-8　 實現(xiàn) 　Type II檢驗386

8-4-9　 實現(xiàn) 　讀入新數(shù)據(jù)388

8-4-10　 術(shù)語 　交互作用388

8-4-11　 實現(xiàn) 　錯誤的分析：模型中未包含交互作用388

8-4-12　 實現(xiàn) 　建立包含交互作用的模型390

8-4-13　 實現(xiàn) 　Type III檢驗390

8-4-14　 實現(xiàn) 　使用AIC進(jìn)行變量選擇392

8-4-15　 實現(xiàn) 　交互作用項的含義393

8-4-16　 實現(xiàn) 　formula參數(shù)的功能396

8-4-17　 實現(xiàn) 　設(shè)計矩陣398

第9章　廣義線性模型401

9-1　廣義線性模型概述402

9-1-1　廣義線性模型的組成402

9-1-2　本書使用的概率分布402

9-1-3　 術(shù)語 　泊松分布403

9-1-4　 術(shù)語 　指數(shù)型分布族403

9-1-5　指數(shù)型分布族常用的概率分布404

9-1-6　 術(shù)語 　線性預(yù)測算子404

9-1-7　 術(shù)語 　聯(lián)系函數(shù)405

9-1-8　聯(lián)系函數(shù)與概率分布的關(guān)系406

9-1-9　廣義線性模型的參數(shù)估計406

9-1-10　廣義線性模型的檢驗方法406

9-2　邏輯斯諦回歸408

9-2-1　 術(shù)語 　邏輯斯諦回歸408

9-2-2　本節(jié)示例408

9-2-3　二值分類問題408

9-2-4　 術(shù)語 　logit函數(shù)409

9-2-5　 術(shù)語 　反函數(shù)409

9-2-6　 術(shù)語 　logistic函數(shù)409

9-2-7　logistic函數(shù)的性質(zhì)410

9-2-8　邏輯斯諦回歸的推導(dǎo)410

9-2-9　邏輯斯諦回歸的似然函數(shù)411

9-2-10　 實現(xiàn) 　環(huán)境準(zhǔn)備412

9-2-11　 實現(xiàn) 　讀入數(shù)據(jù)并可視化412

9-2-12　 實現(xiàn) 　邏輯斯諦回歸414

9-2-13　 實現(xiàn) 　邏輯斯諦回歸的結(jié)果414

9-2-14　 實現(xiàn) 　邏輯斯諦回歸的模型選擇415

9-2-15　 實現(xiàn) 　使用邏輯斯諦回歸進(jìn)行預(yù)測416

9-2-16　 實現(xiàn) 　邏輯斯諦回歸的回歸曲線417

9-2-17　 術(shù)語 　優(yōu)勢和對數(shù)優(yōu)勢418

9-2-18　 術(shù)語 　優(yōu)勢比和對數(shù)優(yōu)勢比419

9-2-19　 實現(xiàn) 　邏輯斯諦回歸的系數(shù)與優(yōu)勢比的關(guān)系419

9-3　廣義線性模型的評估421

9-3-1　 實現(xiàn) 　環(huán)境準(zhǔn)備421

9-3-2　 術(shù)語 　皮爾遜殘差422

9-3-3　 實現(xiàn) 　皮爾遜殘差423

9-3-4　 術(shù)語 　偏差424

9-3-5　 術(shù)語 　偏差殘差425

9-3-6　 實現(xiàn) 　偏差殘差425

9-3-7　 術(shù)語 　交叉熵誤差427

9-4　泊松回歸429

9-4-1　泊松分布429

9-4-2　泊松分布與二項分布的關(guān)系429

9-4-3　 實現(xiàn) 　環(huán)境準(zhǔn)備430

9-4-4　 實現(xiàn) 　泊松分布431

9-4-5　 術(shù)語 　泊松回歸433

9-4-6　本節(jié)示例433

9-4-7　泊松回歸的推導(dǎo)433

9-4-8　 實現(xiàn) 　讀入數(shù)據(jù)434

9-4-9　 實現(xiàn) 　泊松回歸434

9-4-10　 實現(xiàn) 　泊松回歸的模型選擇435

9-4-11　 實現(xiàn) 　使用泊松回歸進(jìn)行預(yù)測436

9-4-12　 實現(xiàn) 　泊松回歸的回歸曲線437

9-4-13　 實現(xiàn) 　回歸系數(shù)的含義437

第 10章　統(tǒng)計學(xué)與機器學(xué)習(xí)439

10-1　機器學(xué)習(xí)基礎(chǔ)440

10-1-1　 術(shù)語 　機器學(xué)習(xí)440

10-1-2　 術(shù)語 　監(jiān)督學(xué)習(xí)440

10-1-3　 術(shù)語 　無監(jiān)督學(xué)習(xí)440

10-1-4　 術(shù)語 　強化學(xué)習(xí)441

10-1-5　 術(shù)語 　基于規(guī)則的機器學(xué)習(xí)441

10-1-6　統(tǒng)計學(xué)與機器學(xué)習(xí)無法徹底分離441

10-1-7　統(tǒng)計學(xué)注重過程，機器學(xué)習(xí)注重結(jié)果441

10-2　正則化、Ridge回歸與Lasso回歸443

10-2-1　 術(shù)語 　正則化443

10-2-2　 術(shù)語 　Ridge回歸443

10-2-3　 術(shù)語 　Lasso回歸444

10-2-4　確定正則化強度445

10-2-5　將解釋變量標(biāo)準(zhǔn)化445

10-2-6　Ridge回歸與Lasso回歸的差異445

10-2-7　變量選擇與正則化的對比446

10-2-8　正則化的意義447

10-3　Python中的Ridge回歸與Lasso回歸448

10-3-1　 術(shù)語 　scikit-learn448

10-3-2　 實現(xiàn) 　環(huán)境準(zhǔn)備448

10-3-3　 實現(xiàn) 　解釋變量的標(biāo)準(zhǔn)化450

10-3-4　 實現(xiàn) 　定義響應(yīng)變量451

10-3-5　 實現(xiàn) 　普通最小二乘法452

10-3-6　 實現(xiàn) 　使用sklearn實現(xiàn)線性回歸453

10-3-7　 實現(xiàn) 　Ridge回歸：懲罰指標(biāo)的影響453

10-3-8　 實現(xiàn) 　Ridge回歸：確定最佳正則化強度456

10-3-9　 實現(xiàn) 　Lasso回歸：懲罰指標(biāo)的影響457

10-3-10　 實現(xiàn) 　Lasso回歸：確定最佳正則化強度458

10-3-11　 實現(xiàn) 　使用Lasso回歸進(jìn)行預(yù)測459

10-4　線性模型與神經(jīng)網(wǎng)絡(luò)461

10-4-1　 術(shù)語 　輸入向量、目標(biāo)向量、權(quán)重、偏置461

10-4-2　 術(shù)語 　單層感知機461

10-4-3　 術(shù)語 　激活函數(shù)462

10-4-4　從線性模型到神經(jīng)網(wǎng)絡(luò)463

10-4-5　 術(shù)語 　隱藏層463

10-4-6　 術(shù)語 　神經(jīng)網(wǎng)絡(luò)464

10-4-7　神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)464

10-4-8　神經(jīng)網(wǎng)絡(luò)中的L2正則化465

10-4-9　 實現(xiàn) 　環(huán)境準(zhǔn)備465

10-4-10　 實現(xiàn) 　一元回歸分析466

10-4-11　 實現(xiàn) 　使用神經(jīng)網(wǎng)絡(luò)實現(xiàn)回歸468

10-4-12　 實現(xiàn) 　邏輯斯諦回歸471

10-4-13　 實現(xiàn) 　使用神經(jīng)網(wǎng)絡(luò)實現(xiàn)分類474

10-4-14　 實現(xiàn) 　生成用于復(fù)雜分類問題的數(shù)據(jù)476

10-4-15　 實現(xiàn) 　將數(shù)據(jù)分割為訓(xùn)練集與測試集477

10-4-16　 實現(xiàn) 　對復(fù)雜數(shù)據(jù)進(jìn)行邏輯斯諦回歸分析478

10-4-17　 實現(xiàn) 　使用神經(jīng)網(wǎng)絡(luò)對復(fù)雜數(shù)據(jù)進(jìn)行分類478

10-4-18　線性模型與神經(jīng)網(wǎng)絡(luò)各自的優(yōu)點479

參考文獻(xiàn)（圖靈社區(qū)下載）