內容簡介

人工智慧已成發展趨勢，而深度學習則是其中最有用的工具之一。雖然科技發展速度迅猛，現在實用技術更新換代的頻率已經迅速到以周來計算，但是其背後最為基礎的知識卻是共通的。本書較為全面地介紹了神經網路的諸多基礎與進階的技術，同時還介紹了如何利用神經網路來解決真實世界中的現實任務。

本書各章的內容不僅包括經典的傳統機器學習演算法與神經網路的方方面面，還對它們進行了對比與創新。如果能夠掌握本書所講述的知識，相信即使具體的技術更新得再快，讀者也能根據本書所介紹的知識來快速理解、上手與改進它們。本書兼顧了理論與實踐，不僅從公式上推導出神經網路的各種性質，也從實驗上對它們進行了驗證，比較適合初學者進行學習。同時，本書所給出的框架更能直接、簡單、快速地應用在實際任務中，適合相關從業人員使用。

作者介紹

何宇健，廣受讀者好評的《Python與機器學習實戰》一書作者，來自北京大學數學系，有多年Python開發經驗，在GitHub上擁有並維護著一個純 Python編寫的機器學習演算法庫（386個stars，264個forks）。對機器學習、神經網路及它們在量化投資方面的應用有深入研究。曾在創新工場AI工程院負責研發適用於結構化數據的新型神經網路、序列預測演算法的抽象框架以及基於模型的自動特徵工程。

第1章緒論 ........................ 1
1.1 機器學習簡介 ......................... 2
1.1.1 什麼是機器學習 ........ 2
1.1.2 機器學習常用術語 .... 3
1.2 Python簡介 ............................. 9
1.2.1 Python的優勢 .......... 10
1.2.2 scikit-learn和TensorFlow....................................... 11
1.3 前期準備 ............................... 13
1.3.1 訓練、交叉驗證與測試 .......................................... 13
1.3.2 簡易數據預處理 ...... 14
1.4 本章小結 ............................... 15
第2章經典傳統機器學習演算法簡介 ................................. 17
2.1 樸素貝葉斯 ........................... 17
2.1.1 條件獨立性假設 ...... 18
2.1.2 貝葉斯思維 .............. 19
2.1.3 模型演算法 .................. 20
2.1.4 實例演示 .................. 23
2.1.5 參數估計 .................. 25
2.1.6 樸素貝葉斯的改進 .. 28
2.2 決策樹 ................................... 33
2.2.1 決策的方法 .............. 33
2.2.2 決策樹的生成 .......... 34
2.2.3 決策樹的剪枝 .......... 39
2.2.4 實例演示 .................. 40
2.2.5 決策樹的三大演算法 .. 40
2.2.6 資料集的劃分 .......... 45
2.2.7 決策樹與回歸 .......... 48
2.3 支持向量機 ........................... 50
2.3.1 分離超平面與幾何間隔 .......................................... 50
2.3.2 感知機與SVM的原始形式 ................................... 58
2.3.3 梯度下降法 .............. 62
2.3.4 核技巧 ...................... 70
2.3.5 實例演示 .................. 75
2.4 Logistic回歸 ......................... 75
2.5 本章小結 ............................... 76
第3章神經網路入門 ........ 77
3.1 神經網路的結構 ................... 78
3.2 前向傳導演算法 ....................... 80
3.2.1 演算法概述 .................. 81
3.2.2 演算法內涵 .................. 83
3.2.3 啟動函數 .................. 85
3.2.4 損失函數 .................. 90
3.3 反向傳播演算法 ....................... 92
3.3.1 演算法概述 .................. 92
3.3.2 損失函數的選擇 ...... 94
3.4 參數的更新 ........................... 98
3.4.1 Vanilla Update........... 99
3.4.2 Momentum Update ... 99
3.4.3 Nesterov Momentum Update ................................. 100
3.4.4 AdaGrad .................. 100
3.4.5 RMSProp ................ 101
3.4.6 Adam....................... 101
3.5 TensorFlow模型的基本框架 ............................................ 101
3.5.1 TensorFlow的組成單元與基本思想 .................... 102
3.5.2 TensorFlow模型的基本元素 ................................ 104
3.5.3 TensorFlow元素的整合方法 ................................ 114
3.5.4 TensorFlow模型的save ＆ load ........................... 125
3.6 樸素神經網路的實現與評估 ............................................ 130
3.7 本章小結 ............................. 138
第4章從傳統演算法走向神經網路 .................................. 139
4.1 樸素貝葉斯的線性形式 ..... 139
4.2 決策樹生成演算法的本質 ..... 145
4.2.1 第1隱藏層→決策超平面 .................................... 147
4.2.2 第2隱藏層→決策路徑 ........................................ 148
4.2.3 輸出層→葉節點 ..... 150
4.2.4 具體實現 ................ 151
4.3 模型轉換的實際意義 ......... 158
4.3.1 利用Softmax來賦予概率意義 ............................ 159
4.3.2 利用Tanh+Softmax來“軟化”模型 ................. 160
4.3.3 通過微調來緩解“條件獨立性假設” ................ 165
4.3.4 通過微調來豐富超平面的選擇 ............................ 165
4.3.5 模型逆轉換的可能性............................................ 171
4.4 模型轉換的局限性 ............. 172
4.5 本章小結 ............................. 172
第5章神經網路進階 ...... 174
5.1 層結構內部的額外工作 ..... 175
5.1.1 Dropout ................... 175
5.1.2 Batch Normalization .............................................. 176
5.1.3 具體實現 ................ 180
5.2 “淺”與“深”的結合 ..... 181
5.2.1 離散型特徵的處理方式 ........................................ 181
5.2.2 Wide and Deep模型概述 ...................................... 183
5.2.3 Wide and Deep的具體實現 .................................. 185
5.2.4 WnD的重要思想與優缺點 .................................. 194
5.3 神經網路中的“決策樹” . 195
5.3.1 DNDF結構概述 ..... 195
5.3.2 DNDF的具體實現 . 199
5.3.3 DNDF的應用場景 . 210
5.3.4 DNDF的結構內涵 . 213
5.4 神經網路中的剪枝 ............. 216
5.4.1 Surgery演算法概述 ... 216
5.4.2 Surgery演算法改進 ... 218
5.4.3 軟剪枝的具體實現 221
5.4.4 軟剪枝的演算法內涵 223
5.5 AdvancedNN的結構設計 .. 237
5.5.1 AdvancedNN的實現補足 ..................................... 237
5.5.2 WnD與DNDF ....... 239
5.5.3 DNDF與剪枝......... 241
5.5.4 剪枝與Dropout ...... 242
5.5.5 沒有免費的午餐 .... 242
……….

看更多