內容簡介

本書系統地介紹了深度學習理論，並基於MindSpore AI計算框架進行實踐。全書共分14章，內容涵蓋深度學習概況、深度學習基礎知識、深度神經網路、卷積神經網路、迴圈神經網路、無監督學習、深度強化學習、自動化機器學習、端雲協同、深度學習視覺化及深度學習的數據準備等。為便於讀者學習，書中還給出了基於MindSpore實現的關於深度學習的開發實例及線上資源。

本書可作為普通高等學校人工智慧、智慧科學與技術、電腦科學與技術、電子資訊工程、自動化等專業的本科生及研究生教材，也可作為從事深度學習相關工作的軟體發展工程師與科研人員的學習、參考用書。

作者介紹

陳雷：香港科技大學電腦科學與工程系教授，大資料研究所主任，IEEE Fellow和ACM傑出科學家。研究方向包括資料驅動AI、人力機器學習、知識圖譜、社交媒體上的資料採擷等。在國際著名期刊和會議上發表300餘篇論文，曾獲得2015年SIGMOD時間測試獎。現任VLDB 2019程式委員會聯合主席、VLDB期刊主編、IEEE TKDE期刊副總編輯、VLDB Endowment執行成員。

序言一（徐直軍-華為輪值董事長）
序言二（樊文飛-中國科學院外籍院士）
前言
第1章引言
1.1人工智慧的歷史變遷
1.2什麼是深度學習
1.3深度學習的現實應用
1.3.1自動語音辨識
1.3.2圖像識別
1.3.3自然語言處理
1.3.4其他領域
1.4本書的組織架構
1.5MindSpore簡介
1.5.1程式設計簡單
1.5.2端雲協同
1.5.3調試輕鬆
1.5.4性能卓越
1.5.5開源開放

第2章深度學習基礎知識
2.1回歸問題演算法
2.2梯度下降演算法
2.3分類問題演算法
2.4過擬合與欠擬合

第3章深度神經網路
3.1前向網路
3.2反向傳播
3.3泛化能力
3.4用MindSpore實現簡單神經網路
3.4.1各層參數說明
3.4.2詳細步驟

第4章深度神經網路的訓練
4.1深度學習系統面臨的主要挑戰
4.1.1大資料集需求
4.1.2硬體需求
4.1.3過擬合
4.1.4超參數優化
4.1.5不透明性
4.1.6缺少靈活性
4.2正則化
4.2.1L2範數正則化
4.2.2L1範數正則化
4.3Dropout
4.4自我調整學習率
4.4.1AdaGrad
4.4.2RMSProp
4.4.3Adam
4.5批標準化
4.6用MindSpore 實現深度神經網路
4.6.1各層參數說明
4.6.2詳細步驟

第5章卷積神經網路
5.1卷積操作
5.2池化
5.3殘差網路
5.4應用：圖片分類
5.5用MindSpore實現基於卷積神經網路圖片分類
5.5.1載入MindSpore模組
5.5.2定義ResNet網路結構
5.5.3設置超參數
5.5.4導入資料集
5.5.5訓練模型

第6章迴圈神經網路
6.1迴圈神經網路概述
6.2深度迴圈神經網路
6.3長期依賴的挑戰
6.4長短期記憶網路和門控迴圈神經網路
6.4.1長短期記憶網路
6.4.2門控迴圈神經網路
6.5應用：文本預測
6.6用MindSpore實現基於長短期記憶網路的文本預測
6.6.1載入MindSpore模組
6.6.2數據準備
6.6.3定義網路
6.6.4參數介紹
6.6.5訓練模型
參考文獻

第7章無監督學習：詞向量
7.1Word2Vec
7.1.1提出背景
7.1.2發展現狀
7.1.3技術原理
7.1.4技術難點
7.1.5應用場景
7.1.6框架模組
7.2GloVe
7.2.1提出背景
7.2.2發展現狀
7.2.3技術原理
7.2.4技術難點
7.2.5應用場景
7.2.6框架模組
7.3Transformer
7.3.1提出背景
7.3.2發展現狀
7.3.3技術原理
7.3.4技術難點
7.3.5應用場景
7.3.6框架模組
7.4BERT
7.4.1提出背景
7.4.2發展現狀
7.4.3技術原理
7.4.4技術難點
7.4.5應用場景
7.4.6框架模組
7.5詞向量典型生成演算法對比
7.6應用：自動問答
7.6.1自動問答的相關概念
7.6.2傳統的自動問答方法
7.6.3基於深度學習的自動問答方法
7.7用MindSpore 實現基於BERT的自動問答
7.7.1資料集準備
7.7.2訓練BERT網路
參考文獻

第8章無監督學習：圖向量
8.1圖向量簡介
8.2DeepWalk演算法
8.2.1DeepWalk演算法原理
8.2.2DeepWalk演算法實現
8.3LINE演算法
8.3.1LINE演算法原理
8.3.2LINE演算法實現
8.4Node2Vec演算法
8.4.1Node2Vec演算法原理
8.4.2Node2Vec演算法實現
8.5GCN演算法
8.5.1GCN演算法原理
8.5.2GCN演算法實現
8.6GAT演算法
8.6.1GAT演算法原理
8.6.2GAT演算法實現
8.7應用：推薦系統
8.7.1工業界中的推薦系統
8.7.2推薦系統中的圖神經網路模型
參考文獻

第9章無監督學習：深度生成模型
9.1變分自編碼器
9.1.1提出背景
9.1.2發展現狀
9.1.3技術原理
9.1.4技術難點
9.1.5應用場景
9.2生成對抗網路
9.2.1提出背景
9.2.2發展現狀
9.2.3技術原理
9.2.4技術難點
9.2.5應用場景
9.2.6框架模組
9.3應用：資料增強
9.3.1資料增強的定義
9.3.2資料增強的目的
9.3.3傳統資料增強的方法
9.3.4基於深度學習的資料增強方法
9.4用MindSpore實現基於生成對抗網路的資料增強
參考文獻

第10章深度強化學習
10.1強化學習基本概念
10.1.1基礎概念與理論
10.1.2瑪律可夫決策過程
10.1.3貝爾曼方程
10.2基本求解方法
10.2.1動態規劃法
10.2.2蒙特卡羅法
10.2.3時間差分法
10.3深度強化學習演算法
10.3.1DQN演算法
10.3.2DDPG演算法
10.3.3A3C演算法
10.4最新應用
10.4.1推薦系統
10.4.2博弈遊戲
10.5用MindSpore實現基於DQN的博弈遊戲
參考文獻

第11章自動化機器學習
11.1AutoML框架
11.1.1NAS演算法
11.1.2超參調優
11.2現有AutoML系統介紹
11.2.1AutoWeka/AutoSklearn/HyperOpt
11.2.2Microsoft NNI
11.3元學習
11.3.1學習優化器
11.3.2學習參數初始化
11.3.3學習損失函數
11.3.4學習度量
11.4用MindSpore實現AutoML
參考文獻

第12章端雲協同
12.1端側推理
12.2端雲遷移學習
12.3端雲聯邦學習
12.3.1聯邦平均
12.3.2梯度壓縮
12.4端雲協同框架
參考文獻

第13章深度學習視覺化
13.1深度學習視覺化概述
13.1.1資料分析
13.1.2模型建立與理解
13.1.3訓練
13.1.4評估
13.2MindSpore視覺化實踐
13.2.1視覺化流程
13.2.2資料集視覺化
13.2.3模型與訓練視覺化
13.2.4Summary匯總資料格式
參考文獻

第14章深度學習的數據準備
14.1資料格式概述
14.2深度學習中的資料格式
14.2.1原始輸入
14.2.2標注信息
14.3常用的深度學習資料格式
14.3.1TFRecord格式
14.3.2LMDB存儲
14.3.3Rec格式
14.3.4MindSpore資料格式
14.3.5MindSpore資料集
14.4使用MindSpore資料格式進行訓練資料準備
14.4.1MindSpore資料格式生成
14.4.2MindSpore資料格式統計與檢索
14.4.3MindSpore資料格式訓練資料讀取
附錄A中、英文對照詞彙表
附錄BMindSpore白皮書
參考文獻

看更多