昇騰AI處理器架構與編程 — 深入理解 CANN 技術原理及應用

梁曉嶢上海交通大學計算機科學與工程系教授、博士生導師、學科帶頭人。畢業於美國哈佛大學，獲得博士學位。研究方向包括計算機體系結構、集成電路設計、通用圖形處理器和人工智能芯片架構等。發表論文80餘篇（包括國際d級學術會議（ISCA、HPCA、MICRO、ISSCC、DAC、ICCAD等）論文），其中2篇入選計算機體系結構年度z佳論文（IEEE MICRO TOP PICKS）。

CONTENTS

目錄

第1章基礎理論00

1.1人工智能簡史00

1.2深度學習概論00

1.3神經網絡理論0

1.3.1神經元模型0

1.3.2感知機0

1.3.3多層感知機0

1.3.4捲積神經網絡0

1.3.5應用示例0

第2章行業背景0

2.1神經網絡芯片現狀0

2.1.1CPU0

2.1.2GPU0

2.1.3TPU0

2.1.4FPGA0

2.1.5昇騰AI處理器0

2.2神經網絡芯片加速理論0

2.2.1GPU加速理論0

2.2.2TPU加速理論0

2.3深度學習框架0

2.3.1MindSpore0

2.3.2Caffe0

2.3.3TensorFlow0

2.3.4PyTorch0

2.4深度學習編譯框架——TVM0

第3章硬件架構0

3.1昇騰AI處理器總覽0

3.2達芬奇架構0

3.2.1計算單元0

3.2.2存儲系統0

3.2.3控制單元0

3.2.4指令集設計0

3.3捲積加速原理0

3.3.1捲積加速0

3.3.2架構對比0

第4章軟件架構0

4.1昇騰AI軟件棧總覽0

4.2神經網絡軟件流

4.2.1流程編排器

4.2.2數字視覺預處理模塊

4.2.3張量加速引擎(TBE)

4.2.4運行管理器

4.2.5任務調度器

4.2.6框架管理器

4.2.7神經網絡軟件流應用

4.3開發工具鏈

4.3.1功能簡介

4.3.2功能框架

4.3.3工具功能

第5章編程方法

5.1深度學習開發基礎

5.1.1深度學習編程理論

5.1.2深度學習推理優化原理

5.1.3深度學習推理引擎

5.2昇騰AI軟件棧中的技術

5.2.1模型生成階段

5.2.2應用編譯與部署階段

5.3自定義算子開發

5.3.1開發步驟

5.3.2AI CPU算子開發

5.3.3AI Core算子開發

5.4自定義應用開發

第6章實戰案例

6.1評價標準

6.1.1精度

6.1.2交並比

6.1.3均值平均精度

6.1.4吞吐量和時延

6.1.5能效比

6.2圖像識別

6.2.1數據集：ImageNet

6.2.2算法：ResNet

6.2.3模型遷移實踐

6.3目標檢測

6.3.1數據集：COCO

6.3.2算法：YoloV3

6.3.3自定義算子實踐

附錄A縮略詞列表

附錄BAscend開發者社區及資料下載

附錄C智能開發平臺ModelArts簡介