AKG(Auto Kernel Generator)對深度神經網絡中的算子進行優化，并提供特定模式下的算子自動融合功能。AKG與MindSpore的圖算融合功能協同工作，可提升在不同硬件后端上運行網絡的性能。

AKG由四個基本的優化模塊組成：規范化、自動調度、指令發射和后端優化。

• 規范化：?為了解決polyhedral表達能力的局限性（只能處理靜態的線性程序），需要首先對計算公式IR進行規范化。規范化模塊中的優化主要包括自動運算符inline、循環拆分和公共子表達式優化等。

• 自動調度：?自動調度模塊基于polyhedral技術，主要包括自動向量化、自動切分、依賴分析和數據搬移等。

• 指令發射：?指令發射模塊的優化主要包括循環規范化、標簽自動生成和指令發射等。

• 后端優化：?后端優化模塊的優化主要包括雙緩沖區、存儲重寫和同步指令插入等。

  

硬件后端支持

當前支持Ascend910，gpu v100/A100等，更多硬件后端支持待開發。

構建

從MindSpore側構建

詳細細節請參考MindSpore README.md。

獨立構建

我們建議您從MindSpore側構建運行AKG代碼，但同時為了方便開發，我們提供了獨立編譯運行AKG的方式。 詳細的編譯依賴請參考MindSpore安裝指南。

bash build.sh -t $target // target can set 'gpu' or 'ascend'

運行

1. 設置環境變量

• Ascend910

  cd tests
  source ./test_env.sh amd64
  export 
  export PATH=${PATH}:${YOUR_CCEC_COMPILER_PATH}

• GPU V100/A100

  cd tests
  source ./test_env.sh gpu

1. 運行測試用例

• Ascend910

  cd tests/operators/vector
  pytest -s test_abs_001.py -m "level0" # 運行level0測試用例

• GPU V100/A100

  cd tests/operators/gpu
  python3 test_all.py -a "op_name" #運行op_name算子測試用例