摘要：在華為全聯接大會2022期間，華為正式官宣昇騰AI異構計算架構CANN 6.0版本將在年底正式發布，
本文分享自華為云社區《昇騰AI異構計算架構CANN 6.0全新開放升級，全面釋放AI生產力》，作者： 昇騰CANN ，
在華為全聯接大會2022期間，華為正式官宣昇騰AI異構計算架構CANN 6.0版本將在年底正式發布，
高度完善的生態滿足度，滿足全方位業務訴求
從2018年初露鋒芒到2022年即將發布的CANN 6.0最新版本，CANN在使能AI開發效率和性能方面持續保持業界領先，作為昇騰生態的錨點，CANN 6.0版本基于發布全新升級的開發體系2.0，在性能、開放性及易用性上持續提升，在開源演算法支持、自定義算子開發、動態shape場景支持等方面全方位滿足AI開發者的訴求，不斷提升生態滿足度，
作為昇騰AI基礎軟硬體平臺的核心，CANN搭起了從上層深度學習框架到底層AI硬體的橋梁，全面支持昇思MindSpore、飛槳（PaddlePaddle）、PyTorch、TensorFlow、Caffe、計圖（Jittor）等主流AI框架，提供900多種優選模型能夠覆寫眾多典型場景應用，兼容多種底層硬體設備，提供強大異構計算能力，
為滿足開發者多層次AI業務訴求，CANN提供統一的面向應用的編程語言AscendCL（Ascend Computing Language）屏蔽底層處理器差異，支持AI應用開發、模型開發和算子開發，版本向上兼容，讓開發者零感知版本升級，暢享AI開發的便捷性，
同時，隨著人工智能應用深入更多場景，圖片大小、語音長短等動態資料輸入的需求不斷增加，CANN 6.0版本對動態shape的支持度不斷提升，在新版本中，我們將會有400+算子支持動態shape，支持80%的主流算子，極大提高了AI場景生態滿足度以匹配客戶更多的AI業務場景，
打造極簡易用算子開發體驗，高效使能AI開發者
經過數年的積累和優化，CANN高性能算子庫為支撐神經網路訓練和推理加速而不斷添磚加瓦，CANN 6.0版本已經發展到1400+高性能算子，可覆寫主流AI框架的算子加速需求，
算子庫不僅支持高性能單算子執行加速，還支持入圖技術，在圖上通過算子融合減少計算節點和記憶體拷貝，進一步提升整網執行性能，以Bert網路為例，通過算子深度融合技術可將網路性能提高50%，CANN 6.0新發布的Transformer高性能加速庫，針對網路典型結構精簡80% kernel數，核心kernel性能提升50%-150%，可匹配昇騰全系列處理器支持NLP/CV類全場景Transformer網路，并且兼具簡易的繼承開發及上層框架使用等諸多優點，
CANN 6.0版本除了繼續保持在典型模型上的性能優勢外，還將重點在易用性方面進行提升，伴隨算子自定義開發需求的增多，為了更加開放、高效的支持用戶自開發，隨新版本發布的開發體系2.0，在算子開發方面推出原生支持C/C++的算子開發語言，降低算子開發門檻，同時提供昇騰硬體親和的資料結構，在保持性能的基礎上提升用戶自定義算子開發效率，使得算子開發效率得到倍級提升，
CANN 6.0版本將會提供包括11大類在內的70個DSL算子編程介面、新增11類算子調度策略，從而使能更多算子采用簡單的DSL方式開發，算子庫中DSL算子覆寫度可達80%，在開發易用性方面，開發者僅需完成計算程序表達，無需關心后續的Schedule創建、優化及編譯等問題，因為這些操作將通過Auto Schedule自動調度介面快速完成，CANN同時支持算子Debug除錯、一鍵生成工程代碼、自動編譯部署到算子庫、簡化算子交付件等功能，基于全流程解決開發者痛點，最大程度降低算子開發門檻，
持續提升模型開發效率，實作模型下載即用
CANN支持模型的自動化遷移、調測及智能調優，從真正意義上實作模型下載即用，CANN 6.0版本下，主流框架TensorFlow和PyTorch的模型遷移成功率可達80%以上，兼容主流三方庫Horovod/Keras/DeepSpeed等，在此基礎上還能方便地將那些隨演算法演進而開發的自定義kernal或function保留到框架側執行，提升演算法適配靈活度，
在模型調優方面，開發者不僅能借助一系列昇騰親和API提升性能，還能通過智能化調優工具代替復雜的手工優化操作，CANN 6.0版本的平均調優效率將較上一代提升一倍以上，
全系列AI開發輔助工具，掃除AI開發重重障礙
作為一個全面使能AI開發的軟體平臺，CANN不但持續在AI模型適配、應用開發和算子開發方面給開發者帶來便捷，更是從模型優化、系統分析、模型部署等多維度幫助開發者掃除重重障礙，
模型壓縮工具AMCT，能有效降低模型資料量和計算量，節約模型記憶體和帶寬占用，提升計算性能；智能計算調優工具AOE，其傻瓜式的自動尋優能力使得演算法工程師從繁重的手工調優作業中解脫出來，并能夠將調優進度和調優結果通過可視化方式直觀展示；Profiling工具則能自動采集整網性能資料，通過統計視圖識別最耗時算子，在CANN 6.0版本中，可自動生成性能優化建議，引導用戶快速解決問題；精度比對工具，支持整網或指定層資料dump，CANN 6.0版本中進一步精簡dump資料量，更有效的輔助開發者快速定位例外算子，
智能大潮，奔涌向前，CANN持續深入踐行初心和使命，以大道至簡的態度筑夢AI開發者！隨著CANN 6.0版本的全新開放升級，必定帶動更多伙伴及開發者基于昇騰AI和CANN的關鍵技術探索人工智能領域更多可能，點燃智慧創新熱情，點亮智能美好生活，共同筑夢遠方，共享行業數字未來！
點擊關注，第一時間了解華為云新鮮技術~
轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/534169.html
標籤：其他
下一篇：資料型別