NVIDIA主題演講內容學習＜1＞

57s，黃哥開始第一個主題為 I AM AI
I am an explorer 我是探索者 -極地冰川探索，月球尋水
I am a guardian 我是守護者 -天空觀測污染痕跡
I am a visionary 我是元件者 -以過往為師，模擬地球2100
I am a helper 我是助力者 -讓珍貴的物種健康續存，使農作物保持豐饒
I am a healer 我是治療者 -讓醫院更加智能，滿足未來需求->HeratFlow


I am a creator 我是創造者 -開辟創新之路->無人機、Jesse Woolston藝術創造
I am a storyteller 我是講述者 -為作品賦予情感打破語言障礙

I am ai NVIDIA、深度學些及無所不在的人類智慧將融入我的生活
加速計算始于NVIDIA CUDA 通用可編程GPU、CUDA、提升應用運行速度的演算法加速庫
以及能夠再整個資料中心，進行擴展處理的分布式計算系統和軟體
這三者的組合是加速計算的魔力來源

<CUDA是NVIDIA推出的運算平臺，并行計算架構，
該架構使GPU能夠解決復雜的計算問題，
由CUDA指令架構（ISA）和GPU內部的并行計算引擎組成，
開發者可用C語言為CUDA^TM架構撰寫程式，并且程式可以再支持CUDA^TM的處理器上以超高性能運行>

15年以來，我們一直再推進CUDA及其生態發展
我們對“全堆疊”進行優化
在GPU、加速庫、系統、應用方面
不斷迭代更新，同時通過擴大我們加速的應用領域
來拓展平臺之所及
通過我們的方法，用戶能在整個產品生命周期中獲得加速體驗
對我們來說，在數年內通過同一塊芯片為應用帶來數倍性能提升

這中情況并不罕見
想象一下研究人員僅僅通過下載新的軟體，就能將完成模擬的時間縮短一半的喜悅吧
隨著我們加速的應用數量不斷增多，我們的合作伙伴網路對NVIDIA平臺需求也在不斷增大
始于計算機圖形，我們的架構，已經深入到世界上的眾多大型行業之中
我們以令人驚嘆的芯片為起點，在每一個科學、工業和應用的領域
我們都創建了完整的開發堆疊
我們擁有超過150個SDK，為游戲與設計、生命與地球科學
量子計算、AI、網路安全、5G和機器人等行業提供服務
今年，我們在GTC上推出了65個全新的以及更新的SDK<GTC全球商品交易中心>
設計自動化是與NVIDIA一同加速發展的主要新興產業之一
我很高興看到Ansys、Synopsys、Cadence和Dassault提升了對散熱、機械架構
以及針對RFI及信號完整性的3D EM的模擬速度

<Ansys軟體是美國ANSYS公司研制的大型通用有限元分析(FEA)軟體是世界范圍內增長最快的計算機輔助工程（CAE）軟體，
能與多數計算機輔助設計（CAD，computer Aided design）軟體介面，實作資料的共享和交換，
如Creo, NASTRAN、Algor、I－DEAS、AutoCAD等，是融結構、流體、電場、磁場、聲場分析于一體的大型通用有限元分析軟體，
在核工業、鐵道、石油化工、航空航天、機械制造、能源、汽車交通、國防軍工、電子、土木工程、造船、生物醫學、輕工、地礦、水利、日用家電等領域有著廣泛的應用，
ANSYS功能強大，操作簡單方便，已成為國際最流行的有限元分析軟體，
在歷年的FEA評比中都名列第一，
中國100多所理工院校采用ANSYS軟體進行有限元分析或者作為標準教學軟體，>
< Synopsys是為全球集成電路設計提供電子設計自動化(EDA)軟體工具的主導企業，
為全球電子市場提供技術先進的IC設計與驗證平臺，致力于復雜的芯片上系統(SoC)的開發，
同時，Synopsys公司還提供知識產權和設計服務，為客戶簡化設計程序，提高產品上市速度，>
<Cadence楷登電子是一家專門從事電子設計自動化（EDA）的軟體公司，
由SDASystems和ECAD兩家公司于1988年兼并而成，是全球最大的電子設計自動化(Electronic DesignAutomation)、半導體技術解決方案和設計服務供應商，>
<Dassault Systemes公司總部位于法國巴黎，
提供3D體驗平臺，應用涵蓋3D建模，社交和協作，資訊智能與內容和仿真
，產品品牌包括SolidWorks、CATIA、SIMULIA、DELMIA、ENOVIA、3DEXCITE、3DVIA、NETBIVES、GEOVIA、BIOVIA、EXALEAD>

還有一個格外令人幸福的發展是我們正在與Ansys進行的合作、這項合作會提升Ansys Fluent

Ansys Fluent流體仿真

這一世界領先的而工業流體模擬軟體包的速度
Ansys多GPU求解器的初步成果顯示，一臺DGX將取代30臺高端雙路CPU服務器

DGX深度學習，AI人工智能GPU集群計算

從而大大節省系統成本與功耗
如此一來，客戶便可以使用相同的總預算擴展到更大規模的模擬
如今，使用NVIDIA的開發者數量已增至300萬，在過去5年中增長了6倍之多
在過去的15年里，CUDA的下載量達到了3000萬次，僅去年一年的下載量就達到了700萬次，加速計算的普及采用也正在加快

我們在全堆疊加速和資料中心架構方面的專業知識使我們可以幫助研究人員和開發者解決更大規模的問題，我們的計算方法十分節能高效，架構的多功能是我們能夠在AI量子物理學、數字生物學、氣候科學等各個領域貢獻力量
如今，我們為您準備了一些出色的新加速庫
首先是ReOpt，一款針對運籌優化問題

比如車輛線路安排和倉庫揀選與包裝）的加速求解器，配送14個披薩的路徑有870億種，因此對于達美樂來說，要在30分鐘將披薩送達并非易事，運籌優化對于最后一公里配送來說是必須的，對于倉儲及制造物流而言也是如此
路線規劃是一個機器棘手的物流問題

應用到行業里，技師是小規模的路線優化也能節省數十億美元
此示例使用NVIDIA Omniverse中的虛擬倉庫來展示優化路線在自動訂單揀選場景中帶來的影響

優化后的規劃能夠使訂單揀選節省一半的時間和路程
當路線優化求解器在收到新的訂單后需要數小時來重新運行和回應
NVIDIA ReOpt能夠持續運行并且實時動態地進行重新優化
機器人部署完畢后，收到新訂單？立即重新優化
機器人離線了？立即重新優化
NVIDIA ReOpt能夠在短短幾秒鐘內回應并且擴展到數千個位置

現在，我們率先捕獲到顯示世界的動態行為并能夠通過智能且優化的方式進行回應立即重新優化您的物流

量子計算依靠的是，疊加和糾纏的自然量子物理現象，因此有潛力解決伴隨組合復雜性增加而出現的問題
在世界各地的大學、科學實驗室、企業和初創公司中
有近100個團隊正在致力于量子處理器、系統、模擬器和演算法的研究
但預計還需要十到二十年才能造出一臺實用的量子計算機
同時，該行業還需要一個超高速量子模擬器來驗證其研究

因此，我們創建了cuQuantum DGX設備，該設備配備有針對量子計算作業流的加速庫
可以使用態矢量和張量網路的方法來加速量子電路模擬
Google Cirq將成為第一個得到加速的量子模擬器
加速簡直妙不可言-這是量子傅里葉變換、破解公鑰密碼學的秀爾演算法和Google Sycamore電路的結果

態矢量：量子態由希爾伯特空間中的矢量表征，稱為態矢量，
該希爾伯特空間又稱為態矢量空間或態空間，
以量子力學的角度來看，粒子或者系統總是處于一個概率分布的形式，
無論選取哪個物理量來進行觀測，總會得到一個幾率分布和不可逆地得到一個新量子態，
所以說“態”實際上是描述粒子或系統所處的狀態；
某種意義上來講就是描述選取各種各樣的觀測量所帶來的幾率分布，
而把這種概念抽象成一個名詞，就是態，

張量網路理論（TNT）是一種解決物理、數學和計算機科學問題的有力方法，
<https://www.it610.com/article/1291210289806647296.htm>
<https://lujinyu.blog.csdn.net/article/details/80767255>

谷歌量子計算框架(8條訊息) 谷歌開源量子計算框架Cirq_ejinxian的專欄-CSDN博客

曾經需要耗費幾個月時間的模擬現在只需幾天就可以完成
我們正在努力優化所有熱門的模擬器
NVIDIA研究部門在量子演算法模擬方面取得了重要的里程碑

我們使用1688個量子位為3375個頂點集求解MaxCut問題

MaxCut：https://blog.csdn.net/baidu_37157624/article/details/117316909?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522163660021616780255279214%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fall.%2522%257D&request_id=163660021616780255279214&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~all~first_rank_ecpm_v1~times_rank-1-117316909.first_rank_v2_pc_rank_v29&utm_term=MaxCut&spm=1018.2226.3001.4187

這是有史以來最大的精確量子電路模擬，比以往模擬的量子位多八倍
通過DGX上的cuQuantum，量子計算機和演算法研究人員可以使用當今速度最快的計算機
和未來發明的計算機
我們將在第一季度推出cuQuantum DGX設備

Python是科學家、機器學習與AI研究人員使用的編程語言

Python擁有豐富的生態系統，包括用于對DataFrame進行資料分析的Pandas

https://www.jianshu.com/p/8024ceef4fe2

用于n維陣列與矩陣運算的NumPy，用于機器學習的Scikit-Learn，用于科學計算的SciPy，用于深度學習的Pytorch以及用于研究圖和網路的NetworkX

NumPy(Numerical Python) 是 Python 語言的一個擴展程式庫，
支持大量的維度陣列與矩陣運算，此外也針對陣列運算提供大量的數學函式庫，
NumPy 的前身 Numeric 最早是由 Jim Hugunin 與其它協作者共同開發，
2005 年，Travis Oliphant 在 Numeric 中結合了另一個同性質的程式庫 Numarray 的特色，
并加入了其它擴展而開發了 NumPy，NumPy 為開放源代碼并且由許多協作者共同維護開發，

Scikit-learn（以前稱為scikits.learn，也稱為sklearn）是針對Python 編程語言的免費軟體機器學習庫，
它具有各種分類，回歸和聚類演算法，包括支持向量機，隨機森林，梯度提升，k均值和DBSCAN，
并且旨在與Python數值科學庫NumPy和SciPy聯合使用，

SciPy 是一個開源的 Python 演算法庫和數學工具包，
Scipy 是基于 Numpy 的科學計算庫，用于數學、科學、工程學等領域，
很多有一些高階抽象和物理模型需要使用 Scipy，
SciPy 包含的模塊有最優化、線性代數、積分、插值、特殊函式、快速傅里葉變換、信號處理和影像處理、常微分方程求解和其他科學與工程中常用的計算，

PyTorch是一個開源的Python機器學習庫，基于Torch，用于自然語言處理等應用程式，
2017年1月，由Facebook人工智能研究院（FAIR）基于Torch推出了PyTorch，
它是一個基于Python的可續計算包，
提供兩個高級功能：1、具有強大的GPU加速的張量計算（如NumPy），
2、包含自動求導系統的深度神經網路，

networkx在02年5月產生，是用python語言撰寫的軟體包，
便于用戶對復雜網路進行創建、操作和學習，
利用networkx可以以標準化和非標準化的資料格式存盤網路、
生成多種隨機網路和經典網路、分析網路結構、建立網路模型、設計新的網路演算法、進行網路繪制等，

Python擁有近2000萬名用戶

今天，我們宣布推出NumPy的插入式加速庫cuNumeric
無需更改代碼，cuNumeric加速了NumPy從單一GPU擴展到多GPU,擴展到多節點集群
進而擴展到世界上最大的超級計算機，其并行性以隱含的方式自動完成，cuDF與Pandas類似，cuML與Scikit-Learn類似，cuGraph與NetworkX類似，它們屬于NVIDIA RAPIDS開源Python資料科學套件，RAPIDS在今年的下載量達到了50萬次，比去年增長了4倍多

cuNumeric以Legion為基礎構建，Legion以類似于現代CPU在其算術邏輯單元（ALU）和裝載/存盤單元（Load/Store）中調度指令的方式，在資料中心的CPU、GPU和DPU計算單元中調度任務，像自動提取指令級并行動態重新排序執行的現代亂序執行CPU一樣，Legion提取任務級并行，并動態重新排序

Legion是SECFORCE的Sparta的分支，是一個開源，易于使用，超擴展和半自動化的網路滲透測驗框架，
針對發現，偵察和利用漏洞的資訊系統， Legion由GoVanguard開發和維護，有關軍團的更多資訊，
包括產品路線圖，可以在其專案頁面上找到，網址為https://GoVanguard.com/legion，
如果您有興趣為Legion貢獻力量，請加入我們的Legion Keybase團隊，

在整個資料中心調度這些任務的執行，通常是亂序執行
Legion是資料中心及的計算引擎，而cuNumeric是資料中心級的數學庫，NumPy在過去5年中的下載量，達到了1.22億次，NumPy被用于Github上的近80萬個專案，開發者將因為cuNumeric的到來而歡呼雀躍，cuNumeric具有很好的可擴展性
在著名的CFD Python教學代碼中，cuNumeric能夠擴展至1000個GPU

而擴展效率僅比線性擴展效率損失了20%
ReOpt、cuQuantum、cuNumeric三個極佳的新庫，讓我向您展示我今天演講的內容
我將介紹我們正在進行的重大計劃以及將會重塑我們所在行業的新計劃

您將看到的是一個永恒的主題，即如何使用Omniverse來模擬倉庫、工廠、物理與生物系統、5G邊緣、機器人、自動駕駛汽車、甚至虛擬形象的數字孿生，您將看到前沿的計算機圖形、物理仿真和AI如何結合在一起使Omniverse成為可能，以及我們構建的計算平臺和加速庫如何奠定實作Omniverse的基礎，
資料中心級運算、Milion-X百萬倍科學加速、Omniverse、AI、虛擬形象、機器人與自動駕駛汽車，我們的GTC內容十分豐富，但在討論資料中心之前，我向您展示我們正在構建的東西，這是一個會對話的虛擬形象，名字是Toy-Me

您會看見語音理解，基于目前訓練的最大模型的自然語言處理，使用我自己聲音合成的語音、角色影片以及基于光線追蹤的精美影像，一切都是實時的，有了最近才實作的一些驚人技術Toy-Me得以打造而成，而這些技術在以前來看幾乎是不肯能實作的，我邀請了幾位朋友來向整個可愛的小家伙提一些棘手的問題，我們來看一下
你好
Toy Jensen，您好！
請提問

氣候變化的最大威脅是什么？
氣候變化的最大威脅是影響人類健康、食品安全、供水和環境

天文學家如何尋找系外行星？
大多數都是通過凌日法發現的
TRAPPIST-1行星就是通過此方法發現的
請給我講講這種方法
凌日法是指當一顆行星從母恒星的前方經過，天文學家通過亮度變化判斷行星的大小，并通過凌日的持續時間了解行星的軌道周期
哪種望遠鏡使用這種方法？
開普勒太空望遠鏡使用凌日法，發現了數千顆系外行星，
我聽說有一顆叫做TESS的衛星正被用來尋找行星，其作業原理是什么？
TESS是一種尋找凌日現象的太空望遠鏡
蛋白質在我們的細胞中有什么作用？
蛋白質在我們的細胞中有什么作用？
蛋白質是身體的基石，是構成所有生物的基本材料，對于身體的組織和器官正常發揮結構功能，是必不可少的
其作業原理是什么？
蛋白質由氨基酸組成，氨基酸是蛋白質的基本組成部分，20種不同的氨基酸以不同的組合連接在一起，形成了不同的蛋白質
它們如何催化化學反應？
蛋白質是生物催化劑，催化劑是一眾能提高化學反應速率而不反應消耗的物質，酶是蛋白質，這種催化劑能夠促進身體內的生化反應
謝謝，再見
不客氣，隨時為您效勞

在分布式計算中，網路是計算機的重要中樞神經系統，網路將數以千計的GPU連接成一個巨型的超級計算機，是其擴展能力和最終性能的決定因素
今天，我們宣布推出NVIDIA Quantum-2平臺，這是到目前位置最先進的端到網路平臺
Quantum-2是一個400Gbps的InfiniBand平臺，由Quantum-2交換機，ConnectX-7網卡、BlueField-3 DPU以及一整套面向這種新架構的軟體組成

InfiniBand（直譯為“無限帶寬”技術，縮寫為IB）是一個用于高性能計算的計算機網路通信標準，
它具有極高的吞吐量和極低的延遲，用于計算機與計算機之間的資料互連，
InfiniBand也用作服務器與存盤系統之間的直接或交換互連，以及存盤系統之間的互連，

Quantum-2是收割集超級計算機的性能和云計算的多租戶共享能力于一身的網路平臺，這是前所未有的成果，在Quantum-2之前，我們智能在裸機的高性能或安全的多租戶之間選其一，無法兩者兼得，Quantum-2平臺的出現使您寶貴的超級計算機擁有了原生云的能力，并得到更好的優化

Quantum-2具備卓越的新功能，性能隔離可以防止一個租戶的活動對其他租戶造成干擾，基于遙測的擁塞控制機制，可以讓搞資料率的發送者，避免受到網路過載的影響以及泛濫到整個網路的擁塞

第3代SHARP技術的交換機內計算能力比原來高32倍，以加速AI訓練
納秒級精確計時系統可以同步分布式應用程式，比如資料庫處理，這可以降低所需的等待和握手的開銷，避免資源競爭，納秒計時還將允許云資料中心成為電信網路的一部分，并托管軟體定義的5G無線服務，如果NVIDIA的Selene DGX超級計算機如今也配備Quantum-2，則總帶寬將達到每秒224000GB/s，大約是互聯網總流量的1.5倍

共計570億個晶體管，采用TSMC 7nm制程和我們的A100 GPU相近
支持64個400Gbps埠或128個200Gbps埠，一個基于Quantum-2的系統可連接多達2048個埠相較800個埠的Quantum-1的交換容量多了5倍，采用Dragonfly拓撲，基于Quantum-2的網路可以僅用3個hop就擴展到100萬個節點，這比前一代增加了6.5倍，
這種網路速度、交換容量和可擴展性對于需要構建的巨型HPC系統來說來得正是時候
目前Quantum-2交換機正處于樣機階段，Quantum-2平臺在主機端提供兩個選項：ConnectX-7和BlueField-3，ConnectX-7將是速度最快得網卡，包含80億個晶體管，采用TSMC 7nm制程

ConnectX-7是目前世界上速度最快得網路芯片，比上一代ConnectX-6快兩倍
同時，可使Mellanox著名的RDMA、GPU Direct Storage、GPU Direct RDMA和網路計算等性能得到加倍

Mellanox Technologies（納斯達克股票代碼：MLNX；特拉維夫證交所代碼：MLNX）于1999年成立，
總部設在美國加州的圣塔克拉拉和以色列的Yokneam，
Mellanox公司是服務器和存盤端到端連接解決方案的領先供應商，
Mellanox公司一直致力于InfiniBand和以太網互聯產品的研發作業，公司始終堅持不斷創新，
為客戶提供具有高帶寬，低延時、可擴展性，節能和成本優勢的產品，
2010年底Mellanox完成了對著名InfiniBand交換機廠商Voltaire公司的收購作業，
使得Mellanox在HPC、云計算、資料中心、企業計算及存盤市場上獲得了更為全面的能力，

一個256執行緒的資料路徑處理器，以線速進行加密，ConnectX-7將于明年1月問世

Quantum-2平臺還提供BlueField-3 InfiniBand系列方案，通過16個64位Arm CPU來卸載和隔離資料中心基礎設施堆疊操作
BlueField-3采用TSMC 7nm制程，包含220億個晶體管，BlueField-3樣品將于明年5月問世
NVIDIA Quantum-2是迄今為止構建的非常先進的網路平臺

Quantum-2平臺將由頂級計算機制造商提供用于全球各大超級計算中心，這將大大推動高性能計算，云計算和機器學習正在重塑資料中心，基于容器的應用為超大規模企業提供了令人難以置信的橫向擴展能力，允許百萬人同時使用其服務，易于橫向擴展與編排的代價是東西向網路流量會隨著機器與機器之間的訊息傳遞而大幅度增加，那些分散的應用在資料中心內打開了許多埠，我們需要保護這些埠免受網路攻擊，我們需要一種新型處理器來卸載CPU在處理網路、存盤和安全軟體方面的負擔，NVIDIA的Bluefield DPU是一個基礎設施計算平臺，正是為此而設計
BlueField可以卸載和加速基礎設施軟體，而它們通常要消耗30%的CPU資源，并且還在持續增長，對那些動輒投資數十億美元的資料中心來說，卸載下來的算例可以極大的提升吞吐量，節約成本，BlueField的市場反響令人驚嘆
今天，我們宣布推出BlueField DOCA 1.2支持全新的網路安全功能

將使BlueField成為業界構建零新人安全平臺的理想選擇，從外圍進行保護和以作業組為單位的劃分的方式，已無法滿足當下的安全保護需求，應用、資料、用戶和設備的每個接觸點都會成為潛在的攻擊物件，由于BlueField是網路的端點，因此我們幾乎可以在每個接觸點對資料中心進行保護
我們很高興地宣布，領先的網路安全公司正在與我們合作，將他們的下一代防火墻（N）