《電子技術應用》
您所在的位置:首頁 > 電子元件 > 業界動態 > 英偉達殺入光刻領域,DPU和GPU重磅更新,首次詳談云服務!

英偉達殺入光刻領域,DPU和GPU重磅更新,首次詳談云服務!

2023-03-22
來源: 半導體行業觀察
關鍵詞: 英偉達 光刻 DPU GPU

  將旗艦 H100 調整為H800,出口到中國

  據路透社報道,主導人工智能芯片市場的美國半導體設計公司Nvidia 已將其旗艦產品修改為可以合法出口到中國的版本。

  美國監管機構去年制定了規則,禁止Nvidia 向中國客戶銷售其兩款最先進的芯片,即 A100 和更新的 H100。此類芯片對于開發生成式人工智能技術(如 OpenAI 的 ChatGPT 和類似產品)至關重要。

  路透社在 11 月報道稱,Nvidia設計了一款名為 A800 的芯片,該芯片降低了 A100 的某些功能,使 A800 可以合法出口到中國。

  周二,該公司證實它已經開發出類似的 H100 芯片的中國出口版本。阿里巴巴集團控股、百度公司和騰訊控股等中國科技公司的云計算部門正在使用這款名為 H800 的新芯片,英偉達發言人說。

  美國監管機構去年秋天實施了規則,以減緩中國在半導體和人工智能等關鍵技術領域的發展。

  圍繞人工智能芯片的規則強加了一項測試,禁止那些具有強大計算能力和高芯片到芯片數據傳輸率的芯片。在使用大量數據訓練人工智能模型時,傳輸速度非常重要,因為較慢的傳輸速度意味著更多的訓練時間。

  中國一位芯片行業消息人士告訴路透社,H800 主要將芯片到芯片的數據傳輸速率降低到旗艦 H100 速率的一半左右。

  Nvidia 發言人拒絕透露面向中國的 H800 與 H100 有何不同,只是“我們的 800 系列產品完全符合出口管制法規”。

  突破計算光刻,為2nm芯片制造奠定基礎

  在英偉達這次GTC大會上,下手ASML、TSMC 和 Synopsys突破計算光刻,助力行業跨越物理極限是另一個值得關注的亮點。

  NVIDIA 表示,將加速計算帶入計算光刻領域,使 ASML、臺積電和 Synopsys 等半導體領導者能夠加速下一代芯片的設計和制造,正如當前的生產流程已接近物理學的極限一樣使成為可能。

  英偉達在新聞稿中指出,用于計算光刻的全新 NVIDIA cuLitho 軟件庫被世界領先的晶圓代工廠臺積電和電子設計自動化領導者Synopsys集成到其最新一代 NVIDIA Hopper? 架構 GPU 的軟件、制造流程和系統中。設備制造商 ASML 在 GPU 和 cuLitho 方面與 NVIDIA 密切合作,并計劃將對 GPU 的支持集成到其所有計算光刻軟件產品中。

  這一進步將使芯片具有比現在更細的晶體管和電線,同時加快上市時間并提高 24/7 全天候運行以驅動制造過程的大型數據中心的能源效率。

  “芯片行業是世界上幾乎所有其他行業的基礎,”NVIDIA 創始人兼首席執行官黃仁勛表示。“隨著光刻技術達到物理極限,NVIDIA 推出 cuLitho 并與我們的合作伙伴 TSMC、ASML 和 Synopsys 合作,使晶圓廠能夠提高產量、減少碳足跡并為 2nm 及更高工藝奠定基礎?!?/p>

  在 GPU 上運行,cuLitho 比當前光刻技術(在硅晶圓上創建圖案的過程)提供高達 40 倍的性能飛躍,加速目前每年消耗數百億 CPU 小時的大量計算工作負載。

  它使 500 個 NVIDIA DGX H100 系統能夠完成 40,000 個 CPU 系統的工作,并行運行計算光刻過程的所有部分,有助于減少電力需求和潛在的環境影響。

  在短期內,使用 cuLitho 的晶圓廠可以幫助每天多生產 3-5 倍的光掩?!酒O計的模板——使用比當前配置低 9 倍的功率。需要兩周才能完成的光掩模現在可以在一夜之間完成。

  從長遠來看,cuLitho 將實現更好的設計規則、更高的密度、更高的產量和 AI 驅動的光刻。

  “cuLitho 團隊通過將昂貴的操作轉移到 GPU,在加速計算光刻方面取得了令人欽佩的進展,”臺積電首席執行官 CC Wei 博士說?!斑@一發展為臺積電在芯片制造中更廣泛地部署逆光刻技術和深度學習等光刻解決方案開辟了新的可能性,為半導體規模的持續發展做出了重要貢獻?!?/p>

  “我們計劃將對 GPU 的支持集成到我們所有的計算光刻軟件產品中,”ASML 首席執行官 Peter Wennink 說?!拔覀兣c NVIDIA 在 GPU 和 cuLitho 方面的合作應該會給計算光刻帶來巨大好處,從而給半導體微縮帶來好處。在High NA 極紫外光刻時代尤其如此。”

  Synopsys 董事長兼首席執行官 Aart de Geus 表示:“計算光刻,特別是光學鄰近校正 (OPC),正在突破最先進芯片的計算工作負載界限?!巴ㄟ^與我們的合作伙伴 NVIDIA 合作,在 cuLitho 平臺上運行 Synopsys OPC 軟件,我們將性能從數周大幅提升至數天!我們兩家領先公司的合作將繼續推動該行業取得驚人的進步。”

  英偉達表示,近年來,由于較新節點中的晶體管數量更多以及更嚴格的精度要求,半導體制造中最大工作負載所需的計算時間成本已超過摩爾定律。未來的節點需要更詳細的計算,并非所有這些都可以適用于當前平臺提供的可用計算帶寬,從而減緩了半導體創新的步伐。

  晶圓廠流程變更通常需要 OPC 修訂,從而造成瓶頸。cuLitho 有助于消除這些瓶頸,并使新穎的解決方案和創新技術成為可能,例如曲線掩模、High NA EUV 光刻和新技術節點所需的亞原子光刻膠建模。

  Nvidia 宣布 BlueField-3 GA

  Nvidia 今天宣布全面推出其 BlueField-3 數據處理單元 (DPU) 以及令人印象深刻的早期部署,包括 Oracle Cloud Infrastructure。BlueField-3 于 2021 年首次描述,現已交付,是 Nvidia 的第三代 DPU,擁有大約 220 億個晶體管。與上一代 BlueField 相比,新的 DPU 支持以太網和 InfiniBand 連接,速度高達每秒 400 吉比特,計算能力提高 4 倍,加密加速提高 4 倍,存儲處理速度提高 2 倍,內存帶寬提高 4 倍。”

  Nvidia 首席執行官黃仁勛在 GTC 23 主題演講中表示:“在現代軟件定義的數據中心中,執行虛擬化、網絡、存儲和安全性的操作系統會消耗數據中心近一半的 CPU 內核和相關功率。數據中心必須加速每個工作負載以回收功率并釋放 CPU 用于創收工作負載。Nvidia BlueField 卸載并加速了數據中心操作系統和基礎設施軟件。”

  早在 2020 年,Nvidia 就制定了 DPU 戰略,認為 CPU 正因諸如 Huang 所引用的內務雜務而陷入困境。Nvidia 認為,DPU 將吸收這些任務,從而釋放 CPU 用于應用程序。其他芯片供應商——尤其是英特爾和 AMD——似乎同意并已跳入 DPU 市場。

微信截圖_20230322102121.png

  有時被描述為類固醇的智能網卡引起了人們的興趣,但尚未轉化為廣泛的銷售。變化現在可能正在發生。Huang 列舉了“超過 20 個生態系統合作伙伴”,其中包括現在使用 BlueField 技術的 Cisco、DDN、Dell EMC 和 Juniper。

  在媒體/分析師預簡報會上,英偉達網絡副總裁 Kevin Deierling 表示:“BlueField-3 已全面投入生產并可供使用。它的 Arm 處理器內核數量是 BlueField-2 的兩倍,加速器更多,并且運行工作負載的速度比我們上一代 DPU 快八倍。BlueField-3 可跨云 HPC、企業和加速 AI 用例卸載、加速和隔離工作負載?!?/p>

  Nvidia 的 DPU 瞄準超級計算機、數據中心和云提供商。在 GTC 上,Nvidia 吹捧了 Oracle 云部署,其中 BlueField-3 是Nvidia更大的 DGX-in-the-Cloud 勝利的一部分。

  “正如你所聽到的,我們宣布Oracle Cloud Infrastructure率先運行 DGX Cloud 和 AI 超級計算服務,使企業能夠立即訪問為生成 AI 訓練高級模型所需的基礎設施和軟件。OCI [還] 選擇了 BlueField-3 以實現更高的性能、效率和安全性。與 BluField-2 相比,BlueField-3 通過從 CPU 卸載數據中心基礎設施任務,將虛擬化實例增加了八倍,從而提供了巨大的性能和效率提升,”Deierling 說。

  微信截圖_20230322102145.png

  在官方公告中,英偉達引用了 OCI 執行副總裁 Clay Magouyrk 的話說:“Oracle 云基礎設施為企業客戶提供了幾乎無與倫比的人工智能和科學計算基礎設施的可訪問性,并具有改變行業的能力。Nvidia BlueField-3 DPU 是我們提供最先進、可持續的云基礎設施和極致性能戰略的關鍵組成部分?!?/p>

  BlueField-3 在 CSP 中的其他勝利包括百度、CoreWeave。京東、微軟 Azure 和騰訊。

  Nvidia 還報告稱,BlueField-3 具有“通過DOCA軟件框架”的完全向后兼容性。

  微信截圖_20230322102206.png

  DOCA 是 BlueField 的編程工具,DOCA 2.0 是最新版本。Nvidia 一直在穩步為其 DPU 產品線添加功能。例如,最近,它加強了內聯 GPU 數據包處理,“以實施高數據率解決方案:數據過濾、數據放置、網絡分析、傳感器信號處理等?!?新的 DOCA GPUNetIO 庫可以克服以前 DPDK 解決方案中發現的一些限制。

  按照英偉達所說,Nvidia 實時 GPU 網絡數據包處理是一種對多個不同應用領域有用的技術,包括信號處理、網絡安全、信息收集和輸入重建。這些應用程序的目標是實現內聯數據包處理管道以在 GPU 內存中接收數據包(無需通過 CPU 內存暫存副本);與一個或多個 CUDA 內核并行處理它們;然后運行推理、評估或通過網絡發送計算結果。

  推出H100 NVL,用于大模型的內存服務器卡

  Anandtech表示,雖然今年的春季 GTC 活動沒有采用 NVIDIA 的任何新 GPU 或 GPU 架構,但該公司仍在推出基于去年推出的 Hopper 和 Ada Lovelace GPU 的新產品。但在高端市場,該公司今天宣布推出專門針對大型語言模型用戶的新 H100 加速器變體:H100 NVL。

  H100 NVL 是NVIDIA H100 PCIe 卡的一個有趣變體,它是時代的標志和 NVIDIA 在 AI 領域取得的廣泛成功,其目標是一個單一的市場:大型語言模型 (LLM) 部署。有一些東西使這張卡與 NVIDIA 通常的服務器票價不同——其中最重要的是它的 2 個 H100 PCIe 板已經橋接在一起——但最大的收獲是大內存容量。組合的雙 GPU 卡提供 188GB 的 HBM3 內存——每張卡 94GB——提供比迄今為止任何其他 NVIDIA 部件更多的每個 GPU 內存,即使在 H100 系列中也是如此。

  微信截圖_20230322102231.png

  驅動此 SKU 的是一個特定的利基市場:內存容量。像 GPT 系列這樣的大型語言模型在許多方面都受到內存容量的限制,因為它們甚至會很快填滿 H100 加速器以保存它們的所有參數(在最大的 GPT-3 模型的情況下為 175B)。因此,NVIDIA 選擇拼湊出一個新的 H100 SKU,它為每個 GPU 提供的內存比他們通常的 H100 部件多一點,后者最高為每個 GPU 80GB。

  在封裝的蓋下,我們看到的本質上是放置在 PCIe 卡上的GH100 GPU的特殊容器。所有 GH100 GPU 都配備 6 個 HBM 內存堆棧(HBM2e 或 HBM3),每個堆棧的容量為 16GB。然而,出于良率原因,NVIDIA 僅在其常規 H100 部件中提供 6 個 HBM 堆棧中的 5 個。因此,雖然每個 GPU 上標稱有 96GB 的 VRAM,但常規 SKU 上只有 80GB 可用。

  而H100 NVL 是神話般的完全啟用的 SKU,啟用了所有 6 個堆棧。通過打開第 6個HBM 堆棧,NVIDIA 能夠訪問它提供的額外內存和額外內存帶寬。它將對產量產生一些實質性影響——多少是 NVIDIA 嚴密保守的秘密——但 LLM 市場顯然足夠大,并且愿意為近乎完美的 GH100 封裝支付足夠高的溢價,以使其值得 NVIDIA 光顧。

  即便如此,應該注意的是,客戶無法訪問每張卡的全部 96GB。相反,在總容量為 188GB 的內存中,它們每張卡的有效容量為 94GB。在今天的主題演講之前,NVIDIA 沒有在我們的預簡報中詳細介紹這個設計,但我們懷疑這也是出于良率原因,讓 NVIDIA 在禁用 HBM3 內存堆棧中的壞單元(或層)方面有一些松懈。最終結果是新 SKU 為每個 GH100 GPU 提供了 14GB 的內存,內存增加了 17.5%。同時,該卡的總內存帶寬為 7.8TB/秒,單個板的總內存帶寬為 3.9TB/秒。

  除了內存容量增加之外,更大的雙 GPU/雙卡 H100 NVL 中的各個卡在很多方面看起來很像放置在 PCIe 卡上的 H100 的 SXM5 版本。雖然普通的 H100 PCIe 由于使用較慢的 HBM2e 內存、較少的活動 SM/張量核心和較低的時鐘速度而受到一些限制,但 NVIDIA 為 H100 NVL 引用的張量核心性能數據與 H100 SXM5 完全相同,這表明該卡沒有像普通 PCIe 卡那樣進一步縮減。我們仍在等待產品的最終、完整規格,但假設這里的所有內容都如所呈現的那樣,那么進入 H100 NVL 的 GH100 將代表當前可用的最高分檔 GH100。

  這里需要強調復數。如前所述,H100 NVL 不是單個 GPU 部件,而是雙 GPU/雙卡部件,它以這種方式呈現給主機系統。硬件本身基于兩個 PCIe 外形規格的 H100,它們使用三個 NVLink 4 橋接在一起。從物理上講,這實際上與 NVIDIA 現有的 H100 PCIe 設計完全相同——后者已經可以使用 NVLink 橋接器進行配對——所以區別不在于兩板/四插槽龐然大物的結構,而是內部芯片的質量。換句話說,您今天可以將普通的 H100 PCIe 卡捆綁在一起,但它無法與 H100 NVL 的內存帶寬、內存容量或張量吞吐量相匹配。

  令人驚訝的是,盡管有出色的規格,但 TDP 幾乎保持不變。H100 NVL 是一個 700W 到 800W 的部件,分解為每塊板 350W 到 400W,其下限與常規 H100 PCIe 的 TDP 相同。在這種情況下,NVIDIA 似乎將兼容性置于峰值性能之上,因為很少有服務器機箱可以處理超過 350W 的 PCIe 卡(超過 400W 的更少),這意味著 TDP 需要保持穩定。不過,考慮到更高的性能數據和內存帶寬,目前還不清楚 NVIDIA 如何提供額外的性能。Power binning 在這里可以發揮很大的作用,但也可能是 NVIDIA 為卡提供比平常更高的提升時鐘速度的情況,因為目標市場主要關注張量性能并且不會點亮整個 GPU一次。

  否則,鑒于 NVIDIA 對 SXM 部件的普遍偏好,NVIDIA 決定發布本質上最好的 H100 bin 是一個不尋常的選擇,但在 LLM 客戶的需求背景下,這是一個有意義的決定?;?SXM 的大型 H100 集群可以輕松擴展到 8 個 GPU,但任何兩個 GPU 之間可用的 NVLink 帶寬量因需要通過 NVSwitch 而受到限制。對于只有兩個 GPU 的配置,將一組 PCIe 卡配對要直接得多,固定鏈路保證卡之間的帶寬為 600GB/秒。

  但也許比這更重要的是能夠在現有基礎設施中快速部署 H100 NVL。LLM 客戶無需安裝專門為配對 GPU 而構建的 H100 HGX 載板,只需將 H100 NVL 添加到新的服務器構建中,或者作為對現有服務器構建的相對快速升級即可。畢竟,NVIDIA 在這里針對的是一個非常特殊的市場,因此 SXM 的正常優勢(以及 NVIDIA 發揮其集體影響力的能力)可能不適用于此。

  總而言之,NVIDIA 宣稱 H100 NVL 提供的 GPT3-175B 推理吞吐量是上一代 HGX A100 的 12 倍(8 個 H100 NVL 對比 8 個 A100)。對于希望盡快為 LLM 工作負載部署和擴展系統的客戶來說,這肯定很有吸引力。如前所述,H100 NVL 在架構特性方面并沒有帶來任何新的東西——這里的大部分性能提升來自 Hopper 架構的新變壓器引擎——但 H100 NVL 將作為最快的 PCIe H100 服務于特定的利基市場選項,以及具有最大 GPU 內存池的選項。

  總結一下,根據 NVIDIA 的說法,H100 NVL 卡將于今年下半年開始發貨。該公司沒有報價,但對于本質上是頂級 GH100 的產品,我們預計它們會獲得最高價格。特別是考慮到 LLM 使用量的激增如何轉變為服務器 GPU 市場的新淘金熱。

  Nvidia 的“云”,服務起價 37,000 美元

  如果你是 Nvidia 的忠實擁護者,請準備好花大價錢使用它在云端的 AI 工廠。

  Nvidia 聯合創始人兼首席執行官黃仁勛上個月在談到這家GPU 制造商的季度收益時,提出了 Nvidia DGX Cloud 的計劃,本質上是呼吁將公司的 DGX AI 超級計算機硬件和配套軟件——尤其是其廣泛的企業 AI一套軟件——放到公有云平臺上供企業使用。

  我們必須申明,Nvidia 還不夠富有,或者說不夠愚蠢,他們無法構建云來與 Amazon Web Services、Microsoft Azure 或 Google Cloud 等公司競爭。但他們足夠聰明,可以利用這些龐大的計算和存儲實用程序為自己謀利,并在它們構建的基礎設施之上銷售服務賺錢,而基礎設施又基于自己的組件。

  DGX Cloud 的巧妙之處不在于有經過認證的本地和云堆棧來運行 Nvidia 的 AI 硬件和軟件。您需要向 Nvidia 支付費用,才能以一種 SaaS 模式這樣做——Nvidia 可以向您或云出售構建基礎設施的部件。

  就其本身而言,這是使AI 民主化的最新嘗試,將其帶出 HPC 和研究機構的領域,并將其置于主流企業的范圍內,這些企業非常渴望利用新興技術可以帶來的業務優勢遞送。

  對于 Nvidia 而言,DGX Cloud 的人工智能即服務代表著向云優先戰略的強烈轉變,以及一種理解——與其他組件制造商一樣——它現在既是一家硬件制造商,也是一家軟件公司,而公共云是一個使該軟件易于訪問并且更重要的是將其貨幣化的自然途徑。

  對于十多年前將 AI 置于其前進戰略中心、構建以 AI 為核心的路線圖的公司而言,這是重要的下一步。Nvidia 在 2016 年推出了 DGX-1,這是其第一臺深度學習超級計算機。第四代系統于去年推出。2020 年出現了第一批DGX SuperPOD,一年后 Nvidia 推出了 AI Enterprise,這是一個包含框架、工具和相當大劑量的 VMware vSphere 的軟件套件。

  AI Enterprise 強調了軟件對 Nvidia 日益增長的重要性——反映了其他組件制造商的類似趨勢——這家公司現在從事軟件工作的員工多于硬件。

  借助 DGX Cloud,Nvidia 現在可以通過另一種方式將所有這些交付給那些希望在其工作流程中利用生成式 AI 工具(例如來自 OpenAI 的廣受歡迎的 ChatGPT)的企業(通過 Microsoft),但沒有資源在其內部擴展基礎設施數據中心來支持它。他們現在可以通過云訪問它,享受它所有的可擴展性和即用即付的好處。

  Nvidia 企業計算副總裁 Manuvir Das 在 GTC 前會議上告訴記者:“多年來,我們一直在與企業公司合作,創建他們自己的模型來訓練他們自己的數據?!?“過去幾個月,像 ChatGPT 這樣基于非常非常大的 GPT 模型的服務越來越受歡迎,每天有數百萬人使用一個模型。當我們與企業公司合作時,他們中的許多人有興趣使用自己的數據為自己的目的創建模型。”

  據最新介紹,租用 GPU 公司包羅萬象的云端 AI 超級計算機的DGX Cloud起價為每個實例每月 36,999 美元。租金包括使用帶有八個 Nvidia H100 或 A100 GPU 和 640GB GPU 內存的云計算機。價格包括用于開發 AI 應用程序和大型語言模型(如 BioNeMo)的 AI Enterprise 軟件。

  “DGX Cloud 有自己的定價模型,因此客戶向 Nvidia 付費,他們可以根據他們選擇使用它的位置通過任何云市場購買它,但這是一項由 Nvidia 定價的服務,包括所有費用,” Nvidia 企業計算副總裁 Manuvir Das 在新聞發布會上說。

  DGX Cloud 的起始價格接近 Microsoft Azure 每月收取的 20,000 美元的兩倍,用于滿載的 A100 實例,該實例具有 96 個 CPU 內核、900GB 存儲空間和 8 個 A100 GPU 每月。

  甲骨文在其 RDMA 超級集群中托管 DGX 云基礎設施,可擴展到 32,000 個 GPU。微軟將在下個季度推出 DGX Cloud,隨后將推出 Google Cloud。

  客戶將不得不為最新的硬件支付額外費用,但軟件庫和工具的集成可能會吸引企業和數據科學家。

  Nvidia 聲稱它為 AI 提供了最好的可用硬件。它的 GPU 是高性能和科學計算的基石。但是 Nvidia 專有的硬件和軟件就像使用 Apple iPhone 一樣——你得到了最好的硬件,但一旦你被鎖定,就很難脫身,而且在它的生命周期中會花費很多錢。

  但為 Nvidia 的 GPU 支付溢價可能會帶來長期利益。例如,Microsoft 正在投資 Nvidia 硬件和軟件,因為它通過 Bing with AI 提供了成本節約和更大的收入機會。

  人工智能工廠的概念是由首席執行官黃仁勛提出的,他將數據設想為原材料,工廠將其轉化為可用數據或復雜的人工智能模型。Nvidia的硬件和軟件是AI工廠的主要組成部分。

  “你只需提供你的工作,指向你的數據集,然后點擊開始,所有的編排和下面的一切都在 DGX Cloud 中得到處理。現在,相同的模型可以在托管在各種公共云上的基礎設施上使用,”Nvidia 企業計算副總裁 Manuvir Das 在新聞發布會上說。

  Das 說,數百萬人正在使用 ChatGPT 風格的模型,這需要高端人工智能硬件。

  DGX Cloud 進一步推動了 Nvidia 將其硬件和軟件作為一套產品銷售的目標。Nvidia 正在進軍軟件訂閱業務,該業務的長尾涉及銷售更多硬件,從而產生更多軟件收入。Base Command Platform 軟件界面將允許公司管理和監控 DGX 云培訓工作負載。

  Oracle Cloud 擁有多達 512 個 Nvidia GPU 的集群,以及每秒 200 GB 的 RDMA 網絡。該基礎設施支持包括 Lustre 在內的多個文件系統,吞吐量為每秒 2 TB。

  Nvidia 還宣布有更多公司采用了其 H100 GPU。Amazon 宣布他們的 EC2“UltraClusters”和 P5 實例將基于 H100。“這些實例可以使用他們的 EFA 技術擴展到 20,000 個 GPU,”Nvidia 超大規模和 HPC 計算副總裁 Ian Buck 在新聞發布會上說。

  EFA 技術是指 Elastic Fabric Adapter,它是由 Nitro 編排的網絡實現,它是一種處理網絡、安全和數據處理的通用定制芯片。

  Meta Platforms 已開始在Grand Teton中部署 H100 系統,這是社交媒體公司下一代 AI 超級計算機的平臺。

  總結

  在昨天開幕的GTC上,英偉達還帶來了多樣化的產品,例如用于特定推理的的英偉達 L4 GPU。據報道,這款 GPU 可以提供比 CPU 高 120 倍的人工智能視頻性能。它提供增強的視頻解碼和轉碼功能、視頻流、增強現實和生成 AI 視頻。

  此外,英偉達還聯合客戶打造由 16 個 DGX H100 系統組成,每個系統配備八個 H100 GPU的生成式AI超級計算機Tokyo-1。根據 Nvidia 的 AI 觸發器數學計算,這相當于大約一半的 exaflop AI 能力;由于每個 H100(一開始將有 128 個)提供 30 teraflops 的峰值 FP64 功率,因此它應該達到大約 3.84 petaflops 的峰值。

  由此可見,黃仁勛正在帶領英偉達走向一個新階段。


更多精彩內容歡迎點擊==>>電子技術應用-AET<< 


微信圖片_20210517164139.jpg

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
热re99久久精品国产66热_欧美小视频在线观看_日韩成人激情影院_庆余年2免费日韩剧观看大牛_91久久久久久国产精品_国产原创欧美精品_美女999久久久精品视频_欧美大成色www永久网站婷_国产色婷婷国产综合在线理论片a_国产精品电影在线观看_日韩精品视频在线观看网址_97在线观看免费_性欧美亚洲xxxx乳在线观看_久久精品美女视频网站_777国产偷窥盗摄精品视频_在线日韩第一页
  • <strike id="ygamy"></strike>
  • 
    
      • <del id="ygamy"></del>
        <tfoot id="ygamy"></tfoot>
          <strike id="ygamy"></strike>
          国语自产精品视频在线看抢先版结局| 你懂的国产精品| 中文精品视频一区二区在线观看| 国产精品资源在线观看| 欧美久久影院| 亚洲精品久久7777| 亚洲午夜精品在线| 亚洲精品字幕| 一区二区动漫| 久久久久久夜| 亚洲专区免费| 一区二区在线观看av| 欧美一区二区三区视频在线观看| 亚洲欧洲av一区二区三区久久| 巨乳诱惑日韩免费av| 欧美亚洲视频一区二区| 极品少妇一区二区三区精品视频| 欧美高清在线精品一区| 巨乳诱惑日韩免费av| 欧美激情视频一区二区三区免费| 亚洲欧美成aⅴ人在线观看| 国产精品国产福利国产秒拍| 在线成人av| 欧美激情精品久久久久| 国产精品三级视频| 亚洲天堂黄色| 亚洲一区二区三| 亚洲欧美制服另类日韩| 亚洲日本理论电影| 香蕉精品999视频一区二区| 欧美成人一区二区三区在线观看| 欧美日韩一区二区免费在线观看| 亚洲欧美在线另类| 欧美日韩国产小视频在线观看| 欧美精品在线观看播放| 欧美日韩国产一级| 欧美 日韩 国产 一区| 欧美日韩综合在线免费观看| 亚洲欧美久久久| 欧美在线视频在线播放完整版免费观看| 激情欧美亚洲| 国产精品日韩在线| 91久久精品美女高潮| 亚洲小说区图片区| 欧美一区网站| 欧美jizzhd精品欧美巨大免费| 久久精品国产一区二区电影| 久久精品国产久精国产思思| 国产亚洲网站| 欧美1区3d| 午夜天堂精品久久久久| 亚洲香蕉成视频在线观看| 黄色在线一区| 狠狠干成人综合网| 久久国内精品自在自线400部| 欧美四级电影网站| 欧美另类综合| 国产欧美一区在线| 91久久精品日日躁夜夜躁欧美| 欧美激情综合色| 亚洲女女做受ⅹxx高潮| 欧美国产激情| 国产精品黄视频| 欧美亚一区二区| 日韩视频一区二区三区在线播放免费观看| 欧美日韩一区二区免费在线观看| 欧美四级剧情无删版影片| 久久精品论坛| 日韩一区二区久久| 黄色亚洲大片免费在线观看| 国产欧美日韩另类一区| 国产精品亚洲综合一区在线观看| 日韩一级视频免费观看在线| 午夜精品99久久免费| 欧美在线三级| 国产精品一区=区| 亚洲电影免费观看高清完整版| 国产精品综合av一区二区国产馆| 欧美国产日韩一区| 午夜精品久久久久久久蜜桃app| 夜夜嗨av一区二区三区网站四季av| 亚洲精品黄色| 欧美国产欧美亚洲国产日韩mv天天看完整| 午夜精品久久久久久久99热浪潮| 在线观看不卡| 免费不卡欧美自拍视频| 羞羞漫画18久久大片| 欧美色欧美亚洲另类二区| 欧美精品电影在线| 国产午夜精品在线观看| 国产精品热久久久久夜色精品三区| 日韩视频免费观看高清在线视频| 在线播放中文字幕一区| 激情文学一区| 亚洲激情电影中文字幕| 欧美日韩视频在线观看一区二区三区| 影音先锋日韩有码| 好吊日精品视频| av不卡在线看| 久热精品在线| 日韩午夜电影av| 欧美久久久久久久| 国产日韩欧美一区二区三区在线观看| 欧美二区不卡| 久久婷婷蜜乳一本欲蜜臀| 91久久精品久久国产性色也91| 亚洲视频一区二区免费在线观看| 国产精品色一区二区三区| 国产在线观看91精品一区| 国产精品视频免费一区| 久久久久久国产精品一区| 欧美成人精品一区| 在线视频欧美精品| 在线电影国产精品| 国产精品你懂的| 久久精品夜色噜噜亚洲aⅴ| 夜夜躁日日躁狠狠久久88av| 欧美精品一二三| 亚洲天堂免费在线观看视频| 亚洲国产一区在线| 欧美v日韩v国产v| 在线亚洲精品福利网址导航| 欲香欲色天天天综合和网| 欧美亚洲一级片| 性欧美xxxx大乳国产app| 免费观看在线综合| 欧美片在线播放| 午夜亚洲福利在线老司机| 欧美理论电影在线观看| 亚洲综合精品四区| 久久一区二区精品| 亚洲欧美日韩国产一区二区三区| 亚洲女女女同性video| 国产精品久久久久av| 亚洲日本成人网| 欧美日韩在线播放三区| 久久精品免费观看| 在线观看欧美一区| 一区二区三区日韩在线观看| 一本色道久久综合狠狠躁的推荐| 久久综合色8888| 久久夜色精品国产欧美乱极品| 国产精品一区毛片| 国产精品视频| 亚洲第一视频网站| 久久久午夜视频| 欧美a级理论片| 欧美精品乱人伦久久久久久| 激情综合亚洲| 亚洲国产一区二区精品专区| 一区二区三区在线免费播放| 亚洲一区二区免费看| 欧美成人首页| 亚洲美女毛片| 国产精品揄拍500视频| 欧美成人一区二区在线| 欧美午夜精品| 亚洲伊人一本大道中文字幕| 国产一区二区三区在线观看免费视频| 欧美一区精品| 亚洲人成精品久久久久| 欧美激情综合五月色丁香小说| 久久综合成人精品亚洲另类欧美| 欧美综合激情网| 国产中文一区二区三区| 国产一区视频网站| 久久精品99无色码中文字幕| 国产欧美欧洲在线观看| 一区二区久久| 国产精品亚洲а∨天堂免在线| 亚洲精品永久免费精品| 欧美日韩第一区| 欧美成人免费网站| 在线观看亚洲精品视频| 久久精品99国产精品酒店日本| 亚洲综合第一| 亚洲图片在线| 性感少妇一区| 国内精品久久久久影院色| 欧美日韩在线综合| 亚洲——在线| 亚洲国产成人久久综合一区| 国产精品久久久一本精品| 欧美精品不卡| 亚洲高清一区二区三区| 在线免费观看一区二区三区| 欧美美女视频| 欧美日韩国产黄| 国产精品理论片在线观看| 亚洲欧美国产高清| 欧美视频在线看| 亚洲综合第一页| 亚洲美女尤物影院| 亚洲影视在线播放| 在线观看日韩欧美| 日韩视频国产视频| 国产精品videossex久久发布| 国产一区清纯| 国产伦精品一区二区三区高清版| 国产精品一区免费观看| 今天的高清视频免费播放成人| 国产视频在线观看一区二区三区| 亚洲一区免费网站| 一区二区电影免费在线观看| 99视频精品免费观看| 亚洲国产综合91精品麻豆| 国产精品成人aaaaa网站| 日韩亚洲国产欧美| 欧美日韩四区| 亚洲高清不卡av| 亚洲视频在线观看免费| 国产一区二区高清不卡| 亚洲国产精品综合| 国产一区av在线| 日韩一级黄色大片| 牛牛国产精品| 欧美成人免费一级人片100| 国产欧美一区二区三区在线老狼| 亚洲高清久久| 久久精品国产久精国产爱| 欧美一区深夜视频| 午夜精品成人在线视频| 99国产欧美久久久精品| 国产欧美日韩精品a在线观看| 久久久一二三| 久久午夜视频| 99re热这里只有精品视频| 国产亚洲精品bt天堂精选| 欧美绝品在线观看成人午夜影视| 欧美日韩国产色综合一二三四| 国产精品a久久久久久| 欧美日本一区二区视频在线观看| 欧美激情亚洲自拍| 欧美成人免费播放| 在线成人性视频| 国产日韩一区二区三区| 正在播放欧美一区| 国产欧美欧洲在线观看| 亚洲精选中文字幕| 伊人久久噜噜噜躁狠狠躁| 国产精品xnxxcom| 欧美巨乳在线| 亚洲欧美综合| 欧美高清不卡在线| 宅男噜噜噜66国产日韩在线观看| 国产精品亚洲人在线观看| 欧美韩日一区二区| 麻豆91精品91久久久的内涵| 久久久精品久久久久| 亚洲精品视频在线观看网站| 另类综合日韩欧美亚洲| 亚洲欧美成人一区二区在线电影| 日韩亚洲欧美一区二区三区| 欧美片在线观看| 欧美成人免费全部| 亚洲激情午夜| 久久看片网站| 国产精品超碰97尤物18| 先锋资源久久| 红桃视频欧美| 国产视频精品免费播放| 蜜臀久久99精品久久久久久9| 久久一区欧美| 一区二区三区免费观看| 欧美日韩国产首页在线观看| 香港成人在线视频| 欧美日韩亚洲免费| 久久久精彩视频| 欧美影院成年免费版| 欧美日韩一区二区欧美激情| 在线观看日韩专区| 欧美一二三区在线观看| 久久精品免费播放| 欧美激情第六页| 亚洲精品国产品国语在线app| 亚洲日本无吗高清不卡| 亚洲福利av| 鲁大师影院一区二区三区| 欧美亚日韩国产aⅴ精品中极品| 国产视频精品va久久久久久| 99国产精品久久久久老师| 亚洲一区二区在线免费观看视频| 欧美日韩高清区| 欧美成人首页| 久久激情综合网| 国产一区视频在线看| 欧美—级高清免费播放| 国产日韩欧美一二三区| 一区二区三区高清视频在线观看| 欧美69视频| 久久蜜桃资源一区二区老牛| 136国产福利精品导航| 国产亚洲精品久久久| 精品福利免费观看| 日韩香蕉视频| 欧美福利视频| 久久另类ts人妖一区二区| 国产欧美成人| 在线电影国产精品| 日韩手机在线导航| 在线亚洲一区二区| 亚洲精选成人| 免费看黄裸体一级大秀欧美| 欧美人与禽性xxxxx杂性| 亚洲欧洲99久久| 亚洲国产一区二区a毛片| 美日韩精品免费观看视频| 欧美国产一区在线| 欧美大片在线观看| **性色生活片久久毛片| 噜噜噜噜噜久久久久久91| 一本大道久久a久久精品综合| 亚洲精品久久久一区二区三区| 在线观看欧美日韩| 这里只有精品视频在线| 亚洲人成在线影院| 欧美永久精品| 国产精品久久波多野结衣| 国产乱人伦精品一区二区| 欧美一区二视频在线免费观看| 亚洲影视在线| 亚洲风情亚aⅴ在线发布| 99热在线精品观看| 亚洲精品日韩精品| 亚洲高清视频一区二区| 国产精品久久久久秋霞鲁丝| 一区二区三区日韩精品| 欧美日韩在线综合|