NVIDIA刷新AI推理紀錄，推出面向企業級服務器的A30和A10 GPU
NVIDIA AI平臺在從數據中心到邊緣的所有MLPerf基準測試類別中脫穎而出
加利福尼亞州圣克拉拉市—2021年4月21日—NVIDIA今日宣布其AI推理平臺在最新MLPerf基準測試所有類別中展現出的性能均創下紀錄。這一AI推理平臺通過NVIDIA? A30和A10 GPU對主流服務器實現了全新的擴展。
MLPerf是業界公認的AI性能衡量基準，涵蓋計算機視覺、醫學影像、推薦系統、語音識別和自然語言處理等一系列工作負載。
此次MLPerf是NVIDIA A30和A10 GPU的首秀。兩款GPU集高性能與低功耗于一身，可成為企業在AI推理、訓練、圖形和傳統企業級計算工作負載等諸多方面的主流選擇。思科、戴爾科技、慧與、浪潮和聯想預計將從今年夏季開始將這兩款GPU集成到其最高容量的服務器中。
NVIDIA能夠取得如此佳績，得益于NVIDIA AI平臺的廣度，其包含多種類型的GPU和AI軟件，包括TensorRT?和NVIDIA Triton?推理服務器—— 微軟、Pinterest、Postmates、T-Mobile、USPS和微信等領先企業都部署了該平臺。
NVIDIA加速計算部門總經理兼副總裁Ian Buck表示：“隨著AI持續為各行各業帶來變革，MLPerf也成為企業的一項重要工具，能夠助力其在IT基礎設施投資方面做出明智的決策。 如今，所有主要OEM廠商都提交了MLPerf測試結果，NVIDIA及合作伙伴的關注點不僅在于實現全球領先的AI性能，同時還注重通過即將面市的一系列搭載A30和A10 GPU的企業級服務器來實現AI普及化?！?/p>
MLPerf結果
NVIDIA是唯一一家針對數據中心和邊緣類別中的每項測試都提交結果的公司，在所有MLPerf工作負載中均展現出頂級的性能。
多項提交結果還基于Triton推理服務器，其支持來自所有主要框架的模型，可在GPU及CPU上運行，并針對批處理、實時和串流傳輸等不同的查詢類型進行了優化，可簡化在應用中部署AI的復雜性。在配置相當的情況下，采用Triton的提交結果所達到的性能接近于最優化的GPU實現及CPU實現能夠達到的性能。
NVIDIA還開創性地使用NVIDIA Ampere架構的多實例GPU性能，在單一GPU上使用7個MIG實例，同時運行所有7項MLPerf離線測試。該配置實現了與單一MIG實例獨立運行幾乎完全相同的性能。
這些提交結果展示了MIG的性能和通用性，使基礎設施經理能夠針對特定應用，配置適當數量的GPU計算，從而讓每個數據中心GPU都能發揮最大的效用。
除NVIDIA公司提交的測試結果外，多家NVIDIA合作伙伴也提交了共360多項基于NVIDIA GPU的測試結果，包括阿里云、戴爾科技、富士通、技嘉科技、慧與、浪潮、聯想和超微。
NVIDIA不斷拓展的AI平臺
NVIDIA A30和A10 GPU是NVIDIA AI平臺中的最新成員。NVIDIA AI平臺包括NVIDIA Ampere架構GPU、NVIDIA Jetson AGX Xavier?、Jetson Xavier NX，以及經優化后能夠實現AI加速的全棧NVIDIA軟件。
A30能夠為行業標準服務器提供通用的性能，支持廣泛的AI推理和主流企業級計算工作負載，如推薦系統、對話式AI和計算機視覺。
NVIDIA A10 GPU可加速深度學習推理、交互式渲染、計算機輔助設計和云游戲，使企業能夠基于通用基礎設施，為混合型AI和圖形工作負載提供支持。通過采用NVIDIA虛擬GPU軟件，可改進管理，為設計師、工程師、藝術家和科學家所用的虛擬桌面提高利用率并完善配置。
NVIDIA Jetson平臺基于NVIDIA Xavier?系統級模塊，可在邊緣提供服務器級的AI性能，助力機器人、醫療健康、零售等領域實現更多的創新應用。Jetson基于NVIDIA的統一架構和CUDA-X? 軟件堆棧，是唯一采用緊湊型設計、能夠運行所有邊緣工作負載且功耗低于30W的平臺。
供貨
NVIDIA A100 GPU搭載于領先服務器制造商的服務器、所有主要云服務提供商的云端，以及NVIDIA DGX?系統產品組合（包括NVIDIA DGX Station A100、NVIDIA DGX A100和NVIDIA DGX SuperPOD）。
預計A30和A10（功耗分別為165W和150W）將從今夏起用于各類服務器中，包括經嚴格測試以確保在各類工作負載下均可實現高性能的NVIDIA認證系統?。
Jetson AGX Xavier 和Jetson Xavier NX系統級模塊已通過全球經銷商供貨。
NVIDIA Triton和NVIDIA TensorRT均可通過NVIDIA的軟件目錄NGC?獲取。