本文為re：Invent 2021亮點解讀的第一部分，關于自研Graviton的部分，后續還有關于機器學習和關于存儲的部分，敬請關注后續。

正文：

自從亞馬遜云科技（以下簡稱AWS）發布自研的ARM處理器以及ARM云主機以來，各家云服務商在自研芯片的道路上越走越遠。

2021年，云服務商內卷的越來越激烈了，作為云服務商內卷運動的發起者，AWS在2021年年底又介紹了新一款ARM處理器——Amazon Graviton 3。

只不過，Graviton 3沿用了64核心的配置，而市場上已經有云服務商做出了128核的Arm芯片，背后究竟有什么樣的考慮呢，本文將分享亞馬遜云科技大中華區產品部計算與存儲總監周舸的正式回應。

時隔2年，Graviton 3帶來哪些提升

AWS官方新聞宣稱，Graviton 3比Graviton 2快了25％，與科學計算和媒體編碼有關的浮點運算性能翻了1倍，加密工作負載運算速度提升高達2倍，由于支持bfloat16，所以，機器學習推理運算能力提升了3倍。

目前，Graviton 3公開的信息比較少，湊巧在AWS首席布道師Jeff Bar的推特里發現了一張開蓋的Graviton 3的圖片。圖中顯示，Graviton 3采用的是時下最流行的Chiplet設計和先進的封裝技術，這為I／O提升埋下了伏筆。

另外一張網傳的圖片顯示Graviton 3采用了PCIe 5．0的I／O連接。DDR 5加PCIe 5．0，IO規格與最新的x86系列CPU對齊了。按理說，后者距離上市應該還有幾個月時間，Graviton 3搶先一步了。

此外，AWS還宣稱，Graviton 3的功耗最多可降低60％，不清楚是跟x86服務器做對比的還是跟此前的哪款服務器做對比，總之，AWS有資格獲得一枚綠色節能小能手勛章。

在面向中國媒體的溝通會上，亞馬遜云科技大中華區產品部總經理顧凡大談亞馬遜云通過技術創新（比如Graviton通用芯片和Trainium AI芯片），通過具體行動在節能減排上所取得的成績（比如大量使用清潔可再生能源），讓人們看到上云對于節能減排的意義，多買一臺云服務器可能比多種一棵樹還環保。

AWS副總裁Peter DeSantis解釋了提升Graviton核心效能的一個重要因素，那就是讓核心變得更寬（Make the core wider），比如，把Graviton3把每個核心在每個時鐘周期執行的指令數量從5個提升到8個，總之，就是讓每個時鐘周期能做更多事兒。

AWS還宣布Graviton 3芯片將用于EC2 C7g實例，新的服務器將采用了新的DDR5內存，與此前Graviton 2采用的DDR 4內存相比，DDR 5的內存帶寬提升50％，有利于提高科學計算等內存密集型應用的性能表現。

C7g實例所采用的服務器硬件采用了三路設計，Graviton2的服務器只有2路，計算密度得以大幅提升。筆者所見的單路雙路和四路會多一些，三路相對少一些。

另外，網傳圖片顯示Graviton 3使用了大約550億個晶體管，而大會上，AWS副總裁Peter DeSantis展示的PPT則顯示有500億晶體管，這年頭，上下50億晶體管都是誤差范圍了？

官方數據顯示，C7g實例與由Graviton2支持的C6g實例相比，計算密集型工作負載性能提高多達25％，C7g實例的網絡帶寬也高出20％。

此外，C7g實例還支持 Elastic Fabric Adapter （EFA），允許應用程序直接與網絡接口卡通信，提供更低且更一致的延遲，提高需要大規模并行處理的應用性能，比如HPC并行計算集群，比如機器學習訓練集群，總之，它很重要。

記得Graviton2發布的時候，強調相關實例相較于x86實例有高達40％的性價比提升，而Graviton3的發布沒有過于強調性價比方面的提升（雖然肯定有），而是強調在高性能計算等更多場景上的性能表現。

Graviton 3的細節已不是最重要的事

在采訪中，亞馬遜云科技大中華區產品部計算與存儲總監周舸則不愿意多聊芯片本身，他更愿意談的是，Graviton3實例用的好不好的問題。

但媒體似乎沒有放棄各種有趣的猜測，全球許多專業媒體都在根據已知信息猜測Graviton3的更多細節，有猜測說，Graviton3用的是Arm Neoverse V1架構，有的人猜測是N2。

Timothy Prickett Morgan發表在NextPlatform上的猜測，紅色字體是猜測的數據，黑體則是公開的信息。值得注意的是，媒體普遍猜測Graviton3的TDP大約為100瓦，遠低于x86方案。

Graviton3采用了臺積電的5nm工藝制程，Arm v8．5版本架構，主頻相比上一代僅僅提升了0．1G（僅為2．6G），主頻晶體管數量雖然相比上代增長了200萬，而核心數量卻沒有增長，還是64核。

才64核？Graviton 3為什么不堆更多核心？

我們知道，2021年，國際市場上的Ampere Altra Max也提升到了128核，國內市場上的阿里平頭哥半導體也發布了一款128核的基于Arm v9的處理器，為什么先搞ARM芯片的Graviton3還是64核呢，多出來200億的晶體管放在哪兒了呢？

周舸表示，新增的晶體管主要用于提升內存帶寬而不是增加核心，之所以如此選擇，是考慮到Graviton用戶的實際工作負載主要是大數據、微服務以及HPC，這些負載對于內存帶寬和延時的要求很高，于是AWS認為提升內存比增加核數更有意義，用戶的實際反饋也確實如此。

AWS的設計原則是如何以最低的成本提供更多的性能，芯片設計和實例設計需要考慮性價比，就好比司機憑經驗掌握車速，把車速控制在某一個速度才更省油，AWS的EC2也要考慮類似的問題，而不是一昧的追求更主頻或者更多核。

Graviton在中國市場表現喜人

此外，相信許多人都好奇基于Graviton處理器的EC2實例的市場表現，特別是在國內市場的接受度如何，對此，周舸雖然沒有用數字來直接加以說明，但言語間，對于Graviton實例的市場表現還是非常滿意的。

之所以有較好的市場表現，一方面是因為從x86遷移工作負載并不是太困難，周舸表示有許多負載都能在一兩天內完成。更重要的一方面在于，AWS自己的很多托管服務的底層就在用Graviton，用戶自己用了Graviton可能連自己都不知道。

高通如果看到這里可能會發瘋，當年，高通的ARM服務器如果想替代x86服務器，必須要解決從x86硬件遷移到ARM服務器的所有問題，基本是要在整個應用生態上，重走x86多少年來走過的路，其難度可想而知，而AWS充分利用了云服務的天然優勢，高通只能大呼羨慕。

高通的ARM服務器好比在大冬天里讓用戶從暖和的被窩爬出來，鉆到另外一個冰涼的被窩，而AWS的做法則是在被窩的一頭又放了一個被窩，用戶不用克服任何障礙就能走到另一頭，因為，Graviton用成本優勢正吸引著用戶自愿走向另一頭。

從2018年發布以來，AWS的Graviton處理器已經度過了為期四年的考驗期，實踐證明，這么一折騰，居然還挺成功的。

Graviton的應用生態還在成長，AWS用各種方式鼓勵開發者把工作負載遷移到Graviton實例上，包括VMware等知名企業都參與其中，Linux生態也都響應了Graviton生態，此外，AWS也有一些面向合作伙伴認證也在推行當中。