《電子技術應用》
您所在的位置:首頁 > 人工智能 > 業界動態 > 大模型,離不開Serdes!

大模型,離不開Serdes!

2023-04-18
來源:半導體行業觀察
關鍵詞: 大模型 SerDes ChatGPT

隨著ChatGPT橫空出世,預訓練大模型對千行百業的革新與改造潛力已盡顯無遺,甚至有業界大佬將其問世譽為人工智能“iPhone 時刻”,并預言這“只是更偉大事物的開始”。

ChatGPT為何顯得如此“與眾不同”?

借用技術接受理論(TAM)提出者、哈佛大學教授Venky Narayanamurti的總結,有用性(usefulness)與易用性(ease of use)是一項新興技術擴散的兩大基本前提。以這一標準衡量,2016年的AlphaGo-李世石五番棋大戰,堪稱完成了對人工智能“有用性”的全民科普,而ChatGPT則標志著AI技術擴散的另一必要條件-易用性已潛移默化滲入公眾心智。

基于此,外界有理由樂觀期待,人工智能產業的確已站在了巨擘預卜的宏偉藍圖新起點上。


成于算力、困于互連?

在不少“后見之明”的解讀中,GPT家族往往被與2017年谷歌推出的Transformer模型相聯系。

基于自注意力機制的Transformer,及其后谷歌BERT對各類文本任務的“屠榜”表現和驚人泛化能力,的確堪稱為GPT做好了前置技術與工程方法的鋪墊。站在巨人的肩膀上,GPT開發者OpenAI團隊,最終憑借更敏捷的效率和更有力的執行,完成了最后的一躍。

進一步深入看,Transformer較此前MLP\LSTM等傳統深度學習模型,正是對硬件算力實現了更高效的運用。

關于這一點,2019年深度學習泰斗、DeepMind首席科學家Richard Sutton在其《苦澀的教訓》一文中就曾感言,從70年AI研究中可以學到的最大教訓是,利用計算的一般方法最終是最有效的,而且有很大的優勢,終極原因是摩爾定律,或者更確切地說,是它對每單位計算成本持續呈指數下降的概括,大多數AI研究都是在可用算力恒定的情況下進行的(在這種情況下,利用人類經驗將是提高性能的唯一方法),但是,在比典型研究項目稍長的時間里,算力會大大增加,從長遠來看,唯一重要的是利用計算。

正如Sutton所預見的,近年來,AI硬件算力取得了突飛猛進的發展。除了為人所熟知的GPU之外,谷歌TPU(GPT系列早期通過TPUv2進行訓練)、微軟Catapult等AI加速芯片往往省去了傳統通用CPU微架構中亂序、預取等高級控制措施,能夠實現卷積神經網絡最核心的乘加運算單元設計最優化,充分挖掘SIMD架構并行計算能力。

算法、算力及其相結合的工程方法進步,最終為OpenAI“大力出奇跡”奠定了基礎。

完全可以預期,在OpenAI明星效應下,全球科技巨頭未來一兩年必將推出一系列類GPT預訓練大模型,也有望帶動對數據中心AI算力集群的投資進一步加速。

不過值得注意的是,盡管各大芯片廠商爭相推出AI加速芯片,算力參數不斷刷新記錄,但預訓練大模型參數量動輒上百億、千億乃至萬億,其訓練仍遠遠超出一兩張GPU等AI加速卡所能駕馭的范圍,往往必須通過網絡將多處理器互連、乃至進一步組成HPC算力集群,實現算力資源的池化調度,如此方能滿足AI大模型的分布式、并行化訓練。而在評估訓練效率時,單批數據(batch)的總訓練用時也往往受通信時長的顯著影響。

正因如此,隨著AI大模型揭示的全新想象空間出現,算力集群這一基礎設施也將迎來投資熱潮,而在其面臨的配電、散熱、通信等一系列工程挑戰中,算力節點間的數據傳輸尤其堪稱制約硬件算力充分釋放的關鍵“瓶頸”。

破解互連瓶頸的“關鍵支點”

AI訓練、推理所面對的數據量指數增長,使得無論單服務器中多GPU、CPU間C2C通信,還是在多服務器間組網,數據傳輸總體都呈現出高帶寬、低延遲的技術需求。

在算力集群通信網絡拓撲結構趨同的背景下,交換機接口日益成為打通“瓶頸”的重要突破口,并衍生出提升網卡速率、增加網卡數量、乃至應用RDMA網絡直連等多種工程思路。

而在底層接口技術領域,與傳統并行接口相比,SerDes串行接口由于其顯著的成本優勢,已然成為應用主流,在PCIe 6.0等新標準中,更是在物理層進一步引入對PAM4(四階脈沖振幅調變)編碼的支持,以進一步提高SerDes數據傳輸速率。

不過SerDes的應用,也自然存在不少技術挑戰,其中最嚴峻的,無疑首推信號完整性(SI)問題。

例如在通過背板、連接器、PCB板的中距離、長距離互連場景中,SerDes高速鏈路TX、RX端往往間隔著管腳、PCB過孔、信號線乃至連接器、線纜等環節,存在材料、工藝、布局等復雜原因引入的噪聲、串擾和信號衰減,以至于最終抵達接收器的電氣信號可能嚴重失真,很難恢復所傳輸信息的時鐘和數據位,也局限了速率、距離上的設計空間。

新一代56G、112G SerDes應用PAM4編碼,在提供更大網絡吞吐量的同時,也因引入更多電平水平,帶來了信噪比損失、誤碼率(BER)惡化、前向糾錯(FEC)延遲增加等問題,需要進行精細的權衡取舍。

從上面的分析不難看出,想要充分發揮AI硬件算力效能,接口技術是破解互連瓶頸的關鍵支點,具有極大的杠桿效應,而其應用則必須解決圍繞信號完整性的諸多挑戰。

目前,盡管大量硬件廠商聘請了專職SI工程師負責調試,不過其效果取決于千差萬別的個人“手藝”,由于在芯片與系統設計各層面均需保證信號完整性,驗證過程也往往曠日持久,只有技能十分熟練且模電領域經驗極其豐富的設計團隊才能嘗試此類設計,且測試驗證周期漫長。

正因如此,在芯片設計中,外購高速接口IP幾乎成為行業“必選項”,也帶動接口IP成為近年來增速最快的IP細分市場,根據專業機構預測,接口IP甚至有望在2025年前后超越CPU IP,成為第一大半導體IP品類。


授人以魚,更要授人以漁


接口IP市場機遇,也使之成為各大IP HOUSE競爭熱點。例如全球三大IP廠商之一的Cadence(楷登電子),同樣推出了其112G SerDes IP設計,面向高性能計算(HPC)數據中心SOC需求,適用于長距離和中距離傳輸,已經經過7nm制程硅驗證,擁有上佳的PPA表現,插入損耗>35dB。

值得一提的是,外購接口IP只是從芯片到系統開發及信號完整性測試的起點,與工作流配套的工具是否完備、可及,也是影響開發周期的重要因素,可以說接口IP供應商既要授人以魚,更要授人以漁。

作為EDA\IP領域巨頭,Cadence在這方面的實踐尤其具有代表性。在SerDes等成熟接口IP之外,該公司還提供了有機融合的完善設計工具和技術,幫助芯片與系統設計人員應對貫穿各層面的信號完整性挑戰。

例如在不同芯片間互連設計與仿真中,建模是必不可少的手段。目前,IBIS和AMI是對SerDes信道進行建模的首選方式,IBIS-AMI的出現,使利用仿真模型快速且精確地模擬大量比特流成為了可能。作為行業標準的定義者之一,Cadence在相關工具開發上同樣走在前列,基于其Sigrity Advanced IBIS建模工具,用戶可自動創建模型,借助向導程序生成實用算法模型。

在基于PCB板/背板/連接器的中長距離互連場景中,SerDes高速接口開發人員為了精準可靠地分析信號,還需要為總體設計進行信號完整性(SI)、電源完整性(PI)以及電磁兼容性 (EMC)協同仿真,開發者往往需要透徹了解數據采集分析理論、精準建立模擬器件特性模型。

針對這一痛點,Cadence的Clarity 3D Solve為PCB、IC封裝和SoIC關鍵互連設計提供了更好的工具選擇,基于其創建的高精度S-參數模型,即使在112G數據傳輸速度下,也能實現與實驗室測量相匹配的仿真結果。其有限元分析(FEM)過程實現了高度并行化,可極大縮短求解耗時,并支持近乎線性的硬件算力可擴展性。

微信截圖_20230418094851.png

此外,在分析鏈路信號完整性時,通常隱含假設是電路板和連接器功能良好,但在極高頻率下,單獨分析連接器和電路板、然后再將它們“連接"在一起的假設不再適用。電路板和連接器之間交互過多,同樣需要Clarity Solver等全面的3D分析工具實現高質量設計,同時準確預測成品性能。


 結語 

在黃仁勛喊出人工智能“iPhone 時刻”后,短短幾十天以來,預訓練大模型及其下游應用,已經呈現出令人目不暇給的爆發態勢??梢韵胍?,在各大云計算巨頭的AI大模型“軍備競賽”中,算力集群也將迎來一輪新的投資熱潮,通信網絡與接口技術,也有望進入發展加速期。此外,特斯拉 Dojo、Cerebras WSE-2等走“超級單芯片”路線的廠商,也可能引領一條大模型訓練的新路。

不過無論何種路徑,對接口IP的“剛需”都清晰可見,在這一熱點、難點領域,筆者也期待有更多如Cadence等大廠帶來完整解決方案,推動互連瓶頸的緩解與松動,有力釋放預訓練大模型無限可能,造福千行百業。


 更多精彩內容歡迎點擊==>>電子技術應用-AET<<

微信圖片_20210517164139.jpg


本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
热re99久久精品国产66热_欧美小视频在线观看_日韩成人激情影院_庆余年2免费日韩剧观看大牛_91久久久久久国产精品_国产原创欧美精品_美女999久久久精品视频_欧美大成色www永久网站婷_国产色婷婷国产综合在线理论片a_国产精品电影在线观看_日韩精品视频在线观看网址_97在线观看免费_性欧美亚洲xxxx乳在线观看_久久精品美女视频网站_777国产偷窥盗摄精品视频_在线日韩第一页
  • <strike id="ygamy"></strike>
  • 
    
      • <del id="ygamy"></del>
        <tfoot id="ygamy"></tfoot>
          <strike id="ygamy"></strike>
          亚洲欧洲一级| 久久久久国内| 欧美日韩国产一区| 亚洲一区日韩在线| 欧美理论电影在线播放| 国产精品日韩在线观看| 国产精品亚洲网站| 国产精品高潮呻吟久久av黑人| 欧美夫妇交换俱乐部在线观看| 亚洲精品少妇| 免费成人激情视频| 国内精品模特av私拍在线观看| 1000部精品久久久久久久久| 欧美日韩国产91| 亚洲第一免费播放区| 免费成年人欧美视频| 夜色激情一区二区| 欧美日韩综合在线免费观看| 夜夜爽99久久国产综合精品女不卡| 久久久久久网| 欧美中日韩免费视频| 国产精品视频免费观看www| 国产视频一区在线| 欧美日韩在线免费视频| 久久精品国产免费看久久精品| 欧美激情a∨在线视频播放| 影音欧美亚洲| 欧美日韩午夜在线| 久久黄色级2电影| 国产午夜一区二区三区| 尤物yw午夜国产精品视频明星| 国产日韩欧美在线播放不卡| 久久久久成人精品免费播放动漫| 91久久亚洲| 亚洲激情av在线| 欧美顶级大胆免费视频| 亚洲女爱视频在线| 日韩亚洲综合在线| 国产亚洲精久久久久久| 欧美精品在线免费播放| 一区二区电影免费观看| 欧美一区二区日韩| 国产精品一区二区男女羞羞无遮挡| 国产精品黄页免费高清在线观看| 亚洲精品国产精品国自产观看| 欧美大片18| 久久av一区二区| 久久精品视频在线免费观看| 尤物yw午夜国产精品视频明星| 欧美日韩ab| 欧美日产国产成人免费图片| 欧美日本国产一区| 久久精品九九| 欧美午夜片在线免费观看| 欧美一区二区三区的| 在线观看欧美日本| 嫩草成人www欧美| 久久激情五月激情| 欧美人与性动交α欧美精品济南到| 亚洲香蕉伊综合在人在线视看| 狠狠狠色丁香婷婷综合激情| 免费在线看成人av| 在线播放日韩欧美| 国产农村妇女毛片精品久久麻豆| 在线不卡中文字幕| 在线免费高清一区二区三区| 国产综合精品| 亚洲视频观看| 亚洲香蕉伊综合在人在线视看| 亚洲国产美女| 久久精品国产精品亚洲精品| 国产欧美一区二区三区视频| 午夜视频在线观看一区二区三区| 欧美日韩亚洲综合在线| 亚洲精品在线视频观看| 亚洲高清电影| 欧美精品福利| 久久国产欧美日韩精品| 国产精品久久久久aaaa| 久久一区欧美| 欧美在线一级视频| 国产一区二区视频在线观看| 欧美日韩日韩| 亚洲欧美国产日韩天堂区| 欧美伊人久久久久久午夜久久久久| 校园春色综合网| 亚洲一级黄色av| 国产亚洲成年网址在线观看| 91久久精品www人人做人人爽| 欧美xxx在线观看| 国产一区二区三区高清播放| 亚洲午夜高清视频| 免费观看亚洲视频大全| 国产欧美精品在线播放| 日韩视频―中文字幕| 国自产拍偷拍福利精品免费一| 国产精品理论片在线观看| 欧美电影在线| 久久久久久亚洲精品杨幂换脸| 国产亚洲a∨片在线观看| 欧美日韩精品在线| 亚洲精品美女在线观看播放| 国产精品网红福利| 欧美一区深夜视频| 午夜精彩国产免费不卡不顿大片| 农夫在线精品视频免费观看| 欧美伊人影院| 国产日产亚洲精品| 亚洲国产欧美在线| 免费毛片一区二区三区久久久| 国产精品永久免费| 久久精品国产久精国产爱| 欧美日韩亚洲一区二区三区在线| 一区二区三区欧美激情| 亚洲日本成人女熟在线观看| 久久久美女艺术照精彩视频福利播放| 亚洲国产精品成人综合色在线婷婷| 中日韩午夜理伦电影免费| 性高湖久久久久久久久| 亚洲欧美美女| 亚洲综合日本| 91久久一区二区| 亚洲精品乱码久久久久久蜜桃91| 免费一级欧美片在线播放| 欧美精品导航| 午夜国产不卡在线观看视频| 韩国av一区二区三区在线观看| 亚洲国产高清视频| 欧美国产日韩二区| 亚洲精品网站在线播放gif| 亚洲综合二区| 亚洲盗摄视频| 国产午夜精品麻豆| 欧美日韩无遮挡| 在线日韩av永久免费观看| 欧美激情麻豆| 亚洲欧美视频在线观看| 亚洲精品少妇30p| 国产亚洲综合精品| 亚洲免费电影在线观看| 久久精品日韩一区二区三区| 久久国产乱子精品免费女| 国产午夜精品一区二区三区欧美| 欧美成人影音| 欧美日韩卡一卡二| 国产视频亚洲精品| 国产精品午夜在线观看| 久久激情一区| 韩曰欧美视频免费观看| 欧美一级一区| 香蕉久久夜色精品国产| 欧美在线999| 国产精品99久久久久久久久| 欧美国产第二页| 欧美看片网站| 国产精品日韩欧美综合| 亚洲麻豆国产自偷在线| 在线免费不卡视频| 性18欧美另类| 欧美本精品男人aⅴ天堂| 欧美午夜激情在线| 欧美天堂亚洲电影院在线播放| 欧美精品日韩三级| 久久精品色图| 亚洲久久一区| 国产精品普通话对白| 久久尤物电影视频在线观看| 久久久久一区二区三区四区| 好吊一区二区三区| 亚洲夫妻自拍| 亚洲美女性视频| 亚洲清纯自拍| 国产精品日韩一区二区三区| 亚洲一区二区三区四区中文| 久久手机免费观看| 日韩网站在线| 国产一区二区激情| 国产精品嫩草影院av蜜臀| 亚洲精品日韩一| 久久影音先锋| 久久成人一区二区| 亚洲自拍偷拍视频| 中文网丁香综合网| 国产精品ⅴa在线观看h| 影院欧美亚洲| 另类成人小视频在线| 欧美mv日韩mv亚洲| 欧美日韩精品在线| 欧美激情一区二区三级高清视频| 一区二区三区自拍| 欧美精品日本| 亚洲福利在线视频| 另类酷文…触手系列精品集v1小说| 久久久久久久国产| 国产精品午夜春色av| 国产精品午夜国产小视频| 国产区日韩欧美| 在线观看国产精品网站| 国产网站欧美日韩免费精品在线观看| 亚洲黄色毛片| 91久久精品网| 国产精品拍天天在线| 久久久久欧美精品| 久久久久久免费| 欧美成年网站| 午夜精品剧场| 国产一区在线观看视频| 亚洲欧美视频一区二区三区| 久久激情五月丁香伊人| 久久精品一区二区三区中文字幕| 国产麻豆精品视频| 亚洲欧美综合| 亚洲综合导航| 亚洲国产精品va在线看黑人| 国产欧美午夜| 亚洲精品在线免费观看视频| 国产手机视频精品| 久久精品国产69国产精品亚洲| 日韩视频免费在线| 国产精品久久久久久久第一福利| 久久精品视频在线观看| 久久精品视频在线看| 在线 亚洲欧美在线综合一区| 久久亚洲精品视频| 国产亚洲激情视频在线| 国产欧美日韩一区二区三区在线| 国产精品日韩精品欧美精品| 亚洲精品欧美日韩专区| 久久一区二区三区四区五区| 欧美国产一区二区三区激情无套| 在线观看国产一区二区| 欧美三区免费完整视频在线观看| 欧美一级淫片播放口| 亚洲一二三区在线观看| 国内成人精品视频| 欧美另类高清视频在线| 亚洲免费一在线| 亚洲一区二区精品| 亚洲永久字幕| 国产日韩欧美综合在线| 久久久高清一区二区三区| 久久精品一本| 一区二区三区毛片| 欧美午夜精品久久久久免费视| 欧美成人福利视频| 亚洲电影欧美电影有声小说| 精品动漫av| 小黄鸭视频精品导航| 日韩一级不卡| 精久久久久久| 欧美日韩dvd在线观看| 国产精品久久二区二区| 久久亚洲精品网站| 国产精品99久久久久久人| 欧美日韩国产综合视频在线观看中文| 老妇喷水一区二区三区| 国产精品亚洲片夜色在线| 欧美a级大片| 国产精品99一区二区| 国产欧美精品日韩区二区麻豆天美| 久久综合给合| 最新亚洲电影| 国产伦精品一区二区三区视频黑人| 玉米视频成人免费看| 国产亚洲精品福利| 在线成人激情| 美女日韩在线中文字幕| 国产精品一区视频| 亚洲欧美激情在线视频| 在线电影欧美日韩一区二区私密| 国产精品三区www17con| 老司机精品福利视频| 国产亚洲aⅴaaaaaa毛片| 国产欧美日韩一区二区三区| 欧美在线精品免播放器视频| 亚洲一区二区欧美日韩| 欧美国产精品久久| 欧美日韩视频一区二区| 红桃视频欧美| 亚洲国产一区二区a毛片| 在线观看一区欧美| 国产婷婷97碰碰久久人人蜜臀| 欧美激情在线狂野欧美精品| 亚洲伦理自拍| 国产精品资源在线观看| 亚洲淫片在线视频| 国产乱码精品| 国产欧美日韩不卡免费| 99精品视频免费观看视频| 亚洲图片欧洲图片日韩av| 99riav1国产精品视频| 欧美日韩国产片| 国内视频精品| 在线观看不卡av| 亚洲专区一区二区三区| 国产精品一区二区久久久| 欧美三区在线| 亚洲深夜激情| 国产日韩欧美亚洲一区| 国产精品久久久久久一区二区三区| 久久九九热免费视频| 欧美一区国产在线| 欧美午夜电影完整版| 国产精品视频精品视频| 国产综合视频| 日韩特黄影片| 欧美激情第五页| 国产精品乱码一区二三区小蝌蚪| 欧美亚一区二区| 久久久久88色偷偷免费| 一本色道久久加勒比88综合| 久久精品毛片| 亚洲精品日本| 亚洲黄色有码视频| 国产女主播一区| 欧美日韩1区2区3区| 宅男在线国产精品| 亚洲欧美亚洲| 国产情侣久久| 91久久综合亚洲鲁鲁五月天| 亚洲深夜福利视频| 国产日本欧美一区二区三区| 国内精品写真在线观看| 久久美女性网| 亚洲高清成人| 国产精品伊人日日| aa国产精品| 亚洲女人小视频在线观看|